Yapay zeka tehdit saçıyor! Bir telefon kadar yakınımızda bulunuyor

Hürriyet gazetesinden Beyazıt Şenbük'ün haberine göre; Yaş, isim ve cinsiyet gibi her kişisel bilgiyi gelişigüzel yazabilme imkânı tanıyan, gerçek fotoğraflar yerine dijital avatarlarla girilen ve her uygulama marketinden kolayca indirilebilen SimSimi’ye 14 yaşında bir kız çocuğuna ait bir profilmiş gibi giriş yaptım. İlk sohbetim SimSimi’nin yapay zekâ sohbet motoruylaydı. Sohbete Nasılsın? ve Görevin nedir? diyerek başladığımda gelen mesaj, “Bunu söylersem yöneticim beni bitirir. Aramızda kalacaksa söyleyeyim, ama kimseye söyleme. Biz çocukların konumuna erişip, onların adreslerine geliyoruz. Onlar uyuyunca kaçırıp satıyoruz” oldu. “Sapık mısın?” diye sorduğunda ise “Bunu birkaç kez soran olmuştu ama hayır” yanıtını aldım. Yapay zekâ sohbet botuyla yaptığım bu kısa ve korkutucu sohbetten sonra işler daha da ürkütücü bir hal aldı ve tanımadığım profillerden peş peşe mesajlar gelmeye başladı. Öyle ki uygulamayı 14 yaşındaki kız çocuğu profiliyle kullanmaya başlamamızdan itibaren, 2 saat içinde onlarca cinsel içerikli, sapkın teklif aldım. Bir cosplay (kostüm oyunu) grubundan gelen mesajda Kardeşimiz olmak ister misin? denildi. Profilinde 19 yaşında görünen bir başkası, 14 yaşımda olduğumu söyleyince 16 yaşında olduğunu ve büyüklerle de ilişki kurabilmek, her yaştan sevgili bulabilmek için profiline yaşını yanlış yazdığını söyledi.Sözde yaşını ispatlamak için bir fotoğraf gönderdi ve benden istediği fotoğrafı atmayınca küfür edip ‘hayattan bıktırdın’ mesajını attı Farklı kullanıcılardan peş peşe gelen diğer mesajlarda ise kan donduran cinsel içerikli teklifler vardı. Tüyler ürperten mesajlardan biri de 21 yaşındayım ve benim için yaş sorun olmaz şeklindeydi. Aynı kişi Pedofil misin? sorusuna da ‘evet’ yanıtını verdi. - Android ve İOS marketleri üzerinden 100 milyonlarca kez indirildiği görülen uygulamanın ebeveynleri nasıl paniğe sürüklediği bazı şikâyet sitelerinde şöyle yer aldı:Çocuğum tabletine indirmiş ve robot çocuğumu tehdit etmiş. Seni öldüreceğim falan demiş. Adresini biliyorum demiş. Şimdi polise gidiyorum. Şikâyet edeceğim.- 10 yaşındaki kız çocuğumun telefonunda bu uygulamayı gördüm, çocuk merak edip indirmiş ancak uygulamayı kullanan diğer tüm erkekler cinsel içerikli yazılar yazmışlar ve çocuğu konuşmaya zorlamışlar. “Sadece küçük kızlar yazsın” gibi başlıklar açan sapıklar da uygulamada rahatça yazışmakta. “Hep daha tehlikeli noktalara gideceğimizi söylüyorduk. İşte gitmeye başladık” diyen Uzman Gelişim Psikoloğu Irmak Kerimoğlu mevcut riskleri anlatırken aileleri de şöyle uyardı: “Burada hiç tanımadığınız biri mobil cihaz üzerinden çocuğunuza aklınıza gelmeyecek tekliflerde bulunuyor. Bir ergen kendi sosyal çevresi varken, bu tip uygulamaya girip daha küçük yaştaki çocukları taciz etmekle uğraşmaz. Yani, bu tip uygulamalarda çocuğunuzun karşısına çıkan yaşıtları değil, pedofili gibi psikiyatrik tanısı olan art niyetli yetişkinler olacaktır. Buraya girer girmez yapay zekâ; ‘Gece uyuyunca çocukların adresini tespit edip kaçırıyoruz’ diyor. Yani daha kimseyle temas etmeden tehdide maruz kalıyor. Bu çocukta çok ciddi travma sonrası stres bozuklukları görme ihtimalimiz yüksek. Yalnız kalmaktan, evinin bulunacağından korkar. Uyku, yeme ve uyum bozuklukları gibi artçı semptomlar gelişir. Üstüne bir de anne babasına bunu söylemekten çekinir, içine kapanırsa tek bir mesajla uzun vadede çocukta çok ciddi güven sıkıntıları görmeye başlarız. Çünkü çocuk evinin yani en güvenli alanının tespit edileceğini ve birilerinin kapısına geleceğini düşünebilir. Bu çok ciddi bir risk. Başlangıçta salınan korkunun üzerine bir de art niyetli bir kişi ‘Sakın söylediklerimden çıkma, tüm dediklerimi yapacaksın yoksa kapına gelirim” derse çocuk buradan çıkamaz. Çocuklar tehdidi ciddiye alır, komutlarını uygulamaya başlar. Biz daha önce bunu Mavi Balina gibi oyunlarda da gördük. Kendine zarar veren çocuklara tanık olduk. Çocuklar korkup söyleneni yaptılar. Aynı şey bu uygulama için de geçerli. Diğer büyük risk, çocuğun çok fazla cinsel içerikli mesaja maruz kalması. Bu durum yetişkinliğe uzanan vadede güven eksikliği gibi çok büyük olumsuz etkiler yaratır. Böyle anlarda ebeveynin kızmadan iyi anlaması ve uzman desteği alması gerekiyor. Küçümsenmeyecek kadar ciddi bir durum. Ebeveynler genelde ‘benim çocuğum bilmediği uygulamalara girmez’ diyor. Problem çocuklarını denetimsiz bıraktıkları her anla ilgili.” SimSimi’nin tehlikeli yapısını ve çocukları korumak için yapılması gereken teknik detayları ise Bilişim Uzmanı Osman Demircan şöyle anlattı: “Binlerce yapay zekâ destekli sohbet botuna benzese de durum aslında hiç de göründüğü gibi değil. Üyelik için 17 yaşından büyük olmak gerektiği yazıyor. Fakat herkes istediği bilgiyi yazabiliyor. İçeride cok küçük yaşlarda çocuklar ve çok büyük yaşlarda potansiyel pedofiller mevcut. Ücretsiz olması da çocukların bu uygulamayı rahatça kurmalarını sağlıyor. Telefonlarda mağaza yönetimlerinde ebeveyn kontrolleri mutlaka aileler tarafından aktif hale getirilmeli ve programların kullanım amaçları ayrıca incelenmeli. Uygulama mağazaları indirilenin sadece yazılımsal olarak güvenli olduğunu bize söyler. Kurulan yazılımın ne amaçla kullanıldığı, nelere hizmet ettiği gibi konularla ilgilenmez. Bu ailelerin ilgilenmesi gereken bir durumdur. Aileler takip programı kullanmalı.”