Geri Dön

Avatar uygulaması çılgınlığı sürüyor! Uzmanlar uyardı sakın bunu yapmayın

Sosyal medyada yeni bir akım daha başladı. Yüklediğiniz selfieleri avatarlara dönüştüren uygulama Lensa, son haftalarda sosyal medyada yeni bir trend haline geldi. Yapay zeka fotoğraf uygulaması Lensa AI'ı kısa sürede milyonlarca kişi telefonuna indirdi. Peki bu yapay zeka uygulamaları ne kadar güvenli? Paylaşım rekoru kıran uygulamada kişisel bilgileriniz sızabilir mi? Tehlike çanları çalıyor mu? İşte detaylar...

Avatar uygulaması çılgınlığı sürüyor! Uzmanlar uyardı sakın bunu yapmayın

Cansu Akalp / Gazetevatan.com

Instagram kullanıcıları yapay zeka uygulaması ile yüklenilen fotoğrafların avatar ve anime halleri şimdiden paylaşım rekoru kırıyor. Fotoğrafların animeye ya da avatara dönüştürmeye yarayan program Lensa AI pek çok kullanıcı tarafından büyük ilgi görüyor. Yapay zeka ile çalışan uygulama normal bir fotoğrafı yeniden dönüştürerek düzenlemeye yarıyor.

Şimdiden pek çok sosyal medya kullanıcısı Lensa AI uygulamasını indirdi. Başta Instagram olmak üzere pek çok sosyal platformda yapay zeka ile yapılmış avatar ve anime fotoğraflarını paylaştı. Akıllarda bu uygulama ile birçok soru işareti oluştu. Bazı kullanıcılar, uygulamaya yükledikleri fotoğraflarının bilgileri dışında kullanılmasından endişe ediyor. Bu mümkün mü? Türkiye Bilişim Derneği İzmir Şubesi Hukuk Çalışma Grubu Genel Sekreteri Resul Göksoy bu konuyla ilgili Gazetevatan.com'a önemli açıklamalarda bulundu. Göksoy şunları söyledi;

Lensa aslında asıl olarak avatar oluşturma uygulaması olarak çıkmadı. Birçok alternatifi olan resim düzenleme uygulamasıydı. Kasım ayında eklenen Sihirli Avatarlar (Magic Avatars) özelliği ses getiren bir değişiklik oldu. Lensa örneğinden hareket ediyoruz ama sadece bu uygulama için değil benzer tüm uygulamalar için söylenebilir ki; kişisel veriler hemen hemen tüm ülkelerde güçlü yasalarla korunmaktadır. Uygulama geliştiricileri söz konusu yasaları ihlal etmemek ve ciddi tazminatlara maruz kalmamak için bu yasaları dikkatle takip ederler ve projelerinde öncelikli olarak önem verirler. Diğer taraftan Sihirli Avatarlar özelliğinde olduğu gibi bazı sinir ağı modelleri kullanan yazılımlar daha kararlı sonuçlar üretebilmek için sizin verilerinizden öğrenmeye ihtiyaç duyarlar. Günümüze kadar birçok uygulama ve veri ağları ile söz konusu algoritmalar eğitildi. Örneğin, “10 years challenge” çılgınlığı ile insanların güncel bir resminin yanında 10 yıl önceki resmini yüklemeleri istendi. Oluşan bu büyük veri benzeri yapay zekâ algoritmalarının eğitilmesinde kullanıldı. Bugün yapay zekânın başarısı geçmişteki verilere bağlı. Lensa fotoğraflar ve videolar gibi kullanıcı içeriğinin üçüncü kişilere satılmadığını Kullanım Şartlarında açıkça belirtiyor. Diğer taraftan, bu içeriği uygulamanın geliştirilmesi ve işletilmesi için kullanabileceğini belirtiyor. Gerçekten de fotoğrafınızı saklamadan onun üzerinde yapılan analiz verileri uygulamanın geliştirilmesi için kullanılabilir. Kullanım Şartları çok da düzenli şekilde yazılmamış, kısmen kafa karıştırıcı, İngilizce ve 14 sayfa. Bunların tamamını okuyup anlayıp buna göre karar vererek uygulamayı yükleyen kaç kişi vardır? Çok olmadığını söyleyebilirim. Aslında uygulamayı kullanmakla kabul ettiğimiz bu sözleşme ve 11 sayfalık Gizlilik Politikasında verilerin bazılarının aktarılabileceğinden söz ediliyor. Öncelikle şirket ABD’de kurulu olduğu için bu ülkeye veri transferi söz konusu. İkinci olarak fotoğraf ve videolar dahil kişisel verileri “Şirket ve İştirakleri dışında” üçüncü kişilere kiralamaz veya satmayız deniliyor. Dolayısı ile şirket herhangi bir şirketle iştirak kurarak verileri satabilir. Mevcuttaki iştiraklerini de belirtmişler. Her iki metin de çıkan haberlerin ardından 15 Aralık 2022’de güncellenmiş; tereddüt oluşturan bazı noktalara açıklık getirilmiş ama halen daha sorunlu denilebilecek gri alanlar yok değil. Tüm bunları özeti olarak denilebilir ki, şirketler topladıkları kişisel verileri hukuka aykırı bir şekilde kullanmamaya özen gösterirler. Kullansalar bile bunu söylemezler ve biz ancak bir veri ihlali olduğunda bunu anlarız. Günümüzde veri çok önemli ve değerli olduğundan bir teknoloji şirketinin bu verileri bilgimiz dışında ve sözleşmeye aykırı olarak kullanmayacağına güvenmekten başka elimizde bir seçenek yok. Bunu emin olacak şekilde denetleyebilecek veya engelleyebilecek bir mekanizmaya da sahip değiliz. Sözleşme ve Gizlilik Politikasını okuyup güvenmiyorsak kullanmamak en doğru davranış gibi görünüyor.

Lensa'nın kullanım politikası ayrıca, çocuk fotoğraflarının da sisteme yüklenmesine izin vermiyor. Ancak Olivia Snow adlı bir başka kullanıcı, bu filtreleri aşmanın da yolunu bulduğunu öne sürdü.The Wired'da kaleme aldığı yazıda Snow, çocukluk fotoğrafları üzerinden yaptığı bir dizi denemede filtreleri aşabildiğini ifade etti:

"Ergenlik çağında bir kızın ve bazen de çocuksu bir yüzün, belirgin bir yetişkin vücuduyla harmanlandığı tamamen çıplak fotoğraflar üretti."

Lensa yetkilileri ise TechCrunch'a yaptıkları açıklamada sistemin üreteceği olası pornografik görüntülerin "uygulamadaki kasıtlı suistimalin sonucu" olduğunu savundu. Lensa'da çıplak görsel kullanılmadığı savunulsa da bu durum kullanıcılar arasında endişe yarattı. Bu iddianın gerçek olup olmamasıyla ilgili de Resul Göksoy,

"Bu iddia kesinlikle gerçek. Lensa bununla ilgili açıklama yaptı ve sonrasında Kullanım Şartları ve Gizlilik Politikasında da değişiklikler yaptı. Yasaklanan Davranış ve İçerik kısmında sihirli avatar hizmetiyle oluşturulmuş müstehcen ve pornografik içerikten kullanıcının sorumlu olacağı net şekilde düzenlenmiş. Dolayısı ile bunun mümkün olduğu ortada. Söz konusu algoritmalar sürekli öğrenmeye devam ediyorlar ve başka fotoğraflardan öğrendikleri örüntüleri siz öyle bir fotoğraf yüklemeseniz bile oluşturması, önlem alınmadıysa, anormal değil. Üstelik algoritma bunu kasıtlı olarak, bir saikle veya duygularıyla yapmıyor. Ne yaptığından veya ne oluşturduğunun bilincinde bile değil. Diğer taraftan şirket bununla ilgili yaptığı açıklamada ve kullanım şartlarında uygun olmayan sonuçların oluşmaması için çalıştıklarını, buna rağmen böyle bir durumla karşılaşılırsa iş birliği yaparak bilgi verilmesini istedi. Bu durum söz konusu içeriklerin şirket tarafından kasıtlı olarak oluşturulmadığını gösteriyor. O halde nasıl oluşuyor? İlk olarak kullanıcılar kullanılan yapay zekâ algoritmasını aldatmak üzere oynanmış resimleri sisteme yükleyerek bunlardan hareketle uygun olmayan bir içerik oluşturulmasını sağlayabilirler. Lensa’dan önce de bir kişinin kafasını bir başka cinsel görüntüye montajlamak profesyoneli için dakikalarla ifade edilebilen sürelerde yapılabilecek bir işti. Lensa ile ortaya çıkan tehlike ise, böylesine profesyonel bir kabiliyeti olmayan herkesin, kabaca kafa kısmını bir başka resmin üzerine ekleyerek Lensa’ya yüklemesi onun “kusursuz” müstehcen avatarlar oluşturabilmesi. Belirttiğim gibi şirket müstehcenlik ve pornografi üzerine daha çok çalıştıklarını, buna izin verilmeyeceğini veya bu tarz görüntülerde anlaşılmayacak derecede bulanıklaştırma yapacaklarını açıkladı." diye konuştu.

Avatar uygulamasını birçok kullanıcı kullanıyor. En çok indirilen uygulamalar arasında yer alan Lensa, dışarıdan çok cazip ya da masum gibi gelse de bazı endişeler doğuruyor. Avatar uygulaması kullanan kişilere Türkiye Bilişim Derneği İzmir Şubesi Hukuk Çalışma Grubu Genel Sekreteri Resul Göksoy şu uyarılarda bulunuyor;

"Herkesin kişisel verileri konusunda bilinçli ve farkında olması gerekiyor. Düşüncesizce internete saçtığımız kişisel verilerimiz bir noktada başımıza bela olabilir. Siber zorbalığa maruz kalma ihtimalimiz güçlenir. Yapay zekâ teknolojisi kullanılarak oluşturulan “Deepfake” adı verilen videolar aracılığı ile tehdit ve şantaja maruz kalabiliriz. Geçtiğimiz yıllarda ABD’de bu tarz videolar ile siyasetçilerin ve ünlülerin görüntüleri kullanılarak “DeepNude” yani çıplak videoları oluşturuldu. Virginia Eyaleti bu tar videoları yasakladı. Benzer şekilde Çin de bu tarz videoları yasaklayan yasalar çıkardı. Sadece bu örnekle bile söz konusu verilerimizin kötü niyetli kişilerin ellerinde nelere dönüşebileceği net olarak anlaşılmıştır sanıyorum. Özellikle çocuklarımız ve gençlerimiz için bu ve benzeri yollarla oluşturulacak tehlikeler çok daha vahim sonuçlara yol açabilir. Lensa’nın Sihirli Avatarlar özelliği için doğrudan böyle bir tehlikenin varlığını söyleyemem. Buna karşılık uygulama ile oluşturulan bir kişiye ait avatarların çokça paylaşılması benzeri bir kötüye kullanıma sebep olabilir. Burada değinmemiz gereken başka bir konu da uygulamaya kendimize ait olmayan resimlerin de yüklenebiliyor olması. Kullanım Şartları ve Gizlilik Politikasında şirket başkasına ait içeriklerin uygulamada kullanılmaması gerektiğini, bundan kaynaklı bir yaptırıma maruz kalması halinde bunu kullanan kişiye rücu ederek tazmin edeceğini belirtiyor. Buradaki asıl sorun da, şirketin belirttiği gibi avatar oluşturulduktan sonra verilen fotoğraflar kalıcı olarak siliniyorsa, başkasına ait resmi oluşturup paylaşan kişinin şirket tarafından nasıl tespit edilebileceği. Böyle bir içeriği paylaşan kişi sahte hesaplardan paylaştığı vakit şirketin sadece elindeki verilerle bu resmi oluşturan kişiye ulaşması mümkün değil gibi görünüyor. Elbette Kullanım Şartları ve Gizlilik Politikasında belirttiğinin dışında bir veri saklama durumu söz konusu değilse."

İŞİMİZ BİTTİĞİNDE TÜM İZİNLERİ İPTAL ETMELİYİZ!

Uygulama aslında ücretsiz olarak indiriliyor. Fakat karakter oluşturmak için ücret isteniyor. Yedi günlük ücretsiz deneme ile kullanıcılar 10 ila 20 selfie yükleyebiliyor. Ardından 3.99 dolar için 50 fotoğraf, 5.99 dolar için 100 fotoğraf veya 7.99 dolar için 200 fotoğraf yüklenebilen çeşitli paketleri seçebiliyor. Uygulamanın bir yıllık üyeliği ise 35.99 ABD doları…

Güvenlik endişesi ile Lensa ve benzeri uygulamaları kullanmayan kişiler, uygulamayı ne şekilde kullanırsa sonrasında sorun yaşamazlar sorusuna ise Resul Göksoy; "Kullanım Şartları ve Gizlilik Politikasını okuduk, uygulama izinlerini inceledik ve uygulamayı kullanmaya karar verdik diyelim. Bu tarz uygulamaları kullanırken bana göre en güvenilir yol uygulama ile işimiz bittiğinde ya cihazdan kaldırmak ya da verilen tüm izinleri iptal etmek. Her ihtiyaç duyduğumuzda da yeniden yüklemek veya izinleri yeniden vermek. Bu tarz bir kullanımınız yoksa uygulamanın cihazdan ne zaman ne kadar veri toplayacağını sizin kontrol etmeniz çok da mümkün olmaz." yanıtını verdi.

Toronto Üniversitesi'nden biyoetik uzmanı Kerry Bowman CTV adlı televizyon kanalına “Yüzünüzü gerçekten büyük bir veri tabanında istiyor musunuz? İnsanlar elbette kendileri karar vermeli ama uygulama sadece eğlence için değil, bu durum iyi niyetli gözükmüyor” dedi. Peki uygulamaya fotoğraf yüklerken nelere dikkat etmeliyiz?

"Yine Lensa örneğinden yola çıkıyoruz ancak aslında benzer diğer uygulamalar için de geçerli olarak, özel hayatımıza ilişkin veya müstehcen görüntülerin bu tarz uygulamalara kesinlikle yüklenmemesi gerekiyor. Bunun dışında yüklediğimiz fotoğraflarda bizim dışımızda mevcut olan kişilerin izinlerini almadan bu tarz uygulamalara yüklememek gerekiyor. Bu tarz bir kullanımın ileride hem tazminat hem de hapis cezası olarak geri dönüşü olabileceğini bilmek gerekiyor. Küçük çocukların veya gençlerin fotoğraflarını da yüklememek gerekiyor. Çünkü onların verileri çok daha hassas ve bu verileri nedeniyle karşılaşabilecekleri sorunlarla başa çıkmak konusunda çok daha kırılgan olabilirler. Psikolojileri üzerindeki etkisi büyün hayatlarına yansıyabilir. Yukarıda bahsettiğimiz gibi fotoğraflarımız kötü niyetli ellere geçerse, mevcut telefonların çok detaylı fotoğraflar çekebildiği, fotoğraflara GPS verisi ekleyerek konum bulma imkânı verebildiği göz önüne alındığında ciddi tehlikeler doğabilir. Fotoğraflardan elde edilen biyometrik veriler güvenlik sistemlerinin atlatılmasında kullanılabilir. Konum verileri elde edilebilecek diğer verilerle eşleştirilerek dolandırıcılık ve hatta şantaj amaçlı kullanılabilir."

AVATAR UYGULAMASI ESTETİK KAYGILARA NEDEN OLUYOR MU?

Psikolog Dilek Memnun, son günlerde oldukça ilgi toplayan ve binlerce kişi tarafından kullanılan avatar uygulamasının estetik kaygılara neden olup olmayacağını hakkında merak edilenleri tüm ayrıntılarıyla anlattı. Fotoğrafları avatara dönüştüren uygulamalar son günlerde sosyal medyada viral oldu. Peki neden bu uygulama kişiler arasında bu kadar hızlı yayıldı? Pskilog Dilek Memnun'a göre;

"Sosyal medyada son zamanlarda yapay zekanın ürünlerinden biri olan avatar fotoğraflar öne çıkıyor. Avatar akımı kullanıcıların yüklediği fotoğrafları birden fazla avatarı erişime sunup fotoğrafları harmanlıyor ve pek çok ünlünün de kullandığı bu uygulama ile oluşturulan fotoğraflar süper kahraman filminden veya rönesans çağından çıkmışçasına bir görüntü oluşturuyor. Psikolog Dilek Memnun, bireylerin kendilerini farklı bir biçimde gördüklerinden, sanal alemde avatar uygulaması ile kendilerini daha güzel ve daha farklı göstermek istediklerinden, ünlülerinde dahil olduğu birçok katılımcının kullanması sonucu onlara imrenmenin de etkisi ile daha fazla çaba göstererek oluşan bu furyaya kendilerini dahil ederek, kendilerini de oraya ait hissedebildiklerini vurguluyor. Memnun, kişiler arasında bu kadar fazla yayılmasının nedenleri arasında; imrenme, yalnızlıktan kaçınma, gruba dahil olma, kendilerini o fotoğrafa ait hissetme ve o şekilde göstermek istemeleri olabileceğini belirtiyor ve ekliyor, “bireyler genellikle sosyal medyada kendilerinin en mutlu olduğu anları gösterme eğilimindedirler. Bu uygulamada fotoğrafları harmanlayarak güzel bir görüntü oluşturmaktadır. Kişilerde bu fotoğrafları paylaşarak o dünyaya ait olmak istemiş olabilirler. Gündelik stres ve sıkıntılardan uzaklaşmak adına da sosyal medyada zaman geçiren bireyler arasında fenomenlerin ve ünlülerinde kullanmış olduğu uygulamalar bireylerin imrenmesi, o furyaya kendilerini dahil etmek ve özdeşim kurmak amacıyla uygulamanın insanlar arasında yayılabileceği düşünülebilir.”

Uygulamanın birçok kişi tarafından kullanılması, kullanmayan kişiler üzerinde baskı oluşturdu. İnsanların kafasında 'Herkes uyguluyor, ben de yapmalıyım' gibi soru işaretleri oluştu. "Çok sayıda kişinin bu uygulamayı kullanması, kullanmayanlar üzerinde baskı oluşturur mu? Kişi, ‘Herkes uyguluyor, ben de yapmalıyım’ baskısından kendini nasıl ayrıştırır? Kişilerin yalnızlık, özdeşim kurma ve gruba dahil olma ihtiyaçlarının “sosyal medya kullanıcıları arasında herkes uyguluyor, buna dahil olmak istiyorum” düşüncesini meydana getirebildiğini belirten Memnun, kişilerin bu furyaya dahil olmaması ve bundan ayrışabilmesi için öncelikle gündelik hayatla olan bağlantısını, kendi içsel sürecini, “bunu neden yapıyorum, kendimi nasıl görmek istiyorum” gibi sorgulamaları yapması gerektiğini vurguluyor. Aksi taktirde, sosyal medyanın rüzgarına kapılma ve uygulamayı kullanma gereksinimi duyulabiliyor.

Kişilerin oluşturduğu fotoğrafları beğenmesi ve daha sonra o tipe dönüşmek istemesi estetik yaptırma isteğini doğuruyor. Bununla ilgili Psikolog Memnun, "Kullanılan avatar uygulamasının Rönesans döneminden çıkmışçasına kişileri yansıttığını biliyoruz. Memnun, “erkek güzeli Narcissus’un nehre yansıyan kendi suretine âşık oluğunu ve görmüş olduğu istediği bu şeye asla sahip olamayacağını fark ettiğinde büyük acılar çektiğini sonunda da kendisini nehrin sularına bırakarak yaşamına son verdiğini biliyor muyuz?” diyor ve nergis çiçeğinin adının da bu mitten geldiğini belirtiyor.

UYGULAMA BİREY İÇİN YENİ BİR VAROLUŞ RESMEDİYOR

Memnun, hızla yayılan bu trendlerin ve uygulamaların kişinin yüz hattını değiştirmesi, daha idealleştirilmesi bireyin birtakım estetik operasyonlar geçirmesine ve bu filtreli hallerine benzemeye çalışmalarına neden olabileceğini belirtiyor ve sözlerine şöyle devam ediyor:

“Oyuncak bebeklerin de sadece tek bir vücut tipini idealleştirdiği ve ‘öyle’ olanın güzel olduğu algısın yerleştiği zamanlarda da görülmüştür ki kişiler sırf idealleştirdikleri tiplere benzeyebilmek adına çeşitli operasyonlara geçirebilmektedirler”. Dolayısıyla söz konusu uygulamanın da böyle bir duruma neden olabileceği düşünülebilir. Sosyal medyanın güçlü bir biçimde algı oluşturabildiği görülüyor. Kişiler kendinin en iyi haline dönüşebilmek için uygulamalardaki profillerine ulaşabilmek adına birtakım çabalara girişebiliyor. Memnun, avatar uygulamasının da rağbet görmesi ve kişiler arasında hızla yayılması sonucu bireylerin kendilerini o fotoğraftaki gibi görmeyi arzulayabileceklerini çünkü aynadaki suretleri ile fotoğraftaki suretlerinin aynı olmayacağını belirtiyor. Memnun’a göre sosyal medyanın avatar uygulaması bireyin kendisi için yeni bir varoluş resmediyor, sonra bireyi ele geçirip kendisine dönüştürebiliyor. Uygulamaların gücü yadsınamaz sadece bireyin dış dünyasını değil fiziğini de değiştirecek güce erişiyor." diye konuştu.