Yapay zekâ karikatürleri son haftalarda sosyal medyada adeta bir akıma dönüştü. Kullanıcılar, sohbet botlarına yükledikleri fotoğraflar üzerinden kendilerinin ve mesleklerinin renkli, dikkat çekici çizimlerini oluşturuyor. Ancak bu eğlenceli görünen akımın arka planında ciddi güvenlik riskleri bulunuyor. Siber güvenlik uzmanları, tek bir yüksek çözünürlüklü görselin bile kişisel verilerle birleştiğinde dolandırıcılık ve kimlik taklidi için kullanılabileceğini belirtiyor. Üstelik yüklenen görsellerin ne kadar süre saklandığı ya da olası bir veri ihlalinde nasıl korunacağı konusunda kullanıcıların yeterince bilgi sahibi olmadığına dikkat çekiliyor.
KULLANICILAR FARKINDA OLMADAN VERİ PAYLAŞIYOR
Son dönemde yaygınlaşan uygulamada kullanıcılar, şirket logosu, iş unvanı ya da görev tanımı gibi ayrıntılar içeren fotoğraflarını sohbet botlarına yüklüyor. Ardından yapay zekâdan, kendileri hakkında bilinen bilgilerle bir karikatür üretmesini talep ediyor. Bu süreçte yalnızca bir görsel değil, aynı zamanda kişisel ve mesleki bilgiler de sisteme aktarılmış oluyor.
Siber güvenlik uzmanlarına göre, bu tür içerikler dolandırıcılar için adeta hazır bir veri kaynağı niteliği taşıyor. Yaş doğrulama şirketi Daon’un başkan yardımcısı Bob Long, kullanıcıların aslında dolandırıcıların işini kolaylaştırdığını belirterek, “Onlara kim olduğunuzun görsel bir temsilini sunuyorsunuz” değerlendirmesinde bulundu. Uzmanlar, görsellerle birlikte paylaşılan küçük ayrıntıların bile kimlik taklidi senaryolarında kullanılabileceğini vurguluyor.
GÖRSEL YÜKLEDİĞİNİZDE SİSTEM NE YAPIYOR?
Bir fotoğraf sohbet botuna yüklendiğinde sistem, görüntü üzerindeki pek çok unsuru analiz ediyor. Siber güvenlik danışmanı Jake Moore’a göre bu analiz; kişinin ruh hâlinden bulunduğu ortama, arka plandaki ipuçlarından konum bilgisine kadar çeşitli verilerin çıkarılmasını kapsayabiliyor. Bu verilerin ne kadar süre saklandığı ise çoğu kullanıcı tarafından bilinmiyor.
Uzmanlar, yüklenen görsellerin yapay zekâ modellerinin eğitilmesinde kullanılabileceğine de dikkat çekiyor. Olası bir veri ihlali durumunda ise hem görsellerin hem de sohbet sırasında toplanan kişisel bilgilerin kötü niyetli kişilerin eline geçme riski bulunuyor. İsrailli siber güvenlik şirketi Check Point’ten Charlotte Wilson, tek bir yüksek çözünürlüklü fotoğrafın bile gerçeğe oldukça yakın “deepfake” içeriklerin üretilmesinde kullanılabileceğini belirterek, selfie’lerin suçluların daha ikna edici kimlik taklitleri yapmasına imkân tanıyabileceğini ifade etti.
GİZLİLİK AYARLARI VE KULLANICI SORUMLULUĞU
Yapay zekâ platformlarının gizlilik politikalarında, yüklenen içeriklerin modelin geliştirilmesi amacıyla kullanılabileceğine dair ifadeler yer alıyor. Ancak bu durum, her fotoğrafın herkese açık bir veritabanına eklendiği anlamına gelmiyor. Sistemlerin, kullanıcı içeriklerinden elde edilen örüntüler üzerinden performansını iyileştirdiği belirtiliyor.
Uzmanlar, bu trende katılmak isteyen kullanıcıların paylaştıkları bilgileri sınırlaması gerektiğini vurguluyor. Fotoğrafların sıkı şekilde kırpılması, arka planın sade tutulması ve rozet, üniforma, iş kartı ya da konum bilgisi gibi ayrıntıların kadraj dışında bırakılması öneriliyor. Ayrıca iş unvanı, yaşanılan şehir veya işveren adı gibi bilgilerin komutlara gereğinden fazla eklenmemesi gerektiği ifade ediliyor.
Bunun yanı sıra kullanıcıların, içeriklerinin yapay zekâ eğitiminde kullanılıp kullanılmayacağına ilişkin gizlilik ayarlarını gözden geçirmesi tavsiye ediliyor. Avrupa Birliği mevzuatı kapsamında ise kullanıcılar, şirketlerin topladığı kişisel verilerin silinmesini talep edebiliyor. Ancak şirketler, dolandırıcılık ve güvenlik gerekçeleriyle bazı verileri belirli ölçüde saklayabileceklerini belirtiyor.
Uzmanlara göre, yapay zekâ karikatürleri eğlenceli bir deneyim sunuyor olabilir. Ancak dijital dünyada paylaşılan her görselin kalıcı bir iz bırakabileceği gerçeği göz ardı edilmemeli. Küçük bir detay, büyük bir güvenlik açığına dönüşebilir.