Deepfake içerikleri izleme şirketi Sensity, salı günü ortalarında reşit olmayanların da bulunduğu kimi bayanların çıplak imajlarını oluşturarak kullanıcılara gönderen bir bot sistemi olduğunu keşfetti. Şirketin yayınladığı rapora nazaran, 680 binden fazla bayanın fotoğrafını oluşturan uygulama kullanıcıların istediği bayanların fotoğrafını para karşılığı oluşturuyor.
Deepfake içerikleri izleme şirketi Sensity’nin yayınladığı yeni rapora nazaran anlık iletileşme uygulaması Telegram’da, kullanıcılara istedikleri bayanların ‘deepfake’ teknolojisiyle hazırlanmış, çıplak fotoğraflarını gönderen bir bot olduğu tespit edildi.
Sisteme nazaran kullanıcılar, çıplak fotoğraflarını elde etmek istedikleri bayanların fotoğraflarını, Telegram üzerinden bota gönderiyorlar. Bot, deepfake teknolojisini kullanarak bayanların gerçek olmayan manzaralarını hazırlıyor. Şirketin yaptığı tahlile nazaran ortalarında reşit olmayan kızların da imgelerinin bulunduğu 680 bin bayan bu sistemin kurbanı oldu. Şirketin ortaya koyduğu bu sistem, deepfake teknolojisinin zalimce ‘intikam pornosu’ içerikleri üretmek için kullanıldığını gösteriyor.
Düzmece imgeler nasıl oluşturuluyor?
Kullanıcıların gönderdiği bayan fotoğrafları bota yüklendikten sonra, yapay zeka sistemi fotoğrafın kıyafetsiz bir versiyonunu üretiyor. Daha sonra fotoğraf Telegram kanalları üzerinden yayılıyor.
Bot, geçen yıl Haziran ayında ortaya çıkan “DeepNude” isimli bir deepfake yazılımının açık kaynaklı bir sürümünü kullanıyor. Kullanıcılar, fotoğraflar karşılığında ödeme yapmadan evvel bot, onlara fotoğrafın filigranlı bir versiyonunu gönderiyor. Sensity’nin raporu, deepfake teknolojisinin haberleri çarpıtmaktan daha çok bayanları taciz etmek, küçük düşürmek üzere gayeler için kullanıldığını gözler önüne seriyor.
Şirket raporunda, ekseriyetle orjinal fotoğrafların bayanların toplumsal medya hesaplarından alındığını da vurguladı.
Ortalarında bota erişimi olan yedi Telegram kanalı, Temmuz 2020’nin sonunda yaklaşık 101.000 üyeye ulaştı. Bu kanallara üyelik üzerine yapılan bir kullanıcı anketinde, üyelerinin yüzde 70’inin Rusya ve eski SSCB ülkerinden olduğu ayrıyeten ABD, Avrupa ve Latin Amerika dahil dünyanın her yerinden üyeler bulunduğu tespit edildi.
T24
