Sahte içerikleri izleme şirketi Sensity, aralarında çocukların ve kadınların bulunduğu Telegram kullanıcılarının çıplak fotoğrafını oluşturulduğunu duyurdu. Sensity raporuna göre, 100 binden fazla kişinin çıplak görüntüleri botlar tarafından para karşılığında oluşturuldu.
Deepfake içerikleri izleme şirketi Sensity’nin yayınladığı yeni rapora göre anlık mesajlaşma uygulaması Telegram’da, kullanıcılara istedikleri kadınların ‘deepfake’ teknolojisiyle hazırlanmış, çıplak fotoğraflarını gönderen bir bot olduğu tespit edildi.
Sisteme göre kullanıcılar, çıplak görüntülerini elde etmek istedikleri kişilerin fotoğraflarını Telegram’dan bota gönderiyor
Bot, deepfake teknolojisini kullanarak kadınların gerçek olmayan görüntülerini hazırlıyor.
Şirketin yaptığı analize göre aralarında çocukların da bulunduğu 100 bin kişi sistemin kurbanı oldu. Şirket botun başka bir sitede daha aktif olduğunu tespit etti. İşlenen görüntü sayısını ise daha sonra 680 bin olarak açıkladı.
Sahte görüntüler nasıl oluşturuluyor?
Kullanıcıların gönderdiği kadın fotoğrafları bota yüklendikten sonra, yapay zeka sistemi fotoğrafın kıyafetsiz bir versiyonunu üretiyor. Daha sonra fotoğraf Telegram kanalları üzerinden yayılıyor.
Bot, geçen yıl Haziran ayında ortaya çıkan “DeepNude” adlı bir deepfake yazılımının açık kaynaklı bir sürümünü kullanıyor.
Kullanıcılar, fotoğraflar karşılığında ödeme yapmadan önce bot, onlara fotoğrafın filigranlı bir versiyonunu gönderiyor.
Sensity’nin raporu, deepfake teknolojisinin haberleri çarpıtmaktan daha çok kadınları taciz etmek, küçük düşürmek gibi amaçlar için kullanıldığını gözler önüne seriyor.
