Facebook’tan yapılan açıklamaya göre, sitede her gün milyonlarca fotoğraf ve video paylaşılıyor ve bu içeriklerin bazıları, kullanıcıları yanlış yönlendirmek amacıyla oluşturulmuş manipüle edilmiş içeriklerden oluşuyor.
Manipülasyonlar, Photoshop gibi basit teknolojilerin yanı sıra yapay zeka ve derin öğrenmenin kullanıldığı daha sofistike araçlarla da gerçekleştirilebiliyor.
Yapay zekanın kullanıldığı manipülasyon içeren ve “deepfake” olarak adlandırılan videolar az sayıda olmasına rağmen bu videoların artış ihtimali toplum açısından endişe oluşturuyor.
Açıklamada görüşlerine yer verilen Facebook Küresel Politika Yönetimi Başkan Yardımcısı Monika Bickert, manipülasyon içeren paylaşımlara yönelik çalışmalarda iş birliğinin önem taşıdığını vurgulayarak, “Bu konudaki politikamızı geliştirme ve manipüle edilmiş içerikleri tespit etme amacıyla 50’den fazla küresel uzmanla görüşmelerimizi sürdürüyoruz. Bu iş birlikleri sonucunda manipüle edilmiş videolara yönelik politikamızı güçlendirerek, belli kriterlere sahip videoları platformumuzdan kaldıracağız.” ifadelerini kullandı.
2020 ABD başkanlık seçimleri öncesi gelen düzenleme
Yanlış yönlendirme amacıyla düzenlenmiş veya yapay zeka, makine öğrenmesi gibi teknolojilerle birleştirme, kopyalama yaparak gerçek gibi gösterilmeye çalışılan videoların yeni politika kapsamında siteden kaldırılacağını aktaran Bickert, şunları kaydetti:
“Manipüle edilmiş içeriklere yönelik yeni politikamız, parodi, mizah amacıyla düzenlenmiş videoları etkilemeyecek. Seçmene baskı yapma, nefret söylemi gibi standartlarımızı ihlal eden içerikler, deepfake olsun ya da olmasın Facebook’tan kaldırılacak. Kriterlerimize uygun olmayan videoların tespit edilmesi aşamasında 40’dan fazla dilde 50’nin üzerinde üçüncü parti ‘bilgi doğrulayıcı’ partneriyle çalışmalarımızı yürütüyoruz. Eğer bir video ya da fotoğraf partnerlerimiz tarafından ‘yalan’ olarak işaretlenirse biz bu içeriğin yayılmasının önüne geçmek amacıyla kullanıcılarımızı uyarıyoruz.
Yalan içeriklerin önlenmesine yönelik geçen yıl eylül ayında ‘Deep Fake Detection Challenge’ projesini duyurduk. Microsoft, MIT gibi kurumların destek sağladığı bu girişim, deepfake tespitiyle ilgili araştırmaları artırma ve açık kaynak araçları oluşturma amacı taşıyor. Bunun yanı sıra haber organizasyonlarıyla iş birliğine giderek medyada yer alan video ve görüntülerdeki deepfake ve manipülatif içeriklerin belirlenmesine yönelik medya çalışanlarını bilgilendiren online eğitim kursları düzenliyoruz.”
Bickert, manipüle edilmiş içeriklerin yanı sıra sahte hesaplara yönelik çalışmaların da devam ettiğini belirterek, iş birlikleri ve yeni politikalarla gerçek etki yaratan çözüm arayışlarına devam edeceklerini bildirdi.
Uzmanlar, seçim dönemlerinde yoğun olarak kullanılan deepfake videoları gibi manipüle edilmiş içerikleri kapsayan düzenlemenin, 2020’deki ABD başkanlık seçimlerine yönelik yapıldığını savunuyor.
