Son zamanlarda hayatımızın bir parçası haline gelen yapay zeka teknolojileri, hemen hemen her alanda kullanılmaya başlandı. Birçok ülke, kendi yapay zeka teknolojilerini geliştirirken, sektördeki yarış son yıllarda oldukça kızıştı.
Avrupa Birliği Komisyonu, yapay zeka ile ilgili kurallar çerçevesini içeren dünyadaki ilk yasal düzenleme teklifini açıkladı.
Buna göre, yapay zeka sistemleri “kabul edilemez risk”,”yüksek risk”, “sınırlı risk” ve “minimum risk” olmak üzere 4 ana gruba ayrıldı.
AÇIK TEHDİT YAPAY ZEKA SİSTEMLERİ YASAKLANDI
İnsanların güvenliği, geçim kaynakları ve haklarına ilişkin açık tehdit olduğu düşünülen yapay zeka sistemleri kabul edilemez risk grubunda yer aldı ve bunların kullanımı yasaklandı.
İnsan davranışlarını manipüle eden, özgür iradeyi önleyen, hükümetler tarafından sosyal puanlama yapılmasını sağlayan uygulamalar ve yapay zeka sitemleri “kabul edilemez” risk grubuna dahil edildi.
YÜKSEK RİSK GRUBUNDAKİ YAPAY ZEKALAR
Yüksek risk grubunda ise ulaştırma gibi kritik altyapı, eğitim, robotlu ameliyat, işe alım sürecinde CV değerlendirme, kredi derecelendirmesi, delil güvenliği, göç, iltica ve sınır yönetimi, seyahat belgelerinin doğrulanması, yargı ile demokratik süreçler sıralandı.
Bu gruptaki yapay zeka sistemlerinin piyasaya sunulmadan önce uyması gereken sıkı yükümlülükler getirildi. Bu sistemlerin ayrımcılık yapması engellenecek, sonuçların izlenebilir olması sağlanacak ve yeterli ölçüde insan gözetimine tabi tutulacak.
BİYOMETRİK DOĞRULAMA DA YÜKSEK RİSK GRUBUNDA
Bütün biyometrik kimlik saptama sistemleri, katı koşullar içeren yüksek risk grubuna dahil edildi.
Emniyet yetkilileri, halka açık alanlarda biyometrik kimlik saptama sistemlerini özel durumlarda kullanabilecek. Terör tehdidini önlemek, kayıp çocukları aramak, ciddi bir suçu kavuşturmak veya bir şüpheliyi tespit etmek için biyometrik kimlik tespit sistemlerine başvurulabilecek.
Yapay zeka sistemlerinin bu tür kullanımları sınırlı olacak ve adli veya bir başka bağımsız kuruluşun izine tabi tutulacak.
MİNİMUM RİSK GRUBUNDAKİ YAPAY ZEKALAR
Yapay zeka destekli video oyunları veya istenmeyen e-posta filtreleri gibi uygulamalar minimum risk grubunda yer aldı.
Vatandaşların hakları veya güvenliği için minimum veya hiç risk içermeyen bu gruptaki yapay zeka sistemlerine müdahale edilmedi.
Söz konusu yapay zeka alanında denetim sorumluluğu ve yetki ulusal makamlarda olacak. Bu alanda uygulama ve standartların geliştirilmesi amacıyla Avrupa Yapay Zeka Kurulu oluşturulacak.
YÜRÜRLÜĞE GİRMESİ İÇİN ONAY GEREKİYOR
Son olarak söz konusu düzenleme teklifinin yürürlüğe girmesi için Avrupa Parlamentosu (AP) ve üye ülkelerin onayı gerekiyor.
Düzenleme yasalaştığında, AB ülkelerinde faaliyet gösteren ABD teknoloji şirketlerinin faaliyetleri de sınırlandırılmış olacak.