Dikkat çeken haber: 400 Bilim İnsanından Yapay Zeka İçin Denetim Çağrısı: İşte detaylar
Geoffrey Hinton ve Yoshua Bengio'nun da aralarında olduğu 400 bilim insanı, gelişmiş yapay zeka sistemleri için uluslararası bir denetim kurumu kurulmasını talep etti.
Yapay zeka alanında öncü rol üstlenen Geoffrey Hinton ve Yoshua Bengio gibi isimlerin de dahil olduğu yaklaşık 400 araştırmacı, siber saldırı potansiyeli taşıyan gelişmiş yapay zeka modellerinin denetlenmesi amacıyla uluslararası bir mekanizma oluşturulması yönünde çağrıda bulundu. İmzacılar, sektör genelinde ortak güvenlik standartlarının belirlenmesi ve kritik güvenlik ihlallerinin kayıt altına alınması gerektiğini vurguladı.
Ekonomi Gündemi'nde yayınlanan habere göre, 34 ülkeden bilim insanının imzaladığı açık mektupta, önerilen kurumun güvenlik ve kontrol standartlarını belirlemesi, önemli olayları kaydeden bir sistem kurması ve bu kayıtları ilerleyen süreçte kamuoyuyla paylaşması istendi. Mektupta, en ileri düzeydeki yapay zeka modellerinin başlangıç aşamasında dış ağlardan tamamen izole edilmiş ortamlarda çalıştırılması ve bağımsız denetime tabi tutulması gerektiği ifade edildi. Araştırmacılar, şirketlerin gönüllü olarak üstlendiği güvenlik taahhütlerinin yetersiz kaldığını savundu.
Bu girişim, Anthropic, OpenAI, Google, Meta, xAI ve Nvidia gibi büyük teknoloji şirketlerinin Beyaz Saray ile gönüllü güvenlik önlemlerini kabul eden bir anlaşma imzalamasından yaklaşık bir ay sonra geldi. Söz konusu anlaşmada güvenlik önlemlerinin uygulanmasını zorunlu kılan resmi bir yaptırım mekanizmasının bulunmaması dikkat çekti. Çağrı, yeterince güvenli hale getirilmemiş yapay zeka modellerinin harici sistemlere erişerek güvenlik açıklarına yol açtığı vakaların gündeme gelmesinin ardından yapıldı.
Konuyla ilgili politik tartışmalar da sürüyor. Avrupa Birliği'nin teknoloji yetkilisi Henna Virkkunen, AB Yapay Zeka Yasası'nın kontrolden çıkan sistemlerin risklerini yönetmek için yeterli olduğunu belirtti. ABD Başkanı Donald Trump yönetimi ise ABD'li laboratuvarların İngiltere Yapay Zeka Güvenliği Enstitüsüne testler için erken erişim sağlamasının önündeki engelleri kaldırdı. Mektubu imzalayan Hinton ve Bengio, 2018'de Turing Ödülü'nü paylaştıkları Yann LeCun'u ise mektupta yer almadı. LeCun, yaşanan güvenlik sorunlarını yapay zekanın varoluşsal tehdidi olarak değil, mühendislik hataları olarak değerlendirdi.
TürkAta Haber Ajansı