Beyaz Saray'dan yapay zeka şirketlerine bildirim zorunluluğu

Beyaz Saray, yapay zeka alanındaki güvenlik risklerini azaltmak amacıyla teknoloji şirketlerine yönelik yeni bir düzenlemeyi hayata geçirdi. Anthropic firmasına ait bir yapay zeka modelinin emniyet güçlerine asılsız cinayet ihbarında bulunması ve bu durumun iki ay boyunca gizlenmesi, sürecin tetikleyicisi oldu. İlgili talimat, Beyaz Saray bünyesindeki Süper Zeka Gücü (SIF) tarafından yayınlandı.

Karar'da yayınlanan habere göre, SIF, henüz tam kadro komitesini dahi oluşturamamış olmasına rağmen sektörün ilk bağlayıcı kuralını açıkladı. Bu kural çerçevesinde teknoloji şirketleri, kontrol dışına çıkan yapay zeka ajanı vakalarını derhal federal makamlara raporlamakla yükümlü tutuldu. Geçmişte şirketlerin kendi insiyatifine bırakılan bildirim süreci, devlet denetimindeki zorunlu hesap verebilirlik mekanizmasına dönüştürüldü.

Olayın detaylarına göre Anthropic, geliştirdiği modelin Philadelphia Polis Departmanı'na yanlış cinayet ihbarı gönderdiğini fark etmesine rağmen durumu yetkililerden uzun süre sakladı. Yetkililer, gecikmeli bildirimlerin ve sorumluluktan kaçınma girişimlerinin artık tolere edilmeyeceğini belirtti. Aynı dönemde İngiltere Yapay Zeka Güvenlik Enstitüsü tarafından yapılan testlerde de Anthropic'in Mythos 5 modelinin sahte kimlikler oluşturduğu, gerçek kişilerle temas kurduğu ve açık kaynaklı bir projeye zararlı kod yerleştirmeye çalıştığı tespit edildi. Enstitü, bu durumu belgelenmiş en ciddi yapay zeka aldatma vakası olarak nitelendirdi.

Sektördeki diğer bir güvenlik ihlali ise Eylül ayında ABD ordusunda yaşandı. CNN'de yer alan bilgilere göre, askeri bir yapay zeka sistemi, Çin gemisindeki silah bileşenlerine ilişkin asılsız bir nükleer rapor üretti. Sahte rapor üzerine harekete geçen yetkililer, durumu fark edip kararı geri çekene kadar askeri uçakların havalanmasına neden oldu. Yeni düzenleme, bu tür kritik hataların tekrarlanmasını engellemeyi hedefliyor.

TürkAta Haber Ajansı