OpenAI'dan ayrılan araştırmacılardan yapay zeka güvenliği çağrısı
ABD merkezli yapay zeka şirketi OpenAI'daki görevlerine son verilen üç araştırmacı, giderek otonom hale gelen yapay zeka sistemlerindeki güvenlik denetiminin elden bırakılmaması çağrısında bulundu.
Wall Street Journal (WSJ) gazetesinin haberine göre, şirketteki işlerinden çıkarılmadan önce yapay zeka güvenliği alanında çalışan üç araştırmacı, OpenAI yönetim kurulu üyelerine yapay zeka denetiminin önemi hakkında mektup gönderdi.
Gazetenin eriştiği mektuba göre, araştırmacılar yapay zeka firmalarının, bu teknolojinin akıl yürütme süreçlerini gözlemleme kapasitesini yitirebileceği konusundaki endişelerini iletti.
Araştırmacılar, gitgide otonom hale gelen yapay zekanın beraberinde getirebileceği risklere karşı güvenlik denetimlerinin şirketten bağımsız kuruluşlar tarafından yapılması çağrısında bulundu.
Yapay zeka sektöründe, denetlenemeyen modellerin nasıl güvenli şekilde geliştirilmesi ve kullanıma sunulması gerektiğinin henüz bilinmediğini ifade eden araştırmacılar, OpenAI ve diğer öncü şirketleri, bu teknolojiyi denetlemeyi zorlaştıracak şekilde geliştirmemeleri konusunda uyardı.
OpenAI'dan bir sözcü, gazeteye yaptığı açıklamada, söz konusu mektuptaki önerilere tamamen katıldıklarını, yapay zeka modellerinin denetlenmesinin şirket için büyük önem teşkil ettiğini ifade etti.
Söz konusu araştırmacıların, bir yapay zeka güvenlik şirketine gizli bilgi paylaştığı gerekçesiyle işten çıkarıldığı iddia ediliyor.
Kaynak: AA
Kaynak: Dirilispostasi