Nadella, yapay zeka için insanın çekebileceği bir acil fren istiyor

Microsoft CEO'su Satya Nadella, gelişmiş yapay zeka sistemlerinin görev sırasında durdurulabileceği bağımsız denetimler kurulmasını istedi. 10 Ekim'de yayımladığı değerlendirmede, modelin yetenekleri ile sahip olduğu yetkileri ayrı ele alıyor. Bu yaklaşım, özellikle şirket verilerine erişip kullanıcı adına işlem yapan yapay zeka temsilcilerini ilgilendiriyor. Nadella, kendi X hesabındaki makalede modelleri kurum içinden kaynaklanabilecek risklerle birlikte değerlendirmeyi öneriyor. Bunun nedeni, modellerin mutlaka kötü niyetli olması değil. Önemli sistemlere erişen güçlü bir unsur, hata yapabilir veya saldırıdan etkilenebilir. Bu nedenle güvenlik tasarımının yalnızca model sağlayıcısının verdiği güvencelere dayanmaması gerektiğini savunuyor. Önerinin merkezinde, modelin erişebileceği verileri ve gerçekleştirebileceği işlemleri dışarıdan sınırlamak var. Nadella, yetkili bir kişinin modeli görev ortasında duraklatabilmesini veya kapatabilmesini istiyor. Acil fren benzetmesi de bu noktaya karşılık geliyor. Dolayısıyla söz konusu açıklama, Microsoft'un bugün kullanıma sunduğu yeni bir ürünün duyurusu niteliğini taşımıyor. Makale, bağımsız denetimle birlikte gözlemlenebilir kayıtları da öne çıkarıyor. Anlamlı işlemlerin, insanların okuyabileceği ve sonradan değiştirilemeyecek kanıtlar bırakması gerektiğini belirtiyor. Ayrıca aynı modelin hem işi yapmasını hem de kendi sonucunu doğrulamasını yeterli bulmuyor. Böylece denetimin, değerlendirdiği sistemden ayrı kalmasını amaçlıyor. Nadella, yapay zeka yetkisini modelden ayrı tutmak istiyor Bu yaklaşımın günlük iş akışındaki karşılığını bir örnekle açıklayabiliriz. Bir temsilci, belgeyi inceleyip değişiklik önerdiğinde yaptığı işlem ile dosyayı dışarıya gönderme yetkisi …

Nadella, yapay zeka için insanın çekebileceği bir acil fren istiyor haberi ilk önce Teknoblog üzerinde yayımlandı.