Mükemmel algoritmalara karşı kusurlu insanlar

Oldukça bilinen bir deneydir. 1951 yılında psikolog Solomon Asch, bilim tarihinin en can sıkıcı çalışmalarından birini yaptı. Bir grup insana son derece basit bir soru sordu: Hangi çizgi diğer çizgiyle aynı uzunlukta? 

Sorunun cevabı o kadar açıktı ki yanlış yapmak için özel çaba göstermeniz gerekiyordu. Ama odadaki insanlar sırayla yanlış cevabı vermeye başladığında, gerçek deneklerin önemli bir bölümü kendi gözlerine değil, kalabalığa inanmayı tercih etti. Bu deneyin ilginç tarafı sonuçları değildi. İlginç tarafı internetsiz yapılmış olmasıydı (Bandwagon Effect). Ne sosyal medya vardı, ne algoritma vardı, ne yapay zekâ vardı. Kimse Twitter'da linç edilmiyordu, kimse TikTok'ta trend olmuyordu, kimse YouTube önerilerinin kurbanı değildi. Yine de insanlar çoğunluğa uyuyordu. Bu ayrıntıyı akılda tutmak önemli. Çünkü son yıllarda teknoloji tartışmalarının büyük kısmı aynı varsayım üzerine kuruldu: Toplumu bozan şey algoritmalar. Peki ya değilse? Peki ya algoritmalar yalnızca zaten var olan bir şeyi büyütüyorsa? 

SUÇLUYU BULDUK GALİBA

Modern insanın sevdiği şeylerden biri, karmaşık sorunlara basit suçlular bulmaktır. Ekonomik sorunlar mı var? Bir suçlu bulunur. Toplumsal kutuplaşma mı artıyor? Başka bir suçlu bulunur. İnsanlar birbirine tahammül edemiyor mu? Bu kez de algoritmalar suçlanır. 

Bu yaklaşım rahatlatıcıdır çünkü sorumluluğu üzerimizden alır. Eğer problem yazılımdaysa, insan doğasını konuşmamıza gerek kalmaz. Eğer problem yapay zekâdaysa, kendi önyargılarımızı sorgulamamız gerekmez. Eğer problem algoritmaysa, aynaya bakmak zorunda değilizdir. Ne yazık ki bilim bu kadar konforlu davranmıyor. 

İnsan davranışlarını inceleyen onlarca yıllık araştırma, insanların korkuya, öfkeye, dedikoduya ve grup aidiyetini güçlendiren bilgiye doğal olarak daha fazla tepki verdiğini gösteriyor. Daniel Kahneman ve Amos Tversky'nin bilişsel önyargılar üzerine çalışmaları, kararlarımızın sandığımız kadar rasyonel olmadığını yıllar önce ortaya koymuştu. 

İnsan zihni bir bilim insanı gibi çalışmıyor. Bazen panik halinde yaşayan bir tarih öncesi memelisi gibi çalışıyor. Dürüst olmak gerekirse bazen internetteki yorumlara bakınca "bazen" kısmından da emin olamıyorum. 

ALGORİTMA NE YAPIYOR?

Burada kritik soru şu: Bir algoritma gerçekten insanları öfkeli mi yapıyor? Yoksa insanların öfkeli içeriklere daha fazla tepki verdiğini mi fark ediyor? Bu ikisi aynı şey değil. Bir haber sitesine girdiğinizi düşünün. Birinci başlık: "Mahalle sakinleri sokak hayvanları için yeni yaşam alanı kurdu." İkinci başlık: "Komşular arasında büyük kavga." 

Hangisine daha çok tıklanacağını tahmin etmek için makine öğrenmesi uzmanı olmaya gerek yok. Algoritma da bunu biliyor. Ama aslında yeni bir şey öğrenmiş değil. Sadece insanlığı gözlemlemiş durumda. Teknoloji şirketlerinin son yirmi yılda yaptığı şeylerin büyük bölümü bunun devasa ölçekte yapılmasından ibaret. Milyarlarca insanın dikkatini ölçmek. Milyarlarca insanın korkularını ölçmek. Milyarlarca insanın tercihlerini ölçmek. Sonra da ortaya çıkan tabloyu tekrar önümüze koymak. İşte rahatsız edici kısım burada başlıyor. Çünkü gördüğümüz şeyi pek beğenmiyoruz. 

Bizi rahatsız eden şey algoritmaların kusurları değil; kendi kusurlarımızın istatistiksel olarak doğrulanmış olması olabilir. 

YAPAY ZEKÂ NEDEN BİZE BENZİYOR?

Benzer bir tartışma bugün yapay zekâ için de yaşanıyor. Büyük dil modelleri bazen yanlış bilgi veriyor. Bazen aşırı özgüvenli konuşuyor. Bazen saçmalıyor. Bazen de tamamen uyduruyor. İnsanların önemli bir bölümü bunu görünce hayal kırıklığı yaşıyor. Oysa burada şaşırılması gereken şey tam olarak nedir? Bu sistemler milyarlarca insan tarafından üretilmiş verilerle eğitiliyor. İnsanlığın bilgi birikimini alıyorlar. Ama yalnızca bilgi birikimini değil. Önyargıları da alıyorlar. Çelişkileri de alıyorlar. Yanlışları da alıyorlar. Kendini gereğinden fazla ciddiye alan "sözde uzmanları" da alıyorlar. Bilmediği konuda saatlerce konuşan insanları da alıyorlar. Kısacası insanlığı alıyorlar. Sonra da bize geri gösteriyorlar. Sorun şu ki bazen insanlar kendi yansımalarını pek sevmiyor. 

ABARTILMAMASI GEREKEN NOKTALAR

Buradan "algoritmaların hiçbir etkisi yok" sonucu çıkmıyor. Elbette etkileri var. Tasarım kararları davranışı etkiler. Öneri sistemleri görünürlüğü değiştirir. Platform teşvikleri insanların neye dikkat edeceğini belirleyebilir. Ancak mevcut bilimsel literatür, toplumsal sorunların tamamının teknoloji tarafından yaratıldığı sonucunu desteklemiyor. Örneğin 2018 tarihli "The Spread of True and False News Online" çalışmasında, yanlış haberlerin doğru haberlere göre daha hızlı yayıldığı gösterildi. Ancak araştırmacılar bunun önemli nedenlerinden birinin insanların şaşırtıcı ve duygusal içerikleri paylaşmaya daha yatkın olması olduğunu da belirtiyordu. Yani hikâyenin merkezinde yine insan davranışı vardı. Makine değil. 

AYNAYI KIRARAK GÖRÜNTÜYÜ DEĞİŞTİREMEZSİNİZ

Teknoloji tarihinin büyük kısmı daha iyi araçlar üretme hikâyesidir. Daha hızlı bilgisayarlar. Daha iyi ağlar. Daha güçlü yapay zekâ sistemleri. Önümüzdeki yıllarda bunların hepsini yapmaya devam edeceğiz. Ama belki de ilk kez teknik bir sorunun merkezinde teknik olmayan bir problem duruyor. İnsan davranışı. Çünkü mükemmel algoritmalar geliştirebiliriz. Sıfıra yakın hata oranlarına ulaşabiliriz. Yapay zekâ sistemlerini daha güvenli hale getirebiliriz. Ama kusurlu insanlardan oluşan bir topluma mükemmel bir algoritma verdiğinizde sonuç yine kusursuz olmayacaktır. Belki de yapay zekâ çağının en rahatsız edici gerçeği budur. Sorun bazen kodda değildir. Sorun kullanıcıdadır. Ve kötü haber şu: Kullanıcı sözleşmesini güncelleyemiyoruz.