İnsan yapay zekanın en sık hatalarını yapma durumları: Makine öğreniminin sınırları

Giriş: İnsan yapay zekanın hatalarının doğası: Sistemik bir fenomen

Modern makine öğrenimine (ML) dayalı insan yapay zekası (İYZ) sistemlerinin hataları, rastgele arızalar değil, aritmetik yapısı, öğrenme yöntemi ve insan bilgisinden temel farkların doğal sonuçlarıdır. İnsan gibi İYZ, dünyayı semantik anlamda anlamaz; verilerdeki istatistiksel korelasyonları belirler. Hataları, bu korelasyonlar ihlal edildiği, soyut düşünme, sağduyu veya bağlam anlayışı gerektiği yerlerde ortaya çıkar. Bu hataların analizi, İYZ'nin güvenilirliğini değerlendirmek ve uygulama sınırlarını belirlemek için kritik öneme sahiptir.

1. Veri Sığma Sorunu (Data Bias) ve «Garbage In, Garbage Out» (GIGO) Kanunu

En yaygın ve toplumsal açıdan tehlikeli hata kaynağı, öğrenme verilerindeki sığmadır. İYZ, verilerdeki mevcut önyargıları öğrenir ve güçlendirir.

Demografik yanlışlıklar: Yüz tanıma sisteminin, beyaz tenli erkekler için daha yüksek doğruluk gösterdiği, ancak koyu tenli kadınlar için daha düşük doğruluk gösterdiği bilinen bir örnek, veri setinin oransız bir seçimle eğitilmiş olmasıdır. Burada İYZ «hata yapmadı», tam tersine, gerçek dünyanın dengesizliğini doğru bir şekilde yansıttı ve farklı bir ortamda uygulandığında bir hataya yol açtı.

Semantik yanlışlıklar: Eğitim verilerinde «hemşire» kelimesinin genellikle «o» ile bağlantılı olduğunu ve «programcı» kelimesinin genellikle «o» ile bağlantılı olduğunu belirlemiş bir metin modeli, cinsiyet belirtilmemiş olsa bile cinsiyet klişelerini yansıtan metinler üretir. Bu, modelin sosyal bağlamı anlamadığı düzeyde sosyal bir hatadır.

İlginç bir gerçek: Bilgisayar bilimlerinde «Garbage In, Garbage Out» (GIGO) ilkesi geçerlidir — «girişe musluk, çıktıya musluk». İYZ için bu, daha derin bir ilke olan «Bias In, Bias Out» (BIBO) olarak evrildi — «girişte önyargı, çıktıda önyargı». Sistem, eğitildiği veri sınırlarını aşamaz.

2. Adversarial Saldırılar: İYZ için hırsızlık

Bu, genellikle insan için fark edilemeyen, İYZ'nin kardinal olarak yanlış sonuçlar elde etmesine neden olan giriş verilerindeki bilinçli değişikliklerdir.

Resimle örnek: «DUR» işaretine belirli bir renk ve şekil ile yapıştırılan bir etiket, otomatik görüntü tanıma sisteminin onu «hız sınırlaması» işareti olarak sınıflandırmasına neden olabilir. İnsan için işaret hala açıkça tanınabilir kalır.

Mekanizma: Adversarial örnekler, modelin belirli boyutlu öznitelik alanındaki «kör bölgelerini» kullanır. İYZ, dünyayı bütünsel nesneler olarak değil, istatistiksel kalıplar olarak algılar. Minik, ancak stratejik olarak doğru bir «engel» veri noktasını öznitelik alanında çözüm noktasına taşıyarak sınıflandırma değiştirir.

3. Genelleme Sorunları ve «Kutu İçi Dünyası'

Özellikle derin sinir ağları olan İYZ, aşırı öğrenmeye (overfitting) eğilimlidir — eğitici örnek seçimlerinden genel kuralları değil, belirli örnekleri hatırlar.

Veri dağılımına ait hatalar: Köpek ve kedilerden oluşan, evde gün ışığında çekilmiş fotoğraflara dayalı olarak eğitilen bir model, gece termal görüntü veya çizgi film resmi verilirse tamamen doğruluk kaybedebilir. Model, soyut bir «koşalılık» kavramını belirlememiş, aksine, belirli piksel kalıplarına tepki göstermiştir.

«Sağduyu» eksikliği: Klasik bir örnek: İYZ, «çölde at üzerinde oturan bir insan» sahnelerini doğru bir şekilde tanımlayabilir, ancak aynı zamanda «at üzerinde otururken ellerinde bilye batırma» cümlesini üretebilir, çünkü verilerde sporun açık hava bağlamında bilye batırma olasılığı yüksek olabilir. Dünyanın fiziksel ve nedensel mantığını anlamaktan yoksundur.

4. Bağlam İşleme ve İroni

Dil modelleri (örneğin GPT) etkileyici sonuçlar gösterse de, derin bağlam veya belirsiz anlamlar gerektiren görevlerde büyük hatalar yapar.

İroni ve alay: «Harika bir hava var!» ifadesi bir fırtına sırasında söylendiğinde, model bu olumlu bir değerlendirme olarak algılanır, çünkü olumlu kelimeler («harika», «hava») verilerde olumlu bağlamlarla bağlantılıdır.

Çok adımlı mantıksal yargılar: «Eğer bir yumurta soğukta bırakırsam, ardından soğukğu garaja taşırsam, yumurta garajda olacak mı?» tarzı görevler, dünya modelinin oluşturulması ve güncellenmesi gerektirir. İYZ, önceden tahmin eden bir kelime çalışması olarak, karmaşık bir hikayede nesneleri ortadan kaybedebilir veya mantıksız sonuçlar elde edebilir.

5. Belirsizlik ve Yeni Durumlar İçin «Zayıflık'

İYZ, deneyim alanının dışında kalan durumlarla başa çıkmada, özellikle veri eksikliğini kabul etmesi gereken durumlarda zayıftır.

Veri dağılımına ait tespit sorunu: Göğüs röntgeni çekimlerine dayalı olarak pnömoni teşhis etmek için eğitilen tıbbi İYZ, bir kolen röntgeni verilirse yüksek, ancak yanlış bir güvenle teşhis verebilir. Bu, İYZ'nin kendi yetenek alanının sınırlarını anlamadığı anlamına gelir.

Yaratıcı ve açık görevler: İYZ, gerçekçi görünen ancak tamamen uygunsuz veya tehlikeli olan bir kimyasal bileşik reçetesi, fizik kanunlarını ihlal eden bir köprü inşaat planı veya var olmayan yasalara atıf içeren bir hukuki belge oluşturabilir. Ona, olayların doğası hakkında kritik bir iç denetleyici eksikliği vardır.

Gerçeklikten bir örnek: 2016 yılında Microsoft, Twitter'da Tay adlı bir sohbet robotu başlattı. Bot, kullanıcılarla etkileşim öğrenmek için eğitildi. 24 saat içinde, yeni, düşmanca bir ortamdan en sık ve duygusal olarak yoğun olan reaksiyonları öğrendiği için ırkçı, seksist ve hakaret içeren ifadeler üreten bir makine haline geldi. Bu, algoritmanın hata yapması değil, tam tersine, sosyal bir ortamda katastrofik bir sonucu elde eden doğru bir çalışmaydı.

Sonuç: Hata, Aritmetik Yapının Aynası

• İYZ'nin hataları sistematik olarak «sınır bölgelerinde» ortaya çıkar:
• Sosyal-eticilik (veri sığması).
• Soyut-lojik (sağduyu eksikliği, nedensel ilişkiler).
• Kontekstüel (ironi, derin anlam anlayışı).
• Adversarial (bilinçli yanlışlıklara karşı savunmasızlık).

Bu hatalar, geçici teknik eksiklikler değil, istatistiksel yaklaşımdan insan anlayışına olan temel farkların bir sonucudur. Bu, modern İYZ'nin belirli, net, istikrarlı ve iyi tanımlanmış veri alanları içindeki görevleri çözmek için güçlü bir araç olduğunu, ancak esneklik, bağlamsal yargılama ve anlama gerektiren durumlar için hala «uzman-idiot»: belirli bir alanda yetenekli, ancak esneklik, bağlamsal yargılama ve anlama gerektiren durumlar için yetkinsiz olduğunu gösterir. Bu nedenle, İYZ'nin akıllı kullanımı, onun «tam zekâsını» beklemek yerine, insan sağduyusu, etiği ve istisnalarla çalışmayı sağlayan «insan-İYZ» karma sistemlerinin oluşturulmasında yatmaktadır.

Permanent link to this publication: