Yapay Zeka Bilmediğini Kabul Etmeyi Öğreniyor

Güney Koreli bilim insanları, yapay zekanın ‘bilmediğini kabul etmesini’ sağlayacak yeni bir eğitim yöntemi geliştirdi. Kore İleri Bilim ve Teknoloji Enstitüsü (KAIST) araştırmacıları, bu yaklaşımın yapay zekanın yanlış bilgi üretme, yani ‘halüsinasyon’ sorununu azaltabileceğini belirtti.

KAIST araştırmacılarının geliştirdiği yöntem, akademik dergi Nature Machine Intelligence’ta yayımlandı. Yapay zekanın en büyük sorunlarından biri olarak görülen ‘aşırı özgüven’ problemini hedef alıyor.

Yapay Zekada Aşırı Güven Sorunu

Uzmanlara göre, özellikle sağlık gibi kritik alanlarda kullanılan yapay zeka sistemleri, emin olmadıkları konularda dahi kesin yanıtlar verebiliyor. OpenAI’ın ChatGPT gibi modelleri, daha önceki araştırmalarda doğru olmayan bilgileri gerçekmiş gibi sunarak teknoloji dünyasında ‘halüsinasyon’ olarak adlandırılan duruma neden oluyor.

İnsan Beyninden İlham Alan Eğitim Yöntemi

Araştırmacılar, sorunu çözmek için insan beyninin çalışma biçiminden ilham aldı. Yeni yöntemde yapay zeka modeli, gerçek verilerle eğitilmeden önce rastgele ‘gürültü’ verileriyle kısa bir ön eğitim sürecinden geçiriliyor. Bu ön eğitim, modelin öğrenmeye başlamadan önce kendi belirsizliğini tanımasını sağlıyor.

KAIST ekibi, bu yöntemin yapay zekanın başlangıçtaki aşırı güvenini azaltarak ‘Henüz hiçbir şey bilmiyorum’ durumunu öğrenmesine yardımcı olduğunu ifade etti. Bu sayede sistemler, eğitim sırasında karşılaşmadıkları konularda yanlış cevap vermek yerine daha düşük güven düzeyinde yanıt üretiyor.

Araştırma ekibi, geliştirilen yeni yöntemin yapay zekanın ‘bildikleriyle bilmediklerini ayırt etme’ becerisini önemli ölçüde geliştirdiğini vurguladı. Bu gelişmenin, otonom araçlar, tıbbi teşhis sistemleri ve karar destek teknolojileri gibi hata payının çok düşük olması gereken alanlarda büyük katkı sağlaması bekleniyor.

Çalışmanın yazarlarından Se-Bum Paik, bu araştırmanın yapay zekanın kendi bilgi durumunu insanlara daha benzer şekilde tanıyabileceğini gösterdiğini belirtti. Araştırmacıların temel hedefi, yapay zekanın sadece daha doğru cevaplar vermesi değil, aynı zamanda ne zaman emin olmadığını da anlayabilmesidir.