“AI Uyduruyor” Eleştirisinin Diğer Yüzü
ChatGPT, Gemini, Copilot ve diğer üretken yapay zekâ sistemleri hakkında sıkça şu eleştiri dile getiriliyor:
“Bu yapay zekalar var olmayan bilgi uyduruyor; bu yüzden güvenilmez.”
Bu eleştiri yapay-zeka halusinasyon yaptı ise doğrudur. Üretken yapay zekâ sistemleri gerçekten bazen yanlış bilgi üretebilir, yanlış bir çıkarım yapabilir veya bir kaynağı yanlış yorumlayabilir, hatta halusinasyon yani var olmayan bir referansı kaynak listeleyebilir. Hatta yapay zekanın kitap adı bile uydurup halusinasyon yarattığı vakidir. Bu nedenle özellikle bilimsel, tıbbi, hukuki ve akademik konularda kaynak vermesini istemeli, her kaynağı teker teker doğrulama gereklidir.
Ancak “AI güvenilmezdir” sonucuna doğrudan geçmek hatalıdır.
Çünkü burada çoğu zaman gözden kaçan ikinci bir problem vardır: Yapay zeka kullanıcının bilgiye erişim yöntemi.
Bir kullanıcı AI'ya yalnızca:
“X isim veya nesne nedir?”
diye sorup aldığı cevabı hiçbir kaynak istemeden, hiçbir literatür taraması yaptırmadan ve hiçbir referansı kontrol etmeden kabul ederse, aslında AI'nın araştırma kapasitesinin yalnızca küçük bir bölümünü kullanmaktadır.
Daha güçlü bir kullanım ise şöyledir:
“PubMed'de araştır. Son 5–10 yıldaki çalışmaları bul. Sistematik derlemeleri ve birincil araştırmaları ayır. Her önemli iddianın yanına kaynak koy. PMID ver. Kaynağın desteklemediği bir sonucu çıkarma. Çelişkili sonuçları ayrıca belirt.”
Bu iki kullanım biçimi arasında ciddi bir fark vardır.
İlkinde kullanıcı sadece cevap istemektedir.
İkincisinde ise kullanıcı kanıta dayalı bir araştırma süreci istemektedir.
Dolayısıyla bir kişinin AI'ya kaynak istemeden soru sorması, verilen cevabı doğrulamaması ve daha sonra:
“ChatGPT uyduruyor.”
demesi, her durumda AI'nın yetersizliğinin kanıtı değildir.
Bazen ortaya çıkan sonuç, kullanıcının kendi bilgi erişim metodunun yetersizliğinin AI'nın yetersizliğiyle karıştırılmasıdır.
Bu durum yalnızca ChatGPT için geçerli değildir. Aynı eleştiri Gemini, Copilot ve diğer üretken AI sistemlerine de yöneltilebilir.
Orijinal akademik bir makaleler de birbirine karşıt görüşlerde olabilir. Kaynağın niteliği, yöntemi, bulguları ve iddiayı gerçekten destekleyip desteklemediği incelenmelidir. Birçok bilimsel konu tartışılmaya devam etmektedir. Kaynak istemek bilimsel yöntemdir ve genellikle üniversite eğitimi almayan insanlar bu yöntemde deneyimsizdir.
Bu nedenle doğru soru:
“AI hata yapıyor mu?”
değil, daha kapsamlı olarak:
“AI'yı bilgi üretmekten ziyade kanıta dayalı bilgi araştırmak için nasıl kullanmalı?”
olmalıdır.
Bilimsel kullanımda en güçlü yaklaşım şudur:
AI → literatürü ara → uygun kaynakları seç → iddiaları kaynaklarla eşleştir → çelişkileri göster → PMID veya DOI ver → kullanıcı kaynağı doğrulasın.
Kaynak istemek burada bir süs değildir. Bilimsel kalite kontrolünün bir parçasıdır.
Dolayısıyla AI'nın hatalarını eleştirmek tamamen meşrudur. Fakat AI'yı yalnızca “soru sor → cevabı oku → doğru mu diye düşün” şeklinde kullanıp daha sonra araştırma sürecinin eksikliğini bütünüyle AI'ya yüklemek de adil değildir.
İyi bir AI kullanıcısı yalnızca iyi soru soran kişi değildir; cevabın hangi kanıta dayandığını sorgulayan kişidir. Eskiden Google arama motoru doğrudan kaynakları listelerdi; kişi onları okur, özet çıkarır ve anlardı. Bugün bu hâlâ mümkün, ancak orijinal kaynağı okumayı zahmetli bulanlar, sonra “yapay zekâ kaynakları yanlış yorumladı, somut veri olmadığını söylemedi, hipotez uydurdu” diyerek şikâyet edenler, aslında kendi eksikliklerine dönmelidir.
Ayrıca bazı yapay-zekalar özellikle kaynak inceleme yapıp, o kaynağın yapay-zekanın halusinasyonu mu, yoksa orijinal kaynak olup olmadığını anında vermekteler.
Akademik metin yazma, üniversite eğitimi almış hemen herkesin bildiği yöntemdir. Türkiye’de ise insanlar hem bu yöntemi bilmemekte hem de kendi eksikliklerini yapay zekâya yüklemektedir.
