Halüsinasyon ve Doğrulama Alışkanlığı

1. Kusur Değil, Yapı

Yapay zekâ kullanan hemen herkes bir kez şunu yaşamıştır: Model gayet emin bir tonla bir kitap adı, bir makale, bir yasa maddesi, bir istatistik verir. Aramaya gidersiniz — öyle bir şey yoktur.

Bu olguya literatürde halüsinasyon denir. En yaygın yanlış anlama, bunu geçici bir yazılım hatası sanmaktır: "Bir sonraki sürümde düzelir."

Ji ve arkadaşlarının *ACM Computing Surveys*'te yayımladığı kapsamlı derlemenin gösterdiği gibi, halüsinasyon belirli bir modelin arızası değil, üretken dil modellerinin çalışma biçiminin yapısal bir sonucudur. İlk derste öğrendiğimiz mekanizmayı hatırlayın: model, bağlama göre en olası devamı üretir. "En olası" ile "doğru" aynı şey değildir.

Bir örnekle: Modelden "Türkiye'de dijital bağımlılık üzerine 2019'da yayımlanmış bir makale" istediğinizde, model böyle bir makalenin nasıl görüneceğini çok iyi bilir. Türkçe bir yazar adı, makul bir dergi adı, uygun bir başlık, geçerli biçimde bir DOI numarası. Hepsi örüntü olarak doğrudur. Sadece o makale yoktur.

2. Halüsinasyon Nerede Yoğunlaşır?

Risk her konuda eşit değildir. Aşağıdaki tablo, doğrulama enerjinizi nereye harcayacağınızı gösterir.

| Alan | Risk | Neden |
|---|---|---|
| Akademik atıf, DOI, kaynak | Çok yüksek | Biçimi çok öğrenilebilir, içeriği doğrulanabilir değil |
| Sayılar, istatistikler, yüzdeler | Çok yüksek | Makul aralıkta bir sayı üretmek kolaydır |
| Mevzuat, madde numarası, yönetmelik | Çok yüksek | Sık değişir; eğitim verisi eskir |
| Tarih, kronoloji | Yüksek | Yakın tarihler kolayca kayar |
| Az bilinen kişi/kurum bilgisi | Yüksek | Veride az geçer, model boşluğu doldurur |
| Alıntı ("X şöyle demiştir") | Yüksek | Üsluba uygun cümle üretmek kolay |
| Genel kavram açıklaması | Orta-düşük | Veride bolca geçer |
| Dil işleri (özet, çeviri, yeniden yazım) | Düşük | Kaynak metin elinizde, kontrol edilebilir |

Dikkat çekici bir örüntü var: Risk, konunun ne kadar spesifik ve ne kadar az bilinen olduğuyla artar. Model, çok bilinen konularda güvenilirdir; niş bir konuda sorduğunuzda boşluğu makul görünen uydurmayla doldurma eğilimindedir.

3. Neden Kanmıyoruz Sanıyoruz? — Akıcılık Yanılsaması

Halüsinasyonun asıl tehlikesi, yanlış olması değil ikna edici biçimde yanlış olmasıdır.

İnsan zihni, bilgi değerlendirirken üç ipucuna güvenir: kaynağın otoritesi, ifadenin akıcılığı ve içeriğin tutarlılığı. Model, üçünü de mükemmel taklit eder. Cümleler düzgün, ton kendinden emin, yapı tutarlı. Duraksama, "sanırım", "emin değilim" yoktur.

Bu yüzden şu kuralı ezberleyin: Tona bakma, kanıta bak. Modelin emin görünmesi, doğruluğu hakkında sıfır bilgi taşır.

Bir de "belirsizliği bildirme" sorunu vardır. Modellerden emin olmadığında bunu söylemesini isteyebilirsiniz ve bir miktar işe yarar. Ama modelin bildirdiği güven düzeyi, gerçek doğruluğuyla güvenilir biçimde ilişkili değildir. Yani "eminim" demesi de, "emin değilim" demesi de tek başına yeterli bir sinyal değildir.

4. Doğrulama Kapısı: Beş Kural

Amaç, her cümleyi kontrol etmek değil — bu, aracın tüm faydasını yok eder. Amaç, doğru yerlere kapı koymaktır.

Kural 1 — Sayı, tarih ve isim geçen her cümle doğrulanır.
Bu, en yüksek getirili tek kuraldır. Metnin geri kalanı akıcılık işidir; sayılar olgu işidir.

Kural 2 — Hiçbir atıf, kaynağı açılmadan kullanılmaz.
Model bir makale, kitap ya da yasa maddesi verdiyse: arayın, açın, ilgili yeri okuyun. DOI verdiyse doi.org üzerinden çözümleyin. Çözümlenmiyorsa o kaynak yoktur.

Kural 3 — Kaynak destekli sistemde de bağlantıya tıklanır.
Sistem kaynak gösteriyor olabilir; ama var olan bir kaynağı yanlış özetlemek de bir halüsinasyon türüdür. Bağlantı, kontrol edilmek içindir.

Kural 4 — Çapraz sorgu yapın.
Kritik bir bilgiyi aynı modele farklı biçimde veya farklı bir modele sorun. Cevaplar çelişiyorsa ikisi de şüphelidir. Çelişmemesi doğruluk garantisi değildir ama ucuz bir ilk filtredir.

Kural 5 — İstemde uydurmayı açıkça yasaklayın.
"Emin olmadığın bilgi için 'kaynak gerekli' yaz; sayı veya atıf uydurma." Bu tek satır, halüsinasyon oranını tamamen sıfırlamaz ama belirgin biçimde azaltır ve size işaretlenmiş noktalar bırakır.

``mermaid
flowchart TD
A[Model çıktısı] --> B{Sayı, tarih, isim, atıf var mı?}
B -->|Hayır| C[Dil işi — okuyup kullan]
B -->|Evet| D[Birincil kaynağı aç]
D --> E{Kaynak var ve destekliyor mu?}
E -->|Evet| F[Kullan]
E -->|Hayır| G[ÇIKAR ya da kendin araştır]
`

`
1. ŞUNLARI HER ZAMAN DOĞRULARIM: ____________________
(örn. tutar, tarih, mevzuat adı, müşteri adı, DOI)
2. ŞUNLARI DOĞRULAMAM (düşük risk): _________________
(örn. ton, cümle akışı, başlık önerisi)
3. ŞUNU ASLA MODELE SORMAM: _________________________
(örn. hasta tedavi kararı, hukuki nihai görüş, mali beyan)
``

Üçüncü satır, çoğu kişinin yazmadığı ama en koruyucu satırdır.

6. Türkiye Bağlamı ve Vaka

Türkiye'de halüsinasyon riski üç alanda özellikle yüksektir:

1. Mevzuat. Kanun, yönetmelik ve tebliğler sık değişir; model eskimiş sürümü ya da hiç var olmamış bir madde numarasını verebilir. Mevzuat bilgisi yalnızca resmî kaynaktan alınır.
2. Türkçe akademik kaynaklar. Türkçe makale ve dergi adları, eğitim verisinde İngilizceye kıyasla daha az temsil edilir; model bu boşluğu "makul görünen" uydurmalarla doldurma eğilimindedir.
3. Yerel tarih ve isimler. Az bilinen yerel kişiler, kurumlar ve olaylar hakkında model kendinden emin biçimde yanlış bilgi verebilir.

Vaka. Konya'da bir üniversitede araştırma görevlisi olan 28 yaşındaki Elif, literatür taraması yaparken modele "bu konuda 5 önemli makale" sordu. Beş referans aldı: başlıklar makul, dergiler gerçek, DOI numaraları biçimsel olarak geçerliydi.

Kontrol ettiğinde beş referanstan üçü hiç var olmayan makalelerdi. Biri gerçekti ama farklı bir konudaydı. Yalnızca biri hem gerçek hem ilgiliydi.

Elif iş akışını değiştirdi:

• Model artık referans üretmiyor; yalnızca arama terimi ve kavram haritası üretiyor ("bu konuyu ararken hangi anahtar kelimeleri kullanmalıyım?").


• Gerçek arama, akademik veri tabanlarında yapılıyor.


• Bulunan gerçek makaleler modele verilip özetletiliyor (bu, riskin en düşük olduğu kullanım).


• Her DOI, doi.org üzerinden çözümleniyor.

Bu üç adım, aracın faydasını korurken riski neredeyse sıfırladı. Kritik ayrım şudur: modelden bilgi istemek risklidir; elinizdeki bilgiyi işletmek güvenlidir.

İkinci vaka. Mersin'de bir muhasebeci, modelin verdiği bir "yönetmelik maddesi"ni müşteri bilgilendirmesine koydu. Madde numarası doğru biçimdeydi ama içerik uydurmaydı. Hata müşteri tarafından fark edildi. Büro kuralı: mevzuat atfı içeren hiçbir metin, resmî kaynaktan ekran görüntüsü alınmadan gönderilmez.

7. Anahtar Çıkarımlar

• Halüsinasyon bir arıza değil, yapısal sonuçtur (Ji ve ark. 2023). Sürüm yükseltmesi bunu ortadan kaldırmaz, azaltır.
• Model doğru cevabı değil, doğru cevabın biçimini üretir.
• En riskli alanlar: atıf/DOI, sayı, mevzuat, tarih, az bilinen isim, alıntı.
• Tona bakma, kanıta bak. Emin ton doğrulukla ilişkili değildir.
• Beş kural: sayı/tarih/isim doğrula · atıfı aç · kaynak destekli sistemde de tıkla · çapraz sorgula · istemde uydurmayı yasakla.
• Modelden bilgi istemek risklidir; elindeki bilgiyi işletmek güvenlidir.

8. Derinleşme: Halüsinasyonun Türleri

Tek bir "halüsinasyon" yoktur; farklı türleri farklı savunma gerektirir.

1. Uydurma varlık. Var olmayan bir makale, kitap, kişi, kurum ya da yasa maddesi. En kolay yakalanan tür: arayın, bulamazsanız yoktur.

2. Yanlış atıf. Gerçek bir kaynağın, aslında söylemediği bir şeyi söylediğini iddia etmek. Bu tür daha tehlikelidir, çünkü kaynak gerçektir ve yüzeysel kontrolü geçer. Savunma: kaynağı açıp ilgili yeri okumak.

3. Sayısal kayma. Doğru büyüklük sırasında ama yanlış bir sayı (%38 yerine %43, 2019 yerine 2021). Fark ettirmesi zordur çünkü makul görünür. Savunma: her sayıyı birincil kaynaktan teyit.

4. Aşırı genelleme. Belirli bir bağlamda geçerli bir bulguyu, tüm durumlara genellemek. Savunma: "bu bulgu hangi örneklemde, hangi koşulda elde edildi?" diye sormak.

5. Bağlam uydurma. Sizin verdiğiniz metinde olmayan bir ayrıntıyı, özet içinde varmış gibi sunmak. Savunma: özeti kaynak metinle yan yana okumak.

9. Model Doğrulama İçin Kullanılabilir mi?

İlginç bir soru: Modelin ürettiği metni, yine bir modele kontrol ettirmek işe yarar mı?

Kısmen. Şu kullanımlar makul:

• "Bu metindeki, doğrulanması gereken tüm olgusal iddiaları listele." (Kontrol listesi üretimi — güvenilir bir iş.)


• "Bu metinde mantıksal tutarsızlık var mı?"


• "Bu iddianın en güçlü karşı argümanı ne olurdu?"

Şu kullanımlar güvenilir değildir:

• "Bu bilgi doğru mu?" (Model, doğrulama yapamaz; yalnızca bir kanaat üretir.)


• "Bu kaynak gerçek mi?" (Aynı sorun.)

Kural şudur: Model, nereye bakmanız gerektiğini söylemekte iyidir; oraya bakmış olmakta değil. Bakma işini siz yaparsınız.

10. Sık Sorulan Sorular

"Kaynak destekli sistemler halüsinasyonu bitirir mi?" Hayır, azaltır. Ayrıca yeni bir hata türü ekler: gerçek bir kaynağı yanlış özetlemek. Bağlantıya tıklamak hâlâ şart.

"Akıl yürütme modları daha mı güvenilir?" Çok adımlı mantık görevlerinde daha iyi sonuç verirler, ama halüsinasyonu ortadan kaldırmazlar. Uzun bir düşünce zinciri, ikna edici görünen bir yanlışı da üretebilir.

"Doğrulama çok zaman alıyor, buna değer mi?" Doğrulama maliyeti kazancı aşıyorsa, o görevi devretmeyin. Bu, aracı kullanmamanın meşru bir gerekçesidir.

11. Kapanış: Doğrulama Bir Alışkanlıktır

Bu dersin adı boşuna "doğrulama alışkanlığı" değil. Doğrulama, bir kez öğrenilen bir bilgi değil, her kullanımda tekrarlanan bir davranıştır — ve tam da bu yüzden alışkanlık biliminin kurallarına tabidir.

Bunu bir alışkanlığa çevirmenin en kolay yolu, onu bir ipucuna demirlemektir: "Bir metni kopyalamadan önce, içindeki sayıları, tarihleri ve isimleri tararım." İpucu (kopyalama eylemi) sabit, davranış küçük, tekrar sık. Birkaç hafta içinde otomatikleşir — ve o noktadan sonra sizi yıllarca korur.

Unutmayın: Model size nereye bakmanız gerektiğini söylemekte iyidir; bakma işini yapmakta değil. O iş sizde kalır ve kalmaya devam edecek.