RAG:AI’ya belge vermek neden tek başına yetmez?

Bir kuruma ait güncel bilgiyi modele ezberletmek yerine, soru anında ilgili belgeleri bulup yanıt üretimine eklemek mümkün olabilir. Retrieval-Augmented Generation, kısaca RAG, bu arama ve üretim ilişkisinin önemli yaklaşımlarından biridir.

Bana kalırsa bir AI sistemine belge ekleyince bütün bilgi sorunu çözülmüş gibi davranmak fazla iyimser. Benim için önemli olan, sistemin hangi parçayı seçtiği ve cevabını o parçaya nasıl dayandırdığı. Yanlış bölüm bulunursa düzgün yazılmış bir cevap yine yanlış yönlendirebilir. Bu nedenle kaynak seçimi, cevabın üslubundan önce kontrol etmek isteyeceğim bir aşama olurdu.

Temel fikir

2020 tarihli RAG çalışması, üretici modeli dışarıdan getirilen bilgiyle birleştiren bir yöntem sunar. Bu yaklaşım kaynağa erişimi güçlendirebilir; fakat yanlış belge getirilmesi veya doğru belgenin yanlış yorumlanması yine mümkündür. Kaynaklı görünmek, doğruluğu otomatik garanti etmez.

Bir örnek üzerinden

Bir hizmet rehberinde teslim süresini soran kullanıcı düşün. Sistem yanlış ürünün koşullarını getirirse akıcı bir yanıt verse bile sonuç hatalıdır. Denemeyi sadece cevap güzel mi sorusuyla yapma. Doğru belge bulundu mu, ilgili bölüm seçildi mi, yanıt o bölümle destekleniyor mu diye ayrı bak.

Nereden başlamalı?

Küçük bir soru listesiyle başla; özellikle yanıtsız kalması gereken soruları ekle. Belge yokken bilmiyorum diyebilmek sistemin başarısının bir parçasıdır. Kaynak bağlantısını kullanıcıya sunmak da kontrolü kolaylaştırır.

Benim yaklaşımım

Bir portfolyo asistanı tasarlasam yalnızca proje açıklamalarını yüklemekle yetinmezdim. Benzer isimli iki proje hakkında sorular sorar, cevabın doğru belgeye bağlanıp bağlanmadığını incelerdim. Belgede olmayan bütçe veya teslim süresi sorulduğunda ise tahmin üretmesini istemezdim. Benim için “bu bilgi kaynakta yok” cevabı, ikna edici bir uydurmadan daha değerlidir.