RAG, İngilizce retrieval-augmented generation ifadesinin kısaltmasıdır; Türkçede “erişimle zenginleştirilmiş üretim”, “geri çağırma destekli üretim” ya da “veri erişimiyle desteklenen üretim” diye çevrilir. Bir dil modelinin soruyu cevaplamadan önce sizin dokümanlarınızda arama yapması, ilgili bölümleri bulması ve cevabı bu bölümlere dayanarak, kaynak göstererek yazması demektir. Model bilgiyi ezberinden değil, o anda önüne konan metinden alır. Böylece şirketinize özel ve güncel bilgiyle, doğrulanabilir cevaplar üretilebilir.
Yöntem, Patrick Lewis ve arkadaşlarının 2020’de yayımladığı ve NeurIPS 2020’de sunulan makaleyle yaygınlaştı. Makale, modelin ağırlıklarında tuttuğu bilgiyi Wikipedia’dan oluşturulmuş aranabilir bir indeksle birleştirdi ve iki avantajı öne çıkardı: cevabın hangi kaynaktan geldiğini gösterebilmek ve bilgiyi modeli yeniden eğitmeden güncelleyebilmek. Bu yazıda yöntemi, işin teknik tarafıyla her gün uğraşmayan okurlar için sade bir dille anlatıyoruz.
RAG neden gerekli, nerelerde kullanılır?
Dil modelleri eğitim verisinde gördüklerini bilir. Şirketinizin iç prosedürlerini, geçen ay değişen iade koşullarını ya da bir müşteriyle imzaladığınız sözleşmenin maddelerini bilmez. Bilmediği bir soruyla karşılaştığında da “bilmiyorum” demek yerine makul görünen ama yanlış bir cevap üretebilir.
RAG bu iki soruna yönelir: Modele cevabı yazarken ihtiyaç duyduğu güncel ve özel bilgiyi verir, cevabın dayandığı kaynağı da görünür kılar. OpenAI’ın model doğruluğu rehberi de modelin bilgisinin eski kaldığı ya da şirkete özel bilgiye ihtiyaç duyulduğu durumlar için bu yaklaşımı öneriyor.
Tipik kullanım alanları şunlar:
- Müşteri destek asistanı: Yardım merkezi makalelerinden, kullanım kılavuzlarından ve iade koşullarından cevap verir. Web sitesinde ya da WhatsApp üzerinden çalışabilir; emin olmadığında konuşmayı insan temsilciye devreder.
- Şirket içi bilgi arama: Prosedürler, İK yönetmelikleri, teknik dokümanlar ve sözleşmeler arasında, kullanıcının yetkisi dahilinde kaynaklı cevap verir.
- Saha ve teknik ekipler: Bakım kılavuzlarında ve geçmiş arıza kayıtlarında arama yapar.
Aynı mantık yapay zeka arama motorlarında da işler: ChatGPT’nin web araması, Perplexity ve Google’ın yapay zeka özetleri cevabı yazmadan önce web’de arama yapar ve kullandıkları sayfaları kaynak gösterir. Sitenizin bu cevaplarda kaynak olarak geçmesi için yapılan çalışmayı GEO nedir yazımızda anlattık.
Her durumda RAG gerekmez. Anthropic, 200.000 token’dan (yaklaşık 500 sayfa) küçük bir bilgi tabanının tamamının doğrudan modele verilebileceğini belirtiyor. RAG; doküman hacmi bunu aştığında, içerik sık değiştiğinde ya da kullanıcıya göre farklı dokümanların gösterilmesi gerektiğinde anlam kazanır.
RAG nasıl çalışır?
Bir RAG sistemini beş adımda düşünebilirsiniz. İlk üç adım dokümanlar eklendiğinde ya da değiştiğinde, son iki adım her soru geldiğinde çalışır.
- Dokümanların alınması. PDF, Word, web sayfası ve destek kayıtları gibi kaynaklar düz metne çevrilir. Başlıklar, tablolar ve sayfa numaraları korunur; taranmış belgeler için önce metin tanıma (OCR) gerekir.
- Parçalama (chunking). Uzun dokümanlar küçük parçalara bölünür. Anthropic’in anlatımına göre bu parçalar genellikle birkaç yüz token’ı geçmez. Her parçaya doküman adı, bölüm başlığı, tarih ve erişim yetkisi gibi bilgiler eklenir.
- Embedding. Bir embedding modeli her parçayı, anlamını temsil eden bir sayı dizisine (vektöre) çevirir ve bu vektörler bir veritabanında saklanır. Böylece “iade süresi” diye arayan kullanıcı, “cayma hakkı” geçen bölümü de bulabilir.
- Arama. Soru da vektöre çevrilir ve anlamca en yakın parçalar bulunur. Anlamsal arama ürün kodu ya da madde numarası gibi birebir eşleşmeleri kaçırabildiği için klasik anahtar kelime aramasıyla (BM25) birlikte kullanılır; buna hibrit arama denir. Anthropic’in kendi testlerinde parçalara bağlam eklemek, hibrit arama ve sonuçları yeniden sıralamak (reranking) bir arada kullanıldığında, aranan bilginin ilk 20 sonuçta bulunamadığı durumlar %67 azaldı.
- Kaynaklı cevap üretimi. Bulunan parçalar soruyla birlikte dil modeline verilir. Modelden yalnızca bu parçalara dayanarak cevap vermesi, hangi dokümanın hangi bölümünü kullandığını belirtmesi ve cevap parçalarda yoksa bunu açıkça söylemesi istenir.
RAG mı, ince ayar (fine-tuning) mı?
İnce ayar, bir modeli kendi örneklerinizle yeniden eğitmektir. OpenAI’ın aynı rehberi ince ayarı üslup, format ve davranış tutarlılığı sorunları için; RAG yaklaşımını ise eksik ya da güncel olmayan bilgi için konumlandırıyor ve iki yöntemin birlikte kullanılabileceğini belirtiyor.
| Konu | RAG | İnce ayar |
|---|---|---|
| Neyi çözer? | Eksik, şirkete özel ya da eskimiş bilgi | Üslup, format ve davranış tutarlılığı |
| Bilgi değişince | Doküman güncellenir, yeniden indekslenir | Model yeniden eğitilir |
| Kaynak gösterme | Cevap, kullanılan parçaya bağlanabilir | Bilgi model ağırlıklarında olduğu için kaynak gösterilemez |
| Yetki kontrolü | Arama aşamasında doküman bazında uygulanır | Modele öğretilen bilgiyi kullanıcıya göre kısıtlamak zordur |
| Gereken veri | Mevcut dokümanlarınız | Çok sayıda, özenle hazırlanmış örnek |
Şirket bilgisinden cevap veren bir asistan için çoğu zaman RAG ile başlamak daha mantıklıdır. İnce ayar, iyi yazılmış talimatlar ve RAG ile çözülemeyen bir üslup ya da format sorunu kaldığında gündeme gelir.
Erişim yetkisi ve veri gizliliği
RAG sistemlerinde en sık gözden kaçan risk, kullanıcının normalde açamayacağı bir dokümanın asistan üzerinden ona gösterilmesidir. OWASP’ın yapay zeka uygulamaları için yayımladığı risk listesindeki LLM08:2025 maddesi, yetersiz erişim denetiminin vektör veritabanındaki hassas bilgilerin yetkisiz kişilere açılmasına yol açabileceğini anlatıyor. Önerilenler arasında yetkiye duyarlı vektör depoları, veri setlerinin mantıksal olarak ayrılması, verinin erişim düzeyine göre etiketlenmesi ve arama kayıtlarının tutulması var.
Pratikte bunun anlamı şudur: Her parça geldiği dokümanın yetki bilgisini taşır ve filtreleme arama sırasında yapılır. Modele “bunu bu kullanıcıya gösterme” demek yeterli değildir; kullanıcının göremeyeceği parça modele hiç ulaşmamalıdır.
İkinci risk, dokümanların içine gizlenmiş talimatlardır. OWASP’ın LLM01:2025 maddesi, modelin işlediği web sayfası ya da dosya gibi dış içeriklerdeki talimatların modelin davranışını değiştirebildiğini ve RAG ya da ince ayar gibi yöntemlerin bu riski tamamen gidermediğini belirtiyor. Bu yüzden bilgi tabanına yalnızca güvendiğiniz kaynaklardan içerik alınmalı, asistanın yapabileceği işlemler de sınırlı tutulmalıdır.
Son olarak verinin nerede işleneceğine karar verin. Dokümanlarınız hem embedding hem cevap aşamasında bir modele gönderilir. Bulut tabanlı bir model mi, yoksa verinin şirket dışına çıkmadığı bir kurulum mu kullanılacağı verinin hassasiyetine bağlıdır. Dokümanlar kişisel veri içeriyor ve model yurt dışındaki bir sunucuda çalışıyorsa Kişisel Verilerin Korunması Kanunu’nun (KVKK) 9. maddesi devreye girer. 2024’te değişen bu madde, Ekim 2026 itibarıyla yurt dışına aktarımı bir yeterlilik kararına, standart sözleşme gibi uygun güvencelerden birine ya da sınırlı sayıdaki arızi hallerden birine bağlıyor. Kişisel Verileri Koruma Kurumu’nun rehberler sayfasında yurt dışına aktarım rehberi de yer alıyor.
Cevap kalitesi ve sık yapılan hatalar
Neyi ölçmeli?
Kalite ölçümü, gerçek kullanıcı sorularından oluşan bir test setiyle başlar; her soru için doğru cevabın hangi dokümanda olduğu not edilir. Sonra üç şey ayrı ayrı ölçülür: Arama doğru parçayı buldu mu? Cevap bulunan parçalara sadık mı? Cevap soruyu gerçekten karşılıyor mu? Es ve arkadaşlarının 2023 tarihli Ragas çalışması, bu boyutları referans cevap gerektirmeden otomatik olarak ölçmek için bir yöntem öneriyor. Canlıya çıktıktan sonra kullanıcı geri bildirimleri, cevapsız kalan sorular ve insana devredilen konuşmalar da düzenli olarak incelenmelidir.
Eski ve çelişen dokümanlar
Aynı prosedürün üç sürümü bilgi tabanındaysa model eskisini de kullanabilir. Her bilginin tek bir güncel kaynağı olmalı; güncellenen ya da kaldırılan doküman indekste de otomatik olarak güncellenmeli veya silinmelidir.
Kötü parçalama
Ortadan bölünmüş bir tablo ya da başlığından koparılmış bir paragraf anlamını kaybeder. Anthropic’in yazısındaki örnekte “şirketin geliri bir önceki çeyreğe göre %3 arttı” cümlesi, tek başına hangi şirketten ve hangi dönemden söz ettiğini söylemez. Bu yüzden parçalama başlıkları koruyacak şekilde yapılmalı, gerekirse her parçaya kısa bir bağlam eklenmelidir.
Kaynaksız cevaplar ve uydurma
RAG uydurma cevapları azaltır ama ortadan kaldırmaz. Magesh ve arkadaşlarının 2024 çalışmasında, LexisNexis ve Thomson Reuters’ın yapay zeka destekli hukuk araştırma araçlarının testlerde zamanın %17 ile %33’ünde uydurma bilgi (hallucination) ürettiği görüldü; yazarlar bu araçların RAG kullandığını ve uydurmayı azalttığını ama sıfırlamadığını belirtiyor. Kaynak göstermeyen bir asistanda bu hataları kullanıcı fark edemez. Kaynak göstermeyi zorunlu tutun, cevap bulunamadığında asistanın “bulamadım” demesine izin verin ve kritik konularda insan kontrolünü koruyun.
Sık sorulan sorular
RAG’in açılımı ve Türkçesi ne?
RAG, retrieval-augmented generation ifadesinin baş harfleridir: retrieval erişim ya da geri getirme, augmented zenginleştirilmiş, generation üretim demektir. Türkçede yerleşmiş tek bir karşılığı yok; “erişimle zenginleştirilmiş üretim” ve “geri çağırma destekli üretim” en sık kullanılanlar. İngilizcede “rag” kelimesinin sözlük anlamı “paçavra”dır; yapay zeka bağlamında ise RAG her zaman bu kısaltmayı ifade eder.
RAG nasıl yapılır?
Kısaca dört adımda: dokümanlar toplanıp metne çevrilir, parçalara bölünüp aranabilir bir indekse eklenir, soru geldiğinde en ilgili parçalar bulunur ve dil modeli bu parçalarla birlikte soruyu alıp kaynak göstererek cevap yazar. Her adımın ayrıntısını yukarıdaki “RAG nasıl çalışır?” bölümünde anlattık.
RAG mimarileri nelerdir?
Gao ve arkadaşlarının 2023 tarihli derleme çalışması RAG’i üç aşamada sınıflandırıyor. Naive RAG temel “ara, getir, yaz” akışıdır. Advanced RAG buna aramadan önce soruyu iyileştirme ve aramadan sonra sonuçları yeniden sıralama gibi adımlar ekler. Modular RAG ise arama, bellek ve yönlendirme gibi parçaların ihtiyaca göre birleştirildiği esnek yapılardır. Şirket içi asistanların çoğu Advanced RAG ile başlar.
RAG, dokümanlarımızı modele öğretir mi?
Hayır. Dokümanlar her soru geldiğinde modele bağlam olarak verilir; modelin kendisi yeniden eğitilmez. Bir dokümanı bilgi tabanından çıkardığınızda asistan onu kullanmayı bırakır. Yine de bulut tabanlı bir model kullanıyorsanız, sağlayıcının gönderilen veriyi saklama ve kullanma koşullarını sözleşmede kontrol edin.
Hangi dil modelini kullanmalıyız?
Tek bir doğru cevap yok. Verinin hassasiyeti, Türkçe cevap kalitesi, maliyet ve hız birlikte değerlendirilir. En sağlıklı yol, birkaç modeli kendi sorularınızdan oluşan test setiyle karşılaştırmaktır.
Sonuç
RAG, bir dil modelini sizin dokümanlarınıza bağlayarak güncel, şirkete özel ve kaynağı gösterilebilen cevaplar almanın pratik bir yoludur. İyi sonuç; düzgün alınmış ve parçalanmış dokümanlara, hibrit aramaya, arama aşamasında uygulanan yetki kontrolüne ve düzenli kalite ölçümüne bağlıdır.
Yapay zekayı kendi ürünümüzde de kullanıyoruz: Dynamic Translator, yapay zeka çevirisini insan düzenlemesiyle birleştiriyor. Dokümanlarınızdan kaynaklı cevap veren bir asistan düşünüyorsanız yapay zeka çözümleri sayfamıza göz atabilir ya da bize yazabilirsiniz; verinizin yapısına ve hassasiyetine birlikte bakalım.
