Erişim Destekli Üretim (RAG) Nedir?

Erişim Destekli Üretim (RAG) Nedir?

Son güncelleme

Erişim destekli üretim, İngilizce Retrieval-Augmented Generation (RAG) olarak adlandırılan, büyük dil modelinin yanıt üretmeden önce harici bir bilgi kaynağından ilgili içerikleri bulup kendi bağlamına eklediği yapay zekâ yaklaşımıdır. Sistem; mevzuat veri tabanı, mahkeme kararları, sözleşmeler, kurum içi belgeler veya başka bilgi kaynaklarından ilgili parçaları getirir. Model daha sonra bu içerikleri kullanarak yanıt oluşturur. Böylece yalnız eğitim verisine dayanan üretime kıyasla daha güncel, kaynak bağlantılı ve konuya özgü yanıt üretimi amaçlanır.

RAG’in temel değeri, modele her yeni bilgi için yeniden eğitim verilmesini gerektirmeden harici kaynakların kullanılabilmesidir. Microsoft’un teknik açıklamasına göre RAG, modelin belirli verilere eğitim almadan bu verileri bilgi kaynağı olarak kullanabilmesini sağlar. Bu özellik hukukta özellikle güncel mevzuat, yeni yayımlanan içtihat ve kurum içi dosyalar açısından önemlidir.

Erişim Destekli Üretimin Teknik ve Hukuki Niteliği

Erişim destekli üretim bağımsız bir hukuki kurum değildir. Esas olarak yapay zekâ sistemleri için bilgi erişimi ve metin üretimini birleştiren teknik mimari yaklaşımıdır.

Teknik olarak RAG iki temel sistemi birlikte çalıştırır:

  • Bilgi erişim sistemi.
  • Üretken dil modeli.

Bilgi erişim katmanı ilgili kaynakları bulur. Büyük dil modeli ise bu kaynakları kullanarak doğal dil çıktısı üretir.

Hukuki açıdan RAG’in önemi, kullanılan kaynakların niteliği ve işlenen veriler üzerinden ortaya çıkar. Örneğin mahkeme dosyaları, müvekkil belgeleri veya çalışan kayıtları bir RAG veri tabanına aktarılıyorsa kişisel veri, gizlilik, erişim yetkisi ve meslek sırrı gibi yükümlülükler gündeme gelebilir.

Kişisel Verileri Koruma Kurumu da üretken yapay zekâ sistemlerinin yaşam döngüsündeki kişisel veri işleme faaliyetlerinin 6698 sayılı Kişisel Verilerin Korunması Kanunu kapsamında değerlendirilmesi gerektiğini belirtmektedir.

RAG Nasıl Çalışır?

RAG sistemi, kullanıcının sorusunu doğrudan modele göndermek yerine önce ilgili bilgi kaynaklarını araştırır.

Basitleştirilmiş süreç şu şekilde işler:

  1. Kullanıcının sorgusu alınır.
  2. Sorgunun anlamı veya anahtar kavramları analiz edilir.
  3. Bilgi kaynağında arama yapılır.
  4. En ilgili belge veya belge parçaları bulunur.
  5. Getirilen içerikler modelin bağlamına eklenir.
  6. Kullanıcının sorusu ve kaynaklar modele birlikte gönderilir.
  7. Model kaynaklardan yararlanarak yanıt üretir.
  8. Sistem varsa kaynak bağlantılarını kullanıcıya gösterir.

Microsoft RAG yaklaşımını, verinin hazırlanması, ilgili bilginin bulunması ve bu bilginin üretken modele verilerek yanıtın dayanaklandırılması şeklinde açıklar.

Retrieval Aşaması Nedir?

“Retrieval”, yani erişim veya getirme aşaması, RAG’in ilk temel bölümüdür.

Sistem bu aşamada kullanıcının sorusuyla ilgili olabilecek bilgileri belirli bir veri kaynağında arar.

Kaynaklar arasında:

  • mevzuat veri tabanı,
  • mahkeme kararları,
  • kurum içi bilgi bankası,
  • sözleşme arşivi,
  • PDF belgeleri,
  • internet sayfaları,
  • SQL veri tabanı,
  • doküman yönetim sistemi

bulunabilir.

Google Cloud, RAG’in dış veri kaynaklarında arama yaparak ilgili bilgileri getirip üretken modelle birleştirdiğini belirtmektedir.

Bu aşamada yanlış belgeler getirilirse sonraki üretim aşaması da hatalı olabilir.

Generation Aşaması Nedir?

Generation, yani üretim aşamasında büyük dil modeli kullanıcının sorusunu getirilen kaynaklarla birlikte değerlendirir.

Model yalnız kendi eğitim bilgisinden hareket etmek yerine kendisine sağlanan kaynak parçalarını da kullanır.

Örneğin kullanıcı “HMK m. 281’e göre bilirkişi raporuna itiraz süresi nedir?” diye sorabilir.

RAG sistemi önce güncel Hukuk Muhakemeleri Kanunu metnini bulur. Ardından ilgili maddeyi model bağlamına ekler. Model yanıtını bu metne dayanarak oluşturur.

Bu yaklaşım, özellikle değişebilen mevzuat bilgisinde modelin yalnız geçmiş eğitim verisine güvenmesini azaltır.

Grounding Nedir?

Grounding, model yanıtının belirli ve doğrulanabilir bilgi kaynaklarına dayandırılmasıdır.

RAG sisteminin temel amaçlarından biri yanıtı getirilen belgelerle “ground” etmektir.

Microsoft’un RAG değerlendirme yaklaşımında da kullanıcı sorgusunun ilgili dayanak belgeleri bulması ve model yanıtının bu belgelerle tutarlı olması temel kalite ölçütlerinden biri olarak ele alınmaktadır.

Hukukta grounding özellikle önemlidir. Çünkü bir hukuki cevabın:

  • hangi kanuna,
  • hangi maddeye,
  • hangi mahkeme kararına,
  • hangi sözleşme hükmüne

dayandığının gösterilebilmesi gerekir.

RAG Sisteminde Belgeler Nasıl Hazırlanır?

RAG yalnız belge araması değildir. Kaynak belgelerin aramaya uygun hâle getirilmesi de gerekir.

Uzun belgeler çoğunlukla daha küçük parçalara ayrılır. Bu işleme “chunking” denir.

Sonrasında bu parçalar:

Microsoft’un örnek RAG mimarisinde metnin parçalara ayrılması, embedding oluşturulması ve vektör indeksine aktarılması temel aşamalar arasında gösterilmektedir.

Belge parçalarının çok kısa veya çok uzun olması arama kalitesini etkileyebilir.

Chunking Nedir?

Chunking, uzun belgelerin arama ve model kullanımı için daha küçük bölümlere ayrılmasıdır.

Örneğin 150 sayfalık bir kanun veya sözleşme tek parça olarak indekslenmek yerine:

  • madde,
  • başlık,
  • paragraf,
  • sayfa,
  • anlamlı metin bölümü

bazında parçalara ayrılabilir.

Hukuki belgelerde yalnız sabit karakter sayısıyla bölme yapmak bazen anlam bütünlüğünü bozabilir.

Örneğin bir kanun maddesinin fıkrası ile istisnasının farklı parçalara ayrılması modelin yanlış sonuç üretmesine neden olabilir.

Bu nedenle hukuk RAG sistemlerinde belge yapısını koruyan chunking yöntemleri önemlidir.

Embedding Nedir?

Embedding, metnin anlamını bilgisayar tarafından karşılaştırılabilecek sayısal bir vektör hâline dönüştüren temsildir.

Örneğin:

“iş sözleşmesinin haksız feshi”

ile

“geçerli neden olmadan iş akdinin sona erdirilmesi”

ifadeleri aynı kelimeleri kullanmasa bile embedding uzayında birbirine yakın olabilir.

RAG sistemi bu yakınlığı kullanarak kullanıcının sorgusuyla anlam bakımından ilgili belge parçalarını bulabilir.

Microsoft teknik dokümantasyonunda RAG için verilerin embedding’lerinin oluşturulması ve kullanıcı sorgusuyla karşılaştırılarak ilgili bağlamın bulunması temel yöntemlerden biri olarak açıklanmaktadır.

Vektör Veri Tabanı Nedir?

Vektör veri tabanı, embedding adı verilen sayısal temsillerin saklanmasına ve hızlı benzerlik araması yapılmasına imkân veren veri altyapısıdır.

RAG sistemi kullanıcının sorusunu da embedding’e dönüştürebilir. Ardından veri tabanındaki en yakın belge parçalarını bulur.

Örneğin bir hukuk bürosunda:

  • sözleşmeler,
  • hukuki görüşler,
  • dava dosyaları,
  • içtihat notları

vektör veri tabanında indekslenebilir.

Ancak vektör veri tabanı RAG için zorunlu tek yöntem değildir. Anahtar kelime araması, SQL sorguları veya hibrit arama yöntemleri de kullanılabilir. Microsoft, RAG sistemlerinin vektör mağazası, anahtar kelime araması veya SQL veri tabanı gibi farklı kaynakları sorgulayabileceğini belirtmektedir.

Semantik Arama ile RAG Arasındaki İlişki Nedir?

Semantik arama, RAG’in bilgi erişim aşamasında kullanılabilecek yöntemlerden biridir.

Semantik arama kullanıcının kullandığı kelimelerin aynısını değil, sorgunun anlamını dikkate alır.

Örneğin kullanıcı:

“avukat aynı uyuşmazlıkta karşı tarafı temsil edebilir mi?”

diye sorabilir.

Kaynak belgede ise “menfaati zıt tarafa hukuki yardım” ifadesi bulunabilir.

Semantik arama bu iki ifade arasındaki anlamsal ilişkiyi yakalamaya çalışır.

RAG sistemi daha sonra bulunan ilgili metni modele verir.

Hibrit Arama Nedir?

Hibrit arama, anahtar kelime araması ile semantik veya vektör aramasını birlikte kullanır.

Hukuk metinlerinde bu yöntem özellikle yararlı olabilir.

Çünkü bazı unsurlar tam eşleşme gerektirir:

  • kanun numarası,
  • madde numarası,
  • esas numarası,
  • karar numarası,
  • kurum adı.

Buna karşılık bazı sorgular anlam eşleştirmesi gerektirir:

  • haklı fesih,
  • menfaat çatışması,
  • sözleşmenin yorumlanması.

Hibrit arama, bu iki yöntemi birlikte kullanarak daha dengeli sonuç üretmeyi amaçlar.

RAG ile Fine-Tuning Arasındaki Fark Nedir?

RAG ile fine-tuning farklı amaçlara hizmet eder.

Yöntem Temel İşlev
RAG Yanıt üretme sırasında harici kaynaklardan bilgi getirir.
Fine-tuning Modeli ek eğitim verileriyle belirli davranış veya göreve uyarlar.
Prompt Engineering Modele verilen talimat ve bağlamın yapılandırılmasını sağlar.
Arama Motoru İlgili belgeleri bulur ancak tek başına üretken yanıt oluşturmaz.

Microsoft’un güncel teknik açıklamasına göre RAG, gerçek zamanlı veya özel bilgiyi çalışma sırasında modele sağlar; fine-tuning ise modeli daha küçük ve özel bir veri kümesi üzerinde yeniden eğitir.

Bu nedenle güncel mevzuatı modele öğretmek için her mevzuat değişikliğinde fine-tuning yapılması gerekmez. RAG sistemi güncel metni kaynaktan getirerek kullanabilir.

RAG Modeli Eğitir mi?

Kural olarak RAG’in temel işlevi modeli yeniden eğitmek değildir.

RAG, bilgiyi çalışma anında modelin bağlamına ekler.

Örneğin kurum içindeki 50.000 sözleşme indekslenebilir. Kullanıcı belirli bir sözleşmeyle ilgili soru sorduğunda ilgili parçalar bulunur ve modele gönderilir.

Bu süreç sözleşmelerin otomatik olarak model parametrelerine kalıcı şekilde işlendiği anlamına gelmez.

Microsoft da RAG’in verileri modele yeniden eğitim vermeden kullanılabilir hâle getirdiğini açıkça belirtmektedir.

Bununla birlikte kullanılan sağlayıcının veri saklama ve model geliştirme politikaları ayrıca değerlendirilmelidir.

RAG Halüsinasyonu Ortadan Kaldırır mı?

Hayır. RAG halüsinasyon riskini azaltabilir ancak tamamen ortadan kaldırmaz.

Sistem şu nedenlerle yine yanlış cevap verebilir:

  • yanlış belge getirilebilir,
  • doğru belgenin yanlış bölümü getirilebilir,
  • model kaynağı yanlış yorumlayabilir,
  • getirilen kaynak güncel olmayabilir,
  • cevap kaynağın söylemediği sonucu içerebilir.

Bu nedenle RAG sisteminde iki ayrı kalite sorunu vardır:

  1. Doğru kaynak getirildi mi?
  2. Model kaynağa uygun cevap verdi mi?

Microsoft’un RAG değerlendirme araçları da belge erişim kalitesi ile oluşturulan cevabın dayanak belgelerle tutarlılığını ayrı değerlendirme alanları olarak ele almaktadır.

RAG Güncel Bilgi Sağlar mı?

RAG’in önemli avantajlarından biri güncel kaynakların çalışma anında kullanılabilmesidir.

Modelin eğitim verisi belirli bir tarihte sona erebilir. RAG sistemi ise güncel:

  • mevzuat,
  • Resmî Gazete,
  • mahkeme kararı,
  • şirket politikası,
  • fiyat,
  • iç prosedür

kaynaklarını arayabilir.

Google Cloud, RAG’in dış veriler ve güncel bilgiyle birlikte çalışarak daha güncel ve bağlama uygun cevaplar üretmeyi amaçladığını belirtmektedir.

Ancak kaynak veri tabanı güncellenmiyorsa RAG sistemi de eski bilgi kullanabilir.

Hukukta RAG Nasıl Kullanılır?

Hukuk alanında RAG özellikle kaynak doğruluğunun önemli olduğu araştırma ve belge analizi görevlerinde kullanılabilir.

Başlıca kullanım alanları şunlardır:

  • Güncel mevzuat üzerinden soru cevaplama.
  • Yargı kararlarından ilgili içtihatları getirme.
  • Sözleşme hükümlerini araştırma.
  • Dava dosyasında belirli delilleri bulma.
  • Kurum içi hukuki görüşleri sorgulama.
  • Hukuki bilgi bankası oluşturma.
  • Dilekçe üretiminde kaynak sağlama.
  • Emsal karar eşleştirme.
  • Atıf doğrulama.
  • Uyum politikalarından soru cevaplama.

Bu kullanım alanlarında modelin yalnız hafızasına değil, gerçek belgelere dayalı çalışması amaçlanır.

Mevzuat RAG Sistemi Nasıl Çalışır?

Bir mevzuat RAG sisteminde kanun, yönetmelik ve diğer düzenlemeler önceden indekslenebilir.

Kullanıcı bir soru sorduğunda sistem:

  1. Hukuki kavramı tespit eder.
  2. İlgili mevzuatı arar.
  3. En ilgili madde veya fıkraları getirir.
  4. Yürürlük bilgisini kontrol eder.
  5. Kaynakları modele aktarır.
  6. Model açıklayıcı yanıt üretir.
  7. Kullanıcıya kaynak bağlantısı sunulur.

Örneğin “elektronik tebligat ne zaman yapılmış sayılır?” sorusunda sistem Tebligat Kanunu m. 7/a’yı getirip yanıtı bu maddeye dayandırabilir.

Bu yaklaşım, kanun maddesi numarasının model tarafından tahmin edilmesi yerine gerçek kaynaktan alınmasını sağlar.

İçtihat RAG Sistemi Nasıl Çalışır?

İçtihat RAG sisteminde mahkeme kararları aranabilir ve benzer karar parçaları modele aktarılabilir.

Sistem özellikle:

  • uyuşmazlık türü,
  • hukuki kavram,
  • kanun maddesi,
  • maddi vakıa,
  • karar sonucu

üzerinden ilgili kararları bulabilir.

Ancak getirilen kararın emsal değerinin ayrıca hukukçu tarafından değerlendirilmesi gerekir.

RAG yalnız ilgili kararı bulmayı kolaylaştırır. Bir Yargıtay kararının somut olayda bağlayıcı veya doğrudan uygulanabilir olduğunu kendiliğinden belirlemez.

Kaynak Gösteren RAG Neden Önemlidir?

Bir RAG sisteminin yalnız doğru cevap üretmesi değil, cevabın hangi kaynağa dayandığını gösterebilmesi de önemlidir.

Örneğin sistem:

“Bilirkişi raporuna itiraz süresi iki haftadır.”

şeklinde cevap verdiğinde, ilgili HMK maddesini de göstermelidir.

Kaynak bağlantısı sayesinde kullanıcı:

  • belgenin gerçekten var olduğunu,
  • metnin güncel olup olmadığını,
  • modelin kaynağı doğru yorumlayıp yorumlamadığını

kontrol edebilir.

Microsoft’un RAG yaklaşımında da kaynaklandırılmış ve grounding belgeleriyle tutarlı cevap üretimi önemli kalite hedefleri arasında yer almaktadır.

RAG Sistemlerinde Kişisel Veri İşlenebilir mi?

Evet.

RAG sisteminin kaynak veri tabanı şu tür bilgiler içerebilir:

  • dava dosyaları,
  • çalışan kayıtları,
  • müşteri sözleşmeleri,
  • sağlık verileri,
  • iletişim bilgileri,
  • finansal bilgiler.

Bu içeriklerde kişisel veri bulunması hâlinde 6698 sayılı Kişisel Verilerin Korunması Kanunu kapsamında veri işleme faaliyeti gündeme gelebilir.

Kişisel Verileri Koruma Kurumu, üretken yapay zekâ sistemlerinin geliştirilmesi ve kullanılması sırasında gerçekleşen kişisel veri işleme faaliyetlerinin Kanun kapsamında ele alınması gerektiğini belirtmektedir.

Bu nedenle RAG veri tabanına belge eklenmeden önce hukuki ve teknik erişim kuralları değerlendirilmelidir.

RAG Sistemlerinde Yetkilendirme Neden Önemlidir?

RAG sistemi kullanıcının erişmemesi gereken belgeyi bulup modele gönderirse veri güvenliği ihlali oluşabilir.

Örneğin bir şirket çalışanı yalnız kendi departman belgelerine erişebiliyor olabilir. Ancak RAG indeksinde insan kaynakları ve hukuk departmanı belgeleri de bulunabilir.

Arama katmanı kullanıcı yetkisini dikkate almıyorsa sistem gizli belgeleri yanıt içinde açığa çıkarabilir.

Bu nedenle kurumsal RAG sistemlerinde:

  • belge bazlı yetkilendirme,
  • kullanıcı rolü kontrolü,
  • erişim logları,
  • veri sınıflandırması,
  • kaynak filtreleme

önem taşır.

Kişisel Verileri Koruma Kurumu da iş yerlerinde üretken yapay zekâ kullanımının kurumsal politika, izleme ve veri güvenliği çerçevesinde yönetilmesinin önemine dikkat çekmektedir.

RAG ile Arama Motoru Aynı Şey midir?

Hayır.

Arama motoru ilgili belgeleri kullanıcıya getirir. RAG ise getirilen belgeleri üretken modelin bağlamına ekleyerek doğal dil yanıtı oluşturur.

Örneğin arama motoru:

  • HMK m. 281,
  • ilgili Yargıtay kararları,
  • bilirkişilik yönetmeliği

sonuçlarını listeleyebilir.

RAG sistemi ise bu kaynaklardan ilgili bölümleri seçerek “bilirkişi raporuna itiraz nasıl yapılır?” sorusuna kaynak bağlantılı bir açıklama üretebilir.

RAG bu nedenle arama ve üretimi birlikte kullanan bir mimaridir.

Erişim Destekli Üretimin Yasal Dayanağı

Türk hukukunda “erişim destekli üretim” veya “RAG” adıyla bağımsız bir hukuki kurum düzenlenmemiştir.

RAG esas olarak yapay zekâ ve bilgi erişim teknolojisidir. Hukuki yükümlülükler kullanılan veri ve kullanım amacına göre belirlenir.

Özellikle kişisel veri işleniyorsa 6698 sayılı Kişisel Verilerin Korunması Kanunu uygulanabilir. Kişisel Verileri Koruma Kurumu, üretken yapay zekâ sistemlerindeki kişisel veri işleme faaliyetlerinin hukuka uygunluk, veri güvenliği, şeffaflık ve ilgili kişi hakları bakımından değerlendirilmesi gerektiğini açıklamaktadır.

Hukuk bürosu veya kurum içinde kullanılan RAG sistemlerinde ayrıca:

  • meslek sırrı,
  • ticari sır,
  • sözleşmesel gizlilik,
  • fikrî mülkiyet,
  • erişim yetkisi,
  • veri saklama

kuralları gündeme gelebilir.

Bu nedenle RAG’in kendisi için tek bir kanuni rejim bulunmaz; sisteme aktarılan veri ve sistemin işlevi hukuki çerçeveyi belirler.

RAG ile Benzer Kavramların Farkı

Kavram Temel Fark
Erişim Destekli Üretim (RAG) Harici kaynaktan bilgi getirip üretken modele bağlam sağlar.
Büyük Dil Modeli Verilen bağlama göre metin üretir.
Semantik Arama Anlamsal olarak ilgili belgeleri bulur; tek başına cevap üretmez.
Vektör Veri Tabanı Embedding’leri saklar ve benzerlik araması sağlar.
Fine-Tuning Modeli ek verilerle yeniden eğitir.
Prompt Engineering Modele verilen talimat ve bağlamı yapılandırır.
Arama Motoru Kullanıcıya ilgili kaynakları listeler.
Grounding Model yanıtının belirli kaynaklara dayandırılmasını ifade eder.

RAG sistemi bu kavramların birden fazlasını aynı mimari içinde kullanabilir.

Uygulamada Erişim Destekli Üretim

Bir hukuk bürosunun güncel mevzuat ve Yargıtay kararlarından oluşan özel bir bilgi tabanı kurduğunu düşünelim.

Avukat sisteme “işçinin fazla çalışma alacağında imzalı bordronun etkisi nedir?” sorusunu gönderir.

RAG sistemi önce veri tabanındaki ilgili İş Kanunu hükümlerini ve Yargıtay kararlarını arar. En ilgili belge parçalarını bulup büyük dil modelinin bağlamına ekler.

Model bu kaynakları kullanarak açıklama üretir ve kullanılan kararlarla mevzuat bağlantılarını gösterir.

Avukat daha sonra kaynakları açarak kararların gerçekten ilgili olup olmadığını kontrol eder.

Başka bir örnekte şirket hukuk departmanı binlerce sözleşmeyi RAG sistemine indeksleyebilir. Kullanıcı “otomatik yenileme hükmü içeren sözleşmeler hangileri?” diye sorduğunda sistem ilgili sözleşme hükümlerini bulup kaynaklarıyla birlikte listeleyebilir.

Örnek Olay

Bir hukuk teknolojisi sistemi, bilirkişi raporuna itiraz konusunda kullanıcıya cevap vermektedir.

Kullanıcı “itiraz süresi ne kadar?” diye sorar.

Sistem önce güncel Hukuk Muhakemeleri Kanunu veri tabanında arama yapar. HMK m. 281’i bulur ve ilgili fıkrayı modele gönderir.

Model, sürenin raporun tebliğinden itibaren iki hafta olduğunu açıklar ve ilgili maddeyi kaynak olarak gösterir.

Ancak veri tabanındaki kanun metni eski bir sürüm olsaydı sistem teknik olarak doğru retrieval yapmasına rağmen güncelliğini kaybetmiş bilgi üretebilirdi.

Bu örnek, RAG sistemlerinde kaynak kalitesi ve güncelliğinin model kalitesi kadar önemli olduğunu gösterir.

Dikkat Edilmesi Gerekenler

  • RAG bir yapay zekâ mimarisi yaklaşımıdır; bağımsız hukuk kurumu değildir.
  • RAG, arama ve üretken yapay zekâyı birlikte kullanır.
  • Getirilen kaynak yanlışsa model cevabı da yanlış olabilir.
  • Kaynak güncelliği ayrıca kontrol edilmelidir.
  • RAG halüsinasyonu tamamen ortadan kaldırmaz.
  • Retrieval kalitesi ile yanıt kalitesi ayrı ölçülmelidir.
  • Kaynak bağlantısı kullanıcı doğrulamasını kolaylaştırır.
  • Aynı kanun maddesinin bulunması tek başına doğru hukuki yorum garantisi vermez.
  • Uzun belgelerin uygun biçimde parçalanması önemlidir.
  • Chunking sırasında hukuki anlam bütünlüğü korunmalıdır.
  • Vektör benzerliği hukuki geçerlilik anlamına gelmez.
  • RAG ile fine-tuning farklı yöntemlerdir.
  • RAG, yeni bilgiyi modele yeniden eğitim vermeden sağlayabilir.
  • Kurum içi RAG sistemlerinde erişim yetkileri kaynağa göre uygulanmalıdır.
  • Kişisel veri içeren kaynaklar KVKK kapsamında değerlendirilmelidir.
  • Müvekkil veya dava dosyalarında gizlilik ve meslek sırrı ayrıca korunmalıdır.
  • Yapay zekâ çıktısı resmî mevzuat veya karar metninin yerine geçmez.
  • Hukuki atıflar mümkün olduğunda birincil kaynaktan doğrulanmalıdır.

Sıkça Sorulan Sorular

Erişim destekli üretim; semantik arama, vektör veri tabanı, fine-tuning ve büyük dil modeli kavramlarıyla birlikte kullanıldığı için sıkça karıştırılır. Aşağıdaki sorular, RAG’in temel çalışma mantığını, hukuk alanında neden tercih edildiğini ve kaynak kullanımının hangi sınırlara sahip olduğunu açıklar.

Erişim destekli üretim nedir?

Erişim destekli üretim, büyük dil modelinin cevap vermeden önce harici bilgi kaynaklarında arama yaparak ilgili içerikleri bağlamına eklediği yapay zekâ yaklaşımıdır. İngilizce adı Retrieval-Augmented Generation, kısaltması RAG’dir. Amaç, modelin yalnız eğitim bilgisini kullanmak yerine güncel, özel veya konuya özgü kaynaklara dayanarak daha ilgili cevap üretmesini sağlamaktır.

RAG nasıl çalışır?

RAG sistemi önce kullanıcının sorgusunu analiz eder ve veri kaynağında ilgili belgeleri arar. Bulunan en ilgili içerikler büyük dil modelinin bağlamına eklenir. Model daha sonra kullanıcı sorusuyla bu kaynakları birlikte değerlendirerek yanıt üretir. Modern RAG sistemleri anahtar kelime, semantik arama, vektör benzerliği veya bu yöntemlerin birleşimini kullanabilir.

RAG ile ChatGPT gibi bir dil modeli aynı şey midir?

Hayır. Büyük dil modeli metin üretir. RAG ise dil modelini harici bilgi erişim sistemiyle birleştiren mimari yaklaşımdır. Aynı dil modeli RAG olmadan yalnız kendi bağlamı ve eğitim bilgisiyle çalışabilir. RAG kullanıldığında sistem önce ilgili kaynakları getirir ve modeli bu kaynaklarla destekler.

RAG ile fine-tuning arasındaki fark nedir?

RAG bilgiyi çalışma anında dış kaynaktan getirir. Fine-tuning ise model parametrelerini ek eğitim verileriyle değiştirir. Güncel mevzuat veya sürekli değişen kurum içi belgelerde RAG avantajlı olabilir; çünkü kaynaklar güncellendiğinde modelin yeniden eğitilmesi gerekmez. Fine-tuning daha çok model davranışı veya belirli görev performansını uyarlamak için kullanılır.

RAG halüsinasyonu önler mi?

Tamamen önlemez. RAG, modelin gerçek kaynaklara dayanmasını sağlayarak yanlış bilgi riskini azaltabilir. Ancak sistem yanlış belge getirebilir veya model doğru belgeyi hatalı yorumlayabilir. Bu nedenle kaynak erişim kalitesi ve model cevabının kaynaklarla tutarlılığı ayrı ayrı kontrol edilmelidir. Özellikle hukukta kanun maddesi ve karar atıfları doğrudan kaynak metinden doğrulanmalıdır.

Hukukta RAG neden kullanılır?

Hukuki bilgi sık değişebilir ve cevapların doğrulanabilir kaynaklara dayanması gerekir. RAG; güncel mevzuat, mahkeme kararları, sözleşmeler ve kurum içi hukuki görüşlerden ilgili parçaları getirerek modelin bunlar üzerinden açıklama üretmesine yardımcı olabilir. Böylece yalnız model hafızasına dayanan sistemlere göre daha kaynaklanabilir ve güncellenebilir bir araştırma yapısı kurulabilir.

RAG sistemi kişisel veri işleyebilir mi?

Evet. Kullanıcının sorusu veya RAG veri tabanındaki belgeler gerçek kişilere ilişkin bilgi içeriyorsa kişisel veri işleme gündeme gelebilir. Kişisel Verileri Koruma Kurumu, üretken yapay zekâ sistemlerinin yaşam döngüsündeki veri işleme faaliyetlerinin 6698 sayılı Kanun kapsamında değerlendirilmesi gerektiğini belirtmektedir. Bu nedenle erişim yetkileri, veri minimizasyonu ve güvenlik tedbirleri önemlidir.

Vektör veri tabanı RAG için zorunlu mudur?

Hayır. Vektör veri tabanı modern RAG sistemlerinde yaygın olarak kullanılır ancak tek yöntem değildir. RAG sistemi anahtar kelime araması, klasik arama motoru, SQL sorgusu veya hibrit yöntemlerle de kaynak getirebilir. Önemli olan, kullanıcı sorusuyla ilgili güvenilir bilginin üretim aşamasından önce bulunup modele aktarılmasıdır.

RAG’in verdiği kaynaklara güvenilebilir mi?

Kaynakların güvenilirliği RAG sisteminin hangi veri tabanlarını kullandığına bağlıdır. Resmî mevzuat ve mahkeme veri tabanlarından alınan belgeler ile doğrulanmamış internet içerikleri aynı güven düzeyine sahip değildir. Sistem ayrıca doğru kaynağı yanlış yorumlayabilir. Bu nedenle hukuki kullanımda kaynağın kimliği, güncelliği ve yanıtla gerçekten uyumlu olup olmadığı ayrıca kontrol edilmelidir.

Share this post