Bağlam Penceresi Nedir?
Bağlam penceresi, bir yapay zekâ modelinin tek bir işlem sırasında birlikte dikkate alabildiği girdi ve çıktı bilgilerinin token cinsinden sınırını ifade eder. Özellikle büyük dil modellerinde kullanılan teknik bir kavramdır. Bir sözleşmenin, dava dosyasının, içtihat koleksiyonunun veya uzun konuşmanın ne kadarının aynı anda modelin erişebildiği çalışma bağlamında bulunabileceğini belirler. Bağlam sınırı aşıldığında içeriğin bölünmesi, özetlenmesi veya yalnızca ilgili kısımlarının modele aktarılması gerekebilir.
Bağlam penceresi bir yapay zekâ modelinin kalıcı hafızası değildir. Daha çok belirli bir işlem sırasında kullanılabilen çalışma alanına benzetilebilir. Bu alanın büyüklüğü modele göre değişir. Güncel modeller arasında yüz binlerce veya bir milyondan fazla tokenlık bağlam pencerelerine sahip örnekler bulunmaktadır. Ancak yüksek bağlam kapasitesi, bütün bilgilerin aynı doğrulukla kullanılacağını tek başına garanti etmez.
Bağlam Penceresinin Teknik Niteliği
Bağlam penceresi hukuki bir kavram değildir. Yapay zekâ ve doğal dil işleme teknolojilerine ait teknik bir kapasite ölçüsüdür.
Büyük dil modelleri metni doğrudan kelime sayısıyla değil, token adı verilen birimlerle işler. Tokenlar kelime, kelime parçası, noktalama işareti veya başka metin parçalarından oluşabilir. Aynı metnin token sayısı kullanılan modele ve tokenizasyon yöntemine göre değişebilir.
Bu nedenle “100 sayfalık belge modele sığar mı?” sorusunun cevabı yalnızca sayfa sayısına göre verilemez. Metnin dili, biçimi, tablo yoğunluğu, eklenen talimatlar ve beklenen çıktı uzunluğu da bağlam kullanımını etkiler.
Bağlam Penceresi Nasıl Çalışır?
Bir modele soru gönderildiğinde yalnızca son kullanıcı mesajı işlenmeyebilir. Sistem talimatları, önceki konuşmalar, eklenen belgeler, araç çıktıları ve diğer içerikler de kullanılabilir bağlam alanının bir bölümünü tüketebilir.
Model bu içerikleri tokenlara dönüştürerek işler. Ardından kullanılabilir bağlam içinde yer alan bilgilerden hareketle yanıt üretir.
OpenAI’ın teknik açıklamasına göre bir konuşma uzadıkça yeni çıkarım için kullanılan prompt da büyüyebilir. Her modelin tek bir çıkarımda kullanabileceği maksimum token sayısını belirleyen bir bağlam penceresi bulunur.
Bu durum uzun hukuki dosyalarda özellikle önemlidir. Yüzlerce belge aynı anda işleme alınmak istendiğinde içerik mevcut bağlam kapasitesini aşabilir.
Token ile Bağlam Penceresi Arasındaki İlişki Nedir?
Bağlam penceresinin kapasitesi genellikle token cinsinden ifade edilir.
Token, modelin işlediği metnin temel birimidir. Bir token her zaman bir kelimeye eşit değildir. OpenAI’ın açıklamasına göre token, dile ve bağlama göre tek bir karakter kadar kısa veya tam bir kelime kadar uzun olabilir. Noktalama işaretleri ve kelime parçaları da token hesabına dâhil olabilir.
Örneğin bir modelin bağlam penceresi belirli sayıda token ise kullanıcı mesajları, eklenen belgeler ve oluşturulacak yanıt aynı teknik sınırın farklı bölümlerini kullanabilir.
Bu nedenle kelime sayısını doğrudan token sayısı kabul etmek doğru değildir.
Bağlam Penceresine Neler Dâhil Olur?
Bağlama dâhil edilen içerik, kullanılan yapay zekâ sisteminin mimarisine göre değişebilir.
Genel olarak şu unsurlar bağlam kullanımına katkıda bulunabilir:
- Kullanıcının mevcut talimatı.
- Önceki konuşma mesajları.
- Sistem ve uygulama talimatları.
- Modele gönderilen belge içerikleri.
- Arama veya başka araçlardan alınan sonuçlar.
- Gerekli yapılandırılmış veriler.
- Modelin üreteceği yanıt için ayrılan tokenlar.
Bazı yapay zekâ sistemleri uzun konuşmalarda eski bilgileri özetleyebilir veya yalnızca ilgili kısımları yeniden bağlama getirebilir. Bu nedenle kullanıcı tarafından görülen bütün konuşma geçmişinin her anda modele aynı biçimde aktarıldığı varsayılmamalıdır.
Bağlam Penceresi ile Hafıza Aynı Şey midir?
Hayır. Bağlam penceresi ile yapay zekâ sistemindeki hafıza mekanizmaları farklı kavramlardır.
| Kavram | Temel Fark |
|---|---|
| Bağlam penceresi | Modelin belirli bir işlem sırasında birlikte işleyebileceği bilgilerin sınırıdır. |
| Hafıza | Sistem tarafından daha sonraki konuşmalarda kullanılmak üzere tutulabilen bilgileri ifade edebilir. |
| Prompt | Modele mevcut işlem için verilen talimat ve girdidir. |
| Bilgi tabanı | Model dışında saklanan ve gerektiğinde erişilebilen belge veya veri koleksiyonudur. |
Bağlam penceresinde yer alan bilgi geçici çalışma bağlamının parçasıdır. Kalıcı hafıza ise ürün veya sistem tasarımına bağlı farklı bir özelliktir.
Bu nedenle büyük bir bağlam penceresine sahip olmak, modelin önceki bütün görüşmeleri sınırsız şekilde hatırladığı anlamına gelmez.
Bağlam Penceresi Dolarsa Ne Olur?
Bağlam sınırına yaklaşıldığında veya sınır aşıldığında kullanılan sistemin tasarımına göre farklı sonuçlar ortaya çıkabilir.
Yeni içeriğin tamamı kabul edilmeyebilir. Eski içeriklerin bir bölümü çıkarılabilir veya özetlenebilir. Uzun belgeler parçalara ayrılabilir. Bazı sistemler yalnızca mevcut görev için ilgili görülen kısımları modele aktarabilir.
OpenAI, token sınırının aşılması hâlinde girdilerin kısaltılmasını, uzun metinlerin daha küçük parçalara bölünmesini veya gönderilmeden önce özetlenmesini olası çözümler arasında göstermektedir.
Hukuki çalışmalar bakımından bu durum önemlidir. Kritik bir sözleşme hükmünün veya dosya belgesinin bağlam dışında kalması, analizin eksik bilgi üzerinden yapılmasına neden olabilir.
Büyük Bağlam Penceresi Daha İyi Sonuç Verir mi?
Her zaman değil. Daha geniş bağlam penceresi, modele daha fazla içeriğin aynı işlem içinde sunulabilmesine imkân verir. Ancak kapasitenin yüksek olması tek başına doğruluk garantisi değildir.
Model uzun metindeki belirli ayrıntıları gözden kaçırabilir. Birbiriyle çelişen belgeleri yanlış ilişkilendirebilir veya gereksiz bilgiler önemli içeriğin bulunmasını güçleştirebilir.
Bu nedenle özellikle hukuki analizde amaç mümkün olan en fazla belgeyi bağlama yüklemek değil, doğru ve ilgili belgeleri modelin erişebileceği biçimde sunmaktır.
Bağlam kapasitesi ile bilgi seçiminin kalitesi birlikte değerlendirilmelidir.
Hukuki Belge İncelemesinde Bağlam Penceresi Neden Önemlidir?
Hukuki dosyalar çok sayıda uzun belgeden oluşabilir. Dilekçeler, bilirkişi raporları, sözleşmeler, mahkeme kararları, ekler ve yazışmalar aynı dosyada bulunabilir.
Bağlam penceresi, bu belgelerden ne kadarının model tarafından aynı işlem sırasında birlikte değerlendirilebileceğini etkiler.
Örneğin bir sözleşmenin 150 sayfa olduğunu varsayalım. Model yalnız sözleşmeyi değil, kullanıcının sorusunu, sistem talimatlarını ve oluşturacağı yanıtı da bağlam içinde işleyebilir. Bu nedenle yalnız belge uzunluğuna bakılarak kapasite hesabı yapılmamalıdır.
Uzun hukuki dosyalarda belge gruplama, kronoloji oluşturma ve ilgili hükümlerin önceden seçilmesi daha güvenilir analiz sağlayabilir.
Dava Dosyalarında Bağlam Yönetimi Nasıl Yapılır?
Çok hacimli dava dosyalarının tek seferde modele yüklenmesi her zaman en uygun yöntem değildir.
Öncelikle belgeler türlerine göre ayrılabilir. Örneğin dava dilekçesi, cevap dilekçesi, bilirkişi raporu, duruşma tutanakları ve kararlar ayrı gruplarda işlenebilir.
Daha sonra şu yöntemler kullanılabilir:
- Dosya kronolojisinin çıkarılması.
- Taraf iddialarının ayrı özetlenmesi.
- Delillerin sınıflandırılması.
- Kritik belge ve sayfaların belirlenmesi.
- Ara özetlerin oluşturulması.
- Nihai analizde ilgili özet ve belgelerin birlikte kullanılması.
Bu yaklaşım yalnız bağlam sınırını yönetmek için değil, yanlış belge ilişkilendirmelerini azaltmak için de yararlıdır.
Sözleşme İncelemesinde Bağlam Penceresi Ne Anlama Gelir?
Sözleşme analizinde bağlam penceresi, modelin sözleşmenin farklı hükümleri arasındaki ilişkileri aynı anda ne ölçüde inceleyebileceğini etkileyebilir.
Örneğin sorumluluk sınırı 30. maddede, tazmin yükümlülüğü 55. maddede ve fesih sonucu 80. maddede düzenlenmiş olabilir. Model bu hükümleri aynı bağlam içinde görebiliyorsa aralarındaki ilişkiyi değerlendirmesi kolaylaşır.
Sözleşme mevcut bağlam kapasitesini aşıyorsa parçalı inceleme yapılabilir. Ancak belge bölünürken çapraz referansların kaybolmaması gerekir.
Bu nedenle sözleşme analizinde bölümleme yalnız teknik uzunluğa göre değil, hükümlerin hukuki bağlantısına göre yapılmalıdır.
İçtihat Araştırmasında Bağlam Penceresi Nasıl Kullanılır?
Bir içtihat araştırmasında çok sayıda mahkeme kararı modele sunulabilir. Bağlam sınırı, kaç kararın ve kararların ne kadarının birlikte analiz edilebileceğini etkiler.
Ancak kararların tamamını aynı anda yüklemek her zaman gerekli değildir. Önce kararların künye, konu ve ilgili paragraf düzeyinde filtrelenmesi daha etkili olabilir.
Örneğin yüz Yargıtay kararının tamamının modele aktarılması yerine, uyuşmazlığın hukuki sorunuyla doğrudan bağlantılı kararlar seçilebilir. Ardından kararların gerekçeleri karşılaştırılabilir.
Bu yöntem bağlam alanının ilgisiz metinlerle doldurulmasını önler ve hukuki analizin izlenebilirliğini artırır.
Bağlam Penceresi ile RAG Arasındaki İlişki Nedir?
Retrieval-Augmented Generation (RAG), geniş bir belge koleksiyonunun tamamını her sorguda modele göndermek yerine, sorguyla ilgili bölümleri bulup bağlama eklemeye dayanan bir yöntemdir.
Örneğin milyonlarca sayfalık mevzuat ve içtihat veri tabanının tamamı bir modelin bağlam penceresine konulamaz. RAG sistemi önce soruyla ilgili kaynakları arar. Daha sonra seçilen metin parçalarını modelin bağlamına aktarır.
Bu nedenle RAG, bağlam penceresini büyüten bir yöntem değildir. Mevcut bağlam alanının daha verimli kullanılmasını sağlar.
Hukuk teknolojisinde mevzuat, karar ve doküman arama sistemleri bakımından bu ayrım önemlidir.
Bağlam Penceresi ile Çıktı Uzunluğu Aynı Şey midir?
Hayır. Bağlam penceresi ile modelin maksimum çıktı uzunluğu farklı sınırlardır.
Bağlam penceresi modelin tek işlem sırasında kullanabileceği toplam bağlam kapasitesini ifade eder. Maksimum çıktı uzunluğu ise modelin tek yanıtta oluşturabileceği içeriğin üst sınırıdır.
Örneğin güncel OpenAI model dokümantasyonunda bazı modeller için bağlam penceresi ile maksimum çıktı token sayısı ayrı değerler olarak gösterilmektedir.
Bu nedenle model çok uzun bir belgeyi okuyabiliyor olsa bile aynı uzunlukta bir cevap üretebileceği sonucuna varılamaz.
Bağlam Penceresinin Boyutu Sabit midir?
Bağlam penceresi bütün yapay zekâ modellerinde aynı değildir. Model ve model sürümüne göre farklı kapasitelere sahip olabilir.
Örneğin güncel OpenAI API belgelerinde farklı modeller için farklı bağlam sınırları yer almaktadır. Bazı güncel profesyonel modellerde bağlam kapasitesi bir milyon tokenın üzerine çıkabilmektedir.
Ancak model karşılaştırmasında yalnızca ilan edilen bağlam uzunluğuna bakılmamalıdır. Uzun bağlamdaki bilgiye erişim başarısı, hız, maliyet, çıktı sınırı ve doğruluk da önem taşır.
Bu nedenle “en büyük bağlam penceresi en iyi modeldir” şeklinde genel bir sonuç doğru değildir.
Bağlam Penceresinin Yasal Dayanağı Var mıdır?
Bağlam penceresi teknik bir yapay zekâ kavramıdır. Türk hukukunda bu ad altında tanımlanmış özel bir hukuki kurum veya yasal düzenleme bulunmaz.
Bununla birlikte bağlam penceresinin kullanıldığı sistemler hukuken sonuç doğurabilecek süreçlerde yer alabilir. Örneğin kişisel veri içeren dava dosyalarının bir yapay zekâ sistemine aktarılması, kişisel verilerin korunması ve mesleki gizlilik bakımından ayrıca değerlendirme gerektirebilir.
Dolayısıyla bağlam penceresinin kendisi hukuki bir düzenleme konusu değildir. Ancak pencereye hangi verilerin aktarıldığı ve bu verilerin nasıl işlendiği farklı hukuk kurallarını gündeme getirebilir.
Bağlam Penceresi ile Model Eğitimi Arasındaki Fark
Bağlam penceresine belge eklenmesi ile modelin bu belge üzerinde yeniden eğitilmesi aynı işlem değildir.
| Kavram | Temel Fark |
|---|---|
| Bağlam penceresi | Bilginin mevcut işlem sırasında modele sunulmasını sağlar. |
| Model eğitimi | Model parametrelerinin eğitim verileri kullanılarak oluşturulması veya güncellenmesi sürecidir. |
| RAG | İlgili dış kaynakları bulup mevcut bağlama ekler. |
| Fine-tuning | Modelin belirli örnekler üzerinde ek eğitimden geçirilmesini ifade eder. |
Bir mahkeme kararının prompt içinde modele verilmesi, tek başına modelin o karar üzerinde kalıcı biçimde yeniden eğitildiği anlamına gelmez.
Bu ayrım özellikle gizlilik ve veri yönetimi tartışmalarında önemlidir.
Uygulamada Bağlam Penceresi
Bir hukuk bürosunun 800 sayfalık bir dava dosyasını yapay zekâ ile analiz etmek istediğini düşünelim. Dosyada dilekçeler, bilirkişi raporları, sözleşmeler ve yüzlerce ek bulunmaktadır. Bütün dosyanın tek seferde modele aktarılması teknik olarak mümkün olsa bile doğru analiz için gerekli olmayabilir.
Önce dosya kronolojisi çıkarılabilir. Ardından uyuşmazlığın merkezindeki belgeler seçilir. Kritik belgeler ve ara özetler aynı bağlama verilerek daha hedefli sorular sorulabilir. Böylece kullanılabilir bağlam alanı daha verimli yönetilir.
Başka bir örnekte uzun bir sözleşmenin risk analizi yapılırken yalnızca belirli maddelerin ayrı ayrı incelenmesi yeterli olmayabilir. Fesih, sorumluluk, tazminat ve uyuşmazlık çözümü hükümleri birlikte değerlendirilerek maddeler arasındaki ilişki korunabilir.
Örnek Olay
Bir şirket, binlerce sayfadan oluşan sözleşme ve yazışma arşivini yapay zekâ aracılığıyla incelemek istemektedir.
Belgelerin tamamı tek bir prompta eklenmek yerine önce konu ve tarihe göre sınıflandırılır. Sistem, kullanıcının sorusuyla doğrudan ilgili sözleşme maddelerini ve yazışmaları seçerek modele aktarır.
Model yalnızca bu seçilmiş içerikleri mevcut bağlam penceresinde değerlendirir.
Bu örnekte bağlam penceresi, bütün arşivin kapasitesini değil, modelin belirli analiz sırasında birlikte işleyebildiği bilgi alanını ifade eder.
Dikkat Edilmesi Gerekenler
- Bağlam penceresi bir yapay zekâ ve doğal dil işleme kavramıdır.
- Hukukta bağımsız bir hak, dava veya usul kurumu değildir.
- Bağlam kapasitesi genellikle token cinsinden ifade edilir.
- Token ile kelime aynı ölçü birimi değildir.
- Girdi metinleri ve diğer bağlam unsurları mevcut kapasiteyi kullanır.
- Bağlam penceresi ile kalıcı hafıza aynı şey değildir.
- Büyük bağlam penceresi tek başına yüksek doğruluk garantisi vermez.
- Uzun dosyalarda ilgili belgelerin seçilmesi önemlidir.
- Bir belgenin bağlam dışında kalması analizin eksik yapılmasına yol açabilir.
- RAG bağlam penceresini büyütmez; ilgili bilgiyi seçerek mevcut alanın verimli kullanılmasını sağlar.
- Bağlam penceresi ile maksimum yanıt uzunluğu birbirine karıştırılmamalıdır.
- Model sürümlerinin bağlam kapasiteleri farklı olabilir.
- Hassas hukuki belgelerin modele aktarılmasında veri koruma ve gizlilik kuralları ayrıca değerlendirilmelidir.
- Bir belgenin modele bağlam olarak verilmesi, tek başına modelin bu belgeyle yeniden eğitildiği anlamına gelmez.
Sıkça Sorulan Sorular
Bağlam penceresi özellikle token sınırı, uzun belge analizi ve yapay zekânın hangi bilgileri aynı anda değerlendirebildiği konusunda sıkça karıştırılır. Aşağıdaki sorular, kavramın büyük dil modellerindeki işlevini ve hukuk teknolojisi uygulamalarındaki önemini açıklar.
Bağlam penceresi nedir?
Bağlam penceresi, büyük dil modelinin tek bir işlem sırasında birlikte dikkate alabileceği bilgilerin token cinsinden kapasitesidir. Kullanıcının mesajı, ilgili konuşma geçmişi, belgeler ve diğer bağlam unsurları bu alana dâhil olabilir. Modelin bağlam kapasitesi sınırlıdır ve sınır modele göre değişir.
Token ile bağlam penceresi arasındaki fark nedir?
Token, modelin metni işlerken kullandığı temel birimdir. Bağlam penceresi ise modelin aynı işlemde kaç tokenlık bilgiyi kullanabileceğini belirleyen kapasitedir. Bir token her zaman bir kelime değildir; kelime parçası, noktalama işareti veya başka metin birimleri de token oluşturabilir.
Bağlam penceresi dolarsa yapay zekâ ne yapar?
Sonuç kullanılan sisteme göre değişir. Sistem yeni girdiyi reddedebilir, eski bilgileri özetleyebilir veya bağlamdan bazı bölümleri çıkarabilir. Uzun içerikler daha küçük bölümlere de ayrılabilir. OpenAI, sınır aşımında promptun kısaltılması, metnin bölünmesi veya önceden özetlenmesi gibi yöntemler önermektedir.
Bağlam penceresi büyüdükçe yapay zekâ daha doğru olur mu?
Zorunlu olarak hayır. Büyük bağlam penceresi daha fazla içeriğin birlikte işlenmesine izin verir ancak modelin her ayrıntıyı doğru kullanacağını garanti etmez. Uzun belgelerde ilgisiz bilgi miktarı arttıkça önemli noktaların gözden kaçması da mümkündür. Hukuki analizde belge seçimi ve kaynak doğrulaması bağlam kapasitesi kadar önemlidir.
Bağlam penceresi yapay zekânın hafızası mıdır?
Hayır. Bağlam penceresi mevcut işlem sırasında kullanılan çalışma alanıdır. Hafıza ise sistemin bilgileri sonraki konuşmalarda kullanmak üzere ayrıca saklamasına ilişkin farklı bir özelliktir. Büyük bir bağlam penceresine sahip modelin bütün geçmiş görüşmeleri kalıcı olarak hatırladığı sonucu çıkarılamaz.
Uzun dava dosyaları tek seferde yapay zekâya yüklenmeli midir?
Her zaman değil. Teknik olarak sığan bir dosyanın tamamını aynı anda kullanmak analiz açısından en iyi yöntem olmayabilir. Dilekçeler, deliller, bilirkişi raporları ve kararlar sınıflandırılabilir. Daha sonra uyuşmazlıkla ilgili belgeler seçilip birlikte analiz edilebilir. Bu yöntem hem bağlam kullanımını hem de hukuki değerlendirmeyi daha yönetilebilir hâle getirir.
RAG ile bağlam penceresi aynı şey midir?
Hayır. Bağlam penceresi modelin aynı anda işleyebileceği bilgi kapasitesidir. Retrieval-Augmented Generation ise büyük bir dış bilgi kaynağından soruyla ilgili parçaları bulup bu bağlama aktaran yöntemdir. RAG mevcut bağlam sınırını artırmaz; hangi bilgilerin sınırlı alana getirileceğini daha etkin biçimde seçmeye yardımcı olur.
Bir belgeyi bağlam penceresine koymak modeli eğitir mi?
Hayır. Bir belgenin prompt veya mevcut bağlam içinde modele verilmesi ile model eğitimi farklı işlemlerdir. Bağlamdaki bilgi mevcut yanıtın oluşturulmasında kullanılabilir. Model eğitimi veya fine-tuning ise model parametrelerini değiştirmeye yönelik ayrı teknik süreçlerdir. Bu kavramlar özellikle veri gizliliği tartışmalarında birbirinden ayrılmalıdır.
Bağlam penceresi hukuk çalışmalarında neden önemlidir?
Hukuki çalışmalar çoğu zaman uzun ve birbirine bağlı belgeler içerir. Bağlam penceresi, modelin sözleşme hükümleri, dilekçeler, bilirkişi raporları veya içtihatlar arasında aynı işlem sırasında bağlantı kurabilme kapasitesini etkiler. Yetersiz veya kötü yönetilen bağlam, önemli bir belgenin analiz dışında kalmasına ve eksik değerlendirmeye neden olabilir.
