30. Arayüzün Tavanı ve Ötesi

30.1 Arayüzün Yapısal Tavanı

Sohbet arayüzü keşif, öğrenme ve tek seferlik işler için tasarlanmıştır ve bu işlerde mükemmeldir. Değer konuşmanın kendisinden geliyorsa — fikir geliştirme, araştırma, öğrenme, yinelemeli rafine etme — arayüz doğru araçtır.

Ancak arayüzün yapamadığı şeyler tesadüfi değil, yapısaldır.

Geçişin Üç Tetikleyicisi

Bağımsız analizler, arayüzden programatik kullanıma geçişin tipik olarak üç tetikleyiciden kaynaklandığında birleşir.

• Hacim. Aynı istemi haftada birkaç kereden fazla elle çalıştırıyorsanız, o iş akışı otomatikleşmelidir.
• Tutarlılık. Çıktının biçimi ve kalitesi yüzlerce çalıştırmada aynı olmalıysa, insan aracılığı bir hata kaynağıdır.
• Entegrasyon. Çıktı başka bir sisteme akmalıysa — veri tabanı, rapor, bildirim — arayüz bunu yapamaz.

Dördüncü bir tetikleyici kurumsal ortamlarda belirir: yapılandırılmış günlük tutma, kullanım takibi ve erişim kontrolü gereksinimi.

Şekil 30.1 — Üç tetikleyici, arayüzden programatik kullanıma geçişi belirler.

30.2 Kod Yazmadan Programatik Kullanım

Bu bölümün en pratik bulgusu şudur: programatik güce erişmek için kod yazmanız gerekmez.

Gömülü Uygulamaların Ekonomisi

Bölüm 8'de canlı olarak test edilen bu yolun en dikkate değer yanı ekonomik modelidir: paylaştığınız bir uygulamayı kullananlar kendi hesaplarıyla kimlik doğrular ve kullanım onların aboneliğinden düşer. Üreticiye maliyet çıkmaz ve kimsenin anahtar yönetmesi gerekmez.

Sınırları da nettir: bunlar üretim yazılımı değil, ön yüz prototipleridir ve dış hizmetlere doğrudan çağrı yapamazlar.

Otomasyon Platformlarının Gerçek Sınırı

Bu platformlar orta ölçekte güçlüdür ancak iki noktada tıkanır. Birincisi maliyet: görev başına ücretlendirme yüksek hacimde hızla pahalılaşır. İkincisi karmaşıklık: birkaç koşullu daldan sonra iş akışı yönetilemez hâle gelir.

30.3 Kavramsal Temel: Durum Tutmama

Programatik kullanımı anlamanın anahtarı tek bir kavramdır ve sohbetten en çok ayrıldığı nokta budur.

Bir model çağrısı durum tutmaz. Model, her isteği bağımsız olarak işler; önceki turu hatırlamaz. Sohbette hafıza gibi görünen şey modelin bir özelliği değil, uygulamanın mimari tercihidir: uygulama her turda tüm konuşma geçmişini yeniden gönderir.

Token Muhasebesi

Bölüm 3.4'te ele alınan girdi-çıktı asimetrisi burada somutlaşır. Çıktı tokenları girdi tokenlarından belirgin biçimde pahalıdır.

Bu asimetrinin en sık gözden kaçan sonucu, kısıtlanmamış çıktının maliyeti patlatmasıdır. Kısa bir özet üretmesi beklenen bir işlem, çıktı sınırı konmadığında beklenenin katları uzunlukta yanıt üretebilir.

Önbellekleme

Sağlayıcı tarafından yönetilen bir optimizasyondur: isteminizin sabit ön kısmının önceden hesaplanmış durumu saklanır ve aynı ön kısım tekrar geldiğinde yeniden işlenmez.

Kritik kavram şudur: çıktı asla önbelleğe alınmaz. Her istek yeni bir yanıt üretir; yalnızca girdi işleme işi yeniden kullanılır. Bu, sabit sistem talimatları ve tekrar eden büyük belgelerle çalışan iş akışlarında en büyük tasarruf kalemidir.

Toplu İşleme

İstekleri gerçek zamanlı değil, bir zaman penceresi içinde eşzamansız olarak işleyen yöntemdir ve belirgin maliyet avantajı sağlar.

Yapılandırılmış Çıktı

Serbest metin insanlar içindir; yapılandırılmış çıktı programlar içindir. Bir program çıktıyı ayrıştıracaksa, biçimdeki en küçük sapma tüm işlemi durdurabilir.

Güvence düzeyleri kademelidir: yalnızca talimatla istemek en zayıf, biçimin teknik olarak zorlandığı yöntemler en güçlü seçenektir.

Araç Kullanımı

Model, kendisine tanımlanan araçları çağırabilir. Ancak önemli bir ayrım vardır: model kodu kendisi çalıştırmaz. Bir araç adı ve parametreler döndürür; onu çalıştıran ve sonucu modele geri veren, çevresindeki sistemdir.

Bu ayrım, Bölüm 10'daki bağlayıcı mimarisinin de temelidir.

30.4 Ajan Mimarileri

Tek bir istekten ajan iş akışlarına geçiş, programatik kullanımın ikinci aşamasıdır.

Ajan Nedir?

Bugünkü anlamıyla ajan, bir döngü içinde araç çağıran bir modeldir. Döngü şu adımları izler: bağlam topla, eylem al, işi doğrula, tekrarla.

Ajan çerçeveleri ve geliştirme kitleri bu döngüyü, araç yönlendirmesini ve durum yönetimini üstlenir. Ham bir model çağrısında bunları siz yönetirsiniz.

Basit Başla İlkesi

Bu alandaki en önemli tavsiye, sağlayıcıların kendi mühendislik yazılarında yer alır: mümkün olan en basit çözümle başlayın ve karmaşıklığı yalnızca gerektiğinde artırın. Bu, hiç ajan sistemi kurmamak anlamına bile gelebilir.

Gerekçe açıktır: ajan sistemleri daha iyi görev performansı için gecikme ve maliyetten ödün verir. İyi tanımlanmış görevlerde basit iş akışları daha öngörülebilir ve tutarlıdır.

Bağlam Yönetimi

Uzun süre çalışan ajanlarda bağlam yönetimi belirleyici hâle gelir. Üç yerleşik teknik vardır: bağlamı özetleyip yeniden başlatmak, yapılandırılmış not tutmak, ve alt ajanlar kullanmak.

Alt ajanların değeri iki yönlüdür: paralel çalışma ve bağlam yalıtımı. Her alt ajan kendi bağlamında çalışır ve yalnızca sonucu ana akışa döndürür — Bölüm 13.5'te ele alınan mekanizma.

Açık Protokoller

Bölüm 10'da ele alınan protokol, bu dönemde satıcıdan bağımsız bir standarda dönüşmüştür. Başlangıçta tek bir sağlayıcı tarafından açık kaynak yapılmış, ardından rakip sağlayıcılar tarafından da benimsenmiş ve bağımsız bir yönetişim yapısına devredilmiştir.

Pratik anlamı şudur: her model ile her hizmet için ayrı entegrasyon yazma sorunu ortadan kalkmaktadır.

30.5 Geçiş Kararı

Bu bölümün en pratik çıktısı, doğru zihinsel modeldir.

Karar Sırası

• Arayüzde prototiple. İstemi kararlı hâle getir, çıktıyı doğrula.
• Kod yazmadan otomasyona geç. Üç tetikleyiciden biri belirdiğinde önce bu katmanı dene.
• Tek model çağrısına taşı. Kanıtlanmış ve kararlı olanı programatik hâle getir.
• Ajan mimarisine ancak gerçekten gerekiyorsa geç.

Küçük Ekipler İçin Gerçekçi Değerlendirme

Bireysel araştırmacılar ve küçük ekipler için operasyonel yük, elde edilecek optimizasyona değmeyebilir. Yaygın tavsiye şudur: tek bir sağlayıcıyla başlayın; ikincisini yalnızca belirli bir görevde ölçülebilir biçimde daha iyi olduğu gösterildiğinde ekleyin.

30.6 Gizli Maliyetler

Programatik kullanımın faturası, ham token maliyetinden ibaret değildir.

Kaçak Döngü Riski

Ajan sistemlerinde belgelenen bir arıza türü, kontrolsüz özyinelemedir: iki ajanın birbirini tetikleyerek günlerce döngüde kalması ve harcamanın kademeli olarak tırmanması.

Bu, bir uygulayıcı tarafından bildirilen tekil bir vakadır ve hakemli bir kaynak değildir. Buraya rakam olarak değil, mekanizma örneği olarak alınmıştır: sorun, döngünün kendisi değil, onu durduracak bir devre kesici ve harcama uyarısı bulunmamasıydı.

30.7 Üretim Riskleri

Model Kullanımdan Kaldırma

Bu, en sinsi risktir ve arayüz kullanıcısının hiç karşılaşmadığı bir sorundur. Sağlayıcılar model sürümlerini belirli bir süre sonra emekliye ayırır ve bazen aynı ad altında güncelleme yapar.

Sonuç şudur: dün çalışan bir iş akışı, siz hiçbir şey değiştirmediğiniz hâlde farklı çıktı üretmeye başlayabilir.

Sessiz Regresyon

Bir sistem talimatını yeniden ifade etmek, bir model sürümünü yükseltmek veya sağlayıcının sessiz bir güncelleme yapması — bunların herhangi biri tüm girdi dağılımınızda çıktıları kaydırabilir.

Tek denetiminiz birkaç çıktıya gözle bakmaksa, bu kayma görünmez kalır.

30.8 Güvenlik ve Uyumluluk

Veri Saklama

Ticari kullanımda varsayılan davranış, girdi ve çıktıların kötüye kullanım denetimi için sınırlı bir süre saklanması ve ardından silinmesidir. Uygun kurumsal müşteriler için verinin bu denetimin ötesinde hiç saklanmadığı bir düzenleme sunulur.

Bölgesel Veri Yerleşimi

Verinin belirli bir coğrafyada işlenmesi gerekiyorsa, doğrudan sağlayıcı erişimi yeterli olmayabilir. Bu durumda bulut sağlayıcılarının bölgesel uç noktaları üzerinden yönlendirme gerekebilir. Kurumunuzun hukuk birimiyle doğrulayınız.

İstem Enjeksiyonu

Bölüm 10.4 ve 15.2'de ele alınan bu risk, programatik ve ajan kullanımında en yüksek düzeydedir ve güvenlik kuruluşlarının yapay zekâ uygulamaları için hazırladığı risk listelerinde ilk sırada yer almaktadır.

Temel neden mimaridir: modeller talimatı ve veriyi aynı bağlamda işler. Ne bilgi getirmeli üretim ne de ince ayar bu sınıfı tamamen ortadan kaldırır.

30.9 Değerlendirme ve İzleme

Arayüzde çıktıyı gözünüzle denetlersiniz. Programatik kullanımda bu mümkün değildir; denetim de programatik olmalıdır.

Üç Katman

İzlenecek Ölçütler

• İstek başına token — bağlam şişmesini gösterir.
• Yeniden deneme oranı — hem güvenilirlik hem maliyet göstergesi.
• Önbellek isabet oranı — tasarrufun gerçekleşip gerçekleşmediği.
• Çıktı token sayısı — kısıtlanmamış çıktı erken uyarısı.

30.10 Akademik Kullanım ve Tekrarlanabilirlik

Bu alt bölüm, kitabın akademik okuyucusu için doğrudan uygulanabilir bir metodolojik gereklilik içerir.

Tipik Araştırma Kullanımları

Büyük ölçekli metin sınıflandırma, içerik kodlama, literatür tarama otomasyonu ve deneysel çalışmalarda model kullanımı yaygınlaşmıştır. Doğrulama çalışmaları, bu görevlerde modellerin insan kodlayıcılarla karşılaştırılabilir sonuçlar verebildiğini bildirmektedir.

Raporlanması Gerekenler

• Model sürümü — genel ad değil, tarihli sürüm belirtilmelidir.
• Örnekleme parametreleri — sıcaklık ve ilgili ayarlar.
• Çalıştırma tarihi ve barındırma ortamı.
• Kullanılan istemin tam metni.
• Çoklu çalıştırma yapıldıysa toplulaştırma yöntemi.

Hassas metinlerle çalışıyorsanız — görüşme dökümleri, anket yanıtları — verinin dışarı çıkmadığı yerel işleme seçeneklerini değerlendiriniz.

30.11 Sınırın Bulanıklaşması

Arayüz ile programatik kullanım arasındaki çizgi hızla belirsizleşmektedir.

Bir sohbet aracına hafıza, araç erişimi ve bir döngü eklendiğinde, ad dışında her şeyiyle bir ajan hâline gelir. Fark artık katı bir sınırdan çok özerklik derecesiyle ilgilidir.

30.12 Bölüm Özeti

• Arayüzün sınırları yapısaldır ve yapay zekânın sınırı değildir.
• Geçişin üç tetikleyicisi vardır: hacim, tutarlılık, entegrasyon.
• Programatik güce erişmek için kod yazmak gerekmez.
• Gömülü uygulamalarda maliyet kullanıcıya aittir, üreticiye değil.
• Model çağrısı durum tutmaz; hafıza uygulamanın mimari tercihidir.
• Çıktı asla önbelleğe alınmaz; yalnızca girdi işleme yeniden kullanılır.
• Biçim garantisi doğruluk garantisi değildir.
• Ajan mimarisi yalnızca sıralı bağımlılık, koşullu mantık ve araç kullanımı bir aradaysa gerekçelidir.
• Özerklik verdiğiniz sisteme durdurma mekanizması da vermelisiniz.
• Model sürümleri değişir; değerlendirme setleri temel savunmadır.
• Sıfır veri saklama otomatik değildir, talep edilmelidir.
• Akademik kullanımda model sürümü ve parametreler raporlanmalı, tekrarlanabilirlik sınırı kabul edilmelidir.

Güncellik kontrolü: Bu bölüm kavramsal içerik üzerine kuruludur ve bilinçli olarak sözdizimi, parametre adı ve fiyat bilgisi içermez. Kavramlar yavaş eskir; uygulama ayrıntıları hızla değişir. Güncel teknik bilgi için sağlayıcının resmî dokümantasyonuna başvurunuz. Doğrulama tarihi: 7 Eylül 2026.