Açık Ağırlıklı LLM ile Kapalı API Modelleri: Maliyet, Gizlilik, Lisans ve Hibrit Mimari

Kaynaklar: OpenAI, gpt-oss duyurusu (2025) ve gpt-oss-120b resmî model kartı (Apache 2.0, donanım gereksinimi); QwenLM/Qwen3.6 resmî deposu; Mistral AI, Mistral 3 duyurusu (02.12.2025); Llama 4 Community License Agreement; OpenAI fiyat sayfası, Anthropic fiyat sayfası ve Google Gemini fiyat sayfası (erişim 09.08.2026); Together AI fiyat sayfası (erişim 09.08.2026); AWS EC2 P5 ürün sayfası; TurkishMMLU (Yüksel vd., EMNLP 2024 Findings), TR-MMLU (Bayram vd., 2025); LiteLLM deposu.

Maliyet: iki farklı para birimi konuşuyoruz

Bu karşılaştırmadaki en yaygın hata, token fiyatı ile GPU saatini doğrudan yan yana koymaktır. Kapalı API'de maliyet tamamen değişkendir: kullanmazsanız ödemezsiniz, kullandıkça doğrusal artar. Kendi altyapınızda ise maliyet neredeyse tamamen sabittir: GPU kiralandığı andan itibaren boşta dursa da fatura işler. Dolayısıyla doğru soru "hangisi daha ucuz" değil, "bizim hacmimizde hangisi daha ucuz"dur.

Basit bir aritmetik yapalım — rakamlar yukarıdaki resmî fiyat kaynaklarından, hesap bize ait ve girdi/çıktı oranını 50/50 varsayıyoruz. Bir sağlayıcının resmî listesinde H100 GPU saati $3,99 ise, 7/24 çalışan tek bir GPU aylık yaklaşık $2.873 sabit maliyet üretir (30 gün × 24 saat). Aynı sağlayıcının barındırdığı gpt-oss-120B ($0,15 girdi / $0,60 çıktı) ile bu bütçe yaklaşık 7,7 milyar token satın alır. Kapalı amiral bir modelde ($5 / $30) ise aynı bütçe yaklaşık 164 milyon token eder. Aradaki büyüklük farkı, kararı büyük ölçüde kendiliğinden verir: kurum içi asistan, sözleşme özeti ve destek otomasyonu gibi tipik senaryolarda aylık tüketim çoğunlukla yüz milyonlarca tokenın altındadır; bu bantta kendi GPU'nuzu çalıştırmak ekonomik değildir. Milyar token bandına çıkan (ör. tüm çağrı kayıtlarını her gün işleyen) kurumlarda ise denklem tersine döner.

Bu hesaba iki uyarı eklemek zorundayız. Birincisi, GPU saati toplam maliyet değildir: yedeklilik için ikinci bir düğüm, model sunma katmanı, izleme, güvenlik yaması ve bu işi yapacak mühendis zamanı da eklenir — pratikte donanım maliyetinin üzerine ciddi bir işletme katmanı biner. İkincisi, kapalı API tarafında birim fiyat tek başına faturayı belirlemez; önbellekleme ve toplu işlem indirimleri (örneğin Anthropic'in fiyat sayfasında toplu işlemde %50 indirim, önbellek okumada girdi fiyatının 0,1 katı) yüksek hacimde etkiyi yarıya indirebilir. Ayrıntılı bir donanım hesabını on-premise LLM kurulum maliyeti yazımızda paylaşıyoruz.

Veri gizliliği ve yerinde çalıştırma

Bazı senaryolarda maliyet hesabı hiç yapılmaz, çünkü karar zaten verilmiştir: veri kurum dışına çıkamıyorsa açık ağırlıklı model tek yoldur. Kişisel sağlık verisi, ceza dosyası, savunma sanayii teknik dokümanı ya da müşteri kimlik bilgisi içeren metinleri üçüncü taraf bir API'ye göndermek çoğu kurumda hukuki değil, kurumsal bir kırmızı çizgidir. Açık ağırlıklı modelin avantajı burada tartışmasızdır: model dosyası sizin sunucunuzda çalışır, istem hiçbir ağ sınırını geçmez ve denetim kaydını siz tutarsınız.

Ancak "bulut API kullanılamaz" sonucuna atlamadan önce bir adım daha var: veri sınıflaması. Kurumların çoğunda işlenen metinlerin belki %10'u gerçekten hassastır; kalan %90 halka açık mevzuat, ürün dokümanı veya anonimleştirilebilir içeriktir. Tüm iş yükünü en katı gereksinime göre tasarlamak, gereksiz yere pahalı ve yavaş bir sistem üretir. Doğru yaklaşım, veriyi sınıflandırıp akışı ona göre ayırmaktır — aşağıdaki hibrit mimari tam olarak bunun için var. Bulut API kullanılacaksa da bölgesel uç nokta, veri işleme sözleşmesi (DPA), saklama süresi ve eğitimde kullanmama taahhüdü şartnameye yazılmalıdır.

Performans farkı ve lisans gerçeği

Açık ağırlıklı modellerin son iki yıldaki ilerlemesi ciddi. OpenAI, gpt-oss modellerini Apache 2.0 lisansıyla yayımladı; resmî model kartında gpt-oss-120b'nin tek bir 80 GB GPU üzerinde (NVIDIA H100 veya AMD MI300X gibi), gpt-oss-20b'nin ise 16 GB bellek içinde çalışabildiği belirtiliyor. Alibaba, Qwen3.6-27B ve Qwen3.6-35B-A3B modellerini Nisan 2026'da yayımladı ve resmî deposunda "tüm açık ağırlıklı modellerimiz Apache 2.0 ile lisanslıdır" ifadesini kullanıyor. Mistral, 2 Aralık 2025'te duyurduğu Mistral 3 sürümünde (Ministral 3 ailesi: 14B, 8B, 3B ve Mistral Large 3) "tüm modeller Apache 2.0 lisansıyla yayımlanmıştır" diyor. Pratik anlamı şu: sınıflandırma, özetleme, bilgi çıkarımı ve RAG tabanlı soru-cevap gibi kurumsal iş yüklerinin büyük bölümünde açık ağırlıklı modeller üretime hazır kabul ediliyor. En üst düzey muhakeme, karmaşık ajan davranışı ve uzun zincirli kodlama görevlerinde ise kapalı amiral modeller genellikle önde kabul edilir — ancak bu, üretici beyanlarına ve kamuya açık kıyaslara dayanan genel bir gözlemdir; sizin göreviniz için geçerli olup olmadığını yalnızca kendi değerlendirme setiniz söyler.

Lisans tarafında dikkat edilmesi gereken asıl ayrım "açık ağırlıklı" ile "açık kaynak" arasındadır. Apache 2.0 ile gelen modellerde (gpt-oss, Qwen3.6, Mistral 3) ticari kullanım, değiştirme ve yeniden dağıtım serbesttir. Meta'nın Llama 4 modelleri ise "Llama 4 Community License Agreement" ile dağıtılır ve iki maddesi kurumsal hukuk biriminin dikkatini ister: sürümün çıkış tarihinde ürününüzün önceki takvim ayındaki aylık aktif kullanıcı sayısı 700 milyonu aşıyorsa Meta'dan ayrıca lisans talep etmeniz gerekir; ayrıca dağıtımlarda "Built with Llama" atfı ve lisans bildirim metnini korumak zorunludur. Çoğu Türk kurumu için 700 milyon eşiği teorik kalır, ama atıf ve bildirim yükümlülüğü fiilî bir gerekliliktir. Şartname yazarken "açık kaynak model kullanılacaktır" ifadesi yetersizdir; hangi lisansların kabul edildiğini açıkça sayın.

Hibrit mimari: iki tarafı da kullanmak

Sahadaki en sağlıklı kurgu ikisinden birini seçmek değil, aralarına bir yönlendirme katmanı koymak. Fikir basit: gelen her istek önce sınıflandırılır, sonra uygun modele gider. Kişisel veri içeren istekler kurum içindeki açık ağırlıklı modele; yüksek hacimli ama basit görevler (etiketleme, özetleme, e-posta taslağı) ekonomik bir API kademesine; gerçekten zor muhakeme gerektiren az sayıdaki istek amiral modele yönlendirilir. Bu kurgunun üç kazancı var: hassas veri hiç dışarı çıkmaz, hacmin büyük bölümü ucuz kademede işlenir ve tek bir sağlayıcının fiyat ya da yol haritası değişikliği sizi kilitlemez.

Teknik olarak bu katman bir LLM ağ geçidiyle kurulur; LiteLLM gibi açık projeler kendini "100'den fazla LLM API'sini OpenAI biçiminde çağırma", yeniden deneme ve yedeğe düşme yönlendirmesi, maliyet takibi ve proje bazlı sanal anahtar yönetimi sunan bir yapı olarak tanımlar. Kurumsal tarafta üç şeyi mutlaka yazılı hâle getirin: yönlendirme kuralları (hangi veri sınıfı hangi modele gider), kayıt politikası (hangi istem nerede saklanır) ve geri düşme davranışı (birincil model yanıt vermezse ne olur ve bu durum veri politikasını ihlal eder mi). Yönlendirme kuralı yazılı değilse, altı ay sonra hangi verinin nereye gittiğini kimse denetleyemez — ve denetlenemeyen bir mimari, KVKK açısından savunulamaz.

Dürüst bir not: asıl karar model değil, mimari

Kurumların çoğu bu sayfaya "hangi modeli seçmeliyiz" sorusuyla gelir; oysa altı ay sonra pişmanlık üreten şey model seçimi değil, mimarinin modele göre kurulmuş olmasıdır. Bilgi tabanınız, belge işleme hattınız ve değerlendirme setiniz model-bağımsız kurulmuşsa bugün açık ağırlıklı, yarın kapalı bir modele geçmek bir yapılandırma değişikliğidir. Model-bağımlı kurulmuşsa aynı geçiş bir yeniden yazım projesidir. Biz Yazılım Koçu olarak bu katmanı — RAG tabanlı kurumsal asistan mimarisi ve yönlendirme kapısı dahil — kaynak kodu müşteriye ait olacak şekilde geliştiriyoruz. Bu, yukarıdaki seçeneklerden birinin alternatifi değil; hangisini seçerseniz seçin geri dönülebilirliği koruyan bir kurgudur. İhtiyacınızı hazır bir API doğrudan karşılıyorsa, özel geliştirme gereksiz maliyettir ve bunu açıkça söyleriz.

Hangi durumda hangisi?

• KVKK-hassas veri, kamu, savunma, sağlık: Açık ağırlıklı model + yerinde çalıştırma varsayılan başlangıçtır. Küçük modellerle (ör. 20B sınıfı) başlayıp donanım ihtiyacını gerçek yükle ölçün; ilk günden en büyük modeli almak en yaygın israftır.
• Aylık tüketimi yüz milyonlarca tokenın altında olan kurum: Kapalı API veya barındırılmış açık model neredeyse her zaman daha ucuz ve daha hızlı başlar. Sabit GPU maliyeti bu bantta kendini amorti etmez.
• Yüksek hacimli, tekrarlı ve basit görevler (etiketleme, özetleme, sınıflandırma): Barındırılmış açık modeller güçlü bir fiyat/performans noktası sunar; aynı işi ekonomik kapalı kademelerle de yarıştırıp kendi verinizle ölçün.
• En üst düzey muhakeme, karmaşık ajan ve kodlama iş yükleri: Kapalı amiral modeller bu segment için konumlandırılıyor. Ajan katmanının nasıl kurulacağını AI ajan platformları karşılaştırmamızda ele alıyoruz.
• Türkçe ağırlıklı senaryolar: Tabloya skor yazmadık, çünkü güncel bağımsız veri yok. Kendi belgelerinizden 30-50 örneklik bir set hazırlayıp adayları aynı sorularla test edin; gözlemlerimizi Türkçe LLM karşılaştırması yazısında topladık.
• Alan terminolojisi ağır olan kurumlar: Model değiştirmeden önce erişim katmanını iyileştirmek çoğu zaman daha çok kazandırır; RAG ve fine-tuning karşılaştırmamız bu kararı ayrıntılandırıyor.
• Uzun vadeli öngörülebilirlik arayan kurumlar: Kapalı modellerde sürüm emekliliği ve fiyat değişimi gerçek bir risktir; kritik bir süreci tek bir kapalı modele bağlayacaksanız sözleşmeye sürüm ömrü ve geçiş desteği maddesi koyun. Açık ağırlıklı modelde indirdiğiniz dosya sizde kalır — bu, tek başına bir risk azaltma stratejisidir.

Kapalı platformların kendi aralarındaki fiyat ve bağlam farklarını kurumsal LLM platformları karşılaştırmamızda ayrıntılı tabloyla veriyoruz.