ChatGPT Entegrasyonu

OpenAI API ile başlangıç

OpenAI API; GPT ailesi modellerine programatik erişim sağlar ve chatbot, içerik üretimi, veri çıkarımı ve kod tamamlama gibi uygulamalar geliştirmenize olanak verir. Entegrasyonun temel adımları şunlardır:

1. Hesap ve anahtar: platform.openai.com üzerinden hesap açın, Settings → API keys bölümünden bir anahtar oluşturun ve faturalandırmayı etkinleştirin.
2. SDK kurulumu: Python tarafında openai paketi, Node.js/TypeScript tarafında yine openai paketi kullanılır.
3. İlk istek: Chat completions uç noktasına bir system mesajı (asistanın rolü) ve bir user mesajı gönderilir; model, max_tokens ve temperature gibi parametrelerle şekillendirilir.
4. Token takibi: Her yanıtta dönen kullanım (usage) alanından giriş/çıkış token sayısı izlenir; maliyet buradan hesaplanır.

Güvenlik notu: API anahtarını asla istemci (tarayıcı) tarafına koymayın; çağrıları sunucu üzerinden yapın ve anahtarı ortam değişkeninde saklayın.

GPT-4 sınıfı vs GPT-3.5: model karşılaştırması

Doğru model seçimi maliyet ve kaliteyi birlikte belirler. Aşağıdaki değerler yaklaşık/örnektir; güncel rakamlar için OpenAI'nin resmi fiyatlandırma sayfasına bakılmalıdır.

Model seçim rehberi: Yüksek trafikli, basit sorular için GPT-3.5 (maliyet optimizasyonu); karmaşık müşteri hizmetleri ve uzun döküman için GPT-4 sınıfı. En verimli yaklaşım genellikle hibrit: ilk filtreleme ucuz modelle yapılır, yalnızca karmaşık sorular güçlü modele yönlendirilir.

Function calling: harici araç entegrasyonu

Function calling ile model, tanımladığınız fonksiyonlara erişebilir. Örneğin bir e-ticaret asistanında akış şöyledir:

1. Modele search_products gibi bir fonksiyonu adı, açıklaması ve parametre şemasıyla (JSON schema) bildirirsiniz.
2. Kullanıcı "45 bin TL altında telefon önerir misin?" der.
3. Model, doğrudan cevap yerine yapılandırılmış bir fonksiyon çağrısı döndürür (fonksiyon adı + argümanlar).
4. Siz bu argümanlarla gerçek veritabanı sorgusunu çalıştırır, sonucu modele geri gönderirsiniz.
5. Model, sonucu doğal Türkçe bir yanıta dönüştürür.

Tipik kullanım alanları: veritabanı sorguları, hava durumu/döviz API'leri, e-posta gönderimi, randevu oluşturma, ödeme işlemleri ve CRM entegrasyonu.

Streaming yanıtlar (gerçek zamanlı)

Streaming ile modelin cevabı token token akar; kullanıcı ChatGPT'deki gibi "yazılıyor" etkisini görür. Bu, uzun yanıtlarda algılanan gecikmeyi düşürür ve HTTP zaman aşımı riskini azaltır. Modern framework'lerde (ör. Next.js API route) stream, sunucudan tarayıcıya SSE olarak iletilir; frontend tarafında hazır chat kütüphaneleri bu akışı doğrudan render eder.

Fine-tuning: özel model eğitimi

Fine-tuning ile modeli kendi veri setinizle eğitip şirket terminolojisine ve ton'una uydurabilirsiniz. Adımlar:

1. Veri hazırlama: JSONL formatında, her satırda system + user + assistant örneği. Minimum ~10 örnek, ideal ~50-100 kaliteli örnek. "Kaliteli veri > çok veri" kuralı geçerlidir.
2. Yükleme ve eğitim: Dosya yüklenir, fine-tuning işi başlatılır; durum "pending → running → succeeded" olarak izlenir.
3. Kullanım: İş tamamlanınca oluşan özel model kimliği, normal API çağrısında model adı yerine kullanılır.

Not: Kuruma özel güncel bilgi gerekiyorsa fine-tuning yerine çoğu zaman RAG daha uygundur; fine-tuning'i ton ve format tutarlılığı için tercih edin.

Token maliyeti ve optimizasyon

GPT modelleri metni token'lara böler. İngilizcede 1 kelime ≈ 1.3 token, Türkçede 1 kelime ≈ 2-3 tokenolduğu için Türkçe metin daha maliyetlidir. Temel formül:

Maliyet = (giriş token + çıkış token) × birim fiyat. Örnek (yaklaşık): Günde 10.000 konuşma, konuşma başına ~8 mesaj ve mesaj başına ~500 token varsayarsak günlük ~40M token oluşur. Aynı hacim, ucuz modelle güçlü modele göre kabaca bir büyüklük mertebesidaha düşük aylık maliyet üretir — bu yüzden model seçimi doğrudan bütçeyi belirler.

• Caching: Aynı sorulara önbellekten yanıt (ör. Redis) — sık tekrar eden sorularda belirgin tasarruf.
• Hibrit model: FAQ için ucuz model, karmaşık sorular için güçlü model.
• Prompt sıkıştırma: Gereksiz kelimeleri çıkararak token sayısını azaltın.
• Yanıt limiti: max_tokens ile çıkış uzunluğunu sınırlayın.
• Embedding tabanlı bağlam: Tüm bilgi yerine yalnızca ilgili dokümanları modele gönderin (RAG mantığı).

2026 eğilimleri

• Çok sağlayıcılı mimari: Kurumlar tek modele bağlı kalmamak için OpenAI'nin yanında Claude ve Gemini gibi alternatifleri de entegre ediyor.
• Uzun bağlam standart oldu: 128K–1M token pencereler, uzun sözleşme ve rapor analizini prompt içinde mümkün kılıyor.
• Ajan mimarileri: Function calling, tek çağrıdan çok adımlı araç kullanan asistanlara evriliyor.

Özel chatbot ve LLM entegrasyonu ihtiyaçlarınız için AI çözümlerimizi inceleyebilirsiniz.