LLM ve ChatGPT entegrasyonu

LLM entegrasyonu, ChatGPT, Claude veya Gemini gibi büyük dil modellerini API üzerinden mevcut yazılımınıza, ERP veya CRM sisteminize bağlayıp ekranlarınıza yeni bir yetenek eklemektir: metni özetlemek, sınıflandırmak, alan çıkarmak, taslak yazmak. Corrplus olarak doğru modeli seçiyor, maliyeti ve verinin nerede işlendiğini baştan planlıyor, özelliği ölçülebilir şekilde canlıya alıyoruz.

Ücretsiz görüşme planlayın

Süre

Tek bir özelliğin ilk canlı sürümü genellikle 3–6 hafta içinde

Fiyatlandırma

Keşif görüşmesinden sonra sabit kapsamlı proje teklifi; model kullanım maliyeti sizin hesabınızda; isteğe bağlı aylık işletme.

Kullandığımız araçlar

OpenAI API, Anthropic Claude API, Google Gemini API, Azure OpenAI, Amazon Bedrock, Açık modeller (Llama, Mistral, Qwen) ve vLLM

Kimler için

  • Kendi yazılım ürününe yapay zeka özelliği eklemek isteyen SaaS ve yazılım şirketleri
  • Logo, Mikro, Netsis, SAP veya kendi geliştirdiği ERP'de serbest metin, açıklama ve belge alanlarıyla uğraşan şirketler
  • HubSpot, Salesforce veya Dynamics 365 kayıtlarını özetlemek, sınıflandırmak ve zenginleştirmek isteyen ekipler
  • OpenAI API ile prototip yapmış ama maliyet, hız veya veri konumu nedeniyle canlıya alamamış ekipler

Ne zaman uygun değil

  • Yapay zekanın hangi işe ekleneceği henüz belli olmayan şirketler. Önce kullanım senaryosunu yapay zeka danışmanlığıyla netleştiririz.
  • Yalnız çalışanların ChatGPT veya Copilot kullanmasını isteyen ekipler. Bu bir lisans ve eğitim konusudur, entegrasyon değil.

Teslim ettiklerimiz

  • Model seçim raporuAynı görev için birkaç modelin sizin örnek verinizle karşılaştırması: kalite, gecikme, işlem başına maliyet ve verinin işlendiği bölge.
  • Entegrasyon katmanıYazılımınızla model sağlayıcı arasında duran, model değiştirmeyi tek ayarla mümkün kılan servis; API anahtarı yönetimi, yeniden deneme ve önbellek dahil.
  • Talimat ve çıktı şemasıSürümlenmiş talimatlar ve modelin yazılımınıza bozuk veri döndürmemesi için yapılandırılmış (JSON) çıktı kuralları.
  • Değerlendirme setiGerçek örneklerden test vakaları; model veya talimat değiştiğinde kalite otomatik ölçülür.
  • Maliyet ve kullanım izlemeÖzellik, müşteri veya kullanıcı bazında token tüketimi ve bütçe uyarıları.

Nasıl çalışıyoruz

  1. Keşif

    Özelliğin hangi ekranda, hangi veriyle, kim için çalışacağını ve başarının nasıl ölçüleceğini birlikte tanımlıyoruz.

  2. Tasarım

    Aday modelleri örnek verinizle karşılaştırıyor, kişisel verinin nereye gideceğini KVKK açısından belirliyor, mimariyi ve teklifi yazıyoruz.

  3. Kurulum

    Entegrasyon katmanını ve ilk özelliği kısa döngülerle kuruyor, önce sınırlı bir kullanıcı grubuna açıyoruz.

  4. İşletme

    Kalite ve maliyeti izliyor, yeni model sürümlerini test setiyle değerlendirip gerektiğinde geçiş yapıyoruz.

LLM entegrasyonu hangi işleri çözer?

Ekranlarınızdaki serbest metin genellikle en az işlenen veridir: müşteri talebinin açıklaması, servis formundaki arıza notu, tedarikçi e-postası. Dil modeli bu metni okuyup yapılandırılmış veriye çevirebilir veya üzerinden taslak yazabilir. Tipik örnekler:

  • Servis kaydındaki arıza notunu sınıflandırıp doğru ekibe atamak
  • CRM’deki görüşme notlarından özet ve sonraki adımı çıkarmak
  • Tedarikçi e-postasından sipariş numarası, tarih ve tutarı ERP alanlarına yazmak
  • Ürün açıklamalarını Trendyol ve Hepsiburada kurallarına göre yeniden yazmak
  • e-Fatura ve e-Arşiv belgelerindeki açıklama satırlarını muhasebe koduna eşlemek için öneri üretmek
  • Kendi SaaS ürününüze “özetle” veya “taslak oluştur” düğmesi eklemek

Hangi model, nerede çalışmalı?

Model seçimi tek bir karar değil; kalite, maliyet, hız ve verinin nerede işlendiği arasında bir dengedir.

Seçenek Ne zaman uygun Veri nerede işlenir Dikkat edilecek
OpenAI API Geniş görev yelpazesi, olgun araçlar Sağlayıcının bulutu Yurt dışına aktarım değerlendirmesi
Anthropic Claude API Uzun belgeler ve araç kullanımı Sağlayıcının bulutu Yurt dışına aktarım değerlendirmesi
Google Gemini API Google Cloud kullananlar, görsel ve belge girdisi Google Cloud, bölge seçimiyle Ücretsiz katmanın koşulları farklı
Azure OpenAI Microsoft altyapısındaki kurumlar Seçilen Azure bölgesi Kurumsal sözleşme ve kota
Açık modeller (Llama, Mistral, Qwen) Veri dışarı çıkmamalı veya hacim çok yüksek Kendi sunucunuz GPU maliyeti ve bakım

Model kalitesi dile ve göreve göre değişir. Türkçe metinlerde genel sıralamalar her zaman yol göstermez; bu yüzden karşılaştırmayı sizin Türkçe örneklerinizle yapıyoruz. Entegrasyon katmanını da modelden bağımsız kuruyoruz. Bugün bir modelle başlayıp yarın daha ucuz veya daha iyi bir modele geçmek kodunuzu değiştirmeyi gerektirmez.

Yapay zeka ajanı ve RAG’den farkı ne?

LLM entegrasyonu tek ve tanımlı bir görevdir: girdi belli, çıktı belli, yazılımınızın mevcut ekranında çalışır. Yapay zeka ajanı ise bir hedef için birden çok adımı kendisi planlar ve araçlarla uygular; daha esnektir ama denetimi daha zordur. RAG bilgi asistanı çalışanların şirket belgelerine soru sorduğu ayrı bir uygulamadır. Bir entegrasyon RAG’den yararlanabilir, ama amacı belgeleri sorgulatmak değil, var olan bir iş adımını hızlandırmaktır. Öngörülebilirlik istiyorsanız entegrasyonla başlayın.

Nasıl başlıyoruz?

İlk görüşmede yapay zeka eklemek istediğiniz ekranı ve birkaç gerçek örnek veriyi birlikte inceliyoruz. Ardından aday modelleri bu örneklerle karşılaştırıp kaliteyi ve işlem başına maliyeti yan yana gösteriyoruz. Karar bu karşılaştırmaya dayanır, tahmine değil. Kapsam henüz net değilse iki haftalık yapay zeka keşif programı ile başlıyoruz.

Bu hizmet işinize nasıl uyar?

Mevcut durumunuzu ücretsiz ilk görüşmede anlatın; nereden başlamanın mantıklı olduğunu açıkça söyleyelim.

HizmetYapay zeka ajanı geliştirmeERP, CRM ve e-postanızda araç kullanarak çok adımlı işleri yürüten, insan onaylı yapay zeka ajanları.
Kullanım senaryosuYapay zeka ile doküman analiziSözleşme ve şartnamelerden alan çıkarıyor, maddeleri karşılaştırıyor, kaynağıyla cevap veriyoruz.
SektörTeknoloji ve yazılım şirketleriBT hizmet, yazılım ve siber güvenlik şirketleri için destek, teklif ve dokümantasyonda yapay zeka ve otomasyon.
HizmetRAG ile kurumsal bilgi asistanıProsedür, sözleşme ve teknik dokümanlarınızdan kaynak göstererek cevap veren, yetki kontrollü bilgi asistanı.
Kullanım senaryosuFatura işleme otomasyonue-Fatura, e-Arşiv ve PDF faturaları okuyup eşleştiriyor, onaydan sonra ERP'nize aktarıyoruz.
Sektörİmalat ve üretimÜreticiler için kalite kontrol, talep tahmini, teknik doküman asistanı ve ERP otomasyonu.

İlgili yazılar

Kendi ürünlerimiz

Müşteri projelerinde kullandığımız araçları ve kontrol listelerini kendi ürünlerimizde de kullanıyoruz.

Tüm ürünler →
WordPress eklentisiPromptorSoruları WordPress sitenizin içeriğinden 7/24 cevaplayan ve sohbette müşteri adayı toplayan yapay zeka asistanı.
iPhone ve iPadFreelancerFlowSerbest çalışanlar için briften ödemeye plan, teklif, fatura ve tahsilatı tek yerde toplayan iPhone ve iPad uygulaması.
Web, telefon ve bilgisayarOkey 101 Çetele101 okey oynatan kafeler için QR ile dijital çetele, turnuva, müdavim hafızası ve kampanya tek panelde.

Terimler

Sık sorulan sorular

Hangi modeli seçmeliyiz: OpenAI mı, Claude mı, Gemini mi?

Tek doğru cevap yok. Aynı görevi sizin örnek verinizle birkaç modelde deniyor, kalite, hız ve işlem başına maliyeti yan yana koyuyoruz. Entegrasyon katmanı model değiştirmeyi kolaylaştırdığı için bugünkü seçim sizi bağlamaz.

API maliyetini nasıl kontrol ediyorsunuz?

Basit işleri küçük ve ucuz modellere veriyor, tekrarlanan istekleri önbelleğe alıyor, gereksiz uzun bağlamı kırpıyoruz. Özellik ve kullanıcı bazında tüketimi izliyor, bütçe sınırına yaklaşıldığında uyarı veriyoruz.

Verilerimiz model eğitiminde kullanılır mı?

Büyük sağlayıcılar ücretli API ve kurumsal planlarda gönderilen veriyi varsayılan olarak model eğitiminde kullanmadıklarını belirtiyor; ücretsiz katmanlarda koşullar farklı olabilir. Güncel koşulları her sağlayıcı için birlikte kontrol ediyoruz. Tam kontrol gerekiyorsa açık modeli kendi sunucunuzda çalıştırıyoruz.

Verinin Türkiye'de veya AB'de kalması gerekiyorsa?

Seçenekler var: Azure OpenAI veya Google Cloud'da bölge seçimi, ya da Llama, Mistral, Qwen gibi açık modelleri kendi sunucunuzda veya Türkiye'deki bir veri merkezinde çalıştırmak. Yurt dışına aktarım değerlendirmesini hukuk danışmanınızla birlikte yapıyoruz.

Logo veya Netsis gibi yerel ERP'lere entegre edilebilir mi?

Çoğu zaman evet. Veritabanı, web servis veya dosya aktarımı üzerinden veriyi alıp modelin sonucunu ilgili alana geri yazıyoruz. ERP'nin kendisini değiştirmeden yanına küçük bir servis eklemek en sık kullandığımız yol.

Fine-tuning gerekir mi?

Çoğu projede hayır. İyi yazılmış talimat, örnekler ve gerektiğinde RAG yeterli olur. Fine-tuning, çok yüksek hacimde aynı biçimi tutarlı üretmek veya küçük bir modeli tek bir göreve uzmanlaştırmak gerektiğinde değerlendirilir.

LLM ve ChatGPT entegrasyonu için ilk adımı birlikte atalım

Mevcut durumunuzu bir görüşmede anlatın; size uygun kapsamı ve yol haritasını yazılı olarak paylaşalım.

Nasıl başlıyoruz?

  1. Ücretsiz ilk görüşmeSorunu ve hedefi birlikte netleştiriyoruz.
  2. 2 haftalık keşif programıVeriye, sürece ve araçlara bakıp nereden başlanacağını belirliyoruz.
  3. Yazılı teklifKapsamı, mimariyi ve takvimi yazılı olarak sunuyoruz.
Ücretsiz görüşme planlayın