Human-in-the-loop nedir?
Human-in-the-loop (HITL), bir yapay zeka sisteminin belirli kararlarını veya eylemlerini uygulanmadan önce bir insanın incelediği, onayladığı veya düzelttiği çalışma düzenidir. Yapay zeka işi hazırlar, son sözü riskli adımlarda insan söyler. Amaç her şeyi elle kontrol etmek değildir; hatanın pahalı veya geri alınamaz olduğu noktalara bir onay adımı koymaktır.
Tanım
Human-in-the-loop (HITL), bir yapay zeka sisteminin belirli kararlarını veya eylemlerini uygulanmadan önce bir insanın incelediği, onayladığı veya düzelttiği çalışma düzenidir.
Human-in-the-loop nasıl çalışır?
Bir yapay zeka ajanı veya otomasyon akışı belirli bir adıma geldiğinde durur. Hazırladığı çıktıyı, dayandığı veriyi ve önerdiği eylemi bir kişiye gösterir. Kişi onaylar, düzeltir veya reddeder; akış buna göre devam eder. Onay isteği e-posta, Slack, Teams veya bir iş paneli üzerinden gelebilir. n8n gibi otomasyon araçlarında bu, akışa eklenen bir bekleme ve onay adımıdır.
İki yaygın biçimi vardır. Birincisinde her işlem onay bekler. İkincisinde yalnız istisnalar insana düşer: modelin emin olmadığı, tutarın belirli bir sınırı aştığı veya bir kuralın tetiklendiği durumlar.
Ne zaman insan onayı gerekir?
Hatanın maliyeti yüksekse ve işlem geri alınamıyorsa. Ödeme talimatı, sözleşme gönderimi, müşteri kaydının silinmesi ve toplu e-posta tipik örneklerdir. İnsan onayı, guardrail katmanının yakalayamadığı durumlar için son güvenlik adımıdır. Onayın anlamlı olması için kişiye yeterli bilgi ve zaman verilmelidir. Okumadan basılan bir onay düğmesi denetim sayılmaz.
Türkiye’de hangi süreçlerde kullanılır?
Muhasebe tarafında tipik örnek faturadır. Yapay zeka faturayı okur ve Logo, Mikro veya Netsis kaydını taslak olarak hazırlar; kayıt ve e-Fatura gönderimi bir muhasebe çalışanının onayıyla yapılır. Resmi kuruma giden bir belgeyi düzeltmek zahmetlidir, bu yüzden onay adımı gönderimden önce durur.
KVKK, kişilere yalnızca otomatik sistemlerle yapılan analiz sonucunda aleyhlerine çıkan sonuca itiraz etme hakkı tanır. İşe alım, kredi veya şikayet değerlendirmesi gibi süreçlerde insan incelemesinin nasıl kurulacağını hukuk danışmanınızla birlikte belirleyin.
İlgili yazılar
MCP ile ajanları iş sistemlerine bağlamakMCP ile ajanları iş sistemlerine bağlarken entegrasyon deseni, yetkilendirme, istem enjeksiyonu ve insan onayı kararları.
Yapay zeka ile süreç otomasyonuDil modellerinin iş akışlarına nerede girdiği, hangi süreçle başlanacağı ve insan onayı, KVKK ve ölçümün nasıl kurulacağı.
RPA'dan otonom iş akışlarınaKural tabanlı RPA robotlarını yapay zeka adımları, insan onayı ve izlemeyle güçlendirmek için üç aşamalı, 90 günlük plan.İlgili terimler
- Yapay zeka ajanıYapay zeka ajanı, bir hedefi gerçekleştirmek için hangi adımları atacağına bir dil modeliyle kendisi karar veren ve araçları (API, veritabanı, e-posta) kullanarak bu adımları uygulayan bir yazılımdır.
- Guardrail (Yapay Zeka Koruma Kuralları)Guardrail, bir yapay zeka uygulamasının girdilerini, çıktılarını ve eylemlerini denetleyerek istenmeyen davranışları engelleyen teknik koruma katmanıdır.
- Yapay zeka yönetişimiYapay zeka yönetişimi, bir kurumun yapay zeka sistemlerini nasıl seçeceğini, kullanacağını, denetleyeceğini ve risklerini nasıl yöneteceğini belirleyen politika, rol ve süreçlerin bütünüdür.
- AB Yapay Zeka Yasası (AI Act)AB Yapay Zeka Yasası (AI Act), Avrupa Birliği'nde yapay zeka sistemlerini risk seviyelerine göre sınıflandıran ve sağlayıcılara ve uygulayıcılara (deployer) buna göre yükümlülükler getiren (AB) 2024/1689 sayılı Tüzük'tür.
- Ajan Orkestrasyonu (Agent Orchestration)Ajan orkestrasyonu, birden çok yapay zeka ajanının hangi sırayla çalışacağını, işi birbirine nasıl devredeceğini ve hata olduğunda ne yapılacağını yöneten koordinasyon katmanıdır.
Sık sorulan sorular
İnsan onayı otomasyonun faydasını ortadan kaldırmaz mı?
Doğru yere konursa hayır. Yapay zeka veriyi toplar, taslağı hazırlar ve önerisini gerekçesiyle sunar. İnsan yalnız karar anında devreye girer. Onay tek tıkla verilebiliyorsa sürecin büyük bölümü yine otomatik kalır.
Hangi adımlara insan onayı konmalı?
Geri alınamayan, para hareketi içeren, müşteriye veya resmi kuruma giden ve kişiler hakkında sonuç doğuran adımlara. Düşük riskli ve kolayca düzeltilebilen adımlar onaysız çalışabilir; örnekleme ile sonradan denetlenir.
Zamanla insan onayı kaldırılabilir mi?
Bazı adımlarda evet. Onay kayıtları yapay zekanın hangi durumlarda doğru karar verdiğini gösterir. Güven oluşan dar kapsamlı adımlar otomatiğe alınabilir. Yüksek riskli kararlarda insan denetimi kalıcı olmalıdır.
Dönüşümünüzü birlikte konuşalım
Hangi işin her hafta tekrarlandığını anlatın. Otomasyona değip değmeyeceğini açıkça söyleyelim.
Nasıl başlıyoruz?
- Ücretsiz ilk görüşmeSorunu ve hedefi birlikte netleştiriyoruz.
- 2 haftalık keşif programıVeriye, sürece ve araçlara bakıp nereden başlanacağını belirliyoruz.
- Yazılı teklifKapsamı, mimariyi ve takvimi yazılı olarak sunuyoruz.