Yapay zeka yönetişimi nedir?
Yapay zeka yönetişimi, bir kurumun yapay zeka sistemlerini nasıl seçeceğini, kullanacağını, denetleyeceğini ve risklerini nasıl yöneteceğini belirleyen politika, rol ve süreçlerin bütünüdür. Hangi araçların onaylı olduğu, hangi verinin modele gönderilebileceği, çıktıları kimin kontrol edeceği ve bir sorun çıktığında ne yapılacağı sorularına yazılı cevap verir.
Tanım
Yapay zeka yönetişimi, bir kurumun yapay zeka sistemlerini nasıl seçeceğini, kullanacağını, denetleyeceğini ve risklerini nasıl yöneteceğini belirleyen politika, rol ve süreçlerin bütünüdür.
Yapay zeka yönetişimi neleri kapsar?
- Envanter. Şirkette hangi yapay zeka araçlarının, hangi amaçla, hangi veriyle kullanıldığının listesi.
- Politika. Onaylı araçlar, yasak kullanımlar ve modele gönderilebilecek veri türleri.
- Risk değerlendirmesi. Her kullanım için olası zarar, halüsinasyon etkisi ve insan kontrolü noktaları.
- Kayıt ve izleme. Özellikle ajan tabanlı sistemlerde kimin, neyi, ne zaman yaptığının kaydı.
- Eğitim. Çalışanların araçları doğru ve güvenli kullanması.
Ne zaman gerekir?
Çalışanlar yapay zeka araçlarını kullanmaya başladığı anda. Onaysız araçlara müşteri verisi yapıştırmak yaygın ve kolay önlenebilir bir risktir. Yapay zeka müşteriye dönük kararlarda veya işe alım, kredi gibi hassas alanlarda kullanılıyorsa yönetişim zorunluluğa dönüşür. Çerçeveyi sıfırdan kurmak yerine yapay zeka yönetim sistemi standardı ISO/IEC 42001 ve NIST’in AI Risk Management Framework’ü referans alınabilir.
Türkiye bağlamında
Türkiye’de kişisel veri işleyen her yapay zeka kullanımı 6698 sayılı KVKK kapsamındadır. Kişisel Verileri Koruma Kurumu’nun yapay zeka alanında yayımladığı tavsiyeler de yol gösterir. AB’ye ürün veya hizmet sunan şirketler AB Yapay Zeka Yasası yükümlülüklerini değerlendirmelidir. Hukuki yorum gerektiren konular hukuk danışmanınızla birlikte ele alınmalıdır.
İlgili terimler
- KVKK (Kişisel Verilerin Korunması Kanunu)KVKK, Türkiye'de kişisel verilerin işlenmesine ilişkin kuralları ve kişilerin haklarını belirleyen 6698 sayılı Kişisel Verilerin Korunması Kanunu'dur.
- AB Yapay Zeka Yasası (AI Act)AB Yapay Zeka Yasası (AI Act), Avrupa Birliği'nde yapay zeka sistemlerini risk seviyelerine göre sınıflandıran ve sağlayıcılara ve uygulayıcılara (deployer) buna göre yükümlülükler getiren (AB) 2024/1689 sayılı Tüzük'tür.
- Yapay zeka halüsinasyonuYapay zeka halüsinasyonu, bir dil modelinin gerçekte var olmayan bir bilgiyi, kaynağı veya rakamı akıcı ve kendinden emin bir dille doğruymuş gibi üretmesi durumudur.
- Ajan tabanlı yapay zeka (Agentic AI)Ajan tabanlı yapay zeka (agentic AI), yapay zeka sistemlerinin yalnız cevap üretmek yerine hedef belirleyip plan yaptığı, araç kullandığı ve çok adımlı işleri sınırlı insan müdahalesiyle yürüttüğü bir yaklaşımdır.
- MCP (Model Context Protocol)MCP (Model Context Protocol), yapay zeka uygulamalarını araçlara, veri kaynaklarına ve iş sistemlerine standart bir yolla bağlamak için Anthropic'in Kasım 2024'te tanıttığı açık bir protokoldür.
Sık sorulan sorular
Küçük bir şirketin yapay zeka yönetişimine ihtiyacı var mı?
Evet, ama ölçüsü küçük olur. Kısa bir kullanım politikası, onaylı araç listesi, modele gönderilmeyecek veri türleri ve bir sorumlu kişi çoğu KOBİ için yeterli bir başlangıçtır.
Yapay zeka yönetişimi için hangi çerçeveler kullanılır?
Yönetim sistemi için ISO/IEC 42001, risk yönetimi için NIST AI Risk Management Framework yaygın referanslardır. Türkiye'de kişisel veri için KVKK, AB'ye hizmet verenler için AB Yapay Zeka Yasası bağlayıcı çerçeveyi oluşturur.
Dönüşümünüzü birlikte konuşalım
Hangi işin her hafta tekrarlandığını anlatın. Otomasyona değip değmeyeceğini açıkça söyleyelim.
Nasıl başlıyoruz?
- Ücretsiz ilk görüşmeSorunu ve hedefi birlikte netleştiriyoruz.
- 2 haftalık keşif programıVeriye, sürece ve araçlara bakıp nereden başlanacağını belirliyoruz.
- Yazılı teklifKapsamı, mimariyi ve takvimi yazılı olarak sunuyoruz.