Yapay Zeka Ajanlarını Nasıl Yönetir ve Denetlersiniz? Ajan Yönetişimi Rehberi

Yapay zeka ajanı yönetişimi; şirketinizdeki ajanların hangi verilere erişebileceğini, hangi işlemleri kendi başına yapabileceğini, nerede insan onayı gerektiğini ve yaptıklarının nasıl kaydedilip denetleneceğini belirleyen kurallar ve teknik kontrollerdir. Ajanlar soru yanıtlamakla kalmayıp mesaj gönderdiği, kayıt açtığı ve sistemlerde işlem yaptığı için, yönetişim artık bir “ileride bakarız” konusu değil, projenin ilk gününden itibaren tasarımın parçasıdır.

Neden şimdi gündemde?

2026’da yapay zeka ajanları pilotlardan günlük işe geçiyor ve konuşma “ajan nasıl kurulur?” sorusundan “ajanlar nasıl güvenle yönetilir?” sorusuna kayıyor. Kasım 2026’da IBM ve Microsoft, şirketlerin ajanlarını kurmak, çalıştırmak ve denetlemek için ortak bir platform duyurdu (Microsoft). Türkiye’de de bu yılki Türkiye Yapay Zeka Zirvesi’nin teması “Ajanlar Aramızda” oldu (turkiye.ai).

Ama yönetişim yalnızca büyük şirketlerin ya da büyük platformların konusu değil. Tek bir ajan bile müşteriye mesaj gönderiyor veya CRM kaydı açıyorsa, onu kimin, hangi kurallarla denetlediği sorusu doğar.

Ajanlar neden yeni bir risk yaratır?

Klasik yazılım, yazıldığı kuralları uygular. Sohbet asistanı soru yanıtlar ve son kararı kullanıcıya bırakır. Yapay zeka ajanı ise bir hedef verildiğinde adımları kendisi planlar ve araç çağırarak iş yapar. Bu üç yeni risk doğurur:

• Yetki riski: Gereğinden geniş erişimi olan bir ajan, tek bir hatada çok sayıda kayda veya kişiye dokunabilir.
• Öngörülemezlik: Aynı görev, girdiye göre farklı adımlarla yürütülebilir; ajan beklenmedik bir yol seçebilir.
• Görünmezlik: Ajanın ne yaptığı kaydedilmiyorsa, bir sorun olduğunda neyin, neden olduğunu anlamak mümkün olmaz.

6 kontrol katmanı

Canlıdaki ajan projelerimizde uyguladığımız yapı şu altı katmandan oluşuyor:

Bu katmanlar ajanın verimliliğini azaltmak için değil, ajana güvenle daha fazla iş verebilmek için var. Kontrolsüz bir ajana kimse kritik bir süreç teslim etmez.

Ajan envanteri: şirkette hangi ajan ne yapıyor?

Yönetişimin ilk adımı, şirkette çalışan ajanların listesini tutmaktır. Ekipler zamanla farklı araçlarla kendi ajanlarını kurmaya başladığında bu liste hızla önem kazanır. Her ajan için şu bilgiler yazılı olmalıdır:

• Amaç: Ajan hangi işi yapıyor, başarısı nasıl ölçülüyor?
• Sahip: Ajandan sorumlu kişi kim?
• Erişim: Hangi sistemlere, hangi yetkiyle bağlı?
• Kişisel veri: Kişisel veri işliyor mu, hangi kategorilerde?
• Onay noktaları: Hangi işlemler insan onayı gerektiriyor?
• Model ve sağlayıcı: Hangi model kullanılıyor, veri nerede işleniyor?
• Son gözden geçirme: Kurallar ve yetkiler en son ne zaman kontrol edildi?

İzleme: ajan çalışırken neye bakılmalı?

Ajanı canlıya almak işin sonu değil, başlangıcıdır. Düzenli izlenmesi gereken göstergeler:

• İnsana devir oranı: Çok yükselirse ajan işini yapamıyor; hiç olmuyorsa ajan emin olmadığı durumlarda bile devam ediyor olabilir.
• Onay reddi oranı: İnsanların ajan önerilerini ne sıklıkla reddettiği, kuralların ne kadar iyi çalıştığını gösterir.
• Hata ve şikâyet sayısı: Müşteriden veya ekipten gelen geri bildirimler.
• Beklenmeyen davranış: Ajanın alışılmadık bir araç çağırması, sıra dışı hacimde işlem yapması veya yetkisi dışındaki bir şeyi denemesi.
• Maliyet: Model kullanım maliyetindeki ani artışlar genellikle bir döngüye veya hatalı bir akışa işaret eder.

Bir ajan hata yaptığında ne yapılır?

Olay müdahale akışı önceden yazılı olmalıdır:

1. Durdurun: İlgili ajanı veya yetkisini kapatın, süreci geçici olarak insana devredin.
2. İnceleyin: İşlem kayıtlarından neyin, hangi girdiyle ve neden yapıldığını çıkarın.
3. Düzeltin: Etkilenen kayıtları ve kişileri belirleyip düzeltin; gerekiyorsa kişileri bilgilendirin.
4. Önleyin: Kuralı, yetkiyi veya onay adımını güncelleyin; aynı senaryoyu test setine ekleyin.

Olay kişisel veriyi etkiliyorsa KVKK kapsamındaki bildirim yükümlülüklerinin de değerlendirilmesi gerekir. Bu konuda KVKK uyumlu yapay zeka kullanımı rehberimize göz atabilirsiniz.

Nereden başlamalı?

1. Envanteri çıkarın: Şirkette bugün çalışan veya denenen tüm ajanları ve otomasyonları listeleyin.
2. En riskli ajanı seçin: Kişilere mesaj gönderen veya kayıt değiştiren ajan önce ele alınır.
3. Altı katmanı kontrol edin: Yetki, onay, kayıt, devir, kaynak ve durdurma maddelerinden eksik olanları tamamlayın.
4. Gözden geçirme takvimi koyun: Her ajanın kurallarını ve yetkilerini düzenli aralıklarla yeniden değerlendirin.

BrotherhoodIO’nun yaklaşımı

Vaka çalışmalarımızdaki tüm ajan projelerinde (müşteri bulma, EKAP ihale otomasyonu, dijital iş gücü ve müşteri iletişimi) bu altı katmanı projenin ilk gününden tasarıma dahil ediyoruz. Yönetişimi sonradan eklenen bir güvenlik katmanı olarak değil, ajanın çalışma biçiminin parçası olarak kuruyoruz. Ayrıntılar için yapay zeka ajanları ve süreç otomasyonu hizmetimizi inceleyebilirsiniz.

Şirketinizdeki ajanları ya da kurmayı planladığınız bir ajanı birlikte değerlendirmek için 30 dakikalık ücretsiz Yapay Zeka Analizi görüşmesi planlayabilirsiniz.