Yapay Zeka Sistemlerinde Gözetim ve Etki Değerlendirmesi (2026)
İnsan gözetimi modelleri, AB Yapay Zeka Yasası takvimi, etki değerlendirmesi adımları ve ajanlar için yetki sınırı, eylem kaydı, kimlik doğrulama: 2026 rehberi.
Yapay zeka gözetimi, bir AI sisteminin kararlarının insan kontrolünde kalmasını sağlayan süreçlerin bütünüdür; etki değerlendirmesi ise sistemin bireyler ve toplum üzerindeki olası sonuçlarının devreye alınmadan önce incelenmesidir. İkisi birlikte, yapay zekanın güvenli ve hesap verebilir kullanımının çerçevesini oluşturur. 2024'te bu yazıyı yayımladığımızda konu çoğunlukla sohbet botları ve öneri sistemleriydi; 2026'da kullanıcı adına satın alma yapan, e-posta yanıtlayan ve fiyat pazarlığı yürüten ajanlar devrede. Gözetim sorusu artık "model ne söylüyor" değil, "ajan ne yapıyor" sorusudur.
Konu etik tartışması olmaktan çıktı: düzenlemeler yürürlükte ve yükümlülükler tarihli. Yapay zeka kullanan her işletmenin bu çerçeveyi bilmesi gerekiyor.
İnsan gözetimi (human oversight) ne demek?
İnsan gözetimi, sistemin her kararını insanın onaylaması demek değildir; kararın niteliğine göre üç model uygulanır. Modelin seçimi teknik değil, risk temellidir: kararın geri alınabilirliği düştükçe insan kontrolü karara yaklaşmalıdır.
| Model | Nasıl çalışır | Uygun olduğu karar | Ajan çağındaki örnek |
|---|---|---|---|
| Döngüde insan (human-in-the-loop) | Sistem önerir, insan onaylar | Yüksek etkili, geri alınması zor | Belirli tutarın üstündeki ajan satın alması |
| Döngü üstünde insan (human-on-the-loop) | Sistem otonom çalışır, insan izler ve müdahale eder | Orta etkili, izlenebilir | Müşteri hizmetleri ajanının iade kararları |
| Denetimli otonomi | Örneklem denetimi | Düşük riskli, yüksek hacimli | Ürün açıklaması üretimi, e-posta konu satırı |
AB Yapay Zeka Yasası ne getiriyor?
AB AI Act 1 Ağustos 2024'te yürürlüğe girdi ve kademeli uygulanıyor: yasaklı uygulamalar (sosyal skorlama, manipülatif sistemler) 2 Şubat 2025'te devreye girdi, genel amaçlı modellere ilişkin yükümlülükler 2 Ağustos 2025'te başladı, yüksek riskli sistemlerin kapsamlı gereklilikleri için takvim 2 Ağustos 2026 olarak belirlendi. Komisyon'un Kasım 2025'te sunduğu Dijital Omnibus paketi yüksek riskli yükümlülükleri uyumlaştırılmış standartların yayımlanmasına bağlayarak erteleme önerdi; kapsamınızı belirlerken yürürlükteki son metni esas alın.
| Risk kademesi | Örnek | Yükümlülük |
|---|---|---|
| Kabul edilemez | Sosyal skorlama, manipülasyon | Yasak |
| Yüksek risk | İşe alım, kredi, sağlık kararları | Uygunluk değerlendirmesi, insan gözetimi, kayıt |
| Sınırlı risk | Sohbet botu, içerik üretimi | Şeffaflık: AI olduğunun bildirilmesi |
| Asgari risk | Spam filtresi, öneri | Gönüllü ilkeler |
Türkiye'deki işletmeler için kapsam sorusu kritik: AB pazarına hizmet veren ya da çıktısı AB'de kullanılan sistemler, şirket nerede kurulu olursa olsun yasanın kapsamına girebilir. Türkiye tarafında 2024'te TBMM'ye sunulan yapay zeka kanun teklifi henüz yasalaşmadı; bağlayıcı çerçeve KVKK, Rekabet Kurumu ve sektör düzenleyicileri üzerinden ilerliyor. AB terminolojisinin Türkçe karşılıklarını agentic AI terimler sözlüğünde derledik.
Etki değerlendirmesi nasıl yapılır?
- Sistemi ve amacı tanımlayın. Hangi kararı, hangi veriyle, kimin için veriyor.
- Etkilenenleri belirleyin. Karardan doğrudan ve dolaylı etkilenen gruplar listelenir; en savunmasız grup ayrıca işaretlenir.
- Riskleri puanlayın. Yanlılık, hata, mahremiyet ihlali ve erişim eşitsizliği; olasılık ve şiddet ekseninde değerlendirilir.
- Önlemleri tasarlayın. Her yüksek riske bir kontrol karşılık gelir: insan onay eşiği, itiraz mekanizması, veri minimizasyonu.
- Belgeleyin ve tekrarlayın. Değerlendirme tek seferlik değildir; model, veri ya da kullanım değiştiğinde yenilenir.
KVKK tarafında karşılık nettir: profilleme ve otomatik karar içeren işlemler, kişisel veri işleme envanterine ve açık aydınlatmaya bağlanmak zorundadır. Kullanıcının otomatik karara itiraz hakkı, sürecin tasarımına baştan eklenmelidir.
Ajanlar için gözetim neden farklı?
Bir sohbet botu yanlış cevap verir; bir ajan yanlış işlem yapar. Ajan kullanıcı adına ödeme yapıyor, sözleşme kabul ediyor, e-postaya yanıt veriyor ya da rakip fiyatına göre kendi fiyatını değiştiriyorsa gözetim üç ek katman ister:
- Yetki sınırı. Ajanın neyi yapabileceği baştan yazılı: harcama tavanı, izinli işlem türleri, süresi. Ödeme protokolleri bu sınırı "ödeme yetki belgesi" (payment mandate) olarak taşıyor.
- Eylem kaydı. Her işlem geri izlenebilir: hangi girdiyle, hangi kaynağa dayanarak, hangi saatte. Kayıt olmadan itiraz hakkı işletilemez.
- Kimlik doğrulama. Karşı taraftaki ajanın kim adına çalıştığı doğrulanır (Know Your Agent). Satıcı tarafında ajan trafiğini bot trafiğinden ayıran beyaz liste kurgusu da bu katmana girer.
Satıcı tarafındaki karşılığı, ajanların sitenizi doğru okuyup güvenle işlem yapabilmesi; bunun için gereken teknik hazırlığı Agentic Commerce Hazırlığı sayfasında ve sitenizin ajanlar tarafından nasıl okunduğunu ölçen AI Agent Readiness taramasında topladık.
Mahremiyet ve veri yönetimi
Gözetimin görünmeyen yarısı veridir. Modelin eğitiminde ve çalışmasında kullanılan verinin kaynağı, saklama süresi ve erişim yetkisi tanımlı değilse, sistemin kendisi ne kadar denetlenirse denetlensin risk kapanmaz. Pratik asgari set: veri envanteri, amaç sınırlaması, anonimleştirme kuralları ve üçüncü taraf model sağlayıcılarıyla yapılan sözleşmelerde veri kullanım maddeleri. Pazarlama tarafında bu setin ölçüm ayağı sunucu tarafı veri toplama ve izin yönetimidir; kurulumu ajan çağında Google Tag Manager yazısında anlattık.
İşletmeler için pratik başlangıç
Küçük ve orta ölçekte bile dört adım uygulanabilir: kullanılan AI araçlarının envanteri (pazarlama araçlarındaki AI özellikleri ve otonom ajanlar dahil), her aracın dokunduğu kişisel verinin haritası, yüksek etkili kararlar için insan onay kuralı ve ajanlar için yazılı yetki sınırı. Bu dörtlü, hem mevzuat hazırlığının hem de müşteri güveninin temelini atar.
Şeffaflık aynı zamanda bir görünürlük sinyalidir: yapay zeka kullanımını açıkça belgeleyen markalar, hem düzenleyici hem de kullanıcı deneyimi tarafında güven biriktirir. Bu güvenin arama ve AI yüzeylerindeki karşılığı GEO yol haritasında ayrıca ele alınıyor.
