Yapay Zeka Sistemlerinde Gözetim ve Etki Değerlendirmesi

Yapay zeka gözetimi, bir AI sisteminin kararlarının insan kontrolünde kalmasını sağlayan süreçlerin bütünüdür; etki değerlendirmesi ise sistemin bireyler ve toplum üzerindeki olası sonuçlarının devreye alınmadan önce incelenmesidir. İkisi birlikte, yapay zekanın güvenli ve hesap verebilir kullanımının çerçevesini oluşturur.

Konu artık etik tartışması olmaktan çıktı: düzenlemeler yürürlükte ve yükümlülükler tarihli. Yapay zeka kullanan her işletmenin bu çerçeveyi bilmesi gerekiyor.

İnsan Gözetimi (Human Oversight) Ne Demek?

İnsan gözetimi, sistemin her kararını insanın onaylaması demek değildir; kararın niteliğine göre üç model uygulanır. Döngüde insan (human-in-the-loop) modelinde sistem önerir, insan onaylar; kredi onayı gibi yüksek etkili kararlar burada durur. Döngü üstünde insan (human-on-the-loop) modelinde sistem otonom çalışır, insan izler ve gerektiğinde müdahale eder. Denetimli otonomi ise düşük riskli, yüksek hacimli işlerde örneklem denetimiyle yetinir.

Modelin seçimi teknik değil, risk temellidir: kararın geri alınabilirliği düştükçe insan kontrolü karara yaklaşmalıdır.

AB Yapay Zeka Yasası Ne Getiriyor?

AB AI Act, Ağustos 2024'te yürürlüğe girdi ve kademeli uygulanıyor: yasaklı uygulamalar (sosyal skorlama, manipülatif sistemler) Şubat 2025'te devreye girdi, genel amaçlı modellere ilişkin yükümlülükler Ağustos 2025'te başladı, yüksek riskli sistemlerin kapsamlı gereklilikleri ise 2026-2027 aralığında tamamlanıyor.

Türkiye'deki işletmeler için kapsam sorusu kritik: AB pazarına hizmet veren ya da çıktısı AB'de kullanılan sistemler, şirket nerede kurulu olursa olsun yasanın kapsamına girebilir.

Etki Değerlendirmesi Nasıl Yapılır?

1. Sistemi ve amacı tanımlayın. Hangi kararı, hangi veriyle, kimin için veriyor.
2. Etkilenenleri belirleyin. Karardan doğrudan ve dolaylı etkilenen gruplar listelenir; en savunmasız grup ayrıca işaretlenir.
3. Riskleri puanlayın. Yanlılık, hata, mahremiyet ihlali ve erişim eşitsizliği; olasılık ve şiddet ekseninde değerlendirilir.
4. Önlemleri tasarlayın. Her yüksek riske bir kontrol karşılık gelir: insan onay eşiği, itiraz mekanizması, veri minimizasyonu.
5. Belgeleyin ve tekrarlayın. Değerlendirme tek seferlik değildir; model, veri ya da kullanım değiştiğinde yenilenir.

KVKK tarafında karşılık nettir: profilleme ve otomatik karar içeren işlemler, kişisel veri işleme envanterine ve açık aydınlatmaya bağlanmak zorundadır. Kullanıcının otomatik karara itiraz hakkı, sürecin tasarımına baştan eklenmelidir.

Mahremiyet ve Veri Yönetimi

Gözetimin görünmeyen yarısı veridir. Modelin eğitiminde ve çalışmasında kullanılan verinin kaynağı, saklama süresi ve erişim yetkisi tanımlı değilse, sistemin kendisi ne kadar denetlenirse denetlensin risk kapanmaz. Pratik asgari set: veri envanteri, amaç sınırlaması, anonimleştirme kuralları ve üçüncü taraf model sağlayıcılarıyla yapılan sözleşmelerde veri kullanım maddeleri.

İşletmeler İçin Pratik Başlangıç

Küçük ve orta ölçekte bile üç adım uygulanabilir: kullanılan AI araçlarının envanteri (pazarlama araçlarındaki AI özellikleri dahil), her aracın dokunduğu kişisel verinin haritası ve yüksek etkili kararlar için insan onay kuralı. Bu üçlü, hem mevzuat hazırlığının hem de müşteri güveninin temelini atar.

Şeffaflık aynı zamanda bir görünürlük sinyalidir: yapay zeka kullanımını açıkça belgeleyen markalar, hem düzenleyici hem de kullanıcı deneyimi tarafında güven biriktirir. Bu güvenin arama ve AI yüzeylerindeki karşılığı GEO yol haritasında ayrıca ele alınıyor.