Makine Öğrenmesi İnsan İradesi İle Desteklenmeli
COVID-19 pandemisi döneminde birçok eğitim sistemi zorunlu olarak dijital dönüşüme geçti. Bu süreçte en tartışmalı örneklerden biri, uluslararası geçerliliğe sahip International Baccalaureate (IB) programında yaşandı. Yüz yüze sınavların iptal edilmesi üzerine, öğrenci notlarının belirlenmesi için bir algoritma kullanıldı. Ancak bu karar, binlerce öğrencinin üniversite hayallerini doğrudan etkileyen ciddi sonuçlar doğurdu.
İstatistiksel Model ile Not Belirleme
IB, yüz yüze sınavları iptal ettikten sonra, öğrencilerin final notlarını belirlemek için istatistiksel bir modele başvurdu. Bu model şu verilere dayanıyordu:
Öğretmen tahminleri ve dönem içi ödev notları
Okulun geçmiş yıllardaki başarı ortalamaları
Genel istatistiksel dağılım verileri
Amaç, her öğrencinin sınavda göstereceği performansı tahmin ederek, final notunu belirlemekti. İlk bakışta bu yöntem, olağanüstü bir kriz döneminde makul bir çözüm gibi görülebilirdi. Ancak uygulamada birçok sorun ortaya çıktı.
Algoritmanın Yarattığı Sorunlar
Algoritma, öğrencilerin bireysel çabalarını ve farklılıklarını yeterince yansıtamadı. Bunun sonucunda:
Pek çok öğrenci, öğretmenlerinin öngördüğünden çok daha düşük not aldı.
Üniversite kabulü almış öğrencilerin kabulleri iptal edildi.
Burs hakkı kazanan bazı öğrenciler, düşük notlar nedeniyle bu haklarını kaybetti.
Aileler ve öğretmenler sistemin adil olmadığını dile getirdi.
Bu durum, sadece bir notlandırma krizi değil, aynı zamanda öğrencilerin geleceğini doğrudan etkileyen ciddi bir güven sorunu yarattı.
Model Neden Kusurluydu?
Algoritmanın başarısız olmasının birkaç temel nedeni vardı:
Şeffaflık eksikliği: Modelin nasıl çalıştığı öğrencilere ve öğretmenlere açıkça anlatılmadı.
Okul bazlı verilerin etkisi: Bireysel başarı yerine okulun geçmiş performansı daha çok ağırlık kazandı. Bu da başarılı öğrencilerin düşük performanslı okullar nedeniyle cezalandırılmasına yol açtı.
Gerçek yaşamı taklit edememe: Makine öğrenmesi verilerden tahmin üretebilir, ancak bireysel istisnaları her zaman doğru yansıtamaz.
Pilot test yapılmaması: Model, küçük bir grup üzerinde test edilmeden doğrudan yüz binlerce öğrenciye uygulandı.
Tekrarlanmaması İçin Ne Yapılabilir?
Böylesine kritik süreçlerde, yalnızca algoritmaya güvenmek yerine insan kontrolünü devreye almak gerekir. Daha adil bir sistem için şu önlemler alınabilir:
İnsan denetimi: Makine öğrenmesi yalnızca bir araç olmalı, nihai kararı uzman eğitmenler vermeli.
Pilot uygulamalar: Model önce küçük öğrenci gruplarında test edilmeli, sonuçlar analiz edilmelidir.
Şeffaflık: Algoritmanın nasıl çalıştığı ve hangi kriterlere göre not verdiği açıkça paylaşılmalıdır.
Başvuru ve itiraz mekanizması: Öğrencilerin sonuçlara itiraz edebileceği hızlı ve erişilebilir bir sistem kurulmalıdır.
Etik standartlar: Eğitim gibi hassas alanlarda algoritmalar, yalnızca teknik doğruluk değil, sosyal ve etik etkiler açısından da değerlendirilmelidir.
IB örneği, algoritmaların hayatımızın en kritik noktalarında kullanıldığında ne kadar dikkatli olunması gerektiğini gösteriyor. Bir öğrencinin geleceğini belirleyen notların tamamen otomatik sistemlere bırakılması, adalet ve güven duygusunu zedeleyebilir. Bu nedenle makine öğrenmesi, destekleyici bir araç olarak kullanılmalı; insan gözetimi, şeffaflık ve etik kurallar mutlaka sürece entegre edilmelidir.
