Şener Cem Irmak

Bugün her e-ticaret şirketi müşterileriyle ilgili kararların bir kısmını yapay zekâya bırakıyor: hangi siparişin dolandırıcılık şüphesiyle durdurulacağı, hangi hesabın kapatılacağı, hangi iadenin reddedileceği, hangi yorumun kaldırılacağı. Çoğu şirket bu kararları onaylaması için sürece bir insan da koyuyor. Bu konuşma, o insanın gerçekte ne yaptığını soruyor.

Otomasyon yanlılığı üzerine yapılan araştırmalar açık ve rahatsız edici bir tablo çiziyor. Güvenilir ama kusursuz olmayan bir sistemle çalışan kişi zamanla sistemin önerisini izlemeye başlıyor. Bu etki yalnızca yeni çalışanlarda değil, deneyimli uzmanlarda da görülüyor ve eğitim tek başına onu ortadan kaldırmıyor. İş yükü arttıkça onay bir refleks hâline geliyor, kayıtlarda ise hâlâ “bir insan inceledi” yazıyor. Bedeli iki yönlü: gerçek dolandırıcılık gözden kaçıyor, iyi müşteriler engelleniyor ve bir daha geri dönmüyor.

Hukuk da aynı yöne ilerliyor. Kişisel Verilerin Korunması Kanunu’na göre kişi, verilerinin münhasıran otomatik sistemlerle analiz edilmesi sonucunda aleyhine ortaya çıkan bir sonuca itiraz edebiliyor. Avrupa Birliği’nin veri koruma mevzuatı da kişiyi önemli ölçüde etkileyen otomatik kararlarda insan müdahalesi talep etme hakkı tanıyor.

Konuşmada, her ekibin önümüzdeki ay takip etmeye başlayabileceği üç basit ölçütü göstereceğim: inceleyenlerin sistemle ne sıklıkla ayrıştığı, her kararın ne kadar sürdüğü ve cevabı önceden bilinen test vakalarında nasıl performans gösterdikleri. Kapanışta yüksek hacimde bile insan muhakemesini canlı tutan tasarım değişikliklerini ve katılımcıların dolandırıcılık, güven ve müşteri hizmetleri ekiplerine götürebileceği kısa bir kontrol listesini paylaşacağım.

Şener Cem Irmak is Founder and Director of Koru Impact LLC, a governance consultancy incorporated in the Qatar Financial Centre. A psychologist by training, he works on one question: when an AI system makes or shapes a decision, is the human oversight around it real, or only a signature? He maps the EU AI Act, Qatar Central Bank AI guidance and Türkiye’s data-protection rules into oversight controls that an organisation can test and evidence. Earlier, he returned PsikolojiPark, an Istanbul clinical company, to profitability within six months and headed a hospital psychology department of twelve psychologists. He publishes a weekly video series and research briefings on human oversight of AI, in English and Turkish.