Yapay Zeka Hâlâ Bir Koça İhtiyaç Duyuyor ve İnsan Denetimi Bir Oyun Kitabına İhtiyaç Duyuyor

AI her yerde, profesyonel futbol da istisna değil.

NFL, Digital Athlete adlı sistemi tanıttı; bu sistem veri ve AI kullanarak takımlara oyuncuların yaralanma riskinin artabileceği senaryoları belirlemede yardımcı olur. Antrenman, uygulama ve maçlardan gelen video ve verileri milyonlarca simülasyonla birleştirerek, 32 takımın da lig genelindeki trend bilgilerine erişmesini sağlar. Koçlar ve antrenörler bu bilgileri, bireyselleştirilmiş yaralanma önleme, antrenman ve iyileşme programları geliştirmek için kullanır.

Teknoloji sahayı okurken, kararları hâlâ koçlar verir. Organizasyonlar uyumluluk ve işyeri soruşturmaları da dahil olmak üzere iş süreçlerinde AI kullanımını genişlettikçe, otomasyon potansiyeli sınırsız gibi görünür. Peki, hangi görevleri AI yerine getirmeli, hangi koşullarda ve ne tür bir insan denetimiyle?

İşte bu noktada bir organizasyon oyun kitabı ton belirleyebilir; koçlara AI araçlarını kullanma imkanı sunarken, kritik noktalarda insan denetimini sürdürmelerini sağlar.

AI’ye Tüm Alanı Değil, Bir Pozisyon Verin

Soruşturmalar farklı risk seviyelerinden oluşur. AI, ilk raporlardan gelen bilgileri düzenlemeye yardımcı olabilir:

• Eksik detayları belirlemek
• Bilgileri nihai raporda özetlemek
• Zaman çizelgeleri oluşturmak
• Soruşturmacıların daha ayrıntılı incelemek isteyebileceği kalıpları ortaya çıkarmak

Bu kullanım örnekleri manuel sınıflandırmayı azaltabilir ve insan yargısı gerektiren işe odaklanmak için zaman kazandırır.

AI bir iddiayı özetleyebilir, ancak bunun güvenilir olup olmadığına karar veremez. AI bir tutarsızlığı tespit edebilir, ancak bunun neden ortaya çıktığını belirleyemez. İşte bu noktada, organizasyonlar koruma mekanizmaları olmadan AI’yi sadece kullanarak sorun yaşayabilir.

Denetimi sürdürmek için AI’nin tanımlı bir rolü olmalı. Organizasyonlar şunları belirlemeli:

• Sistemin yerine getirmesi amaçlanan görevler
• Erişebileceği bilgiler
• İzin verilen eylemlerin sınırları
• Bir kişinin devreye girmesi gereken durumlar

The National Institute of Standards and Technology’s AI Risk Management Framework useful benchmark sağlar. NIST’in yol haritası, AI RMF Profillerinin çerçevenin belirli sektörler, teknolojiler, bağlamlar veya diğer ortamlar üzerinde nasıl uygulanabileceğini göstermek için bir yol olduğunu açıklar. Başka bir deyişle, sorumlu AI yönetişimi, kuruluşlar geniş ilkeleri belirli bir kullanım durumunun gerçeklerine dönüştürdükçe daha uygulanabilir hâle gelir.

Bir AI oyun kitabı da operasyonel seviyede benzer bir şey yapabilir. Rolleri, durumları ve eylemleri net bir şekilde tanımlar.

İnsan Denetimi Bir Sistem Tasarım Sorunudur

“human in the loop” (döngüde insan) ifadesi sorumlu AI tartışmalarında yaygın hâle geldi. Ancak, bir kişinin bir iş akışında bir yerde bulunması, AI sisteminin iyi yönetildiği anlamına gelmez.

NIST, human-AI teamingi önemli bir alan olarak belirlemiştir. Vurguladığı konular arasında insanların AI tarafından üretilen çıktıları nasıl yorumladıkları ve insanların gerçek dünya ortamlarında çalışan AI sistemlerini nasıl denetlediği yer alır.

İnsan denetimi, AI tek başına çalışabilecek kadar sofistike olana kadar geçici bir çözüm olarak görülmemelidir. Birçok yüksek riskli ortamda, AI’yı uzun vadede sorumlu bir şekilde kullanmanın gerekli mimarisinin bir parçasıdır.

A peer-reviewed examination of human oversight in AI governance insan denetiminin AI yönetişiminde gözden geçirilmiş bir incelemesi, insan denetleyicilerin doğruluk ve güvenliği artırarak insan değerlerini koruması ve güven inşa etmesi beklendiğini belirtiyor. Ancak, insanlar her zaman güvenilir denetleyiciler değildir. Etkili denetim, yetkinlik, teşvikler ve denetim rolünün tasarımına bağlıdır.

Bir soruşturmacı için, AI tarafından üretilen bir öneriyi onaylaması istenmesi, eğer öneriyi sorgulamak için gerekli bilgi veya yetkiye sahip değilse yeterli değildir. Oyun kitabı yalnızca bu bir insanın dahil olduğunu tanımlamakla kalmamalı, aynı zamanda o kişinin ne zaman ve nasıl müdahale edebileceğini de belirtmelidir.

Teslimat, Model Kadar Önemlidir

Başka bir zorluk daha var: bir insanın nihai yetkisi olsa bile, AI’nın bilgiyi sunma şekli sonraki kararı etkileyebilir.

A 2025 preprint study from researchers at the University of California, Santa Barbara, arayüz tasarımının neden önemli olduğunu gösteriyor. 108 katılımcının yer aldığı bir sağlık karar verme senaryosunda kontrol edilen bir deneyde, araştırmacılar AI karar desteğinin altı biçimini test ettiler. AI güven düzeyi, metinsel açıklamalar ve performans görselleştirmeleri gibi mekanizmaların, deneylerinde insan-AI karar doğruluğunu artırdığını buldular.

Çalışma ayrıca otomasyon yanlılığı riskini vurguluyor; insanlar AI önerilerine, hatta yanlış olanlara bile aşırı güvenebilir.

Bu deney, makine ile insan arasındaki teslimatın kasıtlı tasarım ve test gerektirdiğini gösteriyor.

Bu durumu daha da genelleyip bir soruşturma kavramını eklediğimizde, birkaç soru ortaya çıkar:

• Bir soruşturmacı yalnızca AI tarafından üretilen sonuca mı bakar, yoksa arkasındaki bilgileri inceleyebilir mi?

• Sistem belirsizliği iletebilir mi?

• Bilgi eksik olduğunda bu açık mı?

• Soruşturmacılar bir çıktıyı reddedebilir ve nedenini belgeleyebilir mi?

Bunlar teknik olduğu kadar yönetişim sorularıdır.

AI Oyun Kitabının Cevaplaması Gereken Beş Soru

Kullanışlı bir AI oyun kitabı, “sorumlu AI” ve “insan denetimi” gibi soyut ilkeleri somut işletim kurallarına dönüştürmelidir.

1. AI’nin ne yapmasına izin veriliyor? Organizasyonlar, AI’yi tüm iş akışında geniş bir izin vermek yerine belirli görevleri yetkilendirmelidir.
2. AI hangi bilgileri kullanabilir? Soruşturmalar ve ihbarlar için, AI sisteminin erişebileceği bilgi ve bu bilginin nasıl işleneceği konusunda net sınırlar konulmalıdır.
3. İnsanlar çıktısını nasıl değerlendirecek? İnsan denetçiler, sistemin ürettiği çıktıyı, ilgili sınırlamaları ve sonucu sorgulamak için gerekli bağlamı anlayacak kadar bilgiye sahip olmalıdır.
4. İnsan ne zaman devreye girmeli? Oyun kitabı, bireysel çalışanların AI’nın çok ileri gitmesi durumunda ne zaman müdahale edeceğini belirleyen yükseltme tetikleyicilerini tanımlamalıdır.
5. AI yetkisinin nerede sona erdiği? Bazı kararlar insan yargısına bırakılmalı ve bu kararları veren kişilerin teknolojiye karşı çıktığı, geçersiz kıldığı veya durdurduğu gerçek yetkisi olmalıdır.

Bu fikirler, dünyanın en önemli AI düzenlemelerinden biri olan Article 14 of the EU AI Act kapsamında yer alır. Madde, Yasa kapsamındaki yüksek riskli AI sistemleri için insan denetimi gerekliliklerini belirler. Denetim önlemlerinin sistemin riskleri, özerkliği ve kullanım bağlamına orantılı olması gerektiğini söyler. Ayrıca denetleyicilerin ilgili yetenek ve sınırlamaları anlayabilmesi, çıktıları doğru yorumlayabilmesi, otomasyon yanlılığına karşı uyanık kalabilmesi, çıktıları göz ardı edebilmesi veya geçersiz kılabilmesi ve bir sistemi devreye sokabilmesi veya durdurabilmesi gerektiğini belirtir.

Bu, bir soruşturma içinde kullanılan her AI aracının otomatik olarak yüksek riskli bir sistem olduğu anlamına gelmez. Çerçeve, AI yönetişimi için önemli bir ilkeyi gösterir. İnsan denetimi, insanlara yalnızca iş akışında bir yer sağlamak yerine anlamlı yetenekler sunmalıdır..

AI Koçu Değiştirmez. Koçun Görüş Açısını Değiştirir.

NFL’in Digital Athlete’ı, AI’nın koçları yerine geçebileceğini göstermesi nedeniyle değil, gelişmiş teknolojinin deneyimli profesyonellere sunulan bilgiyi nasıl genişletebileceğini göstermesi nedeniyle etkileyicidir.

AI, insanların bilgiyi işlemesine, dikkat gerektiren noktaları ortaya çıkarmasına ve tekrarlanabilir görevlerde daha tutarlı sonuçlar elde etmesine yardımcı olabilir. Ancak, bir soruşturmadaki en kritik anlar genellikle farklı bir şey gerektirir: bağlam, şüphecilik, yorumlama ve sorumluluk.

AI’dan en çok fayda sağlayabilecek konumda olan organizasyonlar, teknolojinin otomatikleştirebileceğinden daha fazlasını soracaklardır. Ne yapması gerektiğini, ne yapmaması gerektiğini ve insanlar ile AI’nın nasıl birlikte çalışması gerektiğini tanımlayacaklardır.