İnsan-Döngü Nedir?

20. yüzyılın başlarında, İngiliz filozof Gilbert Ryle, “makinedeki hayalet” terimini ortaya attı. The Concept of Mind adlı eserinde, Ryle bu metaforu, zihin ve beden olarak ayrı maddelerin varlığını savunan zihin-bedensel ikiciliği karşıtı bir argüman olarak kullandı. Ryle için bu ayrım bir hataydı, çünkü biliş ve fiziksel eylem ayrı değil, tek bir sistemin parçalarıydı.

Yapay zeka ile birlikte, benzer bir metafor ortaya çıkıyor: “insan-döngü”. İnsanlar ve akıllı sistemler şimdi daha fazla iç içe geçmişse, birbiriyle uyumlu bir birleşimi mi inşa ediyoruz, yoksa kontrolün rahatlatıcı bir illüzyonunu mu yaratıyoruz?

Şirketler, araçlarını tanımlamak için bu kavramı sıkça kullanıyorlar. Hem yenilik hem de güvence vaat ediyor olsa da, gerçeklik genellikle daha karmaşıktır. Sorumluluk kolayca dağılabiliyor ve hesap verebilirlik daha zor izlenebiliyor.

Yapay zeka sistemleri, eğitimden savaşa kadar duyarlı alanlara daha derinden girdikçe, riskler artık soyut değil. İnsan-döngü gerçekten ne anlama geliyor ve bu, sadece insanları tamamen ortadan kaldırdıklarında kullanılan bir söz mü?

1. Sorumluluk için İnsan-Döngü

Bu terim dikkatsizce kullanıldığında, sorumluluğu gerçekten üstlenmek yerine sorumluluktan kaçmanın kolay bir yolu olabilir. Birçok kişi, bir sürecin sonunda insan imzası, özellikle altta yatan sistem kötü tasarlanmış veya yetersiz anlaşılmışsa, etik bütünlüğünü garanti etmediğini fark etti.

Scale X’in kurucu ve CEO’su Maysa Hawwash, yazdığı makalede, sorumluluktan kaçışın nasıl gerçekleştiğinden bahsetti ve bu kavramın sıklıkla nasıl kullanıldığına ilişkin düşüncelerini paylaştı. “Aslında, diğer sorumluluk kaydırma yöntemlerinden çok da farklı değil” dedi. Hawwash, Startup Beat’e, bir şirketin sorumluluktan kaçınmak için nasıl bir politika imzalattığını ve bu şekilde şirketin hukuken sorumlu olmaktan kurtulduğunu örnek olarak gösterdi. “Eğer bu politikayı insanların okumasını ve imzalamasını sağlarsanız, şirket olarak hukuken sorumlu olmazsınız, değil mi?” dedi.

Ortaya çıkan bir model, şirket sistemlerinde sorumluluğun yer değiştirmesi değil, ortadan kaldırılmasıdır. Hawwash, bu yaklaşımın tembelliğin bir yolu olduğunu, kritik düşünmeyi veya insanların ve toplulukların etkilenebileceği alanları anlamayı göz ardı ettiğini düşünüyor. “Sorumluluğu kaydırıyorsunuz ve sonra insanların politikayı anlaması veya politikanın mantıklı olması önemli değil” diyor.

Bu çerçevede, “insan-döngü” anlamlı müdahale yerine daha çok prosedürel bir örtü olarak görülebiliyor. Bu durum sadece semantik değil, aynı zamanda tehlike içeriyor. Denetim sadece bir imza ile sınırlı olduğunda, insan rolü sembolik olmaktan ziyade maddi bir rolü oynuyor.

Hawwash, bir askeri olaya atıfta bulundu – İran’daki Minab okuluna yapılan saldırı – burada insanlar bir saldırıya onay verdiler, ancak insan karar vericinin varlığı, etik açıklık veya yeterli düşünce anlamına gelmedi. “Savaşta veya kompleks bir ameliyatta olduğunuzda, insan-döngüyü bir kalkan olarak kullanmak için zaman lüksü yoktur” dedi.

2. Sadece Gözetim Değil, Sorumluluk için Tasarım

Alternatif, insan-döngü sistemlerini terk etmek değil, onları ciddiye almak ve tasarım taahhütleri olarak görmek. Bu, sembolik gözetimden ziyade bilinçli sorumluluk yapılarına doğru bir geçişi içerir.

“Pazarda daha fazla yapay zeka kullanma yarışında, tasarım açısından ne gibi bir aşağı akış etkisi olacağı, topluluklar, insanlar veya son kullanıcılar üzerindeki etkisi hakkında fazla düşünülmedi” dedi Hawwash.

Hız, dominant rekabetçi değişken haline geldi. Bu yarışta, sorumluluk genellikle erteleniyor veya gömülüyor. Sonuç, etiğin geliştirme sırasında değil, dağıtımdan sonra düzeltilmesi gereken bir modeli ortaya çıkıyor.

Erişilebilirlik, benimsemeyi hızlandırabilir, ancak aynı zamanda sonuçları daha da artırabilir. Sistemler artık yalnızca teknik kullanıcılarla sınırlı değil, çeşitli düzeylerde anlama ve bağlamda kararlar şekillendirebiliyor. Bu ortamda, sorumluluk son kullanıcıya dış kaynak sağlanamaz.

3. İnsan-Döngü: Doğruluk ve Hesap Verebilirlik

Frizzle’ın ortak kurucusu Abhay Gupta, daha operasyonel bir bakış açısı sunuyor – insan gözetiminin hem pratik hem de gerekli olduğu bir sistem inşa ediyor.

Şirket, öğretmenlerin aşırı çalışmasıyla ortaya çıkan bir sorundan doğdu. “Şehirde bankerlerin ve danışmanların 70 saat çalıştığından bahsediyorsunuz, ancak öğretmenlerin aynı kadar çalıştığından bahsetmiyorsunuz. Merakından dolayı yüzlerce öğretmenierviewledik ve genel olarak en büyük zaman kaybı notlama oldu” dedi.

Notlama işleminin otomatikleştirilmesi basit gibi görünse de, el yazısı matematik, yapay zeka için gerçek sınırlar getiriyor. “Doğruluk sorunu var. Yapay zeka mükemmel değil, bu nedenle bir insan-döngü sistemi kurduk. Yapay zeka güvenmediğinde – örneğin karışık el yazısı olduğunda – öğretmene incelemek ve onaylamak veya reddetmek için işaretler” dedi.

Burada insan rolü sadece süslemeli değil. Sistem, kendi belirsizliğini açıkça tanımlar ve bu durumları bir insana yönlendirir. “Bizim için doğruluk meselesi. %1-3 gibi kenar durumlar her zaman olacaktır, bu nedenle bir insan müdahale etmesi gerekir” dedi.

Bu yaklaşım, insan-döngüyü bir kalite kontrol mekanizması olarak yeniden tanımlar. Gupta, daha da ileri gider: “Temelde, yapay zeka %100 doğru değildir – hayal edebiliyor veya yanlış çıktılar üretebiliyor. İnsan-döngü, son kullanıcıya ulaşmadan önce sonuçların son kalite kontrolü olarak çalışır. Ayrıca sorumluluk meselesidir. Çıktıdan sorumlu olacak biri olmalıdır ve şu anda bu hâlâ bir insan olmalıdır” dedi.

Önemli olarak, insan rolü, öğretimin ilişkisel yönünü de korur. “Ayrıca öğretimin insan tarafını korumakla ilgili. Öğretmenlerin farklı stilleri var, bu nedenle geri bildirimi nasıl teslim edileceğini kişiselleştirmelerine izin veriyoruz” dedi.

İnsan-Döngü Yeniden Tanımlamak

“İnsan-döngü” terimi rahatlatıcı bir basitlik taşıyor. Gelişmiş sistemlerimize rağmen, bir insan kontrolde kalıyor ve sadece “makinedeki hayaletler” değiliz gibi bir his veriyor. Ancak şirketler, yüksek riskli ortamlarda yapay zeka kullanmaya başladığında, bu güvenceye daha yakından bakmak gerekiyor.

Derin sorun, tasarım meselesidir. Bir sistemdeki riskler kötü anlaşılmış veya kasıtlı olarak azaltılmışsa, sonuna bir insan eklemek temeldeki hataları düzeltmez. Ayrıca, insan rolünü bir geri dönüş olarak değil, sistem işleminin ayrılmaz bir parçası olarak tanımlamak anlamına gelir. İnsan-döngüde bir insan, sadece sonucu onaylamamalıdır. Şirketler, personelinin bunları şekillendirmesini, onlara meydan okumasını ve gerektiğinde yetkiyle geçersiz kılmalarını sağlamalıdır.