Düşünce Liderleri

İnsanın döngüde olması gerçekte ne anlama geliyor?

Arjun Harindranath
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin
Öne çıkan noktalarİnsanın döngüde olduğu sistemler, etik sistem tasarımını garanti altına almadan…
Daha fazla göster
  • İnsanın döngüde olduğu sistemler, etik sistem tasarımını garanti altına almadan sıklıkla sorumluluğu kullanıcılara kaydırır.
  • Frizzle, yapay zeka dağınık el yazılarını işleyemediğinde notlandırma doğruluğu için insan denetimini kullanır.
  • Anlamlı insan rolleri, çalışanların yalnızca onaylamak değil, yapay zekayı sorgulama ve geçersiz kılma yetkisine sahip olmasını gerektirir.

20. yüzyılın başlarında, İngiliz filozof Gilbert Ryle, “makinedeki hayalet” terimini ortaya attı. The Concept of Mind adlı eserinde, Ryle bu metaforu, zihin ve beden olarak ayrı maddelerin varlığını savunan zihin-beden ikiciliğine karşı bir argüman olarak kullandı. Ryle için bu ayrım bir hataydı, çünkü biliş ve fiziksel eylem birbirinden ayrılamazdı; etkileşen iki ayrı parça değil, tek bir sistemin parçalarıydı.

Yapay zekânın ortaya çıkmasıyla, üretkenliği artırmak için yapay zekâ araçlarını kullananlardan söz ederken benzer bir metafor da beliriyor: sıkça kullanılan «insanın döngüde olması». İnsanlar ve akıllı sistemler şimdi her zamankinden daha fazla iç içe geçmişse, birbiriyle uyumlu bir birleşimi mi inşa ediyoruz, yoksa kontrolün rahatlatıcı bir illüzyonunu mu yaratıyoruz?

Girişimler, araçlarını tanımlamak için bu kavramı sıkça kullanıyorlar. Hem yenilik hem de güvence vaat ediyor olsa da, gerçeklik genellikle daha karmaşıktır. Sorumluluk kolayca dağılabiliyor ve hesap verebilirlik daha zor izlenebiliyor.

Yapay zeka sistemleri, eğitimden savaşa kadar duyarlı alanlara daha derinden girdikçe, riskler artık soyut değil. İnsanın döngüde olması gerçekten ne anlama geliyor ve bu, sadece insanları tamamen ortadan kaldırdıklarında kullanılan bir söz mü?

1. Sorumluluktan kaçınmak için bir kalkan olarak insanın döngüde olması

Bu terim dikkatsizce kullanıldığında, sorumluluğu gerçekten üstlenmek yerine sorumluluktan kaçmanın kolay bir yolu olabilir. Birçok kişi, bir sürecin sonunda atılan insan imzasının, özellikle altta yatan sistem kötü tasarlanmış veya yeterince anlaşılmamışsa, etik bütünlüğü garanti etmediğini fark etti.

Scale X’in kurucu ve CEO’su Maysa Hawwash, yazdığı makalede, sorumluluktan kaçışın nasıl gerçekleştiğinden bahsetti ve bu kavramın sıklıkla nasıl kullanıldığına ilişkin düşüncelerini paylaştı. “Aslında, diğer sorumluluk kaydırma yöntemlerinden çok da farklı değil” dedi. Hawwash, Startup Beat’e, insan kaynakları yöneticilerinin sorumluluğu şirketten uzaklaştırmak için nasıl bir imzalı onay politikası kullandığını ve bu şekilde şirketin hukuken sorumlu olmaktan kurtulduğunu örnek olarak gösterdi. “Eğer bu politikayı insanların okumasını ve imzalamasını sağlarsanız, şirket olarak hukuken sorumlu olmazsınız, değil mi?” dedi.

Ortaya çıkan bir model, şirket sistemlerinde sorumluluğun ortadan kalkması değil, yer değiştirmesidir. Hawwash, bu yaklaşımın tembelliğin bir yolu olduğunu, kritik düşünmeyi veya insanların ve toplulukların etkilenebileceği alanları anlamayı göz ardı ettiğini düşünüyor. “Sorumluluğu kaydırıyorsunuz ve sonra insanların politikayı anlaması veya politikanın mantıklı olması önemli değil” diyor.

Bu çerçevede, “insanın döngüde olması” anlamlı müdahale yerine daha çok prosedürel bir örtü olarak görülebiliyor. Buradaki tehlike yalnızca sözcüklerin anlamıyla ilgili değildir. Denetim sadece bir imza ile sınırlı olduğunda, insan rolü esaslı olmaktan çıkıp sembolik hâle geliyor.

Hawwash, yakın tarihli bir askerî vahşete atıfta bulundu – İran’daki Minab okuluna yapılan saldırı – burada insanlar bir saldırıya onay verdiler, ancak insan karar vericinin varlığı, mutlaka etik açıklık veya yeterli değerlendirme anlamına gelmiyordu. “Savaşta veya kompleks bir ameliyatta olduğunuzda, insanın döngüde olmasını bir kalkan olarak kullanmak için zaman lüksü yoktur” dedi.

2. Sadece Gözetim Değil, Sorumluluk için Tasarım

Alternatif, insanı döngüde tutan sistemleri terk etmek değil, onları ciddiye almak ve tasarım taahhütleri olarak görmek. Bu, sembolik gözetimden ziyade bilinçli sorumluluk yapılarına doğru bir geçişi içerir.

“Pazarda daha fazla yapay zeka kullanma yarışında, tasarım açısından ne gibi bir aşağı akış etkisi olacağı, topluluklar, insanlar veya son kullanıcılar üzerindeki etkisi hakkında fazla düşünülmedi” dedi Hawwash.

Hız, dominant rekabetçi değişken haline geldi. Bu yarışta, sorumluluk genellikle tasarıma dâhil edilmek yerine erteleniyor. Sonuç, sorunların geliştirme sırasında öngörülmesi yerine kullanıma sunulduktan sonra giderildiği tepkisel bir etik modelidir.

Erişilebilirlik, benimsemeyi hızlandırabilir, ancak aynı zamanda sonuçları daha da artırabilir. Sistemler artık yalnızca teknik kullanıcılarla sınırlı değil, çeşitli düzeylerde anlama ve bağlamda kararlar şekillendirebiliyor. Bu ortamda, sorumluluk son kullanıcıya devredilemez.

3. İnsanın döngüde olması: Doğruluk ve Hesap Verebilirlik

Frizzle’ın ortak kurucusu Abhay Gupta, daha operasyonel bir bakış açısı sunuyor – insan gözetiminin hem pratik hem de gerekli olduğu bir sistem inşa ediyor.

Şirket, öğretmenlerin aşırı çalışmasıyla ortaya çıkan bir sorundan doğdu. “Şehirde bankerlerin ve danışmanların haftada 70 saat çalıştığından bahsediyorsunuz, ancak öğretmenlerin aynı kadar çalıştığından bahsetmiyorsunuz. Merakımızdan dolayı yüzlerce öğretmenle görüştük ve genel olarak en çok zaman alan işin notlandırma olduğu görüldü” dedi.

Notlama işleminin otomatikleştirilmesi basit gibi görünse de, el yazısı matematik, yapay zeka için gerçek sınırlar getiriyor. “Doğruluk sorunu var. Yapay zeka mükemmel değil, bu nedenle insanı döngüde tutan bir sistem kurduk. Yapay zekâ emin olmadığında – örneğin karışık el yazısı olduğunda – öğretmene incelemek ve onaylamak veya reddetmek için işaretler” dedi.

Burada insan rolü sadece süslemeli değil. Sistem, kendi belirsizliğini açıkça tanımlar ve bu durumları bir insana yönlendirir. “Bizim için doğruluk meselesi. Yapay zekânın zorlandığı uç durumlar, belki %1–3 oranında, her zaman olacaktır; bu nedenle bir insanın müdahale etmesi gerekir” dedi.

Bu yaklaşım, insanın döngüde olmasını bir kalite kontrol mekanizması olarak yeniden tanımlar. Gupta, daha da ileri gider: “Temelde, yapay zeka %100 doğru değildir – halüsinasyon üretebiliyor veya yanlış çıktılar üretebiliyor. İnsanın döngüde olması, son kullanıcıya ulaşmadan önce sonuçların son kalite kontrolü olarak çalışır. Ayrıca sorumluluk meselesidir. Çıktıdan sorumlu olacak biri olmalıdır ve şu anda bu hâlâ bir insan olmalıdır” dedi.

Önemli olarak, insan rolü, niceliksel olarak ölçülmesi daha zor olan bir şeyi, öğretimin ilişkisel yönünü de korur. “Ayrıca öğretimin insan tarafını korumakla ilgili. Öğretmenlerin farklı stilleri var, bu nedenle geri bildirimin nasıl iletileceğini kişiselleştirmelerine izin veriyoruz” dedi.

İnsanın döngüde olmasını yeniden tanımlamak

“İnsanın döngüde olması” terimi rahatlatıcı bir basitlik taşıyor. Gelişmiş sistemlerimize rağmen, bir insan kontrolde kalıyor ve sadece “makinedeki hayaletler” değiliz gibi bir his veriyor. Ancak girişimler, yüksek riskli ortamlarda yapay zeka kullanmaya başladığında, bu güvenceye daha yakından bakmak gerekiyor.

Derin sorun, tasarım meselesidir. Bir sistemdeki riskler kötü anlaşılmış veya kasıtlı olarak küçümseniyorsa, sonuna bir insan eklemek temel kusurları düzeltmekte pek işe yaramaz. Ayrıca, insan rolünü bir yedek çözüm olarak değil, sistem işleminin ayrılmaz bir parçası olarak tanımlamak anlamına gelir. Döngüdeki insan, sadece sonucu onaylamamalıdır. Girişimler, personelinin sonuçları şekillendirmesini, onları sorgulamasını ve gerektiğinde yetkiyle geçersiz kılmalarını sağlamalıdır.

Arjun Harindranath, Kolombiya’nın Medellin şehrinde yaşayan bir serbest gazeteci olup, küresel bir kitle için çatışma, göç ve teknoloji konularında hikayeler hazırlıyor. Önceki yayınları Al Jazeera, TechCrunch, The Next Web ve New York Times'da yer almıştır.