İnsansı Robotlar Fabrikalara Geliyor. Arızalandıklarında Kim Sorumlu?

Bir robot performans testini başarıyla tamamlayabilir; ancak beklenmedik bir engelle, yazılım güncellemesi nedeniyle davranışlarında meydana gelen bir değişiklikle ya da gerçek bir işçiyle karşılaşırsa güvenlik riski oluşturabilir. Artık mesele insansı robotların bir görevi yerine getirip getiremeyeceği değil, bunu nasıl yapabilecekleridir. Bunu güvenli biçimde yapıp yapamayacakları ve işler ters giderse kimin sorumlu olacağıdır.

Agility Robotics ve FORT Robotics, Agility’nin Digit 5 insansı robotunun güvenlik mimarisini geliştirmek amacıyla ekim ayında ortaklık kurduklarını duyurdu. Yaklaşımlarını; robot üzerindeki güvenlik sistemlerini, harici arayüzleri, iletişimi ve elle müdahale olanağını içerecek şekilde planladılar. Bu gelişme önemli bir değişime işaret ediyor: Robotlar, insanların çalıştığı iş yerlerinde güvenli olmalı; bunun için yalnızca robotun kendisinin güvenli olması yetmez.

Ancak hesap verebilirlik sorusunun yanıtı yalnızca teknolojiyle verilemez. Bir robot, yapay zekâ sistemi tarafından yanlış tanımlanan arızalı bir bileşene dayanarak hata yaptığında üretici, yazılım geliştiricisi, sistem entegratörü ve sistemi kullanan işveren sorumlu tutulabilir.

Yapay Zekâ Kararları Fiziksel Risklere Dönüştüğünde

Geleneksel endüstriyel robotlar genellikle kapalı çalışma hücrelerinde bulunur; bariyerler ve güvenlik donanımlarıyla çalışanlardan ayrılırlar. İnsansı robotlar ise farklı bir zorluk yaratır: İnsanlar için tasarlanmış ortamlarda hareket etmeleri, farklı görevleri yerine getirmeleri ve farklı ortamlara uyum sağlamaları beklenir.

Bu esneklik yeni riskler doğurur. Yanlış bir algılama gereksiz bir harekete yol açabilir. Bir yazılım güncellemesi robotun davranışını değiştirebilir. Fabrika düzenindeki değişiklikler, önceki testlerde bulunmayan tehlikeler yaratabilir.

GFT Americas Endüstri Başkan Yardımcısı ve Başkanı Dana R. Wolfe, Unite AI’ye, güvenli olmayan müdahaleleri önlemek için belirli kurallara bağlı yazılım güvenlik sınırları, fabrikaya özgü güven eşikleri, sensör füzyonu ve devreye alma öncesinde aşamalı doğrulama gibi birden fazla koruma katmanının gerekli olduğunu söyledi.

Wolfe, yanlış pozitif sonuçları tamamen önlemenin mümkün olmadığını söyledi. Üreticilerin yapması gereken, hataların güvenli olmayan fiziksel hareketlere dönüşmemesini sağlamaktır.

Wolfe, güven eşiklerinin ve insan yetkisinin yanı sıra donanımsal güvenlik kilitlemelerinin de sistemin güvenlik mimarisinin parçası olması gerektiğini söyledi.

Güvenlik Standartları Gelişmelere Ayak Uydurmalı

Mevcut endüstriyel robotik standartları değerli bir temel sunuyor; ancak hareketli insansı robotların ortaya çıkardığı tüm sorunlara mutlaka çözüm getirmiyor.

Uluslararası Standardizasyon Örgütü (ISO), endüstriyel robotlara yönelik güvenlik gerekliliklerini yayımladı. ISO 10218-2 ise robotların eksiksiz sistemlere entegrasyonunu kapsıyor.

Ancak bu standartlar, insanlarla birlikte çalışan hareketli robotların tüm uygulama alanlarını veya tehlikelerini kapsamıyor.

Wolfe, sektör uygulamaları geliştikçe bağımsız testlerin, senaryo temelli doğrulamanın ve iş yerlerinde aşamalı pilot uygulamaların özellikle önem taşıdığını söyledi.

Yapay zekâ modelinde, yazılımda, hareket kısıtlamalarında, görevlerde veya fabrika ortamında meydana gelen değişiklikler önceki güvenlik değerlendirmelerini geçersiz kılabilecekse bu değerlendirmeler yinelenmelidir.

Önemli bir değişiklikten sonra, belirli koşullar altında güvenli olan bir robot yeni koşullar altında güvenli olmayabilir.

İnsan Gözetimi Onay Vermekten Fazlasını Gerektirir

Yapay zekâ sisteminin aldığı her kararı izlemek pratik değildir. Ancak insanlar kritik kararlara katılmadığında başka bir sorun ortaya çıkar: Hesap verebilirliği kanıtlamak zorlaşır.

Flexio ve Routina’nın kurucu ortağı ve CEO’su Adrian Figueroa Ramos, gözetimin en belirsiz veya en riskli kararlara odaklanması gerektiğini söyledi.

“Günümüzün yapay zekâ dünyasında üretilen çıktıların hacmi, bir insanın işleyebileceğinden fazla. Her şeyi incelemek insanı darboğaz hâline getiriyor; ancak yüksek riskli veya güven düzeyinin düşük olduğu kararlarda insan muhakemesi hâlâ gerekli,” dedi Unite AI’ye.

Bu, fiziksel yapay zekâ için özellikle geçerlidir. İnsan gözetimi; sistemi devre dışı bırakma yetkisine sahip, adı belirlenmiş kişileri kapsamalı ve kararların belgelenip denetlenmesini sağlamalıdır; yalnızca bir onay düğmesine tıklamaktan ibaret olmamalıdır.

Robot Arızalandığında Kim Sorumluluk Üstlenir?

Sorumluluk, her tarafın sistem üzerindeki kontrolüne göre paylaşılmalıdır.

Örneğin üreticiler güvenlik önlemlerini oluşturmaktan ve belgelemekten sorumludur. Algılamayı veya hareketi etkileyebilecek değişiklikler yazılım geliştiricileri tarafından test edilmelidir.

Entegratör, sistemin tamamını amaçlanan ortamda doğrulamalıdır. İşverenler ise çalışanları eğitmekten, güvenlik önlemlerinin yürürlükte olmasını sağlamaktan ve güvenli olmayan çalışmaları durdurmaya yönelik prosedürler oluşturmaktan sorumludur.

Siber güvenlik de önem taşır. Robotlarla bağlantılı operasyonel teknoloji, sensör, yazılım ve harici sistem kaynaklı sorunlara karşı savunmasız olabilir. Fiziksel davranışları etkileyen bir güvenlik ihlali, bir BT sorunu olmasının yanı sıra iş yeri güvenliği sorunudur.

İnsansı robotların gelecekte fabrikalarda daha esnek ve üretken hâle gelmesi bekleniyor. Ancak benimsenmeleri yalnızca performans ölçütlerine dayanmayacak. Sorumlulukların açıkça belirlenmesine, bağımsız doğrulamaya ve robotun çalışma ömrü boyunca sürdürülecek güvenlik önlemlerine ihtiyaç var.

Asıl soru şu: Bir robot hata yapabilir mi? Evet, onu kullanan kişiler bu hatalar nedeniyle kendilerinin hesap vermesini sağlayacak bir sistem kurmuşsa.