Yapay Zeka, Yeni Algoritmalar ile Belirli İstenmeyen Davranışlardan Kaçınabilir

Yapay zeka algoritmaları ve sistemleri daha da gelişmiş hale geldikçe ve daha büyük sorumluluklar üstlendikçe, AI sistemlerinin tehlikeli, istenmeyen davranışlardan kaçınmasını sağlamak daha da önemli hale geliyor.最近, Massachusetts Amherst Üniversitesi ve Stanford’dan bir araştırma ekibi, bir makale yayınladı ve bu makale, belirli AI davranışlarının nasıl tránhılacağına dair bir teknik gösteriyor. Bu teknik, AI’nin davranışını değiştirmek için kullanılan kesin matematiksel talimatları elde etmeye yarıyor.

TechXplore’a göre, araştırma, adil/unsafe davranışların matematiksel fonksiyonlar ve değişkenlerle tanımlanabileceği varsayımına dayanıyordu. Eğer bu doğruysa, araştırmacıların AI sistemlerini bu belirli davranışlardan kaçınmasını sağlamak için eğitebilmeleri gerekir. Araştırma ekibi, AI kullanıcılarının kaçınmak istedikleri davranışları belirtmelerine olanak tanıyan bir araç seti geliştirmeyi amaçladı ve AI mühendislerinin, gerçek dünya senaryolarında kullanıldığında istenmeyen eylemlerden kaçınan bir sistem eğitebilmelerini sağladı.

Phillip Thomas, makalenin ilk yazarı ve Michigan Amherst’te bilgisayar bilimi yardımcı profesörü, araştırma ekibinin, makine öğrenimi algoritmaları tasarımcılarının, AI kullanıcılarının istenmeyen davranışları tanımlamasını kolaylaştırabileceğini ve AI sisteminin bu davranışlardan kaçınmasını sağlamak için yüksek bir olasılık sunabileceğini açıkladı.

Araştırma ekibi, tekniklerini, veri bilimindeki bir sorun olan cinsiyet önyargısına uygulayarak test etti. Araştırma ekibi, kolej öğrencilerinin GPA’sini.predict eden algoritmaları daha adil hale getirmeyi ve cinsiyet önyargısını azaltmayı amaçladı. Araştırma ekibi, deneysel bir veri setini kullandı ve AI sistemine, bir cinsiyetin GPA’sını sistematik olarak düşük veya yüksek tahmin eden modeller oluşturmasını engellemesini söyledi. Araştırmacıların talimatlarının sonucu olarak, algoritma, öğrencilerin GPA’sını daha iyi tahmin eden ve daha önce var olan modellere kıyasla önemli ölçüde daha az sistematik cinsiyet önyargısı olan bir model oluşturdu. Önceki GPA tahmini modelleri, önyargı azaltma modellerinin sınırlı olması veya hiç önyargı azaltma yapılmaması nedeniyle önyargılıydı.

Araştırma ekibi ayrıca başka bir algoritma geliştirdi. Bu algoritma, otomatik insülin pompasına uygulandı ve algoritma, performans ve güvenliği dengelemeyi amaçladı. Otomatik insülin pompaları, bir hastaya ne kadar insülin dozu verilmesi gerektiğini kararlaştırmalıdır. Yemeğin ardından, pompa, kan şekeri seviyelerini kontrol altında tutmak için ideal olarak yeterli insülin dozu verir. Verilen insülin dozu, çok büyük veya çok küçük olmamalıdır.

Makine öğrenimi algoritmaları, already, bir bireyin insülin dozlarına tepkisinde desenleri tanımlamada ustadırlar, ancak mevcut analiz yöntemleri, doktorların kaçınması gereken sonuçları, örneğin düşük kan şekeri çöküşlerini belirtmelerine izin vermez. Buna karşılık, araştırma ekibi, aşırı doz veya düşük dozdan kaçınan insülin dozları sağlayan bir yöntem geliştirebildi. Sistem, gerçek hastalarda test edilmeye hazır olmasa da, bu yaklaşıma dayanan daha gelişmiş bir AI, diyabet hastalarının yaşam kalitesini verbessirebilir.

Araştırmacılar, makalelerinde, algoritmayı “Seledonian” olarak adlandırdılar. Bu, bilim kurgu yazarı Isaac Asimov’un tanımladığı üç robot yasasına bir referanstır. İmplicasyon, AI sisteminin “bir insanı incitmeyeceği veya eylemsizlik yoluyla bir insanın zarar görmesine izin vermeyeceği”dir. Araştırma ekibi, çerçevelerinin, AI araştırmacıları ve mühendislerine, tehlikeli davranışlardan kaçınan çeşitli algoritmalar ve sistemler oluşturmasına olanak tanıyacağı umudundadır. Makalenin kıdemli yazarı ve Stanford bilgisayar bilimi yardımcı profesörü Emma Brunskill, TechXplore’a açıkladı:

“İnsan kullanıcılarının değerlerine saygı gösteren ve bize autonomous sistemlere verdiğimiz güveni hak eden AI’yi geliştirmek istiyoruz.”