Yapay Zeka Olay Veritabanı, Yapay Zeka Algoritmalarını Daha Güvenli Hale Getirmeyi Hedefliyor

Her đủ büyük sistemde hatalar olacaktır ve bu hataları düzeltmek için bu hataların analiz edilebileceği ve potansiyel nedenlerini belirleyebileceği bir veritabanına sahip olmak önemlidir. FDA’nın ilaç yan etkileri için bir veritabanı tutması veya Ulusal Ulaşım Güvenliği Kurulu’nun havacılık kazaları için bir veritabanı tutması gibi, Yapay Zeka Olay Veritabanı da yapay zeka sistemlerinin hatalarını kataloglamak ve yapay zeka araştırmacılarının bu hataları önlemek için yeni yöntemler geliştirmelerine yardımcı olmak amacıyla oluşturulmuş bir veritabanıdır. Yapay Zeka Olay Veritabanı (AIID) oluşturucuları, bu veritabanının yapay zeka şirketlerinin daha güvenli, daha etik yapay zeka geliştirmelerine yardımcı olacağını umuyorlar.

AIID Nedir?

AIID, Partnership on AI (PAI) organizasyonu tarafından oluşturulmuş bir üründür. PAI, ilk olarak 2016 yılında büyük teknoloji şirketlerinin yapay zeka araştırma ekiplerindeki üyeler tarafından kuruldu. Bunlar arasında Facebook (META ), Apple (AAPL ), Amazon (AMZN ), Google (GOOGL ), IBM ve Microsoft gibi şirketler bulunuyordu. O zamandan beri, organizasyon birçok başka organizasyondan üye kazandı, bunlar arasında çeşitli非kâr kuruluşlar da bulunuyordu. 2018’de PAI, yapay zeka hataları için tutarlı bir sınıflandırma standardı oluşturmaya çalıştı. Ancak, bu sınıflandırma için dayanılacak bir yapay zeka olayları koleksiyonu yoktu. Bu nedenle, PAI AIID’yi oluşturdu.

TechTalks’e göre, AIID’nin formatı, Ulusal Ulaşım Güvenliği Kurulu tarafından tutulan havacılık kazaları veritabanının yapısına dayanmaktadır. 1996’dan beri raporlar toplandığından beri, ticari hava taşımacılığı sistemi, olayları arşivleyerek ve analiz ederek havacılık endüstrisinin güvenliğini artırmayı başardı. Umuyorlar ki, benzer bir yapay zeka olayları deposu, yapay zeka sistemlerini daha güvenli, daha etik ve daha güvenilir hale getirebilir. AIID, ayrıca Common Vulnerabilities and Exposures veritabanından esinlenmiştir, bu da çeşitli endüstriler ve disiplinlerdeki önemli yazılım hatalarının bir deposudur.

Sean McGregor, IBM’de Watson AI XPRIZE için baş teknik danışman olarak görev yapmaktadır. McGregor, aynı zamanda AIID’nin gerçek veritabanının geliştirilmesini denetlemektedir. McGregor, AIID’nin nihai hedefinin, yapay zeka sistemlerinin zarar vermesini önlemek veya en azından olumsuz olayların şiddetini azaltmak olduğunu açıkladı. McGregor, makine öğrenimi sistemlerinin geleneksel yazılım sistemlerinden çok daha karmaşık ve öngörülemez olduğunu ve bu nedenle aynı şekilde test edilemeyeceğini belirtti. Makine öğrenimi sistemleri, beklenmedik şekillerde davranışlarını değiştirebilir. McGregor, derin öğrenme sistemlerinin öğrenme kapasitesinin, “arızaların daha olası, daha karmaşık ve daha tehlikeli” olabileceği anlamına geldiğini belirtti.

1.000’den Fazla Yapay Zeka İlgili Olay Kaydedildi

AIID oluşturulduğundan beri, veritabanına 1.000’den fazla yapay zeka ile ilgili olay kaydedildi. Veritabanındaki tüm olaylar arasında, en yaygın olumsuz olay türü, yapay zeka adaleti ile ilgili sorunlardı. Bu adalet olaylarının çoğu, hükümet ajansları tarafından yüz tanıma algoritmalarının kullanılmasını içeriyordu. McGregor, veritabanına eklenen robotik olayların sayısının arttığını da belirtti.

Veritabanına ziyaretçiler, anahtar kelimeler, olay kimliği, kaynak veya yazar gibi kriterlere göre olayları sorgulayabilir. Örneğin, “Deepfake” için bir arama yapmak 7 rapor döndürürken, “robotlar” için bir arama yapmak 158 rapor döndürür.

Yapay zeka sistemlerinin hatalı çalışması ve beklenmedik şekillerde davranmasıyla ilgili olayların merkezi bir veritabanı, araştırmacıların, mühendislerin ve etik uzmanların yapay zeka sistemlerinin geliştirilmesini ve dağıtılmasını denetlemelerine yardımcı olabilir. Teknoloji şirketlerindeki ürün yöneticileri, AIID’yi kullanarak, AI öneri sistemlerini kullanmadan önce potansiyel sorunları görebilir veya bir yapay zeka mühendisi, AI uygulaması oluştururken düzeltilmesi gereken potansiyel önyargılar hakkında fikir edinebilir. Aynı şekilde, risk görevlileri, AI modeliyle ilgili potansiyel olumsuz yan etkileri belirlemek için veritabanını kullanabilir ve bu şekilde potansiyel zararları önlemek için önlemler geliştirebilir.

AIID’nin alt yapısı, esnek olması amacıyla tasarlanmıştır, bu da veritabanını sorgulamak ve anlamlı içgörüler elde etmek için yeni araçlar oluşturulmasını sağlar. Partnership on AI ve McGregor, tüm farklı yapay zeka olaylarını sınıflandırmak için kullanılacak esnek bir taksonomi oluşturmak için işbirliği yapacaklar. Ekibin umudu, esnek taksonomi oluşturulduktan sonra, otomatik bir sistemle birleştirilerek yapay zeka olaylarını otomatik olarak kaydetmek için kullanılacağıdır.

“Yapay zeka topluluğu, ürünlerinde, kontrol prosedürlerinde ve araştırma programlarında değişiklikler yapmak için birbirleriyle olay kayıtlarını paylaşmaya başlamıştır” dedi McGregor, TechTalks’e. “Site Kasım ayında halka açık olarak yayınlandı, bu nedenle sistemın faydalarını henüz gerçekleştirmeye başlıyoruz.”