Uluslararası Bilim İnsanları Yapay Zeka Araştırmalarında Daha Fazla Şeffaflık İstiyor

Princess Margaret Kanser Merkezi, Toronto Üniversitesi, Stanford Üniversitesi, Johns Hopkins, Harvard Halk Sağlığı Okulu ve Massachusetts Teknoloji Enstitüsü gibi çeşitli kurumları temsil eden uluslararası bir grup bilim insanı, yapay zeka (AI) araştırmalarında daha fazla şeffaflık talep ediyor. Bu çağrıların arkasındaki temel güç, kanser tedavisini hızlandırmaya yardımcı olabilecek önemli bulguları serbest bırakmaktır.

Bilinçli araştırmacılar arasında şeffaflık konusunda bilimsel dergilere standartlarını yükseltme çağrısında bulunan bilim insanlarının makalesi 14 Ekim 2020’de Nature dergisinde yayımlandı. Grup, meslektaşlarının yayınlarında kod, model ve hesaplamalı ortamları serbest bırakmasını da savundu.

Makale “Yapay Zeka’da Şeffaflık ve Tekrarlanabilirlik” başlığını taşıyordu.

Yapay Zeka Çalışma Detaylarının Paylaşılması

Dr. Benjamin Haibe-Kains, Princess Margaret Kanser Merkezi’nde kıdemli bilim insanı ve yayının ilk yazarı.

“Bilimsel ilerleme, araştırmacıların bir çalışmanın sonuçlarını incelemesi ve ana bulguyu tekrarlayarak öğrenmesine bağlıdır” diyor Dr. Haibe-Kains. “Ancak hesaplamalı araştırmada, bir yapay zeka çalışmasının detaylarının tamamen erişilebilir olması henüz yaygın bir kriter değildir. Bu, ilerlememize zarar veriyor.”

Endişeler, 2020’de McKinney et al. tarafından bir büyük bilimsel dergide yayımlanan bir Google (GOOGL ) Health çalışmasının ardından ortaya çıktı. Çalışmada, bir yapay zeka sisteminin meme kanseri taramasında insan radyologlarından daha iyi performans gösterebileceği iddia edildi. Çalışma, çeşitli üst düzey yayınlarda geniş medya ilgisi gördü.

Modellerin Tekrarlanamaması

Çalışmanın ardından ortaya çıkan önemli endişelerden biri, kullanılan yöntemlerin, kodun ve modellerin yeterli derecede açıklanmamasıydı. Bu şeffaflık eksikliği, araştırmacıların modelin nasıl çalıştığını öğrenmesini engelledi ve modelin diğer kurumlar tarafından kullanılamamasına neden oldu.

“Kağıt üzerinde ve teoride, McKinney et al. çalışması güzel” diyor Dr. Haibe-Kains. “Ancak ondan öğrenemezsek, bilimsel değeri çok az veya yok.”

Dr. Haibe-Kains, Toronto Üniversitesi’nde Tıbbi Biyofizik alanında yardımcı profesör olarak atandı. Ayrıca Yapay Zeka Enstitüsü’nde bağlı üye.

“Araştırmacılar, bulgularını yayımlamaya daha çok teşvik ediliyor ve çalışmanın tekrar edilebilir olmasını sağlamak için zaman ve kaynak ayırmaya değil” diye devam ediyor Dr. Haibe-Kains. “Dergiler, yapay zeka ‘hype’ına karşı savunmasız ve tekrar edilebilirlik için gerekli materyalleri içermeyen makaleleri kabul etme standartlarını düşürebilir – souvent kendi rehberlerine aykırı olarak.”

Bu ortam, yapay zeka modellerinin klinik ortamlara ulaşmasının daha uzun sürmesine neden olabilir ve modellerin araştırmacılar tarafından tekrar edilememesine veya öğrenilememesine yol açabilir.

Araştırmacılar grubu, bu sorunu çözmek ve yöntemlerin paylaşılmasını sağlamak için çeşitli çerçeveler ve platformlar önerdi.

“Kanser hastalarımız için yapay zekanın faydasına karşı büyük umutlar taşıyoruz” diyor Dr. Haibe-Kains. “Keşiflerimizden öğrenmek ve üzerine inşa etmek – bu gerçek bilimsel etki.”