Makine Öğrenimi Arızalarının Yanlış Olabilecek Common Assumptions

Derin sinir ağları, yapay zeka (AI) alanında en temel yönlerden biri olarak, matematiksel modelleme yoluyla görüntüleri ve verileri işler. Bu ağlar, alanın bazı en büyük ilerlemelerinden sorumludur, ancak aynı zamanda çeşitli şekillerde arızalanabilir. Bu arızalar, basit bir yanlış tanımlamadan ölümcül bir self-sürüş arızasına kadar küçük ila yok arasında bir etkiye sahip olabilir.

Houston Üniversitesi’nden yapılan yeni bir araştırmaya göre, bu arızalar hakkındaki ortak varsayımlarımız yanlış olabilir, bu da gelecekte ağların güvenilirliğini değerlendirmemize yardımcı olabilir.

Çalışma, Kasım ayında Nature Machine Intelligence dergisinde yayımlandı.

“Karşıt Örnekler”

Makine öğrenimi ve diğer AI türleri, bankacılık ve siber güvenlik sistemleri gibi birçok sektörde ve görevde kritik öneme sahiptir. UH’den Cameron Buckner’e göre, “karşıt örnekler” adı verilen başarısızlıkları anlamak必要dır. Bu karşıt örnekler, derin sinir ağı sisteminin, eğitim girdileri dışında bilgiyle karşılaştığında görüntüleri ve diğer verileri yanlış değerlendirdiğinde ortaya çıkar.

Karşıt örnekler nadirdir, çünkü genellikle başka bir makine öğrenimi ağı tarafından oluşturulur veya keşfedilir.

“Bazı bu karşıt olaylar aslında artifacts olabilir ve bu ağların güvenilirliğini bilmemiz için neler olduklarını bilmemiz gerekir” dedi Buckner.

Buckner, arızanın, gerçek desenlerle ve ağın işlemeye çalıştığı şey arasındaki etkileşimden kaynaklanabileceğini, yani bunun tam bir hata olmayabileceğini söylüyor.

Desenler olarak Artifactlar

“Karşıt örneklerin etkilerini anlamak için, bu desenlerin en azından bir kısmının artifacts olabileceği üçüncü bir olasılığı keşfetmemiz gerekir” dedi Buckner. “Bu nedenle, bu desenleri basitçe atmamızın maliyetleri vardır ve onları naif bir şekilde kullanmamızın tehlikeleri vardır.”

Her zaman böyle olmasa da, bu karşıt olayların makine öğrenimi arızalarına neden olmasının en yüksek riski, kasıtlı kötü niyetliliktir.

“Bu, güvenilir bir ağa güvenen sistemleri kandıran kötü niyetli aktörleri anlamına gelir” dedi Buckner. “Bu, güvenlik uygulamalarına sahiptir.”

Bu, yüz tanıma teknolojisine dayalı bir güvenlik sistemini ihlal eden hackerlar veya otonom araçları karıştırmak için yanlış etiketlenmiş trafik işaretleri olabilir.

Önceki araştırmalar, bazı karşıt örneklerin doğal olarak ortaya çıktığını, yani bir makine öğrenimi sisteminin beklenmedik bir etkileşim yoluyla verileri yanlış yorumladığını göstermiştir. Bu doğal olarak oluşan örnekler nadirdir ve şu anda onları keşfetmenin tek yolu AI’dir.

Ancak Buckner, araştırmacıların anormalliklere yaklaşımlarını yeniden düşünmeleri gerektiğini söylüyor.

Bu anormallikler veya artifacts, Buckner tarafından bir fotoğraf中的 lens flare analojisi ile açıklanmaktadır, bu, kamera lensindeki bir kusurdan değil, kamera ile ışığın etkileşiminden kaynaklanmaktadır.

Eğer lens flare’ı yorumlayabiliyorsanız, önemli bilgiler gibi güneş konumunu çıkarabilirsiniz. Bu nedenle, Buckner, makine öğrenimi中的 adverse olaylardan artifacts tarafından oluşturulan eşit derecede değerli bilgilere ulaşabileceğimizi düşünüyor.

Buckner ayrıca, tüm bunların derin öğrenimin geçerli olmadığını anlamına gelmediğini söylüyor.

“Bazı bu karşıt olaylar artifacts olabilir” dedi. “Bu artifacts neler olduklarını bilmemiz gerekir, böylece ağların ne kadar güvenilir olduğunu bilebiliriz.”