Yapay Zeka Önceliği, Güvenlik Önceliği Anlamına Gelir

Çocuğa yepyeni bir bisiklet alın, tüm ilgi bisiklete yönelir, ona eşlik eden parlak kaska değil. Ama ebeveynler kaskı takdir eder.

Korkarım ki bugün çoğumuz yapay zekâ konusunda çocuklar gibiyiz. Ne kadar havalı olduğuna ve ne kadar hızlı ilerleyebileceğimize odaklanıyoruz. Onu kullanırken güvende kalmak için neler yapabileceğimize ise pek odaklanmıyoruz. Bu çok üzücü, çünkü birinin faydasını diğerinden ayrı tutamazsınız.

Basitçe söylemek gerekirse, güvenliği önceden dikkatlice planlamadan yapay zekayı uygulamak sadece riskli değil, aynı zamanda uçurumdan aşağıya doğru giden dümdüz bir yoldur.

Yapay Zeka Güvenliği Tam Olarak Ne Anlama Geliyor?

Yapay zeka güvenliği birçok adımı içerir. Ancak belki de en önemli unsur şudur: ne zaman Onları almak için. Etkili olabilmesi için, Yapay Zeka Güvenliği şu özelliklere sahip olmalıdır: tasarım gereği.

Bu, deneme sürüşüne çıkmadan önce zararı nasıl önleyeceğimizi düşünmemiz anlamına gelir. Yapay zekanın değerlerimiz ve toplumsal beklentilerimizle uyumlu şekilde çalışmasını ve sonuçlar üretmesini nasıl sağlayacağımızı önce belirleriz; korkunç sonuçlar aldıktan sonra değil.

Yapay zekâ güvenliği için tasarım yapmak, onu sağlam hale getirmeyi veya olumsuz durumlarda bile öngörülebilir şekilde performans gösterebilmesini sağlamayı da içerir. Bu, yapay zekânın şeffaf olmasını, yani yapay zekânın aldığı kararların anlaşılabilir, denetlenebilir ve tarafsız olmasını sağlamak anlamına gelir.

Ancak bu, yapay zekanın işlev göreceği dünyaya da bir bakış atmayı içeriyor. Özellikle geçerli hükümet düzenlemelerine uymak için hangi kurumsal ve yasal güvencelere ihtiyacımız var? Ve insan faktörünün önemini ne kadar vurgulasam azdır: Yapay zekanın kullanımı, onunla etkileşim kuran insanlar üzerinde ne gibi bir etki yaratacak?

Tasarım yoluyla güvenlik, ilk komut istemini yazmadan önce yapay zeka güvenliğini tüm süreçlerimize, iş akışlarımıza ve operasyonlarımıza entegre etmek anlamına gelir.

Riskler endişelerden daha büyük.

Herkes aynı fikirde değil. Bazıları "önce güvenlik" denildiğinde "çok dikkatli ve yavaş ilerleyip geride kalmak" olarak algılıyor. Elbette, "önce güvenlik" bu anlama gelmiyor. İnovasyonu engellemek veya pazara giriş süresini uzatmak zorunda değil. Ve asla ölçeklenemeyen sonsuz bir pilot uygulama akışı anlamına da gelmiyor. Tam tersine.

Bu, riskleri anlamak anlamına gelir. değil Yapay zekâya güvenlik özelliklerini entegre etmek. Sadece birkaç örneği ele alalım.

• Deloitte Finansal Hizmetler Merkezi GenAI'nin, 2023'teki 12.3 milyar ABD dolarından, 2027 yılına kadar yalnızca ABD'de 40 milyar ABD dolarına ulaşacak dolandırıcılık kayıplarından sorumlu olabileceğini ve bunun da yıllık %32'lik bir bileşik büyüme oranı anlamına geldiğini öngörüyor.
• Taraflı kararlar. Vakalar belgesi önyargılı tıbbi bakım Çünkü yapay zeka, önyargılı verilerle eğitilmişti.
• Daha fazla kötü karara yol açan kötü kararlar. Hatalı yapay zekanın tetiklediği ilk kötü karardan daha da kötüsü, çalışmalar gösteriyor Bu hatalı kararların, düşünme biçimimizin ve gelecekteki kararlarımızı nasıl aldığımızın bir parçası haline gelebileceği anlamına gelir.
• Gerçek sonuçlar. Yanlış tıbbi tavsiye veren yapay zekâ, ölümcül hasta sonuçlarına neden olmuştur. Yapay zekânın halüsinasyonunun yasal emsal olarak gösterilmesi hukuki sorunlara yol açmıştır. Ayrıca, yapay zekâ asistanının yanlış bilgi vermesinden kaynaklanan yazılım hataları, şirket ürünlerini ve itibarlarını zedeleyerek yaygın kullanıcı memnuniyetsizliğine neden olmuştur.

Ve işler daha da ilginç bir hal almak üzere.

Geliş ve ajansal yapay zekanın hızlı benimsenmesiOtonom olarak çalışabilen ve aldığı kararlara göre harekete geçebilen yapay zekâ, yapay zekâ güvenliği için tasarımın önemini daha da artıracaktır.

Sizin adınıza hareket edebilen bir yapay zekâ ajanı son derece faydalı olabilir. Size bir seyahat için en iyi uçuşları söylemek yerine, onları bulup sizin için rezervasyon yapabilir. Bir ürünü iade etmek istiyorsanız, bir şirketin yapay zekâ ajanı size sadece iade politikasını ve iade işleminin nasıl yapılacağını söylemekle kalmayıp, tüm işlemi sizin için halledebilir.

Harika—tabii ki acente uçuşla ilgili hayal kurmasın veya finansal bilgilerinizi yanlış kullanmasın. Ya da şirketin iade politikasını yanlış anlayıp geçerli iadeleri reddetmesin.

Yapay zekâya ilişkin mevcut güvenlik risklerinin, özellikle de tek başlarına hareket etmeyecekleri göz önüne alındığında, çok sayıda yapay zekâ ajanının ortalıkta dolaşıp kararlar alması ve eylemlerde bulunmasıyla nasıl kolayca artabileceğini görmek çok da zor değil. Ajan tabanlı yapay zekânın gerçek değerinin büyük bir kısmı, bireysel ajanların görevlerin belirli kısımlarını üstlendiği ve işleri tamamlamak için ajanlar arası işbirliği yaptığı ajan ekiplerinden gelecektir.

Peki, yeniliği engellemeden ve potansiyel değerini yok etmeden yapay zeka güvenliğini tasarım aşamasında nasıl benimseyebilirsiniz?

Tasarımda Güvenlik Uygulamada

Rastgele yapılan güvenlik kontrolleri çözüm değil. Ancak yapay zeka uygulamasının her aşamasına güvenlik uygulamalarını entegre etmek çözüm.

Verilerle başlayın. Verilerin etiketlenmiş, gerektiğinde açıklama eklenmiş, önyargıdan arındırılmış ve yüksek kaliteli olduğundan emin olun. Bu, özellikle eğitim verileri için geçerlidir.

Modellerinizi insan geri bildirimiyle eğitin, çünkü insan yargısı model davranışını şekillendirmek için çok önemlidir. İnsan Geri Bildirimiyle Pekiştirmeli Öğrenme (RLHF) ve diğer benzer teknikler, yorumlayıcıların yanıtları değerlendirmesine ve yönlendirmesine olanak tanıyarak, öğrenme modellerinin güvenli ve insan değerleriyle uyumlu çıktılar üretmesine yardımcı olur.

Ardından, bir modeli yayınlamadan önce stres testinden geçirin. Düşmanca komutlar, uç durumlar ve jailbreak girişimleri kullanarak güvenli olmayan davranışları kışkırtmaya çalışan kırmızı ekipler, güvenlik açıklarını ortaya çıkarabilir. Bunların kamuoyuna ulaşmadan önce düzeltilmesi, sorun ortaya çıkmadan önce güvenliği sağlar.

Bu testler yapay zeka modellerinizin sağlamlığını sağlarken, ortaya çıkan tehditlere ve modellerde gerekebilecek ayarlamalara dikkat ederek modelleri izlemeye devam edin.

Benzer şekilde, sahtekarlık belirtileri için içerik kaynaklarını ve dijital etkileşimleri düzenli olarak izleyin. Kritik olarak, hibrit bir yapay zeka-insan yaklaşımı kullanın; yapay zeka otomasyonu, izlenmesi gereken devasa veri hacmini yönetirken, yetenekli insanlar da yaptırım ve doğruluğu sağlamak için incelemeleri yapsın.

Ajan tabanlı yapay zekâ uygulamaları daha da fazla özen gerektirir. Temel bir gereklilik: ajanı sınırlarını bilmesi için eğitmek. Belirsizlikle, etik ikilemlerle, yeni durumlarla veya özellikle yüksek riskli kararlarla karşılaştığında, yardım istemeyi bildiğinden emin olun.

Ayrıca, aracılarınıza izlenebilirlik özelliği entegre edin. Bu, özellikle aracıların yalnızca doğrulanmış kullanıcılarla etkileşimde bulunmasını sağlamak ve sahtekâr kişilerin aracının eylemlerini etkilemesini önlemek için önemlidir.

Eğer etkili bir şekilde çalıştıkları görülüyorsa, ajanları serbest bırakıp işlerini yapmalarına izin vermek cazip gelebilir. Ancak deneyimimiz, hataları veya beklenmedik davranışları gözlemlemek için onları ve yerine getirdikleri görevleri sürekli olarak izlemenin gerektiğini gösteriyor. Hem otomatik kontrolleri hem de insan incelemesini kullanın.

Aslında, yapay zeka güvenliğinin temel unsurlarından biri düzenli insan müdahalesidir. Kritik yargı, empati veya incelik ve belirsizliğin söz konusu olduğu karar veya eylemlerde insan müdahalesi kasıtlı olarak sağlanmalıdır.

Tekrar belirtmek gerekirse, bunlar yapay zeka uygulamasının içine önceden dahil ettiğiniz uygulamalardır. tasarım tarafındanBunlar, bir şeylerin ters gitmesi ve ardından hasarı en aza indirmek için aceleyle çözüm aranmasının sonucu değildir.

Çalışır?

GenAI'nin ortaya çıkışı boyunca ve şimdi de ajan tabanlı yapay zekaya doğru hızla ilerlerken, müşterilerimizle birlikte "Önce Yapay Zeka Güvenliği" felsefesini ve "tasarımla" çerçevesini uyguluyoruz. Bunun, işleri yavaşlatacağı yönündeki endişelerin aksine, aslında hızlandırmaya yardımcı olduğunu görüyoruz.

Örneğin, ajan tabanlı yapay zeka, müşteri memnuniyetini artırırken müşteri desteği maliyetlerini %25-50 oranında düşürme potansiyeline sahip. Ancak bunların hepsi güvene bağlı.

Yapay zekayı kullanan insanların ona güvenmesi gerekir ve yapay zeka destekli insan temsilcilerle veya gerçek yapay zeka temsilcileriyle etkileşim kuran müşteriler, güvenlerini zedeleyecek tek bir etkileşim yaşamamalıdır. Tek bir kötü deneyim, bir markaya olan güveni tamamen yok edebilir.

Güvenli olmayan şeylere güvenmiyoruz. Bu nedenle, piyasaya süreceğimiz yapay zekanın her katmanına güvenliği entegre ettiğimizde, bunu güvenle yapabiliyoruz. Ve ölçeklendirmeye hazır olduğumuzda, bunu hızla ve güvenle yapabiliyoruz.

Yapay Zeka Güvenliğini Önceliklendirme ilkesini uygulamaya koymak göz korkutucu görünse de, yalnız değilsiniz. Size yardımcı olabilecek birçok uzman ve öğrendiklerini ve öğrenmekte olduklarını paylaşabilecek ortaklar var; böylece yapay zekanın değerinden güvenli bir şekilde yararlanabilir ve hızınızı düşürmeden ilerleyebilirsiniz.

Yapay zekâ ile ilgili deneyim şu ana kadar heyecan vericiydi ve bu deneyim hızlandıkça daha da keyif alıyorum. Ama kaskımı taktığım için de mutluyum.