Saldırganlar Nasıl Yapay Zekayı Kullanıyor

Yapay zeka, küresel ekonomide değer katan bir teknoloji olduğunu kanıtladı.

Son birkaç yıl içinde, işletmeler mevcut olaylara uyum sağlamak için çabalarken, bazıları dijital dönüşümlerini çok daha kısa bir süre içinde gerçekleştirdi – Frito-Lay’in durumunda, beş yıllık bir dönemi sıkıştırdı. Harris Poll ve Appen, AI bütçelerinin küresel salgın sırasında %55 arttığını buldu.

Herhangi bir araç gibi, yapay zeka doğuştan hiçbir ahlaki değer taşımaz. AI’nın faydalı veya zararlı olma potansiyeli, nasıl “öğrendiğine” ve insanların sonunda ne yaptığına bağlıdır.

AI’yi kullanma girişimlerinden bazıları – örneğin, suç işlenmeden önce “tahmin etme” – modellerin önyargılı verilerle eğitildiğinde insan eksikliklerini tekrarlayabileceğini gösteriyor. Şimdiye kadar, AI’yi ABD adalet sistemi verilerini kullanarak eğitmek, trajik olarak önyargılı AI akıl yürütmesine yol açtı.

Diğer örneklerde, insanlar AI’nın yıkıcı potansiyelini kullanmak için daha kasıtlı yollar seçiyorlar. Saldırganlar, saldırılarının erişimini, etkinliğini ve kârlılığını artırmak için yapay zekayı kullanma yeteneklerini bir kez daha gösteriyorlar. Ve siber savaş dünya genelinde daha da yaygın hale geldikçe, AI’nın siber saldırılarındaki uygulamalarının daha da gelişeceğini kesinlikle göreceğiz.

Yapay Zeka Bir Fırsat ve Bir Risktir

Yapay zeka, işletmelerin tahmini, iş optimizasyonu ve müşteri tutma stratejilerini iyileştirmek isteyenler için bir dizi fırsat sunar. Aynı zamanda başkalarının dijital egemenliğini tehlikeye atanlar için de bir fırsat sunar.

Yapay zekanın gizli şekilde müdahaleye açık olabileceği ve daha açık şekilde saldırgan eylemlere yönlendirilebileceği beberapa yol vardır.

1. Makine Mantığını Tehlikeye Atmak

AI’nın tüketiciler ve ticari işletmeler için başlıca avantajı, insan müdahalesi olmadan öngörülebilir ve tekrarlanabilir mantıksal eylemleri gerçekleştirebilmesidir. Bu aynı zamanda en büyük zayıflığıdır.

Herhangi bir diğer dijital yapı gibi, AI da dış güçler tarafından penetrasyona açık olabilir. AI’yi güçlendirerek makine mantığını tehlikeye atan saldırganlar, AI’nın öngörülemez veya zararlı eylemler gerçekleştirmesine neden olabilir. Örneğin, endüstriyel durum izleme ile görevlendirilen bir AI, yanlış okumalar yapabilir veya bakım pings’lerini teslim edilmemiş olarak bırakabilir.

AI yatırımlarının tüm noktası, insan müdahalesini ortadan kaldırmak ve sonuçları yeniden değerlendirmektir, bu nedenle böyle bir saldırıdan kaynaklanan altyapı veya ürün kalitesine verilen zarar, felaket düzeyinde bir arızaya kadar fark edilmeyebilir.

2. Ters Mühendislik Algoritmalarını Kullanmak

Zarar için başka bir potansiyel yol – özellikle fikri mülkiyet (IP) ve tüketici veya ticari veri ile ilgili olarak – ters mühendislik kavramıdır. Saldırganlar, yapay zeka kodunu çalıp, nasıl çalıştığını inceleyerek, sonunda kullanılan veri setlerini keşfedebilir.

Bu, birkaç sonuca yol açabilir; ilki AI zehirlenmesidir. Diğer örnekler, saldırganların AI eğitim verilerini kullanarak pazarlar, rakipler, hükümetler, satıcılar veya genel tüketiciler hakkında tehlikeye sokucu bilgiler elde etmelerini içerebilir.

3. Hedefleri Öğrenmek

Hedefleri izlemek, saldırganların yapay zekayı ele geçirmesinin en rahatsız edici sonuçlarından biridir. AI’nın bir kişinin yetenekleri, bilgi alanları, mizacı ve hedeflenmesi, dolandırılması veya suistimal edilmesi olasılığı hakkında sonuçlar çıkarması, bazı siber güvenlik uzmanları için özellikle endişe vericidir.

Yapay zeka, insanlara, takımlara ve gruplara ilişkin sürpriz derecesinde ayrıntılı sonuçlar çıkarmak için bazı veri noktalarından beslenebilir ve sonuçlar çıkarabilir. Bir kişi “etkin” veya “dağınık” olabilir, hızlı bir şekilde yazabilir, fare ile oynamak veya tarayıcı sekmelerini hızlı bir şekilde değiştirebilir. Bir kullanıcı “kafası karışık” veya “tereddütte” olabilir, sayfa öğeleri üzerinde duraklayabilir veya birden fazla siteyi yeniden ziyaret edebilir.

Doğru ellerde, bu tür ipuçları, insan kaynakları bölümlerinin personel katılımını artırmalarına veya pazarlama ekiplerinin web sitelerini ve satış kanallarını iyileştirmelerine yardımcı olabilir.

Saldırganlar için bu tür sinyaller, hedeflenen bir kişinin psikolojik profilini oluşturmalarına yol açabilir. Siber suçlular, insanlara görünmeyen ipuçlarından, kimlerin phishing, smishing, ransomware, finansal dolandırıcılık ve diğer türdeki zararlara karşı savunmasız olabileceğini belirleyebilir. Ayrıca, kötü niyetli aktörlerin, hedeflerinin, sahte girişimlerinin meşru kaynaklardan geldiğine inanmasını sağlamalarına da yardımcı olabilir.

4. Ağ Zafiyetlerini Araştırma

Siber güvenlik profesyonelleri, 2021’de 20,175 bilinen güvenlik zafiyeti hakkında veri yayınladı. Bu, 2020’den bir artıştı, o zamanlarda 17,049 böyle bir zafiyet vardı.

Dünya her saat başı daha fazla dijital olarak bağlantılı hale geliyor – bazıları bağımlı diyor. Dünya, milyarlarca bağlı cihazın bulunduğu ve daha fazlasının geldiği küçük ölçekli ve endüstriyel ağlarla dolu. Her şey online, durum izleme sensörlerinden kurumsal planlama yazılımlarına kadar.

Yapay zeka, siber güvenlik ekiplerinin ağ, yazılım ve donanım zafiyetlerini insanlardan daha hızlı bir şekilde araştırmasına yardımcı olma vaat ediyor. Dijital altyapının büyümesi, güvenlik açıklarını bulmak için milyarlarca satır kodu aramanın neredeyse imkansız olduğu anlamına geliyor ve bu, sistemlerin çevrimiçi olduğu sürece gerçekleşmelidir, çünkü kapalı kalma maliyeti yüksektir.

AI burada bir siber güvenlik aracıysa, aynı zamanda çift taraflı bir kılıçtır. Saldırganlar, beyaz şapkalı IT ekibiyle aynı mekanizmaları kullanarak, insan IT uzmanlarından daha verimli bir şekilde ağları, yazılımları ve firmaları zafiyetler için araştırabilir.

Dijital Silah Yarışı

Siber suçta AI uygulamaları saymakla bitmez, ancak burada birkaç tane daha var:

• Saldırganlar, önceden belirlenmiş bir tetikleyici veya eşiği algıladığında kötü niyetli bir davranış gerçekleştiren otherwise zararsız bir uygulama içinde AI kodunu gizleyebilir.
• Kötü niyetli AI modelleri, parmak izi ve ses tanıma gibi biyometrik girişleri izleyerek kimlik bilgileri veya IT yönetim özelliklerini belirlemek için kullanılabilir.
• Sonuçta siber saldırı girişimi başarısız olsa bile, AI ile donanmış saldırganlar, neyin yanlış gittiğini ve bir sonraki sefer neler yapabileceklerini belirlemek için makine öğrenimini kullanabilir.

Bir jeep’in sürüş halinde hacklenmesi hakkında yerleştirilmiş bir hikaye, otonom araç gelişimini neredeyse durma noktasına getirdi. AI’nin kilit taşı olduğu bir yüksek profilli hack, benzer bir şekilde kamuoyu algısında bir aşınmaya neden olabilir. Bazı anketler, ortalama bir Amerikan’ın zaten AI’nin faydalarına karşı şüpheci olduğunu gösteriyor.

Her yerdeki bilgisayar, siber güvenlik riskleri ile geliyor – ve hem beyaz şapkalı hem de siyah şapkalı hacker’lar bunu biliyor. AI, online hayatlarımızı güvende tutmaya yardımcı olabilir, ancak aynı zamanda yeni bir dijital silah yarışının merkezi.