Bilgi Nerede Kaybolur? Yapay Zeka Yeni Güvenlik Açığını Oluşturuyor. Bunu Nasıl Kapatabiliriz?

Teknoloji şirketleri, yapay zekanın insanların yapabileceği işleri daha hızlı ve daha ucuza yapabileceğine dair bir bahis yapıyor. Bu, birçok durumda doğru olabilir, ancak aynı zamanda kolay bir çözüm olarak işten çıkarmalar için de kullanılıyor.

Bu yıl başlarında paylaşılan bir PwC raporuna göre, CEO’ların %56’sı, yapay zeka yatırımlarından şimdiye kadar önemli bir finansal kazanç görmediklerini söyledi ve yalnızca %12’si, yapay zeka sayesinde maliyet tasarrufu ve gelir artışı gördüğünü bildirdi. Ayrıca, Şubat ayında Ulusal Ekonomi Araştırma Bürosu tarafından yapılan bir çalışmaya göre, şirketlerin %90’ından fazlası, son üç yıl içinde yapay zekanın istihdam veya verimlilik üzerinde hiçbir etkisi olmadığını söyledi. Bu, birçok organizasyonun yapay zekadan beklenen gelir ve verimlilik kazançlarını henüz göremediğini ve kayıplarını karşılamak için binlerce kişiyi işten çıkarmaya devam ettiğini gösteriyor.

Ancak burada söylenmeyen bir şey var: On yıllık ilişki bağlamını taşıyan bir hesap yöneticisini veya kurumsal bilginin yalnızca müşterilere ulaşmadan önce hataları yakalayabilen bir QA mühendisini ortadan kaldırdığınızda, yalnızca yağları kesmiyorsunuz. Yük taşıyan duvarları kesiyorsunuz. Rework maliyetleri, müşteri kaybı, kalite başarısızlıkları takip eden hiçbir şey genellikle aynı slayt deck’te headcount azaltmasını kutlayan şeyde görünmez. Bunlar sessizce gelecek çeyreklere emilir, piyasa koşullarına atfedilir ve unutulur. Yapay zeka ile yeniden yapılandırmanın vaat ettiği şey ile aslında teslim ettiği şey arasındaki fark gerçek, büyüyor ve birçok organizasyon için tamamen tanınmıyor.

Bu döngünün gerçek maliyetleri tek bir yerde değil, her yerine dağılıyor. Geliştiriciler, giden mühendislerin iş yükünü emerlerken, aynı zamanda lost headcount’i telafi etmek için hala olgunlaşmamış olan yapay zeka araçlarını da ellerine alırlar. Ürün ekipleri, yol haritalarını müşteri gerçekliği temelinde tutan bağlamı kaybeder. Destek organizasyonları incelenir ve müşteri hemen “slop” yanıtlarını tanıdığı için yanıt kalitesi bozulur. Yük yoğunlaşmış değil, dağılmış ve bu dağılma, bunu çeyrek raporunda görmezden gelmesini kolaylaştıran bir şey. Ancak bu daha geniş dağılma içinde, BT ekipleri sorunların özel ve biriken bir versiyonuyla karşılaşırlar. Sadece daha azla daha fazla şey yapmıyorlar, aynı zamanda kurumsal bilginin altyapıyı anlamlı kılan şeyini veren kurumun bilgisini kaybettiler ve aynı zamanda giden meslektaşlarının ayrılmasını ve yerine gelenlerin işe alınmasını yönetiyorlar.

Yıl ilerledikçe ve organizasyonlar yapay zekanın vaatlerini yerine getirmeye çalıştıkça, insan uzmanlığının adı yapay zeka etkin verimlilik adına kesildiğinde kaybedilen şeyin gelirin çok daha fazlası olduğunu anlamak zamanı geldi. İyi haber, her iki dünyanın en iyisini elde edebilirsiniz. Ancak bu, yapay zeka stratejinizin merkezine insanları koymak anlamına gelir.

Bilgi Kapıda Çıkarken Neler Kaybolur?

Kritik operasyonel bilgi insanlarda yaşar ve insan yargısı ile uygulanır, sistemler değil. Bu insanlar ayrıldığında, bu bilgi de onlarla birlikte gider. Ne kadar gelişmiş olursa olsun, yapay zeka bu açığı dolduramaz.

Yapay zeka yetenekleri genişledikçe, bağlamdan yoksun otomasyon kritik alanlarda tehlikeli kör noktalar oluşturur:

• Yargı ve strateji: Sezgi, kurumsal bilgi ve piyasa farkındalığı, hatta yapılandırılmamış veri setlerinde bile düzgün bir şekilde yaşamaz.
• Bağlam ve durumsal farkındalık: İnsanlar nüansı, niyeti tanır ve katı kuralların bozulabileceği gri alanlarda gezinebilir.
• Empati ve güven: Yüksek etkili veya duygusal olarak yüklenen anlar (özellikle müşteriler veya çalışanlar ile ilgili olanlar) insan merkezli bir yanıta ihtiyaç duyar.
• Gözetim ve hesap verebilirlik: Başarısızlıkları, önyargıları veya yanlış bilgilendirmeyi tanımlamakla görevli biri olmalı. Basitçe “Hakkınız var, tekrar deneyeyim” demenin yeterli olmadığı durumlar vardır.
• Kurumsal hafıza ve sistem bağlamı: Neden ekipler altyapıyı belirli bir şekilde inşa ettiğini (veya etmediğini), daha önce neler denendiğini ve belgelenmeyen kenar durumlarının neler olduğunu anlamak.
• Liderlik ve yönetim: Politika, risk toleransı ve etik sınırlara bağlı kalmak temel bir insan sorumluluğudur.

Yapay zeka içgörüler sunabilir, eylemler önerebilir ve yürütme hızını artırabilir, ancak kurumsal hafızayı değiştiremez, felaketleri önleyemez veya bunları önlemek için gerekli hesap verebilirliği sunamaz.

Akıllı Organizasyonlar Farklı Şeyler Yapıyor

Yapay zeka ile başarılı olan organizasyonlar, insanları denklemden çıkarmıyor. İnsanları günlük operasyonlardaki tekrarlayan, monoton işlemlerden kurtararak, daha yaratıcı yollarla iş faydaları elde etmeleri için zaman ve kaynak ayırmalarına olanak tanıyarak yapay zekayı kullanıyorlar. İnsanları merkeze alan bir yaklaşım benimsedikleri için, iş faydalarını artırmak için yapay zekayı bir “yarış içinde” aracı olarak kullanıyorlar. BT operasyonları dünyasını düşünün. Bu ekipler zaten sınırlı araçlarla genişleyen altyapıyı yönetmekle meşgul. Yapay zeka veya daha spesifik olarak makine öğrenimi (ML) burada gerçek değer sunabilir. Yapay zeka/ML, zaman alan, tekrarlayan görevleri otomatikleştirebilir: yama testi ve araştırması, bilet sınıflandırması, iş akışı oluşturma, keşif ve risk haritalama.

Bu görevler BT operasyonlarının temelini oluşturur, ancak özellikle organizasyonların dijital varlıkları genişlediğinde, güvenlik manzarası değiştiğinde ve çalışanlar pozitif dijital deneyimler beklediğinde大量 zaman alır. Temel işlemleri iyi yapamadıklarında (bu yetenekleri veya süreçleri yönetmede veya izlemede) çünkü su altında kalırlar, sonuçlar sert bir şekilde vurur: downtime, kaçırılan yamalar, veri sızıntıları, güvenlik ihlalleri.

Öte yandan, bu alanlardaki işleri iyi yapay zeka ile düzene koyduğunuzda, BT personeline yapay zeka ile yapamadıkları şeyi yapmaları için zaman verirsiniz: teknik borçları temizlemek, mevcut sistemleri ve süreçleri geliştirmek, esneklik için yeniden mimarlamak ve kritik sistemleri çalışır durumda tutan kurumsal bilginin korunmasına yardımcı olmak. Bu, sadece verimlilik değil, aynı zamanda risk azaltma ve uzun vadeli büyüme için daha sağlam bir temel oluşturur.

Yapay Zeka Benimsenmesini Doğru Yapmak

Dikkatli yapay zeka uygulaması ve benimsenmesiyle başlayan, aynı zamanda güvenli ve etkili bir şekilde etkinleştirme önceliklendiren organizasyonlar, yapay zeka stratejilerinden daha büyük kazançlar görecekler. Optimizasyon, insanları kesmekten gelmiyor.Bu, onlara yatırım yapmakla, iş akışlarını yeniden tasarlamak ve ekiplere yapay zeka kullanımını en iyi nasıl yapacaklarını eğitmekle ilgili.

Aslında bu yeni değil. Teknoloji, yüzlerce yıldır nesiller boyunca ilerlemekte. Her seferinde aynı hataları tekrarlarız. Belirli bir ilerlemeyi her derde deva olarak yapmaya çalışırız. İhtiyacınız olan şeyi vaat eden ve sonuçları ölçülmeden önce kaybolan çok sayıda sahte satışçı var. Gerçek şu ki, yapay zeka/makine öğrenimi, bilgisayarların her zaman yaptığı şeyi yapabilir: belirli görevleri insanlardan daha hızlı ve daha doğru bir şekilde gerçekleştirebilir. Bu fırsatları bulan ve yapay zekayı pragmatik bir şekilde, “yarış içinde” bir araç olarak kullananlar, yatırımlarından çok hızlı bir şekilde geri dönüş alacaklar. Pratikte, bu意味:

• Yapay zekayı, düşük değerli görevleri ortadan kaldırmak için kullanmak, yüksek değerli yargı için değil
• Yüksek etkili kararlar için insan-merkezli iş akışlarını tasarlamak
• Yapay zeka sistemleri başarısız olduğunda veya belirsiz sonuçlar ürettiğinde net bir yükseltme yolu tanımlamak
• Yapay zeka tarafından alınan kararlar için açık bir sahiplik atamak
• Ekiplere yapay zeka çıktısını incelemesini öğretmek, değilblind olarak kabul etmek

Yanlış Yapmanın Gerçek Maliyeti

Teknoloji endüstrisinin şu anki döngüsü, kitlesel işten çıkarmalar ve sessiz yeniden işe alma, bir yetenek kayması değil, risk transferi. Organizasyonlar, birkaç aylık otomatik hıza karşılık olarak on yıllarca kurumsal hafızayı devrediyor ve BT liderleri, bu durumun sonuçlarını yönetmekle kalıyor.

Yapay zeka gerçek kazançlar sunar, ancak bunlar, yapay zeka ile uzmanlığı korumanın ve güçlendirmenin en önemli olduğu zamanlarda anlam ifade eder. Sistem başarısız olduğunda, próximo outage veya siber güvenlik ihlali olduğunda, sistem remediation veya müşteri iletişiminin ön saflarında bir robota veya makineye sahip olmak istemezsiniz. Orada, derin historical bağlam ve bilgi ile birlikte binada olan kişiye ihtiyacınız vardır.

Yapay zekanın tam potansiyelini açığa çıkarmak istiyorsak, yapay zekayı kullanmanın, insan uzmanlığını değil, monoton görevleri ortadan kaldırmak için kullanmamız gerektiğini anlamamız gerekiyor.