Efrain Ruh, Digitate’in EMEA Baş Teknoloji Sorumlusu – Röportaj Serisi

Efrain Ruh, Digitate’in EMEA Baş Teknoloji Sorumlusu’dur ve burada bölgesel teknoloji stratejisini, kurumsal AI, otomasyon ve büyük ölçekli operasyonel dönüşüm üzerine güçlü bir odaklanma ile yönetmektedir. Avrupa, Orta Doğu ve Afrika’daki müşterilerle yakın çalışarak, organizasyonların AI’ı sorumlu bir şekilde dağıtmalarına yardımcı olmak için pratik yürütme, yönetim ve ölçülebilir sonuçlar üzerinde durmaktadır. Ruh, ajantik AI, MLOps olgunluğu ve AI pilotlarından üretim sistemlerine geçişin gerçekleri hakkında endüstri tartışmalarına sık sık katkıda bulunmaktadır.

Digitate bir entreprise yazılım şirketidir ve Tata Consultancy Services’ (TCS.BO ) in bir iştiraki olarak IT ve iş operasyonları için AI destekli otomasyona uzmanlaşmıştır. Core platformu ignio, makine öğrenimi, bilgi grafikleri ve akıllı otomasyonu birleştirerek, sorunları tespit etmek, sonuçları tahmin etmek ve karmaşık entreprise ortamlarında sistemleri kendi kendine iyileştirmek için özerk operasyonlar sağlar. Digitate, operasyonel karmaşıklığı azaltırken dayanıklılık ve verimliliği artırarak uygulamalı AI’yi arayan büyük küresel organizasyonlara hizmet vermektedir.

Geniş teknik liderlik rolleriniz ve daha önceki IT operasyonları, mimari ve entreprise sistemleri deneyimine dayanarak, açıklanabilir AI’ın önemine ilişkin görüşünüz nasıl değişti? 

Önceki nesil otomasyonlargely reaktif ve kural tabanlıydı, bu da öngörülebilir sonuçlar nedeniyle karaboks davranışını daha toleranca edilebilir hale getirdi. AI sistemleri şimdi proaktif ajanlara doğru ilerlerken, şeffaflık için tolerans ortadan kalkar. IT liderleri, misyon kritik sistemleri sürekli olarak kullanılabilir tutmaktan sorumludur ve bu sorumluluk, doğrulanamayan sistemlerle deney yapma için çok az alan bırakır. Açıklanabilirlik, bu nedenle, teknik bir özellikten, büyük ölçekli güvenilebilirliği sağlayan operasyonel bir gereksinime dönüşmüştür. Bu yeni AI Ajanlarına güvenebilmek için, düşünce çizgilerini (çözüme nasıl ulaştıklarını) ve sonuçlarını paylaşmaları önemlidir.

Neden güven ve açıklanabilirlik, gelişmiş AI destekli otomasyonun daha geniş çapta benimsenmesindeki en büyük engeller olarak ortaya çıkıyor? 

Kurumsal IT, sürekli hesap verebilirlik ve risk altında çalışır. AI sistemleri otomatik olarak karar aldığında, özellikle önleyici veya self-healing işletme modellerinde, denetleme ekipleri belirli bir eylemin neden alındığını anlamalıdır. Kanıt, bağlam ve karar mantığının görünürlüğü olmadan, AI belirsizlik yerine güvensizlik getirir. Bu şeffaflık ve belirsizlik eksikliği, model doğruluğu veya performansı kadar IT ekiplerinin benimsenmesini yavaşlatır.

AI destekli IT operasyonlarında gerçek açıklanabilirlik nasıl görünür ve ekiplerin sistemler otomatik olarak hareket etmeden önce kararları doğrulamasına nasıl yardımcı olabilir? 

Gerçek açıklanabilirlik pratiktir ve operatör odaklıdır. Bu, teknolojinin açıkça kullanılan verileri, sistemin doğru operasyonel bağlamını doğrulamasını ve önerilen eylem planını insan tarafından okunabilir bir şekilde açıklamasını gerektirir. Ayrıca, benzer kararların daha önce yapıldığını ve sonuçlarının ne olduğunu gösteren tarihsel doğrulamayı içerir. Bu, ekiplerin hızlı bir şekilde kararları doğrulamasını ve risk düşük olduğunda otomatik yürütme genişletmesini sağlar. Eğer insanlar hızlı bir şekilde okunabilir bir çıktıyı sindiremezse, o zaman açıklanabilirlik aracı amacını yerine getiremez.

Bir açıklanabilirlik eksikliği, büyük organizasyonlar için gerçek operasyonel, mali veya iş riskine nasıl çevrilir? 

Bir fabrika işletiyorsanız ve bir parçası olan önemli bir ekipman, bakım sorununu işaret eden uyarıları eksikse, sonunda ekibe haber vermeden arızalanmaya başlar – bu, kötü kaliteli ürünler veya planlanmamış kapalı zamanlara neden olur. Benzer şekilde, açıklanabilirlik olmadan AI, küçük veri sorunlarını büyük iş incidentsine dönüştürebilir. AI tabanlı kapasite tahmini sistemi, maliyetleri azaltmak için altyapı kapasitesini azaltabilir, ancak zirve işleme dönemlerinde ciddi performans bozulmasına neden olabilir. Kurumsal AI sistemlerinde, açıklanabilirliğin kötü etkilerini, kaçırılmış SLA’lar, mali cezalar ve müşteri etkileri olarak görürsünüz. Ayrıca, agresif uyarı bastırma, kritik arızaları gizleyerek, gerçek bir acil durum oluşana kadar kesintilerin tespit edilmeden kalmasına izin verebilir.

AI platformlarının, IT ekiplerinin kararlarını denetlenebilir ve anlaşılabilir bir şekilde sunması gereken rolü nedir? 

İyi tasarlanmış bir AI ajanı veya platform, açıklanabilirliği içermelidir. Özerk sistemler, kullanılan verileri, uygulanan mantığı, önerilen veya alınan eylemleri ve takip eden sonuçları belgelemelidir. Bu bilgiler, IT ekiplerinin kullandığı operasyonel dilde sunulmalıdır, yani bağımlılıklar, tarihsel olaylar ve iş etkisi rather than soyut AI puanları. Denetlenebilirlik, hesap verebilirlik, öğrenme ve uzun vadeli güven için gereklidir.

Şeffaf karar vermeye doğru, opak otomasyondan uzaklaşmaya yardımcı olan mimari veya tasarım yaklaşımları nelerdir? 

Şirketler, AI kararlarını yüksek kaliteli operasyonel verilere dayandıran ve veri doğrulamasını karar mantığından açıkça ayıran mimarilere geçmektedir. Şeffaf sistemler, AI’nin doğru girdiler ve varsayımlarla çalıştığını garantiler. Birçok organizasyon ayrıca, önerilerle başlayan ve güvenilebilirlik arttıkça kısıtlı otomatik yürütme ile ilerleyen aşamalı özerklik kullanır. Açık veri erişimi ve net politika katmanları, özerklik arttıkça karaboks davranışını önlemek için kritiktir. Ancak, endüstrinin açıklanabilirlik konusunda büyümeye masih çok yer var ve bu yıl açıklanabilirlik özelliklerinde bir patlama göreceğimize inanıyorum.

Organizasyonlar, operasyonları yavaşlatmadan, otomatik AI eylemi ile insan denetimi arasında doğru dengeyi nasıl kurabilir? 

Denge, risk tabanlı kontroller rather than genel denetim ile sağlanmaktadır. Düşük riskli, yüksek sıklıkta görevler, koridorlar ile sonuna kadar otomatikleştirilebilir, mientras daha yüksek etkileri olan kararlar, sistemler güvenilirlik gösterene kadar insan tarafından doğrulanır. Açıklanabilirlik iyileşip AI tutarlı bir yargı sergiledikçe, özerklik doğal olarak operasyonel sürtünme getirmeden genişler.

CIO’lar ve CTO’lar, IT operasyonları genelinde AI’ı ölçeklendirmek istediklerinde, ancak görünürlük ve hesap verebilirlik endişeleri nedeniyle iç direnişle karşılaştıklarında, onlara ne tür tavsiyelerde bulunurdunuz? 

Şeffaflıkla başlayın, özerklik değil. IT ekiplerinizi erken dahil edin ve tasarım ve dağıtımda görünürlüğü önceliklendirerek güven oluşturun. Direniş, genellikle AI kararlarına ilişkin iç görü eksikliğinden kaynaklanmaktadır, değil de yeniliğe karşı bir muhalefetten. Ardından, gürültüyü azaltan, uyarı yorgunluğunu ortadan kaldıran ve kararların nasıl alındığını açıklayan kullanım örneklerine odaklanın ve sistemlerin bağımsız olarak hareket etmeden önce.

AI sistemleri daha fazla karar alma sorumluluğu aldıkça, liderlik ekipleri, yönetim, doğrulama ve güven modellerini nasıl yeniden düşünmelidir? 

Yönetim, statik onay süreçlerinden sürekli doğrulamaya doğru kaymalıdır. Liderlik ekipleri, özerkliğin nerede izin verildiğini, hangi kanıtların gerekli olduğunu ve insan müdahalesinin ne zaman gerekli olduğunu tanımlamalıdır. Güven, model karmaşıklığına ilişkin varsayımlar rather than ölçülebilir sonuçlar, doğruluk, azaltılmış olaylar ve daha hızlı çözüm süreleri aracılığıyla kazanılmelidir.

Önümüzdeki birkaç yıl içinde, açıklanabilir ve şeffaf AI’ın, otomatik IT operasyonlarının geleceğini nasıl yeniden şekillendireceğini öngörüyorsunuz? 

Açıklanabilir AI, güvenli bir şekilde ölçeklenebilen proaktif ve özerk IT operasyonlarının temel bir parçası olacaktır. Üretken AI, sistemlerin kanıtları sunmasını, gerçekleri doğrulamasını ve kararları insan tarafından okunabilir bir şekilde açıklamasını sağlayarak şeffaflığı artırıyor. Önümüzdeki birkaç yıl içinde, bu düzeyde açıklanabilirlik standart hale gelecek ve organizasyonlar, AI’ı deneysel olarak değil, operasyonların, yönetimlerin ve iş akışlarının güvenilir bir ortağı olarak gömebilecekler.

Harika röportaj için teşekkür ederiz, daha fazla bilgi edinmek isteyen okuyucular Digitate‘i ziyaret edebilir.