Doppel’in Mühendislik Başkanı Natasha Mohanty ile Röportaj Serisi

Natasha Mohanty, Doppel’in Mühendislik Başkan Yardımcısı, AI, ödeme, medya ve tüketici platformları olmak üzere çeşitli alanlarda derin deneyimlere sahip bir teknoloji lideridir. Doppel’e katılmadan önce, Stripe’in Optimized Checkout Suite ve Link için mühendislik liderliğini yaptı ve organizasyonu 30’dan 200 mühendise çıkardı ve aynı zamanda Stripe’in ödeme ürünleri ve tüketici cüzdanı için büyük bir benimsemeyi sağladı. Daha önce, Prizma.ai’nin kurucu ortağı ve CTO’su olarak görev yaptı ve Nielsen’de VP of Engineering olarak görev yaptı. Kariyerinin başlarında, Google’da Search Quality, Google News ve Google+ kişiselleştirme gibi çeşitli alanlarda çalıştı.

Doppel, organizasyonları, yöneticileri, markaları ve müşterilerini AI destekli sahtecilik, phishing, dolandırıcılık ve daha geniş dijital risklerden korumaya odaklanan bir AI-yerli sosyal mühendislik savunma şirketidir. Platformu, dijital risk korumayı, yönetici ve marka korumayı, e-posta güvenliğini, insan risk yönetimini, simülasyonları ve güvenlik farkındalık eğitimini birleştirir ve AI ve gerçek zamanlı tehdit istihbaratını kullanarak saldırgan altyapısını tespit etmek, ilişkilendirmek ve bozmak için kullanılır. Şirket, AI destekli sosyal mühendislik tehdidinin yükselişi etrafında konumlandırılmıştır ve güvenlik ekiplerinin modern dijital tehdit manzarasındaki increasingly karmaşık saldırılara yanıt vermesine yardımcı olmaktadır.

Stripe, Google, Nielsen ve şimdi Doppel’de mühendislik organizasyonlarını yönettiniz. Yazılım mühendislerinin rolü, doğrudan sistemleri yazmaktan, giderek daha otonom AI destekli iş akışlarını düzenlemek için nasıl evrimleşti?

Yazılım mühendisliği iş akışı dramatik olarak değişti, ancak mühendislerin sorumluluğu değişmedi. Kariyerime Google’da iki thập yıl önce başladığım zaman, mühendisler 대부분 zamanlarını kendileri kod yazarak ve inceleyerek geçiriyordu. Bugün, AI większości kod oluşturmayı ele alabilir, ancak mühendisler hala hedefleri tanımlamak, çıktıları doğrulamak, güvenlik sınırlarını belirlemek, kodu incelemek ve sistemlerin uzun vadede güvenilir kalmasını sağlamakla sorumludur. Birçok yönden, AI mühendislik sorumluluğunu azaltmak yerine genişletti.

Değişen şey, mühendislerin değer yaratma şekli. AI kodun mekaniklerini ele aldıkça, rol giderek daha fazla tat ve yargı, problemi anlama, mimari kararlar alma, ticaretleri değerlendirme ve sonuçların kullanıcı ve iş ihtiyaçlarıyla uyumlu olmasını sağlama üzerine odaklanıyor. En iyi mühendisler sadece yazılım yazmakla kalmaz. Cohesive sistemler oluşturur ve AI ile insanların birlikte çalışmasını sağlar ve makinelerin hala eksik olduğu bağlam ve sorumluluğu uygular. Bu, bireysel katkıdan yöneticiye geçişe benzer.

AI, mühendislik sorumluluğunu azaltmaz, genişletir dediniz. Yöneticilerin AI kodlama ajanları hakkında gerçekçi olarak ele alabilecekleri en büyük yanlış anlaşılmalar nelerdir?

En büyük yanlış anlama, AI’nin mühendislerin ihtiyacını ortadan kaldıracağıdır. Gerçekte, AI küçük ve yetenekli bir ekibin neler yapabileceğinin sınırını yükseltir, bu da mühendislik yargısını daha değerli kılar, değilse daha az.

Değişen şey, mühendislerin sorumlu olduğu yüzey alanı. Artık sadece kod yazmıyorlar. Ne yapılacağını tanımlıyorlar, ajanların amaçladıkları şeyi yaptıklarını doğruluyorlar ve yapmadıklarında sorumluluk alıyor.

Değişen bir şey yok, problem alanı daha da çekici hale geldi. Saldırganlar da aynı AI araçlarına erişebiliyor, bu da onları geride bırakmanın zorluğunu gerçekten daha zor ve daha ilginç hale getiriyor. Çözülmesi gereken zor sorunların eksikliği yok ve Doppel, bu tür bir çalışma ile heyecanlanan mühendisler için mühendislik alanında işe alıyor.

Mühendislik ekipleri, kodlama, test, hata ayıklama ve belgelendirme için birden fazla AI ajanını koordine etmeye başladığında, etkili bir “ajant yönetimi” iş akışı nasıl görünür?

Mühendisler, artık sadece katkıda bulunanlar değil, otonom sistemlerin yöneticileri olarak hareket ediyorlar. En iyi mühendisler, birden fazla paralel iş akışı boyunca önemli bağlamı tutabilir ve her ajana hangi bağlamı paylaşacağını bilir. Uygulamada, bu, iyi tanımlanmış kabul kriterlerini yazmak, gizlilik ve güvenlik için net sınırlar belirlemek ve ajanların nedenlerini ve varsayımlarını doğrulama adımı olarak açıklamalarını istemektir. Bir ajan ne yaptığını ve neden yaptığını açıklamakta güçlük çekiyorsa, çıktıyı tam olarak güvenemezsiniz.

Doppel’de, tehditleri araştıran, sürekli olarak algılama politikalarını uyarlayan ve kararlarını sade bir dilde açıklayan ajantik sistemler inşa ediyoruz. Etkili ajan yönetimi ayrıca, staging ortamları, otomatik test hatları, güvenlik araçları, tanımlanmış izinler ve denetim ile değerlendirme çerçeveleri gibi sistem düzeyinde altyapıyı gerektirir.

AI ajanlarına, güçlü güvenlik sınırları olmadan, iç araçlara, üretim sistemlerine veya duyarlı iş akışlarına erişim verildiğinde ortaya çıkan en büyük operasyonel veya güvenlik riskleri nelerdir?

Risk, AI ajanlarının hatalar yapması değil, bunları gerçekleştirebilmeleridir. Daha spesifik tehlike, ajanların amaçlandıkları kapsamın dışında hareket etmeleridir, bu ya sistemlere erişmelerini ya da tutmamaları gereken verileri işledikleri anlamına gelir.

E-posta güvenlik ürünümüzde, örneğin, ajanlar doğası gereği duyarlı verileri işler. Bu ajanların erişimini严格 olarak kısıtlamak, kazara hassas kişisel bilgileri aşağı akışta ifşa etmemek ve gizli bilgileri tutmamak için önemli önlemler aldık, ancak aynı zamanda doğru kararı vermesi için gerekli bağlamı da sağladık.

AI tarafından üretilen kodu kullanmanın, uzun vadeli teknik borç yaratmaya başladığı noktada, nasıl düşünmelisiniz ve mühendislik liderleri hız ile bakım arasındaki dengeyi nasıl düşünmelidir?

Risk, kısa vadeli hızı, sistemlerin ölçeklenebilirlik ve evrimine izin veren temellerin üzerinde önceliklendirmektir. Stripe’de geçirdiğim zamanın en büyük derslerinden biri, tüm kararların eşit olmadığıdır. Bazıları tuzak kapılarıdır: Geri döndürmek zor ve uzun vadeli sonuçları olabilir, diğerleri daha kolay değiştirilebilir.

AI ile disiplin, hala uzun vadeli sonuçları taşıyan kararları bilmek, bunlara daha güçlü güvenlik sınırları koymak ve diğerlerini hızlı bir şekilde hareket ettirmektir. Doppel’de bu, değerlendirme sistemlerini ve güncel belgeleri kullanarak ajanların sistemler evrimleşirken amaçlandığı gibi çalışmaya devam ettiğini sağlamak anlamına gelir. Hedef, yavaşlamak değil, hızın sessizce inşa ettiğiniz temelleri aşındırmamasını sağlamaktır.

Stripe’de mühendislik organizasyonlarını ölçeklendirirken, güvenilirlik, güven ve sistem tasarımı hakkında neler öğrendiniz ve bu dersler AI destekli otonom ajanların çağındaki önemini nasıl hissettiler?

Stripe’de güvenilirlik her şeydi, özellikle finans endüstrisinin bu kadar düzenlenmiş olması ve ödeme portallarının down olması şirketler için felaket olabilirdi. Bir sistem amaçlandığı gibi çalışmazsa, müşteriler üzerinde doğrudan bir etkisi olur ve bu da şirket içinde güçlü bir sahip olma ve sorumluluk kültürü yaratırdı.

Beni Doppel’e çeken şey, benzer bir müşteri odaklılık seviyesiydi. Burada bulunan ekipler, müşterilerin karşılaştığı zorlukları anlamak ve bunları çözme sorumluluğunu almak için derinlemesine odaklanıyor.

AI akıllı sosyal mühendislik saldırılarına karşı şirketlerin savunmasını güçlendirmeye yardımcı olan AI-yerli sistemler inşa ettiğiniz Doppel’de, bu dersler özellikle önemli hissediyor.

Stripe’de olduğu gibi, burada da çok yüksek riskler var, ancak farklı nedenlerle. Şirketlerin güçlü bir siber güvenlik duruşu olmaması felaket olabilir. Stripe’de ödeme işlemlerinin down olması gibi, burada da siber güvenlik sistemlerinin down olması gibi.

Gelecek birkaç yıl içinde, şirketlerin AI akranlılığına, sistem düşüncesine ve adaptasyona öncelik vermeye başladıkları medida, mühendislik işe alımı nasıl değişir?

Sanırım, mühendislerin otonom olarak çalışabilme, güçlü yargı ve hızlı öğrenme yeteneklerine sahip olmalarına daha fazla vurgu yapılacağını düşünüyorum. Bunlar, kariyerim boyunca her zaman işe aldığım özelliklerdir, ancak şimdi daha da önemli hale geldiler. Kariyerim boyunca en büyük etkiye sahip olan mühendisler, dar bir uzmanlığa sahip olanlar değil, hızlı adapte olabilen, belirsizliği gezinen ve teknoloji evrimleşirken sürekli öğrenenlerdi.

Ancak baraj değişti. Doppel’de çözmeye çalıştığımız sorunlar nettir. AI’yi de kullanan saldırganlarla sürekli olarak çalışıyoruz ve tehdit istihbarat ajanları gibi sistemler inşa ediyoruz. Bu tür bir çalışma için bir playbook yok, bu nedenle sınırları zorlayabilen ve boundary’leri zorlayabilen bir azim ve irade gerekiyor.

AI, iş yapma şeklimizi değiştirmeye devam edecek, ancak şirketler, sistemler boyunca çalışabilen ve tam yaşam döngüsünden sorumlu olan insanlara ihtiyaç duyacak. Başarılı olan mühendisler, AI manzarası etrafında evrimleşirken yeteneklerini sürekli olarak yeniden icat edenler olacak.

Kişiselleştirme, öneri sistemleri ve makine öğrenimi destekli platformlar üzerinde kapsamlı olarak çalıştığınız deneyimler, mühendislik organizasyonları içindeki insan-AI işbirliği hakkında düşüncenizi nasıl şekillendirdi?

Kişiselleştirme ve makine öğrenimi sistemleri üzerinde çalışırken öğrendiğim bir şey, çıktı kalitesinin, girdi kalitesine, eğitim verilerine, değerlendirme çerçevelerine ve “iyi”nin ne anlama geldiğinin net bir tanımına bağlı olduğudur. Modeller, büyük ölçekli bilgi işlem için harika, ancak insanlar yargı, bağlam ve neyin önemli olduğunu anlamak getirirler.

Sanırım aynı ilke, bugün faaliyet gösteren mühendislik organizasyonlarına da uygulanabilir. AI, ekiplerin daha hızlı hareket etmesine yardımcı olabilir, ancak en iyi ekipler, AI’ye verdikleri bağlam ve gerçekliği tentang nasıl entegre edeceklerine dikkat edeceklerdir. Mühendisler hala kararlar almak, ticaretleri değerlendirmek ve sonuçların sahibi olmak zorundadır.

Çok sayıda şirket, AI araçları ile geliştirici verimliliğini en üst düzeye çıkarmaya çalışıyor. Rekabet avantajı sonunda daha hızlı kodlama mı olacak, yoksa AI sistemlerini etkili bir şekilde yöneten ve koordine eden organizasyonlar mı olacak?

Hız önemlidir, özellikle siber güvenlik gibi saldırganların geride kalınmaması gereken bir alanda. Ancak, güvenlik sınırları olmadan hız, sadece daha hızlı bir şekilde açıklar oluşturmanın bir yolu. AI sistemlerinin yönetimi, her AI ile inşa eden şirket için temel olmalıdır, sonradan düşünülmemelidir. Kalite, güvenilirlik ve sorumluluk için yazılımda mühendislik iş akışlarında temel bir gereksinimdir. Özellikle siber güvenlik endüstrisinde, güvenlik sınırları olmazsa, saldırganlar bırakılan her açığı bulur ve kullanır. Bu nedenle, Doppel’de ajan platformumuzu, gizlilik güvenlik sınırları ve net bir denetim izi ile inşa ettik.

Beş yıl içinde, AI ajanlarının günlük geliştirme iş akışlarına derinlemesine entegre olduğu modern bir yazılım mühendisliği ekibinin nasıl görüneceğini düşünüyorsunuz?

Beş yıl, güvenle tahmin etmek zor. Ancak 18 ay ila üç yıl içinde, AI ajanlarının muhtemelen kod oluşturma, test ve ilk geçiş hatalarını ele alacağını söyleyebilirim.

Mühendisler, ürün yargısını, spesifikasyonu, tadı, mimariyi ve bir şeyin kırıldığında sorumluluğu sahiplenecek. Ekipler daha küçük olabilir, ancak rol daha zor hale gelecek. Başarılı olan mühendisler, en çok kodu üretenler değil, otonom sistemleri etkili bir şekilde yönlendirebilen, değerlendirebilen ve düzeltme yapabilenlerdir.

Önceki teknoloji değişikliklerinden edindiğim bir şey, inovasyonun genellikle düz bir çizgi izlemediğidir. Başarılı olan ekipler, meraklı kalmak, hızlı adapte olmak ve teknoloji değişirken iş akışlarını evrimleştirmek olacaktır.

Harika bir röportaj için teşekkür ederiz, daha fazla bilgi edinmek isteyen okuyucular Doppel‘i ziyaret edebilir.