Private AI’nin CEO’su Patricia Thaine ile Röportaj Serisi

Patricia Thaine, Private AI’nin kurucu ortaklarından ve CEO’su, Toronto Üniversitesi’nde bilgisayar bilimi doktorası adayı ve Vector Enstitüsü’nde gizlilik koruma doğal dil işleme üzerine araştırma yapan bir yüksek lisans öğrencisidir. Ayrıca kaybolmuş dillerin çözülmesi için hesaplamalı yöntemler üzerine araştırma yapmaktadır.

Patricia, NSERC Yüksek Lisans Bursu, RBC Yüksek Lisans Bursu, Beatrice “Trixie” Worsley Bilgisayar Bilimi Yüksek Lisans Bursu ve Ontario Yüksek Lisans Bursu’nun sahibi olmuştur. Sekiz yıllık araştırma ve yazılım geliştirme deneyimine sahiptir ve McGill Dil Gelişim Laboratuvarı, Toronto Üniversitesi Bilgisayar Bilimi Laboratuvarı, Toronto Üniversitesi Dil Bilimi Bölümü ve Kanada Halk Sağlığı Ajansı’nda çalışmıştır.

Bilgisayar bilimine ilk olarak neler sizi çekti?

Problem çözmek ve aynı zamanda yaratıcı olmak. Bu bir zanaat gibi. Ürün fikirlerinizi görmeye başlarsınız, tıpkı bir marangozun mobilya yapması gibi. Birisi bir kez dediği gibi: programlama, ultimate yaratıcı araçtır. Ürünlerinizi dünyanın her yerindeki insanlar tarafından kullanılabilmesi için ölçeklenebilmesi de bir bonus.

Private AI’nin doğuş hikayesini ve gizlilik koruma araçlarının kolay entegrasyonunun eksikliğini gözlemleyerek nasıl ortaya çıktığını anlatır mısınız?

Konuşma ve yazma yoluyla en hassas bilgilerimiz üretilir ve şirketlerin hizmetlerini kullandığımız şirketlere aktarılır. NLP ürünleri geliştirmeyi düşünürken, entegre edeceğimiz bir gizlilik katmanı yoktu. Gizlilik çözümlerini kullanmak için şirketlerin kullanıcı verilerini üçüncü bir tarafa aktarması, düşük kaliteli açık kaynaklı çözümleri kullanması veya gizlilik konusunda uzman olmadan kendi çözümünü geliştirmesi gerekiyordu. Bu nedenle, geliştiriciler ve AI ekipleri için gizlilik teknolojileri çıktılarını kolayca entegre edebilecekleri en iyi ürünleri oluşturmaya odaklandık.

Gizlilik koruma AI neden önemlidir?

Üretilen bilgilerin yaklaşık %80’i yapılandırılmamıştır ve AI, bu verilerin anlamını çıkarmak için tek yoldur. İyi amaçlar için kullanılabilir, örneğin yaşlı bir nüfusta düşmeleri tespit etmek için veya kötü amaçlar için, örneğin underrepresented popülasyonlardan bireyleri profilleme ve takip etmek için. Yazılımımızda gizliliği entegre etmek, AI’nin zararlı bir şekilde kullanılmasını daha zor hale getirir.

Gizlilik neden bir rekabet avantajıdır?

Birkaç neden vardır, ancak burada sadece birkaçı:

1. Daha fazla kullanıcı gizlilik konusunda endişe duyar ve tüketiciler daha eğitimli hale geldikçe bu endişe artar: tüketici verilerinin gizliliği konusunda endişe duyan tüketicilerin %70’i.
2. Doğru veri koruma ve veri gizliliği protokollerine ve teknolojilerine sahip olduğunuzda, diğer şirketlerle iş yapmak daha kolaydır.
3. Gizlilik koruma yöntemiyle ürünlerinizi geliştirdiğinizde, hizmetinizdeki zayıf noktaları daha iyi takip edersiniz ve özellikle veri minimizasyonu yoluyla, ihtiyacınız olmayan verileri ve bir siber saldırı olduğunda size sorun yaratabilecek verileri ortadan kaldırırsınız.

Gizlilik koruma eğitim verisi neden önemlidir ve ters mühendislik yapmaya karşı neden hassastır?

Bu bir soru ve bu konuda daha fazla eğitim olması gerekir. Basitçe, makine öğrenimi modelleri bilgiyi hafızalarına alırlar. Modeller ne kadar büyükse, o kadar fazla köşe durumu hafızalarına alırlar. Bu, modellerin eğitim verilerini üretim aşamasında geri verebileceği anlamına gelir. Bu, several araştırma makalesinde gösterilmiştir,包括 The Secret Sharer: Evaluating and Testing Unintended Memorization in Neural Networks ve Extracting Training Data from Large Language Models.

Bu ayrıca kişisel bilgilerin word embeddings’den çıkarılabileceği ve bu yıl bir Kore aşk botunun diğer kullanıcılarla sohbetlerde kullanıcı ayrıntılarını yazmasıyla ortaya çıkan bir skandaldır.

Federated öğrenme ve kullanıcı gizliliği hakkında görüşünüz nedir?

Federated öğrenme, kullanım durumu izin verdiğinde iyi bir adımdır. Ancak, bulut tarafından alınan ağırlık güncellemelerinden kullanıcı girişleri hakkında bilgi çıkarılması masih mümkündür, bu nedenle federated öğrenmeyi diferansiyel gizlilik ve homomorfik şifreleme/güvenli çoklu hesaplama gibi diğer gizlilik artırıcı teknolojilerle birleştirmek önemlidir. Her bir gizlilik artırıcı teknoloji, kullanım durumu göre seçilmelidir – hiçbiri tüm sorunları çözmek için kullanılan bir çekiç değildir. Karar ağacını burada açıklıyoruz. Bir büyük kazanç, ham verilerinizi hiçbir zaman cihazınızın dışına göndermemenizdir. Bir büyük dezavantaj, bir sistemi hataları düzeltmek veya eğitimini kontrol etmek için verilere ihtiyaç duyduğunuzda, bunları elde etmek çok daha zor hale gelir. Federated öğrenme, çözülmesi gereken birçok problemi olan iyi bir başlangıçtır ve araştırma ve endüstri bu sorunları çözmeye çalışmaktadır.

Private AI, geliştiricilerin birkaç satır kodla gizlilik analizini entegre etmesini sağlar, bu nasıl çalışır?

Teknolojimiz, kullanıcılarımızın metinleri redakte etmek, kimlik bilgilerini gizlemek veya gerçekçi verilerle değiştirmek için POST istekleri gönderebilecekleri bir REST API olarak çalışır. Bazı müşterilerimiz, PCI uyumlu hale getirmek için çağrı kayıtlarını gönderirken, diğerleri sohbetleri gönderir ve sonra bu bilgileri chatbot’lar, sentiment analizörleri veya diğer NLP modelleri için kullanabilirler. Kullanıcılarımız ayrıca hangi varlıkları saklamak veya meta veri olarak takip etmek istediklerini seçebilir. Gerçekten karmaşık verilerde kişisel bilgileri tespit etmek ve değiştirmek için doğru bir sistem eğitme zorunluluğunun acısını ortadan kaldırıyoruz.

Neden IoT cihazları için gizlilik当前 bir sorun ve bunu çözmek için görüşünüz nedir?

Aslında, bir gizlilik sorununu çözmek için en iyi yol, kullanım durumuna bağlıdır ve IoT cihazları farklı değildir. Bazı kullanım durumları kenar dağıtımı, kenar çıkarımı ve gizlilik koruma federated öğrenmeyi gerektirebilir (örneğin, akıllı şehirlerde kalabalık algılama), diğer kullanım durumları ise veri toplama ve anonimleştirme gerektirebilir (örneğin, enerji kullanım bilgileri). IoT cihazları, gizlilik ve güvenlik birlikte gitmelidir. Bu cihazlar, siber saldırılara karşı ünlüdür, bu nedenle gizlilik artırıcı teknolojiler, temel cihaz zayıflıklarını düzeltmeden çok fazla şey yapamaz. Öte yandan, kullanıcı gizliliği artırma yollarını düşünmeden, evlerimizden toplanan bilgiler, bilinmeyen taraflarla paylaşılabileceğinden, bu bilgilerin güvenliğini garanti etmek çok zordur. Burada iki cephede iyileşmeye ihtiyacımız var ve Avrupa Komisyonu’nun IoT cihazları güvenliği üzerine yazılan taslak yasaları, cihaz üreticilerini tüketicilerin güvenliği ve gizliliği konusunda sorumluluk almaya itebilir.

Private AI hakkında paylaşmak istediğiniz başka bir şey var mı?

Biz, gizlilik, doğal dil, konuşma dili, düşük kaynaklı ortamlarda makine öğrenimi modeli dağıtımı, Microsoft’ (MSFT ) un risk sermayesi fonu M12 tarafından desteklenen bir uzman grubuyuz.

Ürünlerimizi, yüksek oranda doğru olmasının yanı sıra, hesaplama verimliliği açısından da tasarlıyoruz, böylece ay sonunda elinizde büyük bir bulut faturası olmaz. Ayrıca, müşterilerimizin verileri asla bize aktarılmaz – her şey kendi ortamlarında işlenir.

Harika bir röportaj için teşekkür ederiz, daha fazla bilgi için Private AI’yi ziyaret edin.