OpenAI Güvenlik Konseyi Oluşturur, Yeni Nesil AI Modelini Eğitimine Başlar

OpenAI, yapay zeka teknolojilerini ilerletme konusunda önemli adımlar atmıştır ve en son başarısı, popüler ChatGPT sohbet botunu güçlendiren GPT-4o sistemidir. Bugün, OpenAI duyurdu yeni bir güvenlik komitesi olan OpenAI Güvenlik Konseyi’nin kurulduğunu ve yeni bir AI modelinin eğitimine başladığını açıkladı.

OpenAI Güvenlik Konseyi’nde Kimler Var?

Yeni kurulan OpenAI Güvenlik Konseyi, şirketin projeleri ve operasyonları ile ilgili kritik güvenlik ve güvenlik kararlarına rehberlik ve denetim sağlamak amacıyla oluşturuldu. Konseyin birincil amacı, OpenAI’nin AI geliştirme uygulamalarının güvenliği önceliklendirmesini ve etik ilkelerle uyumlu olmasını sağlamaktır. Güvenlik komitesi, OpenAI yöneticileri, yönetim kurulu üyeleri ve teknik ve politika uzmanlarından oluşan çeşitli bir grup insandan oluşur.

OpenAI Güvenlik Konseyi’nin Ünlü Üyeleri:

• Sam Altman, OpenAI CEO’su
• Bret Taylor, OpenAI Yönetim Kurulu Başkanı
• Adam D’Angelo, Quora CEO’su ve OpenAI yönetim kurulu üyesi
• Nicole Seligman, eski Sony genel danışmanı ve OpenAI yönetim kurulu üyesi

İlk aşamada, yeni güvenlik ve güvenlik komitesi, OpenAI’nin mevcut güvenlik süreçlerini ve güvenlik önlemlerini değerlendirmeye ve güçlendirmeye odaklanacak. OpenAI Güvenlik Konseyi, şirketin AI geliştirme uygulamalarını ve güvenlik sistemlerini iyileştirmek için yönetim kuruluna 90 günlük bir süre içinde öneriler sunmayı planlıyor. Öneriler kabul edildikten sonra, OpenAI bunları güvenlik ve güvenlik endişelerine uygun bir şekilde kamuoyuna açıklamayı planlıyor.

Yeni AI Modelinin Eğitimi

OpenAI Güvenlik Konseyi’nin kurulmasıyla paralel olarak, OpenAI yeni nesil AI modelinin eğitimine başladığını duyurdu. Bu son AI modeli, şu anda ChatGPT’yi destekleyen GPT-4 sistemini aşması beklenmektedir. Yeni AI modeli hakkında detaylar az olsa da, OpenAI bu modelin endüstriyi hem yetenek hem de güvenlik açısından lider kılacağını belirtti.

Bu yeni AI modelinin geliştirilmesi, yapay zeka alanındaki hızlı inovasyon hızını ve yapay genel zeka (AGI) potansiyelini vurgulamaktadır. AI sistemleri daha gelişmiş ve güçlü hale geldikçe, güvenliği önceliklendirmek ve bu teknolojilerin sorumlu bir şekilde geliştirildiğinden emin olmak çok önemlidir.

OpenAI’nin Son Çatışmaları ve Ayrılıkları

OpenAI’nin güvenlik konusundaki yenilenen odaklanması, şirketin iç çekişme ve kamuoyu eleştirisi yaşadığı bir döneme denk gelmektedir. Son haftalarda, şirket kendi içinden gelen eleştirilerle karşılaştı, araştırmacı Jan Leike istifa etti ve güvenlik konusunun “parlak ürünler” geliştirme önüne geçtiğini belirtti. Leike’nin istifasını, OpenAI’nin kurucu ortağı ve baş bilim insanı Ilya Sutskever’in ayrılması izledi.

Leike ve Sutskever’in ayrılıkları, şirketin öncelikleri ve AI güvenliği konusundaki yaklaşımı hakkında soruları gündeme getirdi. İki araştırmacı, OpenAI’nin “süper hizalama” ekibini birlikte yönetiyordu ve bu ekip uzun vadeli AI risklerini ele almayı amaçlıyordu. İstifalarından sonra süper hizalama ekibi lağvedildi, bu da şirketin güvenlik konusundaki taahhüdü hakkında endişeleri daha da artırdı.

İç çekişmenin yanı sıra, OpenAI ayrıca ChatGPT sohbet botunda ses taklidi iddialarıyla karşı karşıya kaldı. Bazı kullanıcılar, sohbet botunun sesinin oyuncu Scarlett Johansson’un sesine benzettiğini iddia etti. OpenAI, Johansson’u kasıtlı olarak taklit ettiğini reddetti, ancak bu olay AI tarafından üretilen içeriklerin etik etkileri ve kötüye kullanım potansiyeli hakkında daha geniş bir tartışmayı tetikledi.

AI Etikleri Hakkında Daha Geniş Bir Konuşma

Yapay zeka alanının hızla evrimleşmeye devam ettiği bir dönemde, OpenAI gibi şirketlerin araştırmacılar, politika yapıcılar ve kamuoyu ile sürekli diyalog ve işbirliği içinde olması, AI teknolojilerinin sorumlu bir şekilde ve güçlü güvenlik önlemleri ile geliştirildiğinden emin olmak için çok önemlidir. OpenAI Güvenlik Konseyi’nin önerileri ve OpenAI’nin şeffaflık taahhüdü, AI yönetimi hakkında daha geniş bir konuşmaya katkıda bulunacak ve bu dönüşümsel teknolojinin geleceğini şekillendirmeye yardımcı olacaktır, ancak bu konuşmanın neye yol açacağı zamanla belli olacaktır.