Ініціатива OpenAI: спрямування суперінтелектуальної штучної інтелектуальної системи у правильному напрямку

OpenAI, провідний гравець у сфері штучної інтелектуальної системи, недавно оголосив про створення спеціальної команди для управління ризиками, пов’язаними з суперінтелектуальною штучною інтелектуальною системою. Це рішення прийнято в той час, коли уряди всього світу обговорюють питання регулювання нових технологій штучної інтелектуальної системи.

Поняття суперінтелектуальної штучної інтелектуальної системи

Суперінтелектуальна штучна інтелектуальна система відноситься до гіпотетичних моделей штучної інтелектуальної системи, які перевершують найталановитіших і найрозумніших людей у кількох галузях знань, а не лише в одній галузі, як деякі попередні моделі. OpenAI передбачає, що така модель може з’явитися до кінця десятиліття. Організація вважає, що суперінтелектуальна штучна інтелектуальна система може бути найвпливовішою технологією, яку коли-небудь винайшли люди, потенційно допомагаючи нам вирішити багато найпресовніших проблем світу. Однак величезна сила суперінтелектуальної штучної інтелектуальної системи також може становити значні ризики, включаючи потенційну деземпаверизацію людства або навіть вимирання людей.

Команда суперінтелектуальної штучної інтелектуальної системи OpenAI

Для вирішення цих проблем OpenAI створив нову команду «Суперінтелектуальна штучна інтелектуальна система», яку очолюють головний науковий співробітник OpenAI Ілля Сутскевер і Ян Лейке, керівник дослідницької лабораторії з питань узгодження. Команда матиме доступ до 20% обчислювальної потужності, яку зараз має OpenAI. Їхня мета – розробити автоматизовану систему узгодження, яка могла б допомогти OpenAI забезпечити безпеку використання суперінтелектуальної штучної інтелектуальної системи та її узгодженість з людськими цінностями.

Хоча OpenAI визнає, що це надзвичайно амбітійна мета і успіх не гарантований, організація залишається оптимістичною. Попередні експерименти показали обнадійливі результати, і все більш корисні метрики прогресу доступні. Крім того, поточні моделі можна використовувати для вивчення багатьох цих проблем емпірично.

Потрібність регулювання

Створення команди суперінтелектуальної штучної інтелектуальної системи відбувається в той час, коли уряди всього світу розглядають питання регулювання нової галузі штучної інтелектуальної системи. Генеральний директор OpenAI Сем Алтман зустрічався щонайменше з 100 федеральними законодавцями за останні місяці. Алтман публічно заявив, що регулювання штучної інтелектуальної системи “необхідне” і що OpenAI “захоче” працювати з законодавцями.

Однак важливо підходити до таких заяв з певною дозою скептицизму. Зосереджуючи увагу громадськості на гіпотетичних ризиках, які можуть ніколи не матеріалізуватися, організації, такі як OpenAI, потенційно можуть перенести тягар регулювання на майбутнє, а не вирішувати негайні питання щодо штучної інтелектуальної системи та праці, дезінформації та авторських прав, які законодавці повинні вирішувати сьогодні.

Ініціатива OpenAI щодо створення спеціальної команди для управління ризиками суперінтелектуальної штучної інтелектуальної системи є значним кроком у правильному напрямку. Це підкреслює важливість активних заходів для вирішення потенційних проблем, пов’язаних з просунутими технологіями штучної інтелектуальної системи. Коли ми продовжимо орієнтуватися в складностях розвитку штучної інтелектуальної системи та регулювання, ініціативи, такі як ця, служать нагадуванням про необхідність збалансованого підходу, який використовує потенціал штучної інтелектуальної системи, а також захищає від її ризиків.