Нова ініціатива OpenAI: спрямування надрозумного ШІ в правильному напрямку

OpenAI, провідний гравець у сфері штучного інтелекту, недавно оголосив про створення спеціальної команди для управління ризиками, пов’язаними з надрозумним ШІ. Це рішення прийнято в той час, коли уряди всього світу обговорюють питання регулювання нових технологій штучного інтелекту.

Поняття надрозумного ШІ

Надрозумний ШІ відноситься до гіпотетичних моделей штучного інтелекту, які перевершують найталановитіших і найрозумніших людей у кількох галузях знань, а не лише в одній галузі, як деякі попередні моделі. OpenAI передбачає, що така модель може з’явитися до кінця десятиліття. Організація вважає, що надрозумний ШІ може бути найвпливовішою технологією, яку коли-небудь винайшли люди, потенційно допомагаючи нам вирішити багато найнагальніших проблем світу. Однак величезна сила надрозумного ШІ також може становити значні ризики, включаючи потенційну позбавлення людства контролю та можливості впливати на власне майбутнє або навіть вимирання людей.

Команда Superalignment в OpenAI

Для вирішення цих проблем OpenAI створив нову команду «Superalignment», яку очолюють головний науковий співробітник OpenAI Ілля Сутскевер і Ян Лейке, керівник напряму узгодження в дослідницькій лабораторії. Команда матиме доступ до 20% обчислювальної потужності, яку зараз має OpenAI. Їхня мета – розробити автоматизованого дослідника узгодження, яка могла б допомогти OpenAI забезпечити безпеку використання надрозумного ШІ та її узгодженість з людськими цінностями.

Хоча OpenAI визнає, що це надзвичайно амбітійна мета і успіх не гарантований, організація залишається оптимістичною. Попередні експерименти показали обнадійливі результати, і все більш корисні метрики прогресу доступні. Крім того, поточні моделі можна використовувати для вивчення багатьох цих проблем емпірично.

Потрібність регулювання

Створення команди Superalignment відбувається в той час, коли уряди всього світу розглядають питання регулювання нової галузі штучного інтелекту. Генеральний директор OpenAI Сем Алтман зустрічався щонайменше з 100 федеральними законодавцями за останні місяці. Алтман публічно заявив, що регулювання штучного інтелекту “необхідне” і що OpenAI “прагне” працювати з законодавцями.

Однак важливо підходити до таких заяв з певною дозою скептицизму. Зосереджуючи увагу громадськості на гіпотетичних ризиках, які можуть ніколи не матеріалізуватися, організації, такі як OpenAI, потенційно можуть перенести тягар регулювання на майбутнє, а не вирішувати негайні питання щодо штучного інтелекту та праці, дезінформації та авторських прав, які законодавці повинні вирішувати сьогодні.

Ініціатива OpenAI щодо створення спеціальної команди для управління ризиками надрозумного ШІ є значним кроком у правильному напрямку. Це підкреслює важливість активних заходів для вирішення потенційних проблем, пов’язаних з просунутими технологіями штучного інтелекту. Коли ми продовжимо орієнтуватися в складностях розвитку штучного інтелекту та регулювання, ініціативи, такі як ця, служать нагадуванням про необхідність збалансованого підходу, який використовує потенціал штучного інтелекту, а також захищає від його ризиків.