Обставини навколо потенційних ризиків ChatGPT набирають обертони, але чи є пауза в розвитку штучного інтелекту добрим кроком?

Хоча Ілон Маск і інші світові лідери технологій закликали до паузи в розвитку штучного інтелекту після випуску ChatGPT, деякі критики вважають, що зупинка розвитку не є правильним рішенням. Євнагель штучного інтелекту Ендрю Пері з компанії ABBYY вважає, що зупинка розвитку схожа на повернення зубної пасти в тюбик. Тут він розповідає нам, чому…

Застосування штучного інтелекту є повсюдним, впливаючи майже на кожен аспект нашого життя. Хоча зупинка розвитку зараз може бути недоцільною.

Є певні обґрунтовані побоювання, які вимагають збільшення регулювання для обмеження потенційно шкідливих впливів.

Нещодавно Італійське агентство з захисту даних тимчасово заблокувало використання ChatGPT по всій країні через побоювання щодо збору та обробки персональних даних, використаних для навчання моделі, а також через відсутність заходів безпеки, які можуть поставити дітей у небезпечні ситуації.

Європейська організація споживачів (BEUC) закликає ЄС розслідувати потенційно шкідливі впливи великомасштабних мовних моделей, оскільки “побоювання зростають щодо того, як ChatGPT і подібні чат-боти можуть обманути і маніпулювати людьми. Ці системи штучного інтелекту потребують більшої публічної уваги, а публічні органи влади повинні відновити контроль над ними.”

У США Центр штучного інтелекту та цифрової політики подав скаргу до Федеральної торгової комісії щодо того, що ChatGPT порушує пункт 5 Закону про федеральну торгівлю (FTC Act) (15 USC 45). Підставою для скарги є те, що ChatGPT нібито не відповідає рекомендаціям, встановленим Федеральною торговою комісією щодо прозорості та пояснюваності систем штучного інтелекту. У ChatGPT визнаються відомі ризики, включаючи порушення прав на приватність, генерацію шкідливого контенту та поширення дезінформації.

Корисність великомасштабних мовних моделей, таких як ChatGPT, не зважаючи на дослідження, вказує на потенційний темний бік. Доведено, що вона може генерувати неправильні відповіді, оскільки модель ChatGPT базується на алгоритмах глибинного навчання, які використовують великі набори даних з Інтернету. На відміну від інших чат-ботів, ChatGPT використовує мовні моделі, засновані на техніках глибинного навчання, які генерують текст, подібний до людських розмов, і платформа “доходить до відповіді, роблячи серію припущень, що є частиною причини, чому вона може обґрунтовувати неправильні відповіді, як якщо б вони були абсолютно правдивими”.

Крім того, ChatGPT доведено, що вона підкреслює та посилює упередженість, що призводить до “відповідей, які дискримінують стать, расу та меншин, що є тим, чого компанія намагається уникнути”. ChatGPT також може бути бонанзою для зловмисних акторів, які можуть використати невігласних користувачів, компрометуючи їх приватність та піддаючи їх атакам шахраїв.

Ці побоювання спонукали Європейський парламент опублікувати коментар, який підкреслює необхідність подальшого зміцнення поточних положень проекту Закону ЄС про штучний інтелект (AIA), який ще не ратифікований. Коментар вказує на те, що поточний проект регулювання зосереджений на так званих вузьких застосуваннях штучного інтелекту, що складаються з конкретних категорій високоризикових систем штучного інтелекту, таких як набір персоналу, кредитоспроможність, зайнятість, правоохоронна діяльність та право на соціальні послуги. Однак проект регулювання AIA не охоплює загальнопurpose штучний інтелект, такий як великомасштабні мовні моделі, які забезпечують більш просунуті когнітивні можливості та можуть “виконувати широкий спектр інтелектуальних завдань”. Є заклики до розширення сфери дії проекту регулювання для включення окремої високоризикової категорії загальнопurpose систем штучного інтелекту, що вимагає від розробників проведення суворих тестів на відповідність до розміщення таких систем на ринку та постійного моніторингу їхньої роботи на потенційно шкідливі виходи.

Особливо корисним є дослідження, яке привертає увагу до цього пробілу в регулюванні AIA, яке “в основному зосереджено на традиційних моделях штучного інтелекту, а не на новому поколінні, яке ми зараз спостерігаємо”.

Воно рекомендує чотири стратегії, які регулюючі органи повинні враховувати.

1. Вимагати від розробників таких систем регулярно звітувати про ефективність своїх процесів управління ризиками для мінімізації шкідливих виходів.
2. Бізнеси, які використовують великомасштабні мовні моделі, повинні бути зобов’язані інформувати своїх клієнтів про те, що контент був створений штучним інтелектом.
3. Розробники повинні підписатися на формальний процес етапних випусків як частини rámця управління ризиками, призначеного для захисту проти потенційно непередбачуваних шкідливих наслідків.
4. Покладати відповідальність на розробників за мінімізацію ризику “з коріння” шляхом активного аудиту навчального набору даних на неправильні дані.

Фактор, який підтримує ризики, пов’язані з революційними технологіями, є прагнення інноваторів досягти першої переваги шляхом прийняття бізнес-моделі “відправити спочатку, а потім виправити”. Хоча OpenAI є досить прозорим щодо потенційних ризиків ChatGPT, вони випустили її для широкого комерційного використання з “обережністю” для користувачів, щоб вони самі оцінювали та приймали ризики. Це може бути недопустимим підходом, враховуючи повсюдний вплив систем конверсаційного штучного інтелекту. Активне регулювання, поєднане з ефективними заходами виконання, повинно бути головним при роботі з такою революційною технологією.

Штучний інтелект вже проникає майже в кожен аспект нашого життя, що означає, що пауза в розвитку штучного інтелекту може означати безліч непередбачуваних перешкод і наслідків. Замість того, щоб раптово зупинятися, галузеві та законодавчі гравці повинні співпрацювати добросовісно, щоб прийняти дієві регулювання, які ґрунтуються на людоцентричних цінностях, таких як прозорість, підзвітність та справедливість. Посилаючись на існуюче законодавство, таке як AIA, лідери приватного та публічного секторів можуть розробити повні, глобально стандартизовані політики, які запобігатимуть зловмисному використанню та помітять негативні наслідки, тим самим тримаючи штучний інтелект у межах поліпшення людського досвіду.