Лідери технологій підкреслюють ризики штучного інтелекту та нагальну потребу у суворому регулюванні штучного інтелекту

Ріст і розвиток штучного інтелекту були експоненційними за останні кілька років. За даними Statista, до 2024 року світовий ринок штучного інтелекту генеруватиме доходи близько 3000 мільярдів доларів, порівняно з 126 мільярдами доларів у 2015 році. Однак лідери технологій тепер попереджають нас про різні ризики штучного інтелекту.

Особливо, недавня хвиля генеративних моделей штучного інтелекту типу ChatGPT ввела нові можливості в різних галузях, таких як охорона здоров’я, освіта, фінанси тощо. Ці розробки, підтримувані штучним інтелектом, вразливі через численні недоліки штучного інтелекту, які можуть бути використані зловмисниками.

Давайте обговоримо, що експерти штучного інтелекту кажуть про останні розробки та підкреслимо потенційні ризики штучного інтелекту. Ми також коротко розглянемо, як ці ризики можна керувати.

Лідери технологій та їхні побоювання щодо ризиків штучного інтелекту

Джеффрі Гінтон

Джеффрі Гінтон – відомий лідер технологій штучного інтелекту (і “батько” цієї галузі), який недавно покинув Google (GOOGL ), висловив свої побоювання щодо швидкого розвитку штучного інтелекту та його потенційних небезпек. Гінтон вважає, що чат-боти штучного інтелекту можуть стати “дуже страшними”, якщо вони перевершать людський інтелект.

Гінтон каже:

«Зараз ми бачимо речі, такі як GPT-4, які перевершують людину за кількістю загальних знань, і вони перевершують їх на довгу відстань. За здатністю до висновків вони не так хороші, але вони вже можуть робити прості висновки. І враховуючи темп прогресу, ми очікуємо, що речі будуть покращуватися досить швидко. Тому нам потрібно турбуватися про це».

Крім того, він вважає, що “погані актори” можуть використовувати штучний інтелект для “поганих речей”, таких як дозволити роботам мати свої підцілі. Незважаючи на свої побоювання, Гінтон вважає, що штучний інтелект може принести короткострокові вигоди, але нам також потрібно сильно інвестувати в безпеку та контроль штучного інтелекту.

Ілон Маск

Участь Ілона Маска в штучному інтелекті почалася з його ранньої інвестиції в DeepMind у 2010 році, а потім він став співзасновником OpenAI і інтегрував штучний інтелект у автономні транспортні засоби Tesla.

Хоча він є ентузіастом штучного інтелекту, він часто висловлює побоювання щодо ризиків штучного інтелекту. Маск каже, що потужні системи штучного інтелекту можуть бути більш небезпечними для цивілізації, ніж ядерна зброя. У інтерв’ю на Fox News у квітні 2023 року він сказав:

«Штучний інтелект більш небезпечний, ніж, скажімо, погано спроектована авіація або виробництво автомобілів чи погане виробництво. У сенсі того, що він має потенціал – хоч би, наскільки малий цей шанс – але він не тривіальний і має потенціал знищення цивілізації».

Крім того, Маск підтримує державне регулювання штучного інтелекту, щоб забезпечити безпеку від потенційних ризиків, хоча “це не так весело”.

Припинити великі експерименти зі штучним інтелектом: Відкритий лист, підтриманий тисячами експертів зі штучного інтелекту

Future of Life Institute опублікував відкритий лист 22 березня 2023 року. Лист вимагає тимчасової шестимісячної паузи у розробці систем штучного інтелекту, більш просунутих, ніж GPT-4. Автори висловлюють свої побоювання щодо темпу, з яким розробляються системи штучного інтелекту, який створює серйозні соціально-економічні виклики.

Крім того, лист зазначає, що розробники штучного інтелекту повинні працювати з політиками, щоб задокументувати системи управління штучним інтелектом. Станом на червень 2023 року лист був підписаний більш ніж 31 000 розробниками штучного інтелекту, експертами та лідерами технологій. Серед відомих підписантів – Ілон Маск, Стів Возняк (співзасновник Apple (AAPL )), Емад Мостак (генеральний директор Stability AI), Йошуа Бенджіо (лауреат премії Тюрінга) та багато інших.

Аргументи проти зупинки розвитку штучного інтелекту

Два відомі лідери штучного інтелекту, Ендрю Нг та Ян Лекун, висловили свою опозицію щодо шестимісячної заборони на розвиток просунутих систем штучного інтелекту та вважали зупинку поганою ідеєю.

Нг каже, що хоча штучний інтелект має деякі ризики, такі як упередженість, вартість, створена штучним інтелектом у галузях, таких як освіта, охорона здоров’я та тренування, є величезною.

Ян Лекун каже, що дослідження та розвиток не повинні зупинятися, хоча продукти штучного інтелекту, які досягають кінцевого користувача, можуть бути регульовані.

Які потенційні небезпеки та негайні ризики штучного інтелекту?

1. Втрата робочих місць

Експерти штучного інтелекту вважають, що розумні системи штучного інтелекту можуть замінити когнітивні та творчі завдання. Інвестиційний банк Goldman Sachs оцінює, що близько 300 мільйонів робочих місць будуть автоматизовані генеративним штучним інтелектом.

Тому повинні бути регулювання щодо розвитку штучного інтелекту, щоб він не спричинив серйозний економічний спад. Там повинні бути освітні програми для підвищення кваліфікації працівників, щоб вони могли впоратися з цим викликом.

2. Упереджені системи штучного інтелекту

Упередження, які існують серед людей щодо статі, раси чи кольору, можуть непомітно проникнути в дані, використані для навчання систем штучного інтелекту, що робить системи штучного інтелекту упередженими.

Наприклад, у контексті набору персоналу упереджена система штучного інтелекту може відкинути резюме осіб з певних етнічних груп, створюючи дискримінацію на ринку праці. У правоохоронній діяльності упереджена система прогнозування злочинів може непропорційно націлюватися на певні квартали чи демографічні групи.

Тому важливо мати комплексну стратегію даних, яка звертає увагу на ризики штучного інтелекту, особливо упередженість. Системи штучного інтелекту повинні регулярно оцінюватися та аудитуватися, щоб вони залишалися справедливими.

3. Безпекові застосування штучного інтелекту

Автономні транспортні засоби, медична діагностика та лікування, авіаційні системи, системи контролю атомних електростанцій тощо – все це приклади безпекових застосунків штучного інтелекту. Ці системи штучного інтелекту повинні розроблятися обережно, оскільки навіть незначні помилки можуть мати серйозні наслідки для людського життя чи довкілля.

Наприклад, неправильна робота програми штучного інтелекту під назвою Maneuvering Characteristics Augmentation System (MCAS) частково пояснює катастрофу двох Boeing 737 MAX, які відбулися в жовтні 2018 року та березні 2019 року. На жаль, ці дві катастрофи забрали життя 346 людей.

Як ми можемо подолати ризики систем штучного інтелекту? – Відповідальний розвиток штучного інтелекту та нормативна відповідність

Відповідальний штучний інтелект (RAI) означає розробку та розгортання справедливих, підзвітних, прозорих та безпечних систем штучного інтелекту, які забезпечують конфіденційність та дотримання законодавчих регуляцій та соціальних норм. Реалізація RAI може бути складною через широкий і швидкий розвиток систем штучного інтелекту.

Однак великі технологічні компанії розробили рамки RAI, такі як:

1. Відповідальний штучний інтелект Microsoft (MSFT )
2. Принципи штучного інтелекту Google
3. Довірячий штучний інтелект IBM

Лабораторії штучного інтелекту по всьому світу можуть взяти приклад з цих принципів або розробити свої власні рамки відповідального штучного інтелекту, щоб створити надійні системи штучного інтелекту.

Нормативна відповідність штучного інтелекту

Оскільки дані є важливою складовою систем штучного інтелекту, організації та лабораторії, що займаються штучним інтелектом, повинні дотримуватися наступних регуляцій, щоб забезпечити безпеку даних, конфіденційність та безпеку.

1. GDPR (Общий регулятор захисту даних) – рамка захисту даних Європейського Союзу.
2. CCPA (Закон про конфіденційність споживачів Каліфорнії) – законодавство штату Каліфорнія щодо прав на конфіденційність та захисту споживачів.
3. HIPAA (Закон про портативність та підзвітність медичного страхування) – законодавство США, яке захищає медичні дані пацієнтів.
4. Закон ЄС про штучний інтелект, та етичні керівництва щодо довірячого штучного інтелекту – регуляція штучного інтелекту Європейської комісії.

Є різні регіональні та місцеві закони, прийняті різними країнами для захисту своїх громадян. Організації, які не забезпечують нормативну відповідність щодо даних, можуть зазнати серйозних штрафів. Наприклад, GDPR встановила штраф у розмірі 20 мільйонів євро або 4% від річної прибутку за серйозні порушення, такі як незаконна обробка даних, недоведена згодна на обробку даних, порушення прав суб’єктів даних або необезпечена передача даних міжнародній організації.

Розробка штучного інтелекту та регуляції – сучасність та майбутнє

З кожним місяцем розвиток штучного інтелекту досягає безпрецедентних висот. Але супутні регуляції та рамки управління штучним інтелектом відстають. їм потрібно бути більш сильними та конкретними.

Лідери технологій та розробники штучного інтелекту тривожать про ризики штучного інтелекту, якщо він не буде належним чином регульований. Дослідження та розвиток штучного інтелекту можуть принести додаткову цінність у багатьох галузях, але ясно, що тепер потрібне ретельне регулювання.

Для більшої кількості контенту, пов’язаного зі штучним інтелектом, відвідайте unite.ai.