Моделі та платформи ШІ
Лідери технологій підкреслюють ризики штучного інтелекту та нагальну потребу у суворому регулюванні штучного інтелекту
Ключові моментиТехнологічні лідери попереджають, що перевищення штучним інтелектом людського розуму…
Показати більше
- Технологічні лідери попереджають, що перевищення штучним інтелектом людського розуму несе екзистенційні ризики, що вимагають термінових інвестицій у безпеку.
- Понад 300 мільйонів робочих місць опиняться під загрозою автоматизації через генеративний ШІ, що вимагає масштабних програм перепідготовки робочої сили.
- Упереджені системи ШІ можуть увічнювати дискримінацію в наймі та правоохоронній діяльності без ретельного аудиту.
Ріст і розвиток штучного інтелекту були експоненційними за останні кілька років. За даними Statista, до 2024 року світовий ринок штучного інтелекту генеруватиме доходи близько 3000 мільярдів доларів, порівняно з 126 мільярдами доларів у 2015 році. Однак лідери технологій тепер попереджають нас про різні ризики штучного інтелекту.
Особливо, недавня хвиля генеративних моделей штучного інтелекту типу ChatGPT ввела нові можливості у різних галузях, які працюють із чутливими даними, таких як охорона здоров’я, освіта, фінанси тощо. Ці розробки, підтримувані штучним інтелектом, вразливі через численні недоліки штучного інтелекту, які можуть бути використані зловмисниками.
Давайте обговоримо, що експерти штучного інтелекту кажуть про останні розробки та підкреслимо потенційні ризики штучного інтелекту. Ми також коротко розглянемо, як можна керувати цими ризиками.
Лідери технологій та їхні побоювання щодо ризиків штучного інтелекту
Джеффрі Гінтон
Джеффрі Гінтон – відомий лідер технологій штучного інтелекту (і “батько” цієї галузі), який недавно покинув Google (GOOGL ), висловив свої побоювання щодо швидкого розвитку штучного інтелекту та його потенційних небезпек. Гінтон вважає, що чат-боти штучного інтелекту можуть стати “дуже страшними”, якщо вони перевершать людський інтелект.
Гінтон каже:
«Зараз ми бачимо, що системи на кшталт GPT-4 значно перевершують людину за обсягом загальних знань. У міркуванні вони ще не такі вправні, але вже здатні робити прості висновки. З огляду на темп прогресу ми очікуємо досить швидкого покращення. Тому нам слід цим перейматися».
Крім того, він вважає, що “зловмисники” можуть використовувати штучний інтелект для “поганих речей”, таких як дозволити роботам мати свої підцілі. Незважаючи на свої побоювання, Гінтон вважає, що штучний інтелект може принести короткострокові вигоди, але нам також потрібно значно інвестувати в безпеку та контроль штучного інтелекту.
Ілон Маск
Участь Ілона Маска в штучному інтелекті почалася з його ранньої інвестиції в DeepMind у 2010 році, а потім він став співзасновником OpenAI і інтегрував штучний інтелект у автономні транспортні засоби Tesla.
Хоча він є ентузіастом штучного інтелекту, він часто висловлює побоювання щодо ризиків штучного інтелекту. Маск каже, що потужні системи штучного інтелекту можуть бути більш небезпечними для цивілізації, ніж ядерна зброя. У інтерв’ю на Fox News у квітні 2023 року він сказав:
«Штучний інтелект небезпечніший, ніж, скажімо, неналежно організоване проєктування літаків, їхнє виробництво чи технічне обслуговування або погане виробництво автомобілів. Він має потенціал знищити цивілізацію — хай якою малою хтось вважає цю ймовірність, вона не є незначною».
Крім того, Маск підтримує державне регулювання штучного інтелекту, щоб забезпечити безпеку від потенційних ризиків, хоча “це не так весело”.
Припинити великі експерименти зі штучним інтелектом: Відкритий лист, підтриманий тисячами експертів зі штучного інтелекту
Future of Life Institute опублікував відкритий лист 22 березня 2023 року. Лист вимагає тимчасової шестимісячної паузи у розробці систем штучного інтелекту, більш просунутих, ніж GPT-4. Автори висловлюють свої побоювання щодо темпу, з яким розробляються системи штучного інтелекту, який створює серйозні соціально-економічні виклики.
Крім того, лист зазначає, що розробники штучного інтелекту повинні працювати з політиками, щоб задокументувати системи управління штучним інтелектом. Станом на червень 2023 року лист був підписаний більш ніж 31 000 розробниками штучного інтелекту, експертами та лідерами технологій. Серед відомих підписантів – Ілон Маск, Стів Возняк (співзасновник Apple (AAPL )), Емад Мостак (генеральний директор Stability AI), Йошуа Бенджіо (лауреат премії Тюрінга) та багато інших.
Аргументи проти зупинки розвитку штучного інтелекту
Два відомі лідери штучного інтелекту, Ендрю Нг та Ян Лекун, висловили свою опозицію щодо шестимісячної заборони на розвиток просунутих систем штучного інтелекту та вважали зупинку поганою ідеєю.
Нг каже, що, хоча штучний інтелект має ризики, як-от упередженість і концентрація влади, цінність, яку він створює в освіті, охороні здоров’я та індивідуальному наставництві, що реагує на потреби людини, є величезною.
Ян Лекун каже, що дослідження та розвиток не повинні зупинятися, хоча продукти штучного інтелекту, які досягають кінцевого користувача, можуть бути регульовані.
Які потенційні небезпеки та негайні ризики штучного інтелекту?

1. Втрата робочих місць
Експерти штучного інтелекту вважають, що розумні системи штучного інтелекту можуть замінити когнітивні та творчі завдання. Інвестиційний банк Goldman Sachs (GS ) оцінює, що близько 300 мільйонів робочих місць будуть автоматизовані генеративним штучним інтелектом.
Тому повинні бути регулювання щодо розвитку штучного інтелекту, щоб він не спричинив серйозний економічний спад. Мають існувати освітні програми для підвищення кваліфікації та перекваліфікації працівників, щоб вони могли впоратися з цим викликом.
2. Упереджені системи штучного інтелекту
Упередження, які існують серед людей щодо статі, раси чи кольору шкіри, можуть непомітно проникнути в дані, використані для навчання систем штучного інтелекту, що робить системи штучного інтелекту упередженими.
Наприклад, у контексті набору персоналу упереджена система штучного інтелекту може відкинути резюме осіб з певних етнічних груп, створюючи дискримінацію на ринку праці. У правоохоронній діяльності упереджена система прогнозування злочинів може непропорційно націлюватися на певні квартали чи демографічні групи.
Тому важливо мати комплексну стратегію даних, яка звертає увагу на ризики штучного інтелекту, особливо упередженість. Системи штучного інтелекту повинні регулярно оцінюватися та аудитуватися, щоб вони залишалися справедливими.
3. Застосування штучного інтелекту, критичні для безпеки
Автономні транспортні засоби, медична діагностика та лікування, авіаційні системи, системи контролю атомних електростанцій тощо – все це приклади застосувань штучного інтелекту, критичних для безпеки. Ці системи штучного інтелекту повинні розроблятися обережно, оскільки навіть незначні помилки можуть мати серйозні наслідки для людського життя чи довкілля.
Наприклад, неправильна робота програми штучного інтелекту під назвою Maneuvering Characteristics Augmentation System (MCAS) вважається однією з причин катастроф двох Boeing 737 MAX, що сталися в жовтні 2018 року та березні 2019 року. На жаль, ці дві катастрофи забрали життя 346 людей.
Як ми можемо подолати ризики систем штучного інтелекту? – Відповідальний розвиток штучного інтелекту та нормативна відповідність

Відповідальний штучний інтелект (RAI) означає розробку та розгортання справедливих, підзвітних, прозорих та безпечних систем штучного інтелекту, які забезпечують конфіденційність та дотримання законодавчих регуляцій та соціальних норм. Реалізація RAI може бути складною через широкий і швидкий розвиток систем штучного інтелекту.
Однак великі технологічні компанії розробили рамки RAI, такі як:
- Відповідальний штучний інтелект Microsoft
- Принципи штучного інтелекту Google
- Надійний штучний інтелект IBM
Лабораторії штучного інтелекту по всьому світу можуть взяти приклад з цих принципів або розробити свої власні рамки відповідального штучного інтелекту, щоб створити надійні системи штучного інтелекту.
Нормативна відповідність штучного інтелекту
Оскільки дані є важливою складовою систем штучного інтелекту, організації та лабораторії, що займаються штучним інтелектом, повинні дотримуватися наступних регуляцій, щоб забезпечити безпеку даних, конфіденційність та безпеку.
- GDPR (Загальний регламент про захист даних) – рамка захисту даних Європейського Союзу.
- CCPA (Закон про конфіденційність споживачів Каліфорнії) – законодавство штату Каліфорнія щодо прав на конфіденційність та захисту споживачів.
- HIPAA (Закон про переносимість і підзвітність медичного страхування) – законодавство США, яке захищає медичні дані пацієнтів.
- Закон ЄС про штучний інтелект, та етичні настанови щодо надійного штучного інтелекту – регуляція штучного інтелекту Європейської комісії.
Є різні регіональні та місцеві закони, прийняті різними країнами для захисту своїх громадян. Організації, які не забезпечують нормативну відповідність щодо даних, можуть зазнати серйозних штрафів. Наприклад, GDPR встановлює штраф у розмірі 20 мільйонів євро або 4% від річного прибутку за серйозні порушення, такі як незаконна обробка даних, непідтверджена згода на обробку даних, порушення прав суб’єктів даних або незахищена передача даних міжнародній організації.
Розробка штучного інтелекту та регуляції – сучасність та майбутнє
З кожним місяцем розвиток штучного інтелекту досягає безпрецедентних висот. Але супутні регуляції та рамки управління штучним інтелектом відстають. Вони мають бути надійнішими та конкретнішими.
Лідери технологій та розробники штучного інтелекту б’ють на сполох щодо ризиків штучного інтелекту, якщо він не буде належним чином регульований. Дослідження та розвиток штучного інтелекту можуть принести додаткову цінність у багатьох галузях, але ясно, що тепер потрібне ретельне регулювання.
Для більшої кількості контенту, пов’язаного зі штучним інтелектом, відвідайте unite.ai.












