Лідери штучного інтелекту попереджають про “рік загибелі”

У добу швидкого технологічного прогресу штучний інтелект (ШІ) займає чільне місце серед інновацій. Однак ця ж сама чудова річ людського інтелекту, яка рухає прогрес і зручність, також викликає екзистенційні побоювання щодо майбутнього людства, як висловили відомі лідери ШІ.

Центр безпеки ШІ недавно опублікував заяву, підтриману промисловими піонерами, такими як Сем Альтман з OpenAI, Деміс Хассабіс з Google DeepMind і Даріо Амодей з Anthropic. Сентимент ясний – майбутня загроза людства через ШІ повинна бути глобальною пріоритетністю. Твердження викликало дебати в спільноті ШІ, причому деякі відхиляють страхи як перебільшовані, тоді як інші підтримують заклик до обережності.

Жахливі передбачення: потенціал ШІ для катастрофи

Центр безпеки ШІ описує кілька потенційних катастрофічних сценаріїв, що виникають унаслідок неправильного використання або неконтрольованого зростання ШІ. Серед них – озброєння ШІ, дестабілізація суспільства через дезінформацію, створену ШІ, та все більш монопольний контроль над технологією ШІ, що дозволяє проводити тотальну нагляд та цензуру.

Також згадується сценарій ослаблення, коли люди можуть стати надто залежними від ШІ, подібно до ситуації, зображеної у фільмі “Волл-І”. Ця залежність може зробити людство вразливим, викликаючи серйозні етичні та екзистенційні питання.

Доктор Джеффрі Гінтон, шанована постать у галузі та голосний адвокат обережності щодо надінтелектуального ШІ, підтримує попередження Центру, поряд з Йошуа Бенджіо, професором комп’ютерних наук у Монреальському університеті.

Відмінні голоси: дебати щодо потенційної шкоди ШІ

Натомість існує значна частина спільноти ШІ, яка вважає ці попередження перебільшованими. Ян Лекун, професор Нью-Йоркського університету та дослідник ШІ у Meta, висловив свою розчарування цими “апокаліптичними пророцтвами”. Критики стверджують, що такі катастрофічні передбачення відволікають від існуючих проблем ШІ, таких як системна упередженість та етичні розгляди.

Арвінд Нараянан, комп’ютерний вчений у Принстонському університеті, припустив, що поточні можливості ШІ значно відстоюють від катастрофічних сценаріїв, часто зображуваних. Він підкреслив необхідність зосередитися на існуючих шкідливих діях ШІ.

Аналогічно, Елізабет Реньєріс, старший дослідник у Інституті етики ШІ Оксфордського університету, висловила побоювання щодо ближчих ризиків, таких як упередженість, дискримінаційне прийняття рішень, поширення дезінформації та соціальна розділка внаслідок розвитку ШІ. Спроможність ШІ вивчати людські створені дані викликає побоювання щодо передачі багатства та влади від громадськості до кількох приватних підприємств.

Баланс: навігація між поточними проблемами та майбутніми ризиками

Визнаючи розмаїття поглядів, Ден Гендрікс, директор Центру безпеки ШІ, підкреслив, що вирішення поточних проблем може надати карту для пом’якшення майбутніх ризиків. Мета полягає в тому, щоб знайти баланс між використанням потенціалу ШІ та встановленням заходів безпеки для запобігання його неправильному використанню.

Дебати щодо екзистенційної загрози ШІ не нові. Вони набули імпульсу, коли кілька експертів, включаючи Ілона Маска, підписали відкритий лист у березні 2023 року, закликаючи до зупинки розробки наступного покоління технологій ШІ. Діалог відтоді еволюціонував, причому недавні обговорення порівнюють потенційний ризик з ризиком ядерної війни.

Шлях вперед: пильність та регуляторні заходи

Оскільки ШІ продовжує відігравати усе більш важливу роль у суспільстві, важливо пам’ятати, що ця технологія є двосічний меч. Вона обіцяє великий прогрес, але також несе екзистенційні ризики, якщо залишається неконтрольованим. Дискурс щодо потенційної небезпеки ШІ підкреслює необхідність глобальної співпраці у визначенні етичних керівних принципів, створенні надійних заходів безпеки та забезпечення відповідального підходу до розробки та використання ШІ.