Лідери у сфері ШІ попереджають про «ризик вимирання»

У добу швидкого технологічного прогресу штучний інтелект (ШІ) займає чільне місце серед інновацій. Однак це саме диво людського інтелекту, яка рухає прогрес і зручність, також викликає екзистенційні побоювання щодо майбутнього людства, як висловили відомі лідери ШІ.

Центр безпеки ШІ недавно опублікував заяву, підтриману піонерами галузі, такими як Сем Альтман з OpenAI, Деміс Хассабіс з Google DeepMind і Даріо Амодей з Anthropic. Позиція чітка: ризик вимирання людства через ШІ має стати глобальним пріоритетом. Твердження викликало дебати в спільноті ШІ, причому деякі відхиляють страхи як перебільшовані, тоді як інші підтримують заклик до обережності.

Жахливі передбачення: потенціал ШІ для катастрофи

Центр безпеки ШІ описує кілька потенційних катастрофічних сценаріїв, що виникають унаслідок неправильного використання або неконтрольованого зростання ШІ. Серед них – озброєння ШІ, дестабілізація суспільства через дезінформацію, створену ШІ, та все більш монопольний контроль над технологією ШІ, що дозволяє проводити всеохопне стеження та репресивну цензуру.

Також згадується сценарій ослаблення, коли люди можуть стати надто залежними від ШІ, подібно до ситуації, зображеної у фільмі “Волл-І”. Ця залежність може зробити людство вразливим, викликаючи серйозні етичні та екзистенційні питання.

Доктор Джеффрі Гінтон, шанована постать у галузі та активний прихильник обережності щодо надінтелектуального ШІ, підтримує попередження Центру, поряд з Йошуа Бенджіо, професором комп’ютерних наук у Монреальському університеті.

Незгодні голоси: дебати щодо потенційної шкоди ШІ

Натомість існує значна частина спільноти ШІ, яка вважає ці попередження перебільшованими. Ян Лекун, професор Нью-Йоркського університету та дослідник ШІ у Meta, висловив своє роздратування цими “апокаліптичними пророцтвами”. Критики стверджують, що такі катастрофічні передбачення відволікають від існуючих проблем ШІ, таких як системна упередженість та етичні міркування.

Арвінд Нараянан, комп’ютерний вчений у Принстонському університеті, припустив, що поточні можливості ШІ далекі від катастрофічних сценаріїв, часто зображуваних. Він підкреслив необхідність зосередитися на безпосередній шкоді, пов’язаній із ШІ.

Аналогічно, Елізабет Реньєріс, старший дослідник у Інституті етики ШІ Оксфордського університету, висловила побоювання щодо ближчих ризиків, таких як упередженість, дискримінаційне прийняття рішень, поширення дезінформації та суспільний розкол внаслідок розвитку ШІ. Спроможність ШІ вивчати контент, створений людьми викликає побоювання щодо передачі багатства та влади від громадськості до кількох приватних підприємств.

Баланс: навігація між поточними проблемами та майбутніми ризиками

Визнаючи розмаїття поглядів, Ден Гендрікс, директор Центру безпеки ШІ, підкреслив, що вирішення поточних проблем може надати дорожню карту для пом’якшення майбутніх ризиків. Мета полягає в тому, щоб знайти баланс між використанням потенціалу ШІ та встановленням заходів безпеки для запобігання його неправильному використанню.

Дебати щодо екзистенційної загрози ШІ не нові. Вони набули імпульсу, коли кілька експертів, включаючи Ілона Маска, підписали відкритий лист у березні 2023 року, закликаючи до зупинки розробки наступного покоління технологій ШІ. Діалог відтоді еволюціонував, причому недавні обговорення порівнюють потенційний ризик з ризиком ядерної війни.

Шлях вперед: пильність та регуляторні заходи

Оскільки ШІ продовжує відігравати усе більш важливу роль у суспільстві, важливо пам’ятати, що ця технологія є двосічним мечем. Вона обіцяє великий прогрес, але також несе екзистенційні ризики, якщо її залишити без контролю. Дискурс щодо потенційної небезпеки ШІ підкреслює необхідність глобальної співпраці у визначенні етичних керівних принципів, створенні надійних заходів безпеки та забезпеченні відповідального підходу до розробки та використання ШІ.