ШІ та боротьба з технофобією

Що стосується генеративного штучного інтелекту та великих мовних моделей, таких як ChatGPT. Ентузіазм ШІ змішується з технофобією. Це природно для широкої публіки: їм подобається нове захоплююче, але вони бояться невідомого. Новим є те, що кілька видатних учених самі стали техноскептиками, якщо не технофобами. Випадок із вченими та промисловцями, які вимагали шестимісячної заборони на дослідження штучного інтелекту, або скептицизм провідного вченого професора А. Хінтона є такими прикладами. Єдиний пов’язаний історичний еквівалент, який я можу пригадати, це критика атомних і ядерних бомб частиною наукової спільноти під час холодної війни. На щастя, людству вдалося вирішити ці проблеми досить задовільним чином.

Звичайно, кожен має право поставити під сумнів поточний стан справ ШІ:

• Ніхто не знає, чому великі мовні моделі працюють так добре і чи є у них обмеження.
• Чимало небезпек, які зловмисники створюють «штучні бомби», підстерігають, особливо якщо штати залишаються пасивними спостерігачами з точки зору правил.

Це законне занепокоєння, яке підживлює страх перед невідомим навіть у видатних учених. Адже вони самі люди.

Однак чи можуть дослідження ШІ припинитися навіть тимчасово? На мою думку, ні, оскільки штучний інтелект є відповіддю людства на глобальне суспільство та фізичний світ дедалі більшої складності. Оскільки процеси збільшення фізичної та соціальної складності є дуже глибокими та здаються невпинними, штучний інтелект та морфоз громадян є нашою єдиною надією на плавний перехід від нинішнього інформаційного суспільства до суспільства знань. Інакше ми можемо зіткнутися з катастрофічним соціальним крахом.

Рішення полягає в тому, щоб поглибити наше розуміння досягнень штучного інтелекту, прискорити його розвиток, регулювати його використання для максимізації його позитивного впливу, одночасно мінімізуючи вже очевидні та інші приховані негативні ефекти. Дослідження ШІ можуть і повинні стати іншими: більш відкритими, демократичними, науковими та етичними. Ось запропонований список пунктів для цього:

• Перше слово щодо важливих досліджень штучного інтелекту, які мають далекосяжний соціальний вплив, слід делегувати обраним парламентам і урядам, а не корпораціям чи окремим науковцям.
• Слід докласти всіх зусиль, щоб сприяти дослідженню позитивних аспектів штучного інтелекту в соціальному та фінансовому прогресі та мінімізувати його негативні аспекти.
• Позитивний вплив систем штучного інтелекту може значно переважити їхні негативні аспекти, якщо вжити належних регуляторних заходів. Технофобія не є ні виправданою, ні рішенням.
• На мій погляд, найбільша поточна загроза походить від того факту, що такі системи штучного інтелекту можуть дистанційно вводити в оману занадто багато простих людей, які мають низьку (або середню) освіту та/або низькі можливості для розслідування. Це може бути надзвичайно небезпечним для демократії та будь-якої форми соціально-економічного прогресу.
• Найближчим часом ми маємо протистояти великій загрозі, що виходить від використання LLM та/або CAN у незаконній діяльності (списування на іспитах до університету є досить м’яким використанням у просторі відповідних кримінальних можливостей).
• Їхній вплив на працю та ринки буде дуже позитивним у середньостроковій перспективі.
• З огляду на вищезазначене, системи штучного інтелекту повинні: а) вимагатися від міжнародного права реєстрації в «системному реєстрі штучного інтелекту» та б) повідомляти своїх користувачів про те, що вони спілкуються з системою штучного інтелекту або використовують її результати.
• Оскільки системи штучного інтелекту мають величезний вплив на суспільство, а також для отримання максимальної вигоди та соціально-економічного прогресу, передові ключові системні технології штучного інтелекту повинні стати відкритими.
• Дані, пов’язані зі штучним інтелектом, повинні бути (принаймні частково) демократизовані, знову ж таки в напрямку максимізації вигоди та соціально-економічного прогресу.
• Необхідно передбачити належні потужні схеми фінансової компенсації для лідерів технологій штучного інтелекту, щоб компенсувати будь-які втрати прибутку через вищезазначену відкритість і забезпечити значні майбутні інвестиції в дослідження та розробки штучного інтелекту (наприклад, через патентування технології, схеми обов’язкового ліцензування).
• Необхідно переглянути баланс досліджень штучного інтелекту між науковими колами та промисловістю, щоб максимізувати результат досліджень, зберігаючи при цьому конкурентоспроможність і виплачуючи винагороди за взяті ризики в галузі досліджень і розробок.
• Освітню практику слід переглянути на всіх рівнях освіти, щоб максимізувати переваги технологій штучного інтелекту, водночас створюючи нову породу творчих і адаптованих громадян і науковців (ШІ).
• Для забезпечення вищезазначеного слід створити та посилити належні механізми регулювання/нагляду/фінансування ШІ.

Декілька таких моментів детально розглядаються в моїй недавній 4-томній книзі «ШІ-наука та суспільство», зокрема в томах A (переписаних у травні 2023 року, щоб охопити магістратуру та загальний штучний інтелект) і C.

Посилання на книги:

Наука про штучний інтелект і суспільство. Частина A: Вступ до науки та інформаційних технологій ШІ

Штучний інтелект. Наука та суспільство. Частина C: ШІ. Наука та суспільство