Штучний інтелект і боротьба з технофобією

Коли мова йде про Генеративний Штучний Інтелект і Великі Моделі Мови, як ChatGPT, ентузіазм щодо штучного інтелекту змішується з технофобією. Це природно для загальної громадськості: їм подобаються нові цікаві речі, але вони бояться невідомого. Нова справа в тому, що кілька відомих вчених стали самі техноскептиками, якщо не технофобами. Прикладом цього можуть бути випадки, коли вчені та промисловці просили шестимісячну заборону на дослідження штучного інтелекту, або скептицизм провідного спеціаліста з штучного інтелекту проф. А. Хінтона. Єдиним історично подібним прикладом, який мені спадає на думку, є критику атомних і ядерних бомб частиною наукової спільноти під час холодної війни. На щастя, людству вдалося задовільно впоратися з цими проблемами.

Звичайно, кожному має право ставити під сумнів сучасний стан справ у сфері штучного інтелекту:

• Ніхто не знає, чому Великі Моделі Мови працюють так добре і чи мають вони межу.
• Багато небезпек, які створюють “бомби штучного інтелекту”, особливо якщо держави залишаються пасивними спостерігачами щодо регулювання.

Це законні побоювання, які підігрівають страх перед невідомим, навіть серед відомих вчених. Адже вони самі є людьми.

Але чи можна зупинити дослідження штучного інтелекту, хоча б тимчасово? На мою думку, ні, оскільки штучний інтелект є відповіддю людства на глобальне суспільство і фізичний світ, що постійно зростає у складності. Оскільки процеси зростання фізичної і соціальної складності дуже глибокі і, здавалося б, невпинні, штучний інтелект і громадянська трансформація є нашою єдиною надією на безпроблемний перехід від сучасного Інформаційного суспільства до Спільноти знань. Інакше ми можемо зіткнутися з катастрофічним соціальним імплозією.

Рішенням є поглиблення нашого розуміння досягнень штучного інтелекту, прискорення його розвитку, регулювання його використання з метою максимізації позитивного впливу, а також мінімізації вже очевидних і прихованих негативних наслідків. Дослідження штучного інтелекту можуть і повинні стати іншими: більш відкритими, демократичними, науковими і етичними. Ось запропонований перелік пунктів для цього:

• Перше слово щодо важливих питань дослідження штучного інтелекту, які мають далекосяжний соціальний вплив, повинно бути делеговано обраним парламентам і урядам, а не корпораціям або окремим вченим.
• Кожна зусилля повинно бути спрямовано на полегшення дослідження позитивних аспектів штучного інтелекту в соціальному і фінансовому прогресі та мінімізацію його негативних аспектів.
• Позитивний вплив систем штучного інтелекту може значно переважити їх негативні аспекти, якщо будуть прийняті належні регуляторні заходи. Технофобія не виправдана і не є розв’язанням.
• На мою думку, найбільша поточна загроза походить від того, що такі системи штучного інтелекту можуть дистанційно обманути багатьох звичайних людей, які мають мало (або середнє) освіту і/або мало розслідувальної здатності. Це може бути дуже небезпечно для демократії і будь-якої форми соціально-економічного прогресу.
• У найближчому майбутньому нам слід протидіяти великої загрозі, що походить від використання Великих Моделей Мови і/або інших систем штучного інтелекту в незаконних діяльності (обман у університетських іспитах є досить безневинним застосуванням у порівнянні з іншими можливостями).
• Їхній вплив на працю і ринки буде дуже позитивним у середньостроковій перспективі.
• У світлі вищезазначеного системи штучного інтелекту повинні: а) реєструватися в реєстрі систем штучного інтелекту згідно з міжнародним законом, і б) повідомляти своїх користувачів про те, що вони спілкуються або використовують результати системи штучного інтелекту.
• Оскільки системи штучного інтелекту мають великий соціальний вплив, і для максимізації вигоди та соціально-економічного прогресу, передові ключові технології систем штучного інтелекту повинні стати відкритими.
• Дані, пов’язані з штучним інтелектом, повинні бути (хоча б частково) демократизовані, знову ж таки для максимізації вигоди та соціально-економічного прогресу.
• Потрібно передбачити належні фінансові компенсаційні схеми для чемпіонів технологій штучного інтелекту, щоб компенсувати будь-які втрати прибутку через вищезазначену відкритість і забезпечити сильні майбутні інвестиції в дослідження та розвиток штучного інтелекту (наприклад, через патентування технологій, обов’язкові ліцензійні схеми).
• Баланс досліджень штучного інтелекту між академічними колами і промисловістю повинен бути переосмислений для максимізації результатів досліджень, збереження конкурентоспроможності та забезпечення винагород за прийняті ризики щодо досліджень і розробок.
• Практики освіти повинні бути переглянуті на всіх рівнях освіти для максимізації вигоди від технологій штучного інтелекту, а також для створення нового типу творчих і адаптивних громадян та вчених.
• Потрібно створити і посилити належні регуляторні, наглядові та фінансові механізми для забезпечення вищезазначеного.

Деякі з цих пунктів розглянуті детально в моїй недавній 4-томній книзі про «Науку штучного інтелекту та суспільство», особливо в томах А (переписаних у травні 2023 року для охоплення Великих Моделей Мови і штучного інтелекту загального призначення) і С.

Посилання на книги:

Штучний інтелект, наука і суспільство. Частина А: Введення в науку штучного інтелекту та інформаційні технології

Штучний інтелект, наука і суспільство. Частина С: Наука штучного інтелекту та суспільство