Що означає відхід Джеффрі Гінтона для штучного інтелекту

Відомий дослідник штучного інтелекту, Джеффрі Гінтон, у віці 75 років, недавно прийняв важливе рішення, яке викликало хвилювання в технологічній індустрії. Гінтон вирішив покинути свою посаду в Google (GOOGL ), про що він розповів у заяві для New York Times, згадуючи свою зростаючу тривогу щодо напрямку розвитку генеративного штучного інтелекту як основний фактор.

Британсько-канадський когнітивний психолог і комп’ютерний вчений висловив свою стурбованість щодо потенційних небезпек чат-ботів зі штучним інтелектом, яких він описав як “дуже страшних”. Незважаючи на те, що поточні чат-боти не перевершують людський інтелект, він попередив, що темп прогресу в цій галузі свідчить про те, що вони можуть скоро перевершити нас.

Вклад Гінтона в штучний інтелект, особливо в галузі нейронних мереж і глибокого навчання, відіграв визначальну роль у формуванні сучасних систем штучного інтелекту, таких як ChatGPT. Його робота дозволила штучному інтелекту навчатися з досвіду, подібно до того, як це роблять люди, концепція, відома як глибоке навчання.

Однак, його недавні заяви підкреслили його зростаючу стурбованість щодо потенційного неправильного використання технологій штучного інтелекту. У інтерв’ю з BBC він натякнув на “кошмарний сценарій” “зловмисників”, які можуть використати штучний інтелект для злих цілей, з можливістю появи самозаданих підцілей у автономних системах штучного інтелекту.

Двосічний меч

Імплікації відходу Гінтона з Google є глибокими. Це служить яскравим сигналом для технологічної індустрії, підкреслюючи нагальну потребу у відповідальному технологічному керівництві, яке повністю визнає етичні наслідки та імплікації прогресу штучного інтелекту. Швидкий прогрес штучного інтелекту представляє двосічний меч – хоча він має потенціал суттєво вплинути на суспільство, він також несе значні ризики, які ще не повністю зрозумілі.

Ці побоювання повинні спонукати політиків, лідерів індустрії та академічну спільноту до пошуку делікатного балансу між інноваціями та захистом від теоретичних та нових ризиків, пов’язаних зі штучним інтелектом. Заяви Гінтона підкреслюють важливість глобальної співпраці та пріоритету регуляторних заходів для уникнення потенційної гонки озброєнь у сфері штучного інтелекту.

Під час швидкої еволюції штучного інтелекту технологічні гіганти повинні працювати разом, щоб підвищити контроль, безпеку та етичне використання систем штучного інтелекту. Відповідь Google на відхід Гінтона, як це було висловлено їхнім головним вченим Джеффом Діном, підтверджує їхнє зобов’язання щодо відповідального підходу до штучного інтелекту, постійно працюючи над розумінням та управлінням новими ризиками, одночасно розширюючи межі інновацій.

Під час того, як штучний інтелект проникає в кожен аспект нашого життя, від визначення того, який контент ми споживаємо на потокових платформах, до діагностики медичних станів, потреба у повному регулюванні та заходах безпеки зростає. Підйом штучного інтелекту загального призначення (AGI) додає складності, ведучи нас у добу, коли штучний інтелект можна тренувати для виконання багатьох завдань у встановленому діапазоні.

Темп, з яким штучний інтелект розвивається, здивував навіть його творців, з піонерською нейронною мережею Гінтона для аналізу зображень 2012 року, яка здається майже примітивною порівняно з сучасними системами. Головний виконавчий директор Google Сундар Пічай сам зізнався, що не повністю розуміє все, що може зробити їхній чат-бот штучного інтелекту, Bard.

Зрозуміло, що ми перебуваємо у швидкому потязі прогресу штучного інтелекту. Але як відхід Гінтона нагадує нам, важливо забезпечити, щоб ми не дозволили цьому потягу будувати власні колії. Замість цього ми повинні спрямовувати його рух відповідально, вдумливо та етично.