Навігація по дорозі до штучного загального інтелекту (AGI) разом: Балансований підхід

Як штучний загальний інтелект (AGI) швидко розвивається, розмова переходить від філософських дебатів до практичної актуальності, з величезними можливостями трансформувати глобальні бізнеси та людський потенціал.

Turing’s AGI Icons event series збирає разом інноваторів штучного інтелекту, щоб обговорити практичні та відповідальні вдосконалення рішень AGI. 24 липня Turing провів наш другий AGI Icons event у SHACK15, ексклюзивному хабі для підприємців та технологічних інноваторів у Сан-Франциско. Модератором була АнітаРамасвамі, фінансовий колумніст у The Information, я сидів з CEO Quora, Адамом Д’Анджело, щоб обговорити дорогу до AGI та поділитися інсайтами щодо термінів розробки, реальних застосувань та принципів відповідального розгортання.

Дорога від штучного інтелекту до AGI

“Північна зірка”, яка рухає дослідження штучного інтелекту, – це переслідування людського рівня “інтелекту”. Що відрізняє AGI від стандартного штучного інтелекту, так це його просування за межі вузької функціональності до більшої загальності (ширини) та продуктивності (глибини), навіть перевищуючи людські можливості.

Це “дорога до AGI”, де штучний інтелект прогресує до більш автономних систем, вищого рівня розуміння, покращених можливостей та вдосконаленої функціональності. Ці прогресії розбиті на п’ять таксономічних рівнів:

• Рівень 0: Нет штучного інтелекту – Прості інструменти, такі як калькулятори
• Рівень 1: Емерджентний AGI – Поточні LLM, такі як ChatGPT
• Рівень 2: Компетентний AGI – Системи штучного інтелекту, які відповідають кваліфікованим дорослим на конкретних завданнях
• Рівень 3: Експертний AGI – Системи штучного інтелекту на 90-му процентилі кваліфікованих дорослих
• Рівень 4: Віртуозний AGI – Системи штучного інтелекту на 99-му процентилі
• Рівень 5: Надлюдський AGI – Системи штучного інтелекту, які перевершують усіх людей

Джерело

Під час нашої розмови Адам визначив концепцію AGI як “програмне забезпечення, яке може робити все, що може зробити людина”. Він бачить майбутнє, де штучний інтелект покращує себе, в кінцевому підсумку перебираючи на себе складні людські завдання, які обробляються дослідниками машинного навчання.

Відштовхуючись від цього, я порівняв свої погляди на AGI з “штучним мозком”, здатним виконувати різні завдання, такі як “машинний переклад, складні запити та кодування”. Це відмінність між AGI та більш передбачувальними штучним інтелектом та вузькими формами машинного навчання, які передували йому. Це здається емержентною поведінкою.

Реалістичні терміни розробки на дорозі до AGI

Як і на дорозі, питання про AGI – “Чи ми вже там?” Коротка відповідь – ні, але оскільки дослідження штучного інтелекту прискорюється, правильне питання – “Як ми можемо збалансувати амбіції AGI з реалістичними очікуваннями?”

Адам підкреслив, що збільшена автоматизація від AGI змість людські ролі, а не ліквідує їх, що призведе до швидшого економічного зростання та більш ефективної продуктивності. “Як ця технологія стає більш потужною, ми дійдемо до точки, де 90% того, що люди роблять сьогодні, буде автоматизовано, але всі люди перейдуть до інших речей”.

На сьогодні значна частина світової економіки обмежена кількістю людей, які можуть працювати. Як тільки ми досягнемо AGI, ми зможемо зростати економіку набагато швидше, ніж це можливо сьогодні.

Ми не можемо дати остаточний термін реалізації справжнього AGI, але Адам і я процитували кілька випадків прогресу штучного інтелекту, який відкриває шлях для майбутніх прогресій AGI. Наприклад, експерименти Turing з інструментами розробки штучного інтелекту показали збільшення продуктивності розробників на 33%, що свідчить про ще більший потенціал.

Реальні застосування та ефекти

Одним з найбільш перспективних застосувань AGI є область розробки програмного забезпечення. Багатомовні мови (LLM), попередник AGI, вже використовуються для покращення розробки програмного забезпечення та підвищення якості коду. Я бачу цю епоху штучного інтелекту ближче до біології, ніж фізики, де всі види знань покращать продуктивність. Буде так багато більше продуктивності, відкритої для людства.

Мій погляд походить від досвіду, де я став свідком збільшення особистої продуктивності в 10 разів при використанні LLM та інструментів розробки штучного інтелекту. Ми також використовуємо штучний інтелект у Turing для оцінки технічних талантів та підбору відповідних програмістів та експертів до відповідних завдань.

Що я бачу в сфері навчання LLM, наприклад, то тренери використовують ці моделі для покращення продуктивності розробників та прискорення термінів проекту. Автоматизуючи рутинні завдання кодування та надаючи розумні пропозиції коду, LLM звільняють розробників від фокусу на більш стратегічних та творчих аспектах їхньої роботи.

Адам закінчив, “LLM не напишуть весь код, але розуміння основ програмування залишається важливим. Калькулятори не ліквідували потребу вивчати арифметику”. Він додав, “Розробники стають більш цінними при використанні цих моделей. Присутність LLM є позитивом для робіт розробників, і буде багато вигод для розробників”.

Ми вступаємо в золотий вік розробки програмного забезпечення, де один програміст може бути в 10 разів більш продуктивним, створювати більше та приносити користь світу.

Технічні та управлінські виклики

Незважаючи на перспективний потенціал AGI, виклики повинні бути вирішені. Потрібні надійні процеси оцінки та нормативні рамки для балансування інновацій AGI з громадською безпекою.

Адам підкреслив необхідність повного тестування та ізоляції для обмеження найгірших сценаріїв. “Вам потрібно мати якийсь надійний процес оцінки… і отримати розподіл, який ви тестуєте, як можна ближче до реального використання”.

І я погоджуюся. Бутлянка для прогресу AGI зараз людський інтелект, а не обчислювальна потужність чи дані. Людський досвід є важливим для налаштування та налаштування моделей штучного інтелекту, що є причиною, чому Turing фокусується на підборі та поєднанні топових технічних фахівців для балансування моделей з людським інтелектом.

Ми повинні вирішувати виклики AGI прямо, фокусуючись на можливостях над процесами, загальності та продуктивності, а також потенціалі.

Погляди на виклики: Покращення взаємодії людини та AGI

Деякі з кращих практик для вирішення викликів AGI включають:

• Фокус на можливостях або “що може зробити AGI” замість процесів або “як воно робить це”
• Баланс загальності та продуктивності як важливих компонентів AGI
• Фокус на когнітивних/метакогнітивних завданнях та навчальних здібностях над фізичними завданнями/виводами
• Вимірювання AGI його потенціалом та можливостями
• Фокус на екологічній валідності шляхом узгодження бенчмарків з реальними завданнями, які люди цінують
• Пам’ятайте, що шлях до AGI не є єдиною кінцевою точкою, це ітеративний процес

Додавши до цих кращих практик, Адам і я підкреслили важливість покращення взаємодії людини та AGI. Адам підкреслив цінність вивчення того, як і коли використовувати ці моделі, розглядаючи їх як потужні інструменти навчання, які можуть швидко викладати будь-яку піддоменну програму, підкреслюючи важливість розуміння основ.

Аналогічно, я пропоную, що зробити кожного людини потужним користувачем LLM може суттєво покращити продуктивність та розуміння в різних галузях. LLM можуть зробити складну інформацію доступною всім, покращуючи продуктивність у різних галузях. Але це вимагає фазового, ітеративного підходу: починаючи з копілотів штучного інтелекту, які допомагають людям, потім переходячи до агентів з наглядом людини та в кінцевому підсумку до повністю автономних агентів у добре оцінених завданнях.

З цим, пост-тренінгова диференціація є критичною, включаючи нагляду за тонким налаштуванням (SFT) та використання людського інтелекту для створення спеціальних моделей. Компанії, які можуть підібрати та поєднати тренерів, інженерів та інших, прискорять свої можливості тонкого налаштування та спеціального інжинірингу. Співпраця з провідними компаніями, такими як OpenAI та Anthropic, також є ключовим для застосування цих моделей у різних галузях.

Принципи відповідального розвитку AGI

“Розвиток AGI повинен бути відповідальним та етичним, забезпечуючи безпеку та прозорість при сприянні інноваціям”. – Адам Д’Анджело

Відповідальний розвиток AGI вимагає дотримання кількох основних принципів:

• Безпека та безпека: Забезпечення того, щоб системи AGI були надійними та стійкими до зловживання, особливо коли моделі масштабуються для розміщення нових даних або алгоритмів
• Прозорість: Бути реалістичним щодо можливостей AGI, обмежень та “як воно працює”
• Етичні розгляди: Вирішення питань справедливості, упередженості та того, як AGI вплине на зайнятість та інші соціально-економічні фактори
• Регулювання: Робота з урядами та іншими організаціями для розробки рамок балансування прогресу з громадською безпекою
• Бенчмаркінг: Майбутні бенчмарки повинні кількісно оцінювати поведінку та можливості AGI щодо етичних розглядов та taksonомічних рівнів

Висновок: Фокус на дорозі до AGI, а не на єдиній кінцевій точці

Дорога до AGI є складною, але кожна зупинка на цьому шляху важлива для подорожі. Розуміючи ітеративні вдосконалення AGI, а також їхні наслідки, люди та бізнес зможуть відповідально прийняти цю еволюційну технологію. Це є суть відповідального розвитку AGI, де реальна взаємодія інформує про те, як ми навігаємо цю нову межу.