Навігація по шляху до штучного загального інтелекту (AGI) разом: збалансований підхід

Як штучний загальний інтелект (AGI) швидко розвивається, розмова переходить від філософських дебатів до практичної актуальності, з величезними можливостями трансформувати глобальні бізнеси та людський потенціал.

Серія заходів AGI Icons від Turing збирає разом інноваторів штучного інтелекту, щоб обговорити практичні та відповідальні досягнення рішень AGI. 24 липня Turing провів наш другий захід AGI Icons у SHACK15, ексклюзивному хабі для підприємців та технологічних інноваторів у Сан-Франциско. Модератором була Анита Рамасвамі, фінансовий колумніст у The Information, я сидів з генеральним директором Quora Адамом Д’Анджело, щоб обговорити шлях до AGI та поділитися інсайтами щодо термінів розробки, реальних застосувань та принципів відповідального розгортання.

Шлях від штучного інтелекту до AGI

“Полярна зірка”, яка рухає дослідження штучного інтелекту, – це переслідування людського рівня “інтелекту”. Те, що відрізняє AGI від стандартного штучного інтелекту, – це його прогресія за межі вузької функціональності до більшої загальності (ширини) та продуктивності (глибини), навіть перевершуючи людські можливості.

Це “шлях до AGI”, де штучний інтелект прогресує до більш автономних систем, вищого рівня розуміння, покращених можливостей та поліпшеної функціональності. Ці прогресії розбиваються на п’ять таксономічних рівнів:

• Рівень 0: Нет штучного інтелекту – Прості інструменти, такі як калькулятори
• Рівень 1: Емерджентний AGI – Поточні великі мови моделі, такі як ChatGPT
• Рівень 2: Компетентний AGI – Системи штучного інтелекту, які відповідають кваліфікованим дорослим на конкретних завданнях
• Рівень 3: Експертний AGI – Системи штучного інтелекту на 90-му процентилі кваліфікованих дорослих
• Рівень 4: Віртуозний AGI – Системи штучного інтелекту на 99-му процентилі
• Рівень 5: Надлюдський AGI – Системи штучного інтелекту, які перевершують усіх людей

Джерело

Під час нашої розмови Адам визначив концепцію AGI як “програмне забезпечення, яке може робити все, що може людина”. Він бачить майбутнє, де штучний інтелект покращує себе, в кінцевому підсумку беручи на себе складні завдання людини, які зараз виконуються дослідниками машинного навчання.

Відштовхуючись від цього, я порівняв свої погляди на AGI з “штучним мозком”, здатним виконувати різні завдання, такі як “машинний переклад, складні запити та кодування”. Це відмінність між AGI та більш передбачуваним штучним інтелектом та вузькими формами машинного навчання, які передували йому. Це здається емерджентним поведінкою.

Реалістичні терміни розробки на шляху до AGI

Як і на дорозі, питання про AGI – “Чи ми вже там?” Коротка відповідь – ні, але оскільки дослідження штучного інтелекту прискорюються, правильне питання – “Як ми можемо збалансувати амбіції AGI з реалістичними очікуваннями?”

Адам підкреслив, що збільшена автоматизація з AGI змість людські ролі, а не ліквідує їх, що призведе до швидшого економічного зростання та більш ефективної продуктивності. “Коли ця технологія стане більш потужною, ми дійдемо до точки, де 90% того, що люди роблять сьогодні, буде автоматизовано, але всі люди перейдуть до інших речей”.

Наразі більша частина світової економіки обмежена кількістю людей, які можуть працювати. Як тільки ми досягнемо AGI, ми зможемо зростати економіку набагато швидше, ніж це можливо сьогодні.

Ми не можемо дати остаточний термін реалізації справжнього AGI, але Адам і я навели кілька прикладів досягнень штучного інтелекту, які відкриють шлях для майбутніх прогресій AGI. Наприклад, експерименти Turing з інструментами розробника штучного інтелекту показали збільшення продуктивності розробників на 33%, що свідчить про ще більший потенціал.

Реальні застосування та ефекти

Одним з найперспективніших застосувань AGI є область розробки програмного забезпечення. Великі мови моделі (LLM), попередник AGI, вже використовуються для покращення розробки програмного забезпечення та提高 якості коду. Я бачу цю епоху штучного інтелекту ближчою до біології, ніж фізики, де всі види знань покращать. Буде розблоковано так багато більшої продуктивності для людства.

Мій погляд ґрунтується на досвіді, де я став свідком 10-разового збільшення особистої продуктивності при використанні LLM та інструментів розробника штучного інтелекту. Ми також використовуємо штучний інтелект у Turing для оцінки технічних талантів та підбору відповідних програмістів та експертів до відповідних робіт.

Що я бачу в сфері навчання LLM, наприклад, те, що тренери використовують ці моделі для підвищення продуктивності розробників та прискорення термінів проектів. Автоматизуючи рутинні завдання кодування та надаючи розумні пропозиції коду, LLM звільняють розробників від фокусу на більш стратегічних та творчих аспектах своєї роботи.

Адам підсумував: “LLM не напишуть весь код, але розуміння основ програмування залишається важливим. Калькулятори не ліквідували необхідність вивчати арифметику”. Він додав: “Розробники стають більш цінними при використанні цих моделей. Присутність LLM є позитивом для робочих місць розробників, і буде багато вигод для розробників”.

Ми вступаємо в золотий вік розробки програмного забезпечення, де один програміст може бути в 10 разів більш продуктивним, створювати більше та приносити користь світу.

Технічні та управлінські виклики

Незважаючи на перспективний потенціал AGI, потрібно вирішити виклики. Потрібні надійні процеси оцінки та нормативні рамки для балансування інновацій AGI з громадською безпекою.

Адам підкреслив необхідність повного тестування та ізоляції для обмеження найгірших сценаріїв. “Вам потрібно мати якийсь надійний процес оцінки… і отримати розподіл, проти якого ви тестуєте, якомога ближче до реального використання”.

І я погоджуюся. Бутлянка для прогресу AGI зараз людський інтелект, а не обчислювальна потужність чи дані. Людський досвід є важливим для налаштування та налаштування моделей штучного інтелекту, тому Turing зосереджується на підборі та підборі топових технічних фахівців для балансування моделей з людським інтелектом.

Ми повинні вирішити виклики AGI прямо, зосереджуючись на можливостях над процесами, загальності та продуктивності, а також потенціалі.

Перспективи на виклики: покращення взаємодії людини та AGI

Деякі з найкращих практик для вирішення викликів AGI включають:

• Зосередження уваги на можливостях або “що може зробити AGI”, а не на процесах або “як воно робить це”.
• Баланс загальності та продуктивності як важливих компонентів AGI.
• Зосередження уваги на когнітивних/метакогнітивних завданнях та навчальних можливостях над фізичними завданнями/виводами.
• Вимірювання AGI його потенціалом та можливостями.
• Зосередження уваги на екологічній валідності шляхом впровадження бенчмарків з реальними завданнями, які люди цінують.
• Пам’ятайте, що шлях до AGI не єдина кінцева точка, а ітеративний процес.

Додатково до цих найкращих практик Адам і я підкреслили важливість покращення взаємодії людини та AGI. Адам підкреслив цінність вивчення того, як і коли використовувати ці моделі, розглядаючи їх як потужні інструменти навчання, які можуть швидко викладати будь-яку піддомен програмування, підкреслюючи важливість розуміння основ.

Подібно, я пропоную, що зробити кожного людини потужним користувачем LLM може суттєво підвищити продуктивність та розуміння в різних галузях. LLM можуть зробити складну інформацію доступною всім, підвищуючи продуктивність у різних галузях. Але це вимагає фазового, ітеративного підходу: починаючи з штучного інтелекту-копілота, який допомагає людям, потім переходячи до агентів з наглядом людини та в кінцевому підсумку до повністю автономних агентів у добре оцінених завданнях.

З цим, пост-тренувальна диференціація є критичною, включаючи нагляду за тонким налаштуванням (SFT) та використання людського інтелекту для створення спеціальних моделей. Компанії, які можуть підібрати тренерів, інженерів та інших, прискорять свої можливості тонкого налаштування та спеціального інжинірингу. Співпраця з провідними компаніями, такими як OpenAI та Anthropic, також є ключовим для застосування цих моделей у різних галузях.

Принципи відповідального розвитку AGI

“Розвиток AGI повинен бути відповідальним та етичним, забезпечуючи безпеку та прозорість при сприянні інноваціям.” – Адам Д’Анджело

Відповідальний розвиток AGI вимагає дотримання кількох основних принципів:

• Безпека та безпека: забезпечення того, щоб системи AGI були надійними та стійкими до зловживання, особливо коли моделі масштабуються для розміщення нових даних чи алгоритмів.
• Прозорість: бути реалістичним щодо можливостей, обмежень та “як воно працює” AGI.
• Етичні розгляди: вирішення питань справедливості, упередженості та того, як AGI вплине на зайнятість та інші соціально-економічні фактори.
• Регулювання: робота з урядами та іншими організаціями для розробки рамок, які балансують прогрес з громадською безпекою.
• Бенчмарки: майбутні бенчмарки повинні кількісно оцінювати поведінку та можливості AGI щодо етичних розглядов та taksonомічних рівнів.

Висновок: зосередження уваги на шляху до AGI, а не на одній кінцевій точці

Шлях до AGI є складним, але кожна зупинка на цьому шляху важлива для подорожі. Розуміючи ітеративні покращення AGI – разом з його наслідками – люди та компанії зможуть відповідально прийняти цю еволюційну технологію. Це сутність відповідального розвитку AGI, де взаємодія з реальним світом інформує, як ми навігаємо цю нову межу.