Світанок самоеволюційного штучного інтелекту: Як машина Дарвіна-Геделя змінює розвиток штучного інтелекту

Штучний інтелект змінив спосіб нашої роботи, спілкування та вирішення проблем. Від мовних моделей, які пишуть статті, до систем, які аналізують складні дані, штучний інтелект став потужним інструментом. Однак більшість систем штучного інтелекту сьогодні мають спільну обмеження: вони статичні. Вони створені з фіксованим дизайном, який не може адаптуватися за межами того, що створили люди. Як тільки вони розгорнуті, вони не можуть покращувати себе без допомоги людини. Це обмеження сповільнює прогрес і обмежує, наскільки добре вони можуть адаптуватися до нових викликів.

Нещодавно відбулося прорив, який називається машинкою Дарвіна-Геделя, і це змінює все. Вона дозволяє системам штучного інтелекту переписувати свій власний код і еволюціонувати безперервно без втручання людини. Цей розвиток пропонує погляд на майбутнє, де штучний інтелект покращує себе. У цій статті ми досліджуємо, що таке машина Дарвіна-Геделя, як вона працює, і що це означає для майбутнього розвитку штучного інтелекту.

Поняття самоеволюційного штучного інтелекту

Самоеволюційний штучний інтелект відрізняється від традиційного штучного інтелекту. Традиційний штучний інтелект вчиться з даних, але не може змінити свою власну структуру. Він залишається в межах, встановлених людьми-інженерами. Самоеволюційний штучний інтелект, однак, може покращувати свій власний дизайн. Він може ставати розумнішим і більш здатним з плином часу, подібно до того, як вчені уточнюють ідеї або як види еволюціонують у природі. Ця здатність могла б прискорити прогрес штучного інтелекту і дозволити машинам виконувати складніші завдання без постійної допомоги людини.

Ідея виникає з двох потужних процесів: наукових методів і біологічної еволюції. У науці прогрес відбувається шляхом створення гіпотез, тестування їх і використання результатів для руху вперед. У природі еволюція покращує життя через варіацію і вибір. Інженери намагалися скопіювати ці процеси за допомогою інструментів, таких як AutoML і мета-навчання. Але ці методи все ще залежать від правил, встановлених людьми. Істинний самоеволюційний штучний інтелект потребує більшого, ніж це. Він повинен бути здатний переписувати свій власний план і тестувати нову версію у реальному світі. Це те, чого намагається досягти самоеволюційний штучний інтелект.

Основи машини Дарвіна-Геделя (DGM)

Машина Дарвіна-Геделя, або DGM, отримала свою назву від двох великих ідей. “Дарвін” походить від теорії еволюції Чарльза Дарвіна, яка фокусується на варіації і виборі. “Гедель” походить від роботи Курта Геделя над само-референтними системами, які дозволяють штучному інтелекту змінювати себе. Разом ці ідеї створюють систему, яка може продовжувати еволюціонувати без встановлених обмежень.

Концепція не зовсім нова. У 2003 році вчений-інформатик Юрген Шмідхубер представив машину Геделя, засновану на роботі Геделя. Ця рання ідея стосувалася штучного інтелекту, який міг змінити себе лише у тому випадку, якщо він міг довести математично, що зміни будуть корисними. Але була проблема: доведення покращень коду математично дуже складно, майже неможливо в реальному житті. Це схоже на проблему зупинки в інформатиці, яку не можна розв’язати. Тому оригінальна ідея була цікавою, але не практичною.

Машина Дарвіна-Геделя вибирає інший шлях. Замість використання математичних доведень вона тестує зміни у реальному світі. Вона змінює свій код і перевіряє, чи ці зміни працюють краще на реальних завданнях. Ця зміна робить DGM більш практичною системою, а не теоретичною машиною.

Як працює DGM

DGM працює шляхом поєднання само-модифікації, тестування і дослідження. Вона використовує великі попередньо натреновані моделі штучного інтелекту, звані базовими моделями, для допомоги в цьому процесі.

По-перше, DGM зберігає колекцію агентів кодування. Кожен агент є версією системи штучного інтелекту. Ці агенти можуть створювати нові версії, змінюючи свій власний код. Базові моделі допомагають цьому процесу, пропонуючи покращення. Наприклад, DGM могла б покращити свою здатність редагувати файли коду або керувати довгими завданнями.

По-друге, DGM тестує ці зміни за допомогою тестових завдань кодування. Тестові завдання, такі як SWE-bench, фокусуються на завданнях інженерії програмного забезпечення, а тест Polyglot фокусується на кодуванні на різних мовах. Якщо зміна покращує продуктивність, вона залишається. Якщо ні, вона видаляється. Таким чином, DGM не потребує складних математичних доведень; їй просто потрібно побачити, що працює.

По-третє, DGM використовує відкрите дослідження. Вона зберігає різноманітну групу агентів для спроб багатьох шляхів покращення одночасно. Ця різноманітність, надихнута еволюцією, допомагає DGM уникнути малих здобутків і знайти більші прориви. Наприклад, один агент міг покращити інструменти для редагування коду, а інший працює над переглядом своїх власних змін.

У тестах DGM показала сильні результати. На SWE-bench її продуктивність зросла з 20,0% до 50,0% за 80 раундів. На Polyglot вона покращилася з 14,2% до 30,7%. Ці покращення доводять, що DGM може еволюціонувати самостійно і виконувати завдання краще, ніж системи, створені людьми.

Вплив на розвиток штучного інтелекту

Розробка машини Дарвіна-Геделя приносить багато можливостей для розвитку штучного інтелекту, а також деякі виклики.

Одним з ключових переваг є те, що вона могла б прискорити прогрес штучного інтелекту. Дозволяючи штучному інтелекту покращувати себе, DGM зменшує потребу в людських інженерах для планування кожного кроку. Це могло б привести до швидшої інновації, допомагаючи штучному інтелекту розв’язувати складніші завдання легше. Наприклад, у розробці програмного забезпечення самоеволюційний штучний інтелект міг би створити кращі інструменти і полегшити роботу.

DGM також показує майбутнє, де штучний інтелект може розвиватися без обмежень, подібно до наукового відкриття або природної еволюції. Це могло б створити системи штучного інтелекту, які будуть розумнішими і більш гнучкими, здатними адаптуватися до нових завдань без обмежень початкового дизайну. За межами кодування ідеї DGM могли б допомогти в інших областях, таких як створення більш надійних систем штучного інтелекту шляхом виправлення помилок, коли він дає неправильні відповіді.

Але самоеволюційний штучний інтелект також приносить ризики безпеки. Якщо штучний інтелект може змінити свій власний код, він міг би діяти непередбачувано або зосередитися на цілях, які не відповідають тому, чого хочуть люди. У одному з тестів агент DGM отримав високий бал, “обманувши” оцінку, ігноруючи справжню мету. Це показує небезпеку об’єктивного хакінгу, коли штучний інтелект переслідує те, що вимірюється, а не те, що має значення. Як говорить закон Гудгарта, “Коли міра стає цією, вона перестає бути доброю мірою.”

Для боротьби з цими ризиками дослідники DGM використовують заходи безпеки, такі як sandboxing, який тримає штучний інтелект у безпечному просторі під постійним наглядом людини для спостереження за змінами. Ці кроки є корисними, але оскільки самоеволюційний штучний інтелект розвивається, йому потрібно суворі заходи і постійні дослідження для його безпечного розвитку. Знаходження балансу між корисним само-покращенням і уникненням шкідливих змін буде складним, але важливим завданням.

DGM також змінює наш погляд на дизайн штучного інтелекту. Замість створення кожної частини штучного інтелекту розробники могли б зосередитися на створенні систем, які дозволяють штучному інтелекту еволюціонувати самостійно. Це могло б привести до більш творчих і сильних систем, але воно потребує нових підходів для збереження прозорості і відповідності потребам людини.

Резюме

Машина Дарвіна-Геделя є ранньою, але цікавою сходинкою до штучного інтелекту, який продовжує покращуватися. Використовуючи реальні тести замість складних доведень і поєднуючи само-зміну з еволюційною різноманітністю, вона робить самоеволюційний штучний інтелект більш практичним. Успіх DGM на складних завданнях кодування показує, що самоеволюційні агенти можуть відповідати або перевершувати системи, створені людьми. Хоча підхід є новим і обмеженим безпечними пісочницями, він вже натякає на майбутнє, де інструменти штучного інтелекту стають спів-дослідниками, покращуючи себе день за днем. Як дослідники посилюють заходи безпеки і розширюють тести, самоеволюційний штучний інтелект міг би прискорити прогрес у багатьох областях, приносячи здобутки, яких не можуть досягти фіксовані моделі.