AGI та майбутній ШІ
Чи є GPT-4 стрибком вперед до досягнення штучного загального інтелекту?
Ключові моментиЗдатність GPT-4 написати шекспірівський вірш про прості числа доводить глибоке…
Показати більше
- Здатність GPT-4 написати шекспірівський вірш про прості числа доводить глибоке міркування, а не просто запам'ятовування.
- У статті Microsoft стверджується, що GPT-4 демонструє більш загальний інтелект, ніж будь-яка попередня модель ШІ.
- Найбільший ризик ЗШІ може полягати в його схильності до галюцинацій дезінформації з навчальних даних.
Microsoft (MSFT ) нещодавно опублікувала дослідницьку статтю під назвою «Іскри штучного загального інтелекту: ранні експерименти з GPT-4». Як пояснює Microsoft:
Ця стаття описує наше дослідження ранньої версії GPT-4, коли OpenAI ще активно її розробляла. Ми стверджуємо, що ця рання версія GPT-4 належить до нового покоління великих мовних моделей, разом із ChatGPT та PaLM від Google, які демонструють більш загальний інтелект, ніж попередні моделі ШІ.
У статті наведено переконливі докази того, що можливості GPT-4 виходять далеко за межі запам’ятовування: модель глибоко й гнучко розуміє поняття, навички та предметні галузі. Насправді її здатність до узагальнення значно перевищує можливості будь-якої сучасної людини.
Хоча ми вже обговорювали переваги штучного загального інтелекту (AGI), варто коротко підсумувати загальноприйняте розуміння такої системи. По суті, AGI — це передовий ШІ, здатний узагальнювати знання в різних галузях, без обмеження вузькою спеціалізацією. Прикладами вузькоспеціалізованого ШІ є автономний автомобіль, чатбот, шаховий бот або будь-яка інша система, створена для єдиної мети.
Натомість AGI міг би гнучко переходити між усіма цими та будь-якими іншими сферами знань. Він використовував би нові алгоритми, такі як перенесення навчання та еволюційне навчання, а також усталені алгоритми, зокрема глибоке навчання з підкріпленням.
Цей опис AGI відповідає моєму особистому досвіду використання GPT-4 і доказам, наведеним у дослідницькій статті Microsoft.
Одне із завдань, описаних у статті, полягало в тому, щоб GPT-4 написала доведення нескінченності множини простих чисел у формі вірша.

Проаналізувавши вимоги до такого вірша, ми побачимо, що для його створення потрібні математичні міркування, поетична виразність і генерування природної мови. Це завдання перевищувало б звичайні можливості більшості людей.
Автори статті прагнули з’ясувати, чи GPT-4 просто створює вміст на основі запам’ятовування, чи розуміє контекст і здатна міркувати. На прохання переписати вірш у стилі Шекспіра вона успішно це зробила. Для цього потрібне багатогранне розуміння, яке значно перевищує можливості більшості людей та охоплює модель психіки й математичний талант.
Як виміряти інтелект GPT-4?
Постає питання: як виміряти інтелект великої мовної моделі? І чи демонструє GPT-4 справжнє навчання, чи лише запам’ятовування?
Нині системи ШІ перевіряють, оцінюючи їхню роботу на стандартних контрольних наборах даних. При цьому необхідно переконатися, що ці набори не залежать від навчальних даних і охоплюють різні завдання та галузі. Через майже необмежений обсяг даних, на яких навчали GPT-4, таке тестування практично неможливе.
У статті обговорюється створення нових складних завдань і запитань, які переконливо демонструють, що GPT-4 виходить далеко за межі запам’ятовування та глибоко й гнучко розуміє поняття, навички й предметні галузі.
Щодо інтелектуальних можливостей, GPT-4 може створювати короткі оповідання, сценарії та обчислювати найскладніші формули.
GPT-4 також може програмувати на дуже високому рівні: як писати код за інструкціями, так і розуміти наявний код. Вона справляється з широким спектром завдань — від змагань із програмування до реальних застосунків, від низькорівневого асемблера до високорівневих фреймворків, від простих структур даних до складних програм, зокрема ігор. GPT-4 також може міркувати про виконання коду, моделювати наслідки інструкцій і пояснювати результати природною мовою. Вона здатна навіть виконувати псевдокод.
GPT-4 може давати раціональні відповіді практично на будь-який запит. Насправді складність її інтелекту майже неперевершена.
Обмеження GPT-4
Далі у статті описано, як дослідники перевіряли відповіді й поведінку GPT-4, щоб оцінити її послідовність, зв’язність і правильність, а також виявити обмеження та упередження.
Найочевидніше обмеження — схильність до галюцинацій. Нижче наведено приклад зі статті, коли GPT-4 впевнено дала цілком хибну відповідь.

Схоже, сама GPT-4 також розуміє це своє обмеження. Коли я запитав, що таке галюцинація GPT, вона відповіла:
Галюцинація GPT — це явище, коли модель генеративного попередньо навченого трансформера (GPT), подібна до тієї, з якою ви зараз взаємодієте, створює відповідь, не засновану на фактичній інформації або не узгоджену з наданим контекстом. Такі галюцинації виникають, коли модель генерує текст, який може здаватися правдоподібним, але насправді є неправильним, оманливим або беззмістовним.
Інакше кажучи, коли ви навчаєте велику мовну модель на світових даних, як уникнути засвоєння нею неправильної інформації? Засвоєння й відтворення дезінформації та теорій змови може стати одним із найбільших ризиків і загроз для людства під час широкого впровадження мовних моделей. Це також може бути однією з найбільших загроз AGI, яку, на диво, часто оминають в обговоренні його небезпек.
Свідчення інтелекту GPT-4
Стаття показує, що незалежно від складності поставлених запитів GPT-4 перевершувала очікування. Як зазначено у статті:
Її неперевершене володіння природною мовою. Вона не лише може генерувати вільний і зв’язний текст, а й розуміти його та працювати з ним різними способами: підсумовувати, перекладати або відповідати на надзвичайно широке коло запитань. Крім того, під перекладом ми маємо на увазі не лише перехід між різними природними мовами, а й зміну тону та стилю, а також перенесення між такими галузями, як медицина, право, бухгалтерський облік, програмування, музика та інші.
GPT-4 легко пройшла імітацію технічної співбесіди. У цьому контексті людину з такими результатами одразу найняли б інженером-програмістом. Подібний попередній тест компетентності GPT-4 на багатоштатному адвокатському іспиті показав точність понад 70%. Це означає, що в майбутньому можна буде автоматизувати багато завдань, які нині виконують юристи. Насправді деякі стартапи вже працюють над створенням роботів-юристів за допомогою GPT-4.
Створення нових знань
Один з аргументів статті полягає в тому, що для доведення справжнього розуміння GPT-4 залишилося створити нові знання, наприклад довести нові математичні теореми. Нині таке досягнення залишається поза можливостями великих мовних моделей.
Утім, саме це є Святим Граалем AGI. Хоча контроль над AGI в неналежних руках створює небезпеки, переваги його здатності швидко аналізувати всі історичні дані заради відкриття нових теорем, ліків і методів лікування майже безмежні.
AGI міг би стати відсутньою ланкою в пошуку лікування рідкісних генетичних захворювань, які нині не отримують фінансування від приватного сектору, остаточному подоланні раку та максимальному підвищенні ефективності відновлюваної енергетики, щоб усунути залежність від несталих джерел енергії. Фактично він міг би розв’язати будь-яку важливу проблему, поставлену перед системою AGI. Саме це розуміють Сем Альтман і команда OpenAI: AGI справді є останнім винаходом, необхідним для розв’язання більшості проблем і принесення користі людству.
Звісно, це не розв’язує проблему «ядерної кнопки»: хто контролює AGI та які його наміри. Проте ця стаття надзвичайно переконливо доводить, що GPT-4 є стрибком уперед до здійснення мрії дослідників ШІ, яку вони плекають з 1956 року, коли вперше відбувся літній Дартмутський дослідницький семінар зі штучного інтелекту.
Хоча питання, чи є GPT-4 штучним загальним інтелектом, залишається дискусійним, можна обґрунтовано стверджувати, що вперше в історії людства існує система ШІ, здатна пройти тест Тюрінга.












