Моделі та платформи ШІ
Електрикість допомагає знайти матеріали, які можуть “навчаться”
Команда вчених з Argonne National Laboratory змогла спостерігати неможливе матеріал, який імітує поведінку, пов’язану з навчанням, про що вони кажуть, що може привести до кращих систем штучного інтелекту (AI).
Стаття, яка описує дослідження, була опублікована в Advanced Intelligent Systems.
Ця група вчених спрямована на розробку наступного покоління суперкомп’ютерів і шукає натхнення в людському мозкові.
Небіологічні матеріали з поведінкою, подібною до навчання
Вчені, які намагаються створити комп’ютери, натхненні мозком, часто звертаються до небіологічних матеріалів, які натякають на те, що вони можуть виявити поведінку, подібну до навчання. Ці матеріали можна використовувати для створення апаратного забезпечення, яке можна поєднати з новими алгоритмами програмного забезпечення, що дозволить створити більш енергоефективні системи AI.
Нове дослідження було проведено вченими з Purdue University. Вони піддали оксид нікелю з дефектом кисню коротким електричним імпульсам і викликали два різних електричних реакції, подібних до навчання. За словами професора Rutgers University Шрірама Раманатана, який був професором Purdue University на момент проведення дослідження, вони створили систему, яка демонструє поведінку, подібну до навчання.
Команда вчених використала ресурси Advanced Photon Source (APS), об’єкта Міністерства енергетики США (DOE) в Argonne National Laboratory.
Габітуація та сенсибілізація
Перша реакція, яка відбувається, – габітуація, яка відбувається, коли матеріал звикає до легкого електричного імпульсу. Хоча опір матеріалу збільшується після першого імпульсу, вчені помітили, що він звикає до електричного стимулу.
Фанні Родолакіс – фізик і вчений beamline в APS.
“Габітуація – це те, що відбувається, коли ви живете біля аеропорту”, – каже Родолакіс. “У день, коли ви переїжджаєте, ви думаєте: “Який шум!”, але згодом ви майже не помічаєте цього більше”.
Друга реакція, яку демонструє матеріал, – сенсибілізація, яка відбувається, коли матеріал піддається більш сильному електричному імпульсу.
“З більш сильним стимулом реакція матеріалу зростає, а не зменшується з часом”, – каже Родолакіс. “Це подібно до того, коли ви дивитеся страшний фільм, а потім хтось говорить “бу!” з-за куточка – ви бачите, як він стрибає”.
“Практично всі живі організми демонструють ці дві характеристики”, – продовжує Раманатан. “Це справжня основа інтелекту”.
Ці дві поведінки контролюються квантовими взаємодіями, які відбуваються між електронами. Ці взаємодії не можуть бути описані класичною фізикою і грають роль у формуванні основи для фазового переходу в матеріалі.
“Приклад фазового переходу – рідина, яка стає твердою”, – каже Родолакіс. “Матеріал, який ми розглядаємо, знаходиться прямо на межі, і конкуруючі взаємодії, які відбуваються на електронному рівні, можуть легко бути перекинуті в одну сторону або іншу малими стимулами”.
За словами Раманатана, важливо мати систему, яку можна повністю контролювати електричними сигналами.
“Здатність маніпулювати матеріалами в цьому стилі дозволить апаратному забезпеченню взяти на себе частину відповідальності за інтелект”, – каже він. “Використання квантових властивостей для отримання інтелекту в апаратному забезпеченні представляє собою ключовий крок до енергоефективних обчислень”.
Передача стабільності-пластичності
Вчені можуть використовувати різницю між габітуацією та сенсибілізацією, щоб подолати стабільності-пластичності, яка є однією з основних проблем у розвитку AI. Алгоритми часто мають труднощі з адаптацією до нової інформації, а коли вони це роблять, вони часто забувають деякий свій попередній досвід або те, що вони вивчили. Якщо вчені створять матеріал, який може габітуватися, вони можуть навчити його ігнорувати або забувати зайву інформацію і досягти додаткової стабільності. З іншого боку, сенсибілізація може навчити систему запам’ятовувати і включати нову інформацію, що дозволить досягти пластичності.
“AI часто має труднощі з навчанням і зберіганням нової інформації без переписування інформації, яка вже була збережена”, – каже Родолакіс. “Занадто велика стабільність перешкоджає AI навчанню, але занадто велика пластичність може привести до катастрофічного забування”.
За словами команди, однією з великих переваг нового дослідження була мала розмірність пристрою з оксидом нікелю.
“Цей тип навчання раніше не був здійснений у поточному поколінні електроніки без великої кількості транзисторів”, – пояснює Родолакіс. “Система з одним з’єднанням є найменшим системою на сьогодні, яка демонструє ці властивості, що має великі наслідки для можливого розвитку нейроморфної схемотехніки”.












