Лідери думок

Від коду до ліків: Наступна революція штучного інтелекту потребує рук та очей

mm
Опубліковано
Оновлено
Додайте Unite.AI до бажаних джерел у Google
A diverse female scientist in smart glasses works alongside a sophisticated dual-arm robotic lab system in a futuristic wet lab.

Як агентні системи, XR-очки та робототехніка будуть підвищувати можливості людей, а не замінювати їх

Ми живемо в часи парадоксу в галузі штучного інтелекту.

На екранах комп’ютерів штучний інтелект є надлюдським. Великі мовні моделі створюють функціональний код Python за секунди. Генеративні системи створюють фотореалістичні зображення та відео за хвилини. Лауреати Нобелівської премії, такі як AlphaFold, передбачили структури майже всіх відомих білків. Цифрові перемоги накопичуються.

Але в фізичному світі біомедичних досліджень процес відкриття залишається доволі ручним. Ми не відчуваємо, як штучний інтелект прискорює науку чи медицину,至少 поки що. Числа показують глибину проблеми. Опитування журналу Nature серед понад 1 500 вчених показало, що понад 70% спробували і не змогли повторити експерименти інших дослідників. Ще більше проблем: понад половина не змогли повторити свою власну роботу. У сфері канцерології конкретно восьмирічний проєкт з повторення результатів показав, що лише 40% високоефективних відкриттів можна було повторити, а 68% експериментів не мали достатньої документації, щоб навіть спробувати повторити.

Це є брудна правда сучасної науки: у нас є проблема захоплення знань, а не лише проблема відкриття. Критичні експериментальні деталі живуть у головах дослідників, а не в статтях. Протоколи змінюються. Неявні знання втрачаються, коли молоді вчені закінчують навчання. Системи штучного інтелекту, навчені на опублікованій літературі, успадковують всі ці пробіли.

Основна проблема полягає в тому, що хоча штучний інтелект може розробити новий білок для лікування раку в цифровій симуляції, він не може взяти піпету, щоб протестувати його. Він не може орієнтуватися в заплутаній, непередбачуваній реальності вологого лабораторію, щоб перевірити свою власну гіпотезу. Він не може дивитися на руки досвідченого вченого і вивчати тонкі техніки, які роблять експерименти успішними.

Ця “розрив у виконанні” є найбільшим瓶нем, який перешкоджає революції штучного інтелекту стати медичною революцією. Хоча більшість компаній з робототехніки все ще зайняті навчанням машин складати білизну або завантажувати посудомийки, вони відстають у справі真正 трансформативних можливостей цих досягнень у галузях, таких як медицина.

Щоб вирішити цю проблему, нам потрібно рухатися далі, ніж чат-боти, і рухатися до штучного інтелекту-Co-Вченого, агентних систем, які поєднують цифровий і фізичний світ, рухаючись за межі планування і кодування в реальне виконання. У Стенфорді ми розробляємо LabOS, цифрово-фізичну систему штучного інтелекту, яка демонструє, як агентні системи штучного інтелекту, окуляри розширеної реальності (XR) і колаборативна робототехніка можуть об’єднатися, щоб закрити цей розрив, перетворивши наукові експерименти на спільну розмову між людиною і машиною, одночасно автоматично захоплюючи знання, які зараз втрачаються.

Велика пропасть: Чому штучний інтелект потребує “очей” і “рук”

Багато з найбільш видних перемог штучного інтелекту відбулися там, де середовище є повністю цифровим: кодові репозиторії, кураторські набори даних або симульовані бенчмарки (де штучний інтелект змагається за виконання віртуальної справи або цифрового інвестування в акції).

Вологі лабораторії інші. Біологія, а загалом наукове відкриття, є дуже шумливим процесом. Інструменти дрейфують, оператори імпровізують, а “протокол” часто живе частково в головах людей. Різниця між чистим результатом і невдалим запуском може бути кутом піпетування, патерном вортексингу, заміною реагенту або інкубацією, яка тривала 10 хвилин довше. Ці контекстні деталі рідко потрапляють до статті і вони є саме тим, що модель штучного інтелекту потребує, якщо вона хоче узагальнити за межі набору даних.

Тому лабораторний штучний інтелект потребує очей (щоб сприймати, що відбувається в контексті), рук (щоб стандартизувати і безпечно автоматизувати високоваріантні кроки) і пам’яті (щоб записувати, що насправді відбулося). Без цих можливостей моделі можуть рекомендувати, що робити, але вони не можуть надійно перекладати рекомендації у валідоване фізичне виконання або пояснювати невдачі, коли реальність розходиться з планом.

Поза чат-ботами: Від копілотів до ко-вчених

Термін “агентний штучний інтелект” іноді використовується вільно. У біомедичних умовах він повинен означати щось точне: систему, яка може прийняти мету (наприклад, “оптимізувати ефективність редактирования генома CRISPR, мінімізуючи позатargets”), розбити її на послідовність завдань, виконати ці завдання через інструменти, оцінити результати і адаптувати план під обмеженнями і з аудитованим прийняттям рішень.

Це має значення, оскільки дослідницькі робочі процеси не є одним моделевим викликом. Вони є кінцевими трубопроводами, які охоплюють формулювання гіпотези, експериментальний дизайн, обробку даних, статистичне тестування і інтерпретацію. Недавнє мислення у відкритті ліків почало підкреслювати агентні системи, які можуть масштабувати ці трубопроводи, а не просто прискорювати окремі кроки (наприклад, обговорення агентів Unite.AI у відкритті малих молекул).

У програмній інженерії ми вже бачили раннє емпіричне свідчення того, що копілоти штучного інтелекту можуть збільшити продуктивність розробників. У біомедичній сфері аналогічна можливість полягає не лише у написанні коду, а й у написанні і валідуванні протоколів, структуризації даних, моніторингу виконання і закритті циклу між передбаченням і вимірюванням, підключаючи штучний інтелект до людей-вчених у лабораторіях.

LabOS: Коли штучний інтелект працює на операційній системі для лабораторій майбутнього

У нашій роботі в Стенфорді над AI4Science, охоплюючи копілоти редактирования генома, такі як CRISPR-GPT і системи спільного виконання штучного інтелекту і XR, таких як LabOS, які допомагають вченим у біомедичних і матеріалознавчих лабораторіях, ми досліджували архітектурний зсув:

1. Проєктування кінцевої “операційної системи лабораторії”, яка поєднує цифрову (суху) лабораторію з фізичною (вологою) лабораторією.

Преміса проста: якщо лабораторний записник є пам’яттю науки, то операційна система лабораторії повинна бути виконувальною шарою, захоплюючи намір, перекладаючи його в дії, спостерігаючи результати і перетворюючи кожен запуск у структуровані знання.

Фігура. Концептуальний вигляд LabOS, який поєднує самозмінюючийся цифровий лабораторний цикл (планування, кодування, критика, створення інструментів) з людино-штучним інтелектом вологим лабораторним циклом (авто-документація, захоплення знань, XR-настанови і робототехнічна інтеграція).

2. Штучний інтелект у цифровій лабораторії – Самозмінююче планування і створення інструментів

У цифровій (сухій) лабораторії ми можемо дозволити штучному інтелекту робити те, що він вже добре робить: шукати, синтезувати і пропонувати. Але ми також хочемо, щоб він був самозмінюючим. Не “галюцинуюючи нову науку”, а навчаючись краще інструментів і робочих процесів з відгуками.

Практичний цифровий лабораторний цикл можна сформулювати як чотири повторювані етапи:

  • Планування (гіпотеза + дизайн): пропонувати гіпотези, вибирати експериментальні змінні, передбачати конфундери і специфікувати вимірювані кінцеві точки.
  • Кодування (реалізація): генерувати або адаптувати аналіз скриптів, симуляційні трубопроводи і шаблони контролю інструментів, де це доречно.
  • Критичний агент (причинність + оцінка): тестувати припущення, перевіряти статистичну потужність, пропонувати контролі і вказувати ймовірні моди невдачі.
  • Створення інструментів (пошук + розвиток): коли робочий процес не має компонента (парсера, процедури контролю якості, панелі управління), побудувати його і додати назад до інструментарію.

3. Штучний інтелект у фізичній лабораторії – Штучний інтелект з “очима” (XR-очками) і “руками” (робототехнікою)

Фізична (волога) лабораторія – це місце, де система або здобуває довіру, або втрачає її. Метою є не замінити вченого, а скоротити тертя і помилки, одночасно збільшуючи спостережуваність.

Ми розглядаємо фізичний лабораторний цикл як чотири доповнювальні можливості:

  • Авто-запис і документація: захоплювати дії, часові мітки, налаштування інструментів і відхилення автоматично, щоб документація не була післяthought.
  • Захоплення знань для швидкого, повторного виконання: перетворювати запуски у структуровані, запитувані артефакти (версії протоколів, набори параметрів, результати контролю якості) у відповідності з принципами управління даними, такими як FAIR.
  • Реальний час візуально-мовної настанови через XR-очки: використовувати багатомодальні моделі для інтерпретації сцени (що оператор робить, який реагент у руці) і надання крок за кроком настанов і перевірок безпеки. AR/XR вже продемонстрував свою цінність у високих ставках фізичних робочих процесів, таких як експериментальна настанова (LabOS, Стенфорд, Принстон, у співпраці з NVIDIA).
  • Інтеграція кобота/робототехніки для автоматизації: стандартизувати повторювані кроки, дозволити безпечні передачі і скоротити варіативність. Платформи для симуляції-реальних робочих процесів (наприклад NVIDIA Isaac) і обробки штучного інтелекту в реальному часі на краю, як живе трансляція і взаємодія людини-штучного інтелекту в LabOS, є важливими шарами.

Ця архітектура відповідає більш широкому напрямку в галузі: “само керуючі” або автономні лабораторії, які поєднують автоматизацію з машинним навчанням для планування наступного експерименту. Що LabOS додає, це щільний шар людської інтерфейсу, щоб автономія не йшла за рахунок прозорості.

Чому лабораторний штучний інтелект не просто “штучний інтелект на наборі даних”

Системи штучного інтелекту для біомедичної/наукової суперінтелекту часто виглядають вражаючими у ретроспективній оцінці або під час проходження іспитів, а потім демонструють низьку продуктивність у фізичній лабораторії. Причина рідко є однією помилкою. Це зазвичай розбіжність між припущеннями моделі і реальністю лабораторії.

Три розриви з’являються знову і знову:

  • Контекстний розрив: набори даних зазвичай опускають контекстні змінні, які оператори знають, що мають значення (відхилення температури, номери партій реагентів, тонкі відхилення протоколів).
  • Дія розрив: багато систем штучного інтелекту можуть рекомендувати, що робити, але не можуть надійно перекладати цю рекомендацію у валідоване фізичне виконання.
  • Зворотний зв’язок розрив: без структурованого, високоякісного зворотного зв’язку від виконання моделі не можуть навчатися, де вони невдачі – і вчені не можуть аудитувати, чому.

Закриття цих розривів менше про винахід нової архітектури нейронної мережі, а більше про будівництво інструментарію, інтерфейсів і контрактів даних, які роблять лабораторію зрозумілою для машин, і дозволяють штучному інтелекту бачити і працювати з людьми.

Довіра за дизайном: Безпека і керування штучним інтелектом, який може діяти

Агентний штучний інтелект у дослідницькій роботі не тільки піднімає знайомі проблеми про точність. Він вводить нові моди невдачі, оскільки він може діяти. У лабораторії дія означає потенціал для відходів, шкоди або неправильних висновків, особливо коли експерименти впливають на клінічні гіпотези.

Корисний погляд – це розгляд штучного інтелекту, як соціально-технічної системи, яка потребує забезпечення. Деякі існуючі рамки допомагають, але вони повинні бути перекладені у лабораторну реальність:

  • Керування ризиком як безперервна практика: рамка керування ризиком штучного інтелекту NIST (AI RMF 1.0) пропонує практичну лексику для картографування, вимірювання і керування ризиком штучного інтелекту протягом всього циклу.
  • Регуляторна відповідність для медично-ад’юнктного штучного інтелекту: робота FDA зі штучним інтелектом/машинним навчанням програмного забезпечення як медичного пристрою (SaMD), включаючи її План дій і пов’язані з ним керівництва, пропонує конкретний погляд на те, що виглядає “добра практика”, коли штучний інтелект впливає на догляд за пацієнтами.

Для редактирования генома і інших високих наслідків доменів керування вже є глобальною розмовою. Обговорюються рекомендації щодо редагування людського генома, щоб підкреслити необхідність відповідних механізмів нагляду і відповідальності, таких як ті, які були висунуті Американським товариством генної та клітинної терапії, або ASGCT. Системи, такі як LabOS, повинні бути розроблені для полегшення дотримання вимог, а не ускладнення його.

Перелік: Контролі для безпечних ко-вчених штучного інтелекту для наукового відкриття

На наш погляд, система ко-вченого штучного інтелекту повинна реалізувати хоча б наступні конструкції:

  • Прозорість за замовчуванням: кожен набір даних, версія протоколу і висновок моделі повинні бути простежувані до входів і часових міток.
  • Обмежена автономія: система повинна мати явні дозволи (що вона може робити без підтвердження) і правила ескалації (коли вона повинна запитувати).
  • Людський перехоплення і плавне зниження: коли датчики або потоки даних виходять з ладу, або невизначеність висока, система повинна повернутися до більш безпечного, простішого режиму.
  • Неперервна валідация: передбачення в симуляції повинні бути поєднані з фізичною лабораторною валідациєю; фізичні лабораторні запуски повинні включати ворота контролю якості перед висновками, які передаються вниз по потоку до моделей/агентів у цифровому світі.
  • Безпека і усвідомлення подвійного використання: захистити інфраструктуру лабораторії від порушення.

Підвищення можливостей людей скрізь: Чи можуть ко-вчені штучного інтелекту зрівняти гру?

Одна з найбільш привабливих обіцянок ко-вченого штучного інтелекту з XR-очками не лише швидкість для елітних інститутів, а й доступність для всіх. Розгляньте, що зараз обмежує менші лабораторії, стартапи і віддалені/сільські/регіональні клініки:

  • Обмежений доступ до спеціалізованої експертизи для золотих стандартів протоколів і інструментів.
  • Більш висока відносна вартість навчання, помилок і переделки.
  • Фрагментована інструментарія: записники, таблиці, журнали інструментів і скрипти аналізу рідко з’єднуються чисто.

Система, яка може направляти виконання в контексті (через XR-очки), захоплювати, що відбулося автоматично, і пропонувати наступний найкращий крок на основі попередніх запусків, могла б зробити просунуті аналізи більш повторюваними на різних сайтах. У принципі, вона могла б також підтримувати розподілене клінічне дослідження, де протоколи повинні виконуватися послідовно, навіть коли ресурси різняться.

Графік: Коли кожен вчений і клініцист отримає ко-вченого?

У короткому, ми ближче, ніж багато хто думає, для деяких високоцінних, високочастотних завдань (наприклад, виробництва ліків надійно в лабораторії) і далі, ніж більшість демонстрацій припускає, для інших (наприклад, штучний інтелект повністю розв’язує великі проблеми, такі як рак або хвороба Альцгеймера). Реалістична дорожня карта виглядає так:

  1. Ближній термін (в межах 1 року): Копілоти робочих процесів, які скорочують адміністративне навантаження: проектування протоколів, синтез літератури, шаблони аналізу і автоматичні звіти про контроль якості. Обмежувальним фактором є інтеграція, а не здатність моделі.
  2. Середній термін (1-2 роки): Системи спільного виконання у лабораторії: настанови XR-очок, автоматична документація і вибіркова робототехніка для високоваріантних кроків. Довіра буде залежати від аудитних слідів і щільного людського фактору дизайну.
  3. Довгостроковий термін (3+ роки): Ко-дослідники, які поєднують відкриття з трансляцією: зв’язування лабораторних даних з клінічними кінцевими точками, моніторинг сигналів безпеки і допомога у проектуванні клінічних досліджень – при цьому дотримуючись регуляторних і етичних очікувань.

Від коду до ліків: Шлях вперед до 1000-кратного наукового відкриття

LabOS – це одна спроба відповісти на просте питання: що якщо експеримент можна було б провести як розмову, де намір, виконання і докази з’єднані кінцевим кінцем? Якщо ми побудуємо ці системи добре, вони можуть допомогти вирішити розрив у трансляції, який сповільнює біомедицину і багато фізичних наук (наприклад, матеріалознавство). Якщо ми побудуємо їх погано, вони будуть посилювати нерепродуктивність і створювати нові ризики безпеки.

Найважливіша робота в наступні кілька років буде фундаментальною: стандартизовані інтерфейси даних і пристроїв через будівництво операційної системи (подібно до того, як iOS запускає всі види застосунків), будівництво бенчмарків штучного інтелекту, які включають виконання і невизначеність (як бенчмарк LabSuperVision у LabOS), і початок розгортання у реальному світі, яке заохочує інновації, одночасно захищаючи пацієнтів і цілісність досліджень.

Для вчених і клініцистів питання не полягає в тому, чи увійде штучний інтелект у лабораторію. Він уже увійшов. Питання полягає в тому, чи інтегруємо ми його як збірку роз’єднаних інструментів або як довірчу, аудитовану систему, розроблену для реальності біомедичної науки.

Рекомендована література і джерела

mm

Le Cong, PhD, є асоціативним професором патології та генетики Стенфордського університету, де його група розробляє системи генної інженерії, рідні для штучного інтелекту, та системи AI-XR-робототехніки, що з'єднують цифрову лабораторну логіку з фізичною лабораторною реалізацією, щоб надати людям можливість у наукових відкриттях.