Лідери думок

Від коду до лікування: Наступна революція ШІ потребує рук і очей

Dr. Le Cong
Додайте Unite.AI до бажаних джерел у Google
A diverse female scientist in smart glasses works alongside a sophisticated dual-arm robotic lab system in a futuristic wet lab.
Ключові моментиLabOS поєднує цифрове планування ШІ з фізичним виконанням у лабораторії за допомогою…
Показати більше
  • LabOS поєднує цифрове планування ШІ з фізичним виконанням у лабораторії за допомогою XR-окулярів і робототехніки.
  • Понад 70% науковців не можуть відтворити експерименти через прогалину у фіксації знань, а не через прогалину у відкриттях.
  • ШІ-співдослідники повинні включати походження та обмежену автономію, щоб запобігти шкоді в біомедичних лабораторіях.

Як агентні системи, розумні окуляри XR та робототехніка будуть підвищувати можливості людей, а не замінювати їх

Ми живемо в часи парадоксу в галузі штучного інтелекту.

На екранах комп’ютерів штучний інтелект є надлюдським. Великі мовні моделі створюють функціональний код Python за секунди. Генеративні системи створюють фотореалістичні зображення та відео за хвилини. Відзначені Нобелівською премією системи, такі як AlphaFold, передбачили структури майже всіх відомих білків. Цифрові перемоги накопичуються.

Але в фізичному світі біомедичних досліджень процес відкриття залишається кропіткою ручною працею. Ми не відчуваємо, як штучний інтелект прискорює науку чи медицину, принаймні поки що. Числа показують глибину проблеми. Опитування журналу Nature серед понад 1 500 вчених показало, що понад 70% опитаних намагалися, але не змогли відтворити експерименти іншого дослідника. Ще тривожніше: понад половина не змогли повторити свою власну роботу. Саме в біології раку восьмирічний проєкт з повторення результатів показав, що лише 40% вагомих наукових результатів вдалося відтворити, а 68% експериментів не мали достатньої документації, щоб навіть спробувати повторити.

Це є брудна правда сучасної науки: у нас є проблема фіксації знань, а не лише проблема відкриття. Критичні експериментальні деталі живуть у головах дослідників, а не в статтях. Протоколи змінюються. Неявні знання втрачаються, коли молоді вчені закінчують навчання. Системи штучного інтелекту, навчені на опублікованій літературі, успадковують всі ці пробіли.

Основна проблема полягає в тому, що хоча штучний інтелект може розробити новий білок для лікування раку в цифровій симуляції, він не може взяти піпетку, щоб протестувати його. Він не може орієнтуватися в заплутаній, непередбачуваній реальності мокрої лабораторії, щоб перевірити свою власну гіпотезу. Він не може дивитися на руки досвідченого вченого і вивчати тонкі техніки, які роблять експерименти успішними.

Цей «розрив у виконанні» є найбільшим окремим вузьким місцем, яке перешкоджає революції штучного інтелекту стати медичною революцією. Хоча більшість компаній з робототехніки все ще зайняті навчанням машин складати білизну або завантажувати посудомийки, вони відстають у справді трансформаційних можливостях цих досягнень у галузях, таких як медицина.

Щоб вирішити цю проблему, нам потрібно рухатися далі, ніж чат-боти, і рухатися до ШІ — наукових партнерів, агентних систем, які поєднують цифровий і фізичний світ, рухаючись за межі планування і кодування в реальне виконання. У Стенфорді ми розробляємо LabOS, цифрово-фізичну систему штучного інтелекту, яка демонструє, як агентні системи штучного інтелекту, окуляри розширеної реальності (XR) і колаборативна робототехніка можуть об’єднатися, щоб закрити цей розрив, перетворивши наукові експерименти на спільну розмову між людиною і машиною, одночасно автоматично фіксуючи знання, які зараз втрачаються.

Великий розрив: Чому штучний інтелект потребує “очей” і “рук”

Багато з найпомітніших успіхів штучного інтелекту відбулися там, де середовище є повністю цифровим: кодові репозиторії, ретельно відібрані набори даних або симульовані бенчмарки (де штучний інтелект змагається за керування віртуальним бізнесом або інвестування в акції в цифровому середовищі).

Мокрі лабораторії інші. Біологія, а загалом наукове відкриття, є процесом із великою кількістю шуму й мінливості. Показники приладів дрейфують, оператори імпровізують, а “протокол” часто живе частково в головах людей. Різниця між чистим результатом і невдалим запуском може бути кутом піпетування, способом перемішування на вортексі, заміною реагенту або інкубацією, яка тривала 10 хвилин довше. Ці контекстні деталі рідко потрапляють до статті і вони є саме тим, чого потребує модель штучного інтелекту, якщо вона хоче узагальнити за межі набору даних.

Тому лабораторний штучний інтелект потребує очей (щоб сприймати, що відбувається в контексті), рук (щоб стандартизувати і безпечно автоматизувати етапи з високою мінливістю) і пам’яті (щоб записувати, що насправді відбулося). Без цих можливостей моделі можуть рекомендувати, що робити, але вони не можуть надійно втілювати рекомендації у перевірене фізичне виконання або пояснювати невдачі, коли реальність розходиться з планом.

Поза чат-ботами: Від помічників до наукових партнерів

Термін “агентний штучний інтелект” іноді використовується вільно. У біомедичних умовах він повинен означати щось точне: систему, яка може прийняти мету (наприклад, “оптимізувати ефективність редагування генів CRISPR, мінімізуючи позацільові зміни”), розбити її на послідовність завдань, виконати ці завдання через інструменти, оцінити результати і адаптувати план з урахуванням обмежень і з можливістю аудиту ухвалених рішень.

Це має значення, оскільки дослідницькі робочі процеси не є одним викликом моделі. Вони є наскрізними процесами, які охоплюють формулювання гіпотези, експериментальний дизайн, обробку даних, статистичне тестування і інтерпретацію. У сучасних підходах до розробки ліків почали приділяти особливу увагу агентним системам, які можуть масштабувати ці процеси, а не просто прискорювати окремі кроки (наприклад, обговорення агентів Unite.AI у пошуку лікарських засобів на основі малих молекул).

У програмній інженерії ми вже бачили раннє емпіричне свідчення того, що копілоти штучного інтелекту можуть збільшити продуктивність розробників. У біомедичній сфері аналогічна можливість полягає не лише у написанні коду, а й у написанні і валідуванні протоколів, структуризації даних, моніторингу виконання і закритті циклу між передбаченням і вимірюванням, пов’язуючи штучний інтелект із науковцями у лабораторіях.

LabOS: Коли штучний інтелект працює на операційній системі для лабораторій майбутнього

У нашій роботі в Стенфорді над AI4Science, що охоплює помічників із редагування генів, таких як CRISPR-GPT і системи спільного виконання на основі ШІ та XR, такі як LabOS, які допомагають вченим у біомедичних і матеріалознавчих лабораторіях, ми досліджували архітектурний зсув:

1. Проєктування наскрізної “операційної системи лабораторії”, яка поєднує цифрову (суху) лабораторію з фізичною (мокрою) лабораторією.

Вихідна ідея проста: якщо лабораторний записник є пам’яттю науки, то операційна система лабораторії повинна бути рівнем виконання, фіксуючи намір, перетворюючи його на дії, спостерігаючи результати і перетворюючи кожен запуск у структуровані знання.

Рисунок. Концептуальний вигляд LabOS, який поєднує саморозвивальний цифровий лабораторний цикл (планування, кодування, критика, створення інструментів) з циклом співпраці людини й ШІ в мокрій лабораторії (автоматичне документування, фіксація знань, XR-настанови і робототехнічна інтеграція).

2. Штучний інтелект у цифровій лабораторії – Саморозвивальне планування і створення інструментів

У цифровій (сухій) лабораторії ми можемо дозволити штучному інтелекту робити те, що він вже добре робить: шукати, синтезувати і пропонувати. Але ми також хочемо, щоб він самовдосконалювався. Не вигадував нові наукові результати, а на основі зворотного зв’язку опановував кращі інструменти та робочі процеси.

Практичний цифровий лабораторний цикл можна сформулювати як чотири повторювані етапи:

  • Планування (гіпотеза + дизайн): пропонувати гіпотези, вибирати експериментальні змінні, враховувати потенційні змішувальні чинники й визначати вимірювані кінцеві точки.
  • Кодування (реалізація): генерувати або адаптувати скрипти аналізу, процеси моделювання та шаблони керування приладами, де це доречно.
  • Агент-критик (міркування + оцінювання): тестувати припущення, перевіряти статистичну потужність, пропонувати контрольні експерименти й позначати ймовірні сценарії відмов.
  • Створення інструментів (пошук + розвиток): коли робочий процес не має компонента (парсера, процедури контролю якості, панелі управління), побудувати його і додати назад до інструментарію.

3. Штучний інтелект у фізичній лабораторії – Штучний інтелект з “очима” (розумними окулярами XR) і “руками” (робототехнікою)

Фізична (мокра) лабораторія – це місце, де система або здобуває довіру, або втрачає її. Метою є не замінити вченого, а скоротити тертя і помилки, одночасно збільшуючи спостережуваність.

Ми розглядаємо фізичний лабораторний цикл як чотири доповнювальні можливості:

  • Авто-запис і документація: фіксувати дії, часові мітки, налаштування інструментів і відхилення автоматично, щоб документування не відкладали на потім.
  • Фіксація знань для швидкого, відтворюваного виконання: перетворювати запуски у структуровані артефакти, до яких можна робити запити (версії протоколів, набори параметрів, результати контролю якості) у відповідності з принципами управління даними, такими як FAIR.
  • Візуально-мовні підказки в реальному часі через розумні окуляри XR: використовувати багатомодальні моделі для інтерпретації сцени (що оператор робить, який реагент у руці) і надання крок за кроком настанов і перевірок безпеки. AR/XR вже продемонстрував свою цінність у фізичних робочих процесах із високою відповідальністю, таких як експериментальна настанова (LabOS, Стенфорд, Принстон, у співпраці з NVIDIA).
  • Інтеграція кобота/робототехніки для автоматизації: стандартизувати повторювані кроки, дозволити безпечні передачі і скоротити варіативність. Платформи для перенесення робочих процесів із симуляції в реальність (наприклад NVIDIA Isaac) та обробка ШІ в реальному часі на периферії мережі, наприклад пряма трансляція з розумних окулярів і взаємодія людини з ШІ в LabOS, є важливими допоміжними рівнями.

Ця архітектура відповідає більш широкому напрямку в галузі: «самокеровані» або автономні лабораторії, які поєднують автоматизацію з машинним навчанням для планування наступного експерименту. LabOS додає тісніший інтерфейс взаємодії з людиною, щоб автономія не йшла за рахунок прозорості.

Чому лабораторний штучний інтелект не просто “штучний інтелект на наборі даних”

Системи штучного інтелекту для біомедичного й наукового надінтелекту часто виглядають вражаючими у ретроспективній оцінці або під час проходження іспитів, а потім демонструють низьку продуктивність у фізичній лабораторії. Причина рідко є однією помилкою. Це зазвичай розбіжність між припущеннями моделі і реальністю лабораторії.

Три розриви з’являються знову і знову:

  • Контекстний розрив: набори даних зазвичай опускають контекстні змінні, які оператори знають, що мають значення (відхилення температури, номери партій реагентів, тонкі відхилення протоколів).
  • Розрив у діях: багато систем штучного інтелекту можуть рекомендувати, що робити, але не можуть надійно перекладати цю рекомендацію у валідоване фізичне виконання.
  • Розрив у зворотному зв’язку: без структурованого, високоякісного зворотного зв’язку від виконання моделі не можуть навчатися, де вони зазнають невдач – і вчені не можуть аудитувати, чому.

Усунення цих розривів полягає не стільки у винайденні нової архітектури нейромережі, скільки в розробці вимірювального обладнання, інтерфейсів і контрактів даних, які роблять лабораторію зрозумілою для машин, і дозволяють штучному інтелекту бачити і працювати з людьми.

Довіра за дизайном: Безпека і керування штучним інтелектом, який може діяти

Агентний штучний інтелект у дослідницькій роботі не тільки піднімає знайомі проблеми про точність. Він вводить нові сценарії відмов, оскільки він може діяти. У лабораторії дія означає можливість марнування ресурсів, шкоди або неправильних висновків, особливо коли експерименти впливають на клінічні гіпотези.

Корисно розглядати технологічний стек лабораторії з ШІ як соціотехнічну систему, надійність якої потрібно гарантувати. Деякі існуючі рамки допомагають, але вони повинні бути перекладені у лабораторну реальність:

  • Керування ризиком як безперервна практика: рамка керування ризиком штучного інтелекту NIST (AI RMF 1.0) пропонує практичну лексику для картографування, вимірювання і керування ризиком штучного інтелекту протягом всього циклу.
  • Регуляторна відповідність для штучного інтелекту в суміжних із медициною сферах: робота FDA щодо програмного забезпечення ШІ/машинного навчання як медичного пристрою (SaMD), включаючи її План дій і пов’язані з ним керівництва, пропонує конкретний погляд на те, як виглядає «належна практика», коли штучний інтелект впливає на догляд за пацієнтами.

Для редагування генів та інших сфер із серйозними наслідками керування вже є глобальною розмовою. Обговорюються рекомендації щодо редагування людського генома, щоб підкреслити необхідність відповідних механізмів нагляду і відповідальності, таких як ті, які були висунуті Американським товариством генної та клітинної терапії, або ASGCT. Системи, такі як LabOS, повинні бути розроблені для полегшення дотримання вимог, а не ускладнення його.

Контрольний список: Засоби безпеки для ШІ — партнерів у наукових відкриттях

На наш погляд, орієнтована на безпеку лабораторна ОС повинна реалізувати принаймні такі рішення:

  • Простежуваність походження за замовчуванням: кожен набір даних, версія протоколу і результат моделі повинні бути простежувані до вхідних даних і часових міток.
  • Обмежена автономія: система повинна мати явні дозволи (що вона може робити без підтвердження) і правила ескалації (коли вона повинна запитувати).
  • Можливість втручання людини та плавне спрощення режиму роботи: коли датчики або потоки даних виходять з ладу, або невизначеність висока, система повинна повернутися до більш безпечного, простішого режиму.
  • Безперервна валідація: передбачення в симуляції повинні бути поєднані з фізичною лабораторною валідацією; фізичні лабораторні запуски повинні включати ворота контролю якості до того, як висновки повернуться до моделей і агентів ШІ в цифровому світі.
  • Безпека і усвідомлення подвійного використання: захистити інфраструктуру лабораторії від несанкціонованого втручання.

Підвищення можливостей людей скрізь: Чи можуть ШІ — наукові партнери забезпечити рівні можливості?

Одна з найбільш привабливих обіцянок наукового партнера на основі ШІ штучного інтелекту з розумними окулярами XR не лише швидкість для елітних інститутів, а й доступність для всіх. Розгляньте, що зараз обмежує менші лабораторії, стартапи і віддалені/сільські/регіональні клініки:

  • Обмежений доступ до спеціалізованої експертизи для еталонних протоколів і приладів.
  • Більш висока відносна вартість навчання, помилок і повторної роботи.
  • Фрагментований інструментарій: записники, таблиці, журнали інструментів і скрипти аналізу рідко з’єднуються чисто.

Система, яка може направляти виконання в контексті (через розумні окуляри XR), автоматично фіксувати те, що відбулося, і пропонувати наступний найкращий крок на основі попередніх запусків, могла б зробити просунуті аналізи більш повторюваними у різних установах. У принципі, вона могла б також підтримувати розподілене клінічне дослідження, де протоколи повинні виконуватися однаково, навіть коли ресурси різняться.

Графік: Коли кожен вчений і клініцист отримає наукового партнера на основі ШІ?

Якщо коротко, ми ближче, ніж багато хто думає, для деяких високоцінних, високочастотних завдань (наприклад, виробництва ліків надійно в лабораторії) і далі, ніж більшість демонстрацій припускає, для інших (наприклад, штучний інтелект повністю розв’язує великі проблеми, такі як рак або хвороба Альцгеймера). Реалістична дорожня карта виглядає так:

  1. Ближній термін (в межах 1 року): Копілоти робочих процесів, які скорочують адміністративне навантаження: проєктування протоколів, синтез літератури, шаблони аналізу і автоматичні звіти про контроль якості. Обмежувальним фактором є інтеграція, а не здатність моделі.
  2. Середній термін (1-2 роки): Системи спільного виконання у лабораторії: настанови окулярів XR, автоматична документація і вибіркова робототехніка для етапів із високою мінливістю. Довіра буде залежати від аудитних слідів і ретельно продуманого залучення людини до процесу.
  3. Довгостроковий термін (3+ роки): Ко-дослідники, які поєднують відкриття з практичним застосуванням: зв’язування лабораторних даних з клінічними кінцевими точками, моніторинг сигналів безпеки і допомога у проектуванні клінічних досліджень – при цьому дотримуючись регуляторних і етичних очікувань.

Від коду до ліків: Шлях вперед до 1000-кратного наукового відкриття

LabOS – це одна спроба відповісти на просте питання: що якщо експеримент можна було б провести як розмову, де намір, виконання і докази пов’язані наскрізно? Якщо ми побудуємо ці системи добре, вони можуть допомогти вирішити розрив між відкриттями та їх практичним застосуванням, який сповільнює біомедицину і багато фізичних наук (наприклад, матеріалознавство). Якщо ми побудуємо їх погано, вони будуть посилювати невідтворюваність результатів і створювати нові ризики безпеки.

Найважливіша робота в наступні кілька років буде фундаментальною: стандартизовані інтерфейси даних і пристроїв через будівництво операційної системи (подібно до того, як iOS запускає всі види застосунків), будівництво бенчмарків штучного інтелекту, які включають виконання і невизначеність (як бенчмарк LabSuperVision у LabOS), і початок розгортання у реальному світі, яке заохочує інновації, одночасно захищаючи пацієнтів і цілісність досліджень.

Для вчених і клініцистів питання не полягає в тому, чи увійде штучний інтелект у лабораторію. Він уже увійшов. Питання полягає в тому, чи інтегруємо ми його як збірку роз’єднаних інструментів або як надійну систему, що піддається аудиту, розроблену для реальності біомедичної науки.

Рекомендована література і джерела

Le Cong, PhD, є доцентом (Associate Professor) патології та генетики Стенфордського університету, де його група розробляє системи геномної інженерії, від початку розроблені для штучного інтелекту, та системи AI-XR-робототехніки, що з'єднують цифрову лабораторну логіку з фізичною лабораторною реалізацією, щоб надати людям можливість у наукових відкриттях.