Коли «знання» штучного інтелекту 50-річне: ризик дотримання законодавства, якого не можна ігнорувати

Проблема хибних висновків штучного інтелекту є терміновим викликом, оскільки підприємства збільшують використання генеративних інструментів. Незважаючи на широко поширений ентузіазм щодо впровадження штучного інтелекту, існує також сильна течія критики. Критичні коментатори часто вказують на очевидні, непередбачувані неточності у висновках штучного інтелекту, які підкреслюють його цінність – і можуть навіть загрожувати реальною шкодою людям, особливо в галузях, таких як охорона здоров’я та транспорт, де хибні висновки теоретично можуть призвести до всього, від неправильного рецепту до зіткнення потягів.

Часто ці неточності пояснювалися «галюцинаціями» штучного інтелекту – випадками, коли штучний інтелект генерує «найкращу» відповідь, висловлену з такою ж впевненістю, як і «справжня» відповідь, а не повідомляє користувачеві про відсутність у нього знань або можливостей. Галюцинації можуть бути важкими для виявлення на перший погляд – але існує більш тиха, однаково серйозна проблема, яку ще важче виявити.

Борговість якості даних: Ахіллесова п’ята штучного інтелекту

Коли системи штучного інтелекту використовують застарілі, неповні або неточні дані, виникають хибні висновки, але вони менш помітні. Наприклад, ви можете запитати у штучного інтелекту ідентифікувати симптоми медичного стану та отримати відповідь, засновану на 50-річній статті, а не на поточних дослідженнях. Результат навряд чи буде явно, смішно неправильним – але ця первинна оболонка правдоподібності становить реальну загрозу як для пацієнта, так і для постачальника медичних послуг.

Те саме стосується всіх галузей – якщо дані, які подаються моделі штучного інтелекту, містять застарілі, неповні або часткові відомості, існує високий ризик хибних висновків. І оскільки все більше компаній інтегрують штучний інтелект у бізнес-критичні процеси, зростає ризик виправдання хибних висновків з погано керованими даними.

Точність для регулятора

Це не лише проблема щоденної діяльності – це також значний виклик щодо дотримання законодавства. Регуляторні вимоги швидко еволюціонують, щоб звернутися до проблем щодо неточності штучного інтелекту. Наприклад, відбулося кілька перших регуляторних дій щодо штучного інтелекту; зокрема, коли Італія тимчасово заборонила ChatGPT через проблеми з конфіденційністю, а Євρωπαївська рада з захисту даних запустила спеціальну робочу групу для координації потенційних заходів проти штучного інтелекту.

Однією з найбільш показових регуляторних змін стало прийняття Закону ЄС про штучний інтелект, першої у світі комплексної правової бази для штучного інтелекту. Закон встановлює зобов’язання на основі рівня ризику систем штучного інтелекту, від систем «недопустимого ризику», які заборонені, до систем «високого ризику», які підлягають суворим вимогам щодо прозорості, якості даних, управління та нагляду людини.

Значення Закону ЄС про штучний інтелект полягає не лише в його амбіційному обсязі, а й у тому, що він встановлює прецедент. Регулятори роблять ясно, що штучний інтелект буде підлягати обов’язковим, примусовим правилам, і що організації повинні розглядати дотримання законодавства та прозорість щодо того, де та як використовується штучний інтелект, як невід’ємну частину впровадження штучного інтелекту, а не як післядум.

Закон має широкий обсяг дії, з потенціалом впливу на велику частку розробок штучного інтелекту. Його серце полягає в тому, щоб зробити штучний інтелект безпечним, одночасно поважаючи фундаментальні права та цінності. У цьому новому принциповому екосистемі відбувається діагноз потенційних джерел неточності штучного інтелекту, включаючи дані та набори даних, які живлять моделі, непрозорість моделей та доступ до них, а також проектування систем та їх використання. Рішення штучного інтелекту є конструкцією всіх трьох – проблеми з будь-яким з них можуть мати негативний результат. Не лише це, але дані, які використовуються для проектування, розробки, розгортання та експлуатації штучного інтелекту, ймовірно, будуть складатися в основному з бізнес-записів, які самі підлягають різним вимогам щодо дотримання законодавства.

Іншими словами, регуляторна середовище, оточуюче штучний інтелект, стає все більш суворим – і це так само вірно для даних введення, як і для даних виведення, хоча останні отримують значно більше заголовків.

П’ять кроків до забезпечення штучному інтелекту відповідних, актуальних та релевантних даних

Щоб вирішити цей подвійний виклик – забезпечення як дотримання законодавства щодо даних, так і високої якості введення, яка дозволяє високоякісний вивід – підприємства повинні мати контроль над навчальними та висновковими даними. На жаль, це ще щось, чого не вистачає багатьом підприємствам.

Як мінімум, організації повинні застосовувати свої загальні програми дотримання законодавства та управління до ініціатив штучного інтелекту. Вони повинні почати фіксувати та зберігати відповідні записи про дані, які вони подають моделям штучного інтелекту, про те, як моделі та системи проектуються, а також про рішення та вміст, згенеровані за допомогою штучного інтелекту.

Однак зараз також стає критично важливим для організацій зробити крок далі та забезпечити повний контроль над усіма даними, які можуть бути використані в розгортаннях штучного інтелекту, як для первинної підготовки, так і для «живої» роботи. Це вимагає високоякісної стратегії управління та зберігання даних, забезпечення того, щоб усі відповідні дані були інтелектуально зібрані, очищені, збережені, класифіковані та авторизовані. Для досягнення цього організації повинні розглянути чотири ключові кроки:

1. Відслідковуваність даних та походження

Це включає в себе підтримку запису джерела даних, походження, власності та будь-яких змін метаданих (якщо це дозволено) протягом всього життєвого циклу. Це також означає підтримку багатих метаданих та всіх основних документів чи артефактів, з яких вони походять.

2. Аутентичність даних

Це вимагає підтримання ясної ланцюга зберігання для всіх даних, зберігання об’єктів у їхніх рідних формах та хешування об’єктів, отриманих для демонстрації того, що дані залишаються незмінними. Крім того, організації повинні підтримувати повну історію аудиту для кожного об’єкта та всіх дій та подій щодо будь-яких змін.

3. Класифікація даних

Встановлення характеру набору або типу даних є важливим. Організації повинні бути能够 керувати структурованими даними, напівструктурованими даними та структурованими наборами даних. Надання кожному класу унікальної схеми дозволяє організаціям керувати різними наборами даних без використання одного загального фіксованого онтології – уникання зайвого маніпулювання даними для того, щоб змусити їх входити до негнучкої структури даних.

4. Нормалізація даних

Встановлення спільних визначень та форматів метаданих є важливим для використання в аналітиці та рішеннях штучного інтелекту. Чітко визначені схеми є важливим елементом, поряд з інструментами, які можуть перетворювати або відображати дані для підтримки послідовних, нормалізованих видів пов’язаних даних.

5. Авторизації даних

Підприємства потребують гранульованих засобів контролю доступу, включаючи рівень об’єкта або поля, на основі профілів користувача або системи. Це означає, що правильні дані доступні користувачам та системам, яким вони призначені, тоді як обмеження або обмеження доступу до тих, хто не має права на нього.

З цими важливими елементами на місці підприємства будуть найкраще підготовлені до забезпечення того, щоб дані, надані моделям штучного інтелекту, були якісними та відповідали законодавству. Штучний інтелект буде стимулювати покращення та ефективність у різних галузях – але для цього потрібно міцна основа даних.