Як упередженість вбиває вашу стратегію AI/ML і що з цим робити

«Упередженість» у моделях будь-якого типу описує ситуацію, в якій модель реагує неточно на запити або вхідні дані, оскільки вона не була навчена достатньо високоякісними, різноманітними даними, щоб надати точну відповідь. Одним із прикладів є функцію розблокування телефону за допомогою розпізнавання обличчя Apple, яка не працювала при значно вищій частоті для людей із темнішою шкірою порівняно з людьми зі світлішою шкірою. Модель не була навчена на достатній кількості зображень людей із темнішою шкірою. Це був відносно низькоризикований приклад упередженості, але саме тому закон ЄС про штучний інтелект ввів вимоги довести ефективність моделі (та засоби контролю) до виходу на ринок. Моделі з виходами, які впливають на бізнес, фінансові, здоров’я або особисті ситуації, повинні бути довірені, інакше вони не будуть використовуватися.

Поводження з упередженістю за допомогою даних

Великі об’єми високоякісних даних

Серед багатьох важливих практик управління даними ключовим компонентом подолання та мінімізації упередженості в моделях AI/ML є придбання великих обсягів високоякісних, різноманітних даних. Це вимагає співпраці з кількома організаціями, які мають такі дані. Традиційно придбання даних та співпраця обмежені проблемами захисту приватності та/або захисту інтелектуальної власності – чутливі дані не можуть бути надані власнику моделі, а власник моделі не може ризикувати витоком своєї інтелектуальної власності до власника даних. Поширеним способом обходу цього обмеження є робота з імітаційними або синтетичними даними, які можуть бути корисними, але мають обмеження порівняно з використанням реальних даних у повному контексті. Саме тут технології підвищення приватності (PETs) дають потрібні відповіді.

Синтетичні дані: близькі, але не зовсім

Синтетичні дані штучно створюються для імітації реальних даних. Це важко зробити, але стає трохи легше завдяки інструментам AI. Добрі синтетичні дані повинні мати ті ж відстані між ознаками, що й реальні дані, інакше вони не будуть корисними. Якісні синтетичні дані можна використовувати для ефективного збільшення різноманітності навчальних даних, заповнення пробілів для менших, маргіналізованих популяцій або для популяцій, яких постачальник AI просто не має достатньо даних. Синтетичні дані також можна використовувати для вирішення крайніх випадків, які можуть бути важкими для пошуку в достатніх обсягах у реальному світі. Крім того, організації можуть створити синтетичний набір даних для задоволення вимог щодо резидентності даних та захисту приватності, які блокують доступ до реальних даних. Це звучить добре; однак синтетичні дані – це лише частина пазла, а не рішення.

Одним із очевидних обмежень синтетичних даних є розрив із реальним світом. Наприклад, автономні транспортні засоби, навчені виключно на синтетичних даних, будуть боротися з реальними, непередбачуваними умовами дороги. Крім того, синтетичні дані успадковують упередженість від реальних даних, використаних для їх створення – що майже знищує мету нашої дискусії. У висновку синтетичні дані є корисним варіантом для налаштування та вирішення крайніх випадків, але суттєві поліпшення моделей та мінімізація упередженості все ще залежать від доступу до реальних даних.

Кращий спосіб: реальні дані за допомогою робочих процесів, активованих PETs

PETs захищають дані під час їх використання. Коли мова йде про моделі AI/ML, вони також можуть захищати інтелектуальну власність моделі, яку виконують – «два птахи, один камінь». Рішення, що використовують PETs, надають можливість навчати моделі на реальних, чутливих наборах даних, які раніше не були доступні через проблеми захисту приватності та безпеки даних. Це розблокування потоків даних до реальних даних – це найкращий варіант для зменшення упередженості. Але як це насправді працює?

Наразі провідні варіанти починаються з конфіденційного середовища обчислень. Потім відбувається інтеграція з програмним рішенням на основі PETs, яке робить його готовим до використання «з коробки», одночасно вирішуючи вимоги щодо управління даними та безпеки, які не входять до стандартного довіреного середовища виконання (TEE). З цим рішенням моделі та дані зашифровуються перед відправленням до захищеного середовища обчислень. Середовище можна розмістити будь-де, що важливо при вирішенні певних вимог до локалізації даних. Це означає, що як інтелектуальна власність моделі, так і безпека вхідних даних підтримуються під час обчислень – навіть постачальник довіреного середовища виконання не має доступу до моделей чи даних всередині нього. Зашифровані результати потім повертаються для перегляду, а журнали доступні для перегляду.

Це робочий процес розблоковує найкращі дані незалежно від їх місця розташування чи володіння ними, створюючи шлях до мінімізації упередженості та високоефективних моделей, яким ми можемо довіряти. Цей робочий процес також описаний у вимогах законодавства ЄС про штучний інтелект щодо нормативного пісочниці AI.

Спрощення дотримання етичних та юридичних вимог

Придбання доброї якості реальних даних – це складно. Вимоги щодо захисту приватності та локалізації даних негайно обмежують набори даних, до яких можуть звернутися організації. Для інновацій та зростання дані повинні рухатися до тих, хто може витягнути з них користь.

Стаття 54 законодавства ЄС про штучний інтелект встановлює вимоги для «високоризикових» типів моделей щодо того, що повинно бути доведено до виходу на ринок. Коротко кажучи, команди повинні використовувати реальні дані всередині нормативної пісочниці AI, щоб продемонструвати достатню ефективність моделі та дотримання всіх засобів контролю, деталізованих у розділі III, главі 2. Засоби контролю включають моніторинг, прозорість, пояснюваність, безпеку даних, захист даних, мінімізацію даних та захист моделі – подумайте про DevSecOps + Data Ops.

Першим викликом буде пошук реального набору даних для використання – оскільки це визначається як чутливі дані для таких типів моделей. Без технічних гарантій багато організацій можуть коливатися, чи можна довіряти постачальнику моделі свої дані, чи не будуть вони допущені до цього. Крім того, визначення законодавства щодо «нормативної пісочниці AI» є сам по собі викликом. Деякі з вимог включають гарантії, що дані будуть видалені з системи після виконання моделі, а також засоби управління, виконання та звітності для доведення цього.

Багато організацій намагалися використовувати готові чисті кімнати даних (DCR) та довірені середовища виконання (TEE). Однак ці технології самостійно вимагають суттєвої експертизи та роботи для оперативної реалізації та виконання вимог законодавства про штучний інтелект щодо даних.
Чисті кімнати даних простіші у використанні, але ще не корисні для більш потужних потреб AI/ML. Довірені середовища виконання – це захищені сервери та все ще потребують інтегрованої платформи співпраці, щоб бути корисними швидко. Це, однак, ідентифікує можливість для платформ технологій підвищення приватності інтегруватися з довіреними середовищами виконання, щоб видалити цю роботу, спрощуючи налаштування та використання нормативної пісочниці AI, а отже, придбання та використання чутливих даних.

Спрощуючи використання більш різноманітних та повних наборів даних у спосіб, що зберігає приватність, ці технології допомогають забезпечити дотримання етичних стандартів та юридичних вимог, пов’язаних із захистом приватності даних (наприклад, GDPR та законодавства ЄС про штучний інтелект у Європі). У висновку, хоча вимоги часто зустрічаються з чуттєвими стогонами та зітханнями, ці вимоги просто спрямовані на створення кращих моделей, яким ми можемо довіряти та покладатися на них для важливих рішень, заснованих на даних, одночасно захищаючи приватність суб’єктів даних, використаних для розробки та налаштування моделей.