Лідери думок

Конфіденційність на етапі проєктування: основа сталого штучного інтелекту для зеленішого майбутнього

Jeff Willert Kevin Price
Додайте Unite.AI до бажаних джерел у Google
Ключові моментиКонфіденційність за задумом має бути вбудована в кожен рівень систем ШІ для досягнення…
Показати більше
  • Конфіденційність за задумом має бути вбудована в кожен рівень систем ШІ для досягнення достовірного прогресу в ESG.
  • Закон ЄС про ШІ є базовим рівнем, а не кінцевим стандартом відповідального управління ШІ.
  • Довіра до ШІ вимагає навмисного проєктування з можливістю аудиту та прозорими практиками роботи з даними.

Штучний інтелект швидко трансформує глобальні зусилля щодо сталості, оптимізуючи споживання енергії та дозволяючи більш ефективне та точне відстеження викидів. Але оскільки організації все більше покладаються на штучний інтелект для досягнення своїх цілей щодо декарбонізації, зростає проблема балансування величезних потреб у даних з нагальними заходами захисту конфіденційності. Прогрес штучного інтелекту в галузі сталості може викликати зрозумілі занепокоєння щодо конфіденційності, але завдяки вдумливій реалізації організації можуть просувати обидві цілі паралельно.

Конфіденційність і сталість не є окремими пріоритетами; вони фундаментально пов’язані. Надійність ініціатив щодо екологічної, соціальної та корпоративної відповідальності (ESG) залежить від цілісності та безпеки даних, що лежать в їхній основі. Чи штучний інтелект призводить до позитивних змін або вводить нові ризики, залежить від того, як організації підходять до цього перехрестя. Щоб прискорити декарбонізацію без компрометації етики, концепцію конфіденційності на етапі проєктування необхідно вбудовувати в кожен рівень їхніх систем штучного інтелекту.

Чому концепція конфіденційності на етапі проєктування має значення

У міру того як штучний інтелект дедалі глибше інтегрується в ініціативи ESG, зростає чутливість оброблюваних даних, оскільки звітність та оптимізація ESG можуть спиратися на інформацію із систем управління персоналом, закупівлями, операційною діяльністю та фінансами. Неправильне поводження з чутливими даними ESG може часто мати значні фінансові та репутаційні наслідки. У 2024 році середня глобальна вартість витоку даних досягла $4,88 млн у 2024 році, не враховуючи більш важко вимірюваних впливів на довіру зацікавлених сторін та надійність зобов’язань ESG.

Регуляторний ландшафт штучного інтелекту та сталості швидко еволюціонує, з рамками, такими як GDPR, CCPA та Акт ЄС про штучний інтелект, які вводять все більш суворі вимоги до захисту даних, прозорості та управління. Вбудовування конфіденційності та відповідності з самого початку дозволяє організаціям орієнтуватися в обмеженнях, зміцнювати довіру та відповідати глобальним очікуванням, що змінюються.

Як концепція конфіденційності на етапі проєктування працює на практиці

Концепція конфіденційності на етапі проєктування – це проактивний підхід, який інтегрує захист даних на кожному етапі розробки штучного інтелекту. У своєму центрі він вирішує фундаментальну проблему: багато процесів, керованих штучним інтелектом, залежать від детальних особистих та поведінкових даних, тоді як найкращі практики захисту конфіденційності вимагають збору лише необхідної інформації та обмеження строку зберігання. Ця напруженість стає ще більш складною в контексті ESG, де організації поєднують дані від працівників, клієнтів, постачальників та сервіс-провайдерів та повинні забезпечити, щоб вони використовувалися лише для призначеної мети та згідно з умовами, за яких вони були зібрані. Організації одержують користь від глибших знань, але окремі особи несуть ризики конфіденційності з обмеженими можливостями бачити, як їхні дані використовуються, або контролювати це.

Цей підхід не усуває напруженість, але надає структурований спосіб її управління. Надійні засоби контролю доступу, шифрування та цифрової перевірки особи допомагають захистити чутливу інформацію. Наприклад, компанія, яка відстежує викиди в ланцюжку постачань, може використовувати зашифровані канали даних та цифрову перевірку особи, щоб доступ до інформації постачальників отримували лише перевірені менеджери зі сталого розвитку, а чутливі відомості залишалися захищеними від інших систем управління операційною діяльністю.

Ефективні стратегії захисту конфіденційності також передбачають відокремлення чутливих даних ESG від іншої операційної інформації та мінімізацію залежності від особистих даних. Хоча техніки захисту конфіденційності, такі як анонімізація, іноді можуть зменшити точність даних, вони можуть допомогти збалансувати знання з конфіденційністю.

Узгодження з міжнародними стандартами, такими як ISO 42001 для управління штучним інтелектом та ISO 27001 для інформаційної безпеки, забезпечує, що конфіденційність вбудовується протягом усього життєвого циклу штучного інтелекту, з ризиками, задокументованими та заходами захисту, які регулярно перевіряються. Нові методи, такі як федеративне навчання та диференційна конфіденційність, дозволяють організаціям тренувати моделі без централізації чутливої інформації. Хоча жодна окрема техніка не вирішує всі проблеми, ці досягнення представляють значний прогрес.

Керування відповідністю та ризиком

Ризик-орієнтований підхід Акта ЄС про штучний інтелект позначає значний крок вперед у регулюванні штучного інтелекту, але його слід розглядати як базовий, а не остаточний стандарт. Застосування з високим ризиком, які впливають на зайнятість, розподіл ресурсів або екологічну відповідність, повинні відповідати суворим стандартам можливості аудиту та прозорості. Системи, визнані неприйнятними, заборонені з самого початку. Тим не менш, організаціям, відданим відповідальному впровадженню штучного інтелекту, не слід розглядати нижчі класифікації ризику як підставу для послаблення своїх стандартів. Навіть інструменти, такі як відстеження вуглецю або панелі оптимізації енергії, які можуть не бути позначені як високоризикові, часто обробляють чутливу інформацію та вимоги, але вони не відображають повний обсяг фактичного ризику.

На практиці концепція конфіденційності на етапі проєктування означає вбудовування безперервного нагляду в системи штучного інтелекту. Це включає регулярне тестування, валідацію та оцінку безпеки, які еволюціонують з новими загрозами. Моделям штучного інтелекту слід працювати в чітко визначених межах і бути здатними відхиляти неоднозначні або некоректно сформовані запити. Рамки, такі як рамка управління ризиком штучного інтелекту NIST, підтримують тривалу відповідальність, з детальним моделюванням даних, ретельними журналами, історією походження та обробки даних та слідами аудиту, які дозволяють швидко реагувати.

Конфіденційність та управління є тривалими зобов’язаннями, а не одноразовими цілями.

Формування довіри та економічне обґрунтування для штучного інтелекту з пріоритетом конфіденційності

Довіра не є побічним продуктом хорошого штучного інтелекту; її потрібно свідомо закладати в кожну систему. У сучасному світі зацікавлені сторони, чи то клієнти, регулятори чи громадськість, все частіше аналізують не тільки заяви про сталість, а й дані та процеси, що стоять за ними. Системи, розроблені з урахуванням можливості аудиту, дозволяють простежити рішення до їхнього походження, відповісти на питання про доступ до даних та використання, а також продемонструвати відповідність стандартам, що змінюються.

В епоху частих звинувачень у грінвошингу, коли довіру до ESG-ініціатив важко здобути, надійні та прозорі практики роботи з даними є невід’ємною частиною вашої розповіді про сталість. Відповідальний прогрес вимагає ретельної перевірки та доброчесності.

Висновок

Сталий штучний інтелект виходить за межі технічної інновації; це питання створення систем, які заслуговують на довіру, одночасно вирішуючи глобальні проблеми. Концепція конфіденційності на етапі проєктування – це фундамент, який легітимізує ці зусилля. Пріоритезація конфіденційності, управління та відповідальності з самого початку зменшує ризик та демонструє зобов’язання щодо відповідального прогресу. У міру посилення регуляторних вимог і зростання очікувань зацікавлених сторін ці архітектурні принципи стануть ще важливішими. Реальне рішення полягає в тому, чи інвестувати активно чи ризикувати відставанням.

Джефф Віллерт є директором із науки про дані для SE Advisory Services, частини нового глобального консалтингового підрозділу Schneider Electric. Він очолює команду, яка надає рішення з науки даних та штучного інтелекту в галузі енергетичного менеджменту та сталості, допомагаючи організаціям зрозуміти свій вуглецевий слід, оптимізувати використання енергії та інших товарів, а також приймати критичні рішення на шляху до декарбонізації.

Кевін Прайс є директором з архітектури програмного забезпечення у Schneider Electric Energy & Sustainability Services, де він займається створенням програмних платформ корпоративного масштабу для допомоги організаціям у керуванні енергетикою, сталим розвитком та декарбонізацією. Він очолює стратегію архітектури та інженерну трансформацію для хмарно-нативних рішень на основі даних, що підтримують керування викидами, звітність ESG, оптимізацію енергетики та операційну сталість у глобальному масштабі. Він пристрасно займається проектуванням безпечних, масштабованих платформ, які поєднують сучасну хмарну архітектуру, аналітику, штучний інтелект та автоматизацію для прискорення переходу до більш сталого майбутнього.