Як укріплені сади в громадській безпеці викривають кризу конфіденційності даних Америки

Розширюваний фронт штучного інтелекту та даних, які він вимагає

Штучний інтелект швидко змінює спосіб нашого життя, роботи та управління. У сфері громадського здоров’я та громадських послуг інструменти штучного інтелекту обіцяють більшу ефективність та швидкість прийняття рішень. Однак під поверхнею цієї трансформації зростає дисбаланс: наша здатність збираць даних випереджає нашу здатність керувати ними відповідально.

Це виходить за рамки просто технічної проблеми та стає кризом конфіденційності. Від передбачувального поліцейського програмного забезпечення до засобів спостереження та автоматичних читачів номерних знаків дані про окремих осіб збираються, аналізуються та використовуються з безпрецедентною швидкістю.

Я бачив це вблизь. Як колишній спеціальний агент ФБР у сфері кібербезпеки та зараз керівник компанії з технологій громадської безпеки, я працював у державному та приватному секторах. Одне є ясним: якщо ми не виправимо спосіб керування конфіденційністю даних зараз, штучний інтелект тільки погіршить існуючі проблеми. І одна з найбільших проблем – укріплені сади.

Що таке укріплені сади та чому вони небезпечні в громадській безпеці?

Укріплені сади – це закриті системи, де одна компанія контролює доступ, потік та використання даних. Вони поширені в рекламі та соціальних мережах (наприклад, платформи Facebook, Google та Amazon), але все частіше з’являються в громадській безпеці.

Компанії громадської безпеки відіграють ключову роль у сучасній інфраструктурі поліції, однак власницька природа деяких цих систем означає, що вони не завжди спроектовані для взаємодії з інструментами інших виробників.

Ці укріплені сади можуть пропонувати потужну функціональність, наприклад, хмарні відеозаписи з камер спостереження або автоматичні читачі номерних знаків, але вони також створюють монополію над тим, як дані зберігаються, доступуються та аналізуються. Поліцейські відомства часто опиняються в довгострокових контрактах з власницькими системами, які не взаємодіють одна з одною. Результат – фрагментація, ізольовані знання та нездатність ефективно реагувати на ситуації в громаді, коли це найважливіше.

Громадськість не знає, і це проблема

Більшість людей не усвідомлюють, скільки їхніх особистих даних потрапляє до цих систем. У багатьох містах ваше місце розташування, транспорт, онлайн-активність та навіть емоційний стан можуть бути витягнуті та відстежені через набір інструментів штучного інтелекту. Ці інструменти можуть бути представлені як покращення боротьби з злочинністю, але в відсутності прозорості та регулювання вони можуть бути легко вживані неправильно.

І не тільки те, що дані існують, а й те, що вони існують у укріплених екосистемах, які контролюються приватними компаніями з мінімальним наглядом. Наприклад, інструменти читачів номерних знаків тепер існують у тисячах громад по всьому США, збираючи дані та надсилаючи їх до своїх власницьких мереж. Поліцейські відомства часто навіть не володіють апаратним забезпеченням, вони його орендують, що означає, що потік даних, аналіз та попередження диктуються виробником, а не громадською згодою.

Чому це повинно викликати червоні прапори

Штучний інтелект потребує даних, щоб функціонувати. Однак, коли дані заблоковані всередині укріплених садів, їх не можна перехресно перевірити, перевірити чи оскаржити. Це означає, що рішення про те, кого зупинити, куди спрямовувати ресурси чи кого позначити як загрозу, приймаються на основі часткової, іноді неточної інформації.

Ризик полягає у тому, що погані рішення, потенційні порушення цивільних свобод та зростаючий розрив між поліцейськими відомствами та громадами, яких вони обслуговують. Прозорість зникає. Довіра випаровується. І інновації гальмуються, оскільки нові інструменти не можуть увійти на ринок, якщо вони не відповідають обмеженням цих укріплених систем.

У сценарії, коли система розпізнавання номерних знаків неправильно позначає вкрадену машину на основі застарілих або спільних даних, без можливості перевірити цю інформацію через платформи чи аудитувати, як було прийнято це рішення, офіцери можуть діяти на підставі хибних позитивів. Ми вже бачили випадки, коли помилкова технологія призвела до неправильних арештів чи ескалації сутичок. Ці результати не є гіпотетичними, вони відбуваються у громадах по всій країні.

Що насправді потрібно правоохоронним органам

Натомість того, щоб замкнути дані, нам потрібні відкриті екосистеми, які підтримують безпечне, стандартизоване та міжопераційне обміну даними. Це не означає жертвування конфіденційністю. Навпаки, це єдиний спосіб забезпечити дотримання захисту конфіденційності.

Деякі платформи працюють над цим. Наприклад, FirstTwo пропонує інструменти ситуаційної свідомості в реальному часі, які підкреслюють відповідальну інтеграцію публічно доступних даних. Інші, як ForceMetrics, зосереджені на поєднанні різних наборів даних, таких як дзвінки 911, записи про поведінкове здоров’я та попередню історію інцидентів, щоб надати офіцерам краще контексту в поліції. Однак ці системи будуються з урахуванням потреб громадської безпеки та поваги до громади як пріоритету, а не післяthought.

Будівництво інфраструктури, орієнтованої на конфіденційність

Підхід, орієнтований на конфіденційність, означає не тільки видалення конфіденційних даних. Це означає обмеження доступу до даних, якщо немає явної, законної потреби. Це означає документування того, як приймаються рішення, та надання можливості третьої сторони проводити аудити. Це означає партнерство з громадськими зацікавленими сторонами та групами захисту цивільних прав для формування політики та реалізації. Ці кроки призводять до посилення безпеки та загальної легітимності.

Незважаючи на технологічні досягнення, ми все ще діємо у юридичному вакуумі. У США відсутня комплексна федеральна законодавство про конфіденційність даних, залишаючи агентства та виробників самим створювати правила. Європа має GDPR, який пропонує план для використання даних на основі згоди та підзвітності. США, навпаки, мають фрагментований ландшафт державної політики, який не достатньо адресує складності штучного інтелекту у громадських системах.

Це повинно змінитися. Нам потрібні чіткі, виконувані стандарти щодо того, як правоохоронні органи та організації громадської безпеки збирають, зберігають та діляться даними. І нам потрібно включити громадських зацікавлених сторін до розмови. Згода, прозорість та підзвітність повинні бути закладені в кожному рівні системи, від закупівель до реалізації до щоденного використання.

Основна думка: Без міжопераційної сумісності конфіденційність страждає

У громадській безпеці життя людей під загрозою. Ідея про те, що один виробник може контролювати доступ до критично важливих даних та обмежувати, як і коли вони використовуються, не тільки неефективна. Це аморально.

Нам потрібно рухатися далі від міфу про те, що інновації та конфіденційність суперечать одна одній. Відповідальний штучний інтелект означає більш справедливі, ефективні та підзвітні системи. Це означає відхилення від блокування виробників, пріоритет міжопераційної сумісності та вимогу відкритих стандартів. Бо у демократії жодна компанія не повинна контролювати дані, які визначають, хто отримує допомогу, хто зупиняється чи хто залишається позаду.