Штучний інтелект: Народний, для народу та народу

Автор: Балакрішна (Балі) Д Р, старший віце-президент, керівник напрямку послуг – ECS, штучний інтелект та автоматизація в Infosys.

Ми маємо щастя жити в епоху технологій, де штучний інтелект працює дуже важко, щоб зробити нашу життя легшим – наші телефони тепер розпізнають нас і розблоковуються, коли вони “бачать” нас, у нас є розмовні карти, які допомагають нам знайти найкоротший, найменш зайнятий шлях, щоб дістатися туди, куди ми хочемо, розумні пристрої, які нагрівають і охолоджують наші будинки, навіть до того, як ми скажемо слово, інтелектуальні програми, які передбачають і запобігають шахрайству, і багато іншого.

Однак, у нас також були випадки, коли ці розумні системи штучного інтелекту не виправдали наших очікувань з точки зору справедливості та етики. Наприклад, відомий банк, який працює з нами, підозрював, що моделі штучного інтелекту, які вони використовують для оцінки кредитної гідності перед видачею кредитів, можуть бути упередженими, і вони звернулися до нас за допомогою. В іншому випадку виробник машин працював з нами, щоб проаналізувати закономірності гарантійних вимог, щоб усунути упередженість з даних і процесу, перш ніж переробити і автоматизувати процес схвалення вимог. Моделі штучного інтелекту, пов’язані з भरтом персоналу, часто виявляються зіпсованими упередженостями віку, статі, раси, навіть поштового індексу, в їхніх даних – надають несправедливі результати, якщо їх не контролюють.

Через величезний вплив упередженості штучного інтелекту на все підприємство, етичні питання зайняли центральне місце в розробці, впровадженні та використанні систем штучного інтелекту. Системи штучного інтелекту є поєднанням багатьох людських рішень, які самі по собі також засновані на людських упередженостях. Захист автономії та приватності працівників, ризики упередженості, які впливають на кар’єрний рост і можливості, дискримінація на підставі кольору шкіри, раси чи статі, відсутність пояснення вибору, зробленого рішенням штучного інтелекту, а отже, відповідальність за прийняття рішень штучним інтелектом, активно обговорюються при обговоренні штучного інтелекту та його заслуг.

Створення відповідального штучного інтелекту

Упередженість штучного інтелекту може мати хвиляовий ефект на все підприємство. Тому керівники ІТ повинні забезпечити, щоб вони розгортали штучний інтелект етичним способом, який працює з працівниками, а не проти них. Для цього організації повинні включити наступне в свої розгортання штучного інтелекту.

Управління даними: Етичне використання штучного інтелекту також залежить від добре керованого використання даних, починаючи з джерел даних етично та прозоро. Для цього керівники ІТ повинні створити добре визначений каркас управління, який забезпечить безпеку даних, цілісність і приватність, а також запобіжить корупції та втраті даних – все це необхідно.

Відповідальність: Моделі машинного навчання повинні бути справедливими, необмеженими, рівними для всіх людей і також розподіляти вигоди справедливо (подібний рівень прийняття і відхилення) серед усіх атрибутів, таких як раса, релігія, стать тощо. Вони повинні досягати прийнятної точності не тільки в цілому, але й у меншинських класах. Ці моделі повинні бути пояснюваними, коли справа доходить до пояснення того, як було досягнуто результат. Наприклад, бути能够 пояснити, чому модель відхилила заявку на кредит від заявника А, але схвалила ту ж заявку від заявника Б. Керівники ІТ, які розробляють рішення штучного інтелекту, повинні зробити під час прийняття рішень зрозумілим для бізнес-стейкхолдерів, щоб була більша прозорість у всьому підприємстві.

Стійкість до протидії: Tüm екосистема штучного інтелекту повинна погодитися на необхідність тестування і хакерських атак моделей штучного інтелекту через симуляції для вивчення потенційних негативних результатів. Наприклад, керівники ІТ можуть використовувати наступні тести, щоб перевірити свої системи штучного інтелекту і підготуватися до потенційних перешкод.

• Змінити дані: безпосередньо змінити набір даних, використаний для навчання, шляхом ін’єкції даних, зміни і корупції логіки
• Змінити моделі: перевірити на зниження впевненості і неправильну класифікацію
• Допоміжні інструменти: використовувати інструменти для впливу або корупції результатів

Людина в циклі: Моделі штучного інтелекту повинні бути позбавлені ризику шляхом включення людей у всі ключові рішення та наявності ефективного механізму резервного копіювання або альтернативного шляху, якщо система штучного інтелекту повинна бути зупинена.

Розробка соціальної згоди для штучного інтелекту

Крім цих рекомендацій, нам потрібно сприяти інклюзивним обговоренням і дискусіям між усіма лідерами підприємства щодо вигод, інтересів, витрат і наслідків будь-якого великого розгортання штучного інтелекту. Только такі інклюзивні процеси, які включають усіх зацікавлених сторін, для обговорення і прийняття прийнятних результатів, і зважування ризиків і вигод, можуть забезпечити технологіям штучного інтелекту ліцензію на роботу в всьому підприємстві. по всьому підприємству, щодо вигод, інтересів, витрат і наслідків будь-якого великого розгортання штучного інтелекту. Только такі інклюзивні процеси, які включають усіх зацікавлених сторін, для обговорення і прийняття прийнятних результатів, і зважування ризиків і вигод, можуть забезпечити технологіям штучного інтелекту ліцензію на роботу в всьому підприємстві.