Открывая черный ящик искусственного интеллекта

Искусственный интеллект (ИИ) стал неотъемлемой частью почти всех аспектов нашей повседневной жизни, от персонализированных рекомендаций до критического принятия решений. Это данность, что ИИ будет продолжать развиваться, и вместе с этим, угрозы, связанные с ИИ, также станут более сложными. Когда бизнес внедряет системы обороны, основанные на ИИ, в ответ на растущую сложность, следующим шагом к продвижению культуры безопасности во всей организации является повышение объяснимости ИИ.

Хотя эти системы предлагают впечатляющие возможности, они часто функционируют как “черные ящики” — производя результаты без четкого понимания того, как модель пришла к такому выводу. Проблема ИИ-систем, которые делают ложные заявления или совершают ложные действия, может вызвать значительные проблемы и потенциальные нарушения бизнеса. Когда компании совершают ошибки из-за ИИ, их клиенты и потребители требуют объяснения и вскоре после этого — решения.

Но что виновато? Часто плохие данные используются для обучения. Например, большинство публичных технологий GenAI обучается на данных, доступных в Интернете, которые часто не проверены и неточны. Хотя ИИ может генерировать быстрые ответы, точность этих ответов зависит от качества данных, на которых он обучен.

Ошибки ИИ могут возникать в различных случаях, включая генерацию сценариев с неправильными командами и ложными решениями безопасности, или отказ в доступе сотруднику к бизнес-системам из-за ложных обвинений, выдвинутых ИИ-системой. Все это может вызвать значительные нарушения бизнеса. Это только одна из многих причин, почему обеспечение прозрачности имеет ключевое значение для построения доверия к ИИ-системам.

Строительство доверия

Мы существуем в культуре, где мы внушаем доверие всем видам источников и информации. Но в то же время мы требуем доказательств и подтверждения все чаще и чаще, постоянно проверяя новости, информацию и заявления. Когда речь идет об ИИ, мы доверяем системе, которая может быть неточной. Более того, невозможно знать, точны ли действия ИИ-систем без какой-либо прозрачности в отношении основы, на которой принимаются решения. Что, если ваша кибернетическая ИИ-система отключает машины, но она ошиблась в интерпретации сигналов? Без понимания того, какие данные привели систему к такому решению, нет возможности знать, было ли оно правильным.

Хотя нарушения бизнеса раздражают, одной из более значительных проблем при использовании ИИ является защита данных. ИИ-системы, такие как ChatGPT, являются моделями машинного обучения, которые получают ответы из данных, которые они получают. Следовательно, если пользователи или разработчики случайно предоставляют конфиденциальную информацию, модель машинного обучения может использовать эти данные для генерации ответов другим пользователям, которые раскрывают конфиденциальную информацию. Эти ошибки могут серьезно нарушить эффективность компании, прибыльность и, самое главное, доверие клиентов. ИИ-системы предназначены для повышения эффективности и упрощения процессов, но в случае, когда постоянная проверка необходима, потому что выходные данные не могут быть доверены, организации не только тратят время, но и открывают двери потенциальным уязвимостям.

Обучение команд для ответственного использования ИИ

Чтобы защитить организации от потенциальных рисков использования ИИ, специалистам по информационным технологиям важно адекватно обучать своих коллег, чтобы обеспечить ответственное использование ИИ. Таким образом, они помогают сохранить свою организацию в безопасности от кибератак, которые угрожают их жизнеспособности и прибыльности.

Однако до начала обучения команд IT-руководители должны внутренне согласовать, какие ИИ-системы будут подходящими для их организации. Спешка в ИИ только позже обернется неудачей, поэтому вместо этого начните с малого, сосредоточившись на потребностях организации. Обеспечьте, чтобы стандарты и системы, которые вы выбираете, соответствовали текущему технологическому стеку вашей организации и целям компании, и чтобы ИИ-системы соответствовали тем же стандартам безопасности, что и другие поставщики, которых вы выбираете.

Как только система будет выбрана, специалисты по информационным технологиям могут начать знакомить свои команды с этими системами, чтобы обеспечить успех. Начните с использования ИИ для небольших задач и посмотрите, где он работает хорошо и где нет, и узнайте, какие потенциальные опасности или проверки необходимо применить. Затем представьте использование ИИ для дополнения работы, позволяя быстрее решать простые вопросы “как”. Оттуда можно научиться устанавливать проверки. Это ценно, поскольку мы начнем видеть больше работ, которые будут заключаться в установлении границ и проверках, и уже видим в работах, таких как использование ИИ для помощи в написании программного обеспечения.

Помимо этих действенных шагов для обучения членов команд, инициирование и поощрение дискуссий также важно. Поощряйте открытый, основанный на данных диалог о том, как ИИ служит потребностям пользователей — решает ли он проблемы точно и быстрее, повышаем ли мы производительность как для компании, так и для конечных пользователей, увеличивается ли наш балл удовлетворенности клиентов из-за этих инструментов ИИ? Будьте ясны в отношении возврата инвестиций (ROI) и держите его на переднем плане. Ясная коммуникация позволит осознать ответственное использование, и когда члены команд лучше поймут, как работают ИИ-системы, они с большей вероятностью будут использовать их ответственно.

Как достичь прозрачности в ИИ

Хотя обучение команд и повышение осведомленности важно, для достижения прозрачности в ИИ важно, чтобы был больше контекста вокруг данных, используемых для обучения моделей, обеспечивая, что только качественные данные используются. Надеюсь, в конечном итоге будет способ увидеть, как система рассуждает, чтобы мы могли полностью доверять ей. Но пока мы нуждаемся в системах, которые могут работать с проверками и ограничениями и доказать, что они соответствуют им.

Хотя полная прозрачность в конечном итоге займет время на достижение, быстрый рост ИИ и его использования делает необходимым работать быстро. По мере того, как модели ИИ продолжают увеличиваться в сложности, они имеют силу сделать большую разницу для человечества, но последствия их ошибок также растут. В результате понимание того, как эти системы приходят к своим решениям, является чрезвычайно ценным и необходимым для поддержания эффективности и доверия. Сосредоточившись на прозрачных ИИ-системах, мы можем обеспечить, что технология будет такой же полезной, как и предназначена, оставаясь беспристрастной, этической, эффективной и точной.