Учитывайте риски перед использованием Bard с расширениями ИИ

Google недавно объявила о полном запуске расширений Bard, интегрируя инструмент генеративного ИИ (GenAI) в свои другие сервисы. Теперь Bard может использовать личные данные пользователей для выполнения различных задач – организовать электронную почту, забронировать рейсы, спланировать поездки, создать ответы на сообщения и многое другое.

Поскольку сервисы Google уже глубоко интегрированы в нашу повседневную жизнь, это интеграция означает真正щий шаг вперед для практического применения GenAI в повседневной жизни, создавая более эффективные и продуктивные способы обработки личных задач и рабочих процессов. Следовательно, когда Google выпускает более удобные инструменты ИИ, другие веб-ориентированные функции ИИ появляются, чтобы удовлетворить спрос пользователей, ищущих расширения продуктивности на основе браузера.

Однако пользователи также должны быть осторожными и ответственными. Как полезными и продуктивными могут быть расширения Bard и подобные инструменты, они открывают новые двери к потенциальным уязвимостям безопасности, которые могут поставить под угрозу личные данные пользователей, а также другие еще не открытые риски. Пользователям, которые хотят использовать Bard или другие инструменты продуктивности GenAI, будет полезно узнать лучшие практики и найти комплексные решения безопасности до того, как они передадут свои конфиденциальные данные.

Проверка личных данных

Google явно заявляет, что сотрудники компании могут просматривать разговоры пользователей с Bard – которые могут содержать конфиденциальную информацию, от счетов до банковских данных и любовных записок. Пользователям предупреждают не вводить конфиденциальную информацию или любые данные, которые они не хотели бы, чтобы сотрудники Google видели или использовали для информирования продуктов, услуг и технологий машинного обучения.

Google и другие поставщики инструментов GenAI, вероятно, также будут использовать личные данные пользователей для повторной тренировки своих моделей машинного обучения – необходимого аспекта улучшения GenAI. Сила ИИ заключается в его способности самообучаться и учиться на новой информации, но когда эта новая информация поступает от пользователей, которые доверили расширению GenAI свои личные данные, существует риск интеграции информации, такой как пароли, банковские данные или контактные данные, в публично доступные сервисы Bard.

Неопределенные проблемы безопасности

Когда Bard становится более интегрированным инструментом в Google, эксперты и пользователи все еще работают над пониманием объема его функциональности. Но, как и каждый передовой игрок в области ИИ, Google продолжает выпускать продукты без знания того, как они будут использовать информацию и данные пользователей. Например, было недавно обнаружено, что если вы поделитесь разговором Bard с другом через кнопку “Поделиться”, весь разговор может появиться в стандартных результатах поиска Google для всех, чтобы увидеть.

Хотя решение для улучшения рабочих процессов и эффективности может показаться привлекательным, предоставление Bard или любому другому расширению ИИ разрешения на выполнение полезных повседневных задач от вашего имени может привести к нежелательным последствиям в виде “галлюцинаций ИИ” – ложных или неточных выводов, которые GenAI иногда создает.

Для пользователей Google это может означать бронирование неправильного рейса, неточную оплату счета или обмен документами с неправильным человеком. Раскрытие личных данных неправильному человеку или злоумышленнику или отправка неправильных данных правильному человеку может привести к нежелательным последствиям – от кражи личности и потери цифровой конфиденциальности до потенциальных финансовых потерь или раскрытия неловкой переписки.

Расширение безопасности

Для среднего пользователя ИИ лучшей практикой является просто не делиться никакой личной информацией с еще непредсказуемыми помощниками ИИ. Но это alone не гарантирует полную безопасность.

Переход на программное обеспечение как услугу и веб-приложения уже сделал браузер основной целью для атакующих. И когда люди начинают использовать больше веб-ориентированных инструментов ИИ, окно возможностей для кражи конфиденциальных данных открывается немного шире. Когда больше расширений браузера пытаются использовать успех GenAI – заманивая пользователей новыми и эффективными функциями – люди должны быть осторожными с тем, что многие из этих расширений в конечном итоге украдут информацию или ключи API OpenAI пользователя, в случае инструментов, связанных с ChatGPT.

К счастью, решения безопасности для расширений браузера уже существуют, чтобы предотвратить кражу данных. Реализуя расширение браузера с контролями DLP, пользователи могут снизить риск приглашения других расширений браузера, основанных на ИИ или нет, на неправильное использование или обмен личными данными. Эти расширения безопасности могут проверять активность браузера и обеспечивать соблюдение политик безопасности, предотвращая риск веб-приложений, которые получают конфиденциальную информацию.

Защитите Bard

Хотя Bard и другие подобные расширения обещают улучшить продуктивность и удобство, они несут значительные риски кибербезопасности. Когда личные данные участвуют, всегда есть основные проблемы безопасности, о которых пользователи должны быть осведомлены – еще больше в новых, еще неисследованных водах Генеративного ИИ.

Когда пользователи разрешают Bard и другим веб-инструментам ИИ действовать самостоятельно с конфиденциальными личными данными, более серьезные последствия обязательно будут для неосведомленных пользователей, которые оставляют себя уязвимыми без расширений безопасности браузера или контроля DLP. Ведь рост продуктивности будет намного менее продуктивным, если он увеличивает шанс раскрытия информации, и люди должны установить меры безопасности для ИИ до того, как данные будут неправильно обработаны за их счет.