Учитывайте риски, прежде чем использовать Bard с расширениями ИИ

Google недавно объявила о полном запуске расширений Bard, интегрируя инструмент разговорного генеративного ИИ (GenAI) в свои другие сервисы. Теперь Bard может использовать личные данные пользователей для выполнения различных задач – организовывать электронную почту, бронировать рейсы, планировать поездки, создавать ответы на сообщения и многое другое.

С учетом того, что сервисы Google уже глубоко интегрированы в нашу повседневную жизнь, это объединение представляет собой真正щий шаг вперед для практических ежедневных применений GenAI, создавая более эффективные и продуктивные способы обработки личных задач и рабочих процессов. Следовательно, когда Google выпускает более удобные инструменты ИИ, другие веб-ориентированные функции ИИ появляются, чтобы удовлетворить спрос пользователей, ищущих расширения продуктивности на основе браузера.

Пользователи, однако, также должны быть осторожны и ответственными. Как полезны и продуктивны расширения Bard и подобные инструменты могут быть, они открывают новые двери к потенциальным уязвимостям безопасности, которые могут поставить под угрозу личные данные пользователей, среди других еще не открытых рисков. Пользователям, желающим использовать Bard или другие инструменты продуктивности GenAI, будет полезно узнать лучшие практики и найти комплексные решения безопасности, прежде чем слепо передавать свою конфиденциальную информацию.

Проверка личных данных

Google явно заявляет, что сотрудники компании могут просматривать разговоры пользователей с Bard – которые могут содержать частную информацию, от счетов до банковских реквизитов до любовных записок. Пользователям предупреждают соответственно не вводить конфиденциальную информацию или любые данные, которые они не хотели бы, чтобы сотрудники Google увидели или использовали для информирования продуктов, сервисов и технологий машинного обучения.

Google и другие поставщики инструментов GenAI также, вероятно, будут использовать личные данные пользователей для повторной тренировки своих моделей машинного обучения – необходимого аспекта улучшения GenAI. Сила ИИ заключается в его способности учиться самостоятельно и получать новые знания, но когда эти новые знания поступают от пользователей, которые доверили расширению GenAI свои личные данные, существует риск интеграции информации, такой как пароли, банковские реквизиты или контактные данные, в публично доступные сервисы Bard.

Неопределенные проблемы безопасности

Когда Bard становится более интегрированным инструментом в Google, эксперты и пользователи все еще работают над пониманием объема его функциональности. Но как и каждый передовой игрок в области ИИ, Google продолжает выпускать продукты, не зная точно, как они будут использовать информацию и данные пользователей. Например, было недавно раскрыто, что если вы поделитесь разговором Bard с другом через кнопку “Поделиться”, весь разговор может появиться в стандартных результатах поиска Google для всех, чтобы увидеть.

Хотя это и заманчивое решение для улучшения рабочих процессов и эффективности, предоставление Bard или любому другому расширению, работающему на ИИ, разрешения на выполнение полезных повседневных задач от вашего имени может привести к нежелательным последствиям в виде “галлюцинаций” ИИ – ложных или неточных выводов, которые GenAI иногда создает.

Для пользователей Google это может означать бронирование неправильного рейса, неточную оплату счета или отправку документов не тому человеку. Раскрытие личных данных не тому лицу или злонамеренному актору или отправка неправильных данных правильному человеку может привести к нежелательным последствиям – от кражи личности и потери цифровой приватности до потенциальных финансовых потерь или раскрытия смущающей переписки.

Расширение безопасности

Для среднего пользователя ИИ лучшей практикой является просто не делиться какой-либо личной информацией с еще непредсказуемыми помощниками ИИ. Но это alone не гарантирует полную безопасность.

Переход на SaaS и веб-ориентированные приложения уже сделал браузер основной целью для атакующих. И когда люди начинают использовать больше веб-ориентированных инструментов ИИ, окно возможностей для кражи конфиденциальных данных открывается немного шире. Когда больше расширений браузера пытаются воспользоваться успехом GenAI – заманивая пользователей новыми и эффективными функциями – люди должны быть осторожны с тем, что многие из этих расширений в конечном итоге будут красть информацию или ключи API OpenAI пользователя, в случае инструментов, связанных с ChatGPT.

К счастью, уже существуют решения безопасности для браузерных расширений, чтобы предотвратить кражу данных. Реализуя браузерное расширение с контролями DLP, пользователи могут смягчить риск приглашения других браузерных расширений, основанных на ИИ или нет, для злоупотребления или обмена личными данными. Эти расширения безопасности могут проверять активность браузера и обеспечивать соблюдение политик безопасности, предотвращая риск веб-приложений от получения конфиденциальной информации.

Защитите Bard

Хотя Bard и другие подобные расширения обещают улучшенную продуктивность и удобство, они несут существенные риски кибербезопасности. Когда личные данные участвуют, всегда есть основные проблемы безопасности, о которых пользователи должны быть осведомлены – еще больше в новых, еще неисследованных водах Генеративного ИИ.

Когда пользователи разрешают Bard и другим веб-ориентированным инструментам действовать самостоятельно с конфиденциальными личными данными, более серьезные последствия, безусловно, ожидают неосведомленных пользователей, которые оставляют себя уязвимыми без расширений безопасности браузера или контроля DLP. Ведь рост продуктивности будет намного менее продуктивным, если он увеличивает шанс раскрытия информации, и люди должны установить меры безопасности для ИИ, прежде чем данные будут неправильно обработаны за их счет.