Considera los Riesgos Antes de Subirte a Bard con Extensiones de IA

Google acaba de anunciar el lanzamiento a gran escala de Bard Extensions, integrando la herramienta de inteligencia artificial generativa conversacional (GenAI) en sus otros servicios. Bard ahora puede aprovechar los datos personales de los usuarios para realizar diversas tareas: organizar correos electrónicos, reservar vuelos, planificar viajes, redactar respuestas a mensajes y mucho más.

Con los servicios de Google ya profundamente entretejidos en nuestra vida diaria, esta integración marca un verdadero paso adelante para aplicaciones prácticas diarias de GenAI, creando formas más eficientes y productivas de manejar tareas y flujos de trabajo personales. En consecuencia, a medida que Google lanza herramientas de IA más convenientes, otras características de IA basadas en la web están surgiendo para satisfacer la demanda de los usuarios que buscan extensiones de productividad basadas en el navegador.

Los usuarios, sin embargo, también deben ser cautelosos y responsables. Tan útiles y productivas como pueden ser Bard Extensions y herramientas similares, abren nuevas puertas a posibles fallos de seguridad que pueden comprometer los datos personales de los usuarios, entre otros riesgos aún no descubiertos. Los usuarios que deseen aprovechar Bard u otras herramientas de productividad de GenAI harían bien en aprender las mejores prácticas y buscar soluciones de seguridad integral antes de entregar su información sensible sin mirar.

Revisando los Datos Personales

Google establece explícitamente que su personal puede revisar las conversaciones de los usuarios con Bard, que pueden contener información privada, desde facturas hasta detalles bancarios y notas de amor. A los usuarios se les advierte en consecuencia que no ingresen información confidencial o cualquier dato que no deseen que los empleados de Google vean o utilicen para informar productos, servicios y tecnologías de aprendizaje automático.

Google y otros proveedores de herramientas de GenAI también pueden utilizar los datos personales de los usuarios para volver a entrenar sus modelos de aprendizaje automático, un aspecto necesario para mejorar GenAI. El poder de la IA radica en su capacidad para enseñarse a sí misma y aprender de nueva información, pero cuando esa nueva información proviene de los usuarios que han confiado a una extensión de GenAI sus datos personales, corre el riesgo de integrar información como contraseñas, información bancaria o detalles de contacto en los servicios públicos de Bard.

Preocupaciones de Seguridad Indeterminadas

A medida que Bard se convierte en una herramienta más integrada dentro de Google, expertos y usuarios por igual están trabajando para comprender la extensión de su funcionalidad. Pero al igual que todos los actores de vanguardia en el campo de la IA, Google continúa lanzando productos sin saber exactamente cómo utilizarán la información y los datos de los usuarios. Por ejemplo, se reveló recientemente que si compartes una conversación de Bard con un amigo a través del botón Compartir, toda la conversación puede aparecer en los resultados de búsqueda de Google estándar para que cualquier persona la vea.

Aunque sea una solución atractiva para mejorar los flujos de trabajo y la eficiencia, dar permiso a Bard o a cualquier otra extensión de IA para realizar tareas útiles diarias en su nombre puede llevar a consecuencias no deseadas en forma de alucinaciones de IA: salidas falsas o inexactas que GenAI es conocida por crear ocasionalmente.

Para los usuarios de Google, esto podría significar reservar un vuelo incorrecto, pagar incorrectamente una factura o compartir documentos con la persona equivocada. Exponer datos personales a la persona equivocada o a un actor malicioso, o enviar los datos incorrectos a la persona correcta, puede llevar a consecuencias no deseadas: desde el robo de identidad y la pérdida de privacidad digital hasta pérdidas financieras potenciales o exposición de correspondencia vergonzosa.

Ampliando la Seguridad

Para el usuario de IA promedio, la mejor práctica es simplemente no compartir ninguna información personal con asistentes de IA aún impredecibles. Pero eso solo no garantiza la seguridad total.

El cambio a aplicaciones y servicios basados en la web ya ha convertido al navegador en un objetivo principal para los atacantes. Y a medida que la gente comienza a adoptar más herramientas de IA basadas en la web, la ventana de oportunidad para robar datos sensibles se abre un poco más. A medida que más extensiones de navegador intentan aprovechar el éxito de GenAI, atractivos a los usuarios con nuevas características y funciones eficientes, la gente debe ser consciente de que muchas de estas extensiones terminarán robando información o las claves de API de OpenAI del usuario, en el caso de herramientas relacionadas con ChatGPT.

Afortunadamente, ya existen soluciones de seguridad de extensiones de navegador para prevenir el robo de datos. Al implementar una extensión de navegador con controles de DLP, los usuarios pueden mitigar el riesgo de invitar a otras extensiones de navegador, basadas en IA o no, a malversar o compartir datos personales. Estas extensiones de seguridad pueden inspeccionar la actividad del navegador y hacer cumplir las políticas de seguridad, evitando el riesgo de que las aplicaciones web basadas en la web obtengan información sensible.

Protege a Bard

Aunque Bard y otras extensiones similares prometen una mayor productividad y comodidad, conllevan riesgos cibernéticos significativos. Cada vez que se involucran datos personales, siempre hay preocupaciones de seguridad subyacentes que los usuarios deben ser conscientes, aún más en las aguas inexploradas de la Inteligencia Artificial Generativa.

Al permitir que Bard y otras herramientas de IA y basadas en la web actúen de forma independiente con datos personales sensibles, es probable que se produzcan repercusiones más graves para los usuarios desprevenidos que se dejan vulnerables sin extensiones de seguridad de navegador o controles de DLP. Después de todo, un impulso en la productividad será mucho menos productivo si aumenta la posibilidad de exponer información, y las personas necesitan establecer salvaguardias para la IA antes de que se malversen datos a su costa.