Opinión

La IA está llegando a nuestros PC, pero ¿quién controla lo que puede ver?

Adlin Pertishya
Añade Unite.AI a tus fuentes preferidas en Google
Puntos claveEl procesamiento local de IA no garantiza automáticamente la privacidad ni la seguridad…
Ver más
  • El procesamiento local de IA no garantiza automáticamente la privacidad ni la seguridad de los agentes en el dispositivo.
  • Los agentes deben operar con acceso de mínimo privilegio limitado a lo que requiere cada flujo de trabajo específico.
  • Los usuarios necesitan un control transparente y revocable sobre lo que los agentes pueden ver y hacer.

Los agentes de IA están empezando a salir de las ventanas de chat y a incorporarse a los sistemas operativos, las aplicaciones y los archivos que la gente usa a diario.

Los nuevos PC con Windows y el software lanzado en los últimos meses están dando paso a una nueva era de flujos de trabajo autónomos de IA con varios pasos, tanto para los usuarios comunes como en los entornos empresariales. Esta transición ya no es solo una previsión tecnológica.

Los PC con Windows equipados con RTX de NVIDIA permiten ejecutar agentes de IA localmente, mientras que Perplexity ha ampliado las capacidades de sus agentes a equipos Windows compatibles, lo que hace posibles flujos de trabajo que implican archivos locales y aplicaciones conectadas. Mientras tanto, Microsoft está desarrollando medidas de protección para controlar cómo acceden los agentes a los recursos y actúan.

Pero una mayor autonomía conlleva mayores riesgos de seguridad. El 19 de octubre, Hayete Gallot, vicepresidenta ejecutiva de Seguridad de Microsoft, advirtió que las organizaciones deben hacer más para proteger a los «agentes internos», y señaló que los agentes de IA suelen tener permisos excesivos y pueden acceder a datos confidenciales, herramientas y sistemas mientras toman decisiones en procesos críticos.

La estrategia de seguridad de Windows de Microsoft se basa en la contención, los permisos limitados y la supervisión limitada, y refleja una preocupación cada vez mayor por las repercusiones que podría tener el error de un agente, más allá de una simple respuesta equivocada. Este podría revelar información confidencial, modificar archivos críticos o provocar actividades no deseadas en aplicaciones empresariales.

La IA local no es automáticamente una IA privada

Usar agentes de IA en un PC puede ayudar a reducir la cantidad de datos confidenciales que se transfieren a servicios en la nube, pero el procesamiento local no es una garantía de seguridad absoluta.

Incluso un modelo que se ejecuta en el dispositivo puede tener acceso a demasiados archivos, contar con una seguridad deficiente o estar conectado de forma poco segura a otras aplicaciones.

El problema no siempre es el modelo de IA; a menudo es la gobernanza de la organización, afirmó Bayron Quintero, director ejecutivo y cofundador de iData Global, una empresa especializada en soluciones de IA en toda América.

Las empresas pueden conceder demasiado o muy poco acceso a datos, aplicaciones y procesos empresariales, explicó a Unite AI. Es posible que se otorguen a los agentes permisos que no se corresponden con las tareas que se espera que realicen.

«El desafío consiste en garantizar que un agente opere conforme al principio de privilegio mínimo, con acceso únicamente a los datos, sistemas y acciones que requiere un flujo de trabajo concreto», afirmó Quintero. Esto significa conceder acceso solo a los datos, sistemas y acciones necesarios para un flujo de trabajo específico.

Señaló que la titularidad clara de los datos, los controles de acceso basados en roles y la supervisión continua de las interacciones con sistemas internos y de terceros son medidas de protección esenciales.

No existe la IA local segura, recalcó Quintero.

Los permisos excesivos, el cifrado débil, la supervisión insuficiente y las integraciones inseguras pueden hacer que un agente que se ejecuta en el dispositivo sea tan arriesgado como uno basado en la nube, o incluso más.

La seguridad no depende solo de dónde se ejecuta el modelo de un sistema, sino también de cómo se configura y administra.

El nuevo límite son los permisos

Para los usuarios comunes, la cuestión es si el acceso de un agente de IA es adecuado para la tarea que debe realizar.

Un agente no debería tener que analizar una unidad entera si solo se le pide que resuma un documento. Una herramienta para organizar fotos no debería leer automáticamente datos financieros ni poder enviar mensajes. Los permisos deben ser estrictos, transparentes y revocables.

El modelo de cuenta de agente y espacio de trabajo de Microsoft es un paso hacia la separación de la actividad de un agente de la sesión de una persona. Sin embargo, las protecciones deben ser eficaces más allá de las demostraciones.

Las directrices de seguridad de Microsoft para los agentes de Windows exigen autorización del usuario, registros de actividad y un mecanismo que limite a los agentes al acceso que necesitan. Los empleadores y los desarrolladores deben supervisar cómo reaccionan los agentes ante instrucciones engañosas en documentos, sitios web o mensajes.

Durante una tarea autorizada, los agentes pueden encontrarse con contenido que no es de confianza. Si un agente interpreta un texto malicioso como una orden, podría surgir un grave problema de seguridad, ya que se puede acceder fácilmente a la información.

La aprobación humana y el acceso con privilegios mínimos deben ir de la mano de la contención cuando se trata de acciones sensibles.

La comodidad necesita límites claros

Los PC con IA no solo se evaluarán por la cantidad de trabajo que los agentes pueden automatizar, sino también por la confianza de los usuarios a la hora de compartir datos personales y profesionales.

Con el procesamiento local, la IA agéntica puede aumentar la velocidad y reducir la exposición de ciertos datos, pero eso no elimina la necesidad de permisos y supervisión.

El principio debería ser sencillo: los agentes solo deben tener acceso a lo necesario para realizar su trabajo, y los usuarios deben poder comprender, supervisar y bloquear lo que hace un agente.

A medida que los ordenadores adquieren más capacidad para actuar en nuestro nombre, el control no debe dejarse para después: debe formar parte del diseño.

Adlin Pertishya es un reportero de tecnología y negocios que ha trabajado para Finance Outlook India, Silicon India, StartupBeat y otros.