Por qué prohibir el uso de la IA aumenta los riesgos de seguridad y cómo deben responder las instituciones

En todo Estados Unidos, los distritos escolares y las organizaciones del sector público están restringiendo o bloqueando el acceso a tecnologías de inteligencia artificial generativa (IA) o herramientas específicas. En Colorado, el distrito escolar de Boulder Valley recientemente prohibió ChatGPT en las redes del distrito, citando preocupaciones sobre el mal uso, la seguridad y la integridad académica.

El instinto de reducir la exposición a incidentes de seguridad o mal uso de datos es comprensible. Las plataformas con guardrails débiles o compromisos de privacidad poco claros, como DeepSeek, merecen restricciones y escrutinio. Pero prohibir el acceso a herramientas de IA no reduce significativamente el riesgo; a menudo solo lo desplaza a entornos donde la supervisión desaparece.

Una encuesta de la Junta de Exámenes de la Universidad encontró que el 84% de los estudiantes de secundaria informaron que usaron IA generativa para tareas escolares, incluso cuando el 45% de los directores informaron al menos algunas restricciones en el acceso a la IA en la escuela. De manera similar, un informe de IBM encontró que el 80% de los trabajadores de oficina usan IA, pero solo el 22% se basa exclusivamente en herramientas proporcionadas por el empleador.

Las políticas de acceso solas no determinan el comportamiento. Los estudiantes pueden sacar sus teléfonos y usar cualquier herramienta de IA a través de su red de datos celulares, o usar la plataforma mientras están en casa o en Wi-Fi pública. También pueden usar VPN, escritorios remotos y complementos para evadir restricciones. Los empleados pueden hacer lo mismo para evitar los controles en el lugar de trabajo.

Las organizaciones deben asumir que cuando hay una voluntad de usar IA, hay una forma. Cuando la tecnología se limita de una manera que impulsa su uso más allá de la visibilidad institucional, el riesgo de IA sombra se intensifica. No hay supervisión sobre qué información se ingresa en los prompts o qué datos se retienen en el modelo. Cualquier control sobre la seguridad se va de inmediato.

Más allá del riesgo de IA sombra, las prohibiciones crean una brecha de alfabetización, dejando a los estudiantes completamente desprovistos de preparación para usar la tecnología que será una gran parte de su futuro. Estas herramientas están cada vez más integradas en motores de búsqueda, plataformas empresariales, suites de productividad y dispositivos personales. Una encuesta de Pew Research encontró que el 62% de los adultos estadounidenses dicen que interactúan con IA al menos varias veces a la semana. Es casi seguro que los estudiantes y empleados encontrarán sistemas de IA generativa independientemente de las políticas institucionales.

En este entorno, la educación es el salvaguardia más confiable contra las preocupaciones sobre el mal uso o la seguridad, y para asegurarse de que los estudiantes y los trabajadores estén bien preparados para usar una herramienta que será integral para sus carreras. Enseñar un uso responsable y ético equipa a los usuarios para reconocer los riesgos de datos y tomar decisiones informadas dondequiera que encuentren estos sistemas.

Los programas educativos deben centrarse en cómo los grandes modelos de lenguaje (LLM) procesan y retienen datos, cómo identificar alucinaciones, cómo verificar las salidas generadas por IA, y cómo identificar campañas de phishing y imágenes generadas por IA, por nombrar algunas. Enseñar a los usuarios a ser escépticos. Las salidas de IA a menudo se presentan con confianza y en lenguaje pulido, lo que puede crear una ilusión de autoridad. Sin capacitación, los usuarios pueden asumir que una respuesta bien formateada es inherentemente precisa.

La capacidad de cuestionar el contenido digital es una defensa de primera línea a medida que los deepfakes y las campañas de phishing mejoradas con IA se vuelven más sofisticados. Una encuesta de Gartner encontró que el 62% de las organizaciones experimentaron un ataque de deepfake el año pasado, y el 32% enfrentó un ataque en aplicaciones de IA. La frecuencia y el alcance de estos incidentes solo se espera que sigan aumentando.

Las instituciones del sector público, como las escuelas y los gobiernos locales, están particularmente expuestas a la ingeniería social habilitada por deepfakes porque gran parte de su actividad se registra y está disponible públicamente. Los fragmentos de audio de reuniones públicas se pueden manipular y usar para generar llamadas de voz convincentes. Hemos visto a actores de amenazas usar esto para fraude, como redirigir fondos durante transacciones sensibles. Si bien esto sucede con más frecuencia en casos dirigidos, los usuarios que nunca han sido capacitados para reconocer estas técnicas, o incluso saber que son posibles, están en desventaja desde el principio.

Después de la educación, las organizaciones deben tener políticas claras y comunicadas sobre el uso y la gobernanza de la IA. Estas deben definir herramientas aprobadas, casos de uso aceptables y qué datos se pueden o no ingresar en qué modelo(s). Las políticas deben aplicarse consistentemente en todos los departamentos en lugar de variar de aula en aula o de oficina en oficina. Las expectativas claras reducen la ambigüedad y refuerzan la rendición de cuentas.

En lugar de restricciones generales, las organizaciones deben buscar dar forma a cómo se utiliza la tecnología en la práctica. Cuando una organización respalda una herramienta que es accesible, segura y funciona bien, se convierte en el estándar para la mayoría de los usuarios. El uso casual de IA sombra disminuye porque hay una alternativa sencilla que no incluye descargar una VPN para usarla.

Las organizaciones y las instituciones están buscando brindar acceso seguro a los LLM en una forma en que sus datos estén seguros y no se compartan ni se utilicen para capacitación. Una categoría en crecimiento de herramientas de habilitación y seguridad de IA está surgiendo para hacer exactamente eso. Pueden brindar acceso a múltiples LLM mientras mantienen los datos de la institución seguros y containerizados. Los acuerdos de retención de datos cero proporcionan el marco legal para garantizar que los datos de la organización permanezcan como propiedad de la empresa o institución, y que el LLM no pueda ser capacitado con ellos. Además, si un empleado abandona la institución, cualquier uso de IA, flujos de trabajo o datos permanecen como propiedad de la organización.

Los guardrails técnicos también se pueden aplicar a nivel de función. Una institución podría permitir que los estudiantes o empleados hagan preguntas generales dentro de un LLM sancionado mientras desactiva la carga de archivos, el intercambio de documentos u otras capacidades de alto riesgo. Estas configuraciones preservan los beneficios de productividad sin abrir la puerta a la exposición de datos no controlada.

Herramientas más avanzadas pueden anonimizar automáticamente la información sensible antes de que llegue siquiera al modelo. Por ejemplo, reemplazando los nombres de los pacientes o identificadores con marcadores neutrales para que los médicos y las enfermeras puedan usar la IA generativa sin exponer datos protegidos. Otros integran controles de prevención de pérdida de datos que detectan y bloquean números de seguro social, datos de cuentas financieras u otra información regulada que se envía en los prompts.

Políticas claras con guardrails técnicos, construidas sobre una base de educación, crean la mejor defensa, especialmente a medida que la tecnología cambia tan rápidamente. La IA generativa evoluciona más rápido de lo que la mayoría de las organizaciones del sector público, y sus presupuestos, pueden adaptarse. Intentar bloquear cada nuevo modelo a medida que surge es insostenible porque, para cuando se restringe una plataforma, otra ha ganado tracción. Los usuarios capacitados para comprender los riesgos subyacentes pueden adaptarse a través de herramientas y versiones.

La seguridad en un entorno habilitado por IA depende de reconocer la realidad de que la IA generativa ahora está integrada en la vida diaria. No hay forma de volver a meter al genio en la botella. Las prohibiciones generales pueden señalarizar la precaución, pero a menudo intercambian un riesgo visible y manejable por una exposición invisible y no gestionada. Enseñar a una persona a usar la IA de manera responsable, y estará preparada para lo que venga a continuación.