Preocupaciones sobre los posibles riesgos de ChatGPT están ganando impulso, pero ¿es una buena idea pausar el desarrollo de la IA?

Mientras que Elon Musk y otros líderes tecnológicos globales han pedido una pausa en el desarrollo de la IA después del lanzamiento de ChatGPT, algunos críticos creen que detener el desarrollo no es la respuesta. El evangelista de la IA, Andrew Pery, de la empresa de automatización inteligente ABBYY, cree que tomar un descanso es como intentar meter el toothpaste de vuelta en el tubo. Aquí, nos explica por qué…

Las aplicaciones de IA son omnipresentes, afectando prácticamente todos los aspectos de nuestras vidas. Aunque es loable, frenar ahora puede ser poco plausible.

Hay preocupaciones palpables que llaman a un mayor control regulatorio para frenar sus posibles impactos perjudiciales.

Hace poco, la Autoridad de Protección de Datos de Italia bloqueó temporalmente el uso de ChatGPT en todo el país debido a preocupaciones sobre la privacidad relacionadas con la forma en que se recopila y procesa la información personal utilizada para entrenar el modelo, así como la falta aparente de salvaguardas, que expone a los niños a respuestas “absolutamente inapropiadas para su edad y conciencia”.

La Organización de Consumidores Europeos (BEUC) está instando a la UE a investigar los posibles impactos perjudiciales de los modelos de lenguaje a gran escala, ya que “las preocupaciones sobre cómo ChatGPT y chatbots similares pueden engañar y manipular a las personas están creciendo. Estos sistemas de IA necesitan una mayor supervisión pública, y las autoridades públicas deben reafirmar el control sobre ellos”.

En los Estados Unidos, el Centro para la Política de IA y Digital ha presentado una queja ante la Comisión Federal de Comercio que ChatGPT viola la sección 5 de la Ley de la Comisión Federal de Comercio (FTC) (15 USC 45). La base de la queja es que ChatGPT supuestamente no cumple con la guía establecida por la FTC para la transparencia y la explicabilidad de los sistemas de IA. Se hizo referencia a las admisiones de ChatGPT de varios riesgos conocidos, incluyendo la comprometida privacidad, la generación de contenido perjudicial y la propagación de información falsa.

La utilidad de los modelos de lenguaje a gran escala como ChatGPT, no obstante, la investigación señala su posible lado oscuro. Se ha demostrado que produce respuestas incorrectas, ya que el modelo subyacente de ChatGPT se basa en algoritmos de aprendizaje profundo que aprovechan grandes conjuntos de datos de entrenamiento de Internet. A diferencia de otros chatbots, ChatGPT utiliza modelos de lenguaje basados en técnicas de aprendizaje profundo que generan texto similar a las conversaciones humanas, y la plataforma “llega a una respuesta haciendo una serie de suposiciones, lo que es parte de la razón por la que puede argumentar respuestas incorrectas como si fueran completamente ciertas”.

Además, ChatGPT se ha demostrado que acentúa y amplifica los prejuicios, lo que resulta en “respuestas que discriminan contra el género, la raza y los grupos minoritarios, algo que la empresa está tratando de mitigar”. ChatGPT también puede ser un bonanza para actores nefastos que exploten a usuarios desprevenidos, comprometiendo su privacidad y exponiéndolos a ataques de estafa.

Estas preocupaciones llevaron al Parlamento Europeo a publicar un comentario que refuerza la necesidad de fortalecer aún más las disposiciones actuales del proyecto de Ley de Inteligencia Artificial de la UE (AIA), que aún está pendiente de ratificación. El comentario señala que el proyecto de regulación actual se centra en lo que se refiere a aplicaciones de IA de propósito específico, que consisten en categorías específicas de sistemas de IA de alto riesgo, como la contratación, la solvencia crediticia, el empleo, la aplicación de la ley y la elegibilidad para servicios sociales. Sin embargo, el proyecto de regulación de la AIA de la UE no cubre la IA de propósito general, como los modelos de lenguaje a gran escala que proporcionan capacidades cognitivas avanzadas y que pueden “realizar una amplia gama de tareas inteligentes”. Hay llamadas a ampliar el alcance del proyecto de regulación para incluir una categoría separada de alto riesgo de sistemas de IA de propósito general, que requiera que los desarrolladores realicen pruebas de conformidad rigurosas antes de poner dichos sistemas en el mercado y monitoreen continuamente su rendimiento para posibles resultados perjudiciales inesperados.

Una investigación particularmente útil llama la atención sobre esta brecha que la regulación de la AIA de la UE “se centra principalmente en modelos de IA convencionales, y no en la nueva generación cuyo nacimiento estamos presenciando hoy”.

Se recomiendan cuatro estrategias que los reguladores deben considerar.

1. Requerir a los desarrolladores de dichos sistemas que informen regularmente sobre la eficacia de sus procesos de gestión de riesgos para mitigar resultados perjudiciales.
2. Las empresas que utilicen modelos de lenguaje a gran escala deben estar obligadas a informar a sus clientes de que el contenido fue generado por IA.
3. Los desarrolladores deben suscribirse a un proceso formal de lanzamientos por etapas, como parte de un marco de gestión de riesgos, diseñado para salvaguardar contra resultados perjudiciales potencialmente impredecibles.
4. Colocar la carga sobre los desarrolladores para “mitigar el riesgo en sus raíces” teniendo que “auditar proactivamente el conjunto de datos de entrenamiento para tergiversaciones”.

Un factor que perpetúa los riesgos asociados con las tecnologías disruptivas es la carrera de los innovadores para lograr la ventaja del primer movimiento al adoptar un modelo de negocio “lanzar primero y arreglar después”. Aunque OpenAI es algo transparente sobre los posibles riesgos de ChatGPT, lo han lanzado para un uso comercial amplio con un “comprador, ten cuidado” que carga a los usuarios con la responsabilidad de sopesar y asumir los riesgos ellos mismos. Eso puede ser un enfoque insostenible dado el impacto generalizado de los sistemas de IA conversacional. La regulación proactiva combinada con medidas de aplicación robustas debe ser primordial al manejar dicha tecnología disruptiva.

La inteligencia artificial ya permea casi todas las partes de nuestras vidas, lo que significa que una pausa en el desarrollo de la IA podría implicar una multitud de obstáculos y consecuencias impredecibles. En lugar de frenar repentinamente, los jugadores de la industria y la legislación deben colaborar de buena fe para promulgar una regulación que se base en valores humanocéntricos como la transparencia, la rendición de cuentas y la equidad. Al hacer referencia a la legislación existente, como la AIA, los líderes en los sectores público y privado pueden diseñar políticas globales estandarizadas que prevengan usos nefastos y mitiguen resultados adversos, manteniendo así la inteligencia artificial dentro de los límites de mejorar las experiencias humanas, la capacidad y la equidad. Al hacer referencia a la legislación existente, como la AIA, los líderes en los sectores público y privado pueden diseñar políticas globales estandarizadas que prevengan usos nefastos y mitiguen resultados adversos, manteniendo así la inteligencia artificial dentro de los límites de mejorar las experiencias humanas.