Preocupaciones sobre los posibles riesgos de ChatGPT están ganando impulso, pero ¿es una buena idea hacer una pausa en la IA?

Mientras que Elon Musk y otros líderes tecnológicos globales han pedido una pausa en la IA después del lanzamiento de ChatGPT, algunos críticos creen que una detención en el desarrollo no es la respuesta. El evangelista de la IA Andrew Pery, de la empresa de automatización inteligente ABBYY, cree que tomar un descanso es como volver a meter la pasta de dientes en el tubo. Aquí, nos explica por qué…

Las aplicaciones de IA son omnipresentes, impactando virtualmente todos los aspectos de nuestras vidas. Si bien es loable, poner el freno ahora puede ser poco plausible.

Hay preocupaciones palpables que exigen un mayor control regulatorio para contener sus posibles impactos perjudiciales.

Recientemente, la Autoridad de Protección de Datos de Italia bloqueó temporalmente el uso de ChatGPT en todo el país debido a preocupaciones de privacidad relacionadas con la forma de recopilación y procesamiento de datos personales utilizados para entrenar el modelo, así como una aparente falta de salvaguardas, que expone a los niños a respuestas “absolutamente inapropiadas para su edad y conciencia”.

La Organización de Consumidores Europeos (BEUC) está instando a la UE a investigar los posibles impactos perjudiciales de los modelos de lenguaje a gran escala, dado que “las preocupaciones crecen sobre cómo ChatGPT y chatbots similares podrían engañar y manipular a las personas. Estos sistemas de IA necesitan una mayor escrutinio público, y las autoridades públicas deben reafirmar el control sobre ellos”.

En EE. UU., el Centro para la Política de IA y Digital ha presentado una queja ante la Comisión Federal de Comercio que ChatGPT viola la sección 5 de la Ley de la Comisión Federal de Comercio (FTC) (15 USC 45). La base de la queja es que ChatGPT supuestamente no cumple con la guía establecida por la FTC para la transparencia y la explicabilidad de los sistemas de IA. Se hizo referencia a los reconocimientos de ChatGPT de varios riesgos conocidos, incluyendo la comprometida de los derechos de privacidad, la generación de contenido perjudicial y la propagación de desinformación.

La utilidad de los modelos de lenguaje a gran escala como ChatGPT, a pesar de la investigación, señala su posible lado oscuro. Se ha demostrado que produce respuestas incorrectas, ya que el modelo subyacente de ChatGPT se basa en algoritmos de aprendizaje profundo que aprovechan grandes conjuntos de datos de entrenamiento de Internet. A diferencia de otros chatbots, ChatGPT utiliza modelos de lenguaje basados en técnicas de aprendizaje profundo que generan texto similar a las conversaciones humanas, y la plataforma “llega a una respuesta haciendo una serie de conjeturas, lo que es parte de la razón por la que puede argumentar respuestas incorrectas como si fueran completamente ciertas”.

Además, ChatGPT se ha demostrado que acentúa y amplifica los sesgos, lo que resulta en “respuestas que discriminan contra el género, la raza y los grupos minoritarios, algo que la empresa está tratando de mitigar”. ChatGPT también puede ser un bonanza para actores maliciosos que exploten a usuarios desprevenidos, comprometiendo su privacidad y exponiéndolos a ataques de estafas.

Estas preocupaciones llevaron al Parlamento Europeo a publicar un comentario que refuerza la necesidad de fortalecer aún más las disposiciones actuales del proyecto de Ley de Inteligencia Artificial de la UE (AIA), que aún está pendiente de ratificación. El comentario señala que el proyecto de regulación actual se centra en lo que se refiere a aplicaciones de IA de ámbito limitado, que consisten en categorías específicas de sistemas de IA de alto riesgo, como la contratación, la solvencia crediticia, el empleo, la aplicación de la ley y la elegibilidad para servicios sociales. Sin embargo, el proyecto de regulación de la AIA de la UE no cubre la IA de propósito general, como los modelos de lenguaje a gran escala que proporcionan capacidades cognitivas más avanzadas y que pueden “realizar una amplia gama de tareas inteligentes”. Hay llamadas a ampliar el alcance del proyecto de regulación para incluir una categoría separada de sistemas de IA de propósito general de alto riesgo, que requiera que los desarrolladores realicen pruebas de conformidad rigurosas antes de poner dichos sistemas en el mercado y monitorear continuamente su rendimiento para posibles resultados perjudiciales inesperados.

Un estudio de investigación particularmente útil destaca esta brecha en la que la regulación de la AIA de la UE es “primariamente centrada en modelos de IA convencionales, y no en la nueva generación cuyo nacimiento estamos presenciando hoy”.

Recomienda cuatro estrategias que los reguladores deben considerar.

1. Requerir a los desarrolladores de dichos sistemas que informen regularmente sobre la eficacia de sus procesos de gestión de riesgos para mitigar resultados perjudiciales.
2. Las empresas que utilicen modelos de lenguaje a gran escala deben estar obligadas a informar a sus clientes de que el contenido fue generado por IA.
3. Los desarrolladores deben suscribirse a un proceso formal de lanzamientos por etapas, como parte de un marco de gestión de riesgos, diseñado para salvaguardar contra resultados perjudiciales potencialmente impredecibles.
4. Colocar la carga sobre los desarrolladores para “mitigar el riesgo en sus raíces” teniendo que “auditar proactivamente el conjunto de datos de entrenamiento para tergiversaciones”.

Un factor que perpetúa los riesgos asociados con las tecnologías disruptivas es la impulsión de los innovadores para lograr la ventaja del primer movimiento al adoptar un modelo de negocio “lanzar primero y arreglar después”. Si bien OpenAI es algo transparente sobre los posibles riesgos de ChatGPT, han lanzado para un uso comercial amplio con un “comprador aviso” sobre los usuarios para sopesar y asumir los riesgos ellos mismos. Ese puede ser un enfoque inaceptable dado el impacto generalizado de los sistemas de IA conversacional. La regulación proactiva combinada con medidas de aplicación robustas debe ser primordial al manejar una tecnología disruptiva como esta.

La inteligencia artificial ya permea casi todas las partes de nuestras vidas, lo que significa que una pausa en el desarrollo de la IA podría implicar una multitud de obstáculos y consecuencias impredecibles. En lugar de frenar repentinamente, los jugadores de la industria y los legisladores deben colaborar de buena fe para promulgar una regulación que se base en valores centrados en el ser humano, como la transparencia, la rendición de cuentas y la equidad. Al hacer referencia a la legislación existente, como la AIA, los líderes en los sectores público y privado pueden diseñar políticas globales estandarizadas y exhaustivas que prevengan usos maliciosos y mitiguen resultados adversos, manteniendo así la inteligencia artificial dentro de los límites de mejorar las experiencias humanas.