Ética y Tecnología: ¿Necesita la IA un Piloto al Timón?

Resumen: Los avances en la tecnología de IA conversacional requieren un equilibrio cuidadoso de intereses que fomenten la innovación mientras mitiguen los impactos potencialmente dañinos.

El Atractivo de la IA Conversacional

El lanzamiento de ChatGPT-3 ha capturado un interés sin precedentes, con más de 100 millones de usuarios activos por mes.

Los consumidores y las organizaciones reconocen cómo los avances en la IA conversacional pueden transformar virtualmente todos los aspectos de nuestras vidas personales y las interacciones profesionales. La aplicación avanzada de aprendizaje profundo de ChatGPT-3 genera conversaciones humanas convincentes con resultados impresionantes. En pruebas recientes, ChatGPT-3 aprobó el Examen de Licencia Médica de EE. UU. y un examen de MBA de una de las escuelas de negocios más prestigiosas.

Los beneficios comerciales de la IA conversacional son inmensos, tanto que Microsoft ha invertido $10 mil millones en Open AI para acelerar las aplicaciones comerciales de ChatGPT-3. Microsoft pretende “superpotenciar” sus productos con las capacidades conversacionales de ChatGPT-3.

Exuberancia Irracional

Pero tomemos una respiración profunda antes de dejar que esta tecnología transformadora se nos adelante. A pesar de su potencial utilidad, ChatGPT-3 todavía se encuentra en una etapa temprana, con muchas imperfecciones. Nuestra exuberancia puede resultar prematura. En ausencia de un análisis significativo, una adopción sin restricciones de la IA conversacional sin guardrails regulatorios y supervisión humana puede llevarnos a un mundo distópico, como lo previó el novelista inglés Aldous Huxley. Una confianza excesiva en la tecnología sin comprender sus impactos socioeconómicos puede tener consecuencias graves, aunque no intencionadas, como el empleo, la educación, la inclusión y la equidad.

Después de todo, aunque ChatGPT-3 es un paso adelante, sus capacidades “cognitivas” se basan en conjuntos de datos preexistentes, con sesgos incorporados que pueden amplificarse y resultar en una multitud de daños potenciales. ChatGPT-3 tiene un “lado oscuro” que debe ser causa de preocupación y hacer que presionemos el botón de pausa antes de una mayor proliferación de esta tecnología con consecuencias.

¿Riesgo o Oportunidad?

Es necesario equilibrar los riesgos asociados con la aplicación de la IA conversacional y sus oportunidades potenciales. Si se despliega de manera reflexiva, con una regulación significativa de la IA que considere un enfoque basado en riesgos con una supervisión robusta, entonces los beneficios potenciales de la IA conversacional pueden realizarse. Debe desplegarse como una asociación centrada en el ser humano con aplicaciones de IA conversacional que enriquezcan la experiencia laboral. Al igual que todas las innovaciones que han precedido, la IA tiene el potencial de crear la necesidad de nuevas habilidades y hacer que ciertos trabajos sean más gratificantes.

¿Cuál es el Rol del Legislador?

La democratización de las tecnologías de IA implica que las autoridades públicas deben asumir un papel proactivo en la regulación de su uso. Los temores asociados con las innovaciones disruptivas son reales. A pesar de su capacidad, la inteligencia artificial sigue dependiendo de los humanos, ya sea para usarla o regularla. Debe haber un piloto al timón, solo que no sabemos exactamente hacia dónde se dirige. Hay un aumento en el impulso para una regulación integral de la IA, más notablemente, el borrador de la Ley de Inteligencia Artificial de la UE. Con el potencial de una adopción ubicua de la IA conversacional, como ChatGPT-3, el impulso para una regulación y gobernanza más rigurosa está creciendo con la UE para garantizar que se instituyan medidas que prohíban aplicaciones específicas de la IA conversacional que se consideren infractoras de los derechos humanos fundamentales.