Modelos y plataformas de IA
Líderes tecnológicos destacan los riesgos de la IA y la urgencia de una regulación robusta de la IA
Añade Unite.AI a tus fuentes preferidas en Google
El crecimiento y los avances de la IA han sido exponenciales en los últimos años. Según Statista, para 2024, el mercado global de la IA generará unos ingresos asombrosos de alrededor de $3000 mil millones, en comparación con $126 mil millones en 2015. Sin embargo, los líderes tecnológicos ahora nos advierten sobre los diversos riesgos de la IA.
En particular, la reciente ola de modelos de IA generativa como ChatGPT ha introducido nuevas capacidades en varios sectores sensibles a los datos, como la atención médica, la educación, las finanzas, etc. Estos desarrollos respaldados por la IA son vulnerables debido a muchas deficiencias de la IA que los agentes maliciosos pueden explotar.
Hablemos sobre lo que los expertos en IA están diciendo sobre los desarrollos recientes y destacamos los posibles riesgos de la IA. También tocamos brevemente cómo se pueden gestionar estos riesgos.
Líderes tecnológicos y sus preocupaciones relacionadas con los riesgos de la IA
Geoffrey Hinton
Geoffrey Hinton, un famoso líder tecnológico de la IA (y padrino de este campo), que recientemente dejó Google (GOOGL ), ha expresado sus preocupaciones sobre el desarrollo rápido de la IA y sus posibles peligros. Hinton cree que los chatbots de la IA pueden volverse “bastante aterradores” si superan la inteligencia humana.
Hinton dice:
“En este momento, lo que estamos viendo es que cosas como GPT-4 eclipsan a una persona en la cantidad de conocimientos generales que tiene, y la eclipsa por un largo trecho. En términos de razonamiento, no es tan bueno, pero ya hace un razonamiento simple. Y dado el ritmo de progreso, esperamos que las cosas mejoren bastante rápido. Así que debemos preocuparnos por eso”.
Además, cree que los “malos actores” pueden utilizar la IA para “cosas malas”, como permitir que los robots tengan sus propios objetivos. A pesar de sus preocupaciones, Hinton cree que la IA puede aportar beneficios a corto plazo, pero también debemos invertir mucho en la seguridad y el control de la IA.
Elon Musk
La participación de Elon Musk en la IA comenzó con su inversión temprana en DeepMind en 2010, para cofundar OpenAI e incorporar la IA en los vehículos autónomos de Tesla.
Aunque es entusiasta de la IA, frecuentemente plantea preocupaciones sobre los riesgos de la IA. Musk dice que los sistemas de IA potentes pueden ser más peligrosos para la civilización que las armas nucleares. En una entrevista en Fox News en abril de 2023, dijo:
“La IA es más peligrosa que, digamos, un diseño de avión mal administrado o un mantenimiento de producción o una mala producción de automóviles. En el sentido de que tiene el potencial —por pequeña que se considere esa probabilidad— pero no es trivial y tiene el potencial de destrucción de la civilización”.
Además, Musk apoya la regulación gubernamental de la IA para garantizar la seguridad frente a los posibles riesgos, aunque “no es tan divertido”.
Detener los experimentos de IA gigantes: Una carta abierta respaldada por miles de expertos en IA
Future of Life Institute publicó una carta abierta el 22 de marzo de 2023. La carta pide una pausa temporal de seis meses en el desarrollo de sistemas de IA más avanzados que GPT-4. Los autores expresan sus preocupaciones sobre el ritmo al que se están desarrollando los sistemas de IA, que plantea graves desafíos socioeconómicos.
Además, la carta establece que los desarrolladores de IA deben trabajar con los responsables de las políticas para documentar los sistemas de gobernanza de la IA. A partir de junio de 2023, la carta ha sido firmada por más de 31.000 desarrolladores de IA, expertos y líderes tecnológicos. Los firmantes notables incluyen a Elon Musk, Steve Wozniak (cofundador de Apple (AAPL )), Emad Mostaque (CEO, Stability AI), Yoshua Bengio (ganador del Premio Turing) y muchos más.
Argumentos en contra de detener el desarrollo de la IA
Dos prominentes líderes de la IA, Andrew Ng y Yann LeCun, se han opuesto a la prohibición de seis meses para desarrollar sistemas de IA avanzados y consideran que la pausa es una mala idea.
Ng dice que aunque la IA tiene algunos riesgos, como el sesgo, el valor creado por la IA en campos como la educación, la atención médica y la capacitación es tremendo.
Yann LeCun dice que la investigación y el desarrollo no deben detenerse, aunque los productos de IA que llegan al usuario final pueden regularse.
¿Cuáles son los peligros potenciales y los riesgos inmediatos de la IA?
1. Reemplazo de empleos
Los expertos en IA creen que los sistemas de IA inteligentes pueden reemplazar tareas cognitivas y creativas. El banco de inversión Goldman Sachs estima que alrededor de 300 millones de empleos serán automatizados por la IA generativa.
Por lo tanto, debe haber regulaciones sobre el desarrollo de la IA para que no cause un declive económico severo. Debe haber programas educativos para mejorar y reciclar a los empleados para hacer frente a este desafío.
2. Sistemas de IA sesgados
Los sesgos que prevalecen entre los seres humanos sobre el género, la raza o el color pueden infiltrarse inadvertidamente en los datos utilizados para entrenar los sistemas de IA, haciendo que los sistemas de IA sean sesgados.
Por ejemplo, en el contexto de la contratación, un sistema de IA sesgado puede descartar los currículos de personas de ciertos orígenes étnicos, creando discriminación en el mercado laboral. En la aplicación de la ley, la policía predictiva sesgada podría apuntar desproporcionadamente a ciertos barrios o grupos demográficos.
Por lo tanto, es esencial tener una estrategia de datos integral que aborde los riesgos de la IA, particularmente el sesgo. Los sistemas de IA deben evaluarse y auditarse con frecuencia para mantenerlos justos.
3. Aplicaciones de IA de seguridad crítica
Los vehículos autónomos, el diagnóstico y tratamiento médico, los sistemas de aviación, el control de centrales nucleares, etc., son todos ejemplos de aplicaciones de IA de seguridad crítica. Estos sistemas de IA deben desarrollarse con cautela porque incluso errores menores podrían tener consecuencias graves para la vida humana o el medio ambiente.
Por ejemplo, el mal funcionamiento del software de IA llamado Maneuvering Characteristics Augmentation System (MCAS) se atribuye en parte al accidente de los dos Boeing 737 MAX, primero en octubre de 2018 y luego en marzo de 2019. Lamentablemente, los dos accidentes mataron a 346 personas.
¿Cómo podemos superar los riesgos de los sistemas de IA? – Desarrollo de IA responsable y cumplimiento regulatorio
IA responsable (RAI) significa desarrollar y desplegar sistemas de IA justos, responsables, transparentes y seguros que garanticen la privacidad y sigan las regulaciones legales y las normas sociales. Implementar la RAI puede ser complejo dado el amplio y rápido desarrollo de los sistemas de IA.
Sin embargo, las grandes empresas tecnológicas han desarrollado marcos de RAI, como:
Los laboratorios de IA en todo el mundo pueden inspirarse en estos principios o desarrollar sus propios marcos de IA responsable para crear sistemas de IA confiables.
Cumplimiento regulatorio de la IA
Dado que los datos son un componente integral de los sistemas de IA, las organizaciones y laboratorios de IA deben cumplir con las siguientes regulaciones para garantizar la seguridad, la privacidad y la seguridad de los datos.
- RGPD (Reglamento General de Protección de Datos) – un marco de protección de datos de la UE.
- Ley de Privacidad del Consumidor de California (CCPA) – una ley estatal de California para los derechos de privacidad y la protección del consumidor.
- HIPAA (Ley de Portabilidad y Responsabilidad de Seguros de Salud) – una legislación de EE. UU. que protege los datos médicos de los pacientes.
- Ley de IA de la UE, y directrices éticas para una IA confiable – una regulación de la IA de la Comisión Europea.
Hay varias leyes regionales y locales promulgadas por diferentes países para proteger a sus ciudadanos. Las organizaciones que no garantizan el cumplimiento regulatorio de los datos pueden enfrentar sanciones severas. Por ejemplo, el RGPD ha establecido una multa de 20 millones de euros o el 4% de las ganancias anuales por infracciones graves como el procesamiento de datos ilegal, el consentimiento de datos no probado, la violación de los derechos de los sujetos de los datos o la transferencia de datos no protegida a una entidad internacional.
Desarrollo de IA y regulaciones – Presente y futuro
Con cada mes que pasa, los avances de la IA están alcanzando alturas sin precedentes. Pero las regulaciones y marcos de gobernanza de la IA que los acompañan están rezagados. Necesitan ser más robustos y específicos.
Los líderes tecnológicos y los desarrolladores de IA han estado sonando la alarma sobre los riesgos de la IA si no se regula adecuadamente. La investigación y el desarrollo en la IA pueden aportar aún más valor en muchos sectores, pero está claro que una regulación cuidadosa es ahora imperativa.
Para más contenido relacionado con la IA, visite unite.ai.
