Los robots humanoides llegan a las fábricas. ¿Quién es responsable cuando fallan?

Un robot puede superar una prueba de rendimiento y, aun así, convertirse en un peligro para la seguridad si se encuentra con un obstáculo inesperado, si cambia su comportamiento debido a una actualización de software o si se topa con un trabajador. La pregunta ya no es si los robots humanoides pueden realizar una tarea, sino cómo pueden hacerlo. ¿Pueden hacerla de forma segura? Y, si algo sale mal, ¿quién es responsable?

Agility Robotics y FORT Robotics anunciaron en octubre una alianza para mejorar la arquitectura de seguridad del robot humanoide Digit 5 de Agility. Han planificado su enfoque incorporando sistemas de seguridad a bordo, interfaces externas, comunicaciones y mecanismos de anulación manual. Este avance marca un cambio significativo: los robots deben ser seguros en los lugares de trabajo donde hay personas, y eso implica mucho más que el propio robot.

Sin embargo, la tecnología no basta para responder a la pregunta de quién debe rendir cuentas. Si un robot comete un error debido a que un sistema de IA identificó erróneamente un componente defectuoso, podrían ser considerados responsables el fabricante, el desarrollador del software, el integrador del sistema y el empleador que utiliza el sistema.

Cuando las decisiones de la IA se convierten en riesgos físicos

Por lo general, los robots industriales tradicionales se encuentran en celdas de trabajo cerradas, donde están aislados de los trabajadores mediante barreras y dispositivos de seguridad. Los robots humanoides plantean otro desafío: se espera que se desplacen por entornos diseñados para las personas, realicen distintas tareas y se adapten a diferentes entornos.

Esa flexibilidad genera nuevos riesgos. Una detección errónea puede provocar un movimiento innecesario. Una actualización de software podría modificar el comportamiento de un robot. Los cambios en la distribución de la fábrica pueden crear peligros que no existían durante las pruebas anteriores.

Dana R. Wolfe, vicepresidenta y directora del sector industrial de GFT Americas, explicó a Unite.AI que, para prevenir intervenciones inseguras, se necesitan varias capas de protección, como barreras de seguridad de software deterministas, umbrales de confianza específicos para cada fábrica, fusión de sensores y validación por etapas antes de la implementación.

No hay forma de evitar por completo los falsos positivos, afirmó Wolfe. En cambio, los fabricantes deben asegurarse de que los errores no se traduzcan en movimientos físicos inseguros.

Los umbrales de confianza y la autoridad humana deben formar parte de la arquitectura de seguridad del sistema, al igual que los enclavamientos de hardware, afirmó Wolfe.

Las normas de seguridad deben seguir el ritmo de los avances

Las normas actuales sobre robótica industrial ofrecen una base valiosa, pero no necesariamente resuelven todos los problemas que plantean los robots humanoides móviles.

La Organización Internacional de Normalización (ISO) ha publicado requisitos de seguridad para robots industriales, y la norma ISO 10218-2 abarca la integración de robots en sistemas completos.

Sin embargo, estas normas no contemplan todas las aplicaciones ni todos los peligros que presentan los robots móviles que trabajan con personas.

Las pruebas independientes, la validación basada en escenarios y los proyectos piloto por etapas en los lugares de trabajo son especialmente importantes a medida que evolucionan las prácticas del sector, afirmó Wolfe.

También es necesario repetir las evaluaciones de seguridad si los cambios en el modelo de IA, el software, las restricciones de movimiento, las tareas o el entorno de la fábrica pueden invalidar las evaluaciones anteriores.

Tras un cambio importante, un robot que era seguro en determinadas condiciones puede dejar de serlo en las nuevas condiciones.

La supervisión humana debe ser algo más que dar el visto bueno

No es práctico supervisar cada decisión que toma un sistema de IA, pero cuando las personas no participan en las decisiones críticas surge otro problema: resulta más difícil demostrar quién debe rendir cuentas.

Adrian Figueroa Ramos, cofundador y director ejecutivo de Flexio y Routina, afirmó que la supervisión debería centrarse en las decisiones que implican mayor incertidumbre o riesgo.

«En el mundo actual de la IA, el volumen de resultados supera lo que una persona puede procesar. Revisarlo todo convierte al ser humano en un cuello de botella, pero el criterio humano sigue siendo necesario para las decisiones de alto riesgo o de baja confianza», declaró a Unite.AI.

Esto es especialmente cierto en el caso de la IA física. La supervisión humana debe incluir a personas identificadas por su nombre, con autoridad para anular un sistema, y garantizar que las decisiones queden documentadas y se revisen; no basta con hacer clic en un botón para aprobarlas.

¿Quién asume la responsabilidad cuando falla un robot?

La responsabilidad debe compartirse en función del grado de control que cada parte ejerza sobre el sistema.

Por ejemplo, los fabricantes son responsables de crear y documentar las medidas de seguridad. Los desarrolladores de software deben probar los cambios que puedan afectar a la percepción o al movimiento.

El integrador debe validar el sistema completo en el entorno previsto. Los empleadores son responsables de capacitar a los trabajadores, garantizar que existan medidas de protección y establecer procedimientos para detener las operaciones inseguras.

La ciberseguridad también es importante. La tecnología operativa puede ser vulnerable a problemas de sensores, software y sistemas externos relacionados con los robots. Un fallo de seguridad que afecte al comportamiento físico es un problema de seguridad laboral, además de un problema de TI.

Se prevé que los robots humanoides sean más flexibles y productivos en las fábricas en el futuro. Sin embargo, su adopción no se basará únicamente en indicadores de rendimiento. Es necesario que haya responsabilidades claras, validación independiente y medidas de protección que se mantengan durante toda la vida útil de un robot.

La pregunta es: ¿puede un robot cometer errores? Sí, si quienes lo utilizan han creado un sistema que les exija responder por esos errores.