Credo AI anuncia la primera plataforma de IA Responsable del mundo

Credo AI ha anunciado la disponibilidad de su plataforma de IA Responsable, que es la primera de su tipo. El producto SaaS ayuda a las organizaciones a aprovechar herramientas para estandarizar y escalar su enfoque de IA Responsable.

Credo AI es responsable de crear la primera solución de gobernanza integral y contextual para IA del mundo.

Plataforma de IA Responsable

Según el comunicado de prensa de la empresa, “La plataforma de IA Responsable de Credo AI ayuda a las empresas a operativizar la IA Responsable al proporcionar evaluaciones de riesgo y cumplimiento de IA impulsadas por el contexto en cualquier lugar de su viaje de IA”.

Esto es crucial dado el número de empresas de IA que tienen problemas para crear y implementar los principios de IA necesarios en la práctica.

Con Credo AI, los equipos multifuncionales pueden colaborar en los requisitos de IA Responsable para cosas como la equidad, el rendimiento, la privacidad y la seguridad. La plataforma también permite a los equipos evaluar sus casos de uso de IA para asegurarse de que cumplan con los requisitos a través de evaluaciones técnicas de conjuntos de datos y modelos de aprendizaje automático (ML). También pueden examinar a fondo los procesos de desarrollo.

La plataforma se basa en el marco de evaluación de código abierto de Credo AI para lograr evaluaciones más estructuradas e interpretables para todos los tipos de organizaciones.

Navrina Singh es la fundadora y directora ejecutiva de Credo AI.

“Credo AI pretende ser una guía para las empresas en sus iniciativas de IA Responsable para llevar la supervisión y la rendición de cuentas a la Inteligencia Artificial, y definir qué es lo bueno para su marco de IA”, dijo Singh. “Hemos sido pioneros en una solución contextual, integral y continua para entregar IA Responsable. Las empresas deben alinearse en los requisitos de IA Responsable en diversos grupos de partes interesadas en funciones tecnológicas y de supervisión, y tomar medidas deliberadas para demostrar acción en esos objetivos y asumir la responsabilidad de los resultados”.

Características de la plataforma

Algunas de las características de la plataforma de IA Responsable de Credo AI incluyen:

• Integraciones de evaluación sin problemas

• Alineación de múltiples partes interesadas

• Supervisión basada en riesgos

• Preparación regulatoria fuera de la caja

• Garantía y certificación

• Gestión de riesgos de proveedores de IA

Con características como la Gestión de riesgos de proveedores de IA, las organizaciones pueden utilizar Credo AI para evaluar el riesgo y el cumplimiento de IA de los productos y modelos de IA/ML de terceros. Otras características como la supervisión basada en riesgos permiten a los equipos ajustar el nivel de gobernanza con intervención humana según el nivel de riesgo del caso de uso.

Estos nuevos desarrollos llegan en un momento en que los gobiernos continúan aumentando las regulaciones de IA. Por ejemplo, hay regulaciones futuras como el Acta de Inteligencia Artificial de la Unión Europea (AIA), así como un proyecto de ley en la ciudad de Nueva York que hace que sea obligatorio que las herramientas de toma de decisiones de empleo de IA sean auditadas por sesgo. Estos son solo algunos de los muchos motivos por los que las organizaciones están optando por confiar en herramientas de gobernanza de IA como la nueva plataforma lanzada por Credo AI.