Credo AI anuncia la primera plataforma de IA responsable del mundo

credo IA ha anunciado la disponibilidad de su plataforma de IA responsable, que es la primera de su tipo. El producto SaaS ayuda a las organizaciones a aprovechar las herramientas para estandarizar y escalar su enfoque hacia la IA responsable.

Credo AI es responsable de crear la primera solución de gobernanza integral y contextual del mundo para IA.

Plataforma de IA responsable

Según el comunicado de prensa de la compañía, "La plataforma de IA responsable de Credo AI ayuda a las empresas a poner en funcionamiento la IA responsable al proporcionar una evaluación de cumplimiento y riesgo de IA basada en el contexto donde sea que se encuentren en su viaje de IA".

Esto es crucial dada la cantidad de empresas de IA que tienen problemas para idear e implementar los principios de IA necesarios en la práctica.

Con Credo AI, los equipos multifuncionales pueden colaborar en los requisitos de IA responsable en aspectos como equidad, rendimiento, privacidad y seguridad. La plataforma también permite a los equipos evaluar sus casos de uso de IA para asegurarse de que cumplan con los requisitos mediante evaluaciones técnicas de conjuntos de datos y modelos de aprendizaje automático (ML). También pueden observar en profundidad los procesos de desarrollo.

La plataforma se basa en el marco de evaluación de código abierto de Credo AI para lograr evaluaciones más estructuradas e interpretables para todo tipo de organizaciones.

Navrina Singh es fundadora y directora ejecutiva de Credo AI.

“Credo AI pretende ser un sherpa para las empresas en sus iniciativas de IA responsable para llevar la supervisión y la rendición de cuentas a la inteligencia artificial y definir cómo se ve bien su marco de IA”, dijo Singh. “Hemos sido pioneros en una solución continua, integral y centrada en el contexto para ofrecer IA responsable. Las empresas deben alinearse con los requisitos de IA responsable entre diversas partes interesadas en tecnología y funciones de supervisión, y tomar medidas deliberadas para demostrar acción sobre esos objetivos y asumir la responsabilidad de los resultados”.

Características de la Plataforma

Algunas de las características de la plataforma de inteligencia artificial responsable de Credo AI incluyen:

• Integraciones de evaluación perfectas

• Alineación de múltiples partes interesadas

• Supervisión basada en el riesgo de la plataforma giratoria

• Preparación normativa lista para usar

• Garantía y atestación

• Gestión de riesgos de proveedores de IA

Con características como AI Vendor Risk Management, las organizaciones pueden usar Credo AI para evaluar el riesgo de AI y el cumplimiento de productos y modelos de AI/ML de terceros. Otras características, como la supervisión ajustable basada en el riesgo, permiten a los equipos ajustar el nivel de gobierno humano en el circuito en función del nivel de riesgo del caso de uso.

Estos nuevos desarrollos se producen a medida que los gobiernos continúan aumentando las regulaciones de IA. Por ejemplo, hay regulaciones próximas como la Ley de Inteligencia Artificial (AIA) de la Unión Europea, así como un proyecto de ley en la ciudad de Nueva York que obliga a que las herramientas de decisión de empleo de IA sean auditadas por sesgo. Estas son solo algunas de las muchas razones por las que las organizaciones eligen confiar en herramientas de gobierno de IA como la nueva plataforma lanzada por Credo AI.