Iccha Sethi Vice President of Engineering at Vanta

如何构建客户可以信任的AI

在AI领域中，信任和透明度无疑已成为开展业务的关键要素。随着AI相关威胁的升级，安全领导者面临着保护组织免受外部攻击的紧迫任务，同时为内部AI使用建立负责任的做法。Vanta的2024年信任状态报告最近阐述了这种日益增长的紧迫性，揭示了AI驱动的恶意软件攻击和身份盗窃的惊人增加。尽管AI带来风险，但只有40%的组织进行定期的AI风险评估，只有36%的组织拥有正式的AI政策。除了AI安全卫生之外，建立组织对AI使用的透明度正在成为商业领导者的首要任务。这是有道理的。优先考虑问责制和开放性的公司更有可能实现长期成功。透明度 = 良好的商业AI系统使用大量数据、复杂的模型和算法，这些往往缺乏对其内部工作原理的可见性。这一不透明度可能导致难以解释、辩护或挑战的结果——引发了人们对偏见、公平性和问责制的担忧。对于依赖AI进行决策的企业和公共机构来说，这种缺乏透明度可能会侵蚀利益相关者的信心，引入运营风险，并放大监管审查。透明度是不可协商的，因为它： 建立信任：当人们理解AI如何做出决定时，他们更有可能信任和接受它。 提高问责制：数据、算法和决策过程的清晰文档可以帮助组织发现和纠正错误或偏见。 确保合规性：在监管严格的行业中，透明度是解释AI决策和保持合规性的必要条件。 帮助用户理解：透明度使AI更容易使用。当用户可以看到它的工作原理时，他们可以自信地解释和采取其结果。 所有这些都表明，透明度是有利于商业的。例如：Gartner最近的研究表明，到2026年，接受AI透明度的组织可以预计采用率增加50%，商业成果改善。MIT斯隆管理评论的研究也显示专注于AI透明度的公司在客户满意度方面比其同行出色32%。创建透明度蓝图在其核心，AI透明度是关于通过展示如何和为什么AI做出决定来创建清晰度和信任。它是关于分解复杂的过程，以便任何人，从数据科学家到前线工人，都可以理解其内部工作原理。透明度确保AI不是一个黑箱，而是一个人们可以自信地依赖的工具。让我们探索使AI更易解释、更易接近和更有问责制的关键支柱。 优先考虑风险评估：在启动任何AI项目之前，退一步并找出组织和客户的潜在风险。从一开始就主动解决这些风险，以避免在未来出现意外后果。例如，一家建立AI驱动的信用评分系统的银行应该从一开始就融入防止偏见的保障措施，确保所有申请人都有公平和公正的结果。 从基础上构建安全性和隐私：安全性和隐私需要从第一天起就成为优先考虑。使用联邦学习或差异隐私等技术来保护敏感数据。随着AI系统的演进，请确保这些保护措施也随之演进。例如，如果医疗保健提供者使用AI分析患者数据，他们需要严密的隐私措施来保护个别记录，同时仍然提供有价值的见解。 使用安全集成控制数据访问：明智地控制谁和什么可以访问您的数据。不要直接将客户数据输入AI模型，而是使用安全集成，如API和正式的数据处理协议（DPAs），来保持控制。这些保障措施确保您的数据保持安全并在您的控制之下，同时仍为AI提供其所需的内容来执行其功能。 使AI决策透明和可问责透明度是信任的关键。团队应该知道AI如何得出其决策，并且能够清晰地将其传达给客户和合作伙伴。可解释的AI（XAI）和可解释的模型等工具可以帮助将复杂的输出转换为清晰、可理解的见解。 让客户掌控：客户理应知道何时使用AI以及它如何影响他们。采用知情同意模型——客户可以选择加入或退出AI功能——将他们置于驾驶座位。轻松访问这些设置使人们感到对自己的数据有控制权，建立信任，并使AI策略与他们的期望保持一致。 持续监控和审计AI：AI不是一次性项目。它需要定期检查。进行频繁的风险评估、审计和监控，以确保系统保持合规和有效。与NIST AI RMF、ISO 42001或EU AI法规等行业标准保持一致，以加强可靠性和问责制。 内部AI测试引领潮流：如果您希望客户信任您的AI，从内部开始。使用和测试自己的AI系统，以便尽早发现问题并在将其推出给用户之前进行改进。这不仅表明您致力于质量，而且还创造了一个负责任的AI开发和持续改进的文化。 信任不是一夜之间就能建立起来的，但透明度是基础。通过接受清晰、可解释和可问责的AI实践，组织可以创建适用于所有人的系统——建立信心、降低风险、推动更好的成果。当AI被理解时，它是值得信任的。当它被信任时，它就成为一种推动力。