Iccha Sethi 是 Vanta 的工程副总裁，Vanta 是领先的信任管理平台，她在那里领导着增强安全性和合规性自动化的计划。之前，她曾是 GitHub 的工程领导者，负责监督包括 Actions、Hosted Runners、Codespaces、Packages、Pages 和 npm 在内的多产品组合。Iccha 还曾在 InVision、Atlassian 和 Rackspac 等大型和小型公司担任过首席工程角色。
在AI领域中，信任和透明度已经成为开展业务的关键要素。随着AI相关威胁的升级，安全领导者面临着保护组织免受外部攻击的紧迫任务，同时需要建立内部AI使用的负责实践。Vanta的2024年信任状态报告最近阐明了这种日益增长的紧迫性，揭示了AI驱动的恶意软件攻击和身份盗窃的惊人增加。尽管AI带来了风险，但只有40%的组织进行定期的AI风险评估，只有36%的组织有正式的AI政策。除了AI安全卫生之外，建立组织对AI使用的透明度正在成为商业领导者的首要任务。这是有道理的。优先考虑问责制和开放性的公司更有可能实现长期成功。透明度 = 良好的商业AI系统使用大量数据、复杂的模型和算法，这些往往缺乏对其内部工作的可见性。这一不透明度可能导致难以解释、辩护或挑战的结果，引发了人们对偏见、公平性和问责制的担忧。对于依赖AI进行决策的企业和公共机构来说，这种缺乏透明度可能会侵蚀利益相关者的信任，引入运营风险，并放大监管审查。透明度是不可协商的，因为它： 建立信任：当人们了解AI如何做出决定时，他们更有可能信任和接受它。 提高问责制：清晰的数据、算法和决策过程的文档有助于组织发现和纠正错误或偏见。 确保合规性：在有严格法规的行业中，透明度是解释AI决策和保持合规性的必要条件。 帮助用户理解：透明度使AI更容易使用。当用户可以看到它的工作原理时，他们可以自信地解释和采取行动。 所有这些都表明，透明度是有利于业务的。例如，Gartner最近的研究表明，到2026年，接受AI透明度的组织可以期待采用率增加50%和业务成果改善。MIT斯隆管理评论的发现也显示，专注于AI透明度的公司在客户满意度方面比同行出色32%。创建透明度蓝图在其核心，AI透明度是关于创建清晰度和信任，通过展示如何和为什么AI做出决定。它是关于分解复杂的过程，使得任何人，从数据科学家到前线工作者，都可以理解其内部工作原理。透明度确保AI不是一个黑盒，而是一个可以依赖的工具。让我们探索使AI更易解释、更易接近和更有责任感的关键支柱。 优先考虑风险评估：在启动任何AI项目之前，退一步，确定组织和客户的潜在风险。从一开始就主动解决这些风险，以避免后续的意外后果。例如，一家银行建立一个AI驱动的信用评分系统，应该从一开始就加入防止偏见的保障措施，确保所有申请人的公平和公正结果。 从基础上构建安全和隐私：安全和隐私需要从第一天开始就成为优先事项。使用联邦学习或差异隐私等技术来保护敏感数据。随着AI系统的演进，确保这些保护也随之演进。例如，如果一家医疗保健提供者使用AI分析患者数据，他们需要严密的隐私措施来保护个人的记录，同时仍然提供有价值的见解。 使用安全集成控制数据访问：明智地控制谁和什么可以访问您的数据。不要直接将客户数据输入AI模型，而是使用安全集成，如API和正式的数据处理协议（DPAs），来保持控制。这些保障措施确保您的数据保持安全和受控，同时仍为AI提供所需的性能。 使AI决策透明和可问责：透明度是信任的关键。团队应该了解AI如何做出决定，并能够清晰地向客户和合作伙伴传达这一点。可解释的AI（XAI）和可解释的模型等工具可以帮助将复杂的输出转化为清晰、可理解的见解。 让客户保持控制：客户应该了解何时使用AI以及它如何影响他们。采用知情同意模型——客户可以选择加入或退出AI功能——将他们置于驾驶座上。轻松访问这些设置使人们感到对自己的数据有控制权，建立信任，并使您的AI战略与他们的期望保持一致。 持续监控和审计AI：AI不是一次性项目。它需要定期检查。进行频繁的风险评估、审计和监控，以确保您的系统保持合规和有效。与行业标准如NIST AI RMF、ISO 42001或EU AI法规框架保持一致，以加强可靠性和问责制。 内部AI测试引领潮流：如果您希望客户信任您的AI，首先要信任它自己。使用和测试您自己的AI系统，以便在将其推广给用户之前发现问题并进行改进。这不仅表明您致力于质量，还创造了一个负责的AI开发和持续改进的文化。 信任不是一夜之间建立的，但透明度是基础。通过接受清晰、可解释和可问责的AI实践，组织可以创建适合所有人的系统——建立信任、降低风险、推动更好的结果。当AI被理解时，它是值得信赖的。当它被信赖时，它就成为一个引擎，用于
