访谈6 days ago
Bo Li，Virtue AI 首席执行官 – 专访系列
Bo Li 是 Virtue AI 的首席执行官，也是一位专注于人工智能系统安全与保障的杰出研究员和企业家。她领导着 Virtue AI，同时兼任伊利诺伊大学厄巴纳-香槟分校的教授，其研究重点包括机器学习安全、可信赖人工智能和对抗鲁棒性。她的职业生涯横跨学术界和工业界，这使她能够将先进的人工智能研究成果转化为实际应用，帮助组织构建更安全、更具韧性的 AI 技术。 Virtue AI 是一家专注于保护和管理企业环境中使用的 AI 系统的公司。其平台提供自动化红队测试、实时防护栏和持续监控等功能，以识别诸如提示注入、幻觉和数据泄露等漏洞。通过直接集成到 AI 开发和部署工作流程中，该公司帮助组织在保持强大安全和治理标准的同时，安全地扩展大型语言模型和 AI 驱动应用程序的使用。 是什么促使您从纯粹的学术生涯转向创立并领导 Virtue AI？您认为当时行业在规模化解决什么问题方面存在不足？ 传统的安全工具是为具有固定路径的可预测应用程序构建的。它们从未被设计用于能够推理、适应并自主行动的系统。我和我的联合创始人看到了基础性 AI 安全研究成果与企业实际可用工具之间的差距。研究是存在的，但生产环境的现实却并非如此。这正是我们着手要改变的。 Virtue...
