Rebecca Qi,Patronus AI 联合创始人兼首席技术官 – 专访系列
Rebecca Qi 是 Patronus AI 的联合创始人兼首席技术官,在自然语言处理、工具身人工智能和基础设施的交叉领域拥有近十年的生产级机器学习系统构建经验。在 Facebook AI,她继续研究和部署领域工作,训练了具有公平性目标设计的大型语言模型FairBERTa,开发了用于重写维基百科内容的人口统计扰动模型,并领导了机器人助手的语义解析工作。她还为设备身智能体构建了人在回路(人机循环)流程,并创建了基础设施工具,例如被 Facebook 各设施基础设施团队采用并在 ICSE 上展示的连续对比集挖掘。她包括 FacebookResearch/fairo 和 Droidlet抽屉解析笔记本列出的项目做出了贡献。作为开源创始人,她现在专注于可扩展监督、强化学习以及部署安全、环境感知的人工智能智能体。Patronus AI 是一家总部位于旧金山的公司,提供一个研究驱动的平台,用于评估、监控和优化大型语言模型(LLM)及人工智能智能体,以帮助开发者自行发布可靠的生成式人工智能产品。该平台提供自动化评估工具、基准测试、分析、自定义数据集和针对智能体的特定环境,能够识别幻觉、安全风险或逻辑故障等性能问题,使团队能够在世界案例中持续改进和排查人工智能系统问题。服务于企业客户和技术合作伙伴,赋能他们对模型行为进行评分、大规模检测错误,并提升生产环境中人工智能应用的可信度和性能。您在Facebook AI...