海曼舒·戈尔(Himanshu Goel)是一位人工智能/机器学习研究员,专门从事高风险领域的检索增强生成,包括生物医学、金融和监管文档工作流。
在相同的 2 位精度下,关于沿哪个轴量化的决定会使基准测试得分从 2.88 变化到 63.53。键和值需要相反的处理方式 —— 而原因在于注意力方程中,而不是硬件中。
标准生物医学 RAG 在大约四分之三的查询中默默地解决冲突证据。解决方案是结构性的,而不是信息性的——大多数上游复杂性团队添加的内容都没有帮助。