人工智能幻觉和偏见日益引起担忧：Aporia 2024 报告强调行业标准的迫切需要

Aporia 公司，一家人工智能控制平台领域的领先者，最近发布的一份报告揭示了人工智能和机器学习领域的一些令人惊讶的发现。该报告标题为“2024 年人工智能和机器学习报告：模型和解决方案的演进”，指出了一种日益增长的趋势，即生成式人工智能和大型语言模型（LLM）中出现幻觉和偏见，这对迅速发展的行业来说是一个至关重要的挑战。

人工智能幻觉 指的是生成式人工智能模型产生的输出不正确、无意义或与现实脱节的实例。这些幻觉可以从小的不准确性到重大的错误，包括生成偏见或可能有害的内容。

人工智能幻觉的后果可能很严重，尤其是这些模型越来越多地被集成到各个方面的商业和社会中。例如，人工智能生成信息的不准确性可能导致错误信息，而偏见内容可能延续刻板印象或不公平的做法。在医疗保健、金融或法律咨询等敏感应用中，这样的错误可能会产生严重的影响，影响决策和结果。

调查结果强调了对生产模型进行密切监控和观察的必要性。

Aporia 的调查包括来自北美和英国的 1,000 名机器学习专业人员的回应。这些人在从 500 到 7,000 名员工的公司中工作，跨越金融、医疗保健、旅行、保险、软件和零售等行业。调查结果凸显了机器学习生产领导者面临的挑战和机遇，阐明了人工智能优化在提高效率和创造价值方面的重要作用。

关键见解 包括：

1. 运营挑战的普遍性：令人震惊的 93% 的机器学习工程师报告称，他们每天或每周都会遇到生产模型的问题。这一显著的统计数据凸显了有效的监控和控制工具的必要性，以确保平稳运行。
2. 人工智能幻觉的发生率：令人担忧的 89% 的工程师报告称，他们在大型语言模型和生成式人工智能中经历了幻觉。这些幻觉表现为事实错误、偏见或可能有害的内容。
3. 偏见缓解的重点：尽管检测偏见数据和缺乏足够的监控工具存在障碍，但 83% 的调查受访者强调了在人工智能项目中监控偏见的重要性。
4. 实时可观察性的重要性：88% 的机器学习专业人员认为实时可观察性对于识别生产模型中的问题至关重要，这是一些企业由于缺乏自动化监控工具而无法实现的能力。
5. 开发中的资源投资：报告显示，公司平均投资大约四个月的时间来开发监控生产的工具和仪表板，这可能会引发人们对此类投资的效率和成本效益的担忧。

“我们的报告显示，行业内有一个明确的共识，人工智能产品正在以惊人的速度部署，如果这些机器学习模型不被监控，就会产生后果，” Aporia 首席执行官 Liran Hason 表示。 “这些工具背后的工程师已经表达了自己的意见——技术存在问题，可以解决。但是需要正确的可观察性工具来确保企业和消费者都能获得最佳的产品，摆脱幻觉和偏见。”

Aporia 致力于提高由机器学习驱动的人工智能产品的有效性，已经解决了 MLOps 的挑战，并倡导负责任的人工智能实践。该公司以客户为中心的方法和集成用户反馈的方式，已经开发了强大的工具和功能，以提高用户体验、支持生产模型的扩展和帮助消除幻觉。

Aporia 的完整报告对这些发现及其对人工智能行业的影响进行了深入的分析。要了解更多，请访问 Aporia 的调查报告。