Roee Barak, Upword的创始人和CEO Roee Barak Upword的创始人和CEO

人类如何在人工智能军备竞赛中找到方向

人工智能工具被许多人视为研究的福音，从工作项目到学校作业再到科学研究。例如，人们不需要花费数小时仔细检查网站，只需向ChatGPT提问，它就会返回一个看似合理的答案。但是，问题是——能否相信这些结果？经验表明，答案往往是“否”。人工智能只有在人类更深入地参与、指导和监督它，并将其产生的结果与现实世界进行核实时，才能发挥作用。但是，随着生成式人工智能领域的快速增长和新工具的不断发布，消费者可能会难以理解和接受他们在使用人工智能工具时必须扮演的角色。人工智能领域非常庞大，并且正在不断扩大，专家表示，到2030年，它的价值将超过1.3万亿美元。因此，几乎每一家大型科技公司——从苹果到亚马逊、IBM到微软，以及许多其他公司——都在发布自己的人工智能技术，尤其是先进的生成式人工智能产品。 鉴于这些利益，公司们正尽快地发布新的功能，以便在竞争中占据优势。这确实是一场军备竞赛，公司们试图将尽可能多的用户锁定在自己的生态系统中。公司希望能够让用户以最简单的方式使用人工智能系统的功能——例如，只需问一个生成式人工智能聊天机器人一个问题，就能获得所有需要的信息——将赢得更多客户，这些客户将在新功能不断发布时保持对产品或品牌的忠诚度。但是，有时公司在竞争中发布的功能可能没有经过充分的测试，或者其局限性没有被很好地理解或定义。虽然公司过去曾为市场份额和应用而竞争，但当前的军备竞赛似乎导致更多公司发布“半成品”——带来“半成品”结果。依赖这些结果进行研究——无论是商业、个人、医疗、学术还是其他领域——都可能导致不良后果，包括声誉损害、业务损失，甚至生命风险。人工智能事故已经给多家公司造成了重大损失。2023年，一家名为iTutor的公司被罚款36.5万美元，因为其人工智能算法由于年龄原因拒绝了数十位求职者。房地产市场Zillow在2021年因其人工智能系统的错误定价预测而损失了数亿美元。依赖人工智能获取医疗建议的用户也面临风险。例如，Chat GPT提供了关于降低血压药物维拉帕米和辉瑞公司的抗病毒药物帕克洛维德之间相互作用的不准确信息——以及患者是否可以同时服用这些药物。依赖该系统不正确的建议可能会将自己置于风险之中。 虽然这些事件登上了头条，但许多其他人工智能失误并没有——但它们可能对职业和声誉同样致命。例如，一位忙碌的营销经理可能会被诱惑使用人工智能工具生成报告——如果该工具提供的信息不正确，他们可能会发现自己正在寻找新的工作。一名使用ChatGPT撰写报告的学生——如果教授足够聪明，能够意识到报告的来源——可能会面临不及格的风险，甚至可能整个学期都无法通过。律师的助手如果使用人工智能工具进行法律工作，可能会因数据不良而导致案件有偏见，从而被罚款或甚至被取消执业资格。几乎所有这些情况都可以通过让人类更深入地参与人工智能并对研究过程有更多的透明度来避免。人工智能必须被视为人与机器之间的合作。它是一种真正的合作——这就是它的价值所在。虽然更强大的搜索、格式化和分析功能是受欢迎的，但人工智能产品的制造商也需要包含允许这种合作的机制。系统需要包含事实核查工具，以便用户能够核实ChatGPT等工具生成的报告的结果，并查看特定数据点或信息的原始来源。这将产生更好的研究成果，并恢复我们对自己的信任；我们可以自信地提交报告或建议政策，基于我们信任和理解的事实。用户还需要认识到并权衡依赖人工智能进行研究的风险。他们应该权衡繁琐程度与结果的重要性。例如，人类可能可以在使用人工智能比较当地餐厅时不太参与。但是，当进行可能影响高价值商业决策或飞机和医疗设备设计的研究时，用户需要在人工智能驱动的研究过程的每个阶段都更深入地参与。决策越重要，人类的参与就越重要。相对较小的决策可能可以完全交给人工智能。人工智能正在不断改进——甚至在没有人类帮助的情况下也是如此。可能，甚至可能，能够自我评估的人工智能工具会出现，这些工具可以像人类一样检查其结果并使用信息。但是，这些工具可能不会像许多人认为的那样很快出现——如果有的话。这意味着人类因素在任何研究项目中仍然至关重要。人工智能工具在发现数据和组织信息方面非常出色，但它们不能被信任为评估背景并以人类需要的方式使用信息。从现在到可预见的未来，研究人员需要将人工智能工具视为帮助完成任务的工具，而不是取代人类和人类大脑的东西。hey不能被信任为评估背景并以人类需要的方式使用信息。对于可预见的未来，研究人员需要将人工智能工具视为帮助完成任务的工具，而不是取代人类和人类大脑的东西。