新研究表明人们可以学会识别机器生成的文本

人工智能（AI）的日益复杂和普及引发了人们对其对社会影响的长期担忧。最新一代的聊天机器人进一步加剧了这些担忧，人们担心工作市场的完整性和虚假新闻、错误信息的传播。在这些担忧的背景下，宾夕法尼亚大学工程和应用科学学院的研究团队试图让科技用户能够减轻这些风险。

训练自己识别AI文本

他们的同行评审论文，在2023年2月人工智能协会会议上发表，提供了证据，证明人们可以学会区分机器生成和人类书写的文本。

该研究由计算机和信息科学系（CIS）副教授Chris Callison-Burch、博士生Liam Dugan和Daphne Ippolito领导，证明了AI生成的文本是可以被检测到的。

“我们已经证明，人们可以训练自己识别机器生成的文本，”Callison-Burch说。“人们一开始对机器可能犯的错误有一些假设，但这些假设不一定正确。随着时间的推移，给予足够的例子和明确的指示，我们可以学会识别机器目前正在犯的错误类型。”

该研究使用了“真实或虚假文本？”的原始网络训练游戏收集的数据。该训练游戏将标准的检测研究方法转化为更准确地模拟人们使用AI生成文本的方式。

在标准方法中，参与者被要求以是或否的方式指示机器是否生成了给定的文本。宾夕法尼亚模型通过显示所有从人类书写开始的示例来改进标准的检测研究，将其转化为有效的训练任务。然后，每个示例转换为生成的文本，要求参与者标记他们认为转换开始的位置。受训者识别和描述文本中指示错误的特征，并获得一个分数。

研究结果

研究结果表明，参与者比随机机会得分明显更好，提供了证据，证明AI创建的文本在某种程度上是可以被检测到的。该研究不仅概述了我们与AI的关系的令人放心，甚至令人兴奋的未来，而且还提供了证据，证明人们可以训练自己检测机器生成的文本。

“人们有理由担心AI，”Callison-Burch说。“我们的研究为缓解这些担忧提供了证据。只要我们能够利用我们对AI文本生成器的乐观态度，我们就可以将注意力转向这些工具的能力，帮助我们写出更富有想象力、更有趣的文本。”

Dugan补充说，“有令人兴奋的积极方向可以推动这项技术。人们对令人担忧的例子，如抄袭和虚假新闻，着迷，但我们现在知道我们可以训练自己成为更好的读者和作家。”

该研究为减轻机器生成文本的风险提供了至关重要的第一步。随着AI的不断演进，我们检测和应对其影响的能力也必须随之演进。通过训练自己识别人类书写和机器生成文本之间的区别，我们可以利用AI的力量来支持我们的创作过程，同时减轻其风险。