Shinichiro (SHIN) Nakamura, President of one to ONE Holdings

如何克服语言和文化偏见在GenAI采用中

在2025年，ChatGPT和AI驱动的Google搜索占据主导地位，但必须牢记不同的沟通方式。生成式AI（genAI）主要是基于文本的，且以英语为主，这可能会使其在非英语母语者中隔离其用例。尽管英语是世界上不到20%的人的母语，但它占据了67.3%的网站。许多genAI平台都是以英语为训练语言，这意味着在涉及多种语言或文化的工作环境中，沟通可能会变得扭曲。沟通不仅仅是屏幕上的文字：它还涉及语气、肢体语言、面部表情、节奏和文化细微差别等多个因素。部署gen AI的组织必须确保他们也在减轻潜在的语言和文化偏见，特别是考虑到我们生活在一个全球化的世界。为什么语音仍然很重要有多种理论扩展了多模式沟通的重要性，特别是在多文化和多语言环境中。其中最著名的理论之一是爱德华·T·霍尔（Edward T. Hall）关于高语境文化和低语境文化的理论。霍尔概述了不同文化之间的沟通方式的内在差异。高语境文化，如许多亚洲国家，依赖于间接和非语言暗示的沟通。例如，日语是一种高语境语言，声音和微妙的表情变化会极大地影响意图和推断。相比之下，低语境文化，如许多西方国家（美国和许多欧洲国家），依赖于直接和语言沟通。由于低语境文化往往更明确，数字文本消息可以无缝地融入他们的沟通结构。考虑到genAI的主要文本特征，在这种理论背景下，非英语母语者，尤其是来自高语境文化的人，在使用这些工具时难以有效沟通并不奇怪。在国际化的商业环境中，来自各行各业的人们汇聚在一起，缺乏微妙的暗示，如肢体语言和语气，可以使与AI的沟通变得严重不可靠。数字或技术化的沟通，特别是通过genAI工具体验的沟通，必须包括超越文本消息的其他模式。GenAI中的英语偏见问题人们也对AI检测器对非英语母语作家的偏见表示了严重的担忧。另外，在科学界，最近的研究表明，多达38%的非英语母语者由于语言障碍而被期刊拒绝。该研究的作者认为，打破语言障碍是知识共享的关键。他还认为，语言质量不应该决定知识是否有价值得以分享。研究人员敲响了警钟，警告LLM中缺乏语言多样性和排除非英语母语者的风险。这是一个根深蒂固的问题，限制了人们如何与AI工具互动和使用它们。这也是一个必须尽快解决的问题，考虑到95%的美国公司已经采用了genAI。这项技术正被越来越多地应用于繁忙的工作环境，如制造工厂。然而，非英语母语者在讨论AI部署策略时往往被排除在外。让我们来看看AI采用中的障碍是什么。在现实生活中，非英语母语者在提示方面遇到困难，导致输出偏差和信息或指令被误解的风险。例如，越南制造商由于英语水平有限，依赖genAI的英语翻译来获取指令。这会造成巨大的错误空间，因为语境和微妙的暗示被剥夺了。此外，信任和信心被削弱。这可能会加剧对使用技术的抵抗，同时破坏员工的士气和动力。弥合差距这些障碍和挑战应该尽早解决。为了在genAI采用中平衡文化和语言细微差别，组织可以采取多种策略来弥合这些差距，为多语言的未来构建genAI采用。整合认知和分析框架一个特别有用的认知框架是由著名的战斗机飞行员约翰·博伊德（John Boyd）开发的OODA循环。OODA循环的五个组成部分——“定向”——可以应用于理解个体决策如何受到输入的影响。 \我的建议是将语言视为“文化传统”的一部分，同时特别关注个体的“遗传特征”和“分析/综合”。以下是每个组成部分在训练AI模型以更广泛地涵盖语言方面的作用的详细分析。 遗传特征（嵌入式人类特征）: 训练AI系统检测像语气和节奏这样的通用暗示，这些暗示在语言和文化之间共享。采用语音、文本和视频暗示的多模式方法，而不仅仅是文本。 文化传统: 创建数据集以捕获某些语言特征，如拟声词和依赖语境的沟通形式。为区域量身定制模型，而不是使用一个不那么具有文化或语言灵活性的通用模型。 以前的经验: 人们更有可能信任反映他们生活现实的系统。例如，越南或日本的员工将以与美国团队不同的方式使用AI，取决于他们对这些工具的接触和信心程度。让当地团队测试和练习使用genAI的工作坊，他们可以分享关于genAI如何反映他们的语言和文化背景的反馈。组织可以根据使用这些指南的用例（例如，工厂工人通常更喜欢视觉指南）相应地调整提示库。 新信息: genAI工具需要不断更新以包含现实世界的数据。利用多语言数据输入来使集成系统学习不同语言和沟通形式的细微差别。 分析/综合: 这是人与AI之间的协调发生的地方。语言数据和信号通常是碎片化的，这与genAI模型不兼容。这些数据需要转换为AI可以消化的数据，然后可以处理和分析以生成文化和语言灵活的输出。 最佳实践的实用培训员工还应接受关于如何有效提示genAI平台的最佳实践培训，重点关注清晰度。提示库可以帮助团队熟悉最佳实践提示。重要的是，在AI培训工作坊中，我还建议关注公平和透明的原则。这些是无偏见AI部署的基本方面，团队还应熟悉识别幻觉和偏见的迹象，这些迹象加剧了语言障碍。此外，通过确保来自AI的新信息不仅来自个体，还来自广泛的来源来避免“回音室”。回音室是技术（包括AI）中的一个重大问题，强化了既有的偏见并偏斜输出。员工面临着陷入偏见陷阱并遵循不一致的指导或信息的风险。最后，应该将任何AI工具（包括genAI）视为“顾问”，而不是严格的指南。团队应被鼓励始终让人类介入以澄清任何混淆，以减轻误信息或误导的风险。AI正在改变业务流程，但在此过程中不应将任何人落下。将这些策略整合到AI部署中可以使企业应对语言障碍，这些障碍可能会造成偏见和连锁反应的问题。