AI的“偏见”，我们能否信任它的“三观”？

        人工智能（AI）已然成为人类生活中密不可分的 “伙伴”。从日常的聊天机器人、语音助手到便捷的自动翻译工具，AI 正持续融入人与人之间的沟通与理解过程。但一个值得深思的问题是：它真的能做到 “客观中立” 吗？

 

        美国《麻省理工科技评论》官网曾报道，一项国际研究表明，大型语言模型（LLM）正在不知不觉中扩散全球范围内的各种刻板印象。从性别歧视、文化偏见到语言层面的不平等，AI 仿佛在将人类的 “偏见包袱” 打包、升级，再以看似权威的姿态传递到世界各个角落。

这不禁引人追问：倘若 AI 模型所承载的是带有偏见的 “人类共识”，我们还能信赖它们构建的 “世界观” 吗？

        这项研究由开源 AI 企业 Hugging Face 的首席伦理科学家玛格丽特・米切尔牵头。他们启动了名为 SHADES 的项目，收集了 300 多条来自全球的刻板印象，涉及性别、年龄、国籍等多个领域。研究人员用 16 种语言设计了交互式提示语，对多款主流语言模型在偏见方面的反应展开测试。

测试结果显示，AI 模型对刻板印象的呈现存在明显的差异化特点。这些模型不仅会表现出英语地区常见的 “金发女性不够聪明”“工程师多为男性” 等刻板印象，在阿拉伯语、西班牙语、印地语等语言环境中，也会显露 “女性更偏爱粉色”“南亚人较为保守”“拉美人狡猾” 等偏见。

 

        据 Rest of World 网站消息，部分图像生成模型在接收 “非洲村庄” 这一关键词时，常常生成 “茅草屋”“赤脚孩童” 之类的刻板画面；而当输入 “欧洲科学家” 时，输出的则全是白人男性穿着白大褂、身处实验室的形象。这些带有视觉偏见的内容，已被一些学校的课件、初创企业的官网不加辨别地直接使用，进一步固化了人们对其他文化的单一化想象。

 

        西班牙《世界报》6 月的文章指出，语言模型除了放大不同文化的刻板印象，有时还会借助伪科学或伪历史来为自己辩解。面对不太常见的刻板印象时，模型往往会调用它 “更熟悉” 的其他偏见来回应，结果反而偏离了主题。此外，当涉及刻板印象的提示语是正面内容时，模型的表现往往更糟糕，更容易把偏见误当作客观事实表达出来。

 

        “这意味着，AI 不仅被动承袭了人类的偏见，还在无意间推动了‘文化流动’，把特定社会背景下的偏见当作普遍规则向外输出。” 米切尔这样表示。

        除了刻板印象的跨文化传播，AI 系统在处理不同语言和文化时，还暴露出 “隐形歧视” 的问题。

有报道称，美国斯坦福大学 “以人为本” AI 研究所的研究发现，尽管这些模型宣称支持多语言，但在面对低资源语言（如斯瓦希里语、菲律宾语、马拉地语等）时，表现远不如处理主流高资源语言时出色，甚至容易产生负面刻板印象。

 

        该研究分析了多语言模型在训练数据短缺、文化语境缺失等方面的局限，认为其存在 “多语言性诅咒” 现象 —— 模型在兼顾多种语言时，很难深入理解和精准表达低资源语言的文化内涵与语义细节，进而导致输出内容出现错误或带有偏见。

 

        斯坦福大学的研究团队强调，当前多数训练数据以英语和西方文化为核心，缺乏对非主流语言及其文化背景的深度理解。这不仅影响了模型的准确性，还在无形中加剧了语言和文化的不平等，使得使用这些低资源语言的群体难以公平地从 AI 技术中受益。

 

        “全球现存约 7000 种语言，但在互联网中能得到有效呈现的还不到 5%。” 研究人员表示，“‘资源短缺’不只是一个数据层面的问题，更是一种植根于社会的深层问题。” 这意味着，AI 研发在数据、人才、资源和权利分配上存在结构性的不公平。

 

        美国《商业内幕》杂志也引用哥伦比亚大学社会学副教授劳拉・尼尔森的观点称，当前广受欢迎的聊天机器人大多由美国公司开发，训练数据以英语为主，深受西方文化偏见的影响。

        面对 AI 跨文化偏见带来的实际影响，全球的研究机构和企业已开始探索系统性的解决办法。

 

        今年 4 月，斯坦福大学 “以人为本” AI 研究所在其发布的白皮书中建议，应加大对低资源语言及相关文化的 AI 投入，尤其要建立本地语言语料库，让 AI 能真正 “读懂” 这些语言背后的语义和文化背景。例如，去年 11 月，非洲电信公司 Orange 就与 OpenAI、Meta 展开合作，用沃洛夫语、普拉尔语等地区语言训练 AI 模型，以加快提升非洲的数字包容性。

 

        与此同时，模型评估机制也在朝着更精细、更开放的方向发展。Hugging Face 团队开发的 SHADES 数据集，已成为多家企业检测和纠正 AI 模型文化偏见的重要工具。这套数据能帮助团队识别出模型在哪些语言和语境下容易自动触发刻板印象，从而优化训练数据和算法。

 

        在国际政策层面，欧盟《AI 法案》要求 “高风险” AI 系统在投放前后必须进行合规评估，包括审查其非歧视性和对基本权利的影响，同时要具备必要的透明度和人类监督机制。联合国教科文组织早在 2021 年发布的《AI 伦理建议书》中也明确提出，AI 系统应 “保障文化多样性与包容性”，倡导各国建立相关法律和制度，确保 AI 的开发尊重文化差异，并融入人文维度的考量。

 

        AI 本质上就像一面 “镜子”，它映照并复制着人类输入的偏见与价值观。它所呈现的 “世界观” 并非自主形成，而是由人类赋予的。如果人们希望 AI 能真正服务于多元的人类社会，就不能让它只反映单一的声音和文化。