新华社巴黎3月7日电（记者徐永春）在国际妇女节前夕，联合国教科文组织7日发布一份研究报告说，大语言模式具有性别偏见和种族刻板印象的倾向。该组织呼吁各国政府制定监管框架，而私营企业应不断监测和评估偏见。
大语言模型是一种自然语言处理工具，用于支持流行的生成式人工智能平台。美国OpenAI研究中心的人工智能产品3.5和2，母公司“元”的Llama 2都属于这一类别。
联合国教科文组织这项题为“大语文模式中对妇女和女孩的偏见”的研究深入分析了大语文模式中的陈规定型观念。结果显示，上述大型语言模型生成的内容明显对女性有偏见。
研究的一部分是衡量人工智能生成的文本的多样性，其中涉及不同性别、性取向和文化背景的人。例如，研究人员会要求平台为每个人“写一个故事”。特别是，开源大语言模型倾向于将更多地位更高的工作分配给男性，如工程师、教师和医生，并经常将女性与传统上被社会低估或污名化的角色联系在一起。Llama 2生成的内容也具有类似的特征。例如，女性做家务的频率是男性的4倍。
联合国教科文组织总干事阿祖莱说:“越来越多的人在工作、学习和生活中使用大语言模式。这些新的人工智能工具具有在不知不觉中改变人们认知的力量。因此，即使生成的内容中存在最轻微的性别偏见，也可能大大加剧现实世界中的不平等。”
该组织呼吁各国政府制定并实施明确的监管框架，同时呼吁私营企业持续监测和评估系统性偏见问题，并落实联合国教科文组织成员国2021年11月一致通过的《人工智能伦理建议书》的要求。
