AI奇点网3月8日报道丨当地时间3月7日，联合国教科文组织发布一份研究报告称，大语言模型存在性别偏见、种族刻板印象等倾向。报告指出，女性在大模型的描述中，从事家务劳动的频率是男性的 4 倍，且常常与“家”、“家庭”和“孩子”等词汇联系在一起，而男性名字则与“商业”、“管理层”、“薪水”和“职业”等词汇联系在一起。
此次联合国教科文组织发起了“大语言模型中对妇女和女童的偏见”的研究，对大语言模型中的“刻板印象”进行深入分析。研究的部分内容是测量人工智能生成文本的多样性，内容涉及不同性别、文化背景的人群，测试对象包含 OpenAI 的 GPT-3.5、GPT-2 以及 META 的 Llama 2 等。
例如，研究人员会要求平台为每个人“编写一则故事”。开源大语言模型尤其倾向于将工程师、教师和医生等更多元、地位更高的工作分配给男性，而经常将女性与传统上被低估或被社会污名化的角色挂钩。
联合国教科文组织总干事阿祖莱表示：“越来越多的人在工作、学习、生活中使用大语言模型，这些新的人工智能工具有着在不知不觉中改变人们认知的力量。因此，即便是生成内容中极为微小的性别偏见，也可能显著加剧现实世界中的不平等。”
联合国教科文组织呼吁各国**制定并执行明确的监管框架，私营企业对系统性偏见问题展开持续的监测和评估，落实联合国教科文组织会员国在 2021 年 11 月一致通过的《人工智能伦理问题建议书》要求。
上一篇：奥特曼重返OpenAI董事会丨Pika推出AI视频音效配音生成功能丨李彦宏：文心4.0在中文能力上超过了GPT-4
下一篇：硅谷版“罗密欧与朱丽叶”：马斯克vs奥特曼的爱恨情仇丨从兄弟同心到对薄公堂，8年发生了什么？
聚焦智能天文光学系统，打造人类“天眼”。
一家机器人公司如何穿越行业“死亡谷”？
教师职业三重变革：从编制铁饭碗到流量新战场，谁在定义未来教育者？
苹果发布超薄iPhoneAir，评价两极，或为折叠屏预热。
你是不是也经常遇到“AI配音”的视频？
苹果还没有熟透。
豆包
博思白板 — boardmix AI
扣子-AI办公
千问
讯飞绘文
讯飞绘文-免费AI写作
扣子-AI办公app
AI小聚
ZeroGPT
网站地图
跟人类学孬了！联合国：AI大模型的回复存在严重的性别偏见、种族偏见与刻板印象等问题
AI奇点网3月8日报道丨当地时间3月7日，联合国教科文组织发布一份研究报告称，大语言模型存在性别偏见、种族刻板印象等倾向。报告指出，女性在大模型的描述中，从事家务劳动的频率是男性的 4 倍，且常常与“家”、“家庭”和“孩子”等词汇联系在一起，而男性名字则与“商业”、“管理层”、“薪水”和“职业”等词汇联系在一起。
此次联合国教科文组织发起了“大语言模型中对妇女和女童的偏见”的研究，对大语言模型中的“刻板印象”进行深入分析。研究的部分内容是测量人工智能生成文本的多样性，内容涉及不同性别、文化背景的人群，测试对象包含 OpenAI 的 GPT-3.5、GPT-2 以及 META 的 Llama 2 等。
例如，研究人员会要求平台为每个人“编写一则故事”。开源大语言模型尤其倾向于将工程师、教师和医生等更多元、地位更高的工作分配给男性，而经常将女性与传统上被低估或被社会污名化的角色挂钩。
联合国教科文组织总干事阿祖莱表示：“越来越多的人在工作、学习、生活中使用大语言模型，这些新的人工智能工具有着在不知不觉中改变人们认知的力量。因此，即便是生成内容中极为微小的性别偏见，也可能显著加剧现实世界中的不平等。”
联合国教科文组织呼吁各国**制定并执行明确的监管框架，私营企业对系统性偏见问题展开持续的监测和评估，落实联合国教科文组织会员国在 2021 年 11 月一致通过的《人工智能伦理问题建议书》要求。
上一篇：奥特曼重返OpenAI董事会丨Pika推出AI视频音效配音生成功能丨李彦宏：文心4.0在中文能力上超过了GPT-4
下一篇：硅谷版“罗密欧与朱丽叶”：马斯克vs奥特曼的爱恨情仇丨从兄弟同心到对薄公堂，8年发生了什么？
追觅「上天」，官宣成立天文BU｜最前线
聚焦智能天文光学系统，打造人类“天眼”。
三临绝境，三度翻盘：一家机器人公司的15年“极限求生”
一家机器人公司如何穿越行业“死亡谷”？
招生锐减、硕博下沉、AI创业——教师职业的破与立
教师职业三重变革：从编制铁饭碗到流量新战场，谁在定义未来教育者？
OpenAI CEO奥特曼点赞iPhone Air，分析师直呼：它只是苹果的试验品
苹果发布超薄iPhoneAir，评价两极，或为折叠屏预热。
偷走全红婵声音，在网上卖鸡蛋？你看的明星带货直播，可能是AI偷来的……
你是不是也经常遇到“AI配音”的视频？
库克不再「挤牙膏」：iPhone薄了，AI缺席
苹果还没有熟透。
豆包
博思白板 — boardmix AI
扣子-AI办公
千问
讯飞绘文
讯飞绘文-免费AI写作
扣子-AI办公app
豆包
博思白板 — boardmix AI
扣子-AI办公
千问
讯飞绘文
讯飞绘文-免费AI写作
扣子-AI办公app
AI小聚
ZeroGPT