职业性别偏见

摘 要：大语言模型问世以来，在自然语言处理诸多任务上都取得了惊人的表现。但其中可能存在的安全性和公平性问题也引起了人们的重视，特别是模型生成文本可能含有对特定职业、性别等群体的偏见和歧视。文章通过两种性别征形式，构造了显性和隐性的性别职业提示语，提示大语言模型生成开放性文本，并从情感极性、词汇丰富度和冒犯性程度三个维度对生成文本的偏见进行分析，评估并比较传统模型与以ChatGPT为代表的大语言模型中的职业显性性别和隐