AIGC：我太“男”了？——大模型中的性别偏差问题 | YEF2024

赵样

云南师范大学教授

CCF高级会员，CCF YOCSEF昆明2023-2024年度主席、YOCSEF一方沙龙2024-2025年度轮值主席，中国高等教育学会青少年人工智能教育分会理事。专业领域为学习分析与智慧教育，模式识别与智能系统。主持教育部人文社科规划基金面上项目1项，省级项目4项，参与国家社科基金1项等课题10余项。第一作者发表论文30余篇，独著学术专著1部，参编6部；主编在线学习教材2部（用量超10万册），参编3部。登记软件著作权15项。参加省级以上创新创业大赛获得国家级铜奖1项、省级金奖2项、银奖6项、铜奖4项。

李洋

东北林业大学副教授、计算机与控制工程学院副院长

CCF YOCSEF哈尔滨2024-2025年度主席。主要研究方向为自然语言处理、人工智能与生物信息处理。主持国家自然科学基金2项，黑龙江省自然科学基金优秀青年项目、面上项目等多个省部级项目。在国际顶级期刊和会议发表论文20余篇。获东北林业大学“十佳研究生导师”奖等。

姚鸿勋

哈尔滨工业大学计算学部长聘教授

黑龙江省政府特殊津贴专家，教育部"新世纪优秀人才"，中国图象图形学学会第七、第八届常务理事，现任中国图象图形学学会情感计算与理解专业委员会主任，曾任第一届国际情感计算会议 ACII2005大会共同主席，国际互联网多媒体计算与服务会议ACM ICIMCS2010大会主席，2021世界人工智能大会哈尔滨分会论坛主席，2023年中国图象图形学学会青年科学家大会共同主席、2023 第一届情感智能大会主席。主要研究领域为计算机视觉智能、多媒体数据分析与理解、情感计算等。已发表 ICCV,CVPR, ACMMM等顶级国际会议及 IJCV, TPAMI, TIP,TMM等高影响因子国际期刊文章学术论文 300 余篇，H指数>50，Google 引用量10000+，入全球人工智能 TOP 2000 榜单学者榜单，中国人工智能100位榜单人物。获国家发明专利30余项，出版教材6部。主持或负责完成国家自然基金重点、面上项目12项，主持新一代人工人智能国家科技重大专项课题1 项，完成国家863、973项目以及国际合作项目多项。获国家及省部级自然科学奖项4项，获中国计算机专业优秀教师奖(2021)。已培养成长为“国家级高层次人才”1人、“国家级青年人才”4人，“优博”“优硕”学生6名，省级优秀毕业生十余名。

报告题目：情感认知探索与大模型中的性别塑造

摘要：

此次报告以图像情感分析任务为例探讨人工智能从语义感知到情感认知的转变过程，强调图像作为丰富情感信息载体的重要性，并介绍通用图像情感分析与传统图像感知研究的区别。在此基础上，指出图像情感分析所面临的两个主要挑战：情感差距和主观性。情感差距体现为图像特征与用户预期情感状态之间的不一致性，而主观性则涉及不同观众对同一图像产生不同情感反应的现象。报告介绍上述挑战引出的研究方向：特征提取层面的研究和标签噪声的处理，并展望图像情感分析领域的发展方向，强调多模态大模型的重要性，提出情感信息推理和多模态大模型特征融合等方面的潜在影响。

邱锡鹏

复旦大学计算机学院教授

CCF YOCSEF上海2024-2025年度主席，主要研究方向为自然语言处理基础技术和基础模型，发表CCF-A/B类论文100余篇，引用19,000余次，入选爱思唯尔“中国高被引学者”和“终身科学影响力排行榜（全球前2%顶尖科学家榜单）”，曾获中国科协青年人才托举工程、国家优青等项目，获钱伟长中文信息处理科学技术奖一等奖（第一完成人），入选教育部“高校计算机专业优秀教师奖励计划”，两次获得上海市计算机学会教学成果奖一等奖；主持研发的MOSS已经成为国内影响力最大的开源大型语言模型之一。著作《神经网络与深度学习》被上百家高校作为教材。

报告题目：大模型对齐

摘要：

在当前技术快速发展的时代，大模型在我们的日常生活中扮演着越来越重要的角色。然而，这些技术系统常常显露出性别偏差，这不仅反映了训练数据的偏见，也可能加剧社会性别不平等。本报告着重探讨了如何通过提升女性在AI领域的代表性和参与度，对大型模型进行性别对齐，以减少和消除这些偏见。

高扬

北京理工大学计算机学院副教授

从事生成式语言建模十余年，发表高水平论文60余篇，先后主持国家自然科学基金2项，专利成果转化1项，核心参与7项国家及省部级重点/重大研究计划。《大模型：算法与实践》课程入选教育部人工智能关键领域工程硕博士核心课程。主持从头训练的明德基座大模型（MindLLM）及国产生态大模型建设，开源 “端侧”对话大模型，上线首月下载量超4000余次，总计下载过万次，并上线检索增强大模型的智能政务服务。成果获电子学会科学进步一等奖，国防科学进步二等奖。担任Web Intelligence等期刊编委，EMNLP、CCL等会议领域主席，多次担任高水平国际会议程序委员。

报告题目：大模型的发展：顺应过去还是改变未来？

摘要：

大模型所呈现出来的性别偏见很大程度上是人类过往的数据和认知造成的，现有模型方法是顺应这种数据分布。面对已经存在社会歧视、性别偏见，AI技术可以发挥怎样的能量，做出怎样的改变？此次报告将针对以上问题展开讨论，从数据构造、模型训练方法、评估体系方面探讨AI赋能的“她力量”。继而，展望AI时代下女性力量的优势，以及为整个社会带来可能的益处。

徐小敏

腾讯云公司云桂区域总经理

CCF昆明分部第三届（2023~2025）副主席、大数据专业委员会委员。毕业于清华大华环境科学与工程系，2022年12月加入腾讯公司，进入腾讯前曾任职阿里云云南总经理。十余年的IT从业经验，关注数字技术前沿趋势，致力于运用云计算、大数据、人工智能及区块链等领先技术，推动行业数字化转型和产业创新，助力数字经济与传统实体经济融合发展。

姚长江

青岛洞听智能科技有限公司产品总监

获得国际产品经理资格认证，国际项目经理资格认证。拥有近十年人工智能领域工作经验，对数据分析、NLP、大模型应用、企业智能化改造有着丰富经验。曾负责多项企业信息化改造工程，对大模型微调与应用有独特见解，并规划设计多项大模型实际应用系统。

王菲儿

CCF YOCSEF一方沙龙性别问题顾问

管理学博士，毕业于格拉斯哥大学亚当斯密商学院。现于北京工商大学经济学院任职博士后，主要研究领域为数字经济，AI发展与劳动力等。