CNCC | 网络生态治理论坛：大模型安全——路在何方？

刘知远

清华大学计算机系副教授/博导

主要研究方向为表示学习、知识图谱和社会计算，已在ACL、EMNLP、IJCAI、AAAI等人工智能领域的著名国际期刊和会议发表相关论文100余篇，Google Scholar统计引用超过20,000次。曾获教育部自然科学一等奖（第2完成人）、中国中文信息学会钱伟长中文信息处理科学技术奖一等奖（第2完成人），入选中国科协青年人才托举工程。担任中文信息学会青年工作委员会主任，中文信息学会社会媒体处理专委会秘书长，期刊AI Open副主编，ACL、EMNLP、WWW、CIKM、COLING领域主席。

刘知远

清华大学计算机系副教授/博导

大模型「十问」，寻找新范式下的研究方向

2018年以来预训练语言模型技术将深度学习成功用于大规模无标注数据的自监督学习，显著提升了自然语言处理等任务的性能，人工智能进入大模型时代。大模型需要高效并行计算的支持，为机器学习带来全新的范式，更为NLP等场景应用开辟广泛的探索空间。本报告将介绍大模型技术的前沿动态，并总结大模型面临的十个重要问题，希望与广大同行共同探索大模型前沿问题，推动大模型技术的研究与应用。

王士进

科大讯飞副总裁、AI研究院执行院长、认知智能全国重点实验室副主任

正高级工程师，王士进博士在人工智能领域具有丰富的核心技术研究和成果转化工作经验，取得一系列国际领先的研究成果，获得30余项国际比赛冠军，获安徽科技进步一等奖、吴文俊科技进步奖一等奖、中国科协求是杰出青年成果转化奖等奖项称号。2023年5月6号，他带队研发的讯飞星火认知大模型成功发布，获得业内高度评价。

讯飞星火模型最新技术进展及安全实践

近年来，基于大模型的人工智能技术取得了飞速发展，大模型的复杂性、黑盒化、难验证等特性给大模型的安全应用带来了新的挑战。本报告探讨讯飞星火大模型团队在技术研究及安全等方面的最新研究进展，并介绍此领域面临的挑战和未来发展方向。

黄民烈

CCF学术工委秘书长

清华大学长聘教授

博士生导师，国家杰青获得者，计算机系智能技术与系统实验室副主任，清华大学基础模型中心副主任，自然语言生成与智能写作专委会副主任。研究领域为大规模语言模型、对话系统、语言生成，著有《现代自然语言生成》一书。曾获得中国人工智能学会吴文俊人工智能科技进步奖一等奖（第一完成人），中文信息学会汉王青年创新奖，微软合作研究奖等。在国际顶级会议和期刊发表论文150多篇，谷歌学术引用15000多次，h-index 61，入选2022年Elsevier中国高被引学者，连续三年入选AI 2000全球最有影响力AI学者榜单；多次获得国际主流会议的最佳论文或提名（IJCAI、ACL、SIGDIAL等）。研发任务型对话系统平台ConvLab、ConvLab2，世界上最大的中文对话大模型EVA、OPD，智源中文大模型CPM的核心研发成员，是国内大模型研究的主要力量之一，研发AI乌托邦拟人对话交互平台。

大语言模型的安全性研究

随着ChatGPT、GPT-4等大语言模型的智能水平的提升，通用人工智能也越来越接近。但“越智能越危险”，大语言模型的安全性研究变得越来越重要：偏见歧视、隐私、滥用、伦理、价值观等各种安全性问题成为广泛关注的问题，人工智能治理也成为智能社会的亟待规范的课题。讲者将围绕大语言模型尤其是中文大语言模型、对话系统的安全性问题，阐述其在安全类别体系、对抗攻防、隐性毒性内容检测、隐私训练数据抽取、社会伦理道德植入等方面的工作。

薛晖

阿里巴巴集团资深总监，集团安全部算法负责人，人工智能治理实验室主任

他所研发的智能系统支撑了阿里巴巴集团的网络安全、数据安全、内容安全、业务风控等业务；在人工智能与网络安全的顶级会议和期刊上发表论文50余篇，获授权国内国际专利60余项，牵头或参与多项国际国内行业标准的制定，获吴文俊人工智能科学技术奖（第一完成人），著有《算法治理制度之竞争规制》《算法治理制度之算法透明度》等。

大模型时代的算法治理与实践

近期以生成式智能为代表的通用人工智能技术获得了长足的发展，对人类社会各行各业、方方面面都将产生深远的影响。我们应如何看待这种影响和变化，是积极正向还是消极负向，是风险挑战还是新的机遇？结合在阿里巴巴集团风险治理的工作经历，谈谈自己的心得体会。

邱锡鹏

复旦大学计算机学院教授

主要研究方向为自然语言处理基础技术和基础模型，曾获中国科协青年人才托举工程项目、国家优青等项目，获钱伟长中文信息处理科学技术奖一等奖， “爱思唯尔2022中国高被引学者”，主持开发了开源框架FudanNLP和FastNLP，已被国内外数百家单位使用，发布了MOSS、CPT、BART-Chinese等中文预训练模型，在中文模型中下载量排名前列。目前MOSS已经成为国内影响力最大的开源大型语言模型之一。

大型语言模型的科学挑战

自然语言处理领域在近几年取得突破发展，进入到大型语言模型时代。各种自然语言处理任务也逐渐统一到生成式范式，并显示出极强的通用性，极大地推动了自然语言处理任务的性能提升。但是，大型语言模型不仅仅是工程问题，同时也带来了新的科学挑战，包括模型的架构、推理能力来源、幻觉、可解释性等问题。本报告主要介绍大型语言模型的主要科学挑战以及对未来研究的展望。