编者寄语

随着生成式人工智能的快速发展,推荐系统已成为信息分发的核心基础设施。然而,传统推荐系统过度强调算法效率,忽视了用户认知差异、价值偏好与社会影响,导致信息茧房、算法偏见和隐私泄露等问题日益突出。为应对这些挑战,人智协同推荐系统(Human-AI Collaborative Recommender Systems)应运而生,这一新范式融合计算机科学、认知心理学与社会学理论,通过构建人智双向理解、动态适应与协同演化的创新机制,推动推荐系统从“单向推送”向“双向协作”转变,以实现更可信、可控和可持续的智能服务。人智协同推荐系统具备心智共享、交互自主、责任可控、演化可调控和系统可持续等特征,已在数字教育、电商、医疗等领域展现出潜力。然而,该系统也面临价值观偏移、偏见加剧和隐私风险等社会性挑战。因此,如何在提供精准服务的同时,确保其符合伦理规范、尊重个体价值、提升公平与包容性,成为学界与业界关注的前沿课题。

在CNCC2025大会即将召开之际,本期数图特辑聚焦“以人为中心的人智协同推荐系统”,内容涵盖以人为中心的推荐系统、负责任的推荐系统、人智协同推荐系统、大模型与推荐系统、推荐系统安全与评估等领域的相关前沿报告视频和期刊文章资源,旨在为研究者提供跨学科参考,推动该领域在技术创新与治理实践层面的协同发展。


编委主任:苏金树 CCF会士 军事科学院教授

本期主编:卢 暾 CCF协同计算专委秘书长 复旦大学教授

本期编委:张 鹏 CCF协同计算专委执行委员 复旦大学副教授

                 李 诺 CCF协同计算专委执行委员 复旦大学博士后

人智协同推荐系统

人智协同推荐系统通过结合人类智能和人工智能的优势,揭示和解释用户与推荐系统之间的互动和协作模式,以解决推荐过程中的数据稀疏、可解释性差、泛化性弱、隐私泄露等问题,并通过研发和构建能够动态适应用户期望价值目标和增强决策能力的推荐系统,提供高质量推荐和良好推荐体验,确保推荐系统对个体、群体和社会产生积极影响。 在人智协同新范式下,推荐系统由单向的人类被动接受,转变为人类-智能体协同探索。在大模型、AIGC等先进AI技术的加持下,人智协同推荐系统已成为影响真实世界的复杂社会计算系统,深刻影响个体变迁、群体演化和社会秩序,也极易带来和加剧价值观偏移、人群偏见、隐私泄露等社会性问题,如何确保人智协同推荐系统在提供个性化服务的同时,符合社会规则和个体规范,提升公平和包容性已成为学界和业界关注的前沿问题。本视频深入探讨人智协同推荐系统在算法、技术、系统架构、用户体验、伦理、政策和实践等方面的最新进展和实际应用,以期推动人智协同推荐系统的持续发展和广泛应用。

格式:
视频
负责任的推荐系统

负责任的推荐系统(Responsible Recommendation Systems)是一个跨学科领域,涉及计算机科学、人工智能、新闻传播学、伦理学和社会科学等多个领域的理论、模型、技术和方法。其目标是通过揭示和解释用户与推荐系统互动和协作的行为模式和深层机制,以解决推荐过程中的透明度、隐私保护、公正性和用户参与度等问题,并通过研发和构建适应用户认知并增强决策能力的负责任的推荐系统,以提供用户满意度高、公正性强、隐私保护好的推荐体验,确保推荐系统的应用对用户和社会都产生积极的影响。特别是大模型的兴起并与推荐系统不断结合和深度融合,其高度的复杂性、大量使用用户数据以及训练语料的偏差等问题也引发了透明度、数据隐私和公平性等方面的担忧。本次论坛聚集了来自学界和业界的人工智能、CSCW与社会计算、人机交互、新闻传播等多个学科领域的知名专家学者,从算法、技术、系统、体验、传播、政策和实践等多个维度,共同探讨如何在大模型时代构建负责任的推荐系统等前沿研究进展,旨在为相关领域的研究人员和从业者提供一个交流和合作的平台,促进负责任推荐系统的发展和应用。

格式:
视频
以人为中心的推荐系统

“以人为中心的推荐系统”吸引了大批来自计算科学与社会科学的研究者,共同探究用户与推荐系统的特质以及两者间的复杂关联关系,设计基于先进AI技术的高效精准的推荐算法,评估推荐系统对用户期望、价值与目标的影响、塑形与风险,诠释用户与推荐系统的交互行为模式和深层机理,构建适配用户认知和增强决策能力的负责任推荐系统,实现用户与推荐系统的长短期价值融合、协同学习与互惠成长。本视频从算法、技术、系统、体验、传播、政策和实践等多维视角分享和和探讨“以人为中心的推荐”的前沿研究与发展趋势。

格式:
视频
大模型与推荐系统

大模型时代正拉开序幕,预训练大模型经海量数据的学习训练后具有良好的通用性和泛化性,其强大的涌现能力令人瞩目。推荐系统作为大规模机器学习算法应用较为成熟的方向之一,如何与大模型结合,引发学术界和工业界的高度关注。本次“大模型与推荐系统”论坛,将邀请多位知名学者专家分享最新研究进展,并一同探讨推荐系统在大模型的加持下,将迎来哪些“变”与“不变”,会遇到哪些机遇和挑战。

格式:
视频
大模型时代下的搜索、推荐与广告

大模型技术已经让大家看到了通用人工智能的曙光,在各类AI应用中也正在发挥重要作用,搜索、推荐和广告这三类AI落地最成功的场景也不例外。为此,学术界和工业界都进行了深入研究,积累了丰富的研究成果。当前,大模型技术在搜推广中应用仍然存在一系列挑战,主要围绕两个方面:一方面,大模型技术主要处理文本、图像、视频等数据,难以处理搜推广场景下海量、动态的交互数据;另一方面,基于大模型的搜推广技术往往难以满足严格的延时要求,如何在保证推理效率的同时如何保证基于大模型的搜推广技术的有效性。本论坛围绕这一主题,邀请学术界和工业界的代表人物,从不同角度剖析大模型时代下搜推广技术的现状和发展,机遇与挑战。

格式:
视频
联邦推荐的系统安全与隐私保护

联邦推荐技术能在不收集用户隐私数据的条件下精准建模用户的喜好,为用户提供个性化的推荐结果,在注重数据隐私保护的金融领域有着广泛的应用,可极大提升了金融服务效率和用户体验。本次演讲将围绕“联邦推荐的系统安全与隐私保护”这一议题,结合数字金融领域背景,深入探讨针对联邦推荐系统的攻击方法和相应的防御手段。

格式:
视频

本期编委成员