在本次报告中,报告人将介绍当前行业大数据赋能行业应用中面临的新挑战,并介绍基于“感传算一体化”体系赋能行业的理念和实践,探讨如何在行业应用场景下实现“感知智能”、“边缘智能”与“控制智能”的协同融合,提升现有分布式平台的“场景自适应能力”和“感传算协同能力”,并介绍在电力、制造、医疗等行业的系统方案和典型应用案例。
物联网环境下终端设备的内存大小通常非常有限。而随着人工智能特别是大模型的快速发展,模型变得越来越大,模型推理系统对内存的需求越来越高。当可用内存不足时,就会严重影响模型推理性能,甚至导致模型推理无法完成。本报告介绍面向内存受限设备的模型推理优化技术,探讨如何在可用内存受限时实现高效的模型推理。
从智慧城市到工业自动化,智能物联网在越来越多的场景中得到了广泛应用.模型推理作为实现智能决策和响应的核心技术,在智能物联网系统中扮演着举足轻重的角色.然而,智能物联网设备通常在计算能力、通信带宽、内存容量和电池寿命等资源上高度受限.这使得智能物联网中的模型推理资源开销成为一个关键技术挑战.本综述总结了在智能物联网场景中优化模型推理资源开销的相关技术,对当前在智能物联网应用中使用的主流模型推理优化技术进行概述,并深入分析它们在资源效率方面的优势和不足.本文从推理涉及的三大模块(传感器数据、智能模型、物联网硬件)和五类关键资源的角度出发设计新的技术分类,并首次提出了一套针对智能物联网模型推理的通用的优化流程,能够帮助相关研发人员定位和优化推理效率瓶颈.最后,本文讨论了智能物联网推理效率相关的四个未来研究方向。
作为智能物联网向高阶智能演进的重要方向,具身智能强调智能体通过身体与环境交互进行感知、学习和行动,与AIoT“万物智联”的愿景深度契合,为构建能理解、推理并响应物理世界的嵌入式系统提供了新范式。围绕具身智能PIE方案,P(Perception)介绍机器人全感知与交互感知,I(Imagination)介绍物理世界概念驱动的仿真推理框架,E(Execution)介绍通用元操作技能设想与工作。基于上述三个模块,本报告介绍具身PIE大模型探索与初步成果。最后介绍具身认知智能工作,如何验证脑神经行为与身体行为稳定隐射关系。
随着大模型的发展,人工智能(AI) 进入了一个新时代。大模型在具体应用时的一个挑战是如何把通用大模型的知识迁移到本地化的小模型上,同时保护各方的隐私和数据安全。在本报告中,讲者将讨论如何在大模型的背景下使用“联邦大模型”的框架进行大模型的本地化。讲者将首先回顾AI的发展和联邦学习的概念,然后讨论如何把联邦学习、迁移学习和大模型有机地结合,使得大模型的落地应用更加顺畅和便捷。
目前人类社会在自然科学上仍然没有较大的突破,“上天、入地和下海”可能是当前很多技术拓展研究和应用领域的新场景,相比“入地和下海”的需求,以卫星为代表的“上天”可能会为计算机领域的发展提供新的增长空间和应用场景。为了应对上述需求,讲者近几年围绕卫星计算领域开展了多项研究探索。本次汇报主要围绕面向卫星边缘智能需求,从设计、生产到调试阶段介绍面向边缘智能的太空服务器研制情况。