报告题目：服务质量感知的高吞吐云边协同推理系统

演讲摘要：基于深度神经网络的应用现在被广泛使用于互联网服务当中。将整个或部分模型卸载到用户端移动设备的推理模式可以消除长数据传输时间。然而，由于异构的边缘设备具备不同的计算性能和网络条件，不同的DNN层应该在不同的设备上运行，使得数据中心上的请求显示出不规则的结构。如何根据不规律负载的到来顺序和任务量确定请求处理的优先级是亟需解决的问题。该报告将介绍一个支持不规则请求的协作推理服务系统ICE，包括切片器、请求管理器和延迟增强器等组件。实验结果表明，ICE可以显著提高数据中心支持的峰值负载，同时保证了所需的99%延迟。

讲者简介：陈全，博士，上海交通大学计算机系教授。长期从事计算机系统、计算机体系结构的研究，目前在相关领域发表学术论文一百余篇。研究获国家优青、国家自然科学基金重点项目资助。曾获中国计算机学会优秀博士学位论文奖、IEEE TCSC青年学者奖、阿里青橙奖。担任SCI期刊Parallel Computing、JCST、FCS编委及青年编委。研究成果曾获国家技术发明二等奖、省部级科学技术一等奖多项。