YEF2020成功举办，超过33万人在线参会，创下历史最高记录。围绕8大技术及观点论坛讨论的专业话题，也正纷纷引发热议。大会讲者报告收录于CCF数字图书馆，欢迎前往观看。复制此地址至浏览器进入CCF数图首页。

　　为期三天的CCF青年精英大会(YEF2020)于6月7日落下帷幕。今年大会主题是“制胜激变，智谋未来”，共邀请了包括两位院士在内的60余位国内外计算机领域知名专家、著名国际国内IT企业家到会演讲。会议包括7个特邀报告、思想秀、8场前沿技术论坛及科技创业秀、Yocsef Club等特色活动。单天在线万+，创下历史新高。

　　技术及观点论坛是大会的重要环节，8大专题论坛围绕智能无人系统、TDS经典算法、软件编程能力认证(CSP)、青少年编程、泛在智能、可信智能计算、大数据疫情防控、新基建时代国产自主可控信息系统等前沿技术话题进行了充分交流研讨。我们对论坛进行了精彩回顾，为你带来最新的分享。讲者报告收录于CCF数字图书馆，欢迎前往观看。

　　2020年6月7日下午，CCF YEF 2020大会第三天，以沈抚新区为主会场、上海为分会场举办了“可信智能计算”为主题的技术论坛。论坛执行主席由CCF YOCSEF上海陈铭松教授（华东师范大学、上海分会场）和CCF YOCSEF上海学术秘书石亮教授（华东师范大学、上海分会场）。会议分为两个环节，演讲环节与思辨环节。杏彩体育官网app演讲环节邀请了四位讲者在线参与，包括IEEE Fellow来自美国杜克大学电子与计算机系陈怡然教授、新加坡南洋理工大学计算机学院刘杨教授、中科院自动化所曾毅研究员、中科院信工所侯锐研究员。思辨环节除了刘杨教授与曾毅研究员外网络技术专业介绍，论坛还邀请了上海交通大学的冷静文副教授、华东师范大学大学的李钦副教授、平安科技副总工程师王健宗、上海电力大学温蜜、广州恒创智能科技有限公司杨峰总经理。CCF YOCSEF上海主席上海交通大学李超和复旦大学熊赟等全体AC均在线参加了本次论坛。值得一提的是，本论坛通过爱奇艺和腾讯会议在线万人在线观看。

　　首先，杜克大学陈怡然教授带来了题为《理解和加强深度学习安全性和隐私性的一些实践》的报告，内容主要涉及智能计算中攻击可移植性问题和隐私保护问题。他深入浅出的介绍了多种经典的白盒攻击与黑盒攻击方法，并重点介绍了面向黑盒攻击的可移植性攻击。通过将原有类的样本扩展到新的类型，杏彩体育下载并考虑多个层次的攻击，他们实验室的成果能够显著的攻击效果。同时陈教授还介绍了深度学习环境下大规模数据隐私泄露的问题。他主要介绍了如何做到在保护隐私的情况下如何做到高效的分类效果，实现隐私保护和最大限度的保留原有样本信息之间的一个权衡。

　　刘杨教授带来了题为《可信深度学习系统：智能系统可信保证之路》的报。他从软件工程与形式化方法的角度介绍了如何对深度学习系统的建模与形式化验证方法。通过探索基于程序结构例如控制流图的图神经网络训练与预测，他所领导的研究团队发现，图神经网络对于程序语义分析具有非常有效。此外，刘教授还介绍了人工智能软件鲁棒性、人工智能偏见带来的公平性、以及人工智能隐私等多个话题。他所在研究团队的全栈深度学习软件自动化测试与安全分析工具能够从数据采集、模型训练以及模型部署方面保证智能计算系统的可信。

　　曾毅研究员带来了题为“为人与人工智能共生社会构建信任”的报告。他的报告通过从人脑与认知等多个维度，阐述了和传统基于人工智能技术不同的可信理念。报告内容发人深思，对于传统智能计算领域有很好的启发作用。曾毅指出：“人会对人和特定物种更容易产生信任，但是对于人工智能工具的信任却不那么容易”，“人脑的鲁棒性与自适应性是人工智能目前远远无法企及的水平”，“目前的人工智能缺乏自我视角、缺乏自我感知能力，难以实现换位思考”，“拥有自我认知、自我意识、共情能力的人工智能才是安全的，人工智能才能与人类和谐共处”。

　　侯锐研究员的报告题为“安全优先体系结构”杏彩体育官网app，他从计算机体系架构的角度阐述了他对可信智能计算的思考。他的报告从处理器性能优化核心技术安全为题、经典设计原则资源共享机制导致的安全问题、以及新型异构架构出现的安全问题方面开展了介绍。他指出：“安全应该优先于性能要求”，“要实现性能、成本与安全的综合权衡”，“需要将安全作为基因内置于AI处理器”。他所在的研究团队实现了芯片体系架构层次的计算与安全松耦合，通过采用部队称结构实现单向物理隔离，实现安全与计算的分离。

　　接下来，论坛进行了1个半个小时的思辨环节，思辨环节中，我们又邀请了5位专家进行讨论，他们分别是上海交通大学的冷静文副教授，华东师范大学的李钦副教授，上海电力大学的温蜜，平安科技的王健宗副总工程师，广州恒创的杨峰总经理。主持人抛出三个问题进行互动讨论。针对第一个问题“生活已被人工智能渗透，人工智能是否值得信赖？”，冷静文表示人工智能要发展，例如微软的小冰，继续发展成熟的人工智能技术才值得被信赖；李钦表示技术层面如果无法做到可信，人工智能对于社会生活弊大于利，一方面技术可以完成难以完成的任务，有些是被动信任；另一方面，人可以参与的技术可以做到辅助性针对；刘洋认为根据场景的不同，危害不同。从技术本身来说，人工智能目前还是存在较多的问题；温蜜从系统的可信，管理的可信和场景的可信三个方面去分析。当使用的价值较大时，大家还是倾向于可信；王健宗表示从金融角度来看，目前的人工智能技术还不成熟不可信，目前应用也很少。但在辅助服务领域，对于涉及生命和经济危害性较小领域，目前做的不错网络技术专业介绍，可以信赖；杨峰表示从数据技术和数学工具层面来看还是可以信任的，但从人性的角度来看，还没成熟到能信任的地步；最后曾毅说到这个问题是信任人工智能还是信任人工智能的构造者，目前人工智能服务还是不可信，科研人员和企业提出的问题尚未有效解决，现阶段还是不可信。多位观众对此问题提出了自己的看法。

　　第二个问题“智能计算可信的主要挑战是什么？”。冷静文表示完全可信计算机是从系统层面来考虑的，算法层面和软件方面都具有很大的挑战；李钦提到智能系统的内部和外部存在不确定性；刘杨则说到传统软件工程存在的难点并未很好解决，引入AI系统后也引入了新的问题，另外由于其黑盒性质，无法有效进行形式化建模。因此叠加的上述问题，杏彩体育下载带来的挑战较大；温蜜表示如何考虑到AI模型的精确性和可解释性之间的平衡，构造合理的复杂结构是目前的一个挑战，各种复杂环境因素之间的一个相关性是第二个挑战；王健宗提到第一个是数据导致的模型遗忘问题，第二个是隐私数据的可用性建模问题；杨峰表示形式化验证层面上，重视因果关联问题，杏彩体育下载不仅仅是数据相关性问题；最后曾毅表示人工智能可以有效理解数据，从类人角度有效理解数据，另一方面 从机制上说，如果和人不一样，如何认为确认人工智能的方式是有效的。

　　第三个问题“如何量化智能计算的可信？现有技术能否达到高度可信？”。冷静文表示目前高度可信仍然没有定论，从技术角度来说，高度可信目前仍然没达到。李钦表示可信核心属性应当包含正确性、可靠性、安全性等一系列性质，单方面性质研究较多，但各个性质之间的动态关系很少得到关注现有技术。需要先假设是不可信的，再进行形式化验证；刘杨表示没有系统可以达到百分之百的安全，目前要达到的可信应当是达到某些特定场景的可用性；温蜜说不确定性因素对于不可信的影响很大；杨峰表示应该要基于一个benchmark对可信性进行验证网络技术专业介绍。

　　随后论坛主席邀请所有嘉宾用一句话来总结今天的论坛。冷静文表示对人工智能更有信心，要有更多的系统算法和跨学科的综合能力；李钦表示可信人工智能的研究非常有必要，是可用性的重要基础；刘杨表示希望不同领域不同方向一起做人工智能的可信；温蜜表示信任将决定人工智能技术的普及，一起加油；王健宗表示希望更多专家学者相互交流，共同进步；杨峰则表示希望看到更多结合因果关系的人工智能工作；最后，曾毅表示AI的safety和security不应该只简单的成为一个方向，相关研究人员都应当考虑到这个工作。

　　总结来说，人类生活被人工智能广泛渗透，我们在给予智能计算更广泛的应用空间时，也面临如何理解、规范、控制和优化人工智能系统，使其行为更加可靠可控的挑战。国家主席在《人工智能发展现状和趋势举行第九次集体学习》指出“要加人工智能发展的潜在风险研判和防范，维护人民利益和，确保人工智能安全、可靠、可控”。本次论坛从体系架构、硬件芯片、软件算法、道德伦理等多个维度介绍目前最新的可信智能技术与规范，希望能够为大家拥抱智能计算技术的同时，引发一些可信方面的思考。返回搜狐，查看更多