物联网

  • 主页
  • 物联网
  • 浙江大学任奎教授:AIoT 系统如何进行全生命周

浙江大学任奎教授:AIoT 系统如何进行全生命周

发布时间:2021-09-06 18:04:25 所属栏目:物联网 阅读:

雷锋网按:2020 年 8 月 7 日至 9 日,全球人工智能和机器人峰会(CCF-GAIR 2020)在深圳隆重举行;CCF-GAIR 2020 峰会由中国计算机学会(CCF)主办,香港中文大学(深圳)、雷锋网联合承办,鹏城实验室、深圳市人工智能与机器人研究院协办。从 2016 年的学产结合,2017 年的产业落地,2011 年的垂直细分,2019 年的人工智能 40 周年,CCF-GAIR 一直致力于打造国内人工智能和机器人领域规模最大、规格最高、跨界最广的学术、工业和投资平台。

经历了互联网时代、移动互联网时代,在当下物联网时代,万物互联、万物上云成趋势,我们也更加注重网络安全问题,如何为物联网装上一个独属于你自己的密码,成了我们期待的事情。

2019 年统计数据显示,物联网设备已经有 50 亿,智能物联网已成为未来趋势。与此同时," 智能物联网的攻击面变得更加巨大(包括硬件层、系统层、网络层、应用层、传感器层),安全挑战更为复杂,更加难以解决。" 浙江大学网络空间安全学院院长、求是讲席教授、IEEE Fellow 任奎教授在「AIoT 专场」论坛上介绍称。

任奎教授在论坛上分享了浙大网安团队在智能物联网系统安全方面的研究成果,主要包括两个方面:一是全生命周期保护;二是全技术栈保护。

针对全生命周期保护包括,任奎教授进一步解释称:

全生命周期保护包括三方面:运行前验证、运行时保护、运行后分析。

运行前验证是开发过程中采用形式化方法的验证工具,我们都知道形式化方法的安全性很高,但是技术门槛高,所以一直不能大量应用。我觉得现在形式化方法和工具逐步成熟,到了进一步推广落地应用的时候了。

我们团队在过去几年里有很多这方面的探索,我们从理论研究和技术难点突破一直做到工具研制。

研发形式化验证工具,支持需求、设计、代码的形式化验证,符合 CC 信息安全和 DO178 功能安全等认证结果,我们实际上已经开展了 10 余个国产和国外操作系统验证工作,发现了许多安全缺陷,取得了很好的结果,下一步的重点是开展国产操作系统的形式化验证与认证。

以下为任奎教授在 CCF-GAIR 2020「AIoT 专场」论坛上的演讲原文,雷锋网做了不改变原意的整理:

大家下午好!

刚刚谭院士给了一个 AIoT 的全局报告,前面百度、华为、TCL 的朋友讲的场景、业务都非常好,接下来转换一下方向,讲讲和技术相关的东西。

智能物联网安全问题分层解析

2019 年的统计数据显示,物联网设备已经有 50 亿台,这些联网设备产生大量数据,这些数据被收集上来后要如何应用呢?

人工智能技术发展迅速,从算法的发展、算力的发展、应用的增长,都有非常明显的进步,我们拿到大量数据对模型进行训练,得到智能感知能力,把数据和人工智能模型结合,自然而然就实现了物联网设备的智能化,这是我们未来的愿景和战略。

智能物联网的应用场景也非常多样,刚才很多工业界的朋友讲得很好,很明显的应用场景都能观察到,自动驾驶、智能制造、智能家居、智慧医疗等等,很多企业都进行了战略部署。

从安全角度我们怎么看待这个问题?

总体观察,智能物联网的攻击面变得更加巨大(包括硬件层、系统层、网络层、应用层、传感器层),安全挑战更为复杂,更加难以解决。

我们把智能物联网的安全问题进行了分层。

传感器层,由于传感器层特别重要单独分了一层,智能物联网环境下有更多样的传感器,激光雷达、摄像头、温度传感器、湿度传感器、红外传感器等,这些传感器会采集数据,从安全角度看,数据是不是完整、是不是可靠、有没有被欺骗,这些数据被应用在 AI 模型训练的过程中,模型本身会不会有安全问题?这是从传感器的角度看。

硬件层,传感器和硬件结合在一起,在智能制造和各种场景中,例如汽车的转向刹车控制器、家用电器的开关、医疗设备的操控,这些硬件的安全问题都需要考虑到。

系统层,上述硬件需要用软件调度、控制,形成基本的系统。例如嵌入式系统,从最简单的设备到复杂、智能设备,自动驾驶系统等,这些软件系统有各种各样的漏洞。

网络层,把这些传感器和制动器的数据感知到以后要进行传递,首先有各种各样无线接入协议,4G、5G、Wi-Fi 等,通过公共网络或者专用网络把数据传导到云端,通过云端进行智能决策,然后再把数据传回来。在这个过程中,有很多存在安全问题的可能性,可以看到各种各样的报告,对于各种各样的无线通讯协议进行攻击,包括 WiFi、4G、5G 都有可能受到攻击。传统的安全问题包括有恶意流量、恶意软件,在网络层还是没有解决这些问题。