物联网

人民法院报

发布时间:2021-01-28 10:46:52 所属栏目:物联网 阅读:

一、涉安防人工智能犯罪的刑法规制的必要性

随着在人体分析、车辆分析、行为分析和图像分析四方面独具优势的智能产品在各个安防场景下的广泛应用,安防行业成为我国人工智能技术落地的重要特色领域。传统安防行业中系统检索困难、“信息孤岛”、作用被动等问题有望得到彻底解决。但是,安防人工智能在给生活带来更大保障的同时,涉人工智能犯罪在智能安防行业有所蔓延,需要对其进行刑法规制。

首先,涉安防人工智能犯罪包括以下类型:(1)以安防人工智能为对象的犯罪,如恐怖分子对公共场所视频安防监控系统的攻击;(2)利用安防人工智能作为工具的犯罪,如窃取某企业“安防云端”出入口控制系统中的人脸识别信息进行诈骗;(3)安防人工智能失控型犯罪,当前智能安防行业中研发和应用的智能安防电网和巡逻机器人等都具有一定防卫或攻击能力,如果失控可能造成严重危害。

其次,涉安防人工智能犯罪具有以下特点:(1)社会危害性因为智能安防的庞大体量和智能框架的强联动性而快速膨胀;(2)侵犯对象更为广泛,既包括传统的人身和财产,也包括随着科技发展而出现的数据安全、人工智能系统安全和生物识别信息;(3)犯罪手段更加科技化、智能化、隐蔽化,当前智能安防系统几乎实现了“AI+云”的整体架构,对其进行破坏和利用需要较高的专业水平。

再次,我国目前虽然对人工智能的发展高度重视,将其列入《中共中央关于制定国民经济和社会发展第十四个五年规划和二〇三五年远景目标的建议》中,也发布了《新一代人工智能发展规划》等文件,但是对于人工智能犯罪有关的法律责任的规定尚属空白,更遑论为安防人工智能犯罪的追责提供依据了。

虽然我国目前尚无涉安防人工智能的判例,但无论是被誉为“人脸识别第一案”(郭某诉杭州野生动物世界有限公司案)里体现出的智能安防中生物识别信息的敏感度,还是德国大众汽车工厂“机器人杀人案”中表现出的人工智能的危险性,都提示我们应当涉安防人工智能犯罪进行有效的刑法规制。

二、涉安防人工智能犯罪刑法规制所面临的挑战

(一)立法规定的不足

涉安防人工智能犯罪立法的不足主要体现在制定于传统社会的刑法规范与新兴的人工智能技术之间的涵摄关系难以建立,无法对涉安防人工智能犯罪形成有效对应。

首先,从整体上看,我国在人工智能领域的刑事立法尚处于空白状态,导致虽然在现实中人工智能危害行为类型层出不穷且程度不断加深,但是在实践中却鲜见相关的判例,涉安防人工智能犯罪的判例更是无从查见。

其次,具体到涉安防人工智能领域,一方面,相关刑法规范缺失。目前与人工智能安防有关的条文仅有刑法修正案(十一)新增的第一百三十四条之一第一款规定,破坏、关闭安防设备以及篡改、隐瞒、销毁相关安防信息的行为构成犯罪,但该规定并没有涉及利用智能安防设备实施的新型犯罪以及智能安防设备过失犯罪的行为类型与法律责任。

另一方面,相关前置的法规范处于空白。虽然当前我国的安防人工智能产业蓬勃发展,但却缺乏相关的行政法规或规章,以及行业内部的规范加以引导。如在行业内影响力较大的“安天下”《2020年人工智能安防行业研究分析报告》,对于行业内部自律规范和风险预防等问题很少提及。这种前置法以及行业规范的缺失就难以对该行业的野蛮生长进行有效引导,导致刑事法律风险增加。 

(二)司法认定的困难

首先,安防人工智能能否被认定为犯罪主体。目前智能安防中的事前预警型产品具有一定的防卫功能,而人工智能虽然可以具有自主学习、深度学习的能力,但是因为对大数据的极端依赖导致的易受数据欺骗等内在缺陷,存在防卫过当或假象防卫的风险,而且如果发生编程错漏或系统失控,也可能危害社会。虽然目前我国的安防人工智能仍属于薄弱的人工智能的阶段,但这些事件的外在表现都是智能电网或防卫机器人在深度学习后“实施”了危害行为,似乎形式上符合犯罪的主体要件。

其次,罪与非罪的界定存有困难。涉人工智能犯罪因其侵犯法益的广泛性,有触犯很多罪名的可能性。当犯罪中的关键要素因其新兴科技属性在刑法中并无明确规定时,就很可能存在罪与非罪的认定困难。例如当安防从业人员将系统中的人脸信息这一生物识别信息提供给他人时,是否构成侵犯公民个人信息罪。再如利用对抗样本等攻击数据实现对智能视频安防监控系统的攻击,能否被认定为破坏计算机信息系统罪。