第1章 AI安全之攻与防

大概一年前我看到下面这张漫画（见图1-1），当时我家里除了苹果系列的手机和MacBook，几乎再难以找到一个与云或者说AI沾边的产品。AI也只是我研究的一个方向，但是它和我的生活并没有太大关系。

图1-1 智能家居漫画图

这个观念很快就被打破了，我所在公司的门禁和消费系统可以使用人脸识别，真正实现了“刷脸上班吃鸡翅”。前不久我也赶时髦买了智能音箱，非常意外的是我家的加湿器也居然可以被智能音箱控制，我家的网络电视机顶盒安装一个小软件后也可以和它联动。经过简单调试后，连智能手机都不愿意用的老父亲，已经学会使用音箱在电视上选电影看，我那不到三岁的女儿也学会了用智能音箱听小猪佩奇。AI设备润物细无声，双十一时智能音箱已经不到100元了。

1.1 AI设备的安全

一次偶然的机会，我在城铁上发现也可以远程管理我家的加湿器和智能音箱，我突然意识到，这些AI家居设备时刻与云连通，同时也与家里其他网络终端共享一个局域网，如果存在安全问题，黑客是否也可以远程控制它们，也可以时刻像音箱一样监听我们的谈话，嗅探我家网络上发生的一切呢？

在2017年的BlackHat安全会议上，阿里巴巴安全部门的研究人员演示了用声音和超声攻击依赖于陀螺仪、加速度计等微机电系统传感器输入信号的智能设备（见图1-2）。这种声音武器在理论上可以让无人机坠落，让机器人发生故障，让虚拟现实和增强现实软件失去方向感，让用户从平衡板上摔下来，它甚至潜在地可用于攻击自主驾驶汽车或干扰汽车的安全气囊传感器。

图1-2 阿里巴巴安全研究人员演示了用声音和超声攻击智能设备

因此，AI设备的安全显然是AI安全的一个重要领域。