浅析智能助手真正的价值和风险

栏目: 编程工具 · 发布时间: 6年前

内容简介:生活在当今时代,你一定听说过“虚拟助手”、“数字助理”、“语音助手”或是“智能助理”等术语,这些都是由人工智能技术驱动的,代表产品包括Siri、Alexa、Google Assistant以及Cortana等。不得不承认的现实是,诸如此类的智能助手已经充斥我们的生活。但是智能助手究竟能做些什么?我们应该采取怎样的态度来看待它们?欣然接受还是全盘否定?虽然目前,几乎所有的科技巨头都希望我们能一直使用他们的智能助手,但它们究竟能为我们提供什么服务呢?它们又能否切实地保护我们的信息和对话安全?一般来说,这些智能

浅析智能助手真正的价值和风险

生活在当今时代,你一定听说过“虚拟助手”、“数字助理”、“语音助手”或是“智能助理”等术语,这些都是由人工智能技术驱动的,代表产品包括Siri、Alexa、Google Assistant以及Cortana等。不得不承认的现实是,诸如此类的智能助手已经充斥我们的生活。但是智能助手究竟能做些什么?我们应该采取怎样的态度来看待它们?欣然接受还是全盘否定?虽然目前,几乎所有的科技巨头都希望我们能一直使用他们的智能助手,但它们究竟能为我们提供什么服务呢?它们又能否切实地保护我们的信息和对话安全?

一般来说,这些智能助手中的每一个都受到具体操作平台及其运行设备的限制。试想一下,亚马逊的Echo助手能够将你一步步指引到最近的披萨店……对于这种做法,你究竟应该感到开心还是担忧呢?下面就让我们一起了解一下,智能助手所能提供的真正价值及其可能招致的安全风险。

从挑选智能助手开始

如果您正需要购买一个智能助手的话,最好先思考一下你到底需要什么样的功能。您是否想用声音来控制家里的电器或其他设备?您是否希望能够在无需拨打电话或启动计算机的情况下查询有价值的信息?您是否正在为自己或孩子寻找合适的虚拟助手来打发慢慢时光?

虽然所有这些虚拟助理都有非常丰富的功能,但还是需要我们在购买前先了解自身需求,如此才能挑选到最合适的智能助手,同时也可以充分发挥这些智能助手的功能。除此之外,每款智能助手都有其独特的功能,所以在选购时一定要充分了解究竟哪种技术最适合自身需求。当然,在选购时也千万不能忽视安全隐患——包括已经浮现的安全隐患以及未来可能发生的安全隐患。

理解语音命令

虽然自早期的Siri以来,智能助手已经发展了很长一段时间,但是它们都还存在一个共同的缺陷:对声音命令识别不够准确。如果智能助手不能准确地理解声音命令,那么要么它们会执行错误的命令,从而可能危害用户安全;要么它们就会不断要求用户重复问题或指令,进而破化用户的使用感受,如此陷入两难境地。

我们之前已经讨论过这个问题,当时的重点主要集中在研究人员已经在智能助手的语音命令中发现了一些安全漏洞,而这些安全漏洞可能会导致一些令人担忧的错误行径,例如向所有联系人发送录制的对话信息等。

事实上,由于开发人员已经创建了更为精确的算法,以更好地适应复杂的声音信号,所以语音命令技术每年都在不断的进步。其中,机器学习被认为是可以显著改善语音识别的技术,但不可否认的是,想要智能助手准确地理解并处理人类的声音还有很长一段路要走。

儿童与智能助手

你会让孩子/孙子玩你的手机吗?尽管现在的孩子对手机和网络的认知可能要比老年人强很多,但是我们必须在此提醒大家:尽量不要让孩子在无人监督的情况下使用智能设备。同样地,这种警告也适用于智能助手,因为只有孩子在家里的时候,他们也可以通过简单的语音命令来控制家里的智能设备,而这种行为十分危险。

家长控制(Parental controls)适用于大多数这些设备,甚至一些专门为孩子开发的智能助手也允许父母访问其搜索记录。当然,智能助手与手机不同,因为它更多情况下是一种无屏的、更加类人的交互方式。目前,专家对孩子使用智能助手的影响还是持谨慎乐观态度,但我们更多地会思考这项技术对儿童带来的安全风险,特别是考虑到许多这类软件中都存在一些固有的安全漏洞。

网络安全

我们大多数人都喜欢向别人炫耀自己最新掌握的小技能,所以,我们完全有可能会在尚未清楚了解智能助手危险性的情况下,就将我们的物联网(IoT)设备控制权交给智能助手。当然,一般情况下,这种操作是没有问题的,但也要警惕意外存在的可能性。因为这些设备可能会丢失、被盗、被黑,或以其他任何方式受到损害,如果这时候,是智能助手在控制你的家用设备,那情况就糟糕了。

其中一种著名的攻击方式就是“海豚攻击”( dolphin attacks ),就是利用人类难以听到的超声波对智能手机、智能家居等的语音助手进行攻击,从而在用户无法察觉的情况下开启语音助手,并发布各种命令(例如拨打电话、发短信、视频通话等)。为了保护自己免受这种类型的攻击,用户应该在使用前关闭智能助理,或者对特定命令引入确认协议,当用户接收到某些命令时,向用户发送提醒。为了方便起见,可以将协议设置为仅在敏感操作的情况下运行。

此外,使用虚拟助手在线购物时,也面临着隐私信息泄露的风险,比如支付信息和商品订单记录。因为这些敏感信息存储在云上,所以其安全性将由智能助手的运营者或其云提供商所掌握。

如今,随着智能助手的使用率不断增长,也成功吸引了恶意软件开发者的注意,他们开始寻找其中的漏洞信息,并以此来获取个人利益。事实上,物联网的武器化才刚刚起步,而且我们预计它将会迅速增长,因为目前仍然缺乏足够的安全措施来阻止这种发展趋势。

其他问题

留心注意

另一件需要格外注意的事情,是我们人类在处理繁杂事物的时候并没有我们想象得那般高效。即便是你的虚拟助手向你发送了示警电子邮件,或是给你读取了邮件内容,你的大脑也可能会分心,无法集中精力处理这些任务。最终,你可能会错过邮件中的重点,遭受原本能够避免的损失。

窃听

虽然本研究并没有关于智能助理应用监听用户会话的结论性结果,但我们应该意识到,通过使用语音智能助手,我们可能会在无意中赋予该应用监听我们的权限。它们一直在后台静默运行,认真窃听并等待激活命令。老实说,你会在不想要或不需要它们听取命令的时候将其关闭吗?如果你对自己诚实的话,我想回答是永远不会。因为每次想要使用它时再不断重启设备确实很麻烦,所以它们就这样始终处于待命状态,由此,它们也一直在倾听着我们的秘密。

至少它现在还很有趣

从好的方面来说,智能助手已经成功将我们引入了一个全新的幽默层面,这主要归功于智能助手背后优秀的编程人员。现在,我们不仅可以调侃智能助手,让它们给我们唱歌、聊天、讲笑话,甚至还可以让虚拟助手与虚拟助手间相互交流,然后做个“吃瓜群众”乐享剧情的演变。

如果好的部分无限放大,也许未来几年内我们都只会记得这些有趣的部分,而忽略了上述提及的安全问题。但如果它的发展方式与过去几年中许多新的“智能”应用程序的发展方式大致相同,那么几年后也许我们只会感概:它当时还是蛮有趣的!

不要让自身成为智能助手的受害者。尽量使用这些技术中能够为我们的生活质量带来价值的部分,并不断加强你不需要的部分的安全性。想想这些你信任的智能助手正掌握着你大量的隐私信息,也许你就不会再轻视其安全性了吧。最后,请牢记:仅仅因为它是一种新的、有趣的技术,并不意味着你就必须要拥有它,还是要根据自身需求来定。

*参考来源: malwarebytes ,米雪儿编译整理,转载请注明来自 FreeBuf.COM。


以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持 码农网

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

最优状态估计

最优状态估计

[美] D. 西蒙 / 张勇刚、李宁、奔粤阳 / 国防工业出版社 / 2013-5-1 / 68.00元

《最优状态估计——卡尔曼H∞及非线性滤波》共分为四个部分,全面介绍了最优状态估计的理论和方法。第1部分为基础知识,回顾了线性系统、概率论和随机过程相关知识,介绍了最小二乘法、维纳滤波、状态的统计特性随时间的传播过程。第2部分详细介绍了卡尔曼滤波及其等价形式,介绍了卡尔曼滤 波的扩展形式,包括相关噪声和有色噪声条件下的卡尔曼滤波、稳态滤波、衰减记忆滤波和带约束的卡尔 曼滤波等。第3部分详细介绍了H∞......一起来看看 《最优状态估计》 这本书的介绍吧!

JSON 在线解析
JSON 在线解析

在线 JSON 格式化工具

Markdown 在线编辑器
Markdown 在线编辑器

Markdown 在线编辑器

HEX CMYK 转换工具
HEX CMYK 转换工具

HEX CMYK 互转工具