如果AI被用于犯罪,我们应该如何防范?
编者按:《纽约时报》高级记者、普利策奖得主、《与机器人共舞》作者 John Markoff近日在纽约时报上撰文,表达了他对不法分子利用人工智能犯罪的担忧。文章原标题为《As Artificial Intelligence Evolves,So Does Its Criminal Potential》,以下为独家编译,未经许可不得转载。
随着人工智能的不断进化,犯罪技术也跟着变得高级起来。
想象这么一个场景:有一天你突然接到了年迈母亲的求助电话,说自己不小心忘记了银行密码。但事实上她并不是你的母亲,电话那头也只不过是由计算机合成,听起来很像她的声音而已。
用人工智能电话中伪装身份,虽然目前还只是科幻想象,但未来这种犯罪方法可能真的会成为现实。
如今,能促进伪装技术广泛使用的软件正在急速发展。最近,打败了世界上顶尖围棋大师的 Alphabet 旗下子公司 DeepMind就宣布,他们已设计出一种新的程序,该程序能“模仿人类的所有语音,并且听起来比现有任何文本语音系统生成的语音都要自然。它把自然语言技术与人类语音之间的差距缩小50% 还要多。”
但讽刺的是,每年 750亿美元规模的计算机安全行业今年还在谈论,机器学习和模式识别技术未来将会如何扭转目前这糟糕的计算机安全状况。他们忽略了一个对大众不利的因素。
“人们不知道,现在网络攻击正越来越不需要依赖人力,而且其扩张也是呈指数级的 ,”执法机构顾问、《 Future Crimes 》一书作者 MarcGoodman 说道,“现在已经不是 Matthew Broderick 躲在地下室黑别人计算机那个时代了。”他指的是 1983 年上映的电影 WarGames 。
今年年初,美国情报局局长 James R. Clapper 就曾发出防止先进人工智能技术被恶意使用的警告。在年度安全审查中,Clapper 强调,人工智能确实能给予人们方便,但同时也能使网络世界变得更易受攻击。
Goodman 表示, 计算机犯罪的复杂性可从不断升级的攻击工具中窥见 ,广泛使用的恶意程序 Blackshades(该程序设计者是瑞典人,已于去年在美国定罪)就是其中之一。
该程序在计算机地下市场卖的很是火爆。“其功能被称作‘匣子里的刑事特权’,” Goodman说道。用户无需任何专业技能就能轻松部署勒索程序,点一下鼠标就能进行视频或音频窃听。
如今,人工智能研究人员正在努力用机器学习改善计算机视觉,语音理解,语音合成和自然语言理解等技术。但同时,黑客们也在学习使用机器学习这种先进的技术进行更高级的犯罪。一些计算机安全研究员们认为,早在 5 年前,不法分子就已经开始使用人工智能技术进行数字犯罪了。
颠覆了互联网领域,无所不在的验证码就能证明这一点 。2003 年卡耐基梅隆大学发明了 challenge-and-responsepuzzle,这是一种能全自动区分计算机和人类的图灵测试,用来阻止自动程序盗取在线账户。
加州计算机安全研究员 Stefan Savage表示,五年来,人工智能领域的研究者和犯罪者都在部署计算机视觉软件以颠覆验证码技术,“如果你已经两年没改验证码,它就会被机器视觉算法给控制住。”
但令人惊讶的是,低成本和免费劳动力正在使恶意人工智能的发展得更迅速。比如,网络罪犯已将验证码破解工作外包给电子工厂,而这只需要花费很少的人力费用就能办到。
甚至,有些更具创造性的计算机骗子已经开始用网络色情奖励那些能破解验证码的人,Goodman 说。人工智能软件永远也比不上免费劳动力这种商品。
所以,接下来会如何呢?
对初入网络犯罪这一行的人来说,他们可是搭上高科技的顺风车了。语音识别系统,比如苹果的 Siri 和微软的小娜,如今正广泛应用于人机交互中。亚马逊的 Echo语音控制扬声器和 Facebook 的 Messenger 聊天机器人平台也正在迅速成为网络商务以及消费者常用的在线通道。而一般情况下,一旦像语音识别这样的交流技术开始流行,那么罪犯也很快会利用上它们。
“我在想,用聊天机器人提供客户支持的公司是不是正在默默承担着一项社会工程,”krebsonsecurity的一名调查记者 Brain Krebs 说道。
社会工程通常是计算机安全链中最薄弱的一个环节。网络犯罪分子会利用人们的信任或乐于助人的品质进行盗窃或偷窥,而创造出能骗人的高级人工智能只会使计算机等设备变得更不安全。
在州政府和政治运动的政治宣传中,我们可以看出广泛使用的聊天机器人技术带来的负面影响。
研究人员甚至还发明词语“计算机宣传活动(computational propaganda)”来形容在 Facebook 和推特等社交媒体上爆发的欺骗行为。
在最近发布的一篇研究论文中,牛津互联网学院的社会学家 Philip N. Howard 和布达佩斯考文纽斯大学(Corvinus University ofBudapest)研究员 Bence Kollanyi 描述了在英国退欧公投时,政治聊天机器人是如何通过这样一个小角色表现出其塑造线上对话的策略的。
而罪犯也迟早会用上这些软件。
独立计算机安全专家 Mark Seiden 说道:“攻击社会工程的设计中有很多小伎俩,但就我所知,还没人开始用机器学习来找什么人最容易上当受骗。”
也许,Seiden 专家不该说这句话。
via:nytimes
延伸阅读:
GeekPwn 2016 |“屠宰场”里的黑客盛会:攻破机器人、智能插座、电子轮椅……
浅析:那些能和计算机说话的小东西们,搞瘫了半个美国的网
网络安全人才缺口50万 360校企合作打造网络人才库
推荐系统
电脑公司Ghost Win8.1 x32 精选纯净版2022年7月(免激活) ISO镜像高速下载
语言:中文版系统大小:2.98GB系统类型:Win8电脑公司Ghost Win8.1x32位纯净版V2022年7月版本集成了自2022流行的各种硬件驱动,首次进入系统即全部硬件已安装完毕。电脑公司Ghost Win8.1x32位纯净版具有更安全、更稳定、更人性化等特点。集成最常用的装机软件,精心挑选的系统维护工具,加上绿茶独有
微软Win11原版22H2下载_Win11GHOST 免 激活密钥 22H2正式版64位免费下载
语言:中文版系统大小:5.13GB系统类型:Win11微软Win11原版22H2下载_Win11GHOST 免 激活密钥 22H2正式版64位免费下载系统在家用办公上跑分表现都是非常优秀,完美的兼容各种硬件和软件,运行环境安全可靠稳定。Win11 64位 Office办公版(免费)优化 1、保留 Edge浏览器。 2、隐藏“操作中心”托盘图标。 3、保留常用组件(微软商店,计算器,图片查看器等)。 5、关闭天气资讯。
Win11 21H2 官方正式版下载_Win11 21H2最新系统免激活下载
语言:中文版系统大小:4.75GB系统类型:Win11Ghost Win11 21H2是微软在系统方面技术积累雄厚深耕多年,Ghost Win11 21H2系统在家用办公上跑分表现都是非常优秀,完美的兼容各种硬件和软件,运行环境安全可靠稳定。Ghost Win11 21H2是微软最新发布的KB5019961补丁升级而来的最新版的21H2系统,以Windows 11 21H2 22000 1219 专业版为基础进行优化,保持原汁原味,系统流畅稳定,保留常用组件
windows11中文版镜像 微软win11正式版简体中文GHOST ISO镜像64位系统下载
语言:中文版系统大小:5.31GB系统类型:Win11windows11中文版镜像 微软win11正式版简体中文GHOST ISO镜像64位系统下载,微软win11发布快大半年了,其中做了很多次补丁和修复一些BUG,比之前的版本有一些功能上的调整,目前已经升级到最新版本的镜像系统,并且优化了自动激活,永久使用。windows11中文版镜像国内镜像下载地址微软windows11正式版镜像 介绍:1、对函数算法进行了一定程度的简化和优化
微软windows11正式版GHOST ISO镜像 win11下载 国内最新版渠道下载
语言:中文版系统大小:5.31GB系统类型:Win11微软windows11正式版GHOST ISO镜像 win11下载 国内最新版渠道下载,微软2022年正式推出了win11系统,很多人迫不及待的要体验,本站提供了最新版的微软Windows11正式版系统下载,微软windows11正式版镜像 是一款功能超级强大的装机系统,是微软方面全新推出的装机系统,这款系统可以通过pe直接的完成安装,对此系统感兴趣,想要使用的用户们就快来下载
微软windows11系统下载 微软原版 Ghost win11 X64 正式版ISO镜像文件
语言:中文版系统大小:0MB系统类型:Win11微软Ghost win11 正式版镜像文件是一款由微软方面推出的优秀全新装机系统,这款系统的新功能非常多,用户们能够在这里体验到最富有人性化的设计等,且全新的柔软界面,看起来非常的舒服~微软Ghost win11 正式版镜像文件介绍:1、与各种硬件设备兼容。 更好地完成用户安装并有效地使用。2、稳定使用蓝屏,系统不再兼容,更能享受无缝的系统服务。3、为
雨林木风Windows11专业版 Ghost Win11官方正式版 (22H2) 系统下载
语言:中文版系统大小:4.75GB系统类型:雨林木风Windows11专业版 Ghost Win11官方正式版 (22H2) 系统下载在系统方面技术积累雄厚深耕多年,打造了国内重装系统行业的雨林木风品牌,其系统口碑得到许多人认可,积累了广大的用户群体,雨林木风是一款稳定流畅的系统,一直以来都以用户为中心,是由雨林木风团队推出的Windows11国内镜像版,基于国内用户的习惯,做了系统性能的优化,采用了新的系统
雨林木风win7旗舰版系统下载 win7 32位旗舰版 GHOST 免激活镜像ISO
语言:中文版系统大小:5.91GB系统类型:Win7雨林木风win7旗舰版系统下载 win7 32位旗舰版 GHOST 免激活镜像ISO在系统方面技术积累雄厚深耕多年,加固了系统安全策略,雨林木风win7旗舰版系统在家用办公上跑分表现都是非常优秀,完美的兼容各种硬件和软件,运行环境安全可靠稳定。win7 32位旗舰装机版 v2019 05能够帮助用户们进行系统的一键安装、快速装机等,系统中的内容全面,能够为广大用户
相关文章
- 了解大数据安全问题的5种类型
- iOS12 beta 1系统被攻破,越狱视频被分享
- 微软GitHub账号被黑,500GB数据被窃取
- 怎么保护投影机灯泡 保护投影机灯泡方法【详解】
- 混淆程序:代码最安全的加密方式
- 隐藏资源管理器左侧“此电脑”中不常用的文件夹
- ThinkPHP framework 任意代码执行漏洞预警
- 比起零信任,为什么说精益信任更具优势?
- 硬盘录像机怎么使用 网络硬盘录像机设置步骤【详解】
- 内容安全产业任重道远,网易易盾内容安全智能体系升级
- VLC媒体播放器MP4_ReadBox_rdrf()函数堆溢出漏洞
- Twitter图片可能被滥用来隐藏ZIP、MP3文件
- 在win10中,QQ登录后不显示在任务栏怎么办?
- PHP序列化和反序列化语法差异问题
- 如何创建微信群/退群?
- 如何修改自己电脑的名称
- 雷蛇(Razer)数据泄漏暴露了游戏玩家的个人信息
- TCP/IP筛选限制登陆3389终端的解除方法[注册表]
热门系统
- 1华硕笔记本&台式机专用系统 GhostWin7 32位正式旗舰版2018年8月(32位)ISO镜像下载
- 2深度技术 Windows 10 x86 企业版 电脑城装机版2018年10月(32位) ISO镜像免费下载
- 3电脑公司 装机专用系统Windows10 x86喜迎国庆 企业版2020年10月(32位) ISO镜像快速下载
- 4雨林木风 Ghost Win7 SP1 装机版 2020年4月(32位) 提供下载
- 5深度技术 Windows 10 x86 企业版 六一节 电脑城装机版 版本1903 2022年6月(32位) ISO镜像免费下载
- 6深度技术 Windows 10 x64 企业版 电脑城装机版2021年1月(64位) 高速下载
- 7新萝卜家园电脑城专用系统 Windows10 x64 企业版2019年10月(64位) ISO镜像免费下载
- 8新萝卜家园 GhostWin7 SP1 最新电脑城极速装机版2018年8月(32位)ISO镜像下载
- 9电脑公司Ghost Win8.1 x32 精选纯净版2022年5月(免激活) ISO镜像高速下载
- 10新萝卜家园Ghost Win8.1 X32 最新纯净版2018年05(自动激活) ISO镜像免费下载
热门文章
常用系统
- 1深度技术 Windows 10 x86 企业版 喜迎国庆 电脑城装机版2020年10月(32位) ISO镜像免费下载
- 2Win11 22000.160微软原版下载_Windows11 Insider Preview 10.0.22000.160原版镜像下载
- 32023Win10游戏专用系统下载_游戏专用 Ghost Win10 极速免激活专业版V2023.02
- 4深度技术 GHOST XP SP3 经典优化版 V2017.07 下载
- 5萝卜家园免激活win10 64位安全通用版 v2023.03最新下载
- 6Win11 64位笔记本专用系统下载_Win11 64位笔记本专用(流畅稳定)下载
- 7Win11 22000.318 正式版下载_Win11 22000.318(KB5007215)ISO镜像下载
- 8电脑公司Ghost Win8.1 x32 精选纯净版2020年5月(免激活) ISO镜像高速下载
- 9系统之家Ghost Win10 X64位 万能驱动专业版 v2023.03免费下载
- 10惠普笔记本ghost win7 sp1 32位旗舰免激活版 V2021.12系统下载