提升数据安全,让人工智能更可信
京东探索研究院院长陶大程曾经做过一个实验:在道路交通牌上贴一个小广告,结果无人驾驶系统进行了误判,“由于缺乏可解释性,也限制了人工智能更广泛的应用和赋能”。
这是“双面”人工智能的一个切面:一方面,运用机器学习等人工智能技术,能够实现数据的识别保护、数据安全溯源等功能,提升了数据安全的防护能力;但另一方面,人工智能也会带来新的安全问题,如过度采集数据,甚至产生算法歧视、“数据投毒”等。
新技术安全问题再受热议,如何让人工智能更可信?近日在上海举行的世界人工智能大会上,众多专家学者不约而同地关注到这个问题,指出人工智能在数据和网络安全中不可忽视的一面。
新型安全问题不容忽视
尽管我国已经跻身于世界人工智能的第一方阵,但是在人工智能发展与安全方面,依然面临严峻的考验。
全国政协社会和法制委员会副主任陈智敏指出,数字信息的过度采集和非法使用,可能侵犯公民的权利和隐私;算法的偏好可能加剧社会的偏见或歧视,威胁公平正义。
信息被窃取、盗卖,则可能引发更严重的刑事犯罪。他列举了一组数据:当前我国电信诈骗案件处在高发期,在一些地方已经占了所有刑事案件的一半以上,超过传统的盗窃案件。
“机器深度学习难以理解人性的道德,比如说,无人驾驶汽车紧急避险等智能决策可能威胁特定人群的生命。”他说。
算力、算法、数据,是人工智能三要素,人工智能也引起了新型数据安全的问题。国家工业信息安全发展研究中心副主任何小龙指出,人工智能的算法对数据具有较强的依赖性,可能会带来“数据投毒”等类似新型的数据安全挑战。
所谓数据投毒,指的是在训练数据其中加入了伪装数据或者恶意样本,破坏数据完整性,造成算法模型结果的错误。“比如说原来微软的聊天机器人Tay就发布过歧视性和攻击性言论而被关闭,主要原因就是在对话数据集里面被恶意增加了不当的数据。”何小龙说。
其次是样本偏差问题。基于基础数据集多样性和代表性不足,会导致人工智能的算法隐藏特定性的社会价值倾向或偏见,输出不公平结果。
越来越多的开源框架也引发了新的风险,“比如在一项目针对主流开源架构的安全测试,我们在短短时间内发现了24个安全问题,其中包括2个严重危险漏洞和8个高危漏洞。”何小龙说。
“事实上,人工智能应用当中带来了很多风险,包括自身的算力、算法带来的脆弱性,也包括人工智能在应用中的鲁棒性(异常和危险情况下系统生存的能力)、可解释性、公平性问题。这些新技术在和原有业务相结合时,可能会给原业务或者系统带来巨大的系统性风险。”上海市委网信办总工程师杨海军说。
如何为人工智能“定责”
“当人类把思考、控制甚至决策外包给了算法,人工智能首先要做的事情就是如何证明自己是值得信赖的。”中国信通院云计算与大数据研究所所长何宝宏说,值得信任的人工智能已成为全球的共识。
那么,什么样的人工智能才是可信的?不同的机构对此有不同的理解,根据IEEE(电气与电子工程师协会)提出“透明性”,以正确的方式使用技术,以人为本明确责任、造福人类;欧盟则提出鲁棒性、安全性、人类的监督和干预、明确责任等等。2017年底,何积丰院士在香山科学会议上在国内首次提出了“可信人工智能”概念。
目前,世界各国不约而同地广泛关注可信人工智能。陶大程介绍,它汇聚成了四个主要的性能,从四个方面度量这个可信,一是稳定性,即人工智能系统在抵抗恶意攻击或者是环境噪声并且做出正确决策的能力;二是可解释性,就是人工智能系统做决策的过程中,需要用人能够理解的方式解释是怎么做这些事情的;三是隐私保护,即人工智能系统不会把个人的隐私信息或者群体的隐私信息对外泄露;四是公平性,就是系统需要公平公正,正确对待所有的用户,无论是针对大众用户还是小众用户,男人还是女人。
而针对自动驾驶事故这一复杂事件,也可以按照这个逻辑不断拆解:系统出现问题,需要知道为什么,谁来承担责任,并以怎样的方式承担等等,都需要有明确的指标,度量可信人工智能。
上海交通大学约翰·霍普克罗夫特计算机科学中心副教授张拳石就介绍,如果自动驾驶汽车发生撞人事件,首先在确定责任之前,要先知道系统的真实原因,可能20%的原因为了避让另外两个人,还有10%的原因可能涉及时间检测算法模块的失误,界定清楚了内在的机理原因,再给法官判断。
蚂蚁集团副总裁、首席AI科学家漆远谈到,人工智能的公平性表现在多个地方,比如一个很重要的社会问题事关普惠性,即技术的包容性、服务平等性。他举了一个例子:验证码本来是为了提升安全,但它本身会导致视障人群不能使用,于是支付宝开发空中手势;用人工智能技术进行旧物分类回收,能够识别哪一类旧衣服哪一类回收得多,给用户更多的能量进行蚂蚁种树,蚂蚁集团也承诺将在2030年实现净零排放。
加强可信AI技术攻关
应对人工智能安全挑战,各国都在积极采取措施。在我国,从顶层设计来看,最新颁布的《数据安全法》,将于9月1日开始正式实施,它为规范数据处理活动、保障数据安全提供法律依据。
此外,相关部门面对人工智能的重要领域也提出了详细的管理规定和管理框架,提出了针对性的数据管理的要求。
如今年3月份,中国人民银行印发《人工智能算法金融应用评价规范》;2021年4月,工业和信息化部《智能网联汽车生产企业及产品准入管理指南(试行)》,对各个领域人工智能安全的保护提出了相关的要求。
目前,可信AI技术已在反欺诈、反洗钱、反赌博、企业联合风控、数据隐私保护等多个风控场景下落地。
何小龙建议,推动开展可信人工智能前沿算法攻关,围绕人工智能在不同场景应用,制定相关行业规范和技术标准。
围绕数据安全,涌现出了诸如微众银行、深圳星云Clustar、洞见科技等一批隐私计算服务企业。“隐私计算等技术赋能可信AI,可促进数据价值可信流动。”锘崴科技董事长兼CTO王爽说。
可信AI并非一成不变。陶大程就提到,正如手机的出现,一开始大家都觉得它很便捷,但后来又发现手机占用了我们太多的时间。类似的,可信技术也会随时间和空间的变化而变化。
推荐系统
电脑公司Ghost Win8.1 x32 精选纯净版2022年7月(免激活) ISO镜像高速下载
语言:中文版系统大小:2.98GB系统类型:Win8电脑公司Ghost Win8.1x32位纯净版V2022年7月版本集成了自2022流行的各种硬件驱动,首次进入系统即全部硬件已安装完毕。电脑公司Ghost Win8.1x32位纯净版具有更安全、更稳定、更人性化等特点。集成最常用的装机软件,精心挑选的系统维护工具,加上绿茶独有
微软Win11原版22H2下载_Win11GHOST 免 激活密钥 22H2正式版64位免费下载
语言:中文版系统大小:5.13GB系统类型:Win11微软Win11原版22H2下载_Win11GHOST 免 激活密钥 22H2正式版64位免费下载系统在家用办公上跑分表现都是非常优秀,完美的兼容各种硬件和软件,运行环境安全可靠稳定。Win11 64位 Office办公版(免费)优化 1、保留 Edge浏览器。 2、隐藏“操作中心”托盘图标。 3、保留常用组件(微软商店,计算器,图片查看器等)。 5、关闭天气资讯。
Win11 21H2 官方正式版下载_Win11 21H2最新系统免激活下载
语言:中文版系统大小:4.75GB系统类型:Win11Ghost Win11 21H2是微软在系统方面技术积累雄厚深耕多年,Ghost Win11 21H2系统在家用办公上跑分表现都是非常优秀,完美的兼容各种硬件和软件,运行环境安全可靠稳定。Ghost Win11 21H2是微软最新发布的KB5019961补丁升级而来的最新版的21H2系统,以Windows 11 21H2 22000 1219 专业版为基础进行优化,保持原汁原味,系统流畅稳定,保留常用组件
windows11中文版镜像 微软win11正式版简体中文GHOST ISO镜像64位系统下载
语言:中文版系统大小:5.31GB系统类型:Win11windows11中文版镜像 微软win11正式版简体中文GHOST ISO镜像64位系统下载,微软win11发布快大半年了,其中做了很多次补丁和修复一些BUG,比之前的版本有一些功能上的调整,目前已经升级到最新版本的镜像系统,并且优化了自动激活,永久使用。windows11中文版镜像国内镜像下载地址微软windows11正式版镜像 介绍:1、对函数算法进行了一定程度的简化和优化
微软windows11正式版GHOST ISO镜像 win11下载 国内最新版渠道下载
语言:中文版系统大小:5.31GB系统类型:Win11微软windows11正式版GHOST ISO镜像 win11下载 国内最新版渠道下载,微软2022年正式推出了win11系统,很多人迫不及待的要体验,本站提供了最新版的微软Windows11正式版系统下载,微软windows11正式版镜像 是一款功能超级强大的装机系统,是微软方面全新推出的装机系统,这款系统可以通过pe直接的完成安装,对此系统感兴趣,想要使用的用户们就快来下载
微软windows11系统下载 微软原版 Ghost win11 X64 正式版ISO镜像文件
语言:中文版系统大小:0MB系统类型:Win11微软Ghost win11 正式版镜像文件是一款由微软方面推出的优秀全新装机系统,这款系统的新功能非常多,用户们能够在这里体验到最富有人性化的设计等,且全新的柔软界面,看起来非常的舒服~微软Ghost win11 正式版镜像文件介绍:1、与各种硬件设备兼容。 更好地完成用户安装并有效地使用。2、稳定使用蓝屏,系统不再兼容,更能享受无缝的系统服务。3、为
雨林木风Windows11专业版 Ghost Win11官方正式版 (22H2) 系统下载
语言:中文版系统大小:4.75GB系统类型:雨林木风Windows11专业版 Ghost Win11官方正式版 (22H2) 系统下载在系统方面技术积累雄厚深耕多年,打造了国内重装系统行业的雨林木风品牌,其系统口碑得到许多人认可,积累了广大的用户群体,雨林木风是一款稳定流畅的系统,一直以来都以用户为中心,是由雨林木风团队推出的Windows11国内镜像版,基于国内用户的习惯,做了系统性能的优化,采用了新的系统
雨林木风win7旗舰版系统下载 win7 32位旗舰版 GHOST 免激活镜像ISO
语言:中文版系统大小:5.91GB系统类型:Win7雨林木风win7旗舰版系统下载 win7 32位旗舰版 GHOST 免激活镜像ISO在系统方面技术积累雄厚深耕多年,加固了系统安全策略,雨林木风win7旗舰版系统在家用办公上跑分表现都是非常优秀,完美的兼容各种硬件和软件,运行环境安全可靠稳定。win7 32位旗舰装机版 v2019 05能够帮助用户们进行系统的一键安装、快速装机等,系统中的内容全面,能够为广大用户
相关文章
- 修改远程桌面端口号
- 微软手撕俄罗斯黑客组织“奇幻熊”,因为“奇幻熊”山寨了它这个
- Avaddon勒索软件背后的黑客向安全研究人员主动寄出解密密钥
- 《企业级区块链安全白皮书》全文发布(附下载)
- COVID-19使关键证书颁发机构流程面临挑战
- 快速解决电脑故障 BIOS报警声含义大全
- 电信网速如何在线升级?
- 2020工业网络新危机:大多数ICS漏洞都可以远程利用
- 在win7系统中鼠标右击桌面没反应怎么办?
- 数据泄露的受害者们过得怎么样?财务情况、情感和身体状况
- 趋势科技:到2030年人工智能将在网络安全领域取代人类
- QQ登陆不上 QQ登陆错误0x00000001代码怎么办
- 如何显示或隐藏任务栏右边的各项图标
- 网络连接受限,小编教你网络连接受限怎么办
- win7总是一直掉线怎么办 win7系统一直掉线连不上网络上网的解决方法图文教程
- Win7系统提示ipv6无网络访问权限的两种原因及解决方法
- 高危!我国多个重要单位被境外APT黑客组织攻陷
- https加密也被破解 HEIST攻击从加密数据获取明文
热门系统
- 1华硕笔记本&台式机专用系统 GhostWin7 32位正式旗舰版2018年8月(32位)ISO镜像下载
- 2深度技术 Windows 10 x86 企业版 电脑城装机版2018年10月(32位) ISO镜像免费下载
- 3雨林木风 Ghost Win7 SP1 装机版 2020年4月(32位) 提供下载
- 4电脑公司 装机专用系统Windows10 x86喜迎国庆 企业版2020年10月(32位) ISO镜像快速下载
- 5深度技术 Windows 10 x86 企业版 六一节 电脑城装机版 版本1903 2022年6月(32位) ISO镜像免费下载
- 6深度技术 Windows 10 x64 企业版 电脑城装机版2021年1月(64位) 高速下载
- 7新萝卜家园电脑城专用系统 Windows10 x64 企业版2019年10月(64位) ISO镜像免费下载
- 8新萝卜家园 GhostWin7 SP1 最新电脑城极速装机版2018年8月(32位)ISO镜像下载
- 9电脑公司Ghost Win8.1 x32 精选纯净版2022年5月(免激活) ISO镜像高速下载
- 10新萝卜家园Ghost Win8.1 X32 最新纯净版2018年05(自动激活) ISO镜像免费下载
热门文章
常用系统
- 1雨林木风Ghost win11 64位 流畅办公版 v2023.09最新下载
- 2电脑公司 GHOST WIN7 SP1 x64 装机旗舰版 V2013.11 下载
- 3深度技术 GHOST XP SP3 精英装机版 V2015.11 下载
- 4电脑公司Win10纯净版下载_电脑公司Win10 22H2专业纯净版64位下载
- 5Win10 21H1官方正式版下载_电脑公司Win10 21H1 64位极速专业版免激活下载V2021.07
- 6雨林木风Ghost win11 64位 精英典藏版 v2023.09最新下载
- 7Windows XP系统安装包下载_深度技术Windows XP SP3稳定专业版下载V2023.07
- 8GHOST WIN8 X64 装机专业版 V2018.08 (64位) 下载
- 9番茄花园 GHOST WIN7 SP1 X64 安全稳定版 V2018.05 (64位) 下载
- 10新萝卜家园电脑城专用系统 Windows10 x86 企业版 版本1507 2022年4月(32位) ISO镜像高速下载