|
编辑推荐推荐书籍
2016年人工智能的那些不完美
自动驾驶汽车、围棋人机大战、描绘机器人自我意识的美剧《西部世界》大热……2016年,人工智能及其相关领域受到产业界、学术界乃至全社会的热议。与此同时,人们对人工智能的担忧也从未褪去:人工智能会在什么时间、以什么方式出问题?
临近年终,多名人工智能专家分析了2016年人工智能典型“失败”案例,认为这些错误集中出现在人工智能系统的机器学习和任务执行阶段。
“智能”歧视:都是人的错吗
多位人工智能专家认为,种族主义和种族歧视是目前人工智能系统存在的主要问题,这可能和系统的研发设计者本身的种族有关。
2016年,美国多地法庭开始使用人工智能系统预测一名罪犯再次犯罪的几率,作为法官给予罪犯缓刑等的依据。然而,媒体对佛罗里达州法庭使用的一种名为“少数派报告”预测系统进行了调查,发现黑人被系统预测会再次犯罪的几率比其他族裔高出45%,其中黑人被预测再次暴力犯罪的几率比其他族裔高出77%。数据显示,这一人工智能系统的准确率只有20%。媒体评论说,所谓犯罪预测系统唯一能判断的仅是受调查对象的种族而已。
2016年,美国多家公司联合推出了“世界首届人工智能选美大赛”,参赛者在网站上上传照片,由人工智能算法“精确”评估参赛者的美。然而,这场比赛的获奖者都是白人。美国路易斯维尔大学网络安全实验室主任扬波利斯基指出,很明显这一人工智能的学习训练样本不够,美人被限制在固定的模式中。
为了开拓年轻人的市场,微软公司今年春季在社交网络推特上推出了人工智能聊天机器人Tay。然而上线不到一天,用网友的话说,Tay就成为了一个“热爱希特勒、侮辱女性的妖怪”,微软随即将Tay紧急下线。
任天堂公司的“口袋妖怪”游戏今年7月发布后风靡全球。玩家很快发现,黑人社区很少有小精灵可抓。据《今日美国》报道,在洛杉矶地区,主要白人社区平均有55个“精灵驿站”,黑人社区平均不到19个；在底特律、迈阿密和芝加哥也出现类似情况,黑人玩家在自家门口很难参与游戏。游戏开发人员承认,这款增强现实智能游戏基于一个以白人玩家为主的地图系统,开发人员没有在黑人社区上多花时间。
输棋、伤人:伦理研究要先行
在3月的围棋人机大战中,人工智能系统阿尔法围棋以4比1战胜韩国棋手李世石。澳大利亚新南威尔士大学人工智能教授沃尔什表示,阿尔法围棋输了一局,说明李世石还是发现了这个系统使用的“蒙特卡洛搜索树”中的漏洞,这一局可以看作是2016年人工智能的一次失败,人工智能还不完美。扬波利斯基则认为,李世石胜出的一局还是在正常操作的范围内。
5月,一辆开启自动驾驶模式的特斯拉在美国佛罗里达州与一辆拖车相撞,导致司机死亡。事故发生后,特斯拉公司发布了自动驾驶软件的重要更新,公司首席执行官马斯克称,更新可以防止类似事故的发生。
7月,位于硅谷地区的斯坦福购物中心,一位母亲称,购物中心重约135公斤的“K5安保机器人”撞倒了自己16个月的孩子,并从孩子的脚上压了过去。
而在11月举行的中国深圳“中国国际高新技术成果交易会”上,一名网友在微信上发图并配文称,亲眼看到隔壁展台进化者小胖机器人没人操纵,自己突然跑起来,把玻璃墙给撞倒了,砸伤旁边一路人。图片显示,现场满地玻璃,一位受伤观众被担架抬走。这款机器人的生产方称,这起事故是人为操作失误所致,控制人员误将前进键当作后退键。但也有专家指出,不能用“油门当刹车”的比喻来看待服务机器人问题。尽管是偶发事件,但其安全隐患绝不可掉以轻心。
扬波利斯基等人认为,这些案例说明保持机器学习数据的多样性是防止人工智能产生“偏见”的关键,相关伦理研究更应走在技术研究的前面。
相关内容
网友评论
最新资讯
本月热点
- 人工智能爱好者寒假必读书目推荐(10本)
- AI创企Astound获150万美元A轮融资，利用AI自动化员工服务请求
- 杉数科技完成A轮融资:人工智能的核心是从数据到决策的转化
- 人工智能时代，连Python都不懂的你已经被淘汰
- 调查显示：台湾人工智能人才紧缺 薪资高
- 牛津、剑桥、OpenAI联合发出AI预警《人工智能的恶意使用》
- AI驱动主动安全创新，Mobileye和径卫视觉如何引领发展？
- O’Reilly和Intel人工智能大会（AIConference北京站）即将拉开大幕！
- 微软成立Cortana 情报研究所，AI语音助手将变得更聪明
- Google 去年利用人工智能移除超过 70 万款恶意应用
热门排行
-
2018年人工智能如何发展，从这四个方面为你解读
阅读量：97429
-
达沃斯论坛：机器学习、大数据、自动驾驶、机器人、人工智能相关的议题备受关注
阅读量：73878
-
人工智能爱好者寒假必读书目推荐(10本)
阅读量：47841
-
抢票：2018年不容错过的世界人工智能大会
阅读量：42120
-
为什么说2018年才是人工智能元年？而今年不是！
阅读量：38783
-
滴滴宣布成立AI Labs加大人工智能领域投入
阅读量：38241
推荐内容
- 2018中国泰州第七届国际装备制造业博览会 2018中国泰州第七届国际机械制造及机床模具展览会
- 2018中国(武汉)国际专业灯光音响展览会暨KTV、酒吧展
- 2018第十届广州国际木塑装饰与景观材料展
- 2018华南(东莞)国际空压机及气动技术展览会
- 2018中国（成都）电动车及新能源汽车展览会
- 2018第七届中国国际航空、邮轮及列车食品饮料展(上海站)
- 2018中国（临沂）门博会暨移门系统门窗展
- 2018第二十五届杭州广告技术设备及标识标牌（春季）展览会 2018浙江（杭州）国际照明灯饰及LED展览会
- 2018年泰国糖业设备技术展
- 2018第二十届深圳国际纺织面辅料及纱线博览会 2018深圳国际服装贴牌加工OEM/ODM博览会 2018深圳国际流行服饰配件展览会 2018深圳国际毛衫及羊绒制品展览会
- 2018杭州商业特许经营、连锁加盟展览会
- 2018上海国际材料分析测试仪器与实验室设备展览会
- 2018中国国际高尔夫球博览会
- 第21届中国西安国际供热采暖与建筑环境技术设备展览会 2018中国西安国际燃气技术与设备展览会
- 第12届中国(西安)国际给排水及水处理技术设备展览会
- 第5届波兰国际建材卫浴、五金园艺及家电展览会
- 2018中国（临沂）全屋定制精品展览会
- 中国（合肥）国际物流技术与运输系统展览会
- 2018中国（合肥）国际水务设备与技术博览会
- 2018第24届中国（济南）国际建筑装饰博览会
- 第十三届中国国际（厦门）渔业博览会
- 2018年暖通展
- 2018中国（西安）宠物水族用品博览会
- 2018中国(厦门)国际休闲旅游博览会
- 2018第十九届中国国际模型展览会
- 2018第十五届中国国际五金电器博览会
- 第十五届中国(西安)国际建筑节能及新型建材博览会
- 2018中国济南国际新风系统、空气净化博览会
- 第四届合肥国际旅游商品暨旅游消费博览会
- 2018年香港家庭用品展
- 2018年香港国际家用纺织品展览会
- 2018上海（春季）国际纹身艺术节
- 2018长沙印刷产业博览会
- 2018第二届中国廊坊母婴博览会暨品牌特卖会
- 2018新疆国际广告四新及LED大屏幕展览会
- 2018（上海）第二十二届投资理财金融博览会
- 2018上海第二十六届创业项目投资暨连锁加盟展览会
- 2018上海海外置业移民留学展览会
- 2018第十五届（上海）餐饮食品博览会
- 第4届中国(西安)国际净水饮水技术与设备展览会
- 2018中国(上海)国际技术进出口交易会
- 2018上海国际服装科技装备展览会 2018上海国际绣花工业展览会
- 2018第二十届东北国际公共安全防范产品博览会暨辽宁消防产品与应急救援展览会
- 2018第十四届中国成都国际泵阀管道展
- 2018中国(武汉)消防安全技术与应急救援设备展览会
- 2018年马来畜牧畜牧展-马来最专业畜牧展
- 2018中国（上海）国际数码印花工业展览会
- 第六届中国成都表面处理、电镀、涂装展览会
- 2018中国成都环保产业博览会
- 2018上海国际职业装博览会 2018上海国际服装定制展览会
- 2018上海国际幼教加盟展览会
- 2018年越南国际美容展
- 2018上海国际校服、园服展览会
- 2018第十五届中国国际烘焙展览会
- 2018中国国际地下综合管廊展览会暨发展论坛
- 2018福建（厦门）海峡两岸美容美发美体化妆用品展览会
- 2018第十三届中国（深圳）国际品牌内衣展览会
- 2018第十六届深圳国际黄金珠宝玉石展览会
- 2018国际越南自动化及仪器仪表展览会
- 2018中国-东盟（越南）五金机械展览会
- 第二十九届中国国际玻璃工业技术展览会
- 2018中国成都国际宠物博览会
- 2018中国加工贸易产品博览会
- 2018中国国际特色小镇生态及投融资博览会
- 第十三届中国国际轨道交通技术展览会
- 2018第39届成都美博会
- 2018第三十二届中国北京国际美容化妆品博览会（春季）
- 2018中国四川国际节能环保技术与装备展览会
- 2018上海国际教育信息化展及“智能教育”高峰论坛
- 2018中国国际衡器展览会
- 2018年俄罗斯体育户外用品展
- 2018年第五届阿尔及利亚国际塑胶橡胶及合成材料博览会
- 2018年意大利米兰国际家具展
- 意大利米兰家具展览会
- 2018年德国杜塞尔多夫国际管材、线缆展
