编辑推荐推荐书籍

研究者研发让AI不脱离人类控制的"大红色按钮"
来源:互联网  (转载协议)   发布日期:2016-06-05 21:14   浏览:7042专栏投稿 值班编辑:QQ281688302

如果人工智能走上正轨,很多哲学家和高科技创业者都认为可能会出现超越人类控制的疯狂行径。在这篇报告中写道:这种代理将会时刻处于人类的监控下,而且在必要时候能够通过按下大红色按钮来阻止危及人类或者环境的行为,并确保这个代理能够在更安全的环境下发

赞助本站

如果人工智能走上正轨,很多哲学家和高科技创业者都认为可能会出现超越人类控制的疯狂行径。在这篇报告中写道:这种代理将会时刻处于人类的监控下,而且在必要时候能够通过按下大红色按钮来阻止危及人类或者环境的行为,并确保这个代理能够在更安全的环境下发展。

如果人工智能走上正轨,很多哲学家和高科技创业者都认为可能会出现超越人类控制的疯狂行径。所以一些科研专家认为研发能够“中断”AI项目是非常重要的,并确保AI不能找到方式来阻止这个中断。由Google DeepMind AI实验室和牛津大学于2014年成立的科研机构在今天发布的报告(PDF)中提及正在创建能够控制AI程序不会脱离人类控制,换言之就是能够确保软件处于审查中的“大红色按钮”。

在这篇报告中写道:“这种代理将会时刻处于人类的监控下,而且在必要时候能够通过按下大红色按钮来阻止危及人类或者环境的行为,并确保这个代理能够在更安全的环境下发展。”伴随着越来越多的高科技公司涉足人工智能,AI领域的突破可能会以前所未有的速度前进,而在此基础上很多组织和非盈利机构已经研究确保AI具备积极的正面影响,而不会对人类造成难以控制的危险。

登陆 | 注册 欢迎登陆本站,认识更多朋友,获得更多精彩内容推荐!

赞助本站

人工智能实验室
网友评论
好车贷
展开
Copyright © 2010-2018 AiLab Team. 人工智能实验室 版权所有    关于我们 | 联系我们 | 广告服务 | 公司动态 | 免责声明 | 隐私条款 | 工作机会 | 展会港 | 手机信息网