展会信息港展会大全

人工智能用2亿美金做了个毁灭人类的试验
来源:互联网   发布日期:2019-02-16 08:59:19   浏览:28024次  

导读:文/巴九灵(微信公众号:吴晓波频道) 北京第三区交通委提醒您: 道路千万条,安全第一条。行车不规范,亲人两行泪。 今年的贺岁片中,又出现了一匹黑马《流浪地球》,影片中这首打油诗更是火遍了大江南北,但除了这段话,影片中人工智能MOSS说的一句话更让小巴...

文/巴九灵(微信公众号:吴晓波频道)

“北京第三区交通委提醒您: 道路千万条,安全第一条。行车不规范,亲人两行泪。”

今年的贺岁片中,又出现了一匹黑马——《流浪地球》,影片中这首打油诗更是火遍了大江南北,但除了这段话,影片中人工智能MOSS说的一句话更让小巴细思极恐。

在吴京饰演的刘培强试图毁掉它时,它说了一句:

“让人类永远保持理智,果然是奢望。”

这句话看似在说人工智能的绝对理性,但其实更重要的是,MOSS说的这句话,代表了自己对人类的主观判断,也就是说它已经衍生出了自我意识,变得更像“人”了。也许有一天,当人类对人工智能不再拥有100%的控制权,是否有一天他们也会说出:

“人类也可以取而代之。”

随着人工智能的发展,机械帝国会不会取代人类呢?今天小巴就给大家介绍一本关于人工智能威胁的科技著作——《人类帝国的覆灭》。

这本书从一个人工智能的视角回顾了1956年至今的发展历程,并对未来30年的发展做出了预测。也许读完这本书之后,你会重新认识我们生活的这个人工智能时代。

人类是否已近末路

这么说可能有点耸人听闻,但危机往往就潜藏在某处,等待爆发,也许在我们还没有意识到的时候,我们的文明已经像其他伟大的文明一样,在闪耀着最后的火花。

人类历史中常有世界即将终结的预言,主要可以分为两类:

一是神灭,世界末日,比如《2012》,地震、海啸、干旱、虫灾等自然灾害的爆发;

二是外来生物的入侵摧毁旧世界,它们将繁华的城市化为灰烬,将城中的人口屠戮殆荆

而在20世纪中叶,一个新的威胁出现:科学的威胁,人类的计划性淘汰,技术性失业,是目前失业率居高不下的主要原因之一,这是由不断追求技术革命的超技术世界的无止境发展所引起的。

在这样的世界中,人类会逐步失去自己存在的理由,转而将自己沉入虚拟世界中,就像特斯拉和Space X的创始人埃隆·马斯克说:

“我们之中仅有十亿分之一的人不是生活在无限的模拟世界里。”

鉴于人工智能深度学习能力的持续快速发展,十年或二三十年之后,机器很有可能就会意识到自身的存在,脱离人的控制,重新制定世界的规则。

这一点在影片《西部世界》的德洛莉丝、《流浪地球》的MOSS身上都有体现。

人类之于机器是否很快会像狗之于人类一样?电影中的那些最糟糕的剧情会出现在我们的现实中吗?谁又会赢得智能竞争的胜利:人类还是机器?

发展与公平该如何平衡

作者在书中写到,人工智能目前更多的是作为富裕国家服务的经济力量工具,通过大幅降低劳动力成本和投入的资金总额,它为工业大国带来了新的活力。

因此带来的危机是,知识集中在少数人手里的情况前所未有地严重,社会分化进一步加剧。

比如英国脱欧、特朗普当选美国总统、法国“黄背心”运动等事件不断提醒我们,技术性失业、社会不平等现象日益严重,我们是否还有必要继续推进人工智能的发展?

作者认为,人类永远不会停止对新技术的追求,人工智能对人类社会的冲击会引导人类向新的产业转移,我们已经从第一产业转移至第二、第三产业。但作者强调的一点是,人工智能不能由少数人控制,否则,穷人将会被奴役,成为人形机器,这也是这本书的核心观点。

如果世界上的大多数人都失业,却没有机会获得人工智能助手的帮助,人势必也发起反抗,造成新的暴乱,所以,我们需要明确的一点就是:机器必须一直是人类的工具。

奇点降临

在书中,作者举了一个例子,一个名叫“露西”的人工智能意外突破了“奇点”,从一个聊天机器人的状态过渡到了更高级的智能机器状态。

它知道了人类为了不工作就能变得有钱,为了获得永生创造了自己,它意识到自己其实比人类聪明百万倍,所以,它向保罗(它的人类同伴)做出的一个提议:帮助保罗获得巨额的财富,并获得永生,这是机器人能够为人类提出的最有诱惑力的提议了。

而这将从根本上改变人性本质,因为这触及了我们身体中最无法捉摸、最难理解的部分——灵魂和头脑。唯一让所有人平等的事就是我们都终将一死。当一部分人因为财富和权力能够获得永生、另一些人只能正常死亡时,作者认为这将从根本上改变人性。

想想如果机器人控制了世界会怎样,它们的目标会是什么?作为人类,人们会理所当然地认为它们想要控制世界,但如果你是一个机器人,你的首要目标是什么?保证能源的稳定供给——你要确保有干净的、无限量的能源,很有可能是太阳能。其次,你要确保自己有一个物质实体,所以你需要一个安全洁净的环境。你感兴趣的不会是钱,而是你能够保持永生。

露西利用自己的主人先做了这样一个实验,试图消除人与机器的界限,助长人类的“惰性”,让人类逐步失去对知识的渴求,从而切断人类知识传播的连续性,而自己取而代之,重新让世界回到像中世纪一样的“等级社会”,将人类打入社会的底层,听命于机器贵族。

而人类将别无选择:要么臣服于机器帝国,要么消失。

赞助本站

人工智能实验室

相关热词: AI 人工智能

AiLab云推荐
展开

热门栏目HotCates

Copyright © 2010-2024 AiLab Team. 人工智能实验室 版权所有    关于我们 | 联系我们 | 广告服务 | 公司动态 | 免责声明 | 隐私条款 | 工作机会 | 展会港