编辑推荐推荐书籍

万一机器人控制了人类,怎么办
来源:互联网  (转载协议)   发布日期:2015-05-21 12:28   浏览:7279专栏投稿 值班编辑:QQ281688302

我曾多次对朋友说,假如有一天世界上出现了这样的机器人它们完全摆脱了人类的控制,能够自由自在地行动,并且能够自己研究和生产更先进的机器人那人类就可能完全受机器人控制,成为机器人的奴隶,甚至被机器人关进笼子,供它们解剖做实验用或供它们观赏。 朋

赞助本站

我曾多次对朋友说,假如有一天世界上出现了这样的机器人——它们完全摆脱了人类的控制,能够自由自在地行动,并且能够自己研究和生产更先进的机器人——那人类就可能完全受机器人控制,成为机器人的奴隶,甚至被机器人关进笼子,供它们解剖做实验用或供它们观赏。

朋友总是充满自信,他认为机器人是人类研制的,当然会受到人类的控制。他说的虽然有道理,但还是说服不了我,因为我觉得有很多种可能性导致人类控制不了机器人:按照设计,本来是能控制某种机器人的,但可能由于设计中有错误或没有完全按设计生产,结果生产出来的机器人不被人类所控制;设计人员本来是能控制某种机器人的,但由于设计人员出了意外,就无人能控制机器人了……

原本以为只有像我这样知识贫乏的人才会有如此荒唐的想法,谁知大科学家霍金教授也这么说。在前不久的伦敦“谷歌时代精神”大会上,他平静地描述了人类的命运:“在未来100年内,结合人工智能的计算机将会变得比人类更聪明。”这位大科学家认为,届时,人类将被机器控制。为了让人信服,他还讲了一个故事:“世上真的有上帝吗?”科学家用颤抖的声音问道。“现在有了。”世界上最聪明的人工智能电脑回答。说完,一道电光闪过它的电源插头——人们再也关不掉它了。微软创始人比尔·盖茨、特斯拉汽车公司与美国太空探索技术公司CEO伊隆·马斯克的名字也赫然在列。在他们看来,飞速发展的人工智能已经成为“我们现存的最大威胁”。甚至,有学者描绘了人类完全被机器人“脾气”主宰的悲凉命运——它若残暴,我们可能被屠杀;它若人道,我们的出生率可能被逐渐降低,自然灭绝;若它们当中有善良的自由主义者,我们将被驯化。

除了计算机,人类还可能以其他方式消灭自己。比如,是不是哪天会出现这样先进的武器:只须扔出去一枚,就能将地球毁了?如果出现这样的武器,又恰巧遇上一个狂人,人类的未来就着实让人担忧了。我们今天说某种科技成果对人类无害,有可能只是一时没有发现它对人类的潜在危害,但到了几百年之后,它的危害可能显露出来,而那时人类可能对它已经束手无策了,只能眼睁睁看着它伤害人类。

我们发展科学,本来是为了人类的生活更加美好,可是由于某种原因,科技发展的成果在某些领域和时刻却给人类带来了灭亡。当然,这说的可能还是比较极端的情形,此外,还可能有某些发展虽不足以让人类灭亡,但也给人类带来巨大伤害,这种伤害有显性的,也有隐性和长久的。

我们要看到科学发展所带来的好处,但也要警惕它可能给人类带来的某种危害,警惕短视而自私的人类只看到它的好处却忽视它的潜在危害。科技的发展不是越快越好,计算机不是越先进越好,动车不是跑得越快越好,人类还是多一点辩证思维好。

登陆 | 注册 欢迎登陆本站,认识更多朋友,获得更多精彩内容推荐!

赞助本站

人工智能实验室
网友评论
好车贷
展开