编辑推荐推荐书籍

对话马斯克:如何防止人工智能掌控世界
来源:互联网  (转载协议)   发布日期:2015-12-19 08:46   浏览:6641专栏投稿 值班编辑:QQ281688302

注:特斯拉CEO Elon Musk和YC掌门Sam Altman联合创办了非盈利人工智能项目OpenAI,想要研发仁慈的人工智能,同时将研究数据开源,避免人工智能集中在少数人手中。该团队已经招揽了大批世界级人才。本文对OpenAI的两位创始人进行了采访,深入了解他们创立Open

赞助本站

对话马斯克:如何防止人工智能掌控世界

注:特斯拉CEO Elon Musk和YC掌门Sam Altman联合创办了非盈利人工智能项目OpenAI,想要研发“仁慈”的人工智能,同时将研究数据开源,避免人工智能集中在少数人手中。该团队已经招揽了大批世界级人才。本文对OpenAI的两位创始人进行了采访,深入了解他们创立OpenAI的初衷以及运行构想。

人工智能这个领域过去似乎并没有这么火热,而现在,像谷歌、苹果、Facebook、微软,甚至是日本丰田之类的汽车公司都开始争相雇佣人才,踏入这个与众不同的新市常

2015年12月12日,特斯拉CEO Elon Musk在推特上正式宣布启动非盈利人工智能项目OpenAI,立誓公开研究成果,包括代码和专利,和世人共享。一些人担心一旦人工智能超越了人类智能,会发生像电影《终结者》那样的末日之灾。而OpenAI所做的一切就是为了防止这种恐惧成真。

包括Elon Musk、LinkedIn 创始人Reid Hoffman、PayPal联合创始人Peter Thiel、YC创始合伙人Jessica Livingston在内的许多科技名人,以及亚马逊云服务都对OpenAI进行了投资。他们共同承诺会在接下来很长一段时间内,对OpenAI投资10亿美元以上。

OpenAI联合主席是Musk以及YC孵化器CEO Sam Altman。同时YC也是投资方,Sam Altman本人也是创始人。尽管如此,OpenAI还是一家独立公司。

OpenAI在本质上是一个研究实验室。建立这个实验室的目的在于监督企业和政府,以免这两个群体依靠超级人工智能系统过度榨取利润或者谋取权力,并以此压制市民。

这个想法听起来似乎不切实际,但是该团队已经招揽了大批世界级人才,首席技术官是前Stripe首席技术官Greg Brockman,研究总监是世界级研究员 Ilya Sutskever。Ilya Sutskever曾在谷歌任职,是多伦多神经网络大师Geoff Hinton的得意门生。其他员工也都是来自Facebook AI、DeepMind(2014年被谷歌收购的人工智能公司)等大型公司的顶尖人才,年轻有为,简历漂亮。同时,公司还有包括美国计算机科学家Alan Kay在内的一流顾问团。

下面是对两位创始人Elon Musk和Sam Altman的采访内容:

怎样想到要创立OpenAI的呢?

Sam Altman:虽然大约一个半月前,我们才成立了研究实验室YC Research,但我和Elon其实从很早之前就在考虑人工智能的问题了。如果要给未来这个世界最重要的东西做个排行榜,我想好的人工智能可能会位列前茅。所以我们创办了OpenAI,尝试开发一种“仁慈”的人工智能。并且因为它是非盈利的,所以全世界都能免费拥有我们开发出来的技术。

Elon Musk:众所周知,有段时间我一直对人工智能心存担忧。我找Sam、Reid(LinkedIn 创始人Hoffman Reid)、Peter Thiel(PayPal联合创始人)还有其他一些人谈了很多次,当时就在想:“有没有某种方式能够确保,或者是增加人工智能往有利的方向发展的可能性呢?”反复探讨之后我们得出结论,创办一个符合美国税法501c3条款的、非盈利的、没有义务追求利润最大化的公司,应该是个不错的办法。当然,我们也会非常注意安全问题。

然后就有了一个重要的哲学性问题:我们希望人工智能普及开来。有两个意见:你想要多数人拥有人工智能呢?还是希望少数人拥有人工智能?我们认为可能多数人拥有比较好。我们可以把人工智能和人类个体意志的延伸联系在一起。

人类意志?

Musk:因为人工智能是人类自己意志的延伸,所以每个人本质上是与人工智能共生的,不能把人工智能当做独立的中央智库。想一想我们是怎样使用网络的?通过手机应用,我们可以收发邮件,玩转社交媒体,网络让我们有了三头六臂,而我们并不会这种能力当成身外之物,而是把它当成自己的一种延伸。我们可以把人工智能往这个方向引导,这就是我们想要做的。我们现在已经召集了一批这一领域内志同道合的工程师和研究员,他们也有同感。

Altman:我们认为人工智能发展的最好方式是提升个人赋权,造福整个人类,把研究成果免费提供给所有人,人工智能技术如果集中于少数人手中,会致使单个实体的权力百万倍于人类个体,这正是我们想要避免的。此外,因为我们是非盈利公司,不需要费心思盈利取悦股东,会把重心放在对人类未来而言最好的东西上。

谷歌会像之前分享机器学习一样,分享人工智能研究进展吗?

Altman:他们当然会分享了。随着时间的推移,我们会接近更多超越人类智能的东西,问题在于谷歌会分享多少。

OpenAI会开发出超越人工智能的东西吗?

Altman:希望如此。但它会是开源的,不仅仅是谷歌,每个人都能拿来用。当然了,如果你拿去用了,做出什么成果了,也不是必须拿出来共享的。但是我们开发出来的任何东西都会公之于众。

如果作为使用者的我是“邪恶博士”那种坏家伙,怎么办?

Musk:这个问题很好,我们也为此讨论了很久。

Altman:关于这点我们有一些不同的想法。电影里,就有许许多多的人在和邪恶博士战斗。我们相信大部分人都是好人,虽然任何群体当中都会有邪恶博士这种坏家伙存在,但还是会有许多许多的人工智能努力去阻止少数的害群之马。如果不开源,一个人工智能的力量10亿倍于任何其他人工智能,那么万一有一天这个人工智能反戈相向,或是一个邪恶博士掌控了这个人工智能,人类将没有反抗的能力,成为待宰羔羊,那才是真正糟糕。

你们会对OpenAI的进展进行监督吗?

Altman:这是当然,但需要时间。现在只有我和Elon两个人做监督工作。不过我们距离开发出真正的人工智能还有很长很长一段路要走,我认为我们有足够的时间来建立起一个监督机制。

Musk:我们打算每周抽一到两个下午待在办公室里,来听取最新进展,给出我们的反馈,明确开发到了哪一步,是否已经接近某种危险的东西。安全问题我们会高度警觉,一旦看到潜在威胁,会立刻公之于众。

什么是不好的人工智能?能举个例子么?

Altman:恩,很多科幻小说都有类似描述,比如说《终结者》。不过这离我们还很遥远,短期内不必杞人忧天。但有件事我认为会是一个挑战,就是大规模的自动化会引发失业潮。不过我不认为这是不好的人工智能。另外一个例子也是大家都常提到的,并且当下已经发生,就是人工智能程序一旦化身黑客,会比人类黑客更加防不胜防。

现在你们已经有眉目了么?

Altman:没有,我们的起点不比别人高,很长一段时间里,都要实验研究。目前还没有人知道怎样打造人工智能。开业第一天我们有8位研究人员到位 此项目在猎云网投融资平台进行融资

到位

上门服务交易平台

,剩下的会在接下来几个月里陆续加入。目前他们会使用YC的办公空间,等研究有了进展,就搬到自己的实验室去。他们会一个一个尝试自己的点子,写各种各样的软件,看看能不能推进人工智能的现有技术水平。

会借助外力么?

Altman:这个必须有。一个完全开源的项目最大的优势就是能和任何人合作,因为大家可以自由分享信息。我们很难和谷歌员工沟通合作,因为他们要遵守很多保密规定。

Sam,既然OpenAI一开始是在YC办公室进行的,你的公司可以利用OpenAI的研究成果么?

Altman:如果OpenAI开发出了真正伟大的技术,任何人、任何公司都可以免费使用。没有比那样更好的事儿了。但现在,我们正打算看看YC有哪些数据是可以提供给OpenAI的,Elon 也正打算看看Tesla和Space X公司有哪些可以共享的数据。

哪种数据可以共享呢?可以举个例子么?

Altman:太多了。打个比方,新闻网站Reddit上的所有数据都会是非常有用的。所有特斯拉无人驾驶汽车的视频信息都非常有价值。掌握大量数据至关重要。人类是怎样获得智慧的呢?可以通过读书。你读了一本书,你就聪明了一点。我读了一本书,我也获得了智慧。但旁人读的书,就不能让我俩获得智慧了。而就以特斯拉为例,只要一台特斯拉获得了某种情报,所有特斯拉都会立刻从中受益,变得更加智能。

Musk:总的来说,很多具体计划还没制定,因为公司才刚刚办起来,还处于胚胎阶段。不过,特斯拉有大量的真实数据,因为我们的车队每天都要跑上数百万英里。特斯拉关于现实世界的数据可能比这世上任何其他公司都要多。

图片2

人工智能需要大量计算,基础设施怎么解决?

Altman:我们正在和Amazon Web Services合作,他们支援了大量的基础设施。

据说获得了10亿美元的承诺?

Musk:说句公道话,我们得到的承诺事实上不止10亿美元。我们不想给一个确切的数字,但可以这么说,所有博文当中提到的人,都作出了很大的贡献。

要花多长时间呢?

Altman:无论花费多少时间。我们会尽可能节俭,但是很可能这个项目会持续几十年之久,需要大量人力物力。

你们不需要盈利?

Musk:没错。这是一个不以盈利为目的的投资。将来我们有可能会有收入,就跟斯坦福研究院那样。但只是收入,不是利润。没有股票价格,也没有其他什么东西,股东们不会因此获得收益。我们认为这样挺好的。

Elon,你早些时候曾经投资了人工智能公司DeepMind,然后谷歌收购了这家公司,现在这是第二次尝试么?

Musk:我要说,我并不是通常意义上的投资者,我投资不是为了寻求经济回报。我会拿钱去帮助创立一家公司,也可能单单为了捧朋友的场于是投点钱,或者因为我相信某些东西,或者关心某些东西,于是我放了点钱进去。但是好吧,如果你非要说我对DeepMind投资了,那我这种“投资”是打引号的,我只是想要对人工智能多点了解,想特别留意它而已。

你会需要和Deep Mind 或者Facebook 、微软抢人才么?

Altman:目前为止我们的招聘顺风顺水。我们的公开性和自由性吸引了很多研究员,在我们这里,所有工作都能和任何人共享,而在其他实验室,是做不到这一点的。因此我们吸引了这样一个高质量的初始团队,完了这样强大的团队又帮我们吸引了更多人才。况且我们的使命,我们的愿景,我们的结构也都非常具有吸引力。

你们会聘请多少研究人员呢?几百个?

Altman:有可能。

我想回到之前一个话题,通过对人工智能的共享,我们可能不会遭受最糟糕的结果。但如果普及率高了,会不会有风险?潜在的风险会不会增加?

Altman:我不知道花了多少时间跟Elon还有其他一些人讨论这个话题,但直到现在我还不能百分百肯定。世上没有百分百的事情,对不对?科技方面的安保技术并不是特别好使。如果只有一方能够拥有,那么你怎么确定谁来拥有呢?谷歌?美国政府?中国政府?ISIS?还是其他的谁?世上永远不缺仁慈,但也永远不乏坏人。如果一个人的实力超过其他人10亿倍之多,会发生什么?

Musk:我认为最好的防御方式就是攻击,怕人工智能被滥用的话,就让尽可能多的人用上人工智能。每个人都有了人工智能的力量,力量才不会失衡。

Elon,你现在是两家公司的CEO,又是第三家公司的董事,应该没那么多空闲时间来投身一个新项目了吧?

Musk:是的,这是大实话。但人工智能安全这个问题,已经萦绕在我脑海里很长时间了,老这么心神不宁也不是办法,我只能去做了。

登陆 | 注册 欢迎登陆本站,认识更多朋友,获得更多精彩内容推荐!

赞助本站

人工智能实验室
网友评论
好车贷
展开
Copyright © 2010-2018 AiLab Team. 人工智能实验室 版权所有    关于我们 | 联系我们 | 广告服务 | 公司动态 | 免责声明 | 隐私条款 | 工作机会 | 展会港 | 手机信息网