伊隆马斯克的OpenAI可以成为安全的人工智能研究的肌肉

$config[ads_kvadrat] not found

10 Выпуск. Полезное в Веб разработке от Decode. Верстка e-mail писем, лайфхаки

10 Выпуск. Полезное в Веб разработке от Decode. Верстка e-mail писем, лайфхаки
Anonim

上周末,伊隆马斯克,萨姆奥特曼和其他硅谷大佬意外宣布推出OpenAI,这是一家非营利性公司,其目标是:“以最有可能造福人类的方式推进数字智能,不需要产生经济回报。“

“由于我们的研究没有财务义务,我们可以更好地关注积极的人类影响。我们相信A.I.应该是个人意志的延伸,并且本着自由的精神,尽可能广泛和均匀地分配。“

本公告有两个主要内容。首先是马斯克和公司看到A.I.目前的研究过于狭隘地致力于实现短期实用价值,他们希望帮助推进正在采取更广泛,更全面的方法来开发A.I.系统。第二个更隐蔽的内容是马斯克仍然担心A.I.如果我们开发和引入半生不熟的系统会造成伤害。马斯克此前曾称A.I. “我们最大的生存威胁”并建议监管可能是必要的,以防止潜在的危险。 OpenAI可以成为一种提供监督的方式,而无需联邦监管机构。

什么是马斯克和他的同事所做的与其他人所做的不同。毕竟,开源A.I.不是什么新鲜事。谷歌制作了自己的A.I.软件开源上个月,这已成为相当标准的程序。但是,凭借10亿美元的捐赠,OpenAI已经是A.I.的最大组织之一。研究,很容易成为最大的非营利组织。其目标是公布其结果,并将其所有专利免税。他们有胡萝卜加大棒,他们打算用它来引导一个行业。

我们的想法是将OpenAI用作对大型企业,私人研究实验室甚至世界政府的一种平衡,这些政府拥有大量资金和资源,可以投入到他们自己的A.I.研究可能不会用于友好目的,而是可能导致具有邪恶应用的技术。使用OpenAI的研究人员基本上会追求“友好”的A.I.,没有立即显示结果的压力。对私人企业可能倾向于忽视的安全和设计特征可能有更大的考虑。没有一座白色的塔楼,只有少数几个人控制着A.I.的路径。发展。对每个人来说,这将是一个受欢迎的世界。

在接受采访时 反向通道 ,马斯克还强调了制作各种A.I.的愿望。系统。 “我们想要A.I.普及,“他说。 “我们认为可能很多人都很好。”

这很重要,因为它可能是马斯克和奥特曼想要使A.I.民主化的主要原因。他们相信最好的A.I. - 正如马斯克所说的那样,那种能够在不创造机器人霸主的情况下以积极的方式造福人类的那种 - 就像“个人意志的延伸”一样。他继续说:

“就像A.I.延伸你自己,这样每个人基本上都与AI共生,而不是人工智能是一个大型的中央情报,而不是另一个人。如果您考虑如何使用互联网上的应用程序,您已经收到了电子邮件,并且您已经拥有社交媒体和手机上的应用程序 - 它们实际上会让您超人,而您却不会将其视为作为另一种,你认为它们是你自己的延伸。因此,就我们能够指导AI朝这个方向发展的程度而言,我们希望这样做。我们在AI领域找到了许多志同道合的工程师和研究人员。

基本上,A.I的OpenAI愿景。研究是一个分散的社区,有助于将人类彼此联系起来,并与世界本身联系起来。

马斯克还没有概述他们如何阻止OpenAI本身的研究 - 或者被外部群体重新利用 - 进入危险的方向。还有一些值得注意的事情:开源系统只有在用于构建机器学习算法的数据可以自由共享时才有意义。一个智能系统必须 学习 如何做到聪明,为此,它需要从数据和经验中学习。这就像建造一座大坝 - 你需要蓝图(算法)和建筑材料(数据)来实际制造阻止水的东西。

这就是为什么人们对谷歌的TensorFlow仍然有限的原因 - 他们还没有谷歌的数据。除非OpenAI建立的合作允许免费访问内部研究人员正在使用的相同数据,否则马斯克的愿景不一定会被实现 - 或者至少不是他推销它的方式。

马斯克,奥特曼和OpenAI的其他创始人已经开始对A.I.的增长产生巨大影响。从这里开始了。与此同时,他们需要直言不讳地致力于培养开源研究社区,这意味着公开他们对非营利性公司的计划,并愿意分享数据。否则,OpenAI与它为牛群设计的鸡群公司没有太大的不同。

$config[ads_kvadrat] not found