OpenAI：Elon Musk的前任公司正处于一个新的A.I.的边缘。时代

OpenAI是一家研究人工智能的非盈利组织，由Elon Musk于2016年共同创立，一直在取得重大进展 - 即使在马斯克在其方向存在分歧的情况下分道扬..研究人员开发出的系统可以玩游戏，撰写新闻文章，以及具有突破性灵活性的物理对象。

OpenAI因其研究引起争议。上周，它宣布开发一种语言模型GTP2，它可以生成提示有限的文本。鉴于人性化的提示“Miley Cyrus今天在好莱坞大道上被Abercrombie and Fitch偷走了入店行窃”，该系统制作了一个可信的完整故事，继续说：“这位19岁的歌手被照相机被护送出商店保安人员。“

它还根据一个简短的提示创建了关于谈论独角兽的原始故事：

“我在一年多的时间里没有与OpenAI密切合作，也没有管理层或董事会监督，”马斯克周末在Twitter上发表评论。 “我不得不专注于解决特斯拉（特别是）和SpaceX的大量工程和制造问题。此外，特斯拉正在与OpenAI竞争一些人，我不同意OpenAI团队想要做的一些事情。加上这一切，只是更好地分开良好的条款。“

该公司最初似乎是马斯克实现其利用A.I.目标的理想方式。为了人类的利益。这位企业家此前已经警告过超智能机器对文明的“基本风险”，敦促各国政府“像我们做食品，毒品，飞机和汽车一样”。

马斯克承诺最初启动该公司1000万美元，其使命宣言的重点是“发现和制定安全的人工智能通道。”

不难看出像OpenAI执行官Greg Brockman所共享的那些故事的节目如何被相对较少的人用来影响不那么精明的公众的意见。

一名OpenAI员工打印出这个AI编写的样本并通过回收站发布：http：//t.co/PT8CMSU2AR pic.twitter.com/PuXEzxL7Xd

- Greg Brockman（@gdb）2019年2月14日

“由于我们担心该技术的恶意应用，我们不会发布经过培训的模型，”该公司在一篇博文中解释说。 “作为负责任披露的实验，我们正在发布一个更小的模型供研究人员进行试验，以及技术论文。”

该公告引发了对该技术可用于产生假新闻的担忧。 分析印度 警告说，随着即将于今年晚些时候举行的印度大选，A.I。可能会对民主进程造成严重破坏。 OpenAI的研究人员自己表示，结合制作合成音频和视频的研究，“广大公众需要对他们在网上发现的文本持更多怀疑态度。”

Ryan Lowe，A.I。科学家和前OpenAI实习生总结了这样一个程序的威胁，这个程序用于在这个传世的媒体帖子中简洁地创建虚假新闻：

…… 一个自动化系统可以：（1）让那些没有资源雇用数千人的坏行为者进行大规模的虚假宣传活动; （2）大幅增加国家行为者已经开展的虚假宣传活动的规模。

并非所有OpenAI的研究都证明是如此具有争议性。 Dactyl于2018年7月亮相，可以适应现实世界的物理学来操纵现实世界中的物体。机器人手非常复杂，具有24个自由度，但系统只需使用三个RGB摄像头和机器人手的坐标即可轻松移动物体。

机器人手利用了用于在视频游戏中击败人类的通用强化学习算法。 “OpenAI Five”团队面对一支专业团队 Dota 2 该系统经过180年的游戏培训，充分利用了惊人的128,000个处理器内核和256个图形处理器。虽然它击败了前专业人士和Twitch流媒体的人类团队，但却未能成为专业球员。

马斯克使用了 Dota 2 比赛引起人们对神经网络的关注，他计划与A.I.建立共生关系。通过连接人脑并避免机器人接管：

@OpenAI的出色工作。很快需要神经接口来实现人/ AI共生。

- Elon Musk（@elonmusk）2018年8月6日

在其文本生成器公告中，OpenAI表示计划在六个月内讨论其更广泛的战略。该公司希望引发关于人工智能危险的细致讨论，此举可以避免马斯克设想的一些灾难情景。然而，即便是公司承认，“不确定”隐瞒文本生成器“今天是正确的决定。”由于两个主要实体之间已形成分歧警告人工智能的危险，立法者不太可能容易是时候开发解决方案。