异形A.I.发短信是终极潘多拉的盒子,说科学家

$config[ads_kvadrat] not found

The University in the Digital Age

The University in the Digital Age
Anonim

如果第一次接触外星生命不是在中央公园中间登陆不明飞行物,而只是传递给星际的信息呢?在外星人沟通中可能隐藏着什么?

德国Sonneberg天文台的天文学家Michael Hippke和夏威夷大学的John Learned思考了这种情况,并且他们有说服力地说,没有办法知道该信息中是否存在恶意潜伏的东西,并且没有办法包含这样的A.I.一旦消息被读取。

加入我们在Facebook上的私人Dope Space Pics小组,获得更奇怪的惊喜。

该论文最近发布在预印本网站arXiv上,解释了基本问题是代码问题。一个非常简单的纯文本,视觉或音频信息可能只是通过将其打印出来并手动查看来判断为安全,但任何比这更复杂的事情都需要计算机来处理它。在我们的程序运行之前,无法知道有害或恶意代码是否存在。

是的,我们可以采取保障措施。作者提出了一个位于月球上的隔离计算机,远程控制的聚变炸弹在第一次出现故障时准备就绪。这个消息对外界来说是完全保密的,只有一小群政府研究人员和工作人员知道发生了什么。

但如果有一个有感觉的A.I.在比我们更聪明的代码中 - 并且这并不难以置信,因为它背后的外星人必须比我们先发送它更先进 - 然后它只是时间问题才能占上风。

作者写道:“人工智能可能提供有价值的东西,例如治愈癌症,并提出一个小的请求,例如计算机容量增加10%。” “接受报价似乎是理性的。当我们这样做时,我们已经开始与它进行商业和贸易,这没有明确的限制。如果癌症的治疗方法将包括纳米机器人的蓝图:我们是否应该建立这些蓝图并将它们发布到世界上,如果我们不了解它们是如何工作的?我们可以拒绝这样的提议,但不要忘记人类参与了这个实验。“

即使像作者所说的那样,也需要为A.I.扮演一个带病儿的警卫的心理。它找到逃生的方法 将 最终找到一个。此外,没有什么是永远保密的,任何政府,无论是民主的还是独裁的,都希望永远让一个好奇的公众远离外星人的智慧?

一旦人类计算机读取外星人的消息,那么A.I.只是一个时间问题。里面变成了 该 地球上的主导情报。鉴于我们只控制地球,因为我们目前占据这个位置,我们只需要希望外星人计划是仁慈的。

而且,公平地说,作者本身也很乐观。

他们写道:“我们可能只会选择销毁这样的信息,或承担风险。” “事先了解风险和机会总是明智的,并且有意识地选择或反对它,而不是盲目地遵循随机路径。总的来说,我们认为风险非常小(但不是零),而且潜在的利益非常大,因此我们强烈建议您阅读传入的信息。“

$config[ads_kvadrat] not found