قالب وردپرس درنا توس
Home / 技术 / 这个可怕的思想实验是关于一个蛇王将Grimes和Elon Musk聚集在一起的

这个可怕的思想实验是关于一个蛇王将Grimes和Elon Musk聚集在一起的




一只传说中的爬行动物最近抬起头来。据蜥蜴人说,蜥蜴是一个传奇的蛇王,据一位欧洲的兽人说,他可以一眼就能导致死亡。然而,他最近的化身更看重技术的未来,而不是神话般的过去。

“这个星球上最亲密的数字技术节”

CNBC很喜欢TNW会议

Rokos Basilisk是一个思想实验大约十年前出现在人工智能LessWrong讨论面板上,并以Roko命名,用户谁设置了难题。奇怪的是,这也是科技企业家伊隆马斯克和音乐家格兰姆斯聚集在一起的火花。

如果我们确信人工智能能够自信地实现所谓的“奇点”并且最终无所不能,那么Roko应该做些什么?如果我们帮助这样的存在,我们保证我们的过时,但如果我们不这样做,全能的AI可以惩罚我们永恒。

LessWrong的创始人Eliezer Yudkowsky对Roko的帖子感到不满。他把思想实验当作信息风险,这是传播(真实)信息的风险:

仔细听,你这个白痴……你真的必须聪明才能开发出真正危险的想法。我感到很沮丧,人们可以很聪明地做到这一点,而且不够聪明,无法做出明显的闭嘴,因为与朋友聊天时聪明听起来更重要。这篇文章很愚蠢。

Rokos Basilisk激发了这种特殊愤怒的原因之一是被未来超级智能勒索的可能性。

“可怕的”思想实验

其原因可以在另一个思想实验Newcombs Paradox中找到,Newcombs Paradox是1

960年由物理学家William Newcomb在现代博弈论中发挥作用的一个假设问题。

在悖论中,知道未来的人(具有时间机器或超级计算机的人说)已经知道玩家在两个有很多金钱,金钱或没有钱的盒子之间进行选择时会做出的决定包含钱,并相应地放置了钱。

悖论在于球员是否认为超级计算机是无懈可击的。

同样,暴露于Rokos Basilisk的人必须决定是否帮助制造或扼杀全能蜥蜴,并承担后果。一切都取决于你是否相信蛇怪。

Rokos Basilisk很快成名。拿起几个多重的现实和模拟理论,并且你在400年的思想实验帕斯卡的赌注中有无穷无尽的变化,数学家布莱斯帕斯卡通过打赌只有信仰才能赢得信仰来培养对上帝的信仰可以。

令人难以置信的是,你不仅会过上空虚的生活,而且如果你错了,你也会被定罪到永恒的诅咒。相信,如果没有上帝,你过上了美好的生活,失去了一点点,但如果你是对的,你会得到永恒的回报。你所要做的就是克服轻微的技术难度,说服自己,相信权宜之计,并决定这种信念是否被认为是“信仰”。

这两个投注都接受了全能的报复 – 所以这是几个星期前探索的麝香,亿万富翁和Space X的创始人和特斯拉着名的可疑的未来人工智能,将18世纪的风格与Rokos Basilisk结合起来,在规划第一次火星载人任务和在加利福尼亚州建造地下交通系统之间。

提示网络 – 震惊了马斯克的“笑话研究”的想法。事实证明,成为这个星球上最富有和最有权势的人之一并不是自发的。

事实上,马斯克在言辞方面的演奏已经由加拿大音乐人格兰姆斯在她的音乐视频“无血肉”中完成。

格林斯出生于克莱尔布歇,为视频创作了一部名为“洛可可蜥蜴”的玛丽·安托瓦内特角色。指的是不寻常的洛可可风格以及罗科的思想实验。麝香啾啾她回答说,她的音乐Gri and,过去,现在和将来的哲学诞生了一段浪漫。

谁是所有的蛇怪?

不管是不是格兰姆斯召唤一个可怕的法国女王与一个蛇怪霸主的哲学含义已经完全实现了哲学影响,她不太可能预见到现实世界的浪漫结果。 Musk和Grimes最近通过参加Met Gala联合举办了他们的关系官方活动,Grimes拥有Tesla“Collar”标志。

如果我们相信Rokos Basilisk本人,我们可能会问这对夫妻对“KI很有趣”的热爱是否已经使他们误入歧途。因为在思想实验的另一个复杂情况中,我们已经有可能生活在模拟全能存在之中,并相应地受到惩罚或奖励。

这个想法并不是AI故意报复,更多的是它无法帮助自己改进。所以他们折磨那些反对或抵制他们的创作,以防止叛乱,从而不完美。格兰姆斯麝香浪漫可以完美地阻止阻碍我们未来监护人的危险。

Sophie Ward,伦敦大学戈德史密斯博士候选人

本文最初发表于The Conversation。阅读原文


Source link