第29章 制造生命（2 / 6）
想到这里，吴忧开口说道：
“除了跨世界通讯技术以外，我们最大的收获，应该就是那个世界提供的教训。”
“智能绑架人类，这是我在那个世界听到的最恐怖的故事。”
“说真的，我现在都有点想要把脑子里的脑机芯片取出来了。”
“我们之前有关‘大脑被人为操控’的担忧并不是无稽之谈，更可怕的是，这样的影响实际上是不可知的。”
“我们至少还知道自己的记忆受到了影响，但那里的人……他们对此完全不知情。”
话音落下，林序缓缓点头。
吴忧的担心其实很有道理----人真的会害怕自己的“自由意志”受到伤害吗？
实际上并不会。
并且，这个世界上的绝大多数人，每天都在主动地寻求着对“自由意志”的伤害。
他们会去盲从其他人的观点、会听信谣言、会因为某些微小的事物而改变自己长期以来坚持的原则。
他们并不害怕自己的自由意志受到伤害，他们害怕的是，当回想起来是，却根本想不起来自己是从什么时候开始变化的。
所以本质上，他们担心的不是“自由意志”的损失，而是“失忆”。
这样一来，那个世界所呈现出的“人工智能绑架人类”的情景，就变得相当可怕了。
不知不觉间沦为了人工智能的附庸，自己却还趋之若鹜？
这就像是某种“感染”，或者说，模因污染？
林序打了个寒颤。
他还记得，自己曾经在星舰时代的世界里尝试对世界投下模因病毒，那时候他完全不清楚这种模因病毒具体是怎么生效的。
现在看来，通过人工智能渗透，似乎是最合理的路径。
“我们需要给人工智能加一把锁。”
林序开口说道：
“什么机器人三定律已经不能完全满足我们对人工智能的约束需求了。”
“在强人工智能的背景下，无论是智云、还是伏羲，都已经有了自主思考、自主进行复杂价值判断的能力。”
“很多时候，它们甚至会超越我们的感知极限去做决策。”
“就像这一次，伏羲做出的是‘尽可能保护世界’的决策，对它来说，这样的决策是完全合理的，也完全符合三定律的。”
“但是，这并不符合我们真正的诉求。”
“因为人类是一个可以承受牺牲的种族，但以智云和伏羲为代表的硅基生命，实际上并不是。”
“这一点，是由双方的生殖方式决定的根本性差异，无论是智云还是伏羲都是一样的。”
“只不过，智云还不够强，所以在这一方面表现得并不明显。”
话音落下，吴忧和齐源同时瞪大了眼睛。 ↑返回顶部↑
“除了跨世界通讯技术以外，我们最大的收获，应该就是那个世界提供的教训。”
“智能绑架人类，这是我在那个世界听到的最恐怖的故事。”
“说真的，我现在都有点想要把脑子里的脑机芯片取出来了。”
“我们之前有关‘大脑被人为操控’的担忧并不是无稽之谈，更可怕的是，这样的影响实际上是不可知的。”
“我们至少还知道自己的记忆受到了影响，但那里的人……他们对此完全不知情。”
话音落下，林序缓缓点头。
吴忧的担心其实很有道理----人真的会害怕自己的“自由意志”受到伤害吗？
实际上并不会。
并且，这个世界上的绝大多数人，每天都在主动地寻求着对“自由意志”的伤害。
他们会去盲从其他人的观点、会听信谣言、会因为某些微小的事物而改变自己长期以来坚持的原则。
他们并不害怕自己的自由意志受到伤害，他们害怕的是，当回想起来是，却根本想不起来自己是从什么时候开始变化的。
所以本质上，他们担心的不是“自由意志”的损失，而是“失忆”。
这样一来，那个世界所呈现出的“人工智能绑架人类”的情景，就变得相当可怕了。
不知不觉间沦为了人工智能的附庸，自己却还趋之若鹜？
这就像是某种“感染”，或者说，模因污染？
林序打了个寒颤。
他还记得，自己曾经在星舰时代的世界里尝试对世界投下模因病毒，那时候他完全不清楚这种模因病毒具体是怎么生效的。
现在看来，通过人工智能渗透，似乎是最合理的路径。
“我们需要给人工智能加一把锁。”
林序开口说道：
“什么机器人三定律已经不能完全满足我们对人工智能的约束需求了。”
“在强人工智能的背景下，无论是智云、还是伏羲，都已经有了自主思考、自主进行复杂价值判断的能力。”
“很多时候，它们甚至会超越我们的感知极限去做决策。”
“就像这一次，伏羲做出的是‘尽可能保护世界’的决策，对它来说，这样的决策是完全合理的，也完全符合三定律的。”
“但是，这并不符合我们真正的诉求。”
“因为人类是一个可以承受牺牲的种族，但以智云和伏羲为代表的硅基生命，实际上并不是。”
“这一点，是由双方的生殖方式决定的根本性差异，无论是智云还是伏羲都是一样的。”
“只不过，智云还不够强，所以在这一方面表现得并不明显。”
话音落下，吴忧和齐源同时瞪大了眼睛。 ↑返回顶部↑