第六百五十二章 公约（第1页）

陆远等了几秒，继续说道：

“智脑有一个核心指令。这是我们从第一行代码写起就定死的——任何情况下，人类的决策权高于AI。智脑可以提建议，可以给方案，甚至可以推翻自己的方案，但最终的决策键，必须由人类的手指按下去。”

有代表站了起来。

是美利坚代表，那个曾在太平洋上与华夏对峙的前海军上将。

他的嘴唇动了一下，似乎想说什么，最终没有说出口。

陆远看向他，继续说道：

“联合理事会提议制定一份关于AI伦理的公约，我完全同意。我提议，这份公约应当包括三条核心原则。”

他举起一根手指：

“第一，禁止任何国家、任何组织、任何个人，开发具备独立自我意识的人工智能。智能可以很高，但不能产生‘我是谁’这个意识。自我意识是自由的基石，也是危险的起点。”

“第二，禁止对任何可能存在智慧生命或潜在智慧生命的星球实施殖民。宇宙很大，太阳系只是其中一粒沙。如果我们在火星上发现了哪怕一个细菌，那个细菌的演化方向，也应当由它自己决定。”

“第三，所有应用于军事领域的人工智能系统，必须保留不可移除的人工终止开关。这个开关的最终控制权，归属联合国防务理事会五人常任理事国一致决议。任何单边行动，将被视为对人类命运共同体的背叛。”

他放下手，声音恢复到正常的讲话音量：

“我是商人，不是政客。我讲不出漂亮的辞藻。我只能告诉各位——我们刚从一场星际战争中活下来。我们赢得惊险，赢得惨烈，赢得幸运。下一次，如果没有下一次的话，我们必须确保，敌人不是我们自己创造出来的。”

大屏幕上，先觉者小女孩的笑脸渐渐淡去，取而代之的是一行大字：

《星际文明AI伦理公约（草案）》

陆远向后退了一步，对着全场微微欠身：“谢谢。”

大会堂里沉默了三秒。

然后，又有人站了起来。

还是那个美利坚代表，老海军上将。

他双手缓慢而坚定地开始鼓掌。

掌声瞬间蔓延到整个会场。

法兰西代表站起来，俄罗斯代表站起来，巴西、南非、印度、东瀛、肯尼亚……

所有国家的代表全体起立。

掌声像暴风雨一样砸在大会堂的穹顶上，回荡，再回荡。

一位非洲小国的代表掌心都拍红了，镜头扫过他的脸，他眼睛里全是泪水。