第五百九十二章 底线(3/3)

不是将军手里，是所有用户的共同监督下。智脑可以建议，但不能决策。可以预警，但不能执行。任何情况下，人类的决策权高于AI。”   他说完了，实验室里又安静了几秒。   巨树还在旋转，脉动还在继续，数据还在流。   陆远没有点头，没有摇头。   他盯着那棵巨树看了很久，久到李沫以为他不会回答了。   然后他转过身，走回暗处，声音从阴影里传出来。   “这是底线。记下来。不只是智联的底线，应该是全人类的底线。”   他坐回椅子上，双手重新交叠搭在膝上。   屏幕的光又把他的脸切成明暗两半，像一幅永远无法调和的矛盾画。   这段对话后来被整理成会议纪要，加密存档，存放在智联总部的保险柜里。   又过了很多年，当联合国开始起草《星际文明AI伦理公约》时。   各国的代表为“AI决策权是否应永远保留给人类”这一条款，争论了数周。   有的国家要求更严格的限制，有的国家认为应给予AI更多自主权。   僵持不下时，智联的代表将这段会议记录的加密副本提交给了大会秘书处。   解密后的文字被投影在日内瓦的会议大厅里，陆远的声音仿佛穿透了时间，在穹顶下回荡。   “任何情况下，人类的决策权高于AI。”   没有投票，没有辩论。   那行字被直接刻进了公约的扉页。   下方没有署名，只有一句简短的说明：“智联，江城。”   签字笔落下时，墨迹和多年前陆远在承诺书上签下的那个名字一样重。   实验室里的那棵数据之树还在旋转。   它的枝丫伸向更远的星系，根扎在这颗蓝色星球的最深处。   它看着人类，也被人类看着。   谁也不会闭上眼睛。   不是因为信任，是因为那行刻在公约扉页上的字，像一把锁，锁住了那颗树最深处的那根枝条。   而那把锁的钥匙，被放在保险柜里，和那些泛黄的手稿、黑白照片、蜡笔画的星空放在一起。   钥匙不会丢，因为从来没有人想要打开它。   路还长，但光在那里，灯还亮着。