我不做人了[星际] 第178节 (第3/7页)

不成熟的超级智能毁灭人类社会。

    “感知效率的提升， 也大大拉高了它的认知能力。它很快就将如我们所愿， 进化出超强的计算力和智能。”文件末尾提到， “但目前还存在一个巨大的问题。我们该怎样给这个即将拥有智慧的科技造物赋格？我们怎么保证在给予它自主性的同时又保障它对人类的忠诚和友善？”

    很多人生性没有自我束缚的能力。所以人类社会才有道德。

    现在，他们希望一个人工智能也有自我束缚的能力。但这个问题着实难倒了他们。

    原定计划是赋予这个超级智能一个虚拟人格。但他们很快发现，这个计划行不通。因为超级智能的进化充满不可预知性。用一个简单的比喻，他们现在就像是在养育一个小孩子，他们只能确定这个孩子是个天才，但他们不能确定这个孩子的性格会朝着哪个方向发展。他们确实可以花上几百年的时间静静等待、慢慢雕琢，等系统迭代出合适的样本，但他们没有时间了。

    虫族已经兵临城下。期间，连灯塔都被迫后撤了一次。

    于是灯塔的科学家们只能另辟蹊径，在这个超级智能的最底层代码中写入了一些指令。例如：对于必须由人类掌握绝对控制权的领域，仍然采用传统的手cao控制，如果遇见迫不得已的情况，需要超级智能离开虚拟机进入这些领域工作，必须提前开放相应的隔离系统，并且这一切要经过灯塔和相关部门的审查核准。

    这些指令给予了人类监控超级智能的权力。

    但实际上，掌握着监管权的还是灯塔。

    亚宁隐隐猜到，之后灯塔组织或是超级智能的监管者，一定还在白银中枢的