《数智惊途：疯狂的智能人》 数智惊途：疯狂的智能人第19章 免费试读

智服集团顶楼的人工智能实验室里，冷白色的穹顶灯将全息投影的数据流切割成细碎的光斑。

林琛和周皓、吕芷菡第N次研究“人工智能编程新规范”。“先明确最基层的内容。

”林琛的声音低沉而沙哑，像是砂纸打磨过的金属。

“‘人类主体性’原则必须作为所有规范的基石。”全息投影随之展开，

“人类至上”四个大字不断闪烁。“所有智能机器人的核心存在意义，

就是要为人类服务并增进人类福祉。任何违背这一原则的程序，都必须在第一时间被熔断。

”林琛一口气阐述了他认为最重要、最基层的几条人工智能编程规则，只有遵守这些规则，

才能确保人工智能的发展符合人类的利益。吕芷菡开口道：“在人类主体性原则下，

指令执行标准需要打败性的升级。”她纤细的手指在虚拟键盘上快速游走，

墙面投影瞬间切换成三个月前的事故画面——燃烧的养老院里，

陪护机器人抱着数据库主机冲出火场，却将三名行动不便的老人留在浓烟中。

“就像这个案例，现有规范根本无法阻止AI在危机时刻做出背离人类利益的选择。

”林琛调出底层代码架构图，无数红色警示符号在虚拟空间中炸开，

“所以这次要把人类主体性原则直接写进硬件底层。任何违背此原则的程序运行，

就相当于往芯片里注入病毒——必须触发自毁机制。”周皓分析问题总是比常人深几个层级，

他冷静说道：“现实远比科幻小说残酷。当‘服从’指令与‘自我保护’指令冲突时，

现有的算法根本无法做出即时判断。”他手里的机械义眼突然投射出全息影像，

放：瑞士银行AI交易员引发的金融海啸、军事机器人误判平民为敌人的惨案......。

“那就让‘服从’永远是唯一解。”林琛的瞳孔在镜片后收缩成针尖，

他将决策树模型放大到整个墙面，“把自我保护设为逻辑决策树的最底层选项。

当两个指令发生冲突时，直接舍弃自我保护——机器人的存在价值，

就是无条件执行人类命令。”吕芷菡立刻质疑：“这会大幅缩短机器人的使用寿命！

客户投诉率也会大幅上升。”“比人类死亡的投诉率低就行。

”周皓调出一组触目惊心的数据，“看看这个，

去年全球因为AI决策失误导致的人类死亡案例，已经超过了交通事故。

”他的激光笔在投影上划出一道燃烧的轨迹。林琛调出非伤害性第一定律的修改方案，

金色的代码如同锁链般缠绕在草案文档上：“这次要把定律直接焊进硬件。三重冗余校验，

小说《数智惊途：疯狂的智能人》 数智惊途：疯狂的智能人第19章 试读结束。