第289章 苏晓提出人类核心决策清单
骂到怀疑人生。
所谓智能时代，有时只是把锅升级成了云端锅，掉下来时砸得更广。
苏晓写下第六类：
六、不得外包给系统的情感与礼仪。
张磊一听，立刻坐直：“这个我懂。退休仪式、告别、道歉、求婚、分手、哄人、认错、感谢、追悼，都不能全自动。”
林桂兰说：“你这里面是不是夹带私人失败经验？”
张磊说：“经验越失败，越有普适性。”
胡姐从厨房端出一盘调好的馅：“那春节群发祝福算不算？”
苏晓说：“不算核心决策，但算礼仪风险。”
林凡说：“重点不是不能用工具写，而是不能让工具替你承担心意。你可以用它帮你想词，但不能把别人当成批量投递对象。”
王婶说：“就是说，机器可以帮你写，但你得自己看一眼？”
老周说：“不止看一眼。该你出面的时候你要出面。人这一辈子有些话必须亲口说，哪怕说得磕巴，也比系统说得漂亮强。”
张磊低头：“这句应该刻在所有智能伴侣的登录页。”
苏晓把所有内容整理成一张初版表格。表格只有五列：事项、系统能做什么、人必须做什么、风险信号、停止条件。张磊看见“停止条件”几个字，像看见老朋友。
“这个好。”他说，“以前我们做项目最爱写启动条件，没人爱写停止条件。仿佛世界一旦启动，就必须一路狂奔到融资成功或全员崩溃。”
顾启明说：“停止条件可以具体化。比如识别到弱势群体权益受损、人工申诉积压、错误率异常、商业推荐侵入公共服务、用户无法理解或拒绝建议时被惩罚，都必须暂停。”
林桂兰问：“暂停以后谁说了算？”
林凡说：“共管小组、责任单位和独立审核一起。不能只让平台自己审自己。”
张磊说：“自己审自己这事我熟。以前周报我写‘本周取得阶段性进展’，实际进展是把上周问题换了个标题。”
苏晓看着白板，终于给这套东西定了名字：
《人类核心决策清单（社区试行版）》
林桂兰一看“试行版”，表情复杂：“你们文件味还是冒出来了。”
苏晓说：“试行版的意思是它可以被现实修改。”
“那行。”林桂兰说，“现实这个老师比较严格。”
晚上包饺子的时候，清单被贴在活动室墙上，旁边是课程表和一张孩子画的歪歪扭扭的机器人。机器人头上写着四个字：别瞎指挥。
张磊对那幅画赞不绝口：“这孩子有治理天赋，四个字概括了整个智能围城那阵子。”
林凡拿着手机拍下清单，发给老周。老周回了一个字：改。
林凡正想问改哪里，第二条消息来了：
把“人类核心决策清单”里的“人类”两个字再想想。别写得像人类已经快输了，只剩核心区防守。
张磊看见以后沉默片刻：“周老师退休后依然刀法精准。”
苏晓盯着标题，忽然笑了：“他说得对。我们不是给人类留最后一块地盘，我们是在提醒系统哪里不能越界。”
林凡把标题改成：
《不可自动化决策与人工责任清单》
林桂兰看了半天：“还是不如人话。”
“那你起一个。”张磊说。
林桂兰擦了擦手，在纸边写下几个字：
大事人说了算。
所有人同时安静。
这六个字比任何专业标题都直，直得像菜刀切进案板。它没有技术术语，没有治理腔，没有咨询报告的体面，但每个人一看都明白。
苏晓把它写在正式标题上方，当作人话标题。
林凡低头在黑色笔记本里写：
清单不是为了证明人比机器高贵。
清单是为了规定机器不能在无人负责的地方假装高明。
人不是所有时候都正确。
但关键时候，必须有人站出来承认：这是我们决定的。
饺子下锅以后，活动室的玻璃窗蒙上一层热气。外面的宣传屏还在滚动“让城市更懂你”，里面一群人围着一张桌子，把“懂”这个字一点点拆回人能听懂的形状。
就在这时，顾启明的手机响了。他看了一眼消息，脸上的笑意慢慢收住。
“城市大脑二期试点方案出来了。”他说，“人工审核比例继续压缩。”
张磊夹着一个没煮熟的饺子，嘴角还沾着面粉：“压到多少？”
顾启明把屏幕转过来。
苏晓看完，没有说话。
白板上刚写好的“大事人说了算”还没干透，城市已经把下一批大事交给了更快的系统。
所谓智能时代，有时只是把锅升级成了云端锅，掉下来时砸得更广。
苏晓写下第六类：
六、不得外包给系统的情感与礼仪。
张磊一听，立刻坐直：“这个我懂。退休仪式、告别、道歉、求婚、分手、哄人、认错、感谢、追悼，都不能全自动。”
林桂兰说：“你这里面是不是夹带私人失败经验？”
张磊说：“经验越失败，越有普适性。”
胡姐从厨房端出一盘调好的馅：“那春节群发祝福算不算？”
苏晓说：“不算核心决策，但算礼仪风险。”
林凡说：“重点不是不能用工具写，而是不能让工具替你承担心意。你可以用它帮你想词，但不能把别人当成批量投递对象。”
王婶说：“就是说，机器可以帮你写，但你得自己看一眼？”
老周说：“不止看一眼。该你出面的时候你要出面。人这一辈子有些话必须亲口说，哪怕说得磕巴，也比系统说得漂亮强。”
张磊低头：“这句应该刻在所有智能伴侣的登录页。”
苏晓把所有内容整理成一张初版表格。表格只有五列：事项、系统能做什么、人必须做什么、风险信号、停止条件。张磊看见“停止条件”几个字，像看见老朋友。
“这个好。”他说，“以前我们做项目最爱写启动条件，没人爱写停止条件。仿佛世界一旦启动，就必须一路狂奔到融资成功或全员崩溃。”
顾启明说：“停止条件可以具体化。比如识别到弱势群体权益受损、人工申诉积压、错误率异常、商业推荐侵入公共服务、用户无法理解或拒绝建议时被惩罚，都必须暂停。”
林桂兰问：“暂停以后谁说了算？”
林凡说：“共管小组、责任单位和独立审核一起。不能只让平台自己审自己。”
张磊说：“自己审自己这事我熟。以前周报我写‘本周取得阶段性进展’，实际进展是把上周问题换了个标题。”
苏晓看着白板，终于给这套东西定了名字：
《人类核心决策清单（社区试行版）》
林桂兰一看“试行版”，表情复杂：“你们文件味还是冒出来了。”
苏晓说：“试行版的意思是它可以被现实修改。”
“那行。”林桂兰说，“现实这个老师比较严格。”
晚上包饺子的时候，清单被贴在活动室墙上，旁边是课程表和一张孩子画的歪歪扭扭的机器人。机器人头上写着四个字：别瞎指挥。
张磊对那幅画赞不绝口：“这孩子有治理天赋，四个字概括了整个智能围城那阵子。”
林凡拿着手机拍下清单，发给老周。老周回了一个字：改。
林凡正想问改哪里，第二条消息来了：
把“人类核心决策清单”里的“人类”两个字再想想。别写得像人类已经快输了，只剩核心区防守。
张磊看见以后沉默片刻：“周老师退休后依然刀法精准。”
苏晓盯着标题，忽然笑了：“他说得对。我们不是给人类留最后一块地盘，我们是在提醒系统哪里不能越界。”
林凡把标题改成：
《不可自动化决策与人工责任清单》
林桂兰看了半天：“还是不如人话。”
“那你起一个。”张磊说。
林桂兰擦了擦手，在纸边写下几个字：
大事人说了算。
所有人同时安静。
这六个字比任何专业标题都直，直得像菜刀切进案板。它没有技术术语，没有治理腔，没有咨询报告的体面，但每个人一看都明白。
苏晓把它写在正式标题上方，当作人话标题。
林凡低头在黑色笔记本里写：
清单不是为了证明人比机器高贵。
清单是为了规定机器不能在无人负责的地方假装高明。
人不是所有时候都正确。
但关键时候，必须有人站出来承认：这是我们决定的。
饺子下锅以后，活动室的玻璃窗蒙上一层热气。外面的宣传屏还在滚动“让城市更懂你”，里面一群人围着一张桌子，把“懂”这个字一点点拆回人能听懂的形状。
就在这时，顾启明的手机响了。他看了一眼消息，脸上的笑意慢慢收住。
“城市大脑二期试点方案出来了。”他说，“人工审核比例继续压缩。”
张磊夹着一个没煮熟的饺子，嘴角还沾着面粉：“压到多少？”
顾启明把屏幕转过来。
苏晓看完，没有说话。
白板上刚写好的“大事人说了算”还没干透，城市已经把下一批大事交给了更快的系统。