第249章 黑箱不是盒子，是借口
第二天上午，城市大脑试点专项会开在市政中心三楼小会议室。
小会议室这个名字很有欺骗性。它一点也不小，桌子长得像能直接举行国际谈判，水杯统一摆成这条线，话筒红灯亮起来的时候，人说话会自动变得像新闻发布会。磊磊坐在靠墙的位置，刚拿起笔，就被桌牌震住了。
他的桌牌写着：晓衡风险咨询协作人员。
磊磊看了半天，低声问何苗：“协作人员是不是听起来比打杂高级？”
何苗没抬头：“看你怎么协作。你要是等会儿又把话题带到外卖上，就叫会场餐饮气氛破坏人员。”
磊磊把笔放端正，坐姿立刻像被人工智能重新训练过。
会议主题很正式：城市大脑试点风险责任边界讨论。这个标题听起来比“谁背锅”体面很多，但大家心里都知道，今天真正要谈的就是这个。系统一旦联动，责任会变得像热锅上的冰块，看得见，摸不着，一开会就蒸发。
林凡把昨天夜里整理好的材料分发下去。第一页没有写复杂模型结构，只写了一个普通案例：独居老人磊阿姨被异常关怀系统标记，五个部门陆续响应，最后发现她只是去女儿家住了两天。材料后面列着每个系统的说明。
水务系统：仅提供用水异常参考。
门禁系统：仅提供出入记录参考。
医疗系统：仅提供复诊状态参考。
社区系统：仅根据综合提示生成关怀工单。
政务服务系统：仅根据服务标签推送便民信息。
磊磊看到一排“仅”，忍不住小声说：“这个字是不是系统界的护身符？”
老周把老花镜往下压：“护身符还讲究心诚，这个讲究甩得快。”
林凡没有急着展示结论。他让参会人员先看材料，又把每个系统的责任说明投到屏幕上。几位技术供应方代表表情都很稳，有人翻页，有人喝水，有人低头看手机，像一群成年人正在集体假装这个问题昨天才第一次出现。
星穹的人也来了。许既明坐在桌子另一侧，深灰西装，袖扣很低调，发言前先听，听的时候也很像在发言。他旁边的技术负责人姓钟，头发梳得一丝不乱，说话更是一丝不乱。
钟负责人说：“从平台角度看，城市大脑提供的是辅助决策能力。每个业务部门仍然保留最终处置权。算法不直接做行政决定，这一点在技术协议里写得很清楚。”
这话没错，甚至正确得像一块崭新的玻璃。
林凡问：“那如果所有业务部门都按照辅助建议走，最后结果错了，谁来解释？”
钟负责人微微一笑：“具体处置由业务部门负责。平台负责能力输出和技术保障。”
社区代表那边有个街道干部姓刘，听到这句坐直了：“但我们收到的是系统综合工单。工单等级、响应时限、建议话术都已经生成了。平台说只是建议，群众投诉的时候不会投诉建议，他会投诉我们为什么上门、为什么打电话、为什么把他列入重点关怀。”
钟负责人说：“所以业务部门需要建立复核流程。”
刘干部苦笑：“我们一个网格员管三百多户。复核流程写得很美，到了现场就是小王骑电动车从东头跑到西头，跑完还要填表。系统一分钟生成十个工单，人腿没有这个并发量。”
磊磊在本子上写：人腿并发量，建议列入技术指标。
顾启明看见他的本子，表情复杂，像想骂又觉得有点用。
林凡翻到第二页，上面是小商户误标案例。早餐铺被恶意举报，记录撤销不完整，几个部门各自提高关注级别。没有哪个部门正式处罚它，但它连续三次被推迟审批，一次被临时检查，两次错过活动摊位申请。老板在材料里的原话是：我没犯事，可日子像被系统轻轻踩了一脚，脚不重，但一直不拿开。
林桂兰看到这句话，叹了口气：“这老板会说。”
一位审批部门代表皱眉：“这个案例里，审批延迟有多种原因，不一定能归因到风险标签。”
苏晓坐在林凡旁边，翻开自己的文件：“所以我们要求可追溯。不是为了把责任硬扣给某个部门，而是要知道风险标签在哪些节点被读取过，是否影响排序、是否触发复核、是否改变办理时限。否则每个环节都说‘不一定’，最后群众只能一定倒霉。”
会议室里有人低头，有人交换眼神。
“黑箱”这个词，以前常被拿来形容技术模型。输入进去，输出出来，中间看不懂，所以叫黑箱。可林凡越来越觉得，真正让人无力的黑箱，不一定藏在代码里。它也藏在流程图里，藏在部门边界里，藏在“按规定办理”的话术里，藏在一个又一个看起来合理的职责说明里。
一个盒子看不懂，还可以要求打开。
一个借口看起来太合理，反而很难拆。
许既明终于开口。他说：“我同意需要更强的追溯机制。但也要避免把技术平台变成无限责任主体。如果每个业务后果都回推给底层能力，供应方会无法创新。”
这句话说得很漂亮。创新两个字一出来，空气都显得高端了一点。
磊磊低头写：创新，成年人版“我不是故意的”。
何苗用胳膊肘轻轻碰了他一下，让他别笑出声。
林凡看向许既明：“没人要求平台承担无限责任。我们要求的是可解释、可暂停、可纠错、可追责。你们可以不对每个业务结果负责，但必须对自己的输出边界负责。比如一个标签被设计成低置信度，却在下游被当成强信号使用，平台有没有提醒？一个接口被多个部门依赖，临时调整会影响公共服务，平台有没有提前告知？一个模型输出被频繁人工推翻，平台有没有监测偏差？”
许既明没有马上回答。
钟负责人接话：“这些可以通过接口协议和使用规范解决。”
老周突然说：“规范谁看？”
钟负责人顿了一下：“业务部门会看。”
老周问：“一线人员看吗？”
“会培训。”
“培训完记得住吗？”
钟负责人表情终于有点绷不住：“周老师，任何制度都需要执行。”
老周点头：“对，所以别把执行想得像下载补丁一样。人不是装一下就更新成功。”
磊磊差点鼓掌，忍住了，只在桌子底下给老周比了个大拇指。
林桂兰举手发言。她今天穿了一件暗红色外套，头发梳得很利索，手里拿着一张皱了边的纸。那是她昨晚在社区群里问来的问题，字有些大，有些歪，但每一条都具体。
“我不懂你们技术怎么分工。”她说，“我就问几件事。第一，系统找我上门，我能不能问为什么？第二，理由错了，我找谁改？第三，我不会线上提交，能不能去社区交纸？第四，我被错标了，别的部门还会不会看见旧东西？第五，你们说只是参考，那工作人员能不能因为参考就少给我办事？”
她念完以后，把纸放到桌上。
会议室里一时间没人说话。
这五个问题没有任何术语，没有“模型治理”，没有“数据闭环”，没有“责任矩阵”，但它们比所有大词都难糊弄。因为它们不是站在系统角度问“怎么运行”，而是站在人角度问“我怎么办”。
苏晓轻轻点头，把这五条抄进会议纪要：“这就是公众可理解责任链。”
一位市里负责人看向林凡：“你们建议怎么写进试点方案？”
林凡把准备好的第三页投出来。标题很短：黑箱治理，不止开盒。
下面是四个要求：
每一次高影响系统联动，必须生成责任链记录。
每一个风险标签，必须注明来源、置信度、用途限制、撤销方式和有效期限。
每一个“仅供参考”，必须对应“被谁参考、如何参考、是否可拒绝参考”。
每一个影响居民权益的自动建议，必须提供人工复核入口和离线申诉入口。
磊磊看着屏幕，小声说：“这哪是治理黑箱，这是给黑箱办身份证。”
何苗说：“还要年检。”
老周补刀：“违法乱纪吊销。”
会议室终于笑了一下。笑声不大，但让前面那堆沉甸甸的话稍微落了地。林凡喜欢这种笑，不是为了冲淡问题，而是让人有力气继续把问题说清楚。
许既明看完那四条，手指在桌面轻轻点了两下：“技术上可行，但成本不低。”
顾启明说：“错了以后再补，成本更高。”
刘干部也点头：“我们基层最怕模糊。模糊的时候，上面说按系统，群众骂我们，平台说看协议，最后就剩网格员站在门口解释。解释得好叫服务，解释不好叫矛盾升级。”
磊磊在本子上写：基层，黑箱最终出气口。
写完他自己愣了一下。以前他写这种句子，大多为了好笑。现在也好笑，但笑完总觉得扎。系统越大，普通工作人员越容易变成“最后一公里背锅侠”。他们不是没有责任，可也不该用一辆电动车、一支笔和一张笑脸，去消化所有上游设计留下的坑。
会议开到中午，方案终于出现了几处实质性修改。责任链记录被加入试点一期必备功能，高影响标签设置最长有效期，居民申诉不再只挂在 App 里，社区服务中心必须保留纸质提交渠道。最关键的是，“仅供参考”四个字后面，新增了一段说明：凡进入业务排序、资源分配、服务限制、风险关注等环节的系统建议，均须记录实际使用方式，不得以参考名义规避责任。
磊磊看到这段，低声说：“仅供参考终于成年了，开始承担民事责任。”
林桂兰问：“啥意思？”
“意思就是，”磊磊想了想，“以后它不能光嘴上说说，得留下字据。”
林桂兰满意
小会议室这个名字很有欺骗性。它一点也不小，桌子长得像能直接举行国际谈判，水杯统一摆成这条线，话筒红灯亮起来的时候，人说话会自动变得像新闻发布会。磊磊坐在靠墙的位置，刚拿起笔，就被桌牌震住了。
他的桌牌写着：晓衡风险咨询协作人员。
磊磊看了半天，低声问何苗：“协作人员是不是听起来比打杂高级？”
何苗没抬头：“看你怎么协作。你要是等会儿又把话题带到外卖上，就叫会场餐饮气氛破坏人员。”
磊磊把笔放端正，坐姿立刻像被人工智能重新训练过。
会议主题很正式：城市大脑试点风险责任边界讨论。这个标题听起来比“谁背锅”体面很多，但大家心里都知道，今天真正要谈的就是这个。系统一旦联动，责任会变得像热锅上的冰块，看得见，摸不着，一开会就蒸发。
林凡把昨天夜里整理好的材料分发下去。第一页没有写复杂模型结构，只写了一个普通案例：独居老人磊阿姨被异常关怀系统标记，五个部门陆续响应，最后发现她只是去女儿家住了两天。材料后面列着每个系统的说明。
水务系统：仅提供用水异常参考。
门禁系统：仅提供出入记录参考。
医疗系统：仅提供复诊状态参考。
社区系统：仅根据综合提示生成关怀工单。
政务服务系统：仅根据服务标签推送便民信息。
磊磊看到一排“仅”，忍不住小声说：“这个字是不是系统界的护身符？”
老周把老花镜往下压：“护身符还讲究心诚，这个讲究甩得快。”
林凡没有急着展示结论。他让参会人员先看材料，又把每个系统的责任说明投到屏幕上。几位技术供应方代表表情都很稳，有人翻页，有人喝水，有人低头看手机，像一群成年人正在集体假装这个问题昨天才第一次出现。
星穹的人也来了。许既明坐在桌子另一侧，深灰西装，袖扣很低调，发言前先听，听的时候也很像在发言。他旁边的技术负责人姓钟，头发梳得一丝不乱，说话更是一丝不乱。
钟负责人说：“从平台角度看，城市大脑提供的是辅助决策能力。每个业务部门仍然保留最终处置权。算法不直接做行政决定，这一点在技术协议里写得很清楚。”
这话没错，甚至正确得像一块崭新的玻璃。
林凡问：“那如果所有业务部门都按照辅助建议走，最后结果错了，谁来解释？”
钟负责人微微一笑：“具体处置由业务部门负责。平台负责能力输出和技术保障。”
社区代表那边有个街道干部姓刘，听到这句坐直了：“但我们收到的是系统综合工单。工单等级、响应时限、建议话术都已经生成了。平台说只是建议，群众投诉的时候不会投诉建议，他会投诉我们为什么上门、为什么打电话、为什么把他列入重点关怀。”
钟负责人说：“所以业务部门需要建立复核流程。”
刘干部苦笑：“我们一个网格员管三百多户。复核流程写得很美，到了现场就是小王骑电动车从东头跑到西头，跑完还要填表。系统一分钟生成十个工单，人腿没有这个并发量。”
磊磊在本子上写：人腿并发量，建议列入技术指标。
顾启明看见他的本子，表情复杂，像想骂又觉得有点用。
林凡翻到第二页，上面是小商户误标案例。早餐铺被恶意举报，记录撤销不完整，几个部门各自提高关注级别。没有哪个部门正式处罚它，但它连续三次被推迟审批，一次被临时检查，两次错过活动摊位申请。老板在材料里的原话是：我没犯事，可日子像被系统轻轻踩了一脚，脚不重，但一直不拿开。
林桂兰看到这句话，叹了口气：“这老板会说。”
一位审批部门代表皱眉：“这个案例里，审批延迟有多种原因，不一定能归因到风险标签。”
苏晓坐在林凡旁边，翻开自己的文件：“所以我们要求可追溯。不是为了把责任硬扣给某个部门，而是要知道风险标签在哪些节点被读取过，是否影响排序、是否触发复核、是否改变办理时限。否则每个环节都说‘不一定’，最后群众只能一定倒霉。”
会议室里有人低头，有人交换眼神。
“黑箱”这个词，以前常被拿来形容技术模型。输入进去，输出出来，中间看不懂，所以叫黑箱。可林凡越来越觉得，真正让人无力的黑箱，不一定藏在代码里。它也藏在流程图里，藏在部门边界里，藏在“按规定办理”的话术里，藏在一个又一个看起来合理的职责说明里。
一个盒子看不懂，还可以要求打开。
一个借口看起来太合理，反而很难拆。
许既明终于开口。他说：“我同意需要更强的追溯机制。但也要避免把技术平台变成无限责任主体。如果每个业务后果都回推给底层能力，供应方会无法创新。”
这句话说得很漂亮。创新两个字一出来，空气都显得高端了一点。
磊磊低头写：创新，成年人版“我不是故意的”。
何苗用胳膊肘轻轻碰了他一下，让他别笑出声。
林凡看向许既明：“没人要求平台承担无限责任。我们要求的是可解释、可暂停、可纠错、可追责。你们可以不对每个业务结果负责，但必须对自己的输出边界负责。比如一个标签被设计成低置信度，却在下游被当成强信号使用，平台有没有提醒？一个接口被多个部门依赖，临时调整会影响公共服务，平台有没有提前告知？一个模型输出被频繁人工推翻，平台有没有监测偏差？”
许既明没有马上回答。
钟负责人接话：“这些可以通过接口协议和使用规范解决。”
老周突然说：“规范谁看？”
钟负责人顿了一下：“业务部门会看。”
老周问：“一线人员看吗？”
“会培训。”
“培训完记得住吗？”
钟负责人表情终于有点绷不住：“周老师，任何制度都需要执行。”
老周点头：“对，所以别把执行想得像下载补丁一样。人不是装一下就更新成功。”
磊磊差点鼓掌，忍住了，只在桌子底下给老周比了个大拇指。
林桂兰举手发言。她今天穿了一件暗红色外套，头发梳得很利索，手里拿着一张皱了边的纸。那是她昨晚在社区群里问来的问题，字有些大，有些歪，但每一条都具体。
“我不懂你们技术怎么分工。”她说，“我就问几件事。第一，系统找我上门，我能不能问为什么？第二，理由错了，我找谁改？第三，我不会线上提交，能不能去社区交纸？第四，我被错标了，别的部门还会不会看见旧东西？第五，你们说只是参考，那工作人员能不能因为参考就少给我办事？”
她念完以后，把纸放到桌上。
会议室里一时间没人说话。
这五个问题没有任何术语，没有“模型治理”，没有“数据闭环”，没有“责任矩阵”，但它们比所有大词都难糊弄。因为它们不是站在系统角度问“怎么运行”，而是站在人角度问“我怎么办”。
苏晓轻轻点头，把这五条抄进会议纪要：“这就是公众可理解责任链。”
一位市里负责人看向林凡：“你们建议怎么写进试点方案？”
林凡把准备好的第三页投出来。标题很短：黑箱治理，不止开盒。
下面是四个要求：
每一次高影响系统联动，必须生成责任链记录。
每一个风险标签，必须注明来源、置信度、用途限制、撤销方式和有效期限。
每一个“仅供参考”，必须对应“被谁参考、如何参考、是否可拒绝参考”。
每一个影响居民权益的自动建议，必须提供人工复核入口和离线申诉入口。
磊磊看着屏幕，小声说：“这哪是治理黑箱，这是给黑箱办身份证。”
何苗说：“还要年检。”
老周补刀：“违法乱纪吊销。”
会议室终于笑了一下。笑声不大，但让前面那堆沉甸甸的话稍微落了地。林凡喜欢这种笑，不是为了冲淡问题，而是让人有力气继续把问题说清楚。
许既明看完那四条，手指在桌面轻轻点了两下：“技术上可行，但成本不低。”
顾启明说：“错了以后再补，成本更高。”
刘干部也点头：“我们基层最怕模糊。模糊的时候，上面说按系统，群众骂我们，平台说看协议，最后就剩网格员站在门口解释。解释得好叫服务，解释不好叫矛盾升级。”
磊磊在本子上写：基层，黑箱最终出气口。
写完他自己愣了一下。以前他写这种句子，大多为了好笑。现在也好笑，但笑完总觉得扎。系统越大，普通工作人员越容易变成“最后一公里背锅侠”。他们不是没有责任，可也不该用一辆电动车、一支笔和一张笑脸，去消化所有上游设计留下的坑。
会议开到中午，方案终于出现了几处实质性修改。责任链记录被加入试点一期必备功能，高影响标签设置最长有效期，居民申诉不再只挂在 App 里，社区服务中心必须保留纸质提交渠道。最关键的是，“仅供参考”四个字后面，新增了一段说明：凡进入业务排序、资源分配、服务限制、风险关注等环节的系统建议，均须记录实际使用方式，不得以参考名义规避责任。
磊磊看到这段，低声说：“仅供参考终于成年了，开始承担民事责任。”
林桂兰问：“啥意思？”
“意思就是，”磊磊想了想，“以后它不能光嘴上说说，得留下字据。”
林桂兰满意