苏晓第一次出现在林凡面前,不是在咖啡馆,也不是在发布会,更不是那种适合偶像剧慢镜头的雨天路口。

    她出现在青橙数科的线上会议里,头像是一张很普通的证件照,背景是金融平台的会议室,开口第一句就把项目经理问沉默了。

    “你们的模型回滚预案在哪里?”

    项目经理原本准备介绍合作愿景,ppt 第一页还停在“金融科技可信风控共建方案”。他笑容僵住:“苏经理,我们这边先讲整体架构。”

    苏晓说:“整体架构我看过。架构图画得很漂亮,箭头也很有方向感。我现在问的是,如果模型上线后误伤正常用户,你们怎么回滚?”

    林凡坐在会议室角落,差点没忍住笑。

    不是嘲笑,是一种久违的舒适。终于有人在第一页 ppt 就问刹车。

    苏晓是“信衡金融”的风控项目负责人。信衡金融是本地一家做小微贷款和消费分期的平台,最近要上线 AI 风控系统,用来判断用户信用风险、审批额度和还款预警。青橙数科负责落地实施,底层部分能力来自星穹,业务规则由信衡提供。

    金融项目和社区项目完全不同。社区推荐错了,可能让老人多听一场养生课;金融风控错了,可能让一个人借不到钱,也可能让一个不该借的人背上债。钱这种东西,最擅长把技术问题变成人生问题。

    苏晓的语气不快,但每个问题都很具体。

    “训练数据里,逾期标签怎么定义?”

    “历史坏账是否包含疫情期间特殊样本?”

    “地域、年龄、职业这些变量有没有做偏见评估?”

    “模型拒绝用户时,给不给申诉通道?”

    “人工复核团队能看到模型理由,还是只能看到分数?”

    项目经理越听越虚,频频看林凡。

    林凡接过话:“我们建议高风险拒绝不直接自动生效,至少进入人工抽检。模型理由会保留,但需要做可解释摘要,不能只给一个分数。”

    苏晓看向屏幕里的他:“可解释摘要谁生成?”

    “系统生成,人工审核。”

    “审核人有没有权限推翻?”

    “应该有。”

    苏晓挑眉:“应该?”

    林凡立刻改口:“需要写进流程。”

    苏晓点头:“写进去之前,不算有。”

    会议室里安静了一下。

    老周坐在旁边,低声说:“这姑娘不错。”

    林凡小声回:“她比你还会堵人。”

    老周:“我这是欣赏。”

    苏晓没有为难他们。相反,她非常清楚自己要什么。她不反对 AI,甚至很懂 AI 的价值。信衡过去靠人工审核和简单规则,坏账率上升,审核速度慢,小微商户经常因为资料不完整被拖很久。AI 风控如果做好,确实能救平台,也能让一部分原本被粗暴拒绝的人获得机会。

    但她不允许项目用“智能”两个字遮住风险。

    会议结束前,苏晓说:“我相信模型能帮我们发现人看不到的风险。但模型也会继承人过去的偏见。我们这次上线,目标不是让机器替人决定谁值得信任,而是让人知道自己为什么信任或不信任。”

    林凡把这句话记下来。

    张磊听说苏晓后,第一反应:“女版老周?”

    林凡说:“不一样。老周像维修手册,苏晓像审计报告。”

    何苗说:“听起来都不适合约会。”

    张磊立刻看向周舟:“你别误会,我觉得审计报告也有魅力。”

    周舟说:“你先把失业清单第五条写了:不在情绪不稳时胡乱评价女性。”

    张磊闭嘴。

    项目启动后,苏晓经常和林凡对接。她发来的表格密密麻麻,字段、样本、阈值、例外、申诉、灰名单、人工复核,每一项都有备注。林凡第一次见到有人把风险写得这么不浪漫,却这么有力量。

    有一次,项目经理抱怨:“苏经理太细了,一个字段能问三轮。”

    林凡说:“金融字段后面是钱。”

    老周补:“钱后面是人。”

    苏晓正式进入主线的那天,林凡在笔记本里写:

    有些人不是来让故事变甜的。

    是来让系统变难糊弄的。

    晚上,云启未来白板写:

    金融风控不是给人打分,是决定一个人能不能被系统相信。

    何苗写:

    专业的人最迷人的地方,是不被漂亮话带跑。

    张磊写:

    会问回滚预案的人,值得尊重。

    林凡最后写:

    流程里没写的权力,等于没有。

    第二天,苏晓发来一条消息:

    昨天会议纪要里,“应该有人工推翻权限”那句,请改成“必须有”。

    林凡看着屏幕笑了一下。

    他回:

    已改。

    苏晓:

    谢谢。少一个“应该”,少很多锅。

    林凡觉得,老周应该会喜欢她。

    老周确实喜欢。

    第二天复盘时,他看完苏晓标注的十七条风险备注,难得没有挑刺,只说:“她这人知道系统是怎么害人的。”

    林凡说:“你这夸法像刑侦剧。”

    老周说:“懂风险的人,看世界都像案发现场。”

    苏晓后来补发了一份“上线前不可妥协清单”。第一条是拒绝自动化最终拒贷,第二条是保留人工推翻权限,第三条是所有模型评分必须能追溯到特征组,第四条是用户申诉不得由原模型二次自动驳回。

    林凡看到第四条时,停了很久。

    他以前见过太多“申诉入口”只是摆设。用户被机器误判,再向机器申诉,最后收到机器生成的“经核实无误”。那种流程像一扇画在墙上的门,看着有出口,撞上去才知道是墙。

    他给苏晓回:

    第四条很重要。

    苏晓回:

    被系统伤过一次的人,不该被同一个系统伤第二次。

    林凡把这句抄进笔记本。

章节目录