距离上一次深度维护的时间间隔。
车间环境湿度。
易损零件的出厂批次号。
甚至还有各类传感器的历史校准记录。
江临在屏幕上画出一个漏斗状的模型结构。
“在常规的表示学习模型中,神经网络会把这三十二维的庞大输入,通过多层编码器,极度压缩成一个只有八维的低维向量表示。然后再用这个紧凑的八维向量,去判断当前设备发生了什么类型的故障。”
周志华看着材料上的加粗黑体字,说:“这份材料上写着,这个压缩模型在公开测试集上的故障识别准确率高达百分之九十六点四。非常亮眼的数据。而在这个特定的样本里,模型给出的结论是,主轴轴承磨损。”
“这个结论是错的。”江临直截了当地说。
“真实的物理故障是什么?”
“是冷却液管路前段的初级过滤器发生了物理堵塞。”
江临敲击键盘,在幕布上展开了事故发生前三个小时的完整高频采样记录。
在图表中可以清晰地看到,故障发生前的三个小时内,主轴温度曲线和基座振动曲线几乎在同一时间开始呈现出陡峭的上升趋势。
“模型在训练时学到了一个常识,当温度和振动同时升高时,大概率是轴承内部滚珠出现了磨损,导致摩擦加剧。”江临拿着红色的激光笔在两条曲线上画了个圈,“它把这种特征组合,强行压缩成了一个典型的轴承磨损故障模式。”
“但实际情况呢?”周志华盯着数据。
“实际情况是,温度升高来自冷却液过滤器堵塞,散热流量迅速下降。振动幅度的升高,则发生在三个小时前的一次传感器重新安装之后。底座预紧力改变,使传感器与机座之间的机械耦合和频率响应发生变化,原有标定系数却没有同步更新,同样的物理振动因此被记录成了更高的幅值。”
江临放下激光笔。
“两个在物理上彼此无关的独立变化——流量下降和标定关系变化,在这个追求极简的压缩模型里,最终等价成了一个危险的常见故障。”
“模型输入里那项近期传感器重新安装及标定系数变化的事件字段,在训练数据中占多大的比例?”周志华敏锐地抓住了问题的核心。
“千分之二点七。”江临精确地报出一个数字,“属于极长尾的罕见事件。”
“如果我们在模型输入中删掉这个字段,公开测试集上的准确率会怎么变化?”
“不仅不会下降,反而会因为去除了这种长尾噪声,平均准确率还会再提高零点一二个百分点。”
“那从当前业界公认的模型优化目标来看,这个模型做得一点错都没有。”周志华摊开双手,“它甚至变得更优秀了。”
“按照只看平均准确率的传统评价标准,它确实没错。”
“但你坚持认为,那项只占千分之二点七的维护事件字段绝对不能丢,对吗?”周志华紧追不舍。
“在这个特定的工业容错任务里,绝对不能。”江临寸步不让。
“为什么?”
“因为应对轴承磨损和应对过滤器堵塞,在现实世界中对应着完全不同的维修动作和灾难代价。轴承磨损,设备可以降速继续运行到本班次结束。但过滤器堵塞如果不立刻停机清理,三十分钟内主轴就会因为热膨胀而彻底卡死抱轴,整台机器直接报废。”
“江临,这算不算是事后诸葛亮。”周志华毫不客气地指出了江临逻辑上的薄弱点,“因为你现在已经知道答案是过滤器堵塞了,所以你才觉得校准记录重要。可是你想想,今天是校准记录导致了误判,明天呢?明天可能是一个操作员换班时手抖了一下,后天可能是隔壁车间突然开动了一台大型冲床导致地基震动。在三十二维甚至三万维的输入空间里,任何一个不起眼的字段,都可能在某个极端的边缘条件下,成为改变最终结论的致命因素。”
“对,您说得完全正确。”江临点头。
“那按照你的逻辑,为了防止这种极端情况,我们就必须把所有这些看似无用的信息全部保留下来。”
“是。”
“如果全部保留,那整个降维模型就失去了意义,你的系统里根本就不存在所谓的压缩了。”周志华皱着眉头说道。
“所以,这就是悖论。”
“所以你今天带来的这个问题,从第一步的逻辑起点上就不成立。”
周志华的眉头彻底拧成了一个川字。
“你想寻找一种方法,保留下所有可能推翻现有结论的关键信息。可是,机器学习面对的是一个敞开的、无限复杂的真实世界输入。只要物理进程还没有结束,哪怕是上帝,也不知道下一个足以推翻一切的反例,究竟藏在哪一个不起眼的维度字段里。”
江临的目光停在那项维护事件字段上。
会议室里的其他人也都屏住了呼吸,没有人敢在这个时候插嘴。
周志华没有停下,继续用手术刀般的逻辑往下剖析。
“你看,你之所以陷入这个困境,是因为你把形式化证明里那一套证明义务必须完整无缺的逻辑,强行套用到了这里。”
“对,我是这么想的。”
“可是机器学习的世界里,根本就不存在所谓的完整证明义务。它生来就是建立在有限的抽样样本、统计学的概率分布,以及对现实世界不可避免的近似误差之上的。它是一门关于妥协的艺术。”
“是妥协。”
“如果你非要在这个充满妥协的体系里,去寻找一个永远绝对不会丢失任何反例的完美压缩方法,那你忙碌到最后,得到的只会是那一堆庞大臃肿,毫无处理价值的原始数据,你的研究会变成原地踏步。”
“对。”江临依然只是简短地回应。
“既然你什么都清楚,那这个方向,你觉得还有必要继续往下做吗?”周志华盯着江临的眼睛,等待着他的答案。
江临看着幕布上那三十二个字段名。
在这场会议开始之前,在从废土返回现实的无数个日夜里,他其实已经准备过好几种看似可行的学术路线。
比如利用香农的信息论,去计算每个字段与输出结果之间的互信息。
比如利用微积分里的偏导数,去评估每个特征在网络中的敏感度。
比如引入朱迪亚·珀尔的因果依赖图模型。
或者干脆简单粗暴地统计历史数据库中,历史反例出现的频率。
这些方法在数学上都非常成熟。
都能很轻易地把这三十二个字段,像排队一样排成一列。
从在数学上最重要的字段,一直排到最不重要的垃圾字段。
然后,工程师只需要在中间随便选一个可以接受的阈值划一条线。
线上面那些被认为重要的,留下。
线下面那些被认为无用的,毫不留情地删掉。
只要这么做了,几个月后,某篇顶会论文里就会出现一条漂亮平滑的帕累托最优曲线。
论文会自豪地宣称,我们的模型体积缩小了百分之八十。
而我们在测试集上的准确率,基本保持不变。
直到某一天,当灾难真正降临,某个当年被排在阈值下面,被认为毫无用处的边缘字段,在一次伤亡惨重的真实工业事故里,突然以暴烈的姿态站起来,用设备的残骸和鲜血告诉所有人,其实我非常有价值。
江临深吸一口气,将那些漂亮的学术曲线从脑海中驱逐出去。
问题的症结,根本就不在于那种重要性排序的算法做得够不够精妙。
而在于,面对一个容错率为零的系统,一开始就不该提出哪些信息重要、哪些不重要这种充满傲慢的蠢问题。
江临悠悠站起身,问道:“周教授,有笔吗?”
周志华深深地看了他一眼,从桌角拿起一支蓝色的马克笔,递过去。
江临接过笔,大步走到白板前,在白板的正中央,写下两行字。
【样本A:物理状态为轴承磨损】
【样本b:物理状态为过滤器堵塞+传感器校准偏移】
然后,他在两行字的中间,画了一条粗壮的箭头,指向右侧。
在箭头的上方,是【压缩】这两个字。
在箭头的右侧末端,他画了一个方框,里面写着——【同一个八维低秩表示】。
“周老师,压缩算法本身不可避免地会删除信息,这是一种物理规律,不是问题。”江临转过身,看着长桌旁的众人说。
周志华看着白板,若有所思。
“真正致命的问题在于,这种基于统计学特征的盲目压缩,它把两个在现实世界中必须采取截然不同应对动作的高危状态,如同揉面团一样,粗暴地压成了同一个无法分辨的状态。”
江临转回身,在白板的最右侧,对应着样本A和样本b,分别写下。
【维修动作A:降速运行,计划内更换轴承】
【维修动作b:紧急停机,清理过滤器+重新标定传感器】
两种截然不同的物理状态。
在现实中对应着两种生与死、毁灭与保全的严重后果。
但在经历过那条被认为是进步的压缩箭头之后,那个自作聪明的AI模型,在它那可怜的八维视野里,已经完全看不出这两者之间有任何区别了。
“整个学术界过去这十几年,一直在拼命计算,计算一次压缩过程在数学上究竟留下了多少香农信息熵。”
江临的声音在会议室里回荡。
“但我们从来没有静下心来算过一笔更重要的账——这一次压缩,在现实任务的执行层面,究竟制造了多少次荒谬的错误等价。”
盯着白板的
车间环境湿度。
易损零件的出厂批次号。
甚至还有各类传感器的历史校准记录。
江临在屏幕上画出一个漏斗状的模型结构。
“在常规的表示学习模型中,神经网络会把这三十二维的庞大输入,通过多层编码器,极度压缩成一个只有八维的低维向量表示。然后再用这个紧凑的八维向量,去判断当前设备发生了什么类型的故障。”
周志华看着材料上的加粗黑体字,说:“这份材料上写着,这个压缩模型在公开测试集上的故障识别准确率高达百分之九十六点四。非常亮眼的数据。而在这个特定的样本里,模型给出的结论是,主轴轴承磨损。”
“这个结论是错的。”江临直截了当地说。
“真实的物理故障是什么?”
“是冷却液管路前段的初级过滤器发生了物理堵塞。”
江临敲击键盘,在幕布上展开了事故发生前三个小时的完整高频采样记录。
在图表中可以清晰地看到,故障发生前的三个小时内,主轴温度曲线和基座振动曲线几乎在同一时间开始呈现出陡峭的上升趋势。
“模型在训练时学到了一个常识,当温度和振动同时升高时,大概率是轴承内部滚珠出现了磨损,导致摩擦加剧。”江临拿着红色的激光笔在两条曲线上画了个圈,“它把这种特征组合,强行压缩成了一个典型的轴承磨损故障模式。”
“但实际情况呢?”周志华盯着数据。
“实际情况是,温度升高来自冷却液过滤器堵塞,散热流量迅速下降。振动幅度的升高,则发生在三个小时前的一次传感器重新安装之后。底座预紧力改变,使传感器与机座之间的机械耦合和频率响应发生变化,原有标定系数却没有同步更新,同样的物理振动因此被记录成了更高的幅值。”
江临放下激光笔。
“两个在物理上彼此无关的独立变化——流量下降和标定关系变化,在这个追求极简的压缩模型里,最终等价成了一个危险的常见故障。”
“模型输入里那项近期传感器重新安装及标定系数变化的事件字段,在训练数据中占多大的比例?”周志华敏锐地抓住了问题的核心。
“千分之二点七。”江临精确地报出一个数字,“属于极长尾的罕见事件。”
“如果我们在模型输入中删掉这个字段,公开测试集上的准确率会怎么变化?”
“不仅不会下降,反而会因为去除了这种长尾噪声,平均准确率还会再提高零点一二个百分点。”
“那从当前业界公认的模型优化目标来看,这个模型做得一点错都没有。”周志华摊开双手,“它甚至变得更优秀了。”
“按照只看平均准确率的传统评价标准,它确实没错。”
“但你坚持认为,那项只占千分之二点七的维护事件字段绝对不能丢,对吗?”周志华紧追不舍。
“在这个特定的工业容错任务里,绝对不能。”江临寸步不让。
“为什么?”
“因为应对轴承磨损和应对过滤器堵塞,在现实世界中对应着完全不同的维修动作和灾难代价。轴承磨损,设备可以降速继续运行到本班次结束。但过滤器堵塞如果不立刻停机清理,三十分钟内主轴就会因为热膨胀而彻底卡死抱轴,整台机器直接报废。”
“江临,这算不算是事后诸葛亮。”周志华毫不客气地指出了江临逻辑上的薄弱点,“因为你现在已经知道答案是过滤器堵塞了,所以你才觉得校准记录重要。可是你想想,今天是校准记录导致了误判,明天呢?明天可能是一个操作员换班时手抖了一下,后天可能是隔壁车间突然开动了一台大型冲床导致地基震动。在三十二维甚至三万维的输入空间里,任何一个不起眼的字段,都可能在某个极端的边缘条件下,成为改变最终结论的致命因素。”
“对,您说得完全正确。”江临点头。
“那按照你的逻辑,为了防止这种极端情况,我们就必须把所有这些看似无用的信息全部保留下来。”
“是。”
“如果全部保留,那整个降维模型就失去了意义,你的系统里根本就不存在所谓的压缩了。”周志华皱着眉头说道。
“所以,这就是悖论。”
“所以你今天带来的这个问题,从第一步的逻辑起点上就不成立。”
周志华的眉头彻底拧成了一个川字。
“你想寻找一种方法,保留下所有可能推翻现有结论的关键信息。可是,机器学习面对的是一个敞开的、无限复杂的真实世界输入。只要物理进程还没有结束,哪怕是上帝,也不知道下一个足以推翻一切的反例,究竟藏在哪一个不起眼的维度字段里。”
江临的目光停在那项维护事件字段上。
会议室里的其他人也都屏住了呼吸,没有人敢在这个时候插嘴。
周志华没有停下,继续用手术刀般的逻辑往下剖析。
“你看,你之所以陷入这个困境,是因为你把形式化证明里那一套证明义务必须完整无缺的逻辑,强行套用到了这里。”
“对,我是这么想的。”
“可是机器学习的世界里,根本就不存在所谓的完整证明义务。它生来就是建立在有限的抽样样本、统计学的概率分布,以及对现实世界不可避免的近似误差之上的。它是一门关于妥协的艺术。”
“是妥协。”
“如果你非要在这个充满妥协的体系里,去寻找一个永远绝对不会丢失任何反例的完美压缩方法,那你忙碌到最后,得到的只会是那一堆庞大臃肿,毫无处理价值的原始数据,你的研究会变成原地踏步。”
“对。”江临依然只是简短地回应。
“既然你什么都清楚,那这个方向,你觉得还有必要继续往下做吗?”周志华盯着江临的眼睛,等待着他的答案。
江临看着幕布上那三十二个字段名。
在这场会议开始之前,在从废土返回现实的无数个日夜里,他其实已经准备过好几种看似可行的学术路线。
比如利用香农的信息论,去计算每个字段与输出结果之间的互信息。
比如利用微积分里的偏导数,去评估每个特征在网络中的敏感度。
比如引入朱迪亚·珀尔的因果依赖图模型。
或者干脆简单粗暴地统计历史数据库中,历史反例出现的频率。
这些方法在数学上都非常成熟。
都能很轻易地把这三十二个字段,像排队一样排成一列。
从在数学上最重要的字段,一直排到最不重要的垃圾字段。
然后,工程师只需要在中间随便选一个可以接受的阈值划一条线。
线上面那些被认为重要的,留下。
线下面那些被认为无用的,毫不留情地删掉。
只要这么做了,几个月后,某篇顶会论文里就会出现一条漂亮平滑的帕累托最优曲线。
论文会自豪地宣称,我们的模型体积缩小了百分之八十。
而我们在测试集上的准确率,基本保持不变。
直到某一天,当灾难真正降临,某个当年被排在阈值下面,被认为毫无用处的边缘字段,在一次伤亡惨重的真实工业事故里,突然以暴烈的姿态站起来,用设备的残骸和鲜血告诉所有人,其实我非常有价值。
江临深吸一口气,将那些漂亮的学术曲线从脑海中驱逐出去。
问题的症结,根本就不在于那种重要性排序的算法做得够不够精妙。
而在于,面对一个容错率为零的系统,一开始就不该提出哪些信息重要、哪些不重要这种充满傲慢的蠢问题。
江临悠悠站起身,问道:“周教授,有笔吗?”
周志华深深地看了他一眼,从桌角拿起一支蓝色的马克笔,递过去。
江临接过笔,大步走到白板前,在白板的正中央,写下两行字。
【样本A:物理状态为轴承磨损】
【样本b:物理状态为过滤器堵塞+传感器校准偏移】
然后,他在两行字的中间,画了一条粗壮的箭头,指向右侧。
在箭头的上方,是【压缩】这两个字。
在箭头的右侧末端,他画了一个方框,里面写着——【同一个八维低秩表示】。
“周老师,压缩算法本身不可避免地会删除信息,这是一种物理规律,不是问题。”江临转过身,看着长桌旁的众人说。
周志华看着白板,若有所思。
“真正致命的问题在于,这种基于统计学特征的盲目压缩,它把两个在现实世界中必须采取截然不同应对动作的高危状态,如同揉面团一样,粗暴地压成了同一个无法分辨的状态。”
江临转回身,在白板的最右侧,对应着样本A和样本b,分别写下。
【维修动作A:降速运行,计划内更换轴承】
【维修动作b:紧急停机,清理过滤器+重新标定传感器】
两种截然不同的物理状态。
在现实中对应着两种生与死、毁灭与保全的严重后果。
但在经历过那条被认为是进步的压缩箭头之后,那个自作聪明的AI模型,在它那可怜的八维视野里,已经完全看不出这两者之间有任何区别了。
“整个学术界过去这十几年,一直在拼命计算,计算一次压缩过程在数学上究竟留下了多少香农信息熵。”
江临的声音在会议室里回荡。
“但我们从来没有静下心来算过一笔更重要的账——这一次压缩,在现实任务的执行层面,究竟制造了多少次荒谬的错误等价。”
盯着白板的