动作代价矩阵,也没有送去给南京大学的团队进行严格的数学复核。

    它目前,仅仅只能算是一份带有原始粗糙感的现实候选案例。

    但是。

    不到二十四小时前,这套理论还停留在大学会议室的白板上。

    现在,它已经开始改变一台现实机器的控制状态表。

    下午五点三十三分。

    收到第一轮评议回复后,周志华同意将四组匿名数据扩大到一个封闭的同行讨论群中。

    转发内容不包含定理全文、隐藏样本、项目名称和作者信息,只保留了一句问题,以及四行对比鲜明的数字。

    【为什么公开成绩更高的模型,在隐藏任务中反而更差?】

    【96.7%】。

    【96.3%】。

    【68.75%】。

    【97.92%】。

    很快,群里就有人冒泡,发出疑问。

    【发这几个没头没脑的数字干嘛?上面两行和下面两行,分别代表什么测试集?】

    负责转发的学者很快在群里给出了简短的回复。

    【上面的两行,是两个压缩模型在大家都认可的普通公开测试集上的准确率。】

    【下面的两行,是同样这两个模型,在包含高风险状态对和低代价对照组的隐藏任务中,能否保留压缩前的任务区分能力。】

    群里沉默了一会儿。

    另一位专攻大模型架构的研究员显然仍然没转过弯来。

    【这不对啊,按常理来说,上面的平均准确率不是模型A更高吗?为什么一进入这组包含高风险状态对的隐藏任务,那个成绩最好的A,反而只有68.75%,而那个平庸的c,却达到97.92%?这数据造假了吧?】

    面对这种只看表面跑分的质问,负责转发的学者没有去列公式,而是在群里打了一个通俗的比方。

    【这就好比,假设现在有一张关乎生死的考卷,上面一共有一千道题。】

    【这其中,有九百九十道都是不痛不痒的普通选择题。比如猫狗分类。】

    【但是,里面藏着十道致命的红线题。这十道题,决定了当工厂的设备快要爆炸时,机器到底是该继续全速运行,还是立刻切断所有电源。】

    【模型A这个聪明的家伙,它把所有的精力都用在了那些普通的猫狗题上,它在那些题目里,比别人多答对了四道。所以,最后算平均总分的时候,它高居榜首,成了状元。】

    【可是在那十道不能答错的红线题里,它却答错了三道。】

    【灾难就在这里:我们整个行业过去这几年所使用的那套该死的、只看平均准确率的评分表。它只在乎你最后的总分是不是99分,它从来不会单独去问一句:你丢掉的那1分里,是不是包含了那道足以引发核爆的红线题!】

    这段比方发出以后,群里的讨论很快多了起来。

    几名研究者随即把它改写成了不同领域的版本。随后,这组匿名数据开始在几个专业讨论群之间流转。

    【这就像是一个驾照考试门门都是满分99分的优秀学员。但他唯一答错的那一道题是,在十字路口遇到红灯时,可以一脚油门踩到底。你敢坐他开的车吗?】

    【这简直就是一个把所有消防理论知识都倒背如流,几乎拿了满分的天才保安。但他偏偏在火灾真正发生的时候,毫不犹豫地选择了乘坐电梯下楼逃生。】

    【如果这是在医院,就相当于一个能诊断对九百九十九个低风险病例的AI,却把唯一那个不能延误的高风险患者当成了普通病例。】

    这些比喻并不严谨。

    它们省略了任务空间、局部覆盖证书和分布漂移等必要前提,也把一次仍在内部复核中的结果,压缩成了普通人能够迅速理解的几道红线题。

    但这组匿名数字并没有进入校园论坛,也没有出现在任何公开新闻平台。

    它仍然只在少数专业讨论群里流转。

    看到它的人知道,有两个压缩模型在公开测试和高风险隐藏任务中给出了完全相反的排序。

    他们还不知道这套框架由谁提出,也不知道那条刚刚完成内部主链的定理,诞生在昨天南京大学的一间会议室里。

    至于江临身边的同学,此刻甚至还不知道,他昨天去南京究竟讨论了什么。

    晚上十点零七分。

    南京大学,人工智能学院。

    周志华教授那间仍然亮着灯的办公室里。

    中午十二点发出的那第一批十二封的定向评议邮件,目前已经陆陆续续收到了九封长篇大论的回复。

    这些处于学术界金字塔尖的大脑,展现出了极高的专业素养和质疑精神。

    其中,有三封邮件,直指定理中对于连续非凸函数的边界推导不够严密,要求补充长达十几页的数学放缩证明。

    有两封邮件,洋洋洒洒地直接用对抗生成方法,在邮件里手动构造出了两个在极端几何结构下会让见证覆盖证书完全失效的病态反例。

    有一封邮件,没有任何废话,直接附上了一个公钥,申请获取冻结后的黑盒模型接口,要求带领团队在欧洲的实验室进行为期一周的彻底独立复现。

    还有两封邮件,是两位手握国家级大项目的院士发来的,他们迫不及待地希望能提供自己手头刚刚训练出来的,即将用于高危场景的庞大模型,放进这个新的审查框架里去过一遍火。

    在这堆充满了火药味和学术探究欲的回复中。

    最后一封,来自于一家国内正准备在某大型化工园区进行边缘计算节点大规模部署的工业智能团队。

    这封邮件的正文只有两句话。

    【周教授:感谢来信,我们已经暂停了两个待上线模型的部署流程。】

    【原因不是它们已被证明不安全,而是现有材料尚不足以证明,压缩后的模型仍然能够完成原定的园区安全任务。】

    周志华看着这封邮件,长长地呼出一口气。

    他移动鼠标,将这封邮件拖入了一个名为【Epc_现实工业反馈】的存档目录。

    这个刚刚建立几个小时的目录里,已经有了四份记录。

    【合作医院肺部医学筛查:临床试运行暂缓】

    【军用小型无人机避障:深度压缩模型被拒绝装机】

    【低熵工坊多地形机器人:高风险状态完成拆分,进入动作一致性复核】

    【某大型化工边缘计算节点:两个待上线模型暂停部署】

    四个项目没有使用同一套传感器,也没有共享同一套动作定义和代价矩阵。

    唯一相同的是,它们原本都准备继续向前。

    现在,它们都停了下来。

    不是因为一条尚未发表的定理已经替它们证明了危险。

    而是因为江临昨天提出的问题,让它们原有的部署证据突然变得不再充分。

    周志华截下这四行目录,通过共享记录发给江临。

    【一条还没有发表的定理,已经让四个准备向前走的系统停下来,重新证明自己。】

    北京大兴的临时测试场里,pG-p01仍然停在松软垫层边缘。

    江临看完这条消息,又看了一眼机器人脚下那六个深浅不一的凹痕。

    他回复。

    【这才是它应该做的事。】

    过去的压缩理论一直在争论,怎样把模型做得更小更快。

    从今天开始,至少在最先看见这四组数字的人手里,动刀以前多了一道问题。

    压缩之后。

    它完成的,究竟还是不是原来那项任务?

章节目录