第一卷少年游 第八十五章试探 (第2/3页)

考生计算某个范围里系统会如何变化。

    标准做法当然存在，江遥也知道入口。她写了十几分钟以后，却发现题目后半部分真正难的不是计算，而是怎么描述“一群本来各走各的东西开始形成共同节奏”。如果逐个跟踪每只钟，变量太多，五十只钟就是五十个状态；可人看见一群人鼓掌逐渐合拍时，并不需要记住每个人手掌具体在哪个角度，只需要知道整体有多整齐。

    她在草稿纸上画了一个圆。

    把每只钟当前的节奏位置想成圆周上的一个点。所有人各走各的时，那些点散在一整圈，看不出共同方向；越来越同步时，点会逐渐聚到一块。于是“几十只钟到底有多同步”可以压成一个简单得多的量：这些点是散开的，还是抱成一团。

    这个变化把后半题突然照亮了。

    她没有发明一个新理论，类似的思想在更高层课程里当然早已存在；但江遥此刻并不知道正式名字。她只是从具体情形里自己找到了一种把五十个对象压成一个整体指标的表示。接下来不少原本杂乱的计算变得清楚，她甚至能直接看出为什么相互作用太弱时大家仍然各走各的，而一旦强到某个程度，共同节奏会越来越容易维持。

    做到最后一问时，她又遇到了以前最危险的地方。题目问如果所有钟的自然速度分布稍微改变，前面的结论是否仍成立。她本能地想写“结构基本不变”，因为刚才那种整体表示太好用了，可笔停下来以后，她先检查了几个极端情况。如果速度差异非常大，相互作用再强一点也未必能让所有人同步；如果分布有两个明显群体，还可能先形成两拨不同节奏。她最终没有写一个漂亮的“仍成立”，而是写出了成立需要的范围，并指出超出范围以后可能出现其他集体状态。

    考试结束以后，江遥比上午更累。不是因为题目数量多，而是她能明显感到自己脑子里同时存在两种要求：一边不断寻找更好的表示，一边又不断质问这个表示凭什么成立。以前前一种声音远大于后一种，现在两者终于开始像真正的对手。

    与此同时，原既白正在县城做第一次由程序主动生成的模型测试。

    叶老师前几天要求他们把“动态测试”说清楚，不能只写一句根据模型调整。原既白和宋弈讨论了整整两个晚上，最后把目标缩得非常具体：不再由人提前列一长串“可能出问题的变化”，而是让程序自己反复修改图片中人认为不重要的部分，看看什么时候模型会突然改答案。主体尽量不动，先换背景，再轻微改变压缩、亮度、边缘和局部纹理；如果某个方向特别容易让模型摇摆，就继续沿着那个方向试。

    宋弈听完设计以后说：“不就是让机器专门找机器麻烦？”

    原既白想了想：“差不多。”

    这句话比他们报告里任何专业描述都准确。以前的测试像老师自己出十道题，看看学生会不会；现在他们想做的是一个会观察学生薄弱处、然后不断换方式追问的考官。第一次跑起来以后效果却很差，程序很快学会了一种最没价值的办法：把图片改得越来越难看，最后连人都快认不出主体，模型当然会犯错。宋弈看着屏幕上一只被扭曲得像坏掉塑料袋的豆子，笑得趴在桌上：“恭喜，证明了把东西毁掉以后模型认不出来。”

    原既白自己也笑了。

    问题却很真实。如果只告诉程序“找一个能让模型出错的变化”，它会选择最容易的路，根本不在乎这个变化对人来说有没有意义。这和他们此前机器学习任务里的问题几乎一模一样：目标写成什么，系统就会努力去赢什么，而不是自动理解设计者心里真正想要什么。

    他们不得不加入第二条约束：变化以后，人仍然应该认为这是同一个对象。可“人仍然认为一样”又没法直接写成一句程序。宋弈建议用图像相似度，原既白试了以后发现仍然会漏掉很多情况；两张像素差别很大的图片，人可能一眼认为是同一颗豆子，只是背景不同，而两张像素很接近的图片，也可能恰好把一个关键结构改掉。

    两个人折腾到晚上十点半，没有解决。

    第二天叶老师的视频会议里听完，没有帮他们设计指标，只问：“你们现在发现什么？”

    宋弈抢着说：“发现‘别把图改坏’比写起来难多了。”

    叶老师笑了一下：“这就够你们再做一个星期。”

    原既白却一直在想另一个问题。如果一个测试系统必须知道“什么变化对于任务来说不重要”，才能判断模型是不是学错了，那么所谓测试从一开始就不只是技术问题。你必须先回答：这个任务真正应该依据什么作判断。对豆子来说，也许形状和纹理重要，背景不重要；可换成医学影像、招聘简历或者自动驾驶，什么应该重要、什么不应该重要，就不再那么容易由一个程序员独自决定。

    这个念头刚冒出来，他便觉得范围太大，没有继续写进报告，只在自己的纸上记了一句：“谁决定什么算同一个问题？”

    下午他还得做英语套卷。

    这种切换近来已经成为高三生活的常态。上午可以因为一个机器学习问题想得很远，下午照样会因为阅读理解少写一个条件扣两分。年级第二次冬季模拟考里，原既白总分比上次上升了一些，数学仍然稳定，语文也因为强迫自己把“脑子里已经懂了”的东西完整写出来而有所改善。他没有回到年级第一，而是在前三名之间浮动。秦老师对此几乎没有评价，只看了他的作文一眼，说逻辑很清楚，人物却写得像实验对象。

    “什么意思？”原既白问。

    “你写这个父亲为什么做决定，把条件列了四条，每条都对。”秦老师把卷子翻回来，“可是人做决定的时候，很少先在脑子里列完四条再行动。他可能先发火，后来才知道自己在怕什么。”

    原既白看着自己的作文，觉得这个批评比扣掉的那几分更麻烦。

    秦老师继续说：“你以后做什么我不知道，但别把‘解释得通’当成‘人就是这样发生的’。这是两回事。”

    这句话跟机器学习没有任何直接关系，原既白却在晚自习走神时又想了一遍。他一直习惯从更高处找到

    （本章未完，请点击下一页继续阅读）

『加入书签，方便阅读』