第4章 你来自哪？ (第2/3页)

出了这个项目的不足，伊戈尔顿时抱着我倒是要看看你在说什么的想法。

    他点进了Light_Chen的主页，账号是新注册的，头像用的是推特注册自带的头像。

    关注者是零。

    这两天才开始更新内容。

    没有机构背书，也没有过往履历，至于论文和Github star更是天方夜谭。

    也许是某个人的马甲，也可能是初生牛犊。

    伊戈尔·巴布什金抱着这样的想法挨个看了下来，发现有点东西。

    对方的回复有点东西啊。

    伊戈尔·巴布什金再回过头去看，Light_Chen在他推特下的回复，他皱了皱眉，思索片刻后敲了一段回复在底下：

    “详细说说你会基于什么进行聚类？抽象语法树距离和执行轨迹已经涵盖了部分信息。你的观点听起来不错，但你该如何将其付诸实践呢？”

    陈曦的回复总结起来就一个意思，你们输出的方案看似多，实际上都是一个方案，不过换了个表现形式罢了。

    交好谷歌的媒体把AlphaCode吹成能生成真正理解题意、展开多种算法路线、再从中择优的编程选手。

    内部人士很清楚，它的智能很大一部分来自采样规模和过滤机制。

    纽约大学计算机系的戴维斯教授就批评过，这玩意本质上还是猴子打字机。

    打的字够多，总能敲出莎士比亚。

    过滤和选择缺乏真正的结构探索。

    对谷歌不满的媒体，就会引用戴维斯教授的批评。

    陈曦则在此基础上更进了一步，把这玩意真正的弱点给点了出来。

    这建立在AlphaCode从未真正对外开放过。

    DeepMind开源了训练和评估模型，发布了演示网站，外界能查看AlphaCode在具体编程问题上的生成解决方案、解释和可视化，却不能像使用 ChatGPT那样输入一个新问题，让系统实时生成代码。

    不到两分钟，回复出现了。

    “AST距离捕捉的是程序如何被写出来。

    执行轨迹捕捉的是程序在采样输入上的行为。

    我说的是稍微不同的东西：推断是哪一类反例生成器杀死了哪些候选程序。

    如果两个程序需要同一种对抗性输入才会失败，那么即便它们的语法和普通执行轨迹不同，它们也属于同一个潜在解法家族。”

    伊戈尔端着咖啡回到桌前，想了想，又问：

    “这需要知道反例分布。在编程竞赛里，隐藏测试是不可见的。你怎么避免只是发明出一套带有自己偏差的基准测试？”

    这次Light_Chen没有马上回复。

    过了大约五分钟，他发来一段更长的回答。

    “我们只需要用一组根据题目描述和候选程序行为生成的探针。

    对每个候选程序，提取它隐含的假设，然后生成小规模的对抗性探针族，专门攻击这些假设。

    在最终过滤之前，估计候选解的多样性是否真实存在。如果80%的候选程序都死在同一类探针族上，那么就可以顺利掩盖一个已经坍缩的策略空间。”

    

    （本章未完，请点击下一页继续阅读）

『加入书签，方便阅读』