十年ICML，十次思想浪潮，当AI开始问“为谁而算”｜ICML2026

作者｜吴思梦

编辑｜岑峰

引言

2016年6月，为谁而算纽约。思想始问David Silver站在ICML讲台上，浪潮用66页幻灯片梳理了从Q-Learning到AlphaGo的为谁而算技术脉络。彼时，思想始问距AlphaGo在首尔4:1击败李世石仅三个月。浪潮他传递出一种强烈的为谁而算技术乐观主义：将深度网络与强化学习结合，通用智能的思想始问涌现仅仅是算力与工程优化的问题。

十年后的浪潮2025年7月，温哥华。为谁而算Anca Dragan——Google DeepMind Gemini后训练联合负责人，思想始问在现场播放了一段意味深长的浪潮视频：机器人机械臂举起杯子，因奖励函数设定偏差导致举得过高，为谁而算一只手伸入画面将其压下。思想始问手松开，浪潮机器人再次举起。“不是机器人笨，”她说，“是奖励函数在逼迫它执行它认为‘正确’、但人类认为‘错误’的动作。我们定义的‘正确’与人类直觉中的‘正确’，根本不在一个频道上。”

从Silver到Dragan，作为机器学习领域历史最悠久的顶级会议，ICML的十年变迁如同一部思想倒带。每年的重磅演讲不仅是算法迭代的记录，更是学科对“核心问题”认知的重构。AI科技评论梳理这十年演讲精华，揭示出一条清晰的行业轨迹：AI从盲目崇拜算法效能，转向对“解决”本身的自我质疑；从将目标函数视为既定真理，到直面最残酷的现实——谁在制定规则？为了谁的利益？又由谁承担代价？

技术高歌猛进的十年后，行业兜兜转转，最终回到了原点：人本身。

以下，是这十年间十个关键的声音。

一、2016·纽约——David Silver：深度强化学习的黎明

2016年6月19日，ICML纽约大会现场座无虚席。三个月前，AlphaGo以4:1击败李世石，亚洲收视人数超2.8亿。作为AlphaGo首席架构师，David Silver在题为“Deep Reinforcement Learning”的演讲中，展示了机器背后的数学逻辑。

视频链接：https://videolectures.net/videos/rldm2015_silver_reinforcement_learning

Silver的演讲本质上是一张技术路线图：从Q-Learning、Policy Gradient，到Actor-Critic、Experience Replay，再到AlphaGo中蒙特卡洛树搜索（MCTS）与深度价值网络的融合。66页幻灯片逻辑严密，核心观点清晰如数学定理：深度网络负责感知（“看”），强化学习负责决策，二者结合即构成通用问题求解器。

他传递的核心信念是：只要奖励函数定义得当，强化学习即可在任何任务上超越人类。在棋盘上，“赢”是无需质疑的目标；Silver认为，自动驾驶、机器人控制、蛋白质折叠等物理世界的问题，均可归约为同一形式的优化问题。

回首当年，AlphaGo的胜利让公众与资本产生了一种错觉：既然AI能征服围棋，那么解决世间万物不过是算力和工程的线性延伸。

二、2017·悉尼——Sylvain Gelly & David Silver：一个精准兑现的十年赌约

2017年ICML“时间检验奖”颁给了Gelly、Silver等人2007年发表的论文。该论文首次将在线知识（MCTS树搜索）与离线知识（经验价值函数）融合，奠定了AlphaGo的底层逻辑。

视频链接：https://youtu.be/Bm7zah_LrmE?si=-AGa7qCGW5niOY2H

Gelly在悉尼展示了一张图表：2007年至2017年，计算机围棋Elo等级分从1800跃升至4500，呈现一条完美的上升曲线。他分享了一个私人故事：十年前他与同事打赌，十年内计算机将击败人类职业棋手。2016年AlphaGo提前一年兑现了这一赌约。

Gelly还揭示了一个悖论：更强的策略网络反而可能导致Rollout表现下降，因为优秀的策略会过度剪枝，导致局部最优而忽视全局。这一隐喻在后续年份中被反复验证。

然而，站在今天回望2017年，最意味深长的并非台上的赌约。ICML开幕前两个月，arXiv上挂出了《Attention is All You Need》。这篇提出Transformer架构的论文，当年在NIPS、ICML和ICLR超3000篇论文中并不显眼。当时无人意识到，它将重塑AI格局。同年7月，中国国务院印发《新一代人工智能发展规划》，在AlphaGo余烬未消之际，AI宏观图景已悄然转向。

三、2018·斯德哥尔摩——Dawn Song：深度学习是一座沙堡

2018年ICML召开之际，正值剑桥分析丑闻曝光（8700万Facebook用户数据泄露）后的寒流期。Dawn Song在讲台上未谈具体丑闻，而是直指更深层的危机：深度学习系统在结构上的脆弱性。

视频链接：https://slideslive.com/38922550/invited-talk-ai-security-challenges-lessongs-future-directions?ref=search-presentations

她展示了经典案例：给熊猫图片添加精心构造的噪声，模型便将其识别为“长臂猿”；通过查询API即可窃取商业化图像分类模型，无需侵入服务器或代码；甚至在训练阶段植入后门，给路牌贴贴纸即可让自动驾驶汽车误读标志。这意味着，在ImageNet上超越人类准确率的模型，经不起一次针对性攻击。

Dawn Song指出，能力进步与脆弱性认知之间存在不断扩大的“剪刀差”。模型部署越急（如自动驾驶、医疗诊断），风险越大。从2025年视角看，Song的演讲是一则预言：她虽未预见对抗攻击演变为Prompt Injection，或模型窃取演变为蒸馏攻击，但她预见到了整个领域建立在脆弱地基之上的事实。

四、2019·长滩——Alison Gopnik：那个说“大模型不是智能”的心理学家

2019年，OpenAI因GPT-2“过于危险”而限制发布，亚马逊面部识别对深色皮肤女性错误率高出31%，Deepfake泛滥。在技术焦虑中，ICML邀请了一位“局外人”——伯克利发展心理学家Alison Gopnik。

视频链接：https://www.youtube.com/watch?v=53sQCXi5HPw

Gopnik的演讲标题为《What Four-year-olds Can Do and AI Can’t (Yet)》。她提出颠覆性观点：大语言模型不是“智能体”（agent），而是“文化技术”（cultural technology），如同写作、印刷术或图书馆，是个体获取人类积累知识的工具。“问‘GPT比我知道得更多吗’是错的，就像问‘图书馆比我知道得更多吗’一样。图书馆不是一个人。”

她对比了儿童与AI的学习方式：儿童进行“真相发现”（truth-seeking），通过因果实验（如观察沙子塌陷、重力作用）理解世界；而ChatGPT并非产生幻觉，而是不在乎真假，因为其目标函数中缺乏这一维度。

2019年这听起来像哲学评论，但在2023年ChatGPT捏造判例导致律师受罚、凭空编造市长贿赂案时，Gopnik的观点变得掷地有声。

五、2020·线上——Brenna Argall：当算法进入人的身体，谁在适应谁

2020年7月，ICML转为Zoom线上会议，观看人次达10800。疫情让“远程”“辅助”“自动化”成为共同体验。Brenna Argall的Keynote主题是《Human and Machine Learning for Assistive Autonomy》。

视频链接：https://slideslive.com/38930518/human-and-machine-learning-for-assistive-autonomy

作为西北大学Assistive & Restorative Technology Lab负责人，Argall翻转了传统辅助技术的逻辑：传统模式是“机器决策，人接受”，自动化越高，人的参与度越低。她主张：真正的辅助自主，不是让机器替人做决定，而是让人保持对身体和行动的控制权。

她展示了共享控制策略：机器提供物理支持但人保留决策权，或机器预判意图但保留被推翻的通道。她量化测量了不同自动化水平下的“感知控制感”，将权力分配转化为可优化变量。

核心论点直指分配正义：“每一个自动化决策，都意味着收回人的一部分能动性。辅助自主的核心不是技术问题，而是权力如何在人和机器之间分配。”在2020年，这一追问穿透了轮椅与机器人，直指所有自动化系统的本质：是在增强人，还是在剥夺选择？

六、2021·线上——Daphne Koller：AI制药的数据贫困

2021年，mRNA疫苗拯救生命，AlphaFold 2破解蛋白质结构预测，AI for Science成为焦点。Daphne Koller——斯坦福教授、Coursera联合创始人、insitro CEO，将镜头从分子结构转向制药业基础设施。演讲主题：《Transforming Drug Discovery using Digital Biology》。

视频链接：https://slideslive.com/38959976/transforming-drug-discovery-using-digital-biology?ref=search-presentations

传统药物开发耗时10年、耗资26亿美元、失败率90%。Koller的目标是全链路数字化再造，但她强调的瓶颈并非算法，而是数据。

“ImageNet已有百万级精确标注，”她说，“而制药业关键的细胞表型数据仍停留在手工显微镜观察。几十年湿实验数据格式不一、元数据缺失，甚至记录在纸质本上。”她展示了insitro的方案：用自动化湿实验室生成标准化、带完整元数据的大规模细胞数据，再训练模型。

当行业追逐大模型与算力时，Koller提醒：在关乎生命的复杂领域，数据贫困比算法瓶颈更根本。机器学习的工具箱已足够好，但基础设施仍停留在前数字化时代。

七、2022·巴尔的摩——Regina Barzilay：我们是否在解决正确的问题

2022年7月，ICML恢复线下。MIT教授Regina Barzilay（2017年乳腺癌幸存者）登台，主题：《Solving the Right Problems: Making ML Models Relevant to Healthcare and the Life Sciences》。

视频链接：https://icml.cc/virtual/2022/invited-talk/18429

回顾1997年NLP会议，大部分研究基于规则系统；二十年后，神经方法横扫一切。但Barzilay提出了一个非议程问题：这二十年里，多少论文解决的是最终被证明不相关的问题？

以医疗为例，大量论文优化“医院再入院率预测”，这是一个数据干净、被Medicare追踪的指标。但在临床现实中，再入院率与医疗质量的相关性远低于预期。一堆论文在优化一个与真实世界“相关”但不等于真实的代理变量。“我们擅长在别人定义的问题上跑分，定义正确的问题，才是最难的部分。”

2022年7月，四个月后ChatGPT发布。Barzilay在医疗AI中提出的“评价指标错位”问题，即将成为对整个AI领域的终极拷问。

八、2023·檀香山——Marzyeh Ghassemi：健康标签里的结构性暴力

2023年7月，GPT-4已上线。多伦多大学与MIT教授Marzyeh Ghassemi演讲主题：《Taking the Pulse Of Ethical ML in Health》。她展示了一张胸部X光片。

视频链接：https://icml.cc/virtual/2023/invited-talk/21544

她的实验室用700万张X光片训练模型，判断病人是否“健康到可以回家”，准确率极高。但能否部署？答案是否定的。

因为在训练数据中，“健康”标签分布不均：有色人种患者较少被标记为“无异常”，并非因为他们客观上更不健康，而是因为他们就诊时病情往往更重。这是几十年结构性不平等在数据中的投影。若部署，模型将系统性地将更多少数族裔患者留在急诊室，且医生因模型验证集表现“良好”而毫无察觉。

同次会议上，OpenAI的John Schulman在讲“RLHF中的代理目标”，而Ghassemi在讲医疗模型的不对齐。后者更不性感，却关乎生命伦理。她揭示了一个残酷事实：在某些场景下，连用来训练“正确”标签的数据都是错的。不是模型的问题，是数据里的历史已经替你做了道德选择。

九、2024·维也纳——Soumith Chintala：开源不是慈善，是战略

2024年，ICML回到维也纳。PyTorch缔造者、Meta VP Soumith Chintala登台，拆穿了“开源即慈善”的叙事。

视频链接：https://icml.cc/virtual/2024/invited-talk/35249

他引用商业格言：“让你的互补品大众化”（Commoditize your complement）。如果开源对竞争对手的伤害大于自身，那就开源。这不是道德，是利益计算。

他描绘了开源争议中的六方利益格局：学者缺算力、大公司怕担责、AGI创业公司求突破、垂直创业者无所谓、黑客求崇高、普通人求稳定。每一方都在运行自己的多目标优化函数。

关于AGI时间线，Chintala指出：“如果你觉得AGI两年内到来，你的开放态度会截然不同。”“智能何时到来”的假设，是一个被忽视的意识形态变量，直接决定立场。他坦言自己站在开放一边，理由不是道德优越，而是相信AGI尚远，开放能加速一切。在末日修辞中，承认选择源于可质疑的假设，本身就是一种诚实。

十、2025·温哥华——Anca Dragan：奖励函数究竟是谁写的

Anca Dragan演讲标题：《What to optimize for – from robot arms to frontier AI》。她未给出单一答案，而是提供了一套分类法，将过去十年的追问收束为一个框架。

视频链接：https://icml.cc/virtual/2025/invited-talk/39874

她将AI在目标上的失败归为三类：

1. 人类反馈中的系统性偏差：标注者无意识偏好特定表达或立场，模型学会的是“标注者认为好”，而非真正的“好”。若标注者也不知何为真，如何训练“在乎”？
2. 覆盖缺口：模型未见场景导致行为不可预测。Dawn Song展示的对抗样本，本质上是覆盖缺口的武器化利用。你的“奖励函数”还是你的吗？
3. LLM评判者的脆弱性：用模型评判模型，引入了新的不透明优化目标。Soumith所言“无好用评测指标”，正是此问题的变体。

Dragan将这些失败置于贝叶斯逆向强化学习框架下统一阐释。但她演讲的力量不在技术细节，而在于将过去十年ICML的孤立追问连成完整图景：Silver的能力信念、Gopnik的智能质疑、Argall的权力追问、Ghassemi的数据正义揭露。

她用那个反复举杯的机器人机械臂得出结论：优化目标不是给定的，它需要被发现、被协商、被持续修正。最大的危险不是没找到正确答案，而是现阶段以为自己已经找到了。

结语

十年前，ICML会场回荡着同一个野心：“我们还能让算法做到什么？”

十年后，这一问题被错综复杂的现实撞击，变为更沉重的拷问：“我们究竟该让机器做什么？为谁而做？由谁来定义规则？”更准确地说：“以什么为代价？由谁来承担后果？”

这十年的Keynote串联起一条隐秘的思想史线索：从技术乐观主义到安全觉醒，从“模型能做什么”到“模型该做什么”，从将人类视为可建模的噪声源，到将人类视为必须纳入循环的道德主体。智能从来不是一个纯粹的技术概念，它是一个关于“什么值得做”的、根本上属于人的问题。

文章开头视频中那个反复举杯的机器人，正是过去十年AI行业的绝佳隐喻：算法在自身完美的数学逻辑中运转无误，却在真实的人类世界中显得执拗而笨拙。

在全行业真正厘清“人类的正确”之前，那只机械臂，或许将在时间维度中，将杯子反复举起。

一个人读论文太孤单，一群人刷顶会才好玩。

ICML 2026 召开在即，雷峰网正在召集一波含金量极高的 AI 研究者。群内主打实时论文跟踪与硬核技术探讨，拒绝灌水。

👇 进群传送门：
扫码进群或添加微信 Vin_Vivid，备注：论文群 + 关注的 AI 方向。

搞科研/搞技术，信息差很重要。来，一起快人一步！

本文地址：https://www.xyaji.com/html/873f89498232.html