编辑 | LSLS
出品 | 本站
最近，前DeepMind和Inflection AI联合创始人、现任微软人工智能部门负责人的穆斯塔法·苏莱曼接受了彭博社（Bloomberg）的采访，谈论了微软“人文主义超级智能”的愿景，微软与OpenAI的新合作关系以及AI人才的激烈争夺战等话题。
穆斯塔法对“超级智能”的定义非常清晰：
能学习任何任务，并在所有任务上超越全体人类。
但他认为这类系统极度危险，且目前不可控、不可对齐。因此微软强调：在确保超级智能的行为可控之前，不会发布任何相关产品。
图片
穆斯塔法指出，超级智能的首个落地场景会是医疗领域，并透露目前微软已经取得进展：AI 能够诊断文献中记载的任何罕见疾病，在性能上显著超过人类医生，同时所需的检查和干预更少。
他公开承认AI 行业存在高度循环的资本关系（OpenAI、微软、NVIDIA），但他更在意的是：
“我们必须在接下来几年交付真正的智能。”
同时给出一个极强的数据点：向顶级 AI 提问的成本，两年下降了 90%。
穆斯塔法并不回避“岗位消失”问题：未来 20–30 年，大多数工作都会被机器超越，这个时间可能会来得更早，甚至直言很可能不存在“新的、更好的工作”来吸收所有人。
这将是一场如何重新组织社会的结构性问题，AI公司也需要采取行动：
我们必须确保：岗位被替代的速度，能够通过某种机制得到平衡，为人们提供资金支持，帮助他们度过这一巨大的转型期。
对于AI行业的人才大战和天价薪酬现象，穆斯塔法开了个玩笑：Meta董事长扎克伯格的做法更像是“单点猎人”，而不是建团队。他表示微软不会采用这种方式，引入一堆“昂贵的个体”。
小编节选整理了整期对话实录，有部分删减，enjoy！
曝Copilot试验新功能：智能体自动买礼物
Michelle:
Suleyman，非常感谢你接受采访。我想从你的日常工作出发，了解一些我们大多数人还不熟悉的 AI 用法。Suleyman:
很有趣，你这么问。昨晚我熬夜看了一部电影，之后我把它加到了我在 Copilot 里建立的表格中，这个表格记录了我喜欢的电影、想看的电影，按日期排序，描述电影内容，我还可以添加个人笔记和电影海报链接。我只需说“加入这部电影”，AI 就能帮我列出相似电影。这就像请一个助手帮你整理生活一样。我觉得越是创意性、越有挑战性的任务，越能体现 AI 或 Copilot 的价值。Michelle:
那你有没有让它执行一些自主任务，比如订票或买礼物？因为 Copilot 就有这个承诺。Suleyman:
我们还在试验阶段，它可以做到，但不总是完全正确，现在还不对公众开放。一旦它能成功执行，这种体验非常神奇。Michelle:
它出错过吗？比如给错误的对象买了礼物。Suleyman:
会的，但你可以介入。它会先征求你的许可再行动，所以总体上还是很安全的。科技总是有魔力，但总有待完善的地方。就像当年我梦想拥有 Discman（便携式CD播放器），结果因为没有防震功能，走路时经常跳针。技术依然神奇，但总有改进空间。
图片
Michelle:
你曾是 DeepMind 的创始人，也在 Google 工作，还创办过 AI 公司 Inflection，这让你在看到这些发展阶段时会有信心吗？
Suleyman:
我对这些事情很有耐心，我知道它会在未来 6 到 18 个月内成功。我认为我们现在选的任务虽然离我们不远，但真正具有变革性。现在 AI 已经能生成图像、视频，表现得超乎人类想象，非常神奇。Michelle:
明年圣诞节，我能用自主 AI 智能体购买礼物吗？Suleyman:
我很有信心，非常可能。
微软如何定义“超级智能”？
Michelle:
你最近在微软宣布了“超级智能”，这个概念公众关注度很高，你怎么看？
Suleyman：目前在行业语境中，“超级智能”指的是一种 AI 系统：它能够学习任何新的任务，并且在所有任务上都比全体人类加起来做得更好。这是一个极高的门槛。同时，它也伴随着巨大的风险。
目前我们并不清楚（事实上，是高度不确定的），我们要如何对这样一个系统进行“约束”，如何限制它的能力，以及如何实现“对齐”，让这样一个系统真正关心人类、希望人类成功与繁荣。对于一个在能力上远远超过我们的系统，我们根本不清楚该如何约束和对齐它。
因此，我更倾向于使用“人文主义超级智能（humanist super intelligence）”这一表述：它始终站在我们这一边，和我们是一个团队，与人类的利益保持一致。
在我们能够证明这种系统始终是安全的之前，我们不会继续开发任何可能失控、可能“跳出盒子”的系统。我认为这几乎是一条常识，听起来就像是一个事实判断，似乎人人都应该同意。但在当下的行业里，这其实仍然是一个相对新颖的立场。
图片
Michelle：所以，这是不是你们试图让微软与其他公司区分开来的方式？很多人都在研究超级智能，你们是否希望通过强调“人文主义视角”来塑造微软的独特性？
Suleyman：是的，这正是我们的立场。微软是一家有 50 年历史的公司，我们一向非常谨慎，也高度值得信任。标普 500 指数中大约 90% 的公司都在使用微软的邮箱、操作系统和日常生产力工具，如今通过 Copilot，这些工具已经处于世界领先水平。
我们之所以拥有这样的声誉，正是因为长期以来保持谨慎。我们会继续这样做，而明确提出“人文主义超级智能”的愿景，是这一整体战略的一部分。
Michelle：那这对你们的竞争对手意味着什么？其中一些你们合作密切，比如 OpenAI。是不是意味着他们是“狂野西部”，而你们站在道德高地？
Suleyman：我认为，每家公司都必须决定自己代表什么、如何运作。我不想评判他们现在的做法。目前我没有看到任何大规模、系统性的伤害，也没有看到这些系统正在自我改进或真正实现自主运行。
但我们普遍预计，在未来 5 年，或最多 10 年内，这些能力可能会开始出现：系统能够设定自己的目标、改进自己的代码，或者以更强的自主性行动。这些能力显然会显著提升风险水平。
因此，我们必须以更谨慎的态度应对：需要更高的透明度、更严格的审计、更多的政府参与，并且主动披露我们距离这些关键能力还有多远。我认为这是非常显然的事情。
在确保可控之前不会发布超级智能
Michelle：这是否意味着，在你确信超级智能可以被控制之前，你们不会发布相关产品？
Suleyman：是的，我认为确实如此。约束和对齐是绝对的前置条件，是不可逾越的红线。我认为整个行业都必须认同这一点。
没有人希望造成大规模伤害。尽管我们彼此有分歧，但从根本上说，所有人都希望人类这个物种能够生存、繁荣，并拥有整体的福祉。
这正是我们现在努力推动的讨论：要求行业中的每一个参与者都问自己一个问题：你们构建的是“人文主义的超级智能”吗？它是否真正把人类和人类物种的利益放在第一位？
图片
Michelle：但问题是，在现实世界中，事情确实会出错，而且不只是 AI 会出错，人类本身也会犯错。最近微软就不得不停止并禁用一些服务，《卫报》的报道指出，这些服务可能被以色列国防部用于大规模监控。
Suleyman：那是一篇非常出色的调查报道，我们对此非常感激。一旦我们意识到问题，立刻采取了所有必要措施，将以色列国防军从相关服务器中移除。很明显，他们并不符合我们的服务条款。目前我们也在进行内部调查。
Michelle：但更广泛的问题在于，我们真的很难对这些系统的控制、制衡和使用方式保持充分信心。
Suleyman：确实如此。这些系统极其庞大且复杂，风险也很高。我们能做的最大努力，就是持续审计，并尽可能快速地移除任何违反服务条款的行为主体。
超级智能的首个落地场景：医疗
Michelle：那么，超级智能最早的应用会是在医疗领域吗？
Suleyman：我认为是的。这可能是超级智能最令人兴奋的应用方向之一。目前我们已经拥有这样的系统：它们能够诊断文献中记载的任何罕见疾病，在性能上显著超过人类医生，同时所需的检查和干预更少。
图片
这是一个关键点。现实中，在确诊之前，往往需要进行大量昂贵、耗时、甚至不必要的医疗检测，而在这个过程中，病情往往还会恶化。我们的系统可以用更少的检查、更低的成本，实现更高的准确率。
目前我们正在进行独立的同行评审，接下来也会进入临床试验阶段。这是一件非常、非常令人兴奋的事情。
机器人取代人工作不可避免
Michelle：“丰裕”是一个非常宏大的承诺。你具体指的是什么？人们更多听到的是 AI 会摧毁工作岗位。你是在说，未来工作将主要由 AI 完成，人类就不需要工作那么多了吗？
Suleyman：我认为，在未来 20 到 30 年内，机器在大多数工作上超过人类是不可避免的，而且可能会来得更早。
因此，作为一个社会，我们必须重新思考自己的目标，并且非常谨慎地控制新机器引入的节奏。因为我们必须确保：岗位被替代的速度，能够通过某种机制得到平衡，为人们提供资金支持，帮助他们度过这一巨大的转型期。
在这次转型之后，很可能并不存在“另一批更具竞争力的新工作”，至少在很多领域，机器都会做得更好。这将是一次关于“如何组织社会”的根本性变革。
图片
Michelle：你是否相信“全民基本收入”这一理念？也就是说，AI 带来的高生产率、对经济效率的巨大提升，最终可能解锁这样一种制度？
Suleyman：是的，我一直公开表示，我认为这既是不可避免的，也是非常值得期待的。
事实上，我们已经生活在一个“丰裕”的世界里，只是分配得非常不均。我们生产的热量已经远远超过人类的需要，但存在大量食物浪费，本质上是分配问题。同样的情况也存在于其他领域。
而且，如今价值的体现已经不再只是以“原子”的形式存在，比如食物、汽车等实体商品，它越来越多地体现在数字产品、思想、知识和智能之中。
这其实是个好消息，因为这些东西可以迅速扩散，可以在全球范围内高速传播。大型语言模型和聊天机器人，已经成为历史上传播速度最快的技术之一：三年时间里，年活跃用户规模接近 20 亿。
这非常了不起，因为它意味着：只要愿意使用，人们就可以通过自己已经拥有的手机和设备，获取知识和智能。
因此，我认为我们在“让技术触达所有人”这件事上，并不存在根本性障碍。激烈的市场竞争会不断压低使用 AI 的成本。真正的挑战在于：我们如何进行征税和再分配，确保这一转型过程是健康、有序的。
Sam：勇敢、Demis：杰出、Elon：推土机
Michelle：如果我说一个名字，你能不能用一个词来形容？第一个是Sam Altman。
Suleyman：我会说是：勇敢。他正在极其激进地扩建数据中心。如果成功，他很可能会成为我们这一代最伟大的企业家之一。他现在建设数据中心的速度，可能是整个行业里最快的。如果他真的能把这件事做成，影响将是巨大的。
Michelle：你提到了“如果”，我能理解。OpenAI 正在投入巨额资金，这是一场豪赌吗？
Suleyman：我认为 ChatGPT 是我们这一代最伟大的产品之一，这本身已经说明了很多。
但与此同时，他们在未来 5 到 10 年内，为数据中心建设签下了超过 1.5 万亿美元的承诺，而当前收入距离这个规模还有很长的路要走。不过他们拥有一支非常优秀的团队，我对他们最终完成这件事充满信心。
Michelle：那Demis Hassabis 呢？
Suleyman：我会说：伟大的科学家。他是一个杰出的思想者，也是非常全面的学者型人物，在多个阶段为这个领域做出了重大贡献，真正非同凡响。
Michelle：你们曾是长期合作者，如今是竞争对手。
Suleyman：是的。但我们最初是非常亲密的朋友。十年间几乎每天一起工作，我从他身上学到了很多，对他始终怀有巨大的尊敬。
Michelle：你们现在还会联系吗？
Suleyman：会的。事实上，我们昨晚还发了短信。我祝贺他在同一周里完成了两件大事：发布了“Nano Banana” 版本的 Gemini 3，以及AlphaFold 五周年。
图片
Michelle：你试用过 Gemini 3 吗？它现在引发了相当大的讨论。你觉得它比 ChatGPT 更好吗？
Suleyman：我觉得它们有点不太一样。Gemini 3 确实在一些更偏“细分领域”的能力上表现突出，这是 ChatGPT 目前不具备的；而且它非常快。但 ChatGPT 也非常强。所以我不会说 Gemini 3 整体上更好。
Michelle：那它比 Copilot 更好吗？
Suleyman：它能做一些 Copilot 目前做不到的事情；但 Copilot 也有它不具备的功能。比如说，Copilot 在视觉能力上非常出色，这是我最喜欢的功能之一。
你可以拿着手机，用 Copilot 直接“看世界”，它能准确理解你正在看什么，你可以就眼前的事物和它对话，得到反馈和建议。无论是买家具、买衣服，这种体验都非常自然。
我们真正努力去想象的是：在日常生活中，当你身边一直有一个高度智能的助手，它能随时与你讨论你所处的世界，在你卡住的时候帮你“解堵”，那会是一种什么样的体验。
Michelle：我再问最后一个人：Elon Musk。你会用一个词怎么形容他？
Suleyman：我想我会用“推土机（bulldozer）”。他的能力近乎超人，可以把现实按照自己的意志推着往前走。他有着极其惊人的成功记录，似乎总能把看起来不可能的事情变成现实。当然，他的价值观体系可能完全不同。
图片
Michelle：我采访过他。他最后叫我“NPC”。
Suleyman：那大概就是一种“推土机式”的表现吧。这听起来非常像 Elon。我其实有点喜欢他直言不讳的风格，他确实非常不加过滤。
AI需要更多的政府监管
Michelle：你之前也说过，你的政治立场和 Elon、Peter Thiel 那种自由意志主义并不一致，比如对民族国家没什么价值认同之类的。那你会把自己放在政治光谱的左侧吗？
Suleyman：我会说，现在的我更偏向中间派。我确实是从左翼立场起步的，但现在我可以自豪地说，我站在中左位置。
我认为政府在社会中扮演着非常重要的角色。在硅谷，说这话其实挺有争议的，但我认为监管是必要的，而且它让大多数技术变得更好。
人们往往忘了：汽车之所以能正常运转，是因为我们有驾驶培训、有排放标准、有红绿灯、有高速限速。当监管运作良好时，它就是这样一种东西，而我们需要更多这样的监管。
图片
Michelle：你会不会因此感到孤立？毕竟特朗普政府并不推崇监管，而整个行业似乎也挺乐见其成的。
Suleyman：我认为目前我们还没处在“灾难性伤害”的阶段。整体来看，行业在引入这些极其强大的聊天机器人时，做得相当不错，它们的“人格”被塑造成相对中立、基于证据的。
事情并非必然会这样发展，但它确实是这样发生了，我认为这要归功于行业领导者们做出了相当负责任的决策。
当然，这并不意味着未来不会出现问题，我对此保持高度警惕。但现在还不需要紧急式监管。比如欧洲一些监管提案，正在对《EU AI Act》进行回调和修订，我认为这是好事。
这正是监管发挥作用的方式，接受反馈，观察实际效果，然后调整。这应该被视为成功，而不是失败。
Michelle：你在《The Coming Wave》和《Foreign Affairs》的文章中，曾非常明确地主张建立三套治理机制，借鉴气候变化、金融稳定和军控体系。但现在听起来，你的态度似乎更平和了一些。这是因为你现在身处大型科技公司的核心吗？
Suleyman：不是的。我仍然主张那些治理机制。我们需要一个AI 版的金融稳定委员会；我们需要一个类似气候机制的流程，去审计我们正在取得的进展。
在拜登政府时期，我积极推动了白宫的 AI 原则倡议。当时我还在 Inflection，但我们推动整个行业作出自愿承诺，比如披露模型规模。这些披露我们已经在欧洲和英国 AI 安全研究所签署并执行。
我想强调的是：这些都是长期工程，治理体系的建立需要很长时间，所以必须现在就开始。但我们不需要恐慌式反应，也不需要过度、仓促的监管，那样只会制造另一类问题。
微软与OpenAI 的新关系
Michelle：你们现在进入了一个新的阶段。在与 OpenAI 修订协议后，微软终于可以独立推进 AI 和超级智能研究了。能否解释一下，未来你们与 OpenAI 既合作又竞争的关系将如何运作？
Suleyman：这个结构确实有点复杂。简单来说，直到几周前，微软在合同上是不允许独立追求 AGI 或超级智能的。2019 年的协议是：OpenAI 负责开发 AGI；微软负责基础设施、芯片和数据中心建设；作为回报，微软获得模型使用许可。
我们仍然拥有OpenAI 到 2032 年之前所有模型的使用授权。但 OpenAI 决定从 SoftBank、Oracle 等其他提供商采购更多算力，建设比微软原计划更多的数据中心。
作为交换，微软获得了独立开发 AI 的权利。这也是我 18 个月前加入微软的重要原因之一，我们现在正在组建超级智能团队，推进自研 AI。
Michelle：这个协议对你来说是一种解脱吗？
Suleyman：当然很重要。但即便之前，我们也能做很多事情。微软有2800 亿美元年收入，服务全球几乎所有重要机构。过去 18 个月里，我们依然是一个通用 AI 开发平台。
但现在，我们可以探索那些有潜力在所有任务上超越人类的技术和方法。这对我们来说，确实是一次战略转向。
AI人才竞争：扎克伯格在“单点猎人”，而不是建团队
Michelle：你们和 OpenAI 之间是否有“不挖人”协议？最近你们刚失去一位核心成员，他去了苹果。
Suleyman：是的，他去领导苹果的 AI 实验室了。但行业里人员流动非常频繁，我们也刚从 Google DeepMind、OpenAI 招了一批人。
不存在不挖人的协议，那在法律上也是不允许的。人可以自由选择去哪里工作。现在这个阶段，本来就是高度竞争的。
Michelle：那你们会匹配 Meta 那种 1 亿到 2 亿美元的薪酬包吗？
Suleyman：我不认为有人在系统性地匹配那种规模。Mark Zuckerberg 采取的是一种非常特殊的策略，更像是“单点猎人”，而不是建团队。
我并不认为这是正确的方法。无论是在 DeepMind，还是我现在在微软做的事情，我们的重点都是非常有选择性地组建团队：逐步引入合适的人，确保文化匹配，淘汰不合适的，注重细节。我们要打造的是一个团队，而不是一堆昂贵的个体。
Michelle：所以你们并不打算普遍匹配那种薪酬？
Suleyman：那更多是传闻。可能确实在极少数个案中发生过，但绝不是常态。
Michelle：你希望 Mark Zuckerberg 重新考虑他的策略吗？这会让你的工作更困难吗？
Suleyman：不会。他已经是“all in” 了，在建设一个2 吉瓦的数据中心，未来两三年可能投入数千亿美元。他甚至公开对特朗普表示，未来三年将在数据中心上投入6000 亿美元。
图片
但对微软来说，我们拥有33 吉瓦的算力容量。我们的核心业务本身就是建设并运营数据中心。我们既可以用于自研训练，也可以用于推理，向第三方出售算力。从这个意义上说，我们对这类风险是高度对冲的。
AI 的生产成本已经下降90%
Michelle：你能理解为什么人们会担心吗？不仅是这个行业投入的资金规模，还有很多交易呈现出的“循环性”。比如，你是 OpenAI 的投资人，而他们同时又在向你购买服务；几乎所有人似乎都与英伟达存在某种关系。美国经济中有相当大的一部分，正在依赖像你们这样的公司一切顺利地持续运转。
Suleyman：是的，我觉得这种担忧是合理的。客户和供应商之间相互投资，其实在历史上并不少见，这在早期往往能形成一种良性的刺激，帮助事情启动。但这确实是一个需要持续观察的问题。我自己也在非常密切地关注，我相信其他人也是如此。
关键在于把握好平衡。未来几年我们必须交付成果。现在几乎每一个团队都在建设规模极其庞大、性能极其强劲的计算系统，我们是在下一个巨大的赌注：能否把这些转化为真正的智能。如果我们成功了，世界将会发生非常、非常深刻的变化。我们将拥有随取随用的、极度充裕的智能资源。而我认为，人们仍然严重低估了这一点有多么震撼。
Michelle：但你刚才说的“世界”，实际上主要指的是两个国家，美国和中国。几乎所有顶级实验室都集中在这里。
Suleyman：是的，我认为这基本属实。而且在过去 18 个月里，一切变得更加集中在硅谷，这在一定程度上是自然的，我们在很多历史性的技术浪潮中都看到过类似现象。
但与此同时，开源生态发展得非常好，而且生产成本正在急剧下降。举个例子：向世界上最先进的 AI 模型提一个问题，其成本相比两年前已经下降了 90%。
图片
你几乎不会在任何其他领域看到这么陡峭的成本下降曲线。而当成本下降时，所有人都会获得访问权。所以我并不认为未来会存在“使用门槛”或“可达性”的问题。
穆斯塔法的目标：彻底实现“医学超级智能”
Michelle：回头看，你有没有什么事情是现在觉得“当初应该做得不一样”的？你现在才四十出头，已经取得了很多非凡的成就，但有没有什么仍未完成、或者你会反思的地方？
Suleyman：我真的非常想彻底实现“医学超级智能”。我在 2015 年创立了 DeepMind Health，我们发表了很多优秀的论文，也做了不少临床试验，但最终还差一步。
这一次，我认为这会成为最具魔力、最具变革性的应用场景。此外，我也希望在能源效率、电池储能、新型可再生材料的研发上投入更多精力。我坚信，AI 将会彻底改变能源产业。
参考链接：https://www.youtube.com/watch?v=MUEKVoeeRoA
