Fable5回归：决定智能体代码成败的要害是你，不是AI
内容来源：条记侠 ( Notesman ) 。责编 ? | ? 柒 ?排版? | 沐言第 9715篇深度好文 ：5029 ?| 17 分钟阅读思维方法条记君说：AI 让智能和执行力变廉价之后，人还剩什么？最近，纳瓦尔（AngelList 首创人，硅谷著名天使投资人）和三位首创人做了一场圆桌对谈：Vercel（前端云平台公司）首创人吉列尔莫 · 劳赫、Boom Supersonic（超音速客机制造公司）首创人布莱克 · 斯科尔、Science 公司（生物科技公司）首创人马克斯 · 霍达克（前 Neuralink 总裁）。对谈中泛起了一个让所有人意外的细节。一家造超音速客机的公司里，卖力收发货的前台接待员，用 AI 写出了一套自动化流程，公司现在正在使用。这个细节背后是一个更大的命题：当编程的门槛归零，人类的焦点角色正在从执行者酿成验证者。未来最稀缺的，不再是知识和技术，而是创立力、判断力，以及把一个想法酿成现实的自主性。希望今天的内容分享，对你会有所启发。一、" 软件工厂 "，正在取代 " 写代码 "已往，许多人的事情就是打卡上班，直接交付产出，公司内部权衡的指标是员工的产出能力有多强。而吉列尔莫 · 劳赫给其内部员工提出一个新标准：" 我评价你作为一个工程师的标准酿成了：你是否建立了一个能够成倍产出 B 到 Z 的工厂？"这意味着工程师的角色正在从执行者酿成治理者。已往权衡的是你亲手做了几多，现在权衡的是你搭建的系统产出了几多。纳瓦尔认为，" 当你身处想法的领域，在智力和虚拟的数字领域中陶醉时，差别甚至不是 10 倍，而是 100 倍或 1000 倍，并且向来如此。"他举例：中本聪（比特币发明者）、我的世界首创人马库斯 · 佩尔松、发明 JavaScript 的布伦丹 · 艾克、约翰 · 卡马克（3D 游戏引擎之父）。这些都是 1000 倍的程序员。如果选对了研究偏向和选错偏向相比，差别甚至是无穷大。这纷歧定是因为他们是更好的程序员，而可能仅仅是因为他们在 " 决定做什么 " 上拥有更好的判断力。1000 倍工程师不是神话，判断力才是那个乘数。二、气氛编程：二十年没碰代码的人，现在整天在编程布莱克 · 斯科尔在 Boom Supersonic（超音速客机制造公司）造超音速客机。他描述了硬件工程领域一个恒久保存的荒唐现象。" 大宗的硬件工程都爆发在一个个伶仃的工程师条记本电脑里的 Excel 表格中。很是庞大的表格，有时还带着 VBScript（Visual Basic 脚本语言）代码。没有版本控制，没有自动化测试。如果你想把某个工具从空气动力学专家移交给结构工程师，那是通过邮件手动发送表格来完成的。这简直是 20 世纪 90 年代。"现在，软件工程师卖力设计架构，因为他们理解系统和算法。硬件工程师可以 " 气氛编程 "（用自然语言指挥 AI 写代码而非手动编程）自己的部分，因为他们懂硬件工程。布莱克举了一个具体得不可再具体的例子。涡轮叶片在冷态和热态下体积差别，工程师必须同时满足空气动力学和结构设计在两种状态下的要求。已往，一个工程师要花一整天时间剖析一个叶片。而一个喷气发动机里约莫有上千个叶片。" 现在，通过软件和硬件人员配合创立的解决计划，你可以改变叶片的几何形状，并实时看到结构和空气动力学的结果。两个工程师就能设计出一整个喷气发动机。这天差地别。"马克斯 · 霍达克是 Science 公司（生物科技公司）的首创人，他在做生物混淆大脑接口。他说自己已经有相当长一段时间没写过一行代码了。" 自去年 12 月以来，我构建了大宗我自己每天都在使用的软件。所有这些我理想了多年的项目，现在我都用上了，因为我已经把它们真正造出来了。这里面没有一行是我自己写的。我完全无法想象再回到用手敲代码的时代。"马克斯提到了一个变革，已往学编程时，卡在某个 Bug 上调试半天被视为 " 游戏规则的一部分 "。" 现在有了 Agent（AI 智能体，能自主执行任务的 AI 程序），你基本上再也不会卡壳了。它们能相对迅速地找到正确的做事要领。"纳瓦尔自己二十年没写过代码，现在通过 Agent 整天都在编程。他说，只要理解软件工程和算法的基来源理，就能走很远。吉列尔莫用了一个词来界说这种新的事情方法：气氛编程。它的实质不是写代码，而是通报意志和意图，让 Agent 去执行。编程的门槛塌了，但门槛塌了之后站住的是判断力。三、" 浪费 Token，节省时间 "关于怎么用好 AI 模型，纳瓦尔有一个听起来很反直觉的建议。" 我假设模型的演进速度会比我搞懂如何使用它的速度还要快。它摸透我的速度会比我摸透它的速度更快。"纳瓦尔说他对模型一直很是粗暴。他没有学那些提示词（给 AI 模型的指令文本）技巧和脚手架工具，因为他假设模型的演进速度会凌驾他学习使用它的速度。他的做法是同时把同一个问题扔给 Codex（OpenAI 的代码生成工具）、Claude（Anthropic 的 AI 模型）和 Gemini（Google 的 AI 模型），纯粹为了节省时间而浪费 Token（AI 模型的盘算计费单位）。" 无论这些模型看起来何等腾贵，它们仍然比人类自制得多。所以我想说，尽管浪费 Token，去把时间省下来。不要把 Token 看作输入或输出。只需盯着你的时间，盯着最终的产出。"纵然模型写出了低质量的代码，纳瓦尔也不在意。他会砸更多的 Token 已往，让模型自己通读、检查、重写。它们每一代都会变得更好，他看不到这在什么地方会一定停滞。马克斯有一个视察：Claude 或 ChatGPT（OpenAI 的 AI 对话模型）基本上和你自己在某个领域的水平一样。如果你是一个很是优秀的开发者，这些工具就会极其强大。如果你是一个初级开发者，你会发明它也更像一个初级开发者。你偶尔给它们的反响似乎极为要害，这些小小的更新完全决定了你能从它们那里获得什么样的体现。纳瓦尔还抛出了一个关于模型选择的判断。他说他永远想要最智慧的模型。" 当你面前有两个模型，你知道其中一个比另一个智慧一点，而它们都给出了谜底，通常你实际上无法区分哪一个才是真正正确的谜底。所以如果我知道某一个模型更智慧一点，我就会接纳那个谜底，并最终会停止向那个我认为不那么智慧的模型提问。"他认为这最终会在 AI 领域造成垄断或寡头垄断的局面。但他永远想要最智慧的程序员、最正确的谜底、最好的判断力�？悸堑剿ü时尽⒋搿⑷嗽焙陀度肫渲械木薮蟾芨�，他希望每一次都能做出正确的决定。所有人都在学怎么用 AI，纳瓦尔说别学，让它来摸透你。四、" 人类正在酿成验证者 "当执行层面的事情被 Agent 接管，人类的角色正在爆发根天性转变。纳瓦尔用一句话概括了这个变革：" 人类正在酿成验证者（指卖力审核和背书 AI 产出结果的人）。"他说，这就是训练这些模型的方法。许多以前属于人员、律师、工程师、运营人员的职能，通过高质量的验证数据，转移到了验证整个技术栈上。吉列尔莫描述了 Vercel 已经在运行的自主化基础设施。当指标泛起异常，Agent 自动展开视察，决定是否创立事件（系统故障纪录），并开始实验修复。除了最终修改生产情况（面向真实用户运行的线上系统）的权限仍留给人类之外，Agent 险些做了一切。他还提到了一个叫 deepsec 的宁静研究工具，利用云端上万个并发 Agent 扫描整个代码库。" 它在几天内就发明了相当于好几个季度的宁静研究进展，仅仅消耗了一万四千美元的 Token 账单，这相当于数月整个团队的人力。"布莱克 · 斯科尔做了一个实验。他叫停了 Boom Supersonic 全公司所有项目一周的时间，过去台接待员到工程师，要求每个人用 AI 构建自己认为最重要的工具。" 我预料会看到大宗愚蠢的项目和少少数能破局的项目，结果泛起了大宗能破局的项目，而愚蠢的项目少少。其中有两三个是足以改变生长轨迹的；它们绝对会改变公司的前进偏向。"让布莱克最惊讶的是，卖力收发货的前台接待员构建了一套自动化流程。她以前的事情是从卡车上卸下包裹，在货物入库时给相关人员发邮件。她用 AI 把这套流程自动化了，公司现在正在使用。" 每个人脑子里其实都有一些关于什么工具能让世界变得更好的想法，但他们最初的想法通常是粗糙的，并且他们无法将其投射出去并直寓目到。但如果他们能从想法直接跨越到一个真正的实体，他们就能做出反应并进行迭代。给他们一周时间，到最后他们就构建出了一些完全合乎逻辑的工具。"吉列尔莫 · 劳赫把这个趋势推向了极致。他提出了一个问题：你如何组装起一个不直接入手做具体事情的劳动力步队，他们所做的一切只是训练为他们代庖的 Agent？他的判断是，一场文化厘革正在爆发：许多新进来的人直觉上就知道自己的事情不是去死磕那个工具，而是去逊Ю磕那个工具的 Agent。而如果你能训练一个 Agent 去死磕那个工具，你就不应花时间自己去死磕它。纳瓦尔增补道，人类大脑最擅长的是从 0 到 1 的创立：想出一个还不保存的工具，然后用 Agent 把它做出来。" 你每时每刻都身处你创立力和兴趣的最大化区域。你不需要每天都想出一个全新的工具，那是不可能的，但偶尔你想出一个新工具，就能创立出一个高能的杠杆点。"吉列尔莫还提出了一个关于工程文化的看法。现在最大的问题是大宗 AI 生成的代码像漫山遍野的垃圾一样涌来。他希望工程师能够对每一个拉取请求（PR，代码合并请求）说 " 我理解 "。" 这并纷歧定意味着你读过每一行。它意味着你可以说我理解这个 PR 带来的结果。我签字同意，代表我对结果卖力�；蛘�，我编写了测试、模拟、证明、类型检查器，我有信心签字包管它在生产情况中是宁静的。"他还提醒了一件事：创立软件很是容易，从 0 到 1。但试想 1000 天之后，你的软件长什么样？它宁静吗？经过测试了吗？抵达生产级了吗？性能达标吗？以及你是否另有动力投入所有的 Token 去在生产情况中维护它？以前你做工具，现在你签工具。五、当 AI 能做一切事情，人类另有什么是不可以被替代的？马克斯的立场最为极端。他说，如果你的身份认同完全建立在你自己有多智慧、多有创立力上，接下来的日子可能会很难过。但纳瓦尔站在了对立面。" 创立力是那种能让你感应意外的工具，你跳出系统之外，去做了一件在系统内部甚至连想象都不可得的事情。它保存于训练数据之外，保存于喂给系统的漫衍之外。那里永远会有属于人类的空间。"马克斯给出了自己对艺术的界说：有意义的漫衍外（凌驾模型训练数据笼罩规模）行为。某种令人惊讶的工具，它改变了穿越宇宙的未来轨迹。你的生活因为思考和反思了它而变得有所差别。他说，我们即将在各处看到阿尔法狗 " 第 37 手棋 " 一般的神迹，那一步棋人类棋手不会走，但事后看无比精妙。但纳瓦尔指出一个要害区别：那个 " 第 37 手棋 " 的灵感，来自一个人类想出了那个训练和提示词的偏向。他依然把劳绩归于那个人。吉列尔莫接了一个具体的视察：每个用 Claude 做的网站看起来都一模一样。衬线字体、棕色和米色、特定间距的等宽字体。一段时间后你获得了一个漫衍，然后你会说，这毫无创意，这是从模型里吐出来的千篇一律的工具。纳瓦尔说，艺术必须是突破漫衍的。一旦你在各处看多了海量的同一种作风，它就落入了漫衍之内，不再令人惊喜，其艺术价值也就烟消云散了。纳瓦尔的界说差别。他认为艺术是通报情感。" 艺术关于人类来说就是：某人感受到了某种工具，并渴望你也能感同身受。所以创立者的身份和主体性至关重要。"他举了一个例子：一张美丽的照片，如果是真人拍的，与 AI 生成了一张像素完全一样的照片相比，真人拍摄的那张拥有更深层的意义。因为背后有意图。如果没有意图，一幅一模一样的艺术品也将毫无意义。纳瓦尔把论证推到了哲学层面。他提到了库尔特 · 哥德尔（20 世纪最重要的数学逻辑学家）的不完备性定理（证明任何