OpenAI主席万字访谈:AGI的定义、AI重塑软件工程及未来十年展望


导语

近日,OpenAI董事会新任主席兼企业级AI对话应用领军者Sierra公司CEO布雷特·泰勒(Brett Taylor)做客知名播客“The Knowledge Project”,与主持人进行了一场长达两小时、信息量爆炸的深度对话。泰勒是硅谷一位经验丰富的连续创业者与科技领袖,他曾联合创立FriendFeed(后被Facebook收购)并担任Facebook CTO,联合创立Quip(后被Salesforce收购)并担任Salesforce的联席CEO。如今,他再次站在AI浪潮之巅。在这场访谈中,泰勒以其独特的经历和视角,细致阐述了AI如何颠覆软件工程的传统范式,给出了他对通用人工智能(AGI)的清晰定义与实现路径的思考,分享了在初创公司与科技巨头中游刃有余的宝贵经验,并对AI Agent的未来、AI时代的教育、AI安全伦理及科技公司的基业长青之道等关键议题,提出了极具启发性的见解。本文将力求详尽地为您呈现这场思想盛宴的精华,期望能为关注AI发展和科技未来的读者带来深度启发。

OpenAI主席万字访谈:AGI的定义、AI重塑软件工程及未来十年展望

一、顿悟时刻:AI浪潮袭来,从“鳄梨椅”到ChatGPT的认知刷新

每一位深刻投身变革浪潮的人,往往都经历过一些关键的“顿悟时刻”(Aha Moments),这些时刻重塑了他们的认知,并指明了未来的方向。布雷特·泰勒也不例外。

鳄梨椅的启示:AI的创造力惊鸿一瞥

泰勒坦言,他的第一个重要“顿悟时刻”源于OpenAI在2022年夏天发布的DALL-E模型所生成的一张“鳄梨形状的扶手椅”图像。 “尽管我的背景是计算机科学,技术功底也算深厚,但我当时并没有特别关注大型语言模型(LLM)……直到我看到那张图。”泰勒回忆道,“我的第一反应是,‘我完全不知道计算机能做到这个!’” 

OpenAI主席万字访谈:AGI的定义、AI重塑软件工程及未来十年展望

这个看似简单的图像,对他而言,震动是巨大的。它不仅仅是一个技术演示,更像是一扇窗,让他窥见了AI潜能的新维度。他意识到,AI不再仅仅是遵循预设规则执行任务的工具,而是开始展现出某种程度的“创造性”。“看到计算机从无到有地创造出东西,这在几年前看来还很新奇,在那一刻彻底震撼了我。”  这个“鳄梨椅”事件,让他警醒,意识到自己必须更密切地关注这个领域,特别是OpenAI的进展。

ChatGPT的冲击波:AI从未来走进现实

大约六个月后,恰逢泰勒离开Salesforce之际,ChatGPT横空出世。 “在它成为现象级产品之前,我就已经接入并开始使用了。从那时起,我便无法停止对它的思考。”  如果说“鳄梨椅”是让他对AI的潜力产生敬畏,那么ChatGPT则让他真切感受到了AI改变世界的强大势能。它以一种前所未有的方式,将先进的AI能力直接交到了数百万普通用户手中,迅速引发了全球范围内的关注和讨论。

这两个“顿悟时刻”,共同构成了泰勒AI认知转变的关键节点。他从一个对LLMs进展“未给予足够重视”的状态,迅速转变为全身心投入思考和探索AI未来的领军人物。

二、AI革命:软件工程的范式迁移与未来图景

作为一名资深的软件工程师和技术管理者,泰勒对AI给软件工程领域带来的颠覆性影响有着深刻的洞察。他认为,这不仅仅是效率的提升,更是一场彻底的范式迁移。

1. 工程师角色的嬗变:从“代码作者”到“AI系统的指挥家”

泰勒指出,目前许多工程师使用AI辅助编程工具(例如他自己公司Sierra的工程师广泛使用的Cursor )来加速代码编写,但这在他看来,仅仅是一个“局部最优解”(local maximum)。 未来的软件工程师,其核心价值将不再是亲手敲下每一行代码,而是转变为“代码生成机器的操作员”(operators of code generating machines)。 这意味着,工程师需要更侧重于理解业务需求,设计系统架构,定义清晰的指令和边界条件,然后指导和监督AI系统来完成具体的编码工作。

OpenAI主席万字访谈:AGI的定义、AI重塑软件工程及未来十年展望

我们正从代码的创作者,逐渐变成操作代码生成机器的人。”  这种角色的转变,对工程师的技能组合提出了新的要求,例如更强的抽象思维能力、系统设计能力以及与AI协作的能力。

2. 编程语言与开发系统的重塑:为AI与人类协作而生

泰勒对当前主流编程语言和开发工具在AI时代的适用性提出了反思。他以Python为例,指出其设计初衷是为了方便人类阅读和编写,追求的是“人类工效学”(ergonomic to write),但在鲁棒性(robustness)和静态类型检查等方面有所不足。他说道,“ 讽刺的是,我们现在用AI来生成那些为人类作者设计的编程语言写就的代码,然后再由人类工程师去审查(code review)这些AI生成的代码。” 

他认为,当代码生成的边际成本趋近于零时,我们应该从第一性原理出发,思考什么样的编程系统才是未来所需要的。 或许我们需要新的编程语言,它们的设计目标不再是单纯的“易于编写”,而是“易于验证其正确性与意图”。他提到了Rust语言,其设计核心是内存安全和正确性,而非编写便利性,这提供了一个值得借鉴的方向。 同时,形式化验证(Formal Verification)这类将计算机程序转化为数学证明以发现不一致性的技术,在AI大量生成代码的时代,其重要性将愈发凸显。 工程师可以利用这些工具,更高效地验证AI生成的代码是否符合预期。

此外,诸如测试驱动开发(Test-Driven Development, TDD)等过去因实践成本高昂而难以全面铺开的方法论,在AI能够“免费”生成测试用例的背景下,有望真正落地。 泰勒畅想,通过结合为AI优化的编程语言设计、强大的形式化验证工具以及由AI辅助生成的全面测试套件,软件开发的效率和最终产出的鲁棒性都将实现数量级的提升。

3. Sierra的实践:以第一性原理拥抱AI变革

泰勒不仅在理论层面思考AI对软件工程的影响,更在他创办的Sierra公司中积极实践这些理念。他强调,在AI技术日新月异的当下,基于“第一性原理”思考至关重要。

OpenAI主席万字访谈:AGI的定义、AI重塑软件工程及未来十年展望

  • 全新的商业模式
    Sierra的定价模型就是一个很好的例子。他们没有采用传统的按软件许可证收费的方式,而是向客户收取“结果费”——只有当Sierra帮助客户构建的AI Agent成功解决了最终用户的问题时,才会产生费用。 这种模式源于一个核心认知:在AI时代,软件不再仅仅是提升生产力的辅助工具,它本身就能直接完成任务。
  • 交付模式的革新
    Sierra致力于为客户提供“开箱即用”的、完整工作的AI Agent,而不是给客户一堆软件工具让他们自己去配置。 泰勒认为,在一个软件创建越来越容易的时代,软件公司的交付模式也应该随之进化,更贴近客户的最终价值实现。

他总结道:“我们试图重新构想未来的软件公司应该是什么样子,并努力在我们所做的每一件事中体现这一点。” 

三、求索AGI:定义、路径与关键要素

通用人工智能(AGI)无疑是当前AI领域最引人瞩目也最具争议的话题之一。泰勒在访谈中给出了他对AGI的理解,并分析了其实现路径上的关键要素与挑战。

OpenAI主席万字访谈:AGI的定义、AI重塑软件工程及未来十年展望

1. AGI的定义:人类计算机工作的AI等效者

当被问及如何向普通人解释AGI时,泰勒提出了一个相对清晰且务实的定义:“任何一个人类能够在计算机上完成的任务,一个AGI系统都能够以同等甚至更好的水平完成” 

他进一步阐释了这个定义背后的一些考量:

  • “通用性”(Generalization)是核心
    AGI中的“G”代表通用性,即系统不仅要在其被明确训练过的领域表现出色,更要能在全新的、未曾接触过的领域展现出智能,并能像人类一样学习和适应。
  • “在计算机上完成”的限定
    这个限定并非随意添加。泰勒解释说,它意味着只要任务存在一个数字化的接口,AI就有可能通过这个接口进行交互并执行任务。 这为AGI的实现划定了一个相对合理且可触及的边界。
  • 影响的差异性与非同步性
    即使AGI真的实现了,它对社会各个领域的影响也不会是同步和均质的。 他以制药行业为例,新药的发现速度可能因为临床试验周期、法规审批等非智能因素的制约,而无法仅仅通过AI的智能提升就实现指数级加速。 他引用了经济学家泰勒·科文(Tyler Cowen)的观点,指出不同经济部门“吸收”和转化智能的效率是存在差异的。

2. 通往AGI之路:数据、算力与算法的三驾马车

泰勒认为,驱动AGI发展的核心要素主要有三个数据(Data)、算力(Compute)和算法(Algorithms)

OpenAI主席万字访谈:AGI的定义、AI重塑软件工程及未来十年展望

  • 数据
    :高质量、大规模的数据是训练强大AI模型的基础。虽然当前面临着优质文本数据趋于枯竭的“数据墙”(data wall)问题 ,但泰勒也看到了新的机遇。例如,合成数据(Synthetic Data)的生成,以及在特定规则(如物理定律)约束下的模拟(Simulation),尤其在自动驾驶等领域,都可以为模型提供新的训练养料。 此外,他认为,随着模型推理能力的增强,AI自身生成具有新洞见的“数据”也并非不可能,这或许能帮助突破现有数据瓶颈。
  • 算力
    训练和运行先进的AI模型需要巨大的计算资源,这也是为什么英伟达(Nvidia)这样的公司市值飙升,数据中心建设如火如荼的原因。 泰勒提到,一些新的模型架构(如推理模型)正在改变算力的经济学,它们在推理阶段(inference time)投入更多计算,以期获得更好的智能表现,这在一定程度上缓解了训练阶段对算力的极致需求。
  • 算法
    算法的突破是推动AI浪潮的关键。从Google提出的奠基性的Transformer模型及其核心机制“Attention is all you need” ,到后续的思维链(Chain of Thought)推理技术,再到OpenAI在GPT-4之后探索的,在推理路径上进行强化学习以提升复杂问题解决能力的新方向(访谈中泰勒提及“01 model”,可能指内部代号或与Q相关的研究) ,算法的每一次重要革新都将AI的能力边界向前推进一大步。

泰勒对AGI的最终实现持乐观态度。他认为,虽然数据、算力和算法这三个要素在各自的发展中都可能遇到阶段性的瓶颈,但人类拥有如此众多的聪明才智投入到这些领域,不太可能在这三个方面同时陷入停滞 “事实上,由于AGI潜在的巨大经济效益,我们正目睹着所有这三个领域都在取得突破。” 

3. AI的自我进化:奇点临近?

一个自然而然的问题是:AI何时能够开始比人类更有效地改进AI自身,甚至在我们“睡觉的时候”自我迭代? 泰勒认为,从某种意义上说,这已经发生了。他指出,硅谷的每一位工程师几乎都在使用AI编程助手(如GitHub Copilot或他公司使用的Cursor)来帮助他们编写代码。 这意味着AI已经在为AI(以及其他软件)的开发做出贡献。

OpenAI主席万字访谈:AGI的定义、AI重塑软件工程及未来十年展望

但这与完全的自主进化仍有距离,更像是特斯拉的辅助驾驶与完全自动驾驶的区别。 泰勒强调,即使AI能力再强,人类在软件开发(尤其是关键应用)中的问责性(accountability)依然不可或缺。 无论是确保SaaS应用的安全性、可靠性,还是为自主决策的AI Agent设置合理的护栏,人类的监督和最终责任都是必要的。

四、创业与管理:创始人的身份重塑与基业长青的秘诀

布雷特·泰勒的职业生涯横跨了初创公司的激情燃烧与科技巨头的运筹帷幄。他创办的公司曾两次被行业巨头成功收购(FriendFeed被Facebook收购,Quip被Salesforce收购),并且在收购后,他都在母公司内部担任了核心高管职位。这段独特的经历,让他对创始人的成长、公司的整合以及如何构建基业长青的企业,积累了极为宝贵的经验。

1. 被收购之后:创始人的“身份认同”是关键

泰勒深刻地指出,对于一位创始人而言,公司被收购绝不仅仅是一笔商业交易,更是一场深刻的“身份转变”(identity shift)。 “从一家公司的创始人、CEO或CTO,无论你之前的头衔是什么,转变为一个更大组织中的一部分,要完全拥抱这种转变,你实际上需要改变你的身份认同。” 

他观察到,许多创始人在被收购后难以真正融入,并非因为他们缺乏处理大公司政治或官僚体系(bureaucracy)的能力,而是因为他们未能从心理上完成从“某某公司创始人”到“某某大公司一员”的身份切换。 这种身份认同的转变,是其他一切(如有效发挥作用、获得成长)的前提。泰勒分享了他个人的经历,在FriendFeed被Facebook收购以及Quip被Salesforce收购后,他都付出了巨大的努力去调整自我认知,真正将自己视为新集体的一份子,而非仅仅围绕着被收购的那个小产品或小团队发声。 “我非常感激在Facebook和Salesforce的经历,我学到了太多东西。但这确实需要我付出很多努力来转变我对自己的看法和我是谁。” 

对于被收购公司的员工而言,这种转变可能更加困难,因为他们当初选择的是加入一家不同的公司,而被收购并非他们的主动选择。 因此,成功的收购整合需要高度的技巧和同理心

2. 收购的艺术:同理心、坦诚沟通与明确目标

基于自己“被收购”和“收购他人”的双重经验,泰勒在主导收购时,展现出更多的同理心和现实主义。 他强调,收购过程中,除了商业条款的谈判,更重要的是在早期就一些“枯燥但重要”的整合细节进行坦诚沟通。

他认为,在双方基本达成合并意向、签署了初步的条款清单(term sheet)之后,到最终交易完成之前,通常会有一段“尴尬的等待期”(awkward waiting period)。 这段时间,恰恰是双方核心决策者坐下来,深入讨论“这到底意味着什么”的最佳时机。 讨论内容可以包括:被收购团队未来拥有多大的自主权?是作为一个独立的业务单元运营,还是会被打散并入母公司的各个职能部门?等等。 “尽早进行这些艰难的对话,有助于建立信任,并学习如何进行真实的沟通。” 

OpenAI主席万字访谈:AGI的定义、AI重塑软件工程及未来十年展望

此外,泰勒特别强调了在收购之初就明确“成功是什么样子”的重要性。 他发现,很多大型收购案完成后不久,如果你分别去问收购方和被收购方的管理团队,“两年后,这次收购的成功体现在哪里?”你很可能会得到截然不同的答案。 缺乏统一的成功标准,往往是后续整合出现问题的根源。他建议,被收购公司的创始人应该承担起向自己团队清晰传达这一共同目标,并带领团队为之努力的责任。

3. 董事会的角色:赋能创始人,而非越俎代庖

作为Shopify和OpenAI等知名公司的董事会成员,泰勒对董事会的角色有着独到的理解。他认为,董事会对于一位 оператор (operator,实干家)出身的创始人或CEO而言,是一个学习如何“在不亲自操刀的情况下产生影响和增加价值”的平台。 “这是一种非常不同的视角,能让你看到其他公司是如何运作的,并帮助你成为更好的领导者。” 

他个人更倾向于加入由创始人领导的公司的董事会。 因为他观察到,创始人通常被(包括员工和投资者在内的)利益相关者赋予更大的“许可”(permission),去做出更具颠覆性、更长远大胆的决策。 “当你创建了一家公司,如果你说我们需要进行重大的战略调整,甚至是像裁员这样艰难的决定,创始人往往能获得更多的理解和支持。”  他乐于与像Tobi Lütke(Shopify创始人)、Sam Altman(OpenAI CEO)这样能给他带来启发的创始人共事,从他们身上学习不同的经营之道。

4. “创始人模式” (Founder Mode) 的辩证看待

对于近年来备受关注的“创始人模式”(例如由Airbnb创始人Brian Chesky提出的理念),泰勒表达了有细微差别的支持。他赞赏“创始人模式”的核心精神,即创始人对公司的每一个决策都承担起深度的、最终的责任 他认为这是伟大公司运作的方式,能够避免“委员会决策”或过度关注流程而非结果的弊病。

然而,他也警示,“创始人模式”很容易被曲解和滥用,甚至成为极端微观管理(micromanagement)或不良领导行为的借口。 他回忆起史蒂夫·乔布斯去世后,许多创始人模仿其严厉风格甚至黑色高领衫的穿着,却未必抓住了乔布斯成功的本质——卓越的品味和判断力。 同样,“创始人模式”如果执行不当,可能会让员工感到窒息,扼杀创造力。

OpenAI主席万字访谈:AGI的定义、AI重塑软件工程及未来十年展望

泰勒强调,理想的状态是,创始人拥有深入细节、修正问题的权限(例如杰夫·贝索斯著名的“问号邮件” ),但同时公司文化也需要赋能个体,让员工作为独立的贡献者,能够负责任地做出决策。 需要在顶层决断力与个体主动性之间找到平衡。

5. 工程师能否成为优秀的领导者?

泰勒本身就是工程师出身,并成功转型为杰出的商业领袖。他认为,工程师的背景对于成为领导者具有天然优势 “第一性原理思维、系统设计能力,这些对于组织设计、战略制定等都非常有益。”  硅谷许多成功的CEO都拥有工程背景,这并非巧合。

但他同时强调,仅仅拥有工程技能是远远不够的,尤其当公司规模扩大、业务复杂度提升时。 创始人,特别是工程师出身的创始人,必须完成另一次重要的“身份转变”——从仅仅是“首席产品经理”或“首席技术官”,成长为真正的“首席执行官”(CEO)。 这意味着,在任何一天,他可能需要将精力投入到招聘关键高管、推动销售业绩、应对公共政策和监管挑战等看似与技术细节不直接相关的领域。 “那些不愿意将自己的身份从过去的角色提升到公司当前最需要的角色上的工程师,往往会导致公司增长的停滞。” 

五、AI Agent:人机交互的未来形态与商业价值

在泰勒看来,AI Agent是本轮AI浪潮中最令人兴奋的应用方向之一,它将重塑我们与数字世界的交互方式,并催生巨大的商业价值。他创办的Sierra公司,正是专注于构建企业级的对话式AI Agent。

OpenAI主席万字访谈:AGI的定义、AI重塑软件工程及未来十年展望

1. 什么是AI Agent?核心在于“自主性”

泰勒对AI Agent的定义简洁而深刻:“Agent这个词来源于Agency(自主性、能动性)。我认为它意味着赋予软件自主进行推理和做决策的机会”  这区别于传统的软件——传统软件更多是被动执行指令,而AI Agent则被期望能够在一定程度上理解目标、分析环境、并自主规划和执行动作。

2. AI Agent的三大应用场景

泰勒将有意义的AI Agent应用大致归为三类:

  • 个人Agent (Personal Agents)
    这类Agent旨在增强个体能力,成为每个人的数字助手”。 它们可以帮助处理日常琐事,如邮件分类、预订行程、规划假期 ;也可以在更复杂的个人事务上提供支持,如职业发展咨询(“帮我模拟一下向老板提加薪的对话”)、求职辅导(“帮我分析简历,推荐我可能忽略的潜在雇主”)等。 泰勒认为个人Agent潜力巨大,但挑战也不小,因为它们需要处理极其广泛和个性化的任务,并且对用户隐私和信任的要求极高,因此可能需要较长时间才能成熟和普及。
  • 角色/职能Agent (Role-Specific/Persona Agents)
    :这类Agent专注于在企业或组织中扮演特定的专业角色,替代或辅助人类完成特定职能的工作。 例如,编程Agent(如GitHub Copilot, Cursor)辅助软件开发 律师助理Agent(如Harvey)帮助处理法律文件和研究 金融分析师Agent协助进行市场分析和数据解读等。由于领域相对聚焦,这类Agent更容易实现商业化落地,并能带来显著的效率提升和成本节约。 泰勒认为这是目前AI创业非常活跃且前景广阔的领域。
  • 品牌化、面向客户的Agent (Branded Customer-Facing Agents)
    :这是泰勒创办的Sierra公司所深耕的领域。 这类Agent代表着一个公司的品牌形象,直接与最终客户进行交互,处理从简单的客户服务咨询到复杂的产品推荐、购买决策辅助等全方位的需求。 泰勒将这类Agent比作公司在数字世界的“化身”或“前门”。 例如,当你购买一个新的Sonos音响需要设置时,与你对话的可能就是AI Agent;当你是SiriusXM的订阅用户,需要管理账户时,为你服务的“Harmony”也是一个AI Agent。

3. 面向客户的AI Agent:机遇与挑战并存

泰勒认为,面向客户的品牌AI Agent具有独特的价值和挑战。一方面,它可以极大地提升客户体验。想象一下,过去你需要在一个复杂的保险公司网站上费力寻找如何提交索赔、如何添加家庭成员到保单,或者比较不同保险计划的细微差别 ;未来,你可以直接用自然语言向该公司的AI Agent提问,它能够理解你的复杂需求(“我女儿15岁了,我想在保费可控的情况下给她上保险,直到她长大,请告诉我哪个计划最合适,并解释为什么你们比竞争对手更好?” ),并提供个性化的解答和方案。这使得客户体验从过去网站提供的“枚举式功能列表”转变为“按需响应的对话式服务”。

另一方面,当AI Agent直接代表公司品牌与客户互动时,其准确性、可靠性和安全性就变得至关重要。泰勒提到了加拿大航空(Air Canada)的一个案例:其AI客服错误地向客户承诺了公司实际上并没有的“亲属丧亡机票优惠政策”,最终法院判决加拿大航空需要为AI的“幻觉”言论负责。 “如果ChatGPT对你的品牌产生了错误的描述,那是一回事;但如果是你自己的AI Agent对你的品牌产生了错误的描述,那就是另一回事了。这个门槛要高得多。”  因此,构建这类Agent需要更强的鲁棒性、更完善的护栏机制和持续的迭代优化。

Sierra的平台化策略正是为了应对这些挑战。他们致力于构建一个与底层大模型技术解耦的AI Agent平台,使得客户可以在Sierra平台上一次性定义好他们的客户体验逻辑(如对话流程、业务规则、品牌声誉等),而Sierra则负责在后端集成和优化最新的AI模型和技术。 这样,即使AI技术飞速发展,客户的AI Agent也能持续升级,而无需频繁地重新开发。

六、AI的伦理、安全与社会影响:深思熟虑,福泽人类

随着AI能力的指数级增长,关于其伦理、安全和社会影响的讨论也日益成为焦点。泰勒作为OpenAI的董事会主席,对此有着更为深刻和全面的思考。

1. OpenAI的使命:确保AGI惠及全人类

泰勒在访谈中多次强调并高度认同OpenAI的核心使命:“确保通用人工智能(AGI)惠及全人类 (benefits all of humanity)。”  他解读道,这个使命的内涵是多层次的:

  • 安全是基石
    这包含了“希波克拉底誓言”中“首先不造成伤害 (first, do no harm)”的精神。 如果创造出的AGI是不安全的,那么“惠及全人类”就无从谈起。 因此,安全性是OpenAI所有工作的重中之重。
    OpenAI主席万字访谈:AGI的定义、AI重塑软件工程及未来十年展望
  • 超越安全,追求普惠与积极价值
    仅仅“不造成伤害”是不够的,正如一个医生如果只做到了不伤害病人但无法治愈疾病,那也不是一个好医生。 “惠及全人类”还意味着要努力实现AGI的普惠性——避免出现少数人掌握强大AI能力而多数人被边缘化的“数字鸿沟” ;同时要最大化其积极效益,例如利用AI普及优质教育和医疗资源、提升科研效率等,并最小化其潜在的负面影响,如就业结构调整带来的阵痛。
  • 对齐与意图
    从技术层面理解“安全”,一个核心问题是确保AI系统的行为与人类创造者和操作者的意图保持一致(Alignment)。 要避免AI因“未对齐”而产生非预期的、甚至有害的行为。

2. 技术中立与社会责任:AI向善的关键在于“我们如何使用它”

泰勒认为,技术本身在很多情况下是中立的,其最终是善是恶,很大程度上取决于“我们如何使用它,以及围绕它构建了怎样的社会规范和决策机制。”  他以历史上一些重大工程事故为例(如桥梁坍塌、核电站事故 ),指出很多时候悲剧的发生,并非单纯的技术缺陷,而是交织了工程设计、官僚体系、决策失误等多种因素。

因此,在思考AI安全时,不能仅仅局限于技术层面的防护,更要关注AI技术如何在社会中得到应用,我们如何围绕它进行集体决策,以及如何界定责任。 例如,一个设计得再完美的AI系统,如果被恶意操作者用于危害社会,那么责任应如何划分?由谁来决定AI在敏感领域的应用边界(比如在教育场景中,学校、家长、学生对AI手机使用的权限和看法可能就存在冲突 )?这些都是远比技术本身更复杂,需要全社会共同探讨的议题。

3. AI监管的平衡艺术:在创新与风险之间寻求最优解

谈及AI监管,泰勒指出了其中固有的复杂性和张力。一方面,监管机构有责任确保AI技术的发展,特别是前沿模型(frontier models)的研发,始终以“惠及全人类”为导向,关注其安全性和潜在风险。 另一方面,从地缘政治和国家竞争的角度看,西方民主国家也需要确保自身在AI领域的领先地位,避免核心技术被集权国家所主导。

这种“确保安全”与“保持竞争力”之间的平衡,对监管者而言是一个“极其困难的问题”(impossibly hard problem)。 泰勒表示,他为OpenAI作为一家总部位于美国并在美国进行大量投入的公司感到自豪,并相信OpenAI在“惠及人类”这一使命上的专注。 他认为,AI监管需要一个多方利益相关者共同参与的对话过程,但同时也担心,某些不当的监管措施可能会无意中拖慢整个AI领域健康发展的步伐。

4. AI生成内容的知识产权:悬而未决的新课题

随着AI生成内容(AIGC)能力的日益强大,其产出物的知识产权归属问题也浮出水面。例如,如果一个人使用AI工具(如GPT-4o)分析现有专利,并在此基础上生成了新的、具有创造性的设计方案,那么这个新方案的专利权应该属于谁?是提示词的提供者,还是AI模型本身,抑或是AI模型的开发者?

泰勒坦言,他并非知识产权领域的专家,无法给出明确答案。 但他认为,这确实是一个值得深入探讨的有趣问题。一方面,使用工具(即使是智能工具)来辅助创作,其成果的知识产权在传统上通常归属于工具的使用者。 另一方面,当AI的“智能贡献”达到一定程度,甚至能够产生人类之前未曾想到的“新点子”时,传统的知识产权框架可能需要做出调整。他预期,随着智能的边际成本大幅下降,我们将迎来一个新思想和智能成果大爆发的“文艺复兴”时代 而在这种背景下,单个“洞见”的边际价值可能会相对降低。

七、展望未来:AI时代的教育、投资与基业长青之道

在访谈的后半段,泰勒将视野投向了更远的未来,探讨了AI将如何重塑教育形态、在AI时代应如何进行长期投资,以及科技公司如何在日新月异的技术浪潮中保持活力、实现基业长青。

1. AI赋能教育:个性化学习与教育公平的新纪元

泰勒对AI在教育领域的应用前景感到无比兴奋。他认为AI有潜力从根本上改变传统的教育模式,带来两大核心价值:

  • 极致的个性化学习 (Personalized Learning)
    他描绘道,未来的AI教育系统可以像一位经验丰富的私教,根据每个学生的学习节奏、认知特点和薄弱环节,动态调整教学内容和方法。 例如,对于听觉型学习者,AI可以生成定制化的知识点播客;对于需要重复记忆的学生,AI可以提供智能化的识记卡片;对于希望更直观理解历史事件的学生,AI可以创造沉浸式的可视化体验。 他提到一款名为Synthesis Tutor的AI家教产品,已被萨尔瓦多等国家用于辅助教学,并取得了显著效果,这让他深受鼓舞。 他认为,即使在拥有优秀教师的班级里,AI也能作为强大的助教,帮助老师更好地实现因材施教。
  • 促进教育公平 (Democratizing Access)
    在过去,优质的教育资源,如一对一辅导、SAT备考课程、大学申请文书指导等,往往是少数富裕家庭的“特权”。 泰勒坚信,随着AI技术的发展和普及,这些宝贵的教育资源应该能够被更多普通家庭的孩子所获得,从而在一定程度上弥合因社会经济地位差异造成的教育机会不均。 “这不仅仅是美国梦,更是加拿大梦,是全人类的梦想。”  他分享了自己孩子使用ChatGPT学习莎士比亚的经历,AI的耐心解答和深度互动,甚至让他这位父亲也重新学习和思考。
    OpenAI主席万字访谈:AGI的定义、AI重塑软件工程及未来十年展望

至于AI时代需要培养孩子什么样的技能,泰勒认为,“学习如何学习”(learning how to learn)和“学习如何思考”(learning how to think)依然是教育的核心。 基础的读写算、科学素养(物理、化学、生物等)仍然重要,不是为了死记硬背,而是为了理解我们所处世界的运作机制。 而具体的职业技能,则需要警惕其可能因技术发展而迅速过时(例如他年轻时学的汽修知识已无法修理今天的电动汽车 )。更重要的是培养适应变化、持续学习的能力。

2. AI时代的长期投资逻辑:押注“智能驱动型”产业

当被问及如果必须将全部净资产投入一家上市公司并持有至少20年,他会如何思考时,泰勒并未给出具体的公司名称,但他分享了他的投资哲学。 他会重点关注那些当前增长受限于“智能水平”或“高素质人才供给”,并且能够有效吸收和转化AI带来的智能红利的经济部门

他认为,科技行业金融行业是两个典型的例子。 在科技行业,软件工程师一直是稀缺资源,如果AI能够大幅提升软件开发的效率和规模,那么整个行业的增长空间将是巨大的。 在金融行业,无论是欺诈检测、投资策略还是风险管理,AI的应用早已开始,未来随着AI能力的增强,其提升决策质量和创造超额回报的潜力将进一步释放。

同时,他也提醒,进行如此长周期的投资,必须考虑到第二序和第三序效应 (second and third order effects) 一个短期内看似前景光明的行业,如果因为AI的普及导致进入门槛大幅降低,最终可能陷入同质化竞争,使得早期投资的超额收益难以持续(他用“冰块在发明冰箱前后价值的巨大变化”来比喻 )。因此,需要进行深入的、动态的分析。

3. 构建基业长青的企业:警惕“成功者的诅咒”

泰勒在访谈中分享了两个令他印象深刻的经历:谷歌早期搬入了SGI(硅图公司)的旧总部,而Facebook在发展壮大后则入驻了Sun Microsystems曾经的园区。 SGI和Sun都曾是叱咤风云的科技巨头,但在他的职业生涯中就经历了从辉煌到衰落,最终将自己的“领地”让给了新兴的挑战者。

这段经历让他深刻认识到:“科技公司并非理所当然就能永葆成功 (Technology companies aren’t entitled to their future success)。”  尤其在AI技术正以前所未有的速度重塑产业格局的今天,构建一家能够穿越周期、基业长青的公司,面临着空前的挑战。 这不仅仅是技术层面的竞争,更是文化层面的较量——如何塑造一种能够拥抱变化、持续学习、快速迭代的企业文化,其重要性甚至超过了代码本身。 “Sierra今天的每一行代码,很可能在5年后就完全不同了,更不用说30年后。” 

4. 战胜自满与僵化:保持对客户的敬畏和对官僚体系的警惕

那么,如何才能避免陷入“大公司病”,保持企业的活力和竞争力呢?泰勒指出了两大“敌人”:

  • 官僚体系 (Bureaucracy)
    他认为,官僚体系的根源往往在于,当公司出现问题时,为了解决问题而引入新的流程。久而久之,这些出于良好意图创建的流程层层叠加,最终形成了一个僵化、低效的庞大机器 这些流程的最初目的可能早已被人遗忘,但它们却像无形的枷锁一样,束缚着组织的行动力。
  • 内部叙事压倒客户真实 (Internal narrative stronger than the truth from customers)
    当公司规模扩大,层级增多,员工(尤其是中层管理者)的关注点很容易从外部的客户和竞争转向内部的晋升和汇报。 整个组织可能会陷入一种“现实扭曲力场”(reality distortion field),沉浸在自己编织的乐观叙事中,而忽视了来自市场的真实反馈 他以微软Windows Phone在市场竞争中失利前的内部氛围为例,指出即使外界看来大势已去,公司内部可能依然弥漫着盲目乐观的情绪。

OpenAI主席万字访谈:AGI的定义、AI重塑软件工程及未来十年展望

要克服这些挑战,泰勒认为领导力至关重要 伟大的公司通常都对他们的客户抱有极致的痴迷 (obsessed with their customers) 领导者需要确保客户的声音能够真实、直接地传递到组织的每一个角落,并成为决策的重要依据。 同时,领导者也需要有魄力去主动精简和打破不必要的官僚流程,即使这可能会带来短期的不适和阻力。 “流程是为了服务于业务需求而存在的,而不是相反。” 

八、尾声:回归初心,拥抱未来

在长达两个多小时的深度访谈接近尾声时,主持人提出了一个经典问题:“对你而言,什么是成功?”

布雷特·泰勒的回答简单而真挚:“对我来说,成功就是拥有一个幸福健康的家庭,并且能够和我的联合创始人克雷(Clay)在我的余生中继续共事,将Sierra打造成一家基业长青的公司。” 

从FriendFeed的初露锋芒,到Facebook和Salesforce的叱咤风云,再到如今执掌OpenAI董事会并再次投身AI创业的浪潮之巅,布雷特·泰勒的每一步都踏在科技变革的鼓点上。他的思考深邃而务实,既有对技术趋势的敏锐洞察,也不乏对人性与商业本质的深刻理解。

这场访谈,如同一幅徐徐展开的画卷,向我们展示了AI时代波澜壮阔的前景,以及身处其中的个体与组织所面临的机遇与挑战。在人工智能的星辰大海面前,保持学习,拥抱变革,或许是我们每一个人都应持有的姿态。

OpenAI主席万字访谈:AGI的定义、AI重塑软件工程及未来十年展望

原始访谈视频:https://www.youtube.com/watch?v=XEz-NXTJv3g

前沿技术新闻资讯

AI 应用的上下文窗口管理

2025-5-9 4:51:51

前沿技术新闻资讯

大厂大模型必知的5种agent模式

2025-5-9 5:58:08

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
购物车
优惠劵
搜索