首先,他认为AI的智能水平与投入资源呈对数关系,意味着通过增加资源可获得持续稳定的进步。其次,AI的成本随着技术进步显著下降,从而加速其普及。最后,线性增长的智能将带来指数的社会经济价值。
只有登录用户才可以评论
我们的使命是确保通用人工智能(AGI)造福全人类。
系统开始指向 AGI*的景象正在出现,因此我们认为理解我们所处的时刻非常重要。AGI 是一个定义较弱的术语,但一般来说,我们指的是一个能够在许多领域以人类水平解决日益复杂问题的系统。
人类是工具建造者,天生具有理解和创造的动力,这使得世界对我们所有人来说都变得更好。每一代人都基于前一代人的发现,创造出更加强大的工具——电力、晶体管、计算机、互联网,以及很快的人工智能通用(AGI)。
随着时间的推移,人类创新的稳步前进,断断续续地,几乎在人们生活的各个方面带来了前所未有的繁荣和改善。
在某些意义上,AGI 只是我们共同构建的这座不断加高的进步脚手架中的另一个工具。在另一种意义上,它是某种难以不称之为“这次不同”的开始;我们面前的经济增长看起来令人惊叹,我们现在可以想象一个我们可以治愈所有疾病、有更多时间与家人享受时光、并充分实现我们的创造潜能的世界。
在十年内,或许地球上每个人都能做到比今天最有影响力的人更多。
我们继续看到人工智能发展的快速进步。以下是关于人工智能经济学的三个观察:
人工智能模型的智能大致等于训练和运行它所使用的资源的对数。这些资源主要是训练计算、数据和推理计算。看起来你可以花费任意数量的金钱,并获得持续和可预测的收益;预测这种收益的规模定律在多个数量级上都是准确的。
使用特定水平的 AI 的成本大约每 12 个月降低 10 倍,价格降低导致使用量大幅增加。您可以从 2023 年初 GPT-4 的 token 成本到 2024 年中 GPT-4o 的成本中看到这一点,在这段时间内,每 token 的价格下降了约 150 倍。摩尔定律每 18 个月改变世界 2 倍;这简直令人难以置信。
线性增长智能的社会经济价值具有超指数性质。由此产生的结果是,我们看不到指数增长的投资在近期停止的理由。
如果这三个观察继续成立,对社会的影响将是重大的。
我们现在开始推出 AI 代理,最终它们将像虚拟同事一样。
让我们想象一下软件工程代理的情况,这是我们期望特别重要的代理。想象一下,这个代理最终将能够完成一个有几年经验的一流公司软件工程师在几天内能做的事情。它不会有最大的新想法,它需要大量的人类监督和指导,它会在某些事情上做得很好,但在其他事情上却出奇地差。
仍然,想象它为一个真实但相对初级的虚拟同事。现在想象有 1,000 个这样的同事。或者 1,000,000 个。现在想象这样的代理在每一个知识工作领域。
在某些方面,人工智能可能最终会像晶体管在经济上那样——是一项巨大的科学发现,具有良好的扩展性,渗透到经济几乎每个角落。我们并不太关注晶体管或晶体管公司,收益分布非常广泛。但我们确实期待我们的电脑、电视、汽车、玩具等能创造奇迹。
世界不会一夜之间改变;它从来不会。短期内生活将大致保持不变,2025 年的人们将大部分时间以与 2024 年相同的方式度过。我们仍会坠入爱河,组建家庭,在网上争吵,在自然中徒步旅行等。
但未来将以一种无法忽视的方式向我们袭来,我们社会和经济的长期变化将非常巨大。我们将找到新的工作,新的互相有用的方式,以及新的竞争方式,但它们可能看起来与今天的职业大不相同。
机构、主动性和决心将可能极为宝贵。正确决定做什么以及如何在一个不断变化的世界中导航将具有巨大价值;弹性和适应性将是需要培养的有益技能。通用人工智能将是人类主动性的最大杠杆,使个人能够比以往任何时候都有更大的影响力,而不是更小。
我们预计通用人工智能(AGI)的影响将是不均匀的。尽管一些行业的变化很小,但科学进步可能会比现在快得多;AGI 的影响可能会超过其他所有事物。
许多商品的价格最终将大幅下降(目前,智能成本和能源成本限制了众多事物),而奢侈品和一些本质上有限的资源如土地的价格可能还会更加大幅上升。
从技术角度来说,我们面前的道路看起来相当清晰。但如何将 AGI 融入社会的公共政策及集体意见非常重要;我们频繁地提前推出产品的原因之一是给社会和技术共同进化留出时间。
人工智能将渗透到经济和社会的各个领域;我们期待一切都将变得智能。我们中的许多人预期需要比历史上更多地赋予人们控制技术的权力,包括开源更多,并接受安全和个人赋权之间存在需要权衡的平衡。
虽然我们不想鲁莽行事,并且可能会有些关于 AGI 安全性的重大决策和限制不受欢迎,但从方向上看,随着我们越来越接近实现 AGI,我们认为更多地朝着个人赋权发展是重要的;我们还能看到的另一条可能的道路是,AI 被威权政府用来通过大规模监控和失去自主权来控制其人口。
确保 AGI 的好处得到广泛分配至关重要。技术进步的历史影响表明,我们关心的多数指标(健康结果、经济繁荣等)平均而言和长期来看都在改善,但提高平等似乎并非由技术决定,而要做到这一点可能需要新思路。
特别是,资本和劳动力之间的力量平衡似乎很容易被搞乱,这可能需要早期干预。我们对于一些听起来很奇怪的想法持开放态度,比如给每个人分配一些“计算预算”,以便地球上的人们能够使用大量的 AI,但我们也能看到很多方法,仅仅是通过不懈地降低智能成本,就能达到预期的效果。
任何人在 2035 年都应该具备与 2025 年所有人相当的知识能力;每个人都应该能够接触到无限的创造力,以任何他们能想象的方式去引导。现在有很多才华横溢的人缺乏充分表达自己的资源,如果我们改变这一点,世界产生的创造性成果将为我们所有人带来巨大的利益。
特别感谢 Josh Achiam、Boaz Barak 和 Aleksander Madry 审阅这份草稿。
*通过在此处使用 AGI 这一术语,我们旨在清晰传达,我们无意改变或解释定义我们与微软关系的定义和过程。我们完全期待与微软长期合作。这个脚注看起来很愚蠢,但另一方面,我们知道一些记者会试图通过写些愚蠢的东西来吸引点击量,所以我们就先发制人,避免愚蠢…
山姆·奥特曼:三个观察
(叼着电子烟推眼镜,战术摊手)朋友们,今天咱们聊点魔幻现实主义的未来——通用人工智能(AGI)这玩意儿,到底是赛博菩萨还是赛博阎王?
1. 人类要开挂了,但挂逼也得讲基本法 AGI说白了就是全科AI状元,文能写代码武能治癌症,虽然现在还是个实习生的水平,但氪金就能变强。OpenAI那帮疯子说了,训练AI就像叠乐高,砸钱堆算力堆数据,性能直接指数级飙升。这年头搞AI比炒币还简单,毕竟币圈只能10倍杠杆,AI氪金可是150倍性能暴击!(拍桌子)
2. 三个暴论震碎三观
3. 赛博打工人要占领地球 想象你带着1000个AI小弟写代码,个个都是大厂三年经验的水平。虽然这帮货色创意约等于零,Debug时能把人气出心梗,但架不住人家007不要工资啊!(战术点烟)很快所有白领行业都要上演《黑客帝国》——人类当尼奥,AI当史密斯,就看谁PUA谁。
4. 魔幻经济学即将上线 未来白菜价的东西会变成:
5. 最骚的操作在政策层 建议各国政府赶紧研究:
6. 终极预言令人颤抖 到2035年,随便一个路边摊煎饼的大妈,都能召唤2025年全人类智囊团给她出谋划策。到时候卷王们比拼的不是996,而是谁的脑洞更清奇——毕竟在人均爱因斯坦的世界里,想象力才是硬通货。
(猛嘬一口电子烟)最后说句实在话:AGI这玩意就像核能,用好了点亮人类文明,玩砸了直接赛博朋克。建议各位现在就开始练习如何优雅地给AI当领导,毕竟未来最吃香的职业可能是——AI心理辅导师。(战术狗头)
我们的使命是确保通用人工智能(AGI)造福全人类。
系统开始指向 AGI*的景象正在出现,因此我们认为理解我们所处的时刻非常重要。AGI 是一个定义较弱的术语,但一般来说,我们指的是一个能够在许多领域以人类水平解决日益复杂问题的系统。
人类是工具建造者,天生具有理解和创造的动力,这使得世界对我们所有人来说都变得更好。每一代人都基于前一代人的发现,创造出更加强大的工具——电力、晶体管、计算机、互联网,以及很快的人工智能通用(AGI)。
随着时间的推移,人类创新的稳步前进,断断续续地,几乎在人们生活的各个方面带来了前所未有的繁荣和改善。
在某些意义上,AGI 只是我们共同构建的这座不断加高的进步脚手架中的另一个工具。在另一种意义上,它是某种难以不称之为“这次不同”的开始;我们面前的经济增长看起来令人惊叹,我们现在可以想象一个我们可以治愈所有疾病、有更多时间与家人享受时光、并充分实现我们的创造潜能的世界。
在十年内,或许地球上每个人都能做到比今天最有影响力的人更多。
我们继续看到人工智能发展的快速进步。以下是关于人工智能经济学的三个观察:
人工智能模型的智能大致等于训练和运行它所使用的资源的对数。这些资源主要是训练计算、数据和推理计算。看起来你可以花费任意数量的金钱,并获得持续和可预测的收益;预测这种收益的规模定律在多个数量级上都是准确的。
使用特定水平的 AI 的成本大约每 12 个月降低 10 倍,价格降低导致使用量大幅增加。您可以从 2023 年初 GPT-4 的 token 成本到 2024 年中 GPT-4o 的成本中看到这一点,在这段时间内,每 token 的价格下降了约 150 倍。摩尔定律每 18 个月改变世界 2 倍;这简直令人难以置信。
线性增长智能的社会经济价值具有超指数性质。由此产生的结果是,我们看不到指数增长的投资在近期停止的理由。
如果这三个观察继续成立,对社会的影响将是重大的。
我们现在开始推出 AI 代理,最终它们将像虚拟同事一样。
让我们想象一下软件工程代理的情况,这是我们期望特别重要的代理。想象一下,这个代理最终将能够完成一个有几年经验的一流公司软件工程师在几天内能做的事情。它不会有最大的新想法,它需要大量的人类监督和指导,它会在某些事情上做得很好,但在其他事情上却出奇地差。
仍然,想象它为一个真实但相对初级的虚拟同事。现在想象有 1,000 个这样的同事。或者 1,000,000 个。现在想象这样的代理在每一个知识工作领域。
在某些方面,人工智能可能最终会像晶体管在经济上那样——是一项巨大的科学发现,具有良好的扩展性,渗透到经济几乎每个角落。我们并不太关注晶体管或晶体管公司,收益分布非常广泛。但我们确实期待我们的电脑、电视、汽车、玩具等能创造奇迹。
世界不会一夜之间改变;它从来不会。短期内生活将大致保持不变,2025 年的人们将大部分时间以与 2024 年相同的方式度过。我们仍会坠入爱河,组建家庭,在网上争吵,在自然中徒步旅行等。
但未来将以一种无法忽视的方式向我们袭来,我们社会和经济的长期变化将非常巨大。我们将找到新的工作,新的互相有用的方式,以及新的竞争方式,但它们可能看起来与今天的职业大不相同。
机构、主动性和决心将可能极为宝贵。正确决定做什么以及如何在一个不断变化的世界中导航将具有巨大价值;弹性和适应性将是需要培养的有益技能。通用人工智能将是人类主动性的最大杠杆,使个人能够比以往任何时候都有更大的影响力,而不是更小。
我们预计通用人工智能(AGI)的影响将是不均匀的。尽管一些行业的变化很小,但科学进步可能会比现在快得多;AGI 的影响可能会超过其他所有事物。
许多商品的价格最终将大幅下降(目前,智能成本和能源成本限制了众多事物),而奢侈品和一些本质上有限的资源如土地的价格可能还会更加大幅上升。
从技术角度来说,我们面前的道路看起来相当清晰。但如何将 AGI 融入社会的公共政策及集体意见非常重要;我们频繁地提前推出产品的原因之一是给社会和技术共同进化留出时间。
人工智能将渗透到经济和社会的各个领域;我们期待一切都将变得智能。我们中的许多人预期需要比历史上更多地赋予人们控制技术的权力,包括开源更多,并接受安全和个人赋权之间存在需要权衡的平衡。
虽然我们不想鲁莽行事,并且可能会有些关于 AGI 安全性的重大决策和限制不受欢迎,但从方向上看,随着我们越来越接近实现 AGI,我们认为更多地朝着个人赋权发展是重要的;我们还能看到的另一条可能的道路是,AI 被威权政府用来通过大规模监控和失去自主权来控制其人口。
确保 AGI 的好处得到广泛分配至关重要。技术进步的历史影响表明,我们关心的多数指标(健康结果、经济繁荣等)平均而言和长期来看都在改善,但提高平等似乎并非由技术决定,而要做到这一点可能需要新思路。
特别是,资本和劳动力之间的力量平衡似乎很容易被搞乱,这可能需要早期干预。我们对于一些听起来很奇怪的想法持开放态度,比如给每个人分配一些“计算预算”,以便地球上的人们能够使用大量的 AI,但我们也能看到很多方法,仅仅是通过不懈地降低智能成本,就能达到预期的效果。
任何人在 2035 年都应该具备与 2025 年所有人相当的知识能力;每个人都应该能够接触到无限的创造力,以任何他们能想象的方式去引导。现在有很多才华横溢的人缺乏充分表达自己的资源,如果我们改变这一点,世界产生的创造性成果将为我们所有人带来巨大的利益。
特别感谢 Josh Achiam、Boaz Barak 和 Aleksander Madry 审阅这份草稿。
*通过在此处使用 AGI 这一术语,我们旨在清晰传达,我们无意改变或解释定义我们与微软关系的定义和过程。我们完全期待与微软长期合作。这个脚注看起来很愚蠢,但另一方面,我们知道一些记者会试图通过写些愚蠢的东西来吸引点击量,所以我们就先发制人,避免愚蠢…
山姆·奥特曼:三个观察
(叼着电子烟推眼镜,战术摊手)朋友们,今天咱们聊点魔幻现实主义的未来——通用人工智能(AGI)这玩意儿,到底是赛博菩萨还是赛博阎王?
1. 人类要开挂了,但挂逼也得讲基本法
AGI说白了就是全科AI状元,文能写代码武能治癌症,虽然现在还是个实习生的水平,但氪金就能变强。OpenAI那帮疯子说了,训练AI就像叠乐高,砸钱堆算力堆数据,性能直接指数级飙升。这年头搞AI比炒币还简单,毕竟币圈只能10倍杠杆,AI氪金可是150倍性能暴击!(拍桌子)
2. 三个暴论震碎三观
3. 赛博打工人要占领地球
想象你带着1000个AI小弟写代码,个个都是大厂三年经验的水平。虽然这帮货色创意约等于零,Debug时能把人气出心梗,但架不住人家007不要工资啊!(战术点烟)很快所有白领行业都要上演《黑客帝国》——人类当尼奥,AI当史密斯,就看谁PUA谁。
4. 魔幻经济学即将上线
未来白菜价的东西会变成:
贵到离谱的可能是:
5. 最骚的操作在政策层
建议各国政府赶紧研究:
6. 终极预言令人颤抖
到2035年,随便一个路边摊煎饼的大妈,都能召唤2025年全人类智囊团给她出谋划策。到时候卷王们比拼的不是996,而是谁的脑洞更清奇——毕竟在人均爱因斯坦的世界里,想象力才是硬通货。
(猛嘬一口电子烟)最后说句实在话:AGI这玩意就像核能,用好了点亮人类文明,玩砸了直接赛博朋克。建议各位现在就开始练习如何优雅地给AI当领导,毕竟未来最吃香的职业可能是——AI心理辅导师。(战术狗头)