OpenAI与AIGC：改变人类生产范式，通往“万物的摩尔定律”

来源：“海外独角兽”（ID:unicornobserver），作者：Cage

图片来源：由无界版图AI工具生成

今年美国科罗拉多州博览会的艺术比赛上，游戏设计师 Jason M. Allen 的作品《太空歌剧院》在数字艺术板块得到一等奖。奖项本身含金量不大，却一石激起千层浪，因为这幅画不是由人动手绘制，而是来自生成式 AI(Generative AI) 产品 Midjourney。

当时艺术正统和机器亵渎引发了争议，其实早在摄影技术兴起时就有过类似的争议，并不妨碍摄影技术革新并，成为了现代艺术的有机组成部分。因此本文不对此问题做太多探讨，而是旨在对生成式 AI 发展与突破的历史进行复盘，并梳理生成式 AI 会在自然语言、代码、图片、视频、3D 模型等领域带来什么样的下游应用。

回顾历史，人类艺术的发展速度是对数式的，而技术的进步速度是指数式的。生成式 AI 学习了人类艺术对数进化史上的海量画作，实现了创作质量上的指数式进步，并在生产效率上实现了“弯道超车”。模型生成的作品便是今天热议的AIGC (AI Generated Content)。

而本文聚焦的公司 OpenAI ，在这场生成式 AI 的突破中起到了关键性的作用，通过堆叠海量算力的大模型（Foundation Model）使 AIGC 进化。在 2022 年上半年，OpenAI 旗下三个大模型 GPT-3、GitHub Copilot 和 DALL·E2 的注册人数均突破了 100 万人，其中GPT-3 花了 2 年，GitHub Copilot 花了半年，而 DALL·E2 只用了2个半月达到了这一里程碑，足见这一领域热度的提升。

研究型企业引领的大模型发展，也给了下游应用领域很大的想象空间，语言生成领域已经在文案生成、新闻撰写、代码生成等领域诞生了多家百万级用户、千万级美金收入的公司。而最出圈的图片生成领域两大产品 MidJourney 和 Stable Diffusion 都已经有相当大的用户群体，微软也已经布局在设计软件中为视觉设计师提供 AIGC 内容，作为设计灵感和素材的来源。同时 3D 和视频生成领域的大模型也在飞速突破的过程中，未来很可能会在游戏原画、影视特效、文物修复等领域发挥作用。

从神经网络的角度看，当前的大模型 GPT-3 有 1750 亿参数，人类大脑有约 100 万亿神经元，约 100 个神经元会组成一个皮质柱，类似于一个小的黑盒神经网络模块，数量级上的差异决定了算力进步可以发展的空间还很大。与此同时，今天训练 1750 亿参数的 GPT-3 的成本大概在 450 万美元左右，根据成本每年降低约 60% 的水平，供大模型提升计算复杂度的空间还很多。

OpenAI CEO、YC 前主席 Sam Altman 的图景中，AI 大模型发展的最终目标是 AGI（通用人工智能，Artificial General Intelligence），当这一目标实现的时候，人类经济社会将实现“万物的摩尔定律”，即万物的智能成本无限降低，人类的生产力与创造力得到解放。

以下为本文目录，建议结合要点进行针对性阅读。

01. 归纳并演绎——生成式 AI 是什么
02. The Bitter Lesson—大模型助 AIGC 进化
03. OpenAI的大模型发展之路

04. 百家争鸣的 AIGC 大模型应用层
05. AIGC大模型的未来展望

01. 归纳并演绎——生成式 AI 是什么

AI 模型大致可以分为两类：决策式 AI 与生成式 AI。

根据机器学习教科书，决策式模型 (Discriminant Model)学习数据中的条件概率分布；生成式模型 (Generative Model)学习数据中的联合概率分布，两者的区别在于擅长解决问题的方式不同：

决策式 AI 擅长的是基于历史预估当下，有两大类主要的模型应用，一类是辅助决策，常用在推荐系统和风控系统中；第二类是决策智能体，常用于自动驾驶和机器人领域。

生成式 AI 擅长的是归纳后演绎创造，基于历史进行缝合式创作、模仿式创新——成为创作者飞船的大副。所谓 AIGC（AI Generated Content），便是使用生成式AI主导/辅助创作的艺术作品。

不过在10年代的机器学习教科书中，早已就有了这两类AI。为何 AIGC 在20年代初有了显著突破呢？答案是大模型的突破。

02. The Bitter Lesson——大模型助 AIGC 进化

时间倒回到 19 年 3 月，强化学习之父 Richard Sutton 发布了名为 The Bitter Lesson（苦涩的教训）的博客，其中提到：“短期内要使AI能力有所进步，研究者应寻求在模型中利用人类先验知识；但之于AI的发展，唯一的关键点是对算力资源的充分利用。”

Seeking an improvement that makes a difference in the shorter term, researchers seek to leverage their human knowledge of the domain, but the only thing that matters in the long run is the leveraging of computation.

该文章在当时被不少 AI 研究者视为对自己工作的否定，极力辩护。但如果拉长时间线回看，会发现这位泰斗所言不虚：