编者按：最近一个月爆出了三个科技热点，继ChatGPT之后OpenAI推出的文生视频模型Sora再次令世人震惊；同月，苹果推出的虚拟现实头显Vision Pro也一度成为炒作的焦点；而近日，Groq推出的定制GPU以超高的性能让人工智能的响应速度从秒级变成毫秒级。

Sora与虚拟现实

Sora的岩石视频当中有一个令人难忘，提示词是“两艘海盗船在一杯咖啡中航行时互搏的逼真特写视频”（ Photorealistic closeup video of two pirate ships battling each other as they sail inside a cup of coffee.）。

说实话，效果相当令人震惊，尤其是其对水和光的复现：一直到了过去这几年，电子游戏才通过光线追踪技术实现了类似的效果，即便如此，我认为Sora在效果上已经击败了那些游戏了。不过，如果你再看第二遍或者第三遍就会发现视频存在明显缺陷；只需盯住右边那艘船上飘扬的红旗，注意观察船是怎么调转方向即可：

Sora是一种diffusion模型。输入特定噪音图块（patch，以及类似文本提示这样的条件信息）之后，它被训练用来预测原始的“干净”图块。很重要的一点，Sora是一种diffusion transformer。transformer在包括语言建模，计算机视觉，以及图像生成等多个领域上均展现出显著的扩展特性。

Groq

我们并不清楚 Sora 的成本如何，但成本高昂几乎是可以肯定的；随着时间的推移，成本会逐步下降，计算领域一直以来都是这种情况。同样必要的是渲染速度要快得多：速度是当今与大型语言模型交互的挑战之一：是，准确性可能会随着计算和模型规模的扩充而增加，但这只会增加获得一个回答时遭遇的延迟量（比方说，可以对比一下用 GPT-3.5 Turbo 和用 GPT-4 进行推理的速度）。这里的答案也可能只是受摩尔定律支配，或者也许要用一种不同的架构。

于是就有了Groq。

Groq是由 Jonathan Ross 在 2016 年创立的。Jonathan Ross做出了谷歌的第一块张量处理单元（TPU）；Ross的观点是，芯片应该向软件定义网络汲取灵感：软件定义网络用带有软件层的商用硬件来处理路由的复杂性，而不是用专门处理路由数据的专用硬件。事实上， Groq解释自家技术的那篇论文的标题叫做“用于大规模机器学习的软件定义张量流式多处理器”（A Software-defined Tensor Streaming Multiprocessor for Large-scale Machine Learning）。

搭建在Groq之上的Sora

大语言模型的运作方式似乎与人脑有点相似，人脑之神奇令人难以置信，但人脑也不够精确，就像我们需要计算机来进行精确计算一样，ChatGPT 也是如此。不过，普通计算机其实跟Groq正好相反：由于现代处理器和内存的设计使然，其实普通计算机的概率学比你想象的要高的，但它执行的软件假设处理器会处理没完没了的内存调用以及分支预测，最终反而能给你一个确定性的结果。

但最终，我们又回到了原先开始的地方：计算机会知道船头和船尾在船的什么位置，而像 Sora 这样基于transformer的模型则做出了错误的猜测。前者计算的是物理现实；后者计算的是虚拟现实。

不要错过富源更多关于融资、科技和商业趋势的精准信息，最新动态和深入分析。立即点击 这里立刻订阅富源！