靠PPT融资10亿，这家法国AI初创公司向微软谷歌开火

编译作者：吕可

据海外媒体报道，今年 6 月，刚刚成立了一个月的法国初创公司 Mistral AI 在种子轮融资中筹集到了1.05 亿欧元的资金。而当时，这家由一名 DeepMind 前员工和两名 Meta 前员工创办的初创公司还没有任何可发布的产品。人们最初听到 Mistral 的融资新闻时，只是在感慨风投公司对处于爆发阶段的生成式 AI 领域过于大方。

事实证明，Mistral 公司其实有很多亮点，而这些亮点说服了光速创投、法国亿万富翁Xavier Niel 和谷歌前首席执行官Eric Schmidt 向他们投资。

一周前，Mistral 发布了一个 73 亿参数的模型，旨在与 Meta 的 Llama 2（一个 130 亿参数的大型语言模型）竞争。这家法国公司宣称，它是目前大型语言模型领域中功能最强大的语言模型。

这款名为Mistral 7B 的基础模型是专为快速推理和处理较长语句而设计的transformer模型。它利用utilizing grouped-query attention 和 sliding-window attention来实现这一目标。utilizing grouped-query attention结合了多次查询和多头注意力机制，以平衡输出质量和速度。sliding-window attention通过调整窗口大小来扩展上下文长度。Mistral 7B 的上下文长度为 8000 个token，与更大的模型相比，具有低延迟、高吞吐量和高性能的特点。

如今这款 Mistral 7B 模型已经被集成到谷歌的 Vertex AI Notebooks 中，这一集成使谷歌云客户能够深入了解全面的端到端工作流程，使他们能够在 Vertex AI Notebooks 上对 Mistral-7B 及其变体进行实验、微调和部署。

Mistral AI 用户可以使用高效的大语言模型服务框架 vLLM 优化他们的模型。通过使用 Vertex AI 笔记本，用户可以在 Vertex AI 端点上部署由 Model Garden 维护的 vLLM 映像，以进行推理，从而确保简化模型部署。

这项合作的一个关键功能是 Vertex AI 模型注册中心，它是一个中央存储库，使用户能够管理 Mistral AI 模型及其微调模型的生命周期。通过该注册中心，用户可以全面了解其模型的增强组织和跟踪能力。

从该公司的推介会上可以看出，Mistral 公司巧妙地将自己定位为一个重要的潜在参与者。它将帮助欧洲成为建立基础人工智能模型的 "有力竞争者"，并在 "地缘政治问题上发挥重要作用"。

在美国，主推 AI 产品的初创企业主要由谷歌和微软等大企业支持。Mistral称这种 "封闭的技术方式 "让大公司赚到了更多的钱，但并没有真正形成一个开放的社区。

与 OpenAI 的 GPT 模型（其代码细节仍处于保密状态，只能通过 API 获取）不同，这家总部位于巴黎的公司以 Apache 2.0 许可在 GitHub 上开源了自己的模型，供所有人免费使用。

Mistral将目标瞄准了 Meta 的 Llama，而 Mistral 声称他们的大模型产品比 Llama 2 更强。

Mistral 的模型与 Llama 2 的对比

Mistral 在一份报告中表示，Mistral 7B 在多项基准测试中轻松击败了 Llama 2 的 70 亿和 130 亿参数两个模型。

在涵盖数学、历史、法律和其他科目的大规模多任务语言理解测试中，Mistral 的模型准确率达到 60.1%，而 Llama 2 模型70亿参数和130亿参数两个版本的准确率分别为 44%和 55%。

在常识推理和阅读理解基准测试中，Mistral 的表现也优于 Llama 2 的模型。

只有在编码方面Mistral 落后于 Meta 。Mistral 7B 在 "Humaneval "和 "MBPP "两项基准测试中的准确率分别为 30.5% 和 47.5%，而 Llama 2 的 70 亿模式的准确率分别为 31.1% 和 52.5%。

除了性能之外，Mistral 还声称比 Llama 2 使用了更少的计算量。在 MMLU 基准测试中，Mistral 模型的输出的结果是同规模下的 Llama 2 的三倍多。如果与ChatGPT做比较，根据medium的计算，Mistral AI 的使用成本要比 GPT 4便宜约 187 倍，比 GPT 3.5 模型便宜约 9 倍。

如何约束大模型？这是个问题

不过 Mistral 也表示，有一些用户抱怨它缺乏 ChatGPT、Bard 和 Llama 所拥有的安全防护措施。曾有用户向 Mistral 的指令模型询问如何制造炸弹或自残，聊天机器人也给出了详细的指导。