2024 年 7 月，Web2 GPU 云领域的明星创业公司 Together.ai 的 CEO Vipul Ved Prakash 在一档播客中表示，截至当年 4 月，公司年度经常性收入（ARR）达到 4400 万美金，比上年同期增长了 2095%；同年 7 月，公司 ARR 突破 1 亿美金。据报道，Together.ai 或成为了创业公司历史上 ARR 从 100 万美金增长到 1 亿美金最快的公司 [1]。这代表着在高性能算力稀缺的时期，难以负担整套 GPU 设备的中小型创新企业以及计算资源匮乏的研究机构对 Together.ai 这样专注于优化加速 AI 推理的云服务商有着巨大的需求。
随着 Web3 领域各种智能体框架及应用的兴起，同样的市场机会在 Web3 领域也出现了。但是由于去中心化应用运行过程中对隐私与验证有强需求，所有生产要素参与方以及部署流程都需要保证没有恶意参与方，传统的 GPU 云厂商并不能直接实现 Web3 AI 推理中对计算过程的验证，这为专门提供可信 AI 推理的公司提供了创新的土壤。我们接下来要介绍的 Hyperbolic 便是其中的先驱者。
作者：Hendrix，Web3Caff Research 研究员
封面：Photo by Unsplash+，Logo by Hyperbolic，Typography by Web3Caff Research
字数：全文共计 15000+ 字
目录
- 项目背景介绍
- 连接算力和应用的基础设施：Web2 & Web3 视角
- Hyperbolic 基础设施创新设计
- 分布式推理层创新
- Hyper-dOS
- Compiling Service（编译服务）
- 共识协议层创新
- Proof of Sampling
- spML
- 竞争对手
- 应用层创新
- AgentKit
- TEE
- 分布式推理层创新
- Hyperbolic 生态塑造
- 生态核心
- 生态合作
- 行业竞争
- 当前存在的挑战与机遇
- 单位经济模型计算
- AI 推理效率提升
- Web3 蓝海+双边网络飞轮
- 要点结构图
- 参考文献
项目背景介绍
Hyperbolic 于 2023 年由 Jasper Zhang 和 Yuchen Jin 共同创立，他们当时看到市场上有才华的开发者和研究员有大量具有创造性的 AI 构想，但是苦于没有计算资源很难将想法落地。结合两人在读博期间的受制于缺少算力验证自己猜想的经验，他们决定构建一个开放的 AI 云，为所有人提供去中心化的 GPU 推理算力。围绕这个目标他们构建了一个十几人的国际化团队以及强大的专家顾问团队，并快速推出了自己的去中心化 AI 推理平台，为 50 余家科研机构、Web2 / Web3 创业公司提供算力服务并开展更广泛的合作。目前 Hyperbolic 在一年时间内共完成三轮总额达 2000 万美金的融资，分别是由 Chapter One / Modular Capital / Samsung Next 等投资的 Pre-Seed 轮 72.5 万美金，由 Polychain Capital 和 Lightspeed Faction 领投的 700 万美金种子轮，以及由 Variant Fund 和 Polychain Capital 领投的 1200 万美金 A 轮融资。
CEO Jasper Zhang 和 CTO Yuchen Jin 有着非常互补的背景。Jasper 数学专业出身，曾在中国数学奥林匹克竞赛（CMO）与全俄罗斯数学奥林匹克竞赛（RMO）中斩获金牌，本科就读于北京大学数学学院，之后又在两年时间内获得 UC Berkeley 数学博士学位。毕业后他出于对数学应用的兴趣供职于对冲基金 Citadel，后加入 Ava Lab 专注于共识机制性能、可靠性与安全性的研究。出色的能力以及天生对数学的浓厚兴趣让他对共识机制设计有独特见解，在 Hyperbolic 的构建过程中，他带领团队提出了创新性的采样证明机制（Proof of Sampling），为当前 Web3 AI 领域的算力验证提供了能落地的新办法。Yuchen 博士毕业于华盛顿大学，曾在字节和微软研究分布式系统及分布式模型训练，毕业后加入陈天奇博士创立的 OctoML（已于 2024 年被 Nvidia 收购）。OctoML 本身的核心业务就是做上一代机器学习模型推理加速，Yuchen 加入后负责的开源项目能够让 AI 模型轻松跑在不同的计算芯片上，比如 Nvidia 不同系列的芯片以及 AMD 推出的芯片。两个人的合作恰好覆盖了去中心化 AI 推理目前的两个核心问题：如何组织算力以及如何验证计算。此外为了补充团队能力短板，二人还为公司引入了豪华顾问阵容来拓展公司产品的能力边界，包括：
