到目前为止,Nvidia的GPU一直在AI芯片竞赛中领跑,但是一些AI芯片初创公司无论是在成本、效率、性能、还是在深度学习和机器学习工作负载的灵活性等方面,都可以赶超芯片巨头。
市场研究公司Global Market Insights今年发布的一份报告显示,人工智能加速器芯片的全球市场规模预计每年增长速度为35%,从2019年的80亿美元将增长到2026年的700亿美元,这也说明,AI芯片市场涌入了大量现金流,也充满了各种机会。
下面是我们根据最近的里程碑事件(例如融资、产品发布或者性能记录)梳理出2020年最酷的10家AI芯片初创公司。
Blaize
首席执行官:Dinakar Munagala
Blaize称,他们的Graph Streaming Processor是首个同时在单系统上运行多个人工智能模型和工作流程的处理器。这家总部位于美国加州埃尔多拉多的初创公司,于去年秋天走出隐身模式,今年初推出了自己的计算架构,并获得了8700万美元的投资。8月,Blaize发布了首批商用产品,包括用于边缘服务器的Xplorer X1600E和Xplorer X1600P,以及用于小型边缘设备的Pathfinder P1600。Blaize表示,Graph Streaming Processor克服了AI处理成本和尺寸方面的障碍,效率比现有解决方案高10到100倍。
Cerebras Systems
Cerebras Systems表示,他们的Wafer Scale Engine处理器是有史以来体积最大的芯片,有1.2万亿个晶体管,封装了40万个计算内核,为Cerebras Systems的CS-1系统,今年11月,这家位于美国加州洛斯阿尔托斯的初创公司称,他们的CS-1系统运行神经网络的速度比GPU快10000倍。去年Cerebras Systems首次推出WCE芯片和CS-1系统,目前已经拿下了多个大单,包括为美国能源部的阿贡国家实验室和美国国家科学基金会的匹兹堡超级计算中心提供CS-1系统。
Flex Logix Technologies
Flex Logix Technologies表示,他们的InferX X1芯片是全球边缘推理速度最快的芯片,吞吐量是Nvidia Jetson Xavier芯片的11倍,而尺寸仅为后者的1/7,成本也低得多。这家位于美国加州山景城的初创公司今年10月表示,将把InferX X1芯片与InferX X1P1和X1P4 PCIe以及InferX X1M M.2一起推向市场,并称可以为低价位的服务提供每一美元更高的吞吐量。此外,Flex Logix Technologies还推出了一套用于优化和应用支持的软件工具。
Graphcore
Graphcore表示,他们的智能处理单元芯片是首款专为机器智能设计的处理器。这家总部位于英国布里斯托尔的初创公司在今年6月发布了最新的Colossus MK2 IPU,和相对应的M2000系统,该系统配备了4个MK2 IPU。Graphcore表示,8个M2000系统在运行FP32计算任务的时候性能要比Nvidia DGX A100系统高出12倍,而AI计算则要高出3倍多,总成本却仅高出30%。目前Graphcore已经和多家系统厂商和OEM厂商建立了渠道合作伙伴计划,包括Penguin Computing、Lambda、Dell Technologies和Atos。
Hailo
Hailo表示,他们的Hailo-8深度学习芯片可在边缘提供数据中心级的性能,同时在尺寸、性能和功耗方面击败竞争对手的边缘处理器。这家总部位于以色列特拉维夫的初创公司于今年早些时候表示,已经从瑞士制造跨国公司ABB的企业风险投资机构ABB Technology Ventures以及日本IT巨头NEC那里获得了6000万美元的B轮融资。Hailo-8的结构驱动型数据流体系结构具有高性能、低功耗和最小延迟的特点,可以在智能相机、智能手机和自动驾驶汽车等边缘设备中提供每秒多达26万亿次操作的性能。
Kneron
Kneron正在针对支持音频和视觉识别应用的边缘设备设计人工智能芯片。这家位于美国圣地亚哥的初创公司于今年8月推出了下一代芯片Kneron KL720,该芯片支持完整的自然语言处理和增强的视频处理功能。Kneron表示,目前已经向设备制造商提供了该芯片的样品,其能效是英特尔Movidius AI芯片的2倍,在相同性能水平上成本降低了一半。Kneron在今年的A轮融资中获得了4000万美元,在高通等投资方的支持下,总融资金额达到了7300万美元。
LeapMind
LeapMind通过一款面向ASIC和FPGA电路设计的超低功耗AI推理加速器设计进军处理器IP业务,该加速器可以以较小的、1至2字位的数据格式运行AI模型,其精度几乎与8位数据是相同的。这家位于日本东京的初创公司称,在LeapMind IP上运行AI模型并不需要尖端的半导体制造工艺,也不需要使用专门的单元库来实现推理处理功率和空间效率的最大化。LeapMind预计今年将交付Efficiera IP、一款软件开发套件和其他工具服务。
SambaNova Systems
SambaNova Systems致力于通过硬件和软件推动人工智能工作负载,与众不同之处在于他们集成的硬件和软件具有可重新配置的数据流架构。这家位于美国加州帕洛阿尔托的初创公司表示,该架构可以让应用主要负责推动硬件优化的方式,从而提高数据中心和边缘的性能。今年2月SambaNova Systems在C轮融资中获得了来自Intel Capital、BlackRock和其他投资方的资金,用于进一步提高其软件能力。
SiMa.ai
首席执行官:Krishna Rangasayee
SiMa.ai表示,他们的机器学习片上系统(简称MLSoC)是首个将高性能、低功耗和硬件安全性相结合的芯片,主要用于机器学习推理。这家位于美国加州圣何塞的初创公司表示,这款SoC环保且高效,每秒每瓦每秒发送帧的速度是竞争对手的30倍。今年5月SiMa.ai在由Dell Technologies Capital领投的A轮融资中获得了3000万美元,用于加快生产和客户交付。
Tenstorrent
首席执行官:Ljubisa Bajic
Tenstorrent表示,他们的Grayskull AI处理器可以通过业界首个可动态消除不必要计算的条件执行架构,将深度学习性能提升到新的水平。这家位于多伦多的初创公司在今年4月发布了Grayskull,这种新的架构方法可以适配模型的确切输入并紧密集成计算和网络,使处理器能够随着AI模型的持续增长而扩展。到目前为止Tenstorrent已经从Eclipse Ventures和Real Ventures等投资方那里获得了3320万美元的融资。