OpenAI重金押注的“类脑”AI芯片,到底是什么?

作者: 美漪

来源: 极客公园

发布日期: 2023-12-10 20:00:53

OpenAI与Rain AI签订了一份价值5100万美元的意向书,承诺会在Rain AI的芯片上市后购买芯片。Rain AI是一家AI芯片初创公司,旨在大幅降低AI算力的成本。通过研发一种模仿人脑的工作方式的AI芯片——NPU,从而为OpenAI和Anthropic等AI公司提供“低成本、高能效的硬件”。该公司称,“相比传统的GPU,NPU将为AI开发者(如OpenAI)提供潜在的100倍计算能力,并在训练方面提供10,000倍的能效。”

OpenAI的权力之争才刚刚落幕,一场关键交易悄悄浮出了水面。据外媒《连线》(Wired)报道,在Sam Altman担任OpenAI的首席执行官期间,OpenAI与Rain AI签订了一份价值5100万美元的意向书,承诺会在Rain AI的芯片上市后购买芯片。Rain AI是一家AI芯片初创公司,旨在大幅降低AI算力的成本。

通过研发一种模仿人脑的工作方式的AI芯片——NPU,从而为OpenAI和Anthropic等AI公司提供“低成本、高能效的硬件”。该公司称,“相比传统的GPU,NPU将为AI开发者(如OpenAI)提供潜在的100倍计算能力,并在训练方面提供10,000倍的能效。”鉴于,OpenAI一直受困于算力短缺,也就不难理解,它会愿意花费大量资金,来确保自己的AI项目所需的芯片供应。

Rain AI的核心产品是基于神经拟态(Neuromorphic)技术的“类脑”AI芯片——NPU。芯片旨在实现低耗、高效地处理信息,从而满足AI任务的苛刻计算需求。它模仿了人脑的结构和功能,类似于大脑中的神经连接,建立在人工突触相互连接的网络上。这种架构允许NPU以并行和分布式的方式处理信息,使其非常适合AI应用中的“计算密集型任务”。

而且,Rain AI率先采用了数字内存计算(D-IMC)模式,进一步提升了AI处理、数据移动和数据存储的效率。

Rain AI的NPU旨在以低功耗高效处理信息,满足AI任务的苛刻计算需求。

此外,Rain还为数字内存计算磁贴和软件栈,提供了知识产权(IP)许可机会,该IP是专门为要求超低延迟和高能效的设备上的AI工作负载而定制的,涵盖了长距离以太网(Long Reach Ethernet, LRE)的一系列计算用例,包括智能汽车、智能手表等。

针对自家产品,Rain打出的solgan是“重新定义AI计算的极限”,并宣传“我们的AI加速器在速度、功耗、面积、精度和成本之间实现了创纪录的平衡”。

Rain AI的创始者之一,Gordon Wilson更是在LinkedIn上直言,“NPU芯片将定义新的AI芯片市场,并大幅颠覆现有市场。

”不过,值得注意的是,尽管Rain AI号称自己相比于英伟达的GPU有更好的能效,但Rain的初始芯片,其实是基于谷歌、高通和其他科技公司支持的传统的RISC-V开源架构,旨在用于远离数据中心的所谓边缘设备,如手机、无人机、汽车和机器人等。但是,当前的大多数边缘芯片设计,如智能手机采用的芯片,都专注于神经网络的推理阶段。

而Rain的目标是提供一种芯片,既能用于模型和算法的训练,又能用于之后的推理运行。

目前,Rain AI已经推出首个AI平台,可进行AI推理和训练,还宣称“类脑”芯片(NPU)将允许AI模型,根据周围环境实时定制或微调。对此,Sam Altman还曾公开表示,“这种神经拟态方法能大幅降低AI开发成本,并有望为实现真正的AGI提供帮助。

”据悉,OpenAI希望利用这些芯片来降低数据中心的成本,并将自己的模型部署在手机和手表等设备中,那么“类脑”芯片(NPU)更是无疑对OpenAI来说有着巨大的吸引力。尽管如此,这些也都只是猜测。目前,OpenAI将如何使用Rain芯片还是不得而知。

Rain AI成立于2017年,旨在为为未来的AI构建“低成本”的计算平台。

Rain AI有三位联合创始人,分别是Jack Kendall、Gordon Wilson、Juan Claudio Nino,他们在佛罗里达大学大学结识,此外,还聘请了OpenAI的软件工程师Scott Gray担任公司顾问。目前,Rain AI约有40名员工,包括AI算法开发和传统芯片设计方面的专家。有趣的是,Rain AI的总部也位于旧金山,与OpenAI相距不到一英里。

公司成立的次年,Rain AI就在种子轮融资中,获得了500万美元的融资,投资者包括知名的创业孵化器Y Combinator。彼时,Altman正在担任Y Combinator的CEO,同时还以个人名义向Rain AI投资了100万美元。一年后,OpenAI通过了这份价值5100万美元的芯片购买协约。

截至2022年4月,经历了由沙特阿拉伯附属基金Prosperity7 Ventures领投的价值2500万美元的一轮融资,Rain的总融资额达到3300万美元,估值也达到了9000万美元。今年年初,该公司向潜在投资者“夸炫”其进展,表示预计本月就可以推出“测试”芯片,这将意味着芯片设计已经完成,可以开始制造。

Rain AI还表示最早于明年10月可向客户提供第一批芯片,甚至向投资者强调,自己已经与谷歌、甲骨文、Meta、微软和亚马逊等科技巨头进行了高级谈判,以销售系统给它们。但对此,微软拒绝置评,其他公司没有回应置评请求。

简而言之,Rain AI仍处于开发阶段,目前尚不清楚何时才能投入商用。尽管该公司的“类脑”芯片(NPU)技术前景广阔,支持者也备受瞩目,但它仍面临着许多挑战。

不管Altman投资Rain AI这番举动有没有私心在里面,芯片短缺确实是OpenAI面临的一大难题。事实上,一年前,ChatGPT刚刚发布不到一周,Altman就感觉到计算成本“惨不忍睹”。之后,更是不止一次公开抱怨AI芯片的“残酷紧缺”和“令人瞠目”的成本。今年5月份,Altman更是无奈承认,“OpenAI正在经历严重的算力短缺,许多短期计划都推迟了。”

众所周知,OpenAI利用其主要投资者微软的强大云服务,但由于硬件限制,经常关闭ChatGPT的某些功能。对此,Altman表示,“AI的进展速度可能取决于新的芯片设计和供应链。”毕竟在当下,算力就是一切。事实上,Altman本人很早之前就对芯片进行了投资布局。除了Rain AI,2021年前后他还参与投资了Cerabras,就是芯片像盘子一样大,需要两只手捧着的那家AI公司。

今年初“硅仙人”Jim Keller与“硅神童”Sam Zeloof成立的Atomic Semi(通过简化和缩小半导体工厂和集成电路原型,快速制造价格合理的芯片),Altman也有关注,OpenAI Startup Fund还参与了投资。

此外,就在Altman被OpenAI解雇的前几周,还有消息称他正在试图筹集数十亿美元,创办一个新的芯片公司。

项目的详情还不得而知,只知道代号为“Tigris”,旨在与英伟达在AI芯片领域展开竞争。据悉,为了“Tigris”项目,Altman曾在中东筹集资金。地点的“巧合”,不禁让人怀疑这个项目和Rain是否有什么关联。另外,Altman还曾与包括芯片设计公司Arm在内的半导体高管进行过讨论,商讨如何尽早设计出新的芯片,为OpenAI这样的大语言模型公司降低成本。

而且,不止Altman,OpenAI也正在寻找更低成本造大模型的可能,从而摆脱对英伟达的依赖。除了寻找像Rain AI这样的芯片供应商,对外投资之外,OpenAI前段时间也开始尝试自研芯片,评估潜在收购目标,并招聘硬件相关岗位。前不久,OpenAI任命了前谷歌TPU的负责人,Richard Ho为硬件主管,还聘请了不少编译器和内核方面的专家,并且正在招聘“数据中心设施设计专家”。

Richard Ho将领导OpenAI的新部门,并且帮助优化合作伙伴的,数据中心网络、机架和建筑。但这些前瞻性的投资布局,还是很难解决眼前的GPU短缺的问题,目前,OpenAI大规模使用的还是英伟达的芯片。

据观察,OpenAI正在动态的调整ChatGPT等产品的能力来节省算力。这也就不难理解,有网友最近发现GPT-4相比GPT-3.5更容易“偷懒”。

随着大模型的出现,人们开始关注大型AI模型数据中心的耗电情况。Rain和其他一些芯片初创公司,旨在重新配置数据处理方式,从而减少传输需求,降低功耗。谷歌、微软、AMD、英特尔、亚马逊,以及Cerabras、Sambanova、Rain等初创公司相继入局AI芯片未来,AI算力供应的市场是否会有所变化?而OpenAI能否摆脱算力受制于人的局面?

从芯片超长的周期来看,这些难题还将继续存在相当长的一段时间。

UUID: fe0a00a4-eabb-47d4-8107-714b3a580d24

原始文件名: /home/andie/dev/tudou/annot/AI语料库-20240917-V2/AI语料库/果壳公众号-pdf2txt/2023/果壳_2023-12-10「转」_OpenAI重金押注的“类脑”AI芯片,到底是什么?.txt

是否为广告: 否

处理费用: 0.0085 元