微软和OpenAI这对合作伙伴,将在人工智能芯片赛道上成为竞争对手。
据路透社报道,OpenAI正在考虑构建自己的人工智能芯片来为ChatGPT提供支持。与此同时,有消息称微软将在下个月的年度开发者大会上推出该公司首款专为人工智能设计的芯片。
随着ChatGPT等大型语言模型(LLM)掀起新一轮AI变革浪潮,AI芯片短缺问题日益严重。知情人士称,至少从去年开始,OpenAI就讨论了各种方案来解决其所依赖的AI芯片的短缺问题,目前已经评估了潜在的收购目标,计划由被收购的芯片制造商来完成这个开发任务。
然而,路透社报道称OpenAI尚未决定继续推进这项AI芯片开发计划。
毕竟,研发AI芯片是一个昂贵且耗时的过程。OpenAI花了五年多的时间来研发GPT-4,AI芯片等硬件的开发时间也不会短。
当前,英伟达的H100等AI芯片是目前科技领域最有价值的资源之一,因为它们对于训练ChatGPT等大型语言模型至关重要。这也让科技巨头们纷纷购入大量AI芯片,导致芯片短缺问题更加严重,间接提高了大模型的运行成本。
今年早些时候,有分析师估计ChatGPT的运行成本高达每天70万美元。如果OpenAI成功研发自己的AI芯片,该公司推出的大模型的运行成本将有望减少。
前特斯拉AI总监、重回OpenAI的AI大牛Andrej Karpathy曾预测GPT-5可能需要30000-50000张H100。显然,芯片短缺问题限制了OpenAI的发展脚步。OpenAI首席执行官Sam Altman更是曾公开抱怨GPU市场由英伟达主导。
貌合神离的合作伙伴
2020年,微软为OpenAI建造了一台巨大的超级计算机,使用10000个先进的英伟达 GPU。2023年初,微软又向OpenAI投资100亿美元。微软为OpenAI提供了训练其AI模型所需的巨大计算能力。作为回报,微软能够将OpenAI的模型集成到自己的产品中,例如新必应。
这一系列合作让微软在搜索引擎领域有了与谷歌竞争的实力,但OpenAI和微软实际上一直存在着竞争关系。
早在今年4月就有消息称微软正在研发一款AI服务器芯片,代号为「雅典娜 (Athena)」,并且该芯片的研发从2019年左右就开始了。据the information报道,在开发Athena的同时,微软从英伟达订购了至少数十万张GPU来支持 OpenAI 的算力需求。微软希望Athena能够与英伟达的H100相媲美。
有趣的是,Athena是由微软和OpenAI的团队共同测试的。
9月又有报道称微软正试图通过开发自己的大型语言模型来减少对OpenAI的依赖,并且考虑到不断上升的运行成本,微软要求研究人员构建比OpenAI GPT模型更小、更便宜的替代品。
现在,微软的Athena很有可能会在下个月的年度开发者大会上崭露头角,而OpenAI的芯片研发计划将如何推进还未可知。