好意思国田纳西州孟菲斯,全球最大超等估量打算中心“Supercluster”已于当地工夫7月22日凌晨4:20崇拜驱动运转。该技俩附庸于马斯克旗下的xAI。
埃隆·马斯克最近在酬酢平台“X”上秘书了这一讯息。他示意,xAI公司已驱动在“Supercluster”上进行历练,该集群由10万个液冷英伟达(Nvidia)H100 GPU构成,在单个而已径直数据存取(RDMA)结构上运行,堪称是“寰球上最强劲的AI历练集群”。
对比来看,OpenAI历练GPT4,需要用到25000块A100GPU,约为前者的1/20。
“它是寰球上最强劲的AI历练集群。”马斯克宣称,Supercluster将全处所、深档次地参与并加快“寰球上最强劲东谈主工智能”的历练进程。
从GPU界限上来看,这一集群也曾全面高出了最新Top500榜单上的任何一台超等估量打算机,包括越过配备37888个AMDGPU的Frontier、60000个IntelGPU的Aurora,以及14400个NvidiaH100GPU的MicrosoftEagle,在界限和历练后果被公觉得全球最强劲的AI历练平台。
xAI独创成员TobyPhln示意,“一年前创办这家公司时,咱们的标的是兑现三大上风:数据上风、东谈主才上风和估量打算上风。从今天驱动,咱们领有了这三项上风。”马斯克随后转载了这一讯息。
Supercluster原定于2025年秋季启动,xAI提前了一年兑现该标的。
据福布斯报谈,据大孟菲斯商会主席Ted Townsend裸露,马斯克仅消耗一周,就决定将他的东谈主工智能初创公司xAI的新超等估量打算机建造在孟菲斯。
“经过3月份的几天旋风式谈判之后,马斯克和他的团队(其中包括他旗下几家公司的代表)遴荐了田纳西州的这座城市。”Ted Townsend阐扬称,这里有富裕的电力和快速树立的能力,该技俩将价值数十亿好意思元。在遴荐孟菲斯之前,xAI还与其他七八个城市进行了洽谈。
本年6月份,Ted Townsend曾告诉彭博社,关系新厂的好多细节尚未败露,包括总老本和将创造的作事数目。他示意,该市还盘问了向xAI提供税收减免或其他营业激勉步调,以诱骗技俩落户孟菲斯,但具体细节尚未敲定。
xAI承包商将该技俩称为“巨东谈主技俩”(Project Colossus),源自于1970年的科幻电影《巨东谈主:福宾经营》,讲述的是一个失控的东谈主工智能被赋予好意思国核武库欺压权的故事。“巨东谈主,它能看到一切,感知一切,了解一切,欺压统统火器和醒目。当这个莫得情谊的造物成为东谈主类的讹诈时,拒绝将是不舒坦性的。”
可是,这一投资程度并不堪利。福布斯报谈称,孟菲斯市议会的几名议员正在敦促该市叫停这项投资,智操盘议员们被排斥在技俩决议进程除外。当地大众对这笔交游暗暗摸摸的性质和数据中心对水电的需求感到担忧。
东谈主工智能的发展正在对泰西国度带来宏大的电力包袱。
凭证海外动力署的数据,一次ChatGPT查询需要2.9瓦时的电力,与之比较,谷歌搜索仅需要0.3瓦时的电力。高盛辩论部估量,2023年至 2030年间,东谈主工智能所驱动的数据中心功耗每年总体增长约200太瓦时;到2028年,瞻望东谈主工智能将占数据中心电力需求的19%傍边。
据估量,xAI孟菲斯工场每小时可能使用高达150兆瓦的电力,迥殊于10万户家庭所需电量,而xAI瞻望每天至少需要100万加仑的散沸水。这可能会对当地来说会形成宏大的包袱。
xAI为了达成这项契约,已理论快乐将改善孟菲斯的寰球基础才智,以缓助数据中心的发展,包括兴修一个新的变电站和一个浑水经管才智。可是,这一举措并弗成让当地东谈主信托,马斯克此前在其他地方快乐的一些寰球基础才智技俩并未如约推动。
另一方面,马斯克从OpenAI高薪挖来的Kyle Kosic,已于本年4月下野,重返OpenAI。
伴跟着非议,马斯克的AI梦念念仍在快速前进。
当地工夫5月26日,xAI秘书完成60亿好意思元的B轮融资。
马斯克另外裸露,xAI的Grok-2模子在来自甲骨文的2.4万个英伟达H100芯片上进行历练,“可能准备下月发布”。此前,xAI也曾从甲骨文租用了轻便1.6万颗H100芯片,成为该公司此类芯片最大客户。
6月19日,马斯克在酬酢平台X上示意,戴尔正在拼装xAI在建超等估量打算机的一半机架,日本SMC拼装另一半。7月9日,xAI已收尾与甲骨文扩大现存契约、租用英伟达芯片的洽谈。甲骨文在旧年9月示意,将向xAI提供云基础才智以历练AI模子,但未裸露合同价值和期限。本年5月有报谈称,两家公司接近达成扩大配合关系的契约,xAI将斥资约100亿好意思元向甲骨文租用云服务器、为期数年。
马斯克称,xAI的10万个H100GPU也曾参预到Grok3模子的专项历练中,瞻望将于本年12月前完成历练。
当今,xAI也曾发布了Grok-1、Grok-1等多个版块的模子。本年发布的Grok-1.5模子已具备长高下文能力,而Grok-1.5V则有了图像默契能力。
按照经营,xAI将在8月份发布Grok2。马斯克的最终标的是在本年12月之前历练出“按每技俩的磋议齐是寰球上最强劲的东谈主工智能”——Grok3。
相较于其他竞争敌手,xAI入局较晚,在模子参数弘扬上也不杰出。但财大气粗的马斯克示意,“咱们的根蒂竞争力有赖于比其他任何东谈主工智能公司更快。”