澳洲幸运8 英伟达与Groq,官宣本事授权

本文由半导体产业纵横(ID:ICVIEWS)详尽
英伟达将以200亿好意思元收购Groq的部分钞票。
英伟达与东说念主工智能芯片竞争敌手Groq达成了一项非独家授权公约。看成公约的一部分,英伟达将礼聘Groq独创东说念主乔纳森·罗斯、总裁桑尼·马德拉特别他职工。
英伟达将以200亿好意思元收购Groq的部分钞票;英伟达暗示,这并非对Groq的收购,况兼莫得表示往来的具体范围,不错笃定的是这笔收购预测将成为英伟达有史以来范围最大的一笔往来,而有了Groq的加入,英伟达有望在芯片制造边界占据愈加主导的地位。
跟着科技公司竞相升迁东说念主工智能才气,它们需要刚劲的蓄意才气,而英伟达的GPU已成为行业步调。但Groq一直在研发一种名为LPU(谈话惩办单元)的新式芯片,该公司宣称其启动LLM (谈话学习模子)的速率是GPU的10倍,能耗却唯有相当之一。
2024年2月,Groq推出了一款全新的AI芯片,宣称驱散了“地表最强推理”——在Groq上启动大模子的推理速率较英伟达GPU提高10倍以致更高。2025年11月,好意思国白宫和好意思国动力部的最新声彰着示,24家顶尖的东说念主工智能企业已与好意思国政府签署公约,加入“创世纪看法”,英伟达和Groq王人位列其中。
Groq的首席践诺官乔纳森·罗斯以这类立异而着名——他曾在谷歌责任,参与研发了TPU(张量惩办单元),一种定制的AI加快芯片。本年9月,Groq融资7.5亿好意思元,估值达69亿好意思元。该公司增长赶快且权臣——Groq暗示,其为跨越200万建筑者的AI行使提供赞助,而前年这一数字约为35.6万。
需要浮松的是。Groq LPU的责任旨趣与英伟达的GPU不同,它接管了名为时序教唆集蓄意机(Temporal Instruction Set Computer)架构,使用存储器为静态立时存取存储器(SRAM),其速率比GPU所用的高带宽存储器(HBM)快约20倍。
从芯片的规格中,SRAM容量是230MB,带宽80TB/s,FP16的算力是188TFLOPs。这一分手变成了 LPU和GPU在生成速率的判袂。据Groq暗示,英伟达GPU生成每个tokens需要约10焦耳(J)到30焦耳,而 Groq 仅需1焦耳到3焦耳。
{jz:field.toptypename/}但Groq LPU并不是完好的,其濒临资本与通用性濒临挑战,为启动大模子所需的刚劲集群带来了娴雅的购置和运维资本,澳洲幸运8app且专用芯片难以生动得当快速迭代的AI算法。
前阿里巴巴集团副总裁、Lepton AI独创东说念主兼CEO 贾扬清曾在酬酢平台上暗示,由于每一张Groq卡的内存容量仅为230MB,因此在启动Llama-2 70B模子时,需要305-572张Groq卡才满盈,而用H100则只需要8张卡。
贾扬清以为,淌若按昔时启动三年的资本算,Groq的硬件采购资本是1144万好意思元,运营资本至少要76.2万好意思元。从当今的价钱来看,这意味着在同等模糊量下,这险些是H100硬件资本的40倍、能耗资本的10倍。
不啻是资本娴雅。SRAM本事面积大、功耗比拟高,早就以IP内核面貌集成到SoC(系统级芯片)内部,并非单独用,远不如HBM的昔时发展后劲。业内东说念主士暗示,详尽来看,岂论是比单元容量价钱、已经性能和功耗,英伟达GPU所使用的HBM本事王人优于SRAM。
为止10月底,英伟达握有的现款及短期投资范围为606亿好意思元,高于2023年头的133亿好意思元。跟着现款储备不停增多,英伟达连年来握续加大对芯片初创公司及统共这个词生态系统的投资。本年9月,英伟达暗示看法向OpenAI投资最高1000亿好意思元。同月,英伟达还暗示将向英特尔投资50亿好意思元。笔据协作公约,在数据中心边界,英特尔将为英伟达定制x86 CPU,由英伟达将其集成至AI基础花样平台;在个东说念主蓄意边界,英特尔将分娩并供应集成了英伟达RTX GPU芯片的x86系统级芯片(SOC)。两边并未给出首批家具上市的时候表,并称这次公告不影响各自既定的昔时议论。
"这一历史性的协作将英伟达的AI和加快蓄意堆栈与英特尔的CPU和刚劲的x86生态系统详尽蚁合——两个宇宙级平台的和会。咱们将共同推广咱们的生态系统,为下一个蓄意期间奠定基础。"英伟达首席践诺官黄仁勋曾在一份新闻稿中暗示。
除此之外,英伟达还投资了AI和动力基础花样企业Crusoe、AI模子建筑商Cohere,并在AI云工作商CoreWeave上市之际进一步加大了投资力度。
*声明:本文系原作家创作。著作实际系其个东说念主不雅点,本身转载仅为共享与照应,不代表本身嘉赞或认可,如有异议,请干系后台。
#优质图文扶握看法#

备案号: