纸牌屋

200 亿美元收购成果落地：英伟达 Groq 3 LPX 机架全面量产，今年上线_我的网站

A |      8 月 25 日消息，英伟达当地时间周一宣布，Groq 3 LPX 机架已进入全面量产阶段，这标志着该公司史上最大规模收购所获得的技术正式实现商业化。英伟达高级总监迪翁 · 哈里斯（Dion Harris）告诉记者，Groq 机架将与 Vera 中央处理器和 Rubin 图形处理器一起部署在新型云服务商 Nebius 的平台，并将于今年晚些时候上线。

B | 英伟达正在加速生产 Groq 芯片并向客户提供该产品，这凸显出低延迟推理的重要性日益提升。低延迟推理对于让人工智能智能体能够快速响应、避免用户遭遇长时间等待至关重要，尤其是在编程场景中。    你可能知道冬虫夏草是“僵尸真菌”--这是有道理的。英伟达表示，云计算公司可以针对这类 Token 收取更高的费用。它的名字来自希腊语和拉丁语，意思是 “棒头”，许多自然纪录片都关注它感染某些昆虫的能力，最有名的是蚂蚁，并真正地“劫持”它们的身体。冬虫夏草与这些蚂蚁一起进化，并使它们成为其繁殖周期中令人震惊的复杂和可怕的一部分。

C | 我们大多数人通常不会认为真菌特别聪明，但虫草真菌是一个极好的窗口，让我们了解到我们对真菌的了解有多少。

D | 哈里斯表示：“对于那些提供 Token 服务的人来说，这让他们能够为那些真正要求对延迟高度敏感的服务协议的用户和客户，提供高级服务等级。”去年 12 月，英伟达以 200 亿美元（注：现汇率约合 1,347.74 亿元人民币）收购了芯片初创公司 Groq 的相关资产，这是该公司有史以来规模最大的一笔收购。Groq 的架构在芯片裸片本身集成了 500MB 高速 SRAM，以减少与内存相关的瓶颈。当一个Ophiocordyceps unilateralis孢子感染一只蚂蚁时，它开始在蚂蚁的血液中旅行，繁殖。Groq 芯片由三星制造，而英伟达的 GPU 则由台积电生产。不久之后，这些单个细胞开始协同工作，通过管状的菌丝突起连接起来，开始交流和分享营养。然后，这些真菌菌丝开始扩散到蚂蚁的肌肉中，穿透并包围了蚂蚁全身的肌肉纤维，但有一个明显的例外。英伟达将 256 颗独立的 Groq 3 芯片封装到其 LPX 机架中。英伟达表示，根据 Artificial Analysis 的一项基准测试，其 Groq 3 LPX 机架能够达到每秒 3,400 个 Token 的处理速度。这是一个竞争激烈的领域。

E | 与科幻小说中的僵尸不同，虫草真菌通常让蚂蚁的大脑完全不受影响。相反，作为一个超级有机体，真菌网络开始扼杀蚂蚁的运动神经元，直到蚂蚁完全完整的大脑或多或少地与它的身体完全隔离。如果到目前为止，这个过程听起来令人难以置信，那么接下来发生的事情则令人感到恐惧。今年早些时候，AMD 宣布，将把其机架级系统与 Cerebras 的芯片进行整合。Cerebras 最近上市，并将低延迟推理作为重点。OpenAI 新近宣布的“Ultrafast”模式目前承诺可达到每秒 750 个 Token，并由 Cerebras 提供支持。

F | 真菌接管了蚂蚁的身体，并开始"驾驶"它，就像你或我驾驶一辆汽车一样。蚂蚁的运动系统相对简单，而虫草真菌在漫长的岁月中已经学会了如何操作这些腿。

G | 这本身就是一个惊人的壮举，但真菌也清楚地知道它希望其宿主下一步去哪里。

H | 它驱使蚂蚁找到一个垂直的植物嫩枝或树干来攀爬，靠近蚂蚁的巢穴。它驱使蚂蚁在植物上爬行约25厘米（10英寸），那里的温度和湿度最适合。它促使蚂蚁咬住一片叶子的中心茎，把它的下巴锁死，并决定蚂蚁的最后安息之地。低延迟芯片并不会取代 GPU，后者仍然是 AI 芯片领域的主力。我们无法知道蚂蚁孤立的大脑在这个过程中经历了什么，但在未来几周内，它的身体将被虫草真菌吞噬，它的头部将爆发出真菌的生殖器官，迸发出一个突起，最终扑灭一批新的真菌孢子，它们从离蚁巢不远的完美高度轻轻地飘落到森林地面，准备感染新的受害者。GPU 既可以执行训练，也可以执行推理，同时具备足够的灵活性，能够适应新技术和新模型。Groq 这类低延迟芯片主要专注于模型服务过程中的一个环节，即所谓的“解码”（decode）阶段。这种由蚂蚁操纵的生物体所表现出的可怕的真菌智慧，成为纪录片和科幻小说的杰出素材。然而，许多人没有意识到，这只是虫草真菌的一个特别可怕的物种。研究人员知道还有750多种虫草真菌，每种虫草真菌的生命周期都围绕着一个特定的宿主--通常是昆虫幼虫--进行，其过程与上述的过程一样精细。许多西方国家的人也没有意识到，某些类型的虫草真菌--特别是冬虫夏草和蛹虫草--是许多东方医药传统中的顶级保健品，在那里它们被用于治疗疲劳、肾脏疾病、性欲低下、呼吸系统问题、高血糖和一系列其他疾病已经有几个世纪了。哈里斯表示：“这并不是要取代 GPU，而是要针对工作负载的不同部分，使用价格合适、处理能力合适的处理器。对于这些真菌及其成分化学品在动物和实验室模型中的影响，已经做了一定的科学研究，一些结果当然看起来很有希望。”目前，英伟达正在逐步增加 Vera Rubin 系统的出货量，该系统已于今年早些时候开始生产。2021年《药理学前沿》杂志对同行评审的研究进行了回顾：“它的提取物和生物活性成分已经与细胞因子的产生有关，如白细胞介素和肿瘤坏死因子（TNF）-α，免疫细胞的吞噬刺激，通过增加诱导性一氧化氮合成酶的活性产生一氧化氮，以及通过丝裂原激活蛋白激酶的途径刺激炎症反应。其他药理活动，如抗氧化、抗癌、抗高脂血症、抗糖尿病、抗疲劳、抗衰老、低胆固醇、降血压、血管舒张、抗抑郁、壮阳和保护肾脏等，在临床前研究中都有报道。”冬虫夏草作为一种健康、能量、免疫力和耐力的补充剂而受到欢迎，再加上其复杂的繁殖过程依赖于其他生物体，使得冬虫夏草的价格非常昂贵。在 3 月份发布 Vera Rubin 和 Groq 3 LPX 时，英伟达首席执行官黄仁勋预计，到 2027 年，当前一代 Blackwell 芯片与全新 Vera Rubin 系统的累计销售额将达到 1 万亿美元（现汇率约合 6.74 万亿元人民币）。虽然实验室培育的"素食"冬虫夏草CS-4提取物作为负担得起的（而且基本上不受管制）保健品在市场上广泛销售，但这些通常是在发酵的米粒上生长。据韩国忠北大学的研究人员称，问题是把冬虫夏草放在这种素食中会导致产品变差，其中一种叫做虫草素的关键生物活性化合物的含量特别低，研究人员认为这是重要的"治疗"成分。黄仁勋当时表示，他计划将数据中心中用于编程应用的空间的四分之一分配给 Groq 芯片。黄仁勋说：“我的数据中心其余部分将全部采用 Vera Rubin。

I | ”英伟达计划于当地时间周三公布财报。因此，研究小组开始调查，在实验室里用昆虫而不是大米作为基质培育冬虫夏草菌株，是否会提高其有用的虫草素水平。研究小组收集了六种不同的市售干昆虫，它们在韩国都被批准作为食品出售：蟋蟀、蚕蛹、黄粉虫、蚱蜢、白星花金龟幼虫和日本犀牛甲虫，并以糙米作为对照。然后，他们在上面培养了两个月的冬虫夏草，收获了真菌的子实体，并分析了每种类型的冬虫夏草素的产生量。结果大相径庭，但所有以昆虫为基础的真菌产生的虫草素都比用大米喂养的多得多。表现最差的昆虫，即蚕蛹，产生的虫草素约为大米的三倍。表现最好的是日本犀牛甲虫，产生的虫草素是大米的100倍左右。研究人员设法将主要因素缩小到昆虫的脂肪含量--特别是它们的油酸水平。当油酸被添加到蚕蛹中时，它将虫草素的生产提高了50%，令人印象深刻。描述这项工作的新研究论文的高级作者Lee博士说：“这项研究中建议的冬虫夏草栽培方法将使虫草素的生产更加有效和经济。然而，确保可食用昆虫还不足以扩大到工业水平。人们还认为，通过使用其他昆虫可能会有更有效的生产，这需要通过进一步的研究加以证明。”该研究发表在同行评议的《微生物学前沿》杂志上。

J |

Current article:http://www.shangfochengcongshuaizhuang.buzz/h1ext/hlmhxv.html

Published on:01:28:23