文章列表-AI魔法学院

文章列表

AI国力战争：GPU是明线，HBM是暗线

如果未来对HBM的限制变严格，那么就意味着我国在AI算力的三要素—先进制程、GPU和HBM—中，将陷入全方位的被动局面。

GPU HBM 大模型

语言大模型100K上下文窗口的秘诀

数据从“慢速”的HBM（高带宽内存）复制到SRAM中，并在计算完成后返回到HBM。

大模型

比GPT-4快18倍，世界最快大模型Groq登场！每秒500 token破纪录，自研LPU是英伟达GPU 10倍

它采用了时序指令集计算机（Temporal Instruction Set Computer）架构，这意味着它无需像使用高带宽存储器（HBM）的GPU那样频繁地从内存中加载数据。

Groq 大模型

OpenAI视频模型Sora的推理生成成本多高？

存储方面，还是尽可能增大显存大小，比如到 144G，可以堆叠 HBM。

Sora 推理算力

芯片拼接技术：英伟达新核弹，站在苹果的肩膀上

尾声除了CoWoS，另一个被生成式AI带火的技术HBM，其探索同样可以追溯到十年前。

芯片拼接

芯片拼接技术：英伟达新核弹，站在苹果的肩膀上！

尾声除了CoWoS，另一个被生成式AI带火的技术HBM，其探索同样可以追溯到十年前。

芯片拼接技术

大模型训练为什么用A100不用4090

哦，只剩下 HBM 了，当前 DRAM 市场疲软得都快要死掉一家的鬼样了，即使是 HBM3 大抵都是亏本在卖，差不多只需要 $15/GB，嗯，80GB 的容量成本是 $1200。

大模型

汇聚AI资讯，网罗AI文档，详解AI工具！

关于我们用户协议隐私条款商务合作：skillupvip

© 2023-2025 AI魔法学院

京ICP备20027199号-1