记忆体生产商Sandisk(闪迪)(SNDK.US)今年以来股价累升约5.7倍,自去年5月以来的一年内累升逾35倍。Sandisk首席技术官(CTO)兼执行副总裁Alper Ilkbahar接及《日经亚洲》访问时称,全球AI竞赛正变得越来越「以记忆体为中心」而非算力,这趋势或加剧全球史无前例的记忆体晶片供应紧张局面。
他表示,单靠图形处理器(GPU)、中央处理器(CPU)及原始运算能力,不足以应付日益复杂的AI工作负载。
Ilkbahar表示,有几个趋势正在令记忆体变得更为关键。首先,随着大型语言模型变得更大、更智能,它们需要更多记忆体才能有效运作。其次,OpenAI的ChatGPT、Google的Gemini及Anthropic的Claude等系统越来越依赖所谓的KV(key-value)快取。
简单而言,KV快取就像AI的短期记忆,让它能够记住之前的用户输入及对话早期部分,而不必从头开始重复计算每项内容。这种方法显着提升了速度与效率,但随着AI对话及上下文窗口变长,KV快取需要越来越庞大的记忆体容量。
其次是混合专家模型,减少运算但增加记忆体,这就是为何他们将AI竞赛称为以记忆体为中心。
Ilkbahar表示,现在客户正主动作出预先承诺,并签订长期采购协议以确保未来供应。他表示,相信下一件大事将是高频宽快闪记忆体(HBF),目前正在设计晶片,HBF记忆体晶粒将於今年底提供样品,配备控制器的完整产品预计明年推出。
Sandisk表示,随着AI推论工作负载需要更大记忆体容量,HBF可发挥更大作用。该公司称,HBF能提供远高於高频宽记忆体(HBM)的容量与记忆体密度,同时保持相近的频宽,更适合未来的AI推论需求。Sandisk已与SK海力士合作,共同制定HBF技术标准。(da/u)~
阿思达克财经新闻
网址: www.aastocks.com
| 法兴精选 |
| 正股及类别 |
产品编号 |
行使价(收回价) |
价格 |
实际杠杆 |
| 兆易 (购) |
29508 |
980 (-) |
0.445 |
2.0 倍 |
| 壁仞 (购) |
29514 |
68 (-) |
0.227 |
1.8 倍 |
| 美光 (购) |
11115 |
700 (-) |
5.39 |
2.2 倍 |
| 美光 (沽) |
11114 |
400 (-) |
0.390 |
2.3 倍 |