钛媒体· 半导体产业纵横·· 2 天前精选AI 评分62
大模型一体机开始缩水:满血版遇冷,轻量化 AI BOX 兴起
大模型一体机,开始缩水了
AI 导读
大模型一体机市场正从追捧 671B 满血版转向轻量化设备,多数中端机型最多只能运行 70B 级别模型。文章归因于需求挤泡沫、模型能力密度提升、高端芯片供给受限和内存涨价,并指出满血高端机型仍集中在有强合规要求的央国企和金融机构。
推荐理由
梳理大模型一体机从满血版遇冷到轻量化 AI BOX 兴起的市场分层,并给出高端机型仍适用的合规与生产场景。
来源:钛媒体 · tmtpost.com