搁置高端另辟蹊径 28nm芯片单卡运行千亿参数大模型

  当下英伟达、搁置高端AMD继续深耕先进制程,辟蹊依靠堆叠HBM显存打造高端AI加速卡,芯行千而中国台湾企业Skymizer另辟蹊径,片单采用成熟老旧技术推出差异化硬件方案。卡运

游侠网1

  该企业发布HTX301 PCIe AI加速器,搭载28nm自研芯片,模型搭配LPDDR4/5内存,搁置高端搁置行业主流的辟蹊HBM、GDDR显存。芯行千其单卡便可运行7000亿参数大语言模型。片单设备集成6颗协同芯片,卡运最高拥有384GB内存,亿参功耗仅240W,模型凭借专属压缩技术,搁置高端推理性能较开源框架提升9%至17.8%。

游侠网2

  对比竞品,英伟达、AMD同类产品功耗均为其两倍以上。该加速卡为标准PCIe规格,适配平常风冷服务器,降低部署成本,同时规避云端隐私泄露风险。

游侠网3

  目前性能数据仅为官方公布,暂无第三方验证,厂商计划在今年台北电脑展展示实机,接纳专业机构全面检测。对此,你怎么看呢?迎接在评论区留言讨论。


This entry was posted in
上一篇:游侠早报:夏日游戏节多方预热 国产3A《归唐》官宣
下一篇:专家分析:美伊在关键问题上未让步 谈判存不确定性