当前位置:首页 > 通信技术 > 通信先锋
[导读]7月30日消息,AMD Zen5架构的锐龙AI Max+ 395,是第一个可以在本地运行700亿参数AI大模型的平台,当然需要搭配128GB统一内存,而现在,AMD奉上重磅升级,1280亿参数大模型都可以在本地运行了!

7月30日消息,AMD Zen5架构的锐龙AI Max+ 395,是第一个可以在本地运行700亿参数AI大模型的平台,当然需要搭配128GB统一内存,而现在,AMD奉上重磅升级,1280亿参数大模型都可以在本地运行了!

当然,能做到这一点的还是只有锐龙AI Max+ 395,还是必须搭配128GB统一内存,并分配96GB作为显存,而且必须在Vulkan llama.cpp环境下。

驱动方面需要搭配还在测试阶段的25.10 RC 24版本,下个月初将会变成正式版25.8.1。

这使得锐龙AI Max+ 395成为第一个能在本地运行1090亿参数的Meta Llama 4 Sout大模型的平台,体积多达66GB,活跃参数最多170亿,并支持Vision、MCP。

这得益于该模型使用了混合专家(MoE)模式,每次只激活模型的一部分,从而保持性能可用,锐龙AI Max+ 395实测可以做到每秒15 Tokens。

同时,锐龙AI Max+ 395还可以跑68GB体积、1230亿参数的Mistral Large,至于18GB、300亿参数的Qwen3 A3B、17GB、270亿参数的Google Gemma,自然更是不在话下。

当然,锐龙AI Max+ 395还支持各种各样的模型尺寸、量化格式,包括GGUF。

本站声明: 本文章由作者或相关机构授权发布,目的在于传递更多信息,并不代表本站赞同其观点,本站亦不保证或承诺内容真实性等。需要转载请联系该专栏作者,如若文章内容侵犯您的权益,请及时联系本站删除( 邮箱:macysun@21ic.com )。
换一批
延伸阅读

3月2日消息,为了深入测试三星自研芯片Exynos 2600的发热表现,有博主在最高画质下针对多款热门游戏进行了实测。

关键字: 2nm 三星 台积电

3月1日消息,三星前不久发布了Galaxy S26系列旗舰机,用上了自家2nm工艺生产的Exynos 2600处理器,整体表现很不错。

关键字: 2nm 三星 台积电

2月3日消息,过去十年中苹果一直是台积电最大客户,每年都是首发新一代工艺,然而AI时代来临,NVIDIA超越苹果成为第一大客户。

关键字: 台积电 2nm

1月21日消息,尽管苹果拿下了台积电初期2nm一半以上的产能,但是苹果不再是台积电的最大客户,英伟达取而代之。据媒体报道,台积电不再授予苹果优先出货权,因为英伟达成为台积电的最大客户,占其总营收的13%。

关键字: 台积电 2nm

1月15日消息,昨天美国正式宣布,放宽了对英伟达H200芯片出口到中国的监管规定。

关键字: 半导体 2nm

1月13日消息,随着AI技术的迅猛发展,处于供应链核心的台积电自然成为众多客户眼中的香饽饽。

关键字: 台积电 2nm

1月2日消息,台积电2nm制程量产计划已按时间表正常推进,由于市场需求旺盛,台积电的晶圆供应一度紧张,这家半导体巨头计划再新建三座工厂以满足客户需求。

关键字: 台积电 2nm

12月23日消息,近日龙芯中科公告称,接受了多家机构调研,其中涉及较多的问题是自研独显芯片“9A1000”。

关键字: AMD Zen6 2nm

12月18日消息,三星Exynos 2600的机型依然定档在明年1月份上市,由Galaxy S26系列首发搭载,这是行业首款2nm芯片,采用三星2nm GAA工艺制造。

关键字: 2nm 高通 三星

12月3日消息,全球AI的发展有2个焦点需要关注,一个是NVIDIA公司,他们的GPU支撑起了绝大多数AI模型的训练与推理。

关键字: 台积电 2nm
关闭