https://broadcastchannel-6wd.pages.devhttps://broadcastchannel-6wd.pages.dev/posts/287https://broadcastchannel-6wd.pages.dev/posts/287Sat, 25 Jan 2025 19:18:26 GMT<div> <img src="/static/https://cdn5.telesco.pe/file/oaX-XRb1nH-yY1_-0a6vd5atS-PeIsHJUSiPlVQZ8V6MICtVSgn983cvkB-cQ-ZXMqrUrkDvA3Uwq5TWUUC_kmlA58bzmaUry3QhCdSRacFMwubUmO43gX3XjX13OpPxa3ol2lxUQj4VKkXdff2N8VbwJggSEfFFe-lXGFoDMYIsm5wkTSdO39IhQGlrXztXTDeX60pEwDbpFusP83MFMPaI5HZsVYmJjW8PU6Uqh9F9DcMOP7AYlMVVRAwF6LU6pf8HKlVzEvHfUS4xNRoTF08rPe-mZCal7ul3ALPNqqlmAOnrJhZVTXjdiZceDlujC4RxdgNcW4nL7IZi1NF60g.jpg" alt="AMD集成DeepSeek-V3模型至Instinct MI300X GPUAMD近日宣布，已将优化的DeepSeek-V3模型集成到Instinct MI300X GPU上，显著提升AI推理性能" loading="lazy" /> </div><b>AMD集成DeepSeek-V3模型至Instinct MI300X GPU</b><br /><br />AMD近日宣布，已将优化的DeepSeek-V3模型集成到Instinct MI300X GPU上，显著提升AI推理性能。DeepSeek-V3是此前最强的开源大型语言模型（DeepSeek-R1是目前最强的开源大型语言模型），采用混合专家（MoE）架构，总参数量达6710亿。<br /><br />通过SGLang的强化优化，DeepSeek-V3在发布首日即可在AMD GPU上运行。AMD的ROCm平台支持FP8浮点格式，减少内存瓶颈和延迟，提升训练和推理效率。<br /><br />这一集成在文本生成、视觉识别和自然语言处理等领域展现了强大潜力，为AI开发带来新突破。 <br /><br /><a href="/search/%23AMD">#AMD</a> <a href="/search/%23DeepSeek">#DeepSeek</a> <a href="/search/%23%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD">#人工智能</a> <a href="/search/%23SGLang">#SGLang</a> <a href="/search/%23%E5%95%86%E4%B8%9A">#商业</a>