开云体育

开云体育搭载M3 Ultra的Mac Studio在本地运行大规模DeepSeek R1 AI模型

2025-06-02
浏览次数:
返回列表

  开云体育[永久网址:363050.com]成立于2022年在中国,是华人市场最大的线上娱乐服务供应商而且是亚洲最大的在线娱乐博彩公司之一。包括开云、开云棋牌、开云彩票、开云电竞、开云电子、全球各地赛事、动画直播、视频直播等服务。开云体育,开云体育官方,开云app下载,开云体育靠谱吗,开云官网,欢迎注册体验!根据 Lee 的测试,6710 亿参数的 AI 模型可以直接在苹果高端工作站上执行,但需要大量内存资源,消耗 404GB 存储空间,并需要通过终端命令手动分配 448GB 虚拟内存。

  M3 Ultra 的统一内存架构是实现这一性能的关键,它允许系统高效处理 DeepSeek R1 的 4 位量化版本。 量化略微降低了准确性,但它保持了所有参数,每秒可提供约 17-18 个标记,足以满足许多实际应用的需要。

  最令人印象深刻的是,Mac Studio 在实现这一性能的同时,功耗还不到 200 瓦。 而在传统 PC 硬件上实现与之相当的性能则需要多个 GPU,耗电量约为其十倍。

  在本地运行此类高级人工智能模型的能力为医疗保健数据分析等敏感应用提供了隐私优势,因为在这些应用中,将信息发送到云服务会引发安全问题。

  苹果称 M3 Ultra 是其发布的 最快的 Mac 芯片,这要归功于该公司使用UltraFusion技术将两个 M3 Max 芯片融合在一起的策略。 这使得该芯片的规格是 M3 Max 的两倍。

搜索