开云体育
华为发布开源技术SINQ:可大幅降低大模型硬件需求!一张4090就能跑开云体育官方
华为苏黎世的实验室发布了一种新的开源量化方法,可在不牺牲大模型输出质量的情况下,减少显存需求。
SINQ的核心优势在于其快速、无需校准,并且易于集成到现有模型工作流中,通过独特的量化方法,将模型的显存需求降低了60%至70%,具体取决于模型架构和位宽。
这意味着原本需要超过60GB显存才能运行的模型,现在可以在大约20GB的环境中运行。原本需要在高端企业级GPU(如A100或H100)才能运行的大模型,如今可在更经济的硬件上运行,例如单张RTX 4090。
SINQ已在多种架构和模型(如Qwen3系列、LLaMA和DeepSeek)上进行了评估,并在WikiText2和C4等基准测试中表现出色,显著降低了困惑度和翻转率。
它还支持非均匀量化方案(如NF4),并可与校准方法(如AWQ)结合使用,进一步缩小与全精度模型的差距。
在运行效率方面,SINQ的量化速度比HQQ快约两倍,比AWQ快30倍以上,非常适合对量化时间有实际限制的研究和生产环境。
2025年央视中秋晚会节目单公布 三大篇章30余节目今晚8点全球同步播出
特斯拉发布神秘预告视频引发猜测:Roadster跑车还是大众市场车型即将亮相
大疆Osmo Pocket 3云台相机10月9日开启限时优惠 最高直降900元
iOS 26.1 Beta 2发布:闹钟需要滑动停止、苹果智能支持繁体中文
OpenAI发布GPT-5 Pro及Sora 2等多款新模型 全面升级开发者API生态