开云体育
开云体育德承工控机GP-3100与DeepSeek:在Windows系统下实现高效边缘运算AI部署
开云体育[永久网址:363050.com]成立于2022年在中国,是华人市场最大的线上娱乐服务供应商而且是亚洲最大的在线娱乐博彩公司之一。包括开云、开云棋牌、开云彩票、开云电竞、开云电子、全球各地赛事、动画直播、视频直播等服务。开云体育,开云体育官方,开云app下载,开云体育靠谱吗,开云官网,欢迎注册体验!2025年春节前夕,中国人工智能企业深度求索(DeepSeek)发布其开源AI模型DeepSeek-R1,性能对标OpenAI开发的GPT-o1正式版,一时之间各类相关的话题引爆国内外。除了可以在手机上安装APP或在其官网线上体验之外,由于其模型开源,近期也有许多家科技巨头陆续宣布接入DeepSeek,多款第三方的应用也如雨后春笋般涌现。
当然,我们也可以在工控机上进行私有化部署,推进边缘运算的AI应用,所有数据都保存在本地,隐私更安全,也可避免由于官网访问量大造成的卡顿及延迟问题,响应速度更快。紧接着让我们来看看如何在本地进行部署吧!
Ollama是一款可在本地电脑部署大模型(LLM)的开源工具,支持多种LLM,并提供跨平台支持,可通过命令行或API来运行模型,可用于文本生成、问答系统和代码生成等多个应用场景。
下载适配系统的软件,本篇以Windows 10系统为例,或可直接复制链接下载:
3. 安装好之后,按Win+R键,输入cmd,打开Windows系统的命令提示符
我们可以看到DeepSeek-R1提供很多个版本,版本越高配置需求也越高,可依照实际应用的情况来选择对应的版本,整理配置需求如下表供参考
2. 本篇以安装1.5B版本为例,按Win+R键,输入cmd,打开Windows系统的命令提示符,
如要安装7B版本,则命令最后的1.5b改为对应版本7b即可,其他版本以此类推
3. 接着会自动进行下载,1.5B版本的模型容量1.1GB,下载时间较久需耐心等待
由于在命令提示符里面使用DeepSeek-R1还是不够直观,我们可以安装UI可视化界面,在此采用的是Chatbox软件
完成部署,现在可以在本地使用可视化的DeepSeek-R1了,问问TA~你是谁
通过以上的教程,我们在德承工控机GP-3100上完成了DeepSeek-R1 AI模型的私有化部署,机器搭载的RTX 4090显存24G,可安装到DeepSeek-R1-14B这个版本,如果需要安装更高阶的DeepSeek-R1,则需要更高的显卡配置,GP-3100可搭载2张高性能显卡,充分凸显了GPU运算电脑的优势,为AI应用提供了更多的可能性。
强固型嵌入式电脑品牌 – Cincoze德承,致力提供多元且贴近市场需求的嵌入式电脑解决方案。旗下产品线包括强固型嵌入式电脑、工业平板电脑、工业显示器及强固型GPU电脑,能快速满足垂直市场的应用需求,尤其以工厂自动化、机械自动化、机器视觉、AIoT、机器人、无人车、自驾车、智能交通、智能仓储物流为最。多年来推出多款创新性的产品,荣获多项专利、奖项与国际认证的肯定。
2025年春节前夕,中国人工智能企业深度求索(DeepSeek)发布其开源A