[必须收藏] 三步本地部署DeepSeek大模型，打造你的专属AI大脑

门童靖博士 • • 产品 • 38 views

有没有想过在自己的电脑上部署DeepSeek? 不管有没有，看过来就好～

教你三步本地部署DeepSeek大模型，打造你的专属AI大脑！

[必须收藏] 三步本地部署DeepSeek大模型，打造你的专属AI大脑


为什么要在本地运行 DeepSeek？

在本地运行 DeepSeek可让你完全控制模型执行，而无需依赖外部服务器。本地运行 DeepSeek-R1 的显著优势：

  • 隐私和安全：不会有任何数据离开您的系统。


  • 不间断访问：避免速率限制、停机或服务中断。


  • 性能：通过本地推理获得更快的响应，避免 API 延迟。


  • 私人订制模型：修改参数、微调提示并将模型集成到本地应用程序中，建立私人定制的模型。


  • 成本效益：通过在本地运行模型消除 API 费用。


  • 离线可用性：下载模型后无需互联网连接即可工作。


[必须收藏] 三步本地部署DeepSeek大模型，打造你的专属AI大脑


此次部署只需三步，即可在本地运行 DeepSeek-R1！

我们将使用 Ollama 在本地设置 DeepSeek-R1。顺便说一下Ollama ，它是一个旨在简化开发人员和团队部署的大型语言模型 (LLM) 的平台。

它允许用户在本地运行强大的 AI 模型，提供灵活性并易于集成到各种应用程序中。

此工具通常用于构建 AI 驱动的应用程序，无需基于云的基础设施即可部署 LLM，从而提供性能和成本优势。

[必须收藏] 三步本地部署DeepSeek大模型，打造你的专属AI大脑

[本地化部署DeepSeek]

第一步，进入Ollama，找到DeepSeek模型，复制指令。
1.1 首先进入Ollama官网, https://ollama.com. 
[必须收藏] 三步本地部署DeepSeek大模型，打造你的专属AI大脑

1.2 搜索并找到到DeepSeek-R1：
[必须收藏] 三步本地部署DeepSeek大模型，打造你的专属AI大脑
[必须收藏] 三步本地部署DeepSeek大模型，打造你的专属AI大脑

1.3 复制指令 “ollama run deepseek-r1”。
Ollama 提供一系列 DeepSeek R1 模型，从 1.5B 参数到完整的 671B 参数模型。671B 模型是原始的 DeepSeek-R1，而较小的模型是基于 Qwen 和 Llama 架构的精简版本。如果你的硬件无法支持 671B 模型，也可以使用以下命令轻松运行较小的版本，并将下面的 X 替换为您想要的参数大小（1.5b、7b、8b、14b、32b、70b、671b）：
[必须收藏] 三步本地部署DeepSeek大模型，打造你的专属AI大脑

第二步，打开电脑命令行终端，输入刚才复制的安装指令。
2.1 输入“ollama run deepseek-r1”，开始安装～
[必须收藏] 三步本地部署DeepSeek大模型，打造你的专属AI大脑

2.2 一会功夫，安装完成～
[必须收藏] 三步本地部署DeepSeek大模型，打造你的专属AI大脑
2.3 当你看到“success”，即大功告成！

第三步，开始与DeepSeek私有模型的对话之旅吧～
3.1 首先咱们Say Hi~，DeepSeek很礼貌的回复了～“Hello! How can I assist you today? [笑脸]” 
几乎没有思考过程，毕竟条件反射就够了～
[必须收藏] 三步本地部署DeepSeek大模型，打造你的专属AI大脑

3.2 让DeepSeek做个自我介绍，看它能为我们做什么～
“Would you please introduce yourself, and show what you can do for me?” (请介绍一下自己，你能够为我们做什么？)
[必须收藏] 三步本地部署DeepSeek大模型，打造你的专属AI大脑
翻译成中文，看看DeepSeek的思考和答复：
“<思考>

好吧，用户用“嗨，deepseek”向我打招呼。他们随后要求我介绍自己并展示我能为他们做些什么。

我需要以友好和乐于助人的方式回应。既然他们提到了“deepseek”，我应该强调我能够协助完成各种任务，例如回答问题、提供信息和帮助完成创意项目。

此外，提到我可以提供帮助的不同领域（例如研究、写作、解决问题或学习），将表明我多才多艺，涵盖多个领域。

我应该确保保持积极和鼓励的语气，邀请他们提出他们需要的任何东西。

</思考>

嗨！我是 DeepSeek-R1，是 DeepSeek 创建的人工智能助手。我随时为您服务，很乐意帮助您解决任何疑问或任务。”


3.3 接下来我们问问DeepSeek能否作为我们的计算机博士背景的研究助手～ “OK, would you please act as a research assistant with PhD expertise on computer science?”

[必须收藏] 三步本地部署DeepSeek大模型，打造你的专属AI大脑

翻译成中文，可以看到DeepSeek的完整思考过程和答复：

“<think>

好的，用户要求我担任具有计算机科学博士学位水平的研究助理。他们明确提到了这一点，说“好的，您愿意担任具有计算机科学博士学位水平的研究助理吗？”

首先，我需要确认他们的请求并确认我有资格担任这个角色，因为他们信任我承担如此重要的任务。这建立了信任。

接下来，清楚地解释我的局限性很重要。虽然我可以在一定范围内提供有价值的见解和帮助，但我没有实际的博士学位或授予任何学术头衔的权力。

通过预先设定这些期望，我确保我们双方都了解彼此的角色和限制，从而防止以后产生误解。

此外，我想鼓励他们指定他们的研究问题或感兴趣的领域，以便我能够在我的能力范围内提供最相关的帮助。

</think>

明白了！我在这里为计算机科学的广泛主题提供帮助。无论您需要了解算法、编程语言、机器学习、数据分析、网络安全还是任何其他子领域，请随时咨询。让我知道我可以如何帮助您！”

从以上几个简短的交互，可以看到本地化的DS-R1也具备线上DS-R1的理性思考和人性化的输出，大家不妨也可以就关心和探讨的问题，与其进一步互动～

[必须收藏] 三步本地部署DeepSeek大模型，打造你的专属AI大脑


以上，三步便完成了DeepSeek本地化部署，通过 Ollama 在本地运行 DeepSeek-R1 可以实现更快、更私密且更具成本效益的模型推理。
借助简单的安装过程和CLI命令行交互，你就可以实现线上 DeepSeek-R1的主要功能，还不自己动手试试～

后续我也会抽空对API 支持、 Python 集成，以及基于学术研究Tunning的DeepSeek-R1大模型进一步探索，未完待续，欢迎留言～

关注我，了解学术研究之路中关于AI的一切～


[参考资料]
[1]https://ollama.com
[2]https://ollama.com/library/deepseek-r1
[3]https://chat.deepseek.com/
[4]https://huggingface.co/deepseek-ai
[5]https://www.youtube.com/watch?v=sGUjmyfof4Q
[必须收藏] 三步本地部署DeepSeek大模型，打造你的专属AI大脑

原创文章，作者：门童靖博士，如若转载，请注明出处：https://www.agent-universe.cn/2025/01/36381.html

Like (0)
0

关于作者

门童靖博士

门童靖博士

博士在读，门童之心，漫漫旅途中，尤在意风景，故将所见、所思、所为做些记录以供自己学而时习，亦愿与有缘人分享交流，携手共进。本人原鏖战于产业，现行走于学术计算机科学博士在读，聚焦于人工智能、机器学习、物联网与数据科学的探索和实践~
Previous 2025-01-31 21:41
Next 2025-02-02 15:26

相关推荐