2025年2月5日 探索本地部署AI

昨天，我仔细琢磨研究了如何在本地部署AI，还真搞好了。最近，Deepseek非常火，就决定亲自尝试一下用Deepseek在本地搭建AI。我选择了Ollama，并搭配了Deepseek小模型。

Ollama运行起来后，需要输入一些指令，简直就是Dos回魂，体验并不好。

就这，部署本地AI系统，可是没少花时间。就那个8b模型，足足下载六个多小时。为了能直观操作，我找了一个叫Chatbox的工具。它的界面和我们常用的ChatGPT挺像的，用起来非常方便。不需要网络流量，随时都能使用，数据保护没的说了。

不过，这个系统也有问题。8b的算力和算法相对较弱，生成的内容对我这个常用AI的人来说，效果就不太理想了。所以，只当尝试，从这个事里走过。以后，某些企业有配置高的电脑，跑高阶的算力，那就爽歪歪了。

除此之外，我还搭建了一个本地知识库管理工具，叫AnythingLIM，挺有趣的，我还在摸索中。也是挂的Ollama+deeDeepseek+低阶的AI。不断学习探索，很有意思的。

昨天，头条上有个博主分享的一篇文章说，用硅基流动+华为云，就可以使用满血的DeepSeek，一切如他所说，我也很快使用上，二个字，满意。

在cherry studio里，我还接入了了Kimi。Kimi生成的内容，质量也相当高。识图能力也很强。

get到的新技能，通过get笔记+ChatGPT做些记录，方便后续进一步探索和实践。