从2022年ChatGPT-3.5发布以来,各式AI工具已经成为我们日常工作生活必不可少的一种便捷工具
随着今年初deepseek的面世,将这轮人工智能风暴又推向一个新的高潮
AI工具虽然好用,但有时我们急着寻求答案时,给出的结果却是“网络错误”四个字
那有没有办法能让网络不再成为我们获取解答的阻碍呢,那就要给AI工具做本地化部署了
“本地化部署”(On-Premises Deployment)是一种将应用程序、服务或组件部署在本地服务器或设备上的方法
也就是让AI工具直接在你自己的电脑上运行,随时随地可以得到想要的答案
我们这次用到的两个软件分别是ollama和chatbox,同时要说明的是,我们在本地化部署的并不是deepseek本身,而是蒸馏后的模型
接下来和大家分享本地化部署的具体步骤:
1.下载并安装ollama
在ollama官网直接下载即可(可直接打开),安装包下载好后直接按照即可

按照结束后,可以调出CMD(win+r)输入ollama来验证安装是否成功

2.安装deepseek模型
在之前的ollama官网可以下载deepseek模型

现在有多个版本可供选择,按照不同的模型参数选择适合自己的即可



下载完成后,可以输入ollama list来验证模型是否下载成功

3.安装chatbox
现在已经可以在本地运行deepseek模型,但在cmd中使用不是很方便,所以我们可以再配合chatbox提高使用效率
官网下载安装即可

安装完成后打开应用,设置deepseek模型

设置好后就可以在自己的电脑上顺畅运行deepseek模型,需要什么答案都可以随时问它

AI工具对我们的生活产生了深远的影响,它不仅提升了效率和便利性,还改变了我们处理问题的方式
然而,随着AI工具的广泛应用,我们也需要注意其潜在的问题和挑战
过度依赖AI可能导致人类思维能力下降,或者在伦理问题上引发争议
因此,如何合理利用AI工具,平衡其带来的便利与可能的风险,是一个值得深思的话题
总体来说,AI工具正在重塑我们的生活方式,推动社会的进步与发展,但也需要我们保持清醒的意识去应对这些变化