deepseek吧 关注:129,199贴子:317,369

【攻略】deepseek本地部署/规则限制解除(附A卡6750gre搭建法)

只看楼主收藏回复

写在前面:
本攻略为原创攻略(但知识不是原创,借鉴了多位大佬)。
请用平常心看待deepseek,deepseek的最大优势就是开源,可以本地部署,可以自定义,请把它当做一款商业产品对待,喜欢和不喜欢都是个人自由,请不要互相攻击,也不要说出不用不是中国人这种大聪明话。
请自备魔法,不然可能搭建不了。
一:安装启动器ollama
①N卡用户
直接到官网下载最新版本就行了(好像要魔法,我这边是不用点下载没反应)
下载网址:https://ollama.com/download

②A卡用户
需要下载特别版本的ollama
下载网址:https://github.com/likelovewant/ollama-for-amd/releases/tag/v0.5.4

特别注意
如果你是A卡用户,以前装过官网的ollama,需要退出ollama,卸载原版本ollama,再行安装,不能覆盖安装!不能覆盖安装!不能覆盖安装!
卸载步骤
0:如果AI模型正在运行,则输入/bye退出模型(如果在UI上使用,请自行判断如何退出)。
1:右下任务栏找到ollama,右键点退出。
2:进入控制面板,找到程序和功能(不同系统可能名字不大一样),进去,找点ollama,右键,点击卸载。(一定要卸载再安装!很多人的问题应该就是出在这步)

二:安装启动器ollama
安装没啥特别说的,一路下一步就是了,只有A卡需要额外步骤。
A卡特别步骤
①安装完成后,退出ollama(一定要退!一定要退!一定要退!在右下角任务栏找到ollama图标,右键后点击退出),下载显卡对应的rocm,6750gre对应的是gfx1031,其他A卡什么版本的请自行查找。(也可先运行一次ollama,然后任务栏找到ollama图标,右键查看log信息,找到sever日志,报错信息里面应该有版本)
下载网址:https://github.com/likelovewant/ROCmLibs-for-gfx1103-AMD780M-APU/releases/tag/v0.6.1.2
②先打开显示隐藏文件
win10文件系统右上角点查看,勾选隐藏的项目,其他系统怎么打开自行百度

③解压下载的rocm压缩包。替换文件和文件夹。(注意如果你是点进去的,路径中Users会显示为用户)
找到C:\Users\你的Windows用户名\AppData\Local\Programs\Ollama\lib\ollama,将rocblas.dll替换成压缩包中的。
找到C:\Users\你的Windows用户名\AppData\Local\Programs\Ollama\lib\ollama\rocblas,将里面library文件整个删除,然后把压缩包里的library文件夹放进去(不要直接覆盖)、
三:设置环境变量
win10是右键此电脑->高级系统设置->高级->环境变量,在系统变量下面,新建,变量名OLLAMA_MODELS,变量值就是你要迁移的路径(主要不能乱起名字,必须是存在的文件夹,不过可以先设置再创建)
设置完毕后重启电脑。
如果你不建议自己的C盘被塞了几十G上百G的模型,可以跳过这步。

五:启动ollama
如果你重启了的话,应该已经自动启动了,只要你没有拦截ollama的自启.....拦截了就自行启动。
六:安装模型
打开CMD(点击命令提示符,或运行->输入cmd)
①只想要原版
在cmd中输入命令,即可下载
根据你电脑的情况,选择下面其中一条,XXXb代表AI的规模,数字越大越吃配置,671b个人电脑基本跑不起来,70b4090勉强,32b4090流畅4060勉强,14b4060流畅......
ollama run deepseek-r1:671b
ollama run deepseek-r1:70b
ollama run deepseek-r1:32b
ollama run deepseek-r1:14b
ollama run deepseek-r1:8b
ollama run deepseek-r1:7b
ollama run deepseek-r1:1.5b
等待下载完成即可
②想要绕开限制
有些时候你问一些问题的时候,原版AI老让你注意当地法规,不回答你,这就需要绕开限制了。
绕开前的画风

绕开后

绕开限制需要大佬修改过的模型,下载提供我用的几个(最小支持到7b,最大支持到70b)
ollama run huihui_ai/deepseek-r1-abliterated:7b
ollama run huihui_ai/deepseek-r1-abliterated:8b
ollama run huihui_ai/deepseek-r1-abliterated:14b
ollama run huihui_ai/deepseek-r1-abliterated:32b
ollama run huihui_ai/deepseek-r1-abliterated:70b
再提供个网站,里面有几个大佬修改的版本:https://huggingface.co/models?sort=trending&search=abliterated


IP属地:四川1楼2025-02-03 04:28回复


    IP属地:四川来自Android客户端2楼2025-02-03 05:05
    收起回复
      2025-08-23 12:42:44
      广告
      不感兴趣
      开通SVIP免广告
      顶顶


      IP属地:广东来自Android客户端3楼2025-02-03 05:09
      回复
        @真心惶惶


        IP属地:广东来自Android客户端4楼2025-02-03 05:09
        回复
          大佬啊,顶一个,另外顺便问一下有没有web UI部署的


          IP属地:江苏5楼2025-02-03 15:28
          收起回复
            牛逼,晚上试试


            IP属地:广东6楼2025-02-03 16:08
            回复
              马一下


              IP属地:四川来自iPhone客户端7楼2025-02-03 16:10
              回复
                每次下载模型到600mb左右就被重置清空是什么情况


                IP属地:江西8楼2025-02-03 17:25
                收起回复
                  2025-08-23 12:36:44
                  广告
                  不感兴趣
                  开通SVIP免广告
                  搞了一个1.5的,感觉好像有点蠢,跟官网的效果差距很大


                  IP属地:河南来自Android客户端9楼2025-02-03 21:05
                  收起回复
                    谢谢楼主,请问最下面几个破限的还需要破甲词吗?


                    IP属地:江苏来自iPhone客户端10楼2025-02-03 21:13
                    回复
                      mark


                      IP属地:北京来自Android客户端11楼2025-02-03 21:44
                      回复
                        谢谢您!


                        IP属地:天津12楼2025-02-03 22:06
                        回复
                          又开始整蛊了。
                          14b原文件只有不到10g,在多次进度倒退重置中,文件大小已经超过了18g,而且奖池还在累计


                          IP属地:江西来自Android客户端13楼2025-02-03 23:09
                          收起回复
                            能不能拿这玩意写刘备


                            IP属地:广东来自Android客户端14楼2025-02-03 23:27
                            收起回复
                              2025-08-23 12:30:44
                              广告
                              不感兴趣
                              开通SVIP免广告
                              大佬,我安装了个8b的,目前能用,但没深入挖掘。关闭之后我要如何重新打开它呢?


                              IP属地:广东15楼2025-02-04 00:24
                              收起回复