DeepSeek本地部署的操作步驟已經(jīng)整理好了,需要的網(wǎng)友可以來(lái)了解看看,希望能給各位提供幫助。
下載地址:https://ollama.com/
在Linux服務(wù)器上安裝一行命令就可以。如果是Windows需要下載安裝包。
命令:
curl -fsSL https://ollama.com/install.sh | sh
ollama安裝后默認(rèn)監(jiān)聽(tīng)127.0.0.1,為了方便使用,要么修改監(jiān)聽(tīng)地址,要么用SSH轉(zhuǎn)發(fā)。
修改地址后,它會(huì)自動(dòng)在/etc/systemd/system/ollama.service.d/override.conf中存儲(chǔ)你添加或修改的配置。
在里面添加配置
[Service]Environment="OLLAMA_HOST=0.0.0.0:11434"
即可覆蓋主服務(wù)文件里對(duì)OLLAMA_HOST的設(shè)置,其他環(huán)境變量(如PATH等)則仍保留主服務(wù)文件里的值。
驗(yàn)證先重啟以下
sudo systemctl daemon-reloadsudo systemctl restart ollama
然后執(zhí)行以下命令驗(yàn)證
sudo systemctl show ollama | grep Environment
你會(huì)看到系統(tǒng)最終為該服務(wù)設(shè)置的所有環(huán)境變量。其中如果存在同名變量,就會(huì)以最后寫(xiě)入(即override配置)的值為準(zhǔn)。
https://ollama.com/search?q=deepseek
根據(jù)顯存選擇合適的模型,右側(cè)有安裝命令,點(diǎn)擊按鈕復(fù)制。
Windows用戶在電腦本地打開(kāi)cmd執(zhí)行命令
ollama run deepseek-r1:14b
開(kāi)始下載,14b的模型大小是9GB
務(wù)必確保ollama的模型目錄/usr/share/ollama/.ollama/models有足夠大的空間
等進(jìn)度條走完,就可以在本地使用了。
關(guān)于我們 丨 聯(lián)系我們 丨 廣告合作 丨 誠(chéng)聘英才 丨 網(wǎng)站地圖
Copyright © 2018 武漢門(mén)戶網(wǎng) kudan.com.cn鄂ICP備16007396號(hào)-6