這篇記錄如何在 GIGABYTE GB-BTIP-N150(16GB 記憶體、Ubuntu)安裝 Ollama,下載中文模型 Qwen3 4B,並從 Windows 使用 SSH 遠端終端機操作。實測確認:SSH 可登入 BRIX,且能列出並執行已安裝的模型。
在 GIGABYTE BRIX N150 安裝 Ollama,並用 SSH 遠端操作
迷你電腦也能在本機執行小型語言模型。這次以 GIGABYTE GB-BTIP-N150、16GB 記憶體和 Ubuntu 為例,從安裝 Ollama 到 Windows 遠端登入,一步一步完成設定。
一、安裝 Ollama
在 BRIX 開啟 Ubuntu 終端機,執行官方安裝指令:
curl -fsSL https://ollama.com/install.sh | sh
安裝後可查看用戶端版本:
ollama --version
如果出現「Warning: could not connect to a running ollama instance」,但同時顯示 client version,代表指令已安裝,但當時尚未連上正在執行的 Ollama 服務。
二、啟動 Ollama 並下載模型
若 Ollama 服務尚未執行,可在一個終端機輸入:
ollama serve
讓服務保持執行,再開啟另一個終端機,下載並啟動 Qwen3 4B:
ollama run qwen3:4b
第一次執行會下載模型。進入 >>> 提示符後,就可以直接輸入問題。輸入 /bye 離開模型對話。
可用以下指令確認模型是否已下載:
ollama list
實測清單中可看到 qwen3:4b,模型大小約 2.5 GB。
Unit ollama.service not be found,代表目前沒有找到名為 ollama 的 systemd 服務單元;本次安裝後採用終端機執行 ollama serve 的方式啟動,並以 ollama run 測試成功。三、在 BRIX 啟用 SSH
若要從 Windows 使用命令列遠端操作 BRIX,先在 BRIX 安裝並啟動 SSH 伺服器:
sudo apt update
sudo apt install -y openssh-server
sudo systemctl enable --now ssh
查詢 Ubuntu 登入帳號和 BRIX 的區域網路 IP:
whoami
hostname -I
本次測試使用的帳號是 nfusrai,BRIX 的 IP 是 192.168.1.114。您的設備可能會使用不同帳號或 IP,請以終端機查到的結果為準。
四、從 Windows 遠端登入
在 Windows 開啟 PowerShell,輸入 SSH 指令:
ssh nfusrai@192.168.1.114
第一次連線若出現主機真實性確認,輸入 yes;接著輸入 BRIX 的 Ubuntu 使用者密碼。成功後會看到類似以下提示符:
nfusrai@giga-n150:~$
看到這個提示符,就表示已進入 BRIX 的遠端終端機。密碼輸入時不會顯示字元,輸入完成後按 Enter 即可。
五、在 SSH 視窗執行 Ollama
遠端登入後,可以直接查詢已下載模型:
ollama list
啟動模型進行對話:
ollama run qwen3:4b
輸入 /bye 結束模型對話,輸入 exit 登出 SSH。
本次測試結果
- BRIX 上已安裝 Ollama,並成功執行
qwen3:4b。 - Windows PowerShell 透過
ssh nfusrai@192.168.1.114成功登入 Ubuntu。 - SSH 遠端執行
ollama list,成功列出qwen3:4b。 - 因此,日常遠端操作 Ollama 可以直接使用 SSH 終端機,不必透過遠端網頁。
小提醒:SSH 連線需要 BRIX 已開機、連上同一個網路,且 SSH 服務正在執行。若 BRIX 的 IP 改變,Windows 連線指令中的 IP 也要更新。不要把 SSH 或 Ollama 埠直接公開到網際網路;外網遠端連線建議透過 VPN。
沒有留言:
張貼留言