2026年10月5日 星期一

Python 生成式與產生器:使用函式的經典範例

Python 入門|函式與資料處理

Python 生成式與產生器:使用函式的經典範例

生成式適合用精簡語法建立資料;產生器則能在需要時逐筆提供資料。本文透過函式示範串列、集合與字典生成式,以及使用 yield 和生成器運算式的經典寫法,並比較它們的執行方式。

一、生成式與產生器的差異

比較項目生成式(Comprehension)產生器(Generator)
主要用途用簡潔語法建立或轉換串列、集合、字典。逐筆產生資料,避免預先建立全部結果。
常見寫法[...]、{...}函式中的 yield,或 (...) 生成器運算式。
資料產生時機通常立即建立完整結果。取值時才逐筆產生,常用於迴圈或 next()。
常見情境需要完整結果、索引或多次使用。資料量大,或只需順序處理一次。

可以把生成式理解為「建立資料的語法」,把產生器理解為「逐筆供應資料的物件或機制」。兩者可以搭配函式使用,但用途和執行方式不同。

二、函式搭配生成式

範例 1:回傳平方數串列

def make_squares(numbers):
    return [number ** 2 for number in numbers]

print(make_squares([1, 2, 3, 4, 5]))
# [1, 4, 9, 16, 25]

串列生成式會一次建立所有平方數,函式再用 return 回傳完整串列。

範例 2:篩選偶數

def get_evens(numbers):
    return [number for number in numbers if number % 2 == 0]

print(get_evens(range(1, 11)))
# [2, 4, 6, 8, 10]

生成式尾端的 if 用來篩選資料,只有偶數會放進結果串列。

範例 3:建立平方對照字典

def make_square_map(numbers):
    return {number: number ** 2 for number in numbers}

print(make_square_map(range(1, 6)))
# {1: 1, 2: 4, 3: 9, 4: 16, 5: 25}

字典生成式以冒號分隔鍵和值,適合建立查表資料。

範例 4:取得不重複的文字長度

def unique_lengths(words):
    return {len(word) for word in words}

print(sorted(unique_lengths(["rice", "fish", "corn", "tea"])))
# [3, 4]

大括號中沒有鍵值冒號時,這是集合生成式。集合會自動去除重複值;範例以 sorted() 排序,讓結果容易閱讀。

三、產生器函式:使用 yield

範例 5:逐筆產生平方數

def generate_squares(n):
    for number in range(1, n + 1):
        yield number ** 2

for value in generate_squares(5):
    print(value)
# 1
# 4
# 9
# 16
# 25

包含 yield 的函式稱為產生器函式。呼叫它時會得到產生器物件;每次迴圈取值,函式就執行到下一個 yield,交出一筆資料並暫停。

範例 6:逐筆篩選偶數

def generate_evens(numbers):
    for number in numbers:
        if number % 2 == 0:
            yield number

for value in generate_evens(range(1, 11)):
    print(value)
# 2
# 4
# 6
# 8
# 10

這個產生器不會先建立偶數串列,而是在迴圈需要時交出符合條件的數字。

範例 7:產生倒數數字

def countdown(start):
    while start > 0:
        yield start
        start -= 1

for value in countdown(5):
    print(value)
# 5
# 4
# 3
# 2
# 1

產生器會保留暫停時的區域變數狀態,所以再次取值時,start 會接續前一次的值。

範例 8:逐行讀取文字檔

def read_lines(file_path):
    with open(file_path, encoding="utf-8") as file:
        for line in file:
            yield line.rstrip("\n")

for line in read_lines("data.txt"):
    print(line)

每次只交出一行,適合逐行處理大型文字檔。使用 with 可在讀取結束後自動關閉檔案。

四、函式回傳生成器運算式

範例 9:回傳平方數生成器

def square_stream(numbers):
    return (number ** 2 for number in numbers)

squares = square_stream(range(1, 6))

for value in squares:
    print(value)
# 1
# 4
# 9
# 16
# 25

這個函式回傳的是生成器運算式。圓括號 () 不會立即建立完整串列,而是等到迴圈取值時逐筆計算。

範例 10:使用 next() 手動取值

def make_number_stream(n):
    return (number for number in range(1, n + 1))

numbers = make_number_stream(3)

print(next(numbers))  # 1
print(next(numbers))  # 2
print(next(numbers))  # 3

每次呼叫 next() 會取出下一筆資料。資料全部取完後,再呼叫 next() 會引發 StopIteration;通常使用 for 迴圈會更方便。

五、怎麼選擇適合的寫法?

  • 要一次取得完整結果,並可能重複使用:用串列生成式搭配 return。
  • 要逐筆運算,並保留較複雜的流程狀態:用產生器函式搭配 yield。
  • 只需簡單地逐筆轉換資料:函式可以回傳生成器運算式。
  • 要建立鍵值查表或去除重複項目:分別考慮字典生成式或集合生成式。

重點記憶:生成式搭配 return 常會回傳已建立好的集合;產生器函式用 yield 暫停並逐筆交付資料;生成器運算式則可用簡短語法逐筆產生資料。

Python 生成式與產生器:差異、觀念與經典範例

Python 入門|資料處理

Python 生成式與產生器:差異、觀念與經典範例

「生成式」和「產生器」名稱相近,初學時容易混淆。簡單來說,生成式是一種撰寫資料轉換的語法;產生器是一種可以逐筆提供資料的物件。本文先比較兩者,再用不定義函式的方式練習串列生成式與生成器運算式。

一、生成式和產生器有什麼不同?

比較項目生成式(Comprehension)產生器(Generator)
它是什麼用精簡語法建立或轉換資料的寫法。依需求逐筆提供資料的物件。
常見形式串列、集合、字典生成式。生成器運算式,或在函式中使用 yield。
資料何時產生通常立即建立完整結果,例如串列生成式。通常在取值時才產生下一筆。
括號辨認串列生成式使用 [];集合和字典生成式使用 {}。生成器運算式使用 ()。
適合情境資料量不大,之後會重複使用或需要索引。資料量大、只需逐筆處理,或不需要保存全部結果。

因此兩者不是完全相同的概念:生成式偏向「怎麼寫出資料轉換」;產生器偏向「資料怎麼逐筆交付」。生成器運算式的語法很像生成式,但產生的是 generator 物件。

二、本文的範例限制:不使用函式

下列程式都不會自行定義函式,也不使用 def 或 yield。原因是 yield 必須寫在函式中;若不使用函式,就改用生成器運算式來示範產生器。Python 內建的 range()、next() 和 iter() 仍可正常使用。

三、經典生成式範例

範例 1:串列生成式——計算平方數

squares = [number ** 2 for number in range(1, 6)]
print(squares)
# [1, 4, 9, 16, 25]

讀法是:從 1 到 5 逐一取出 number,計算平方後放進新串列。

範例 2:加入條件——挑出偶數

evens = [number for number in range(1, 11) if number % 2 == 0]
print(evens)
# [2, 4, 6, 8, 10]

if 放在生成式後段,用來篩選符合條件的資料。

範例 3:轉換文字——統一轉成大寫

words = ["python", "robot", "farm"]
upper_words = [word.upper() for word in words]
print(upper_words)
# ['PYTHON', 'ROBOT', 'FARM']

範例 4:條件式轉換——判斷成績

scores = [85, 59, 72, 40]
results = ["及格" if score >= 60 else "不及格" for score in scores]
print(results)
# ['及格', '不及格', '及格', '不及格']

這裡的 if ... else 是二選一的條件運算式,用來決定每筆資料轉換成什麼;它和上一個範例用來篩選資料的尾端 if 功能不同。

範例 5:字典生成式——建立數字與平方的對照

square_map = {number: number ** 2 for number in range(1, 6)}
print(square_map)
# {1: 1, 2: 4, 3: 9, 4: 16, 5: 25}

冒號左側是鍵,右側是值,適合建立查表資料。

範例 6:集合生成式——整理不重複字母

unique_letters = {letter for letter in "banana"}
print(sorted(unique_letters))
# ['a', 'b', 'n']

集合會自動去除重複項目;集合本身沒有固定順序,所以示範時用 sorted() 排序輸出。

範例 7:雙層迴圈——組合座標配對

pairs = [(x, y) for x in [1, 2] for y in ["A", "B"]]
print(pairs)
# [(1, 'A'), (1, 'B'), (2, 'A'), (2, 'B')]

閱讀順序和巢狀迴圈相同:先固定一個 x,再依序搭配所有 y。

四、經典產生器範例:生成器運算式

範例 8:逐筆取得平方數

square_stream = (number ** 2 for number in range(1, 6))

print(next(square_stream))  # 1
print(next(square_stream))  # 4
print(next(square_stream))  # 9

把方括號改成圓括號,就建立生成器運算式。每次呼叫 next() 取得一筆,取過的值不會自動回到開頭。

範例 9:用 for 逐筆讀取產生器

even_stream = (number for number in range(1, 11) if number % 2 == 0)

for value in even_stream:
    print(value)
# 2
# 4
# 6
# 8
# 10

for 會自動逐筆向產生器取值,直到資料用完。

範例 10:把生成器轉成串列

number_stream = (number for number in range(1, 6))
number_list = list(number_stream)
print(number_list)
# [1, 2, 3, 4, 5]

呼叫 list() 會把產生器的所有資料一次取出並建立串列。轉換完成後,原本的產生器也已經耗盡。

範例 11:逐筆處理大量資料

measurements = (value / 10 for value in range(1_000_000))

for value in measurements:
    # 在這裡逐筆處理 value
    pass

這個例子只示範逐筆提供資料,不會先建立一百萬筆結果串列。若只需要累加,也可以直接交給內建的 sum():

total = sum(value for value in range(1_000_000))
print(total)

五、如何選擇?

  • 需要完整結果、索引或重複使用:選串列生成式,例如 [x * 2 for x in numbers]。
  • 只需要依序處理一次:選生成器運算式,例如 (x * 2 for x in numbers)。
  • 需要產生器暫停後再繼續、封裝多段產生流程:常見作法是寫含 yield 的函式;但這類寫法不在本文「不使用函式」的範圍內。

記憶口訣:方括號 [] 通常一次做出串列;圓括號 () 的生成器運算式則逐筆供應資料。生成式是一種語法,產生器是一種逐筆產生資料的方式。

2026年10月4日 星期日

讓 BRIX 開機就提供 Ollama 服務:systemd 自動啟動與 SSH 測試紀錄

智慧生活科技|本地 AI 服務實作

讓 BRIX 開機就提供 Ollama 服務:systemd 自動啟動與 SSH 測試紀錄

把 GIGABYTE BRIX GB-BTIP-N150 設定成家中的本地 AI 主機後,若每次開機都要登入 Ubuntu 再手動執行 ollama serve,使用上並不方便。本次透過 Ubuntu 的 systemd 服務管理器,讓 Ollama 在開機後自動啟動,並從 Windows CMD 透過 SSH 驗證服務。

測試環境與目標

  • 主機:GIGABYTE GB-BTIP-N150,16GB 記憶體。
  • 作業系統:Ubuntu 26.04.1 LTS。
  • Ollama 版本:0.35.1。
  • 模型:qwen3:4b-instruct-2507-q4_K_M。
  • Windows 端透過 SSH 連線,之後可再由 Python 程式建立 SSH 隧道呼叫模型。

目標是讓 Ollama 成為 Ubuntu 的系統服務:即使 BRIX 尚未登入桌面,服務也能在開機時啟動,等待 Windows 端連線。

一、確認 Ollama 執行檔位置

先透過 SSH 登入 BRIX,在 Ubuntu shell 查詢 Ollama 路徑:

which ollama

建立 systemd 服務時,ExecStart 必須填入這個指令顯示的實際路徑,再加上 serve。例如路徑若為 /usr/local/bin/ollama,服務啟動指令就是 /usr/local/bin/ollama serve。

二、建立 Ollama systemd 服務

本機原本沒有 ollama.service,因此手動建立服務設定檔:

sudo nano /etc/systemd/system/ollama.service

服務以 nfusrai 帳號執行,並指定該帳號的家目錄,使服務可使用同一帳號下載的模型。API 綁定在 localhost,Windows 端仍透過 SSH 隧道連線。

[Unit]
Description=Ollama Service
After=network-online.target
Wants=network-online.target

[Service]
Type=simple
User=nfusrai
Group=nfusrai
Environment="HOME=/home/nfusrai"
Environment="OLLAMA_HOST=127.0.0.1:11434"
ExecStart=/usr/local/bin/ollama serve
Restart=always
RestartSec=3

[Install]
WantedBy=multi-user.target
路徑提醒:上例的 /usr/local/bin/ollama 要依照 which ollama 的結果調整。存檔時在 nano 按 Ctrl+O、Enter,再按 Ctrl+X 離開。

三、啟用服務並立即測試

重新載入 systemd 設定,並啟用服務。enable 會設定開機自動啟動;--now 也會立刻啟動服務:

sudo systemctl daemon-reload
sudo systemctl enable --now ollama

查看服務狀態與 API 版本:

systemctl is-enabled ollama
systemctl is-active ollama
curl http://127.0.0.1:11434/api/version

本次服務狀態回報 enabled、active,API 回傳:

{"version":"0.35.1"}

四、重開機驗證不需登入

為確認服務確實能在重新開機後自行啟動,執行:

sudo reboot

BRIX 重開機時 SSH 會中斷。等待主機重新上線後,從 Windows CMD 重新登入:

ssh nfusrai@192.168.1.114

登入後再次檢查:

systemctl is-enabled ollama
systemctl is-active ollama
curl http://127.0.0.1:11434/api/version
重開機後的實際結果:
is-enabled:enabled
is-active:active
API:{"version":"0.35.1"}

這表示 Ollama 已在 BRIX 開機後自動啟動,不必先登入 Ubuntu 桌面,也不必手動執行 ollama serve。

五、SSH 密碼輸入失敗的原因

重開機後,Windows CMD 曾連續出現 Permission denied。後來確認原因不是 SSH 服務故障,也不是 Ollama 設定問題,而是 Windows 輸入法當時停在中文模式,輸入的密碼字元與實際密碼不同。切換回英文輸入模式後,SSH 即成功登入。

Linux 終端機輸入密碼時不會顯示星號或文字,因此畫面沒有變化是正常的。輸入前應切換為英文/半形模式,並留意 Caps Lock 與鍵盤配置;輸入完成後按 Enter。

六、這次測試的結論

BRIX 已設定好開機自動執行 Ollama。Ubuntu 桌面即使停在登入畫面,systemd 仍會在背景啟動 Ollama 服務;Windows 可在主機開機並連上網路後,透過 SSH 登入或由 Python 自動建立 SSH 隧道,呼叫 minPC 上的模型。

智慧生活科技專業社群|GIGABYTE BRIX × Ubuntu systemd × Ollama × SSH

用 Python 透過 SSH 呼叫 mini PC 上的 Ollama,生成一篇小故事

智慧生活科技|Python 與在地 AI 實作

用 Python 透過 SSH 呼叫 mini PC 上的 Ollama,生成一篇小故事

如何讓 Windows 電腦透過 Python 使用另一台 Ubuntu mini PC 上的本地 AI 模型?本文以 GIGABYTE BRIX GB-BTIP-N150 為例,示範 Python 自動建立 SSH 隧道、呼叫 Ollama API、接收繁體中文故事,並在程式結束時自動關閉連線。

一、測試架構與準備條件

本次由 Ubuntu mini PC 執行 Ollama 與語言模型,Windows 電腦則執行 Python 程式。SSH 負責建立加密連線與本機埠轉送;Python 將問題送到 Windows 本機轉送埠,SSH 再把請求帶到 minPC 的 Ollama。

  • mini PC:GIGABYTE GB-BTIP-N150,Ubuntu,IP 位址 192.168.1.114。
  • Ollama API:minPC 上的 127.0.0.1:11434。
  • 模型:qwen3:4b-instruct-2507-q4_K_M,需先在 minPC 下載完成。
  • Windows 電腦:已安裝 Python 與 OpenSSH,用 CMD 執行程式。
  • 帳號:SSH 使用者 nfusrai。
重要:執行前請確認 minPC 上的 Ollama 正在運作、模型已下載,而且 Windows 能以 ssh nfusrai@192.168.1.114 登入 mini PC。本程式使用 SSH 隧道,不必將 Ollama API 直接開放到區域網路。

二、Python 如何建立 SSH 隧道

程式使用 Python 標準函式庫 subprocess 啟動 Windows 的 ssh 用戶端。SSH 指令的核心如下:

ssh -o ExitOnForwardFailure=yes -N -L 127.0.0.1:11436:127.0.0.1:11434 nfusrai@192.168.1.114
  • -N:只建立轉送,不在 mini PC 上執行互動式命令。
  • -L 127.0.0.1:11436:127.0.0.1:11434:把 Windows 本機的 11436 埠轉送到 SSH 主機端的 11434 埠。
  • nfusrai@192.168.1.114:指定登入 mini PC 的帳號與 IP。
  • ExitOnForwardFailure=yes:如果本機轉送埠無法建立,就讓 SSH 明確失敗。

程式啟動時,SSH 會在同一個 CMD 視窗要求輸入密碼。通過驗證後,Python 會每隔半秒測試一次 /api/version,最多等待 60 秒;確認 API 可連線後,才開始詢問使用者要生成什麼內容。

三、Python 如何呼叫 Ollama API

SSH 隧道建立後,Python 不直接連到 minPC 的 IP:11434,而是向 Windows 本機的 http://127.0.0.1:11436/api/generate 發送 HTTP 請求。SSH 會自動將這筆資料轉送到 minPC 的 Ollama。

請求內容包含模型名稱、系統提示詞、使用者問題、是否串流,以及輸出 token 上限。程式以 json.dumps(..., ensure_ascii=False) 保留中文,再用 UTF-8 編碼送出。

四、完整 Python 程式

將以下程式存成 test_ollama_ssh_windows.py。這支程式不需安裝額外 Python 套件。

#!/usr/bin/env python3
"""自動建立 SSH 隧道,從 Windows 呼叫 BRIX 上的 Ollama。"""
import json
import subprocess
import sys
import time
import urllib.error
import urllib.request

SSH_HOST = "nfusrai@192.168.1.114"
LOCAL_PORT = 11436  # 避開既有測試常用的 11435
MODEL = "qwen3:4b-instruct-2507-q4_K_M"
API_URL = f"http://127.0.0.1:{LOCAL_PORT}/api/generate"
VERSION_URL = f"http://127.0.0.1:{LOCAL_PORT}/api/version"

if hasattr(sys.stdout, "reconfigure"):
    sys.stdout.reconfigure(encoding="utf-8")

ssh_command = [
    "ssh",
    "-o", "ExitOnForwardFailure=yes",
    "-N",
    "-L", f"127.0.0.1:{LOCAL_PORT}:127.0.0.1:11434",
    SSH_HOST,
]

ssh_process = None
try:
    print("正在建立到 BRIX 的 SSH 隧道;若出現提示,請輸入 SSH 密碼。")
    ssh_process = subprocess.Popen(ssh_command)

    # 最多等 60 秒,讓 SSH 驗證完成並確認 Ollama API 可連線。
    deadline = time.monotonic() + 60
    while time.monotonic() < deadline:
        if ssh_process.poll() is not None:
            raise RuntimeError(
                f"SSH 程序已結束,結束碼:{ssh_process.returncode}。"
                "請確認 SSH 帳號、密碼與主機位址。"
            )
        try:
            with urllib.request.urlopen(VERSION_URL, timeout=2) as response:
                version = json.loads(response.read().decode("utf-8"))
            print(f"SSH 隧道已連線;Ollama 版本:{version.get('version', '未知')}")
            break
        except (urllib.error.URLError, TimeoutError):
            time.sleep(0.5)
    else:
        raise TimeoutError(
            "等待 Ollama API 逾時。請確認 BRIX 上的 Ollama 正在執行。"
        )

    prompt = input("請輸入問題(直接按 Enter 使用預設問題):").strip()
    if not prompt:
        prompt = "請用繁體中文簡短自我介紹。"

    payload = {
        "model": MODEL,
        "system": "請使用繁體中文與臺灣用語,回答簡短。",
        "prompt": prompt,
        "stream": False,
        "options": {"num_predict": 128},
    }
    request = urllib.request.Request(
        API_URL,
        data=json.dumps(payload, ensure_ascii=False).encode("utf-8"),
        headers={"Content-Type": "application/json; charset=utf-8"},
        method="POST",
    )

    with urllib.request.urlopen(request, timeout=180) as response:
        result = json.loads(response.read().decode("utf-8"))
    print("\n模型:", result.get("model", MODEL))
    print("回答:\n", result.get("response", "(API 沒有回傳 response 欄位)"), sep="")
    print("\n完成原因:", result.get("done_reason", "未提供"))

except urllib.error.HTTPError as exc:
    print(f"HTTP 錯誤:{exc.code} {exc.reason}")
    print(exc.read().decode("utf-8", errors="replace"))
    raise SystemExit(1)
except urllib.error.URLError as exc:
    print("API 連線失敗:請確認 BRIX 上的 Ollama 正在執行。")
    print("詳細資訊:", exc.reason)
    raise SystemExit(1)
except (TimeoutError, RuntimeError) as exc:
    print("連線問題:", exc)
    raise SystemExit(1)
except KeyboardInterrupt:
    print("\n已中止測試。")
finally:
    if ssh_process is not None and ssh_process.poll() is None:
        ssh_process.terminate()
        try:
            ssh_process.wait(timeout=5)
        except subprocess.TimeoutExpired:
            ssh_process.kill()

五、執行方式與輸出判讀

先讓 mini PC 的 Ollama 保持運作。在 Windows CMD 切換到 Python 程式所在資料夾,執行:

py test_ollama_ssh_windows.py

輸入 Ubuntu 的 SSH 密碼,看到「SSH 隧道已連線」後,輸入問題。本次測試輸入「請用三句話寫一篇小故事。」

六、實際執行結果

C:\Users\cheng-min>py test_ollama_ssh_windows.py
正在建立到 BRIX 的 SSH 隧道;若出現提示,請輸入 SSH 密碼。
nfusrai@192.168.1.114's password:
SSH 隧道已連線;Ollama 版本:0.35.1
請輸入問題(直接按 Enter 使用預設問題):請用三句話寫一篇小故事。

模型: qwen3:4b-instruct-2507-q4_K_M
回答:
老陳每天清晨都坐在門口,看一隻小貓在花盆邊打滾。
貓總在日落時分,把一朵枯花叼進屋裡,放在他枕邊。
某天他發現,那朵花竟開出細小的紅花,像他早年丟失的夢。

完成原因: stop
結果:SSH 已連到 BRIX,Ollama API 回報版本 0.35.1,模型成功生成三句繁體中文故事。完成原因: stop表示本次輸出自然結束,而非達到 token 上限。

七、程式結束時自動關閉 SSH

程式最後的 finally 區塊會檢查 SSH 子程序是否還在執行;若仍在,就先呼叫 terminate(),等待最多五秒,必要時再強制停止。這讓使用者只需在一個 CMD 視窗操作,不必另外開一個視窗手動維持隧道。

常見問題

輸入密碼後一直等待,沒有「SSH 隧道已連線」?

請確認 mini PC 上 Ollama 正在執行,且 SSH 帳號、IP 位址正確。也可先在 Windows CMD 使用 ssh nfusrai@192.168.1.114 確認 SSH 登入正常。

顯示本機埠無法綁定或轉送失敗?

程式使用 Windows 的 11436 埠。若另一個程式已占用此埠,請關閉占用它的舊 SSH 隧道,或將程式中的 LOCAL_PORT 改成其他未使用的埠號。

Python 找不到 ssh 指令?

請確認 Windows 已安裝 OpenSSH Client,且在 CMD 執行 ssh -V 能顯示版本資訊。

結語:把本地模型接進生活應用

這次完成了「Windows Python → SSH 加密隧道 → mini PC Ollama → Qwen3 Instruct」的單視窗測試。下一步可在 Windows 端加入麥克風語音辨識,將台語問題轉成文字交由本地模型處理,再透過台語語音合成把回答播出,逐步建立由 mini PC 推論、Windows 收音與播放的台語互動原型。

智慧生活科技專業社群|本地生成式 AI、Python 網路程式與 SSH 實作

用 Python 從 Windows 遠端測試 Ollama:Qwen3 繁體中文故事生成

智慧生活科技|AI 實作紀錄

用 Python 從 Windows 遠端測試 Ollama:Qwen3 繁體中文故事生成

讓 GIGABYTE BRIX 負責本地 AI 推論,Windows 電腦負責操作與後續語音互動。本文記錄如何透過 SSH 隧道連線,再用 Python 傳送繁體中文問題,並驗證模型能否完成回答。

測試環境與架構

  • AI 主機:GIGABYTE GB-BTIP-N150,記憶體 16GB,作業系統 Ubuntu。
  • 模型:qwen3:4b-instruct-2507-q4_K_M。
  • 客戶端:Windows 電腦,以 CMD 執行 Python。
  • Ollama API:主機端 127.0.0.1:11434,經 SSH 轉送至 Windows 的 127.0.0.1:11435。

這種配置讓 BRIX 專心執行模型;麥克風、喇叭與互動程式則可留在 Windows 電腦。測試時不必把 Ollama API 直接公開到區域網路。

第一步:在 Windows CMD 開啟 SSH 隧道

在 Windows CMD 執行下列指令,並保持這個視窗開啟:

ssh -N -L 127.0.0.1:11435:127.0.0.1:11434 nfusrai@192.168.1.114

輸入 Ubuntu 帳號密碼後,視窗停在連線狀態、沒有新的命令提示符,代表隧道正在運作。另開 CMD 視窗後,可先檢查 Ollama API:

curl.exe http://127.0.0.1:11435/api/version

測試時收到 {"version":"0.35.1"},確認 Windows 已經能透過 SSH 隧道連上 BRIX 的 Ollama。

第二步:準備 Python 測試程式

將以下程式存成 test_ollama_windows.py。程式使用 Python 標準函式庫,不需另外安裝套件;它會用 UTF-8 傳送 JSON、等待模型回覆,再印出回答和完成原因。

#!/usr/bin/env python3
"""從 Windows 測試經 SSH 隧道連線的 Ollama API。"""
import json
import sys
import urllib.error
import urllib.request

API_URL = "http://127.0.0.1:11435/api/generate"
MODEL = "qwen3:4b-instruct-2507-q4_K_M"

# Windows CMD 通常可直接處理 Python Unicode;此設定也讓輸出統一使用 UTF-8。
if hasattr(sys.stdout, "reconfigure"):
    sys.stdout.reconfigure(encoding="utf-8")

prompt = input("請輸入要問模型的問題(直接按 Enter 使用預設問題):").strip()
if not prompt:
    prompt = "請用繁體中文簡短自我介紹。"

payload = {
    "model": MODEL,
    "system": "請使用繁體中文與臺灣用語,回答簡短。",
    "prompt": prompt,
    "stream": False,
    "options": {"num_predict": 128},
}
request = urllib.request.Request(
    API_URL,
    data=json.dumps(payload, ensure_ascii=False).encode("utf-8"),
    headers={"Content-Type": "application/json; charset=utf-8"},
    method="POST",
)

try:
    with urllib.request.urlopen(request, timeout=180) as response:
        result = json.loads(response.read().decode("utf-8"))
    print("\n模型:", result.get("model", MODEL))
    print("回答:\n", result.get("response", "(API 沒有回傳 response 欄位)"), sep="")
    print("\n完成原因:", result.get("done_reason", "未提供"))
except urllib.error.HTTPError as exc:
    print(f"HTTP 錯誤:{exc.code} {exc.reason}")
    print(exc.read().decode("utf-8", errors="replace"))
    raise SystemExit(1)
except urllib.error.URLError as exc:
    print("連線失敗:無法連到 Windows 本機的 Ollama SSH 隧道。")
    print("請確認 SSH 隧道視窗仍開啟,並先測試:curl.exe http://127.0.0.1:11435/api/version")
    print("詳細資訊:", exc.reason)
    raise SystemExit(1)
except TimeoutError:
    print("等待模型回覆逾時。請確認 BRIX 上的 Ollama 正常,再提高逾時時間或稍後重試。")
    raise SystemExit(1)

第三步:執行並輸入問題

在另一個 Windows CMD 視窗切換到程式所在資料夾,執行:

py test_ollama_windows.py

程式會提示輸入問題。本次輸入「請用三句話寫一篇小故事。」後,模型名稱顯示為 qwen3:4b-instruct-2507-q4_K_M,並成功回傳繁體中文內容。

本次成功測試結果

請用三句話寫一篇小故事。

模型: qwen3:4b-instruct-2507-q4_K_M
回答:
小巷裡的阿傑,每天傍晚都會幫老奶奶推車送菜。
那天他發現車輪下藏著一封舊信,寫著「給未來的我」。
他笑了,原來他早就知道,自己會成為那個未來。

完成原因: stop
測試判讀:模型有回傳完整故事,且完成原因是 stop,表示這次回答自然結束,並非因生成字數上限而中斷。

測試心得與下一步

本次已完成從 Windows CMD 經 SSH 隧道呼叫 BRIX 上 Ollama,並用 Python 傳送繁體中文、接收模型回覆的測試。Python 透過 json.dumps(..., ensure_ascii=False) 與 UTF-8 編碼處理中文,免去先前在 CMD 使用 echo 寫入中文 JSON 時遇到的亂碼問題。

下一階段可在 Windows 端加入語音辨識,把麥克風說出的台語轉成文字後交給 Ollama,再把模型回答交由台語語音合成播放。如此可逐步建成「Windows 收音與播音、BRIX 執行本地模型」的台語互動原型。

智慧生活科技專業社群|Ollama × Python × SSH 遠端測試實作

從 Windows CMD 遠端測試 Ollama:Qwen3 中文回覆成功紀錄

智慧生活科技|實作紀錄

從 Windows CMD 遠端測試 Ollama:Qwen3 中文回覆成功紀錄

讓 GIGABYTE BRIX 負責本地模型推論,Windows 電腦負責操作與後續語音互動。本篇記錄 SSH 隧道、模型選擇、中文編碼排查,以及成功取得繁體中文回覆的完整過程。

測試環境

本次以 GIGABYTE GB-BTIP-N150(16GB)作為 Ollama 主機,安裝 Ubuntu;另一台 Windows 電腦透過 SSH 使用 Ollama API。麥克風、喇叭與未來的語音介面都規劃在 Windows 電腦端。

  • Ollama 主機:192.168.1.114
  • 主機端 Ollama API:127.0.0.1:11434
  • Windows 本機轉送埠:127.0.0.1:11435
  • 成功模型:qwen3:4b-instruct-2507-q4_K_M
  • Ollama API 版本:0.35.1

一、以 SSH 建立 API 隧道

在 Windows CMD 開啟第一個視窗,輸入以下指令:

ssh -N -L 127.0.0.1:11435:127.0.0.1:11434 nfusrai@192.168.1.114

輸入 Ubuntu 帳號密碼後,視窗會停留在連線狀態、沒有新的命令提示符,這是正常的。測試時要保持此視窗開啟。

另開一個 Windows CMD,確認 API 隧道已連通:

curl.exe http://127.0.0.1:11435/api/version

收到下列類似回應,就代表 Windows 已經能透過 SSH 連到 Ollama:

{"version":"0.35.1"}
若連線失敗:看到「Failed to connect to 127.0.0.1 port 11435」時,先確認 SSH 隧道視窗仍開著。這表示 Windows 本機的轉送埠沒有在監聽,尚未進入模型測試階段。

二、確認原模型的回覆模式

原先安裝的 qwen3:4b 可以載入與執行,但 API 測試時,生成上限用完前仍在輸出 thinking,正式回答欄位 response 是空白。回應中的 done_reason":"length" 表示生成額度用完,模型還沒有完成回答。

進一步查詢 /api/show 後,模型回報思考模式只有 true 這個可用值。也就是說,這個安裝版本不能透過 "think":false 關閉思考模式。對一般短問答而言,改用 Instruct 取向的模型更合適。

三、下載 Qwen3 4B Instruct 模型

在另一個 Windows CMD 視窗,以 SSH 登入 BRIX 並下載量化版模型:

ssh nfusrai@192.168.1.114 ollama pull qwen3:4b-instruct-2507-q4_K_M

等待下載完成。原有 Thinking 模型可以先保留;呼叫 API 時指定新的模型名稱即可。

四、排除 Windows CMD 中文編碼問題

最初使用 CMD 的 echo 將中文字寫入 JSON 檔,模型收到後表示內容像是亂碼。改用記事本直接輸入中文仍未排除問題。最後將中文改寫成 JSON Unicode escape,避開命令列與檔案傳送過程中的中文編碼差異。

在 Windows CMD 輸入以下命令開啟記事本:

notepad ollama_test.json

把下列 JSON 貼入記事本,按 Ctrl+S 儲存後關閉:

{"model":"qwen3:4b-instruct-2507-q4_K_M","prompt":"\u8acb\u7528\u7e41\u9ad4\u4e2d\u6587\u7c21\u77ed\u81ea\u6211\u4ecb\u7d39\u3002","stream":false,"options":{"num_predict":128}}

這串 \u 編碼會由 JSON 解碼成「請用繁體中文簡短自我介紹。」整份測試檔只有英數字元,因此不必直接在 CMD 中傳送中文字。

五、從 Windows 呼叫模型

確認 SSH 隧道視窗仍保持連線後,在另一個 CMD 視窗執行:

curl.exe --max-time 120 http://127.0.0.1:11435/api/generate -H "Content-Type: application/json" --data-binary "@ollama_test.json"

成功時,API 回傳的 model 欄位會是 qwen3:4b-instruct-2507-q4_K_M,而 response 欄位會出現繁體中文自我介紹。本次測試已成功取得中文回答,表示整段流程都已連通:

Windows CMD → SSH 隧道 → BRIX 上的 Ollama → Qwen3 Instruct 模型

測試結論與後續方向

這次測試釐清兩個關鍵點:第一,原本的 qwen3:4b 使用 Thinking 取向,思考輸出會占用生成額度;第二,Windows CMD 傳送中文時可能遇到編碼差異。改用 Qwen3 4B Instruct,並以 JSON Unicode escape 傳送中文後,模型已能正常以繁體中文回覆。

下一步可在 Windows 電腦端加入語音辨識與台語文字處理,再將辨識結果傳給 Ollama;收到回答後,由 Windows 端的台語語音合成播放。BRIX 專責本地模型推論,Windows 則負責麥克風、喇叭與互動介面。

本次成果:遠端 API 連線成功,Instruct 模型成功以繁體中文回覆。
智慧生活科技專業社群|Ollama 本地 AI 實作紀錄

在 GIGABYTE BRIX N150 安裝 Ollama,並用 SSH 遠端操作

這篇記錄如何在 GIGABYTE GB-BTIP-N150(16GB 記憶體、Ubuntu)安裝 Ollama,下載中文模型 Qwen3 4B,並從 Windows 使用 SSH 遠端終端機操作。實測確認:SSH 可登入 BRIX,且能列出並執行已安裝的模型。

在 GIGABYTE BRIX N150 安裝 Ollama,並用 SSH 遠端操作

迷你電腦也能在本機執行小型語言模型。這次以 GIGABYTE GB-BTIP-N150、16GB 記憶體和 Ubuntu 為例,從安裝 Ollama 到 Windows 遠端登入,一步一步完成設定。

一、安裝 Ollama

在 BRIX 開啟 Ubuntu 終端機,執行官方安裝指令:

curl -fsSL https://ollama.com/install.sh | sh

安裝後可查看用戶端版本:

ollama --version

如果出現「Warning: could not connect to a running ollama instance」,但同時顯示 client version,代表指令已安裝,但當時尚未連上正在執行的 Ollama 服務。

二、啟動 Ollama 並下載模型

若 Ollama 服務尚未執行,可在一個終端機輸入:

ollama serve

讓服務保持執行,再開啟另一個終端機,下載並啟動 Qwen3 4B:

ollama run qwen3:4b

第一次執行會下載模型。進入 >>> 提示符後,就可以直接輸入問題。輸入 /bye 離開模型對話。

可用以下指令確認模型是否已下載:

ollama list

實測清單中可看到 qwen3:4b,模型大小約 2.5 GB。

如果畫面顯示 Unit ollama.service not be found,代表目前沒有找到名為 ollama 的 systemd 服務單元;本次安裝後採用終端機執行 ollama serve 的方式啟動,並以 ollama run 測試成功。

三、在 BRIX 啟用 SSH

若要從 Windows 使用命令列遠端操作 BRIX,先在 BRIX 安裝並啟動 SSH 伺服器:

sudo apt update
sudo apt install -y openssh-server
sudo systemctl enable --now ssh

查詢 Ubuntu 登入帳號和 BRIX 的區域網路 IP:

whoami
hostname -I

本次測試使用的帳號是 nfusrai,BRIX 的 IP 是 192.168.1.114。您的設備可能會使用不同帳號或 IP,請以終端機查到的結果為準。

四、從 Windows 遠端登入

在 Windows 開啟 PowerShell,輸入 SSH 指令:

ssh nfusrai@192.168.1.114

第一次連線若出現主機真實性確認,輸入 yes;接著輸入 BRIX 的 Ubuntu 使用者密碼。成功後會看到類似以下提示符:

nfusrai@giga-n150:~$

看到這個提示符,就表示已進入 BRIX 的遠端終端機。密碼輸入時不會顯示字元,輸入完成後按 Enter 即可。

五、在 SSH 視窗執行 Ollama

遠端登入後,可以直接查詢已下載模型:

ollama list

啟動模型進行對話:

ollama run qwen3:4b

輸入 /bye 結束模型對話,輸入 exit 登出 SSH。

本次測試結果

  • BRIX 上已安裝 Ollama,並成功執行 qwen3:4b。
  • Windows PowerShell 透過 ssh nfusrai@192.168.1.114 成功登入 Ubuntu。
  • SSH 遠端執行 ollama list,成功列出 qwen3:4b。
  • 因此,日常遠端操作 Ollama 可以直接使用 SSH 終端機,不必透過遠端網頁。

小提醒:SSH 連線需要 BRIX 已開機、連上同一個網路,且 SSH 服務正在執行。若 BRIX 的 IP 改變,Windows 連線指令中的 IP 也要更新。不要把 SSH 或 Ollama 埠直接公開到網際網路;外網遠端連線建議透過 VPN。