2024年12月14日 星期六

Ollama的聊天和生成功能

範例一、Ollama聊天

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
import ollama

question_1 = "什麼是5 + 6?"

ans_1 = "5 + 6 是 11,這是基本運算,5加上6等於11。"

question_2 = "再加8後,答案會是多少呢?"

response = ollama.chat(
    model="llama3.2",
    messages=[
        {"role": "user", "content": question_1},
        {"role": "assistant", "content": ans_1},
        {"role": "user", "content": question_2}
    ]
)

print(response["message"]["role"])
print(response["message"]["content"])

第一次執行結果:
assistant
11 加 8 等於 19。

第一次執行結果:
assistant
如果我們再加8到11,那麼就變成19了。 

範例二、


所以,5 + 6 + 8 = 19

第二次執行結果:
assistant
如果我們再加8到11,那么結果就變成了19了。

範例二、Ollama生成
 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
import ollama

question_1 = "什麼是5 + 6?"

ans_1 = "5 + 6 是 11,這是基本運算,5加上6等於11。"

question_2 = "再加8後,答案會是多少呢?"

prompt = f"""<|user|>
{question_1}<|end|>
<|assistant|>
{ans_1}<|end|>
<|user|>
{question_2}<|end|>
<|assistant|>
"""

response = ollama.generate(
    model="llama3.2",
    prompt=prompt
)

print(response["response"])

第一次執行:
再加8後,11 + 8 = 19。

第二次執行:
11 + 8 = 19

第三次執行:
11 + 8 = 19

沒有留言:

張貼留言