跳轉至

藍圖篇 - Ollama

blueprint

獲取 Ollama

您可前往Ollama官方網站下載安裝程式進行本地安裝:ollama.com

您可以利用其他人提供的 Ollama API 接口来使用 Ollama。

使用本地檢索Ollama下載模型:

> ollama run qwen:latest
> ollama run moondream:latest

文字聊天

建立 "Ollama Options" 節點,設定 "Model"、"Base Url" 參數,若是在本機執行 Ollama,通常 "Base Url" 為 "http://localhost:11434"。

guide bludprint

連接 "Ollama Request" 節點 和 "Messages" 相關節點,點擊運行,即可看到屏幕上打印 Ollama 返回的聊天信息。如圖

guide bludprint

guide bludprint

圖片生成文字 llava

Ollama 同樣支持了 llava 庫,提供了 Vision 的能力。

首先取得 Multimodal 模型檔案:

> ollama run moondream:latest

設置 "Options" 節點,"Model" 設置為 moondream:latest

guide bludprint

讀取圖片 flower.png,並設置消息

flower.png

guide bludprint

連接 "Ollama Request" 節點,點擊運行,即可在螢幕上看到 Ollama 返回的聊天信息。

Original: https://wiki.disenone.site/tc

This post is protected by CC BY-NC-SA 4.0 agreement, should be reproduced with attribution.

這篇貼文是透過 ChatGPT 翻譯的,請在 反饋指出任何遺漏之處。