利用Ollama使用大型語言模型

安裝

我們先來體驗一下如何在本機使用大型語言模型,可以到Ollama.com下載大型語言模型,先到Ollama.com點選「Download」,先下載Ollama。

image.png

選擇要下載的版本:

image.png

Windows的使用者可以到下載去執行「OllamaSetup」

image.png

點選「Install」(老師下載的版本是0.3.12,各位下載時版本可能不同)

image.png

安裝完成後,Ollama就開始執行了,可以看到Ollama在背景中執行

image.png

啟動模型

接下來,我們透過終端機(terminal/command/powershell)來啟動模型。

image.png

image.png

可以透過Ollama來執行各種模型,模型的說明可以參考: Models

下面寫1B 3B,是指這個模型的參數(parameter)數,1B 是1 billion,也就是10億。

image.png