我們先來體驗一下如何在本機使用大型語言模型,可以到Ollama.com下載大型語言模型,先到Ollama.com點選「Download」,先下載Ollama。
選擇要下載的版本:
Windows的使用者可以到下載去執行「OllamaSetup」
點選「Install」(老師下載的版本是0.3.12,各位下載時版本可能不同)
安裝完成後,Ollama就開始執行了,可以看到Ollama在背景中執行
接下來,我們透過終端機(terminal/command/powershell)來啟動模型。
可以透過Ollama來執行各種模型,模型的說明可以參考: Models。
下面寫1B 3B,是指這個模型的參數(parameter)數,1B 是1 billion,也就是10億。