一、安裝OLLAMAqwen7b.gguf是阿里巴巴的通義千問大模型7B大模型7億參數至少需要8G內存越大回復越流暢下載完后雙擊OllamaSetup自動安裝成功默認安裝在C盤不能選擇安裝路徑的哦安裝完后右下角會出現Ollama圖標。二、創建環境變量OLLAMA_MODELS隨意指定變量值如圖所示PythonOLLAMA_MODELS三、重啟OLLAMA選擇右鍵小圖標然后退出在開始菜單中找到重啟Ollama四、重啟后目錄如下五、創建Modelfile在blobs下創建Modelfile文件沒有后綴。六、加載模型1、將qwen7b.gguf模型放到F:\Ollama\models\blobs目錄下和ModelFile同目錄不一定非要同目錄如果放到其他地方以下路徑隨著更改就行Plain TextFROM ./qwen7b.gguf2、在Modelfile所在路徑輸入cmd然后回車3、執行命令Plain Textollama create qwen -f Modelfile.txt等待差不多10分鐘出現success表示成功。七、成功后的目錄八、查看模型Plain Textollama list九、運行模型Plain Textollama run qwen運行成功的窗口如下這樣就可以開始對話了我們接著講解如何通過AnythingLLM實現友好對話的安裝AnythingLLM雙擊安裝包它會自動安裝完成這是安裝后的界面接下來我們設置一下ollama配置anythingllm是一個前端ollama是一個運行大模型的后臺我們現在需要通過anyhtingllm去調用后臺接口方便我們實現友好對話配置ollamallmProvider這里選擇Ollama后臺訪問接口地址url默認為http://127.0.0.1:11434 模型我們選擇llama3中文版也可以選擇已經安裝的模型qwentoken默認即可如下圖所示設置向量數據庫選擇lanceDB即可新建空間接下來我們測試一下最后的最后感謝你們的閱讀和喜歡作為一位在一線互聯網行業奮斗多年的老兵我深知在這個瞬息萬變的技術領域中持續學習和進步的重要性。為了幫助更多熱愛技術、渴望成長的朋友我特別整理了一份涵蓋大模型領域的寶貴資料集。這些資料不僅是我多年積累的心血結晶也是我在行業一線實戰經驗的總結。這些學習資料不僅深入淺出而且非常實用讓大家系統而高效地掌握AI大模型的各個知識點。如果你愿意花時間沉下心來學習相信它們一定能為你提供實質性的幫助。這份完整版的大模型 AI 學習資料已經上傳CSDN朋友們如果需要可以微信掃描下方CSDN官方認證二維碼免費領取【保證100%免費】大模型知識腦圖為了成為更好的 AI大模型 開發者這里為大家提供了總的路線圖。它的用處就在于你可以按照上面的知識點去找對應的學習資源保證自己學得較為全面。經典書籍閱讀閱讀AI大模型經典書籍可以幫助讀者提高技術水平開拓視野掌握核心技術提高解決問題的能力同時也可以借鑒他人的經驗。對于想要深入學習AI大模型開發的讀者來說閱讀經典書籍是非常有必要的。實戰案例光學理論是沒用的要學會跟著一起敲要動手實操才能將自己的所學運用到實際當中去這時候可以搞點實戰案例來學習。面試資料我們學習AI大模型必然是想找到高薪的工作下面這些面試題都是總結當前最新、最熱、最高頻的面試題并且每道題都有詳細的答案面試前刷完這套面試題資料小小offer不在話下640套AI大模型報告合集這套包含640份報告的合集涵蓋了AI大模型的理論研究、技術實現、行業應用等多個方面。無論您是科研人員、工程師還是對AI大模型感興趣的愛好者這套報告合集都將為您提供寶貴的信息和啟示。這份完整版的大模型 AI 學習資料已經上傳CSDN朋友們如果需要可以微信掃描下方CSDN官方認證二維碼免費領取【保證100%免費】