01 為什么要盯著宏觀演變垂域RAG工程師的日常工作很具體解析文檔、調(diào)檢索、訓(xùn)模型、部署服務(wù)。看起來(lái)和萬(wàn)億參數(shù)原生多模態(tài)這些宏觀敘事離得很遠(yuǎn)。但宏觀演變決定了日常工作的邊界三個(gè)必要性很實(shí)際。避免在過(guò)時(shí)的技術(shù)棧上造輪子。基座模型能力弱的時(shí)候遇到行業(yè)術(shù)語(yǔ)和復(fù)雜邏輯只能花大力氣收集數(shù)據(jù)做微調(diào)。現(xiàn)在模型上下文到了百萬(wàn)級(jí)、上下文學(xué)習(xí)能力極強(qiáng)很多過(guò)去需要微調(diào)解決的知識(shí)注入問(wèn)題用RAG加提示詞工程就能解決。不了解這個(gè)變化就可能在數(shù)據(jù)標(biāo)注和微調(diào)上浪費(fèi)數(shù)月。捕獲架構(gòu)紅利解決RAG的老痛點(diǎn)。RAG系統(tǒng)的核心痛點(diǎn)是召回不準(zhǔn)和復(fù)雜問(wèn)題推理失敗。長(zhǎng)上下文、深度推理、工具調(diào)用這些能力的演進(jìn)恰好提供了新武器——比如用推理模型作為RAG的大腦自主拆解問(wèn)題、多跳檢索這就是Agentic RAG的路徑。重新定義垂域護(hù)城河。通用模型越來(lái)越強(qiáng)垂域系統(tǒng)的壁壘不再是懂幾個(gè)行業(yè)名詞而是私有的高質(zhì)量行業(yè)數(shù)據(jù)資產(chǎn)以及與行業(yè)工作流的無(wú)縫嵌入。精力該從調(diào)參煉丹轉(zhuǎn)向數(shù)據(jù)工程和鏈路設(shè)計(jì)。看清方向之后問(wèn)題落到更具體的一層日常工作究竟怎么組織。兩條線索可以把它看清楚——縱向的依賴層級(jí)橫向的五個(gè)工作階段。02 縱向依賴層級(jí)的五層RAG工程師面對(duì)的依賴棧從底向上是五層┌─────────────────────────────────────────┐ │ 應(yīng)用層vLLM / SGLang / RAG 業(yè)務(wù)代碼 │ ├─────────────────────────────────────────┤ │ 框架層PyTorch │ ├─────────────────────────────────────────┤ │ CUDA層CUDA Toolkit / cuDNN │ ├─────────────────────────────────────────┤ │ 驅(qū)動(dòng)層NVIDIA Driver │ ├─────────────────────────────────────────┤ │ 硬件層GPUA100 / L40S / ... │ └─────────────────────────────────────────┘硬件層物理算力。日常關(guān)心有幾張卡、顯存多大——這直接決定能跑多大的模型、開多大的并發(fā)。驅(qū)動(dòng)層NVIDIA Driver操作系統(tǒng)與GPU之間的翻譯。日常只需確認(rèn)nvidia-smi能識(shí)別GPU裝好后不再變動(dòng)。CUDA層框架調(diào)用GPU算力的橋梁。關(guān)心點(diǎn)是版本要和PyTorch匹配FlashAttention等算子庫(kù)的編譯依賴它。框架層PyTorch。關(guān)心點(diǎn)是版本要支持目標(biāo)模型架構(gòu)新模型往往需要較新的框架。應(yīng)用層vLLM等推理框架和自己的RAG業(yè)務(wù)代碼日常打交道最多。在這個(gè)棧上有四條被反復(fù)驗(yàn)證的原則。底層穩(wěn)定不動(dòng)。Driver是全局共享的地基裝好后不輕易升級(jí)。地基動(dòng)一次上面所有環(huán)境都可能塌。中層按需匹配。Driver決定能用的CUDA上限CUDA Toolkit按環(huán)境裝不同版本但不能超過(guò)上限PyTorch嚴(yán)格匹配CUDA版本。絕大多數(shù)GPU用不了的問(wèn)題都出在這三者的版本錯(cuò)位上。上層靈活但鎖定。應(yīng)用層庫(kù)更新頻繁不同項(xiàng)目需求不同依賴清單要固化成文件保證可復(fù)現(xiàn)、可回滾。出問(wèn)題自底向上排查。先確認(rèn)nvidia-smi能看到GPU再確認(rèn)torch.cuda.is_available()為True再看應(yīng)用層報(bào)錯(cuò)。分層排除的效率遠(yuǎn)高于遇到報(bào)錯(cuò)就全網(wǎng)搜索零散解法。03 橫向五個(gè)工作階段一個(gè)完整的RAG系統(tǒng)要經(jīng)歷五個(gè)階段。每個(gè)階段的任務(wù)性質(zhì)、工具鏈、產(chǎn)出物都不同。階段一數(shù)據(jù)合成與處理。把行業(yè)原始文檔變成可用的數(shù)據(jù)資產(chǎn)。文檔解析、文本切片、調(diào)用強(qiáng)模型批量合成QA訓(xùn)練數(shù)據(jù)、清洗去重。產(chǎn)出是干凈的文檔文本進(jìn)知識(shí)庫(kù)和QA數(shù)據(jù)集給訓(xùn)練用。這一步的質(zhì)量決定整個(gè)系統(tǒng)的上限——文檔解析丟掉的表格結(jié)構(gòu)下游永遠(yuǎn)找不回來(lái)。臟數(shù)據(jù)的另一個(gè)特點(diǎn)是隱蔽問(wèn)題往往到檢索或生成環(huán)節(jié)才暴露但根子在數(shù)據(jù)。階段二小模型訓(xùn)練。微調(diào)檢索鏈路的兩個(gè)關(guān)鍵模型Embedding模型負(fù)責(zé)召回Reranker模型負(fù)責(zé)精排。它們參數(shù)不大單卡訓(xùn)練幾小時(shí)但對(duì)檢索精度的提升常常超過(guò)調(diào)一個(gè)月提示詞。選型上文本檢索以Qwen3-Embedding、BGE等開源模型為主流知識(shí)庫(kù)含大量圖片圖表時(shí)可選多模態(tài)Embedding模型把文本和圖像編碼到統(tǒng)一向量空間實(shí)現(xiàn)以文搜圖。訓(xùn)練數(shù)據(jù)來(lái)自階段一的合成QA。產(chǎn)出是微調(diào)后的模型權(quán)重交給階段四。階段三大模型微調(diào)。讓通用大模型適應(yīng)行業(yè)語(yǔ)言和輸出規(guī)范。垂域SFT的主要目的不是讓模型學(xué)會(huì)新知識(shí)——知識(shí)交給RAG檢索更合適——而是學(xué)會(huì)用行業(yè)的方式說(shuō)話。常規(guī)做法是LoRA只訓(xùn)練少量參數(shù)基座模型不動(dòng)可疊加、易回滾。需要多卡、DeepSpeed省顯存、FlashAttention加速以及足夠新的框架版本支持新模型架構(gòu)。數(shù)據(jù)配比上垂域數(shù)據(jù)之外要保留一定比例的通用數(shù)據(jù)避免模型學(xué)會(huì)行業(yè)話的同時(shí)丟掉通用能力。產(chǎn)出是LoRA權(quán)重交給階段五部署。階段四RAG鏈路開發(fā)。把檢索和生成串成完整問(wèn)答流程用戶提問(wèn) → Query處理改寫/擴(kuò)展 → 混合檢索向量檢索用階段二的Embedding 關(guān)鍵詞檢索BM25 → Reranker精排用階段二的Reranker → 拼裝Prompt系統(tǒng)提示 檢索結(jié)果 用戶問(wèn)題 → 調(diào)用大模型生成回答用階段五部署的API → 返回答案混合檢索的存在有一個(gè)很實(shí)際的原因垂域?qū)Ｓ忻~靠語(yǔ)義往往搜不到必須靠關(guān)鍵詞精確命中補(bǔ)齊兩路結(jié)果互補(bǔ)。這個(gè)階段以集成和調(diào)試為主迭代最頻繁——調(diào)檢索策略、改Prompt、跑評(píng)估每天可能改好幾輪。階段五推理部署服務(wù)化。把模型部署成穩(wěn)定的API服務(wù)供鏈路調(diào)用。用Docker不用Conda——推理框架的依賴復(fù)雜且嚴(yán)格官方鏡像已預(yù)配好一切容器化也讓多模型多版本共存、崩潰自動(dòng)重啟、服務(wù)編排成為標(biāo)配。04 部署專項(xiàng)幾件確定性高的事推理部署是鏈路的最末端也是工程取舍最集中的地方。有幾件事的確定性很高值得優(yōu)先做。量化是第一優(yōu)化。把模型權(quán)重從FP16壓到INT4顯存占用減半、推理速度提升對(duì)幾十B級(jí)別的模型精度損失通常在可接受范圍內(nèi)。這是成本最低、收益最高的部署優(yōu)化。Prefix Caching是RAG場(chǎng)景的殺手級(jí)優(yōu)化。RAG請(qǐng)求天然帶有很長(zhǎng)的共享前綴——系統(tǒng)提示加上檢索注入的上下文。開啟前綴緩存后相同前綴的請(qǐng)求跳過(guò)重復(fù)的預(yù)填充計(jì)算首token延遲可下降一半以上。盯兩個(gè)延遲指標(biāo)。TTFT首token延遲是用戶感知的響應(yīng)速度TPOT每token延遲是用戶感知的生成速度。RAG場(chǎng)景通常TTFT更要緊——用戶等著看答案。監(jiān)控不是可選項(xiàng)。QPS、延遲、顯存占用、錯(cuò)誤率上線就必須有數(shù)據(jù)。沒有監(jiān)控的部署出問(wèn)題后無(wú)法定位瓶頸。05 環(huán)境管理五個(gè)環(huán)境互不干擾為什么每個(gè)階段要一個(gè)獨(dú)立環(huán)境因?yàn)樗鼈兊囊蕾嚮ハ鄾_突微調(diào)新模型要最新版框架小模型訓(xùn)練求穩(wěn)定要鎖舊版推理部署的推理框架自帶一套嚴(yán)格鎖定的依賴。全塞進(jìn)一個(gè)環(huán)境就是依賴地獄。各階段對(duì)環(huán)境的訴求可以概括為四句話訓(xùn)練求穩(wěn)定一次跑數(shù)小時(shí)框架固定在驗(yàn)證過(guò)的組合上、微調(diào)求兼容必須上較新的框架版本支持新模型架構(gòu)、部署求不變生產(chǎn)環(huán)境跑幾個(gè)月不動(dòng)、開發(fā)求靈活快速試驗(yàn)新方案但依賴清單留底可回滾。典型的劃分data-synth跑數(shù)據(jù)處理small-train訓(xùn)Embedding和Rerankerllm-finetune微調(diào)大模型rag-dev開發(fā)鏈路推理部署交給Docker。日常就是在環(huán)境間切換——上午處理數(shù)據(jù)下午訓(xùn)練模型傍晚調(diào)鏈路。階段之間不共享環(huán)境靠契約傳遞成果數(shù)據(jù)階段交出固定格式的數(shù)據(jù)集文件訓(xùn)練階段交出標(biāo)準(zhǔn)格式的模型權(quán)重部署階段提供標(biāo)準(zhǔn)化的API接口。只要契約不變每個(gè)階段內(nèi)部怎么改都不影響其他階段。換訓(xùn)練框架、升級(jí)推理引擎、重做數(shù)據(jù)集都是局部動(dòng)作。06 收束迭代循環(huán)把五階段連起來(lái)就是一個(gè)典型的迭代周期拿到新的行業(yè)文檔解析、清洗、合成訓(xùn)練數(shù)據(jù)檢索不夠好微調(diào)Embedding和Reranker回答風(fēng)格不符行業(yè)要求LoRA微調(diào)大模型在鏈路里反復(fù)調(diào)策略、跑評(píng)估效果達(dá)標(biāo)后Docker部署上線上線后持續(xù)監(jiān)控、收集badcase回到起點(diǎn)開始下一輪。RAG工程師的日常就是在這五個(gè)階段之間循環(huán)迭代。環(huán)境隔離讓迭代互不干擾契約傳遞讓協(xié)作界面清晰評(píng)估監(jiān)控讓每輪迭代有據(jù)可依。這張地圖的價(jià)值還在于工作推進(jìn)不順時(shí)先定位自己站在地圖的哪個(gè)位置——是數(shù)據(jù)階段的解析質(zhì)量問(wèn)題還是訓(xùn)練階段的模型能力問(wèn)題是鏈路階段的策略問(wèn)題還是部署階段的性能問(wèn)題。位置清楚了解法自然就清楚了。最終決定系統(tǒng)成敗的不是追了多新的模型而是數(shù)據(jù)質(zhì)量、檢索精度和鏈路與業(yè)務(wù)的貼合度——這些恰好都是每天手里在做的事。學(xué)AI大模型的正確順序千萬(wàn)不要搞錯(cuò)了2026年AI風(fēng)口已來(lái)各行各業(yè)的AI滲透肉眼可見超多公司要么轉(zhuǎn)型做AI相關(guān)產(chǎn)品要么高薪挖AI技術(shù)人才機(jī)遇直接擺在眼前有往AI方向發(fā)展或者本身有后端編程基礎(chǔ)的朋友直接沖AI大模型應(yīng)用開發(fā)轉(zhuǎn)崗超合適就算暫時(shí)不打算轉(zhuǎn)崗了解大模型、RAG、Prompt、Agent這些熱門概念能上手做簡(jiǎn)單項(xiàng)目也絕對(duì)是求職加分王給大家整理了超全最新的AI大模型應(yīng)用開發(fā)學(xué)習(xí)清單和資料手把手幫你快速入門學(xué)習(xí)路線:?大模型基礎(chǔ)認(rèn)知—大模型核心原理、發(fā)展歷程、主流模型GPT、文心一言等特點(diǎn)解析?核心技術(shù)模塊—RAG檢索增強(qiáng)生成、Prompt工程實(shí)戰(zhàn)、Agent智能體開發(fā)邏輯?開發(fā)基礎(chǔ)能力—Python進(jìn)階、API接口調(diào)用、大模型開發(fā)框架LangChain等實(shí)操?應(yīng)用場(chǎng)景開發(fā)—智能問(wèn)答系統(tǒng)、企業(yè)知識(shí)庫(kù)、AIGC內(nèi)容生成工具、行業(yè)定制化大模型應(yīng)用?項(xiàng)目落地流程—需求拆解、技術(shù)選型、模型調(diào)優(yōu)、測(cè)試上線、運(yùn)維迭代?面試求職沖刺—崗位JD解析、簡(jiǎn)歷AI項(xiàng)目包裝、高頻面試題匯總、模擬面經(jīng)以上6大模塊看似清晰好上手實(shí)則每個(gè)部分都有扎實(shí)的核心內(nèi)容需要吃透我把大模型的學(xué)習(xí)全流程已經(jīng)整理好了抓住AI時(shí)代風(fēng)口輕松解鎖職業(yè)新可能希望大家都能把握機(jī)遇實(shí)現(xiàn)薪資/職業(yè)躍遷這份完整版的大模型 AI 學(xué)習(xí)資料已經(jīng)上傳CSDN朋友們?nèi)绻枰梢晕⑿艗呙柘路紺SDN官方認(rèn)證二維碼免費(fèi)領(lǐng)取【保證100%免費(fèi)】