企業(yè)級(jí)大模型部署

課程介紹

本套教程是真正的企業(yè)級(jí)大模型部署方案，涉及的工具或平臺(tái)皆為主流應(yīng)用，采用原始直觀(guān)的方式，帶你一步步搭建企業(yè)級(jí)大模型應(yīng)用環(huán)境，在Docker中部署Dify，訪(fǎng)問(wèn)AutoDL服務(wù)器的Ollama、Xinference平臺(tái)的大語(yǔ)言模型、嵌入模型和重排序模型。

教程內(nèi)容涵蓋：基于騰訊云和AutoDL服務(wù)器部署，匯集大模型最熱門(mén)的Ollama和Xinference平臺(tái)，整合了Qwen、Deepseek、GPT、Embedding和Rerank等業(yè)內(nèi)主流的多個(gè)大模型；所有模型都通過(guò)部署在Docker中的Dify平臺(tái)進(jìn)行統(tǒng)一調(diào)用；講解了3個(gè)實(shí)戰(zhàn)級(jí)的大模型應(yīng)用案例（聊天助手、旅游顧問(wèn)、法律知識(shí)庫(kù)），涉及當(dāng)下大模型熱門(mén)的Agent開(kāi)發(fā)、企業(yè)級(jí)私有知識(shí)庫(kù)相關(guān)的RAG開(kāi)發(fā)等。
?