@import url(http://www.tkk7.com/CuteSoft_Client/CuteEditor/Load.ashx?type=style&file=SyntaxHighlighter.css);@import url(/css/cuteeditor.css);
從實(shí)踐案例介紹大模型應(yīng)用經(jīng)驗(yàn)和思考
LLaMA Factory：微調(diào)DeepSeek-R1-Distill-Qwen-7B模型實(shí)現(xiàn)新聞標(biāo)題分類(lèi)器
deepseek r1微調(diào)模型應(yīng)用落地案例（醫(yī)療法律，PatientSeek）
文本轉(zhuǎn)語(yǔ)音的模型ChatTTS體驗(yàn)極佳，真人般絲滑和流暢，自定義也比較靈活
醫(yī)療NLP領(lǐng)域 評(píng)測(cè)/比賽，數(shù)據(jù)集，論文和預(yù)訓(xùn)練模型資源匯總。
官網(wǎng)
騰訊, 需下載客戶(hù)端
阿里, 需自建對(duì)話(huà)應(yīng)用, 有網(wǎng)頁(yè)版
askmanyai
360納米搜索, 無(wú)網(wǎng)頁(yè)版, 需自行下載app
GPTQ、GGUF、AWQ 大語(yǔ)言模型量化方法對(duì)比（轉(zhuǎn)載）
摘要: 本博客深入探討了群體相對(duì)策略?xún)?yōu)化（GRPO）背后的數(shù)學(xué)，GRPO是推動(dòng)DeepSeek卓越推理能力的核心強(qiáng)化學(xué)習(xí)算法。我們將分解GRPO的工作原理、其關(guān)鍵組件，以及為什么它是訓(xùn)練高級(jí)大型語(yǔ)言模型（LLM）的改變者。
GRPO的基礎(chǔ)
GRPO是什么？
群相對(duì)策略?xún)?yōu)化（GRPO）是一種強(qiáng)化學(xué)習(xí)（RL）算法，專(zhuān)門(mén)用于增強(qiáng)大型語(yǔ)言模型（LLM）的推理能力。與傳統(tǒng)的RL方法不同，RL方法嚴(yán)重依賴(lài)外部評(píng)...
閱讀全文
DeepSeek大模型由于采用了GRPO算法, 大幅降低了顯存的需求.
【DeepSeek】復(fù)現(xiàn)DeepSeek R1？快來(lái)看這個(gè)Open R1項(xiàng)目實(shí)踐指南~
!!!實(shí)戰(zhàn)LLM強(qiáng)化學(xué)習(xí)——使用GRPO（DeepSeek R1出圈算法）
【DeepSeek】一文詳解GRPO算法——為什么能減少大模型訓(xùn)練資源？
DeepSeek R1系列
@import url(http://www.tkk7.com/CuteSoft_Client/CuteEditor/Load.ashx?type=style&file=SyntaxHighlighter.css);@import url(/css/cuteeditor.css);
vllm是一個(gè)可以加載大模型, 推理, 量化模型, 以http api的方式暴露服務(wù)的框架.
@import url(http://www.tkk7.com/CuteSoft_Client/CuteEditor/Load.ashx?type=style&file=SyntaxHighlighter.css);@import url(/css/cuteeditor.css);
@import url(http://www.tkk7.com/CuteSoft_Client/CuteEditor/Load.ashx?type=style&file=SyntaxHighlighter.css);@import url(/css/cuteeditor.css);
到底AI是虛的還是假的, 在企業(yè)中有沒(méi)實(shí)際落地場(chǎng)景, 以下取實(shí)際應(yīng)用場(chǎng)景:
生物公司
使用qwen2:7b訓(xùn)練細(xì)胞制備領(lǐng)域的數(shù)據(jù)集，目標(biāo)是
1.預(yù)測(cè)細(xì)胞收獲量
2.算細(xì)胞存活狀態(tài)(存活/死亡)
3.預(yù)測(cè)工藝是否成功
4.可以提前預(yù)測(cè)細(xì)胞的質(zhì)量是否達(dá)標(biāo)，以便及時(shí)采取措施進(jìn)行調(diào)整
5.細(xì)胞培養(yǎng)過(guò)程中出現(xiàn)大量細(xì)胞死亡的情況，模型可以根據(jù)實(shí)時(shí)數(shù)據(jù)和歷史經(jīng)驗(yàn)，分析可能是培養(yǎng)箱溫度失控、培養(yǎng)基成分錯(cuò)誤或受到污染等原因?qū)е碌模⑻峁┫鄳?yīng)的排查建議」
文體旅游
智能旅游系統(tǒng):
提供目的地介紹、
旅行路線(xiàn)規(guī)劃、
酒店預(yù)訂和景
點(diǎn)推薦等服務(wù)。
考試改卷
基于大模型，做一個(gè)判試卷的應(yīng)用，能夠判斷主觀題，比如閱讀理解，比如歷史，地理，政治問(wèn)答題。
判卷準(zhǔn)確率不能低于人工判卷準(zhǔn)確率。
即一次考試，一個(gè)班50份試卷，判斷結(jié)果錯(cuò)誤不超過(guò)5道題。判斷效率高于或等于人工。
取過(guò)往同學(xué)試卷題目, 作答內(nèi)容, 得分 作一波ocr出數(shù)據(jù), 一個(gè)科目, 提取所有試卷內(nèi)容, 最后就是一個(gè)科目一個(gè)模型, 提取的內(nèi)容放在文本, csv, json,
基于“bert-base-chinese”這個(gè)模型, 進(jìn)行微調(diào)出專(zhuān)用模型即可,
讓大模型成為專(zhuān)業(yè)的判卷老師
考試
用扣子打一個(gè)智能體，實(shí)現(xiàn)不同學(xué)員對(duì)掌握的知識(shí)進(jìn)行測(cè)試，根據(jù)測(cè)試結(jié)果進(jìn)行打分和二次出題測(cè)試
0. 配置環(huán)境變量
HF_ENDPOINT=https://hf-mirror.com
HF_HOME=/root/autodl-tmp/paul/tools/huggingface
1. 本機(jī)安裝python 3.10, 并設(shè)置軟件源
pip config set global.index-url https://pypi.tuna.tsinghua.edu.cn/simple
pip config set global.index-url https://mirrors.huaweicloud.com/repository/pypi/simple
2. 安裝miniconda
3. 新建一個(gè)環(huán)境, 并激活
conda create -n quantization python=3.12
2. 本機(jī)安裝pytorch2.5.1+cuda12.4
pip3 install torch torchvision torchaudio
pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
3. clone llamafactory源碼
git clone https://github.com/hiyouga/LLaMA-Factory
4. llamafactory本地安裝依賴(lài)
pip install -e .["vllm","gptq"]
5. 啟動(dòng)webui
6. 在頁(yè)面中填入相關(guān)參數(shù)進(jìn)行操作