Finetune
-
大型語言模型微調新方法 ReFT：從原理到實踐
隨著 AI 技術的飛速發展，語言模型（LLM）在近幾年取得了顯著的進步。從早期的簡單模型到現在的大型生成式 AI（Generative AI），每一次的創新都為我們打開了新的可能。然而，隨著模型規模的不斷擴大，如何高效地...
-
OpenAI 推出新功能，開啟定制化 AI 模型的新篇章
引言 在 AI 領域，OpenAI 一直是創新和突破的代名詞。隨著科技的迅速發展，尤其是進入 2024 年後，人們對於更加智能化、個性化的技術需求日益增長。OpenAI 作為行業的領先者，不斷推陳出新，旨在滿足這些需求，...
-
進階微調 Mistral-7B 模型的方法：直接偏好優化
預訓練的大型語言模型（LLM）只能進行下一個詞預測，使得它們無法回答問題。這就是為什麼這些基礎模型之後需要通過指令和答案的配對進行精調，以充當有用的助手。然而，這個過程仍可能存在缺陷：精調後的 LLM 可能會有偏見、有毒...
