-
Fine-tune 會遺忘,RAG 會漏:用 Hypernetwork 在推論當下「長」出 agent 要的模型
微調把知識烤進權重卻會遺忘、RAG 把知識塞進 context 卻會漏;第三條路是用 hypernetwork 依任務描述、在一次前向傳播裡按需生成模型。以 Sakana AI 的 Text-to-LoRA 為例,拆解機...
微調把知識烤進權重卻會遺忘、RAG 把知識塞進 context 卻會漏;第三條路是用 hypernetwork 依任務描述、在一次前向傳播裡按需生成模型。以 Sakana AI 的 Text-to-LoRA 為例,拆解機...