LLM
-
從 Transformer 到 Kansformer? KAN 網絡以結構優化提高模型參數效率與可解釋性
近年來，深度學習技術在多個領域實現了突破性進展，從語言處理到影像識別，無不體現了其強大的學習能力。而在這一進步的核心，多層感知器（MLP）一直扮演著基石的角色。MLP，也被稱為全連接前饋神經網絡，是深度學習模型的基礎構建...
-
探索 OctopusV3：行動裝置上的多模態大模型新革命
隨著人工智慧的快速發展，行動裝置上的多模態大模型成為了技術創新的重要推手之一。在這一背景下，OctopusV3 的出現，不僅標誌著多模態大模型技術的一大進步，更為行動裝置用戶帶來了全新的操作體驗。本文將探討 Octopu...
-
解鎖大型語言模型的力量：如何透過 RoPE Theta 增加上下文長度
近年來，大型語言模型（LLM）在自然語言處理領域取得了顯著進展。隨著技術的不斷發展，增加模型的上下文長度成為提升模型性能的關鍵策略之一。本文將深入探討如何通過調整 RoPE Theta 來有效增加 LLM 的上下文長度，...
-
超越 Sora：Picsart AI Research 聯合發表 StreamingT2V 模型可生成長達 2 分鐘 AI 影片
近年來，隨著 Generative AI 技術的快速發展，AI 視頻生成技術成為了一個熱門的研究領域。在這個領域中，StreamingT2V 模型的推出無疑是一個重要的里程碑。由 Picsart AI Research ...
-
Meta Llama: 開源高效基礎大模型的技術背後
概覽 在近年來，AI 技術的快速發展令人瞠目結舌，其中，由 Meta 發布的 Llama 大模型無疑是一顆耀眼的新星。Llama 大模型不僅在技術層面實現了重大創新，更在推動 AI 領域的整體發展中扮演了關鍵角色。本文將...
-
探索 Meta Llama 3：開放最先進的大型語言模型
在當今快速發展的 AI 技術領域中，開放式大型語言模型（LLM）已成為推動創新和應用開發的重要工具。Meta 最新推出的 Llama 3 模型，不僅提供了前所未有的性能水準，更以開放式模型的形式，為廣大開發者和企業帶來了...
-
META MEGALODON：解鎖無限序列長度的前沿AI模型
在當今日益複雜且數據驅動的世界中，人工智慧（AI）技術的進步已成為推動創新和效率提升的關鍵因素。近年來，AI 模型的規模和處理能力成為衡量技術進步的重要指標。在這種背景下，Meta 的最新開發——META MEGALOD...
-
OpenAI 推出全新 GPT-4 Turbo 版本：gpt-4-turbo-2024-04-09 與舊版本之比較
在 AI 技術日新月異的今天，OpenAI 再次引發業界關注，推出了備受期待的 GPT-4 Turbo 最新版本：gpt-4-turbo-2024-04-09。此次更新不僅提升了模型的性能，更在多個重要方面做出了創新和改...
-
Qwen 1.5 MoE：突破大模型的性能瓶頸
引言 在 AI 界的一場沉寂之後，阿里巴巴集團最近發布了一款備受矚目的人工智能語言模型——Qwen 1.5 MoE。這款模型以其 2.7 億的啟動參數，在多項基準測試中展現出了與 7B 級別大模型相匹敵的性能，為業界帶來...
-
探索 Stable Audio 2.0：開創音頻生成新紀元
引言：音頻生成技術的新浪潮 隨著人工智能技術的不斷進化，音頻生成技術也迎來了革命性的突破。Stability AI 最近發布的 Stable Audio 2.0，不僅提升了音頻生成的質量，更在功能上進行了重大革新。本文將...
