104學習精靈
調校
調校
關注
邀請朋友 
Facebook
Line
複製連結
Hi~ 歡迎分享學習資源，有學習問題可匿名向Giver發問！
我要分享
我要提問
調校 學習推薦
全部
影片
文章
Apple 開源 OpenELM AI 模型：功能、優勢及訓練框架解析
蘋果終於進軍AI領域，推出全新開源語言模型OpenELM。這篇文章將深入探討OpenELM的功能、優勢及其訓練框架，幫助開發人員了解如何在蘋果裝置上高效運行AI模型，提升工作效率和產品質量。
▍蘋果推出OpenELM：AI模型的新選擇
在微軟、Meta、Google等科技巨頭相繼發布自家AI模型後，蘋果終於發聲，推出了全新的開源語言模型家族——OpenELM。這個模型的全名是開源高效語言模型（Open-source Efficient Language Model），能夠在蘋果裝置上高效運行。OpenELM提供了四種不同參數規模的模型，分別是2.7億、4.5億、11億及30億參數，並且每個規模都有預訓練和指令調校兩個版本，總共提供了八種版本供開發者選擇。
▍多樣化模型選擇，滿足不同需求
蘋果已經在Hugging Face上公開了這些模型，並提供完整的訓練和評估框架，開發人員還可以利用提供的程式碼將模型轉換成MLX函式庫，以便在蘋果裝置上進行推論和微調。這意味著，無論是從事什麼樣的AI應用，開發人員都能找到適合的OpenELM模型版本來滿足需求。
▍高效訓練框架：CoreNet
在訓練方面，OpenELM模型使用了CoreNet函式庫作為訓練框架。其預訓練資料集包括了RefinedWeb、去除重覆資料的PILE、RedPajama和Dolma v1.6各一個子資料集，共1.8兆token。這樣的資料集配置使得模型在訓練過程中能夠獲得廣泛而深入的語言知識。
▍分層擴展策略提升準確率
OpenELM融合了分層擴展策略，能將模型參數有效分配到transformer模型各層，以提升準確率。例如，11億參數版本的OpenELM比12億參數版本的OLMo在準確率上高出2.36%，但使用的預訓練資料token僅為其一半。這展示了OpenELM在有效利用資源方面的優越性能。
▍性能比較：OpenELM vs 其他模型
蘋果也列出了OpenELM在不同裝置上的性能數據。在一台Nvidia GPU/Ubuntu筆電上，OpenELM 4.5億參數版本的提示執行效能已超過MobiLama，而2.7億參數版本與OPT相差無幾。在程式碼生成任務上，雖然各個版本都還有改進空間，但已經展示了不錯的潛力。此外，蘋果還提供了在Apple Silicon-based MacBook Pro上的執行數據，顯示出OpenELM在自家裝置上的優異表現。
▍蘋果的AI研發成果
這次OpenELM的推出，是蘋果繼去年十月開源多模語言模型Ferret及今年三月的MM1之後，再度展示其在AI領域的研發成果。與以往不同的是，OpenELM特別強調其在蘋果裝置上的高效運行能力，這對於廣大使用蘋果產品的開發者來說無疑是個好消息。
▍競爭與未來展望
目前，微軟也推出了可在筆電上執行的小語言模型（SLM）Phi-3系列，最小版本有38億參數。微軟強調Phi-3在語言理解、推理、數學及寫程式等能力上，比更多參數的模型如GPT-3.5 Turbo、Mistral還要強大。面對這樣的競爭，蘋果與其他晶片業者如英特爾、AMD、高通等，預計在今年內推出為AI模型執行設計的第一代或新一代晶片。蘋果最新的Apple Silicon M4預計在今年稍後問世，並會在年底推出搭載M4晶片的Mac產品。
OpenELM的推出標誌著蘋果在AI領域邁出了重要一步。通過開源這些高效能的語言模型及其訓練和推論框架，蘋果不僅為開發者提供了強大的工具，也展示了其在AI技術上的雄厚實力。無論是在語言理解、程式碼生成，還是其他AI應用領域，OpenELM都有望成為開發者的首選。
➤ 歡迎在104學習精靈關注【AI趨勢報－科技愛好者的產地】獲得更多科技新知！
1
0
1592 0
拍手
留言
分享
Line
複製連結
收藏
熱門精選
【免費報名】零經驗↘只要12週↘您也可以轉職資料工程師。專業技術養成班｜線上開課說明會
想轉換跑道當資料工程師，但又不知道如何開始?
坊間這麼多培訓班，怎麼能跟業界銜接?
報名在這邊 > >
緯育TibaMe x 104學習精靈 現正舉辦【跨領域轉職資料工程師。課程說明會】
透過12週培訓課程：從基礎 → 進階、團體專題，課後就業媒合，協助您成功轉職！
【本場說明會包含兩個資料工程師_聯合招生說明】
A【資料工程師_養成班】 3/10 確定開班
課程相關完整介紹搶先看：
B【資料工程師_在職班】 4/15 確定開班
課程相關完整介紹搶先看：(後補)
【班級滿額就無法再招生，趕緊報名搶席次吧!】
－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－
本課程將提供104報名會員優惠，優惠折扣將於線上說明會揭曉：
⚡ 線上說明會 | 緯育TibaMe的優惠，透過104活動吧報名，才享有該優惠。
⚡ 確認報名課程，可享 緯育TibaMe 相關付款優惠（例如：信用卡分期．．．等）
真的！席次最後倒數！免費報名！相信自己一次！
－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－
【報名場次】
🔴 2/15 (六) 11:00~12:00 | 報名到2/14 (五) 18:00
線上說明會連結與資訊，將於2/14(五)18:00 後陸續發送到您報名的電子郵件信箱。
🔴 2/22 (六) 11:00~12:00 | 報名到2/21 (五) 18:00
線上說明會連結與資訊，將於2/21(五)18:00 後陸續發送到您報名的電子郵件信箱。
🔴 2/27 (四) 20:00~21:00 | 報名到2/26 (三) 18:00
線上說明會連結與資訊，將於2/26(三)18:00 後陸續發送到您報名的電子郵件信箱。
0
1
10368 2
拍手
留言
分享
Line
複製連結
收藏
學習精靈
01/21 00:00
youtube.com
SQL效能調校分享-資料瘦身法
252 20
分享
Line
複製連結
收藏
學習精靈
05/18 00:00
youtube.com
JavaScript 開發實戰：效能調校與常見陷阱 (2013 JSDC.tw)
148 2
分享
Line
複製連結
收藏
推薦給你
【學習0負擔，職涯成長100%】刷卡分期 0 利率，輕鬆進修！
想提升職場競爭力，卻擔心學習費用負擔太大？
現在，104學習精靈推出：刷卡分期 0 利率分期服務，讓你無壓力學習，快速成長！
💡 單筆消費滿 4,000 元 享 3 期 0 利率
💡 單筆消費滿12,000 元 享 6 期 0 利率
無論是提升專業技能，還是轉職跨領域，現在是最佳時機！
利用彈性付款方式，投資自己，迎接更好的職涯發展。
【精選課程整理】立即選擇適合你的課程，開啟無壓學習之旅！
⚡ Linux系統建置實務 【享 3 期 0 利率】
加碼：領 折$１０００送百點 優惠券現折
⚡ 碳管理師菁英班 【享 3 期 0 利率】
加碼：領 折千元↘送2百點 優惠券現折
⚡ 【轉換率優化集訓班 】進階應用 【享 3 期 0 利率】
加碼：領 折1102 元 優惠券現折
⚡ 行銷人的 GTM 實戰工作坊【享 3 期 0 利率】
⚡ 【RevitBIM】AR建築BIM建模師養成班(台中) 【享 6 期 0 利率】
加碼：領 折 2000 元 優惠券現折
⚡ 【RevitBIM】AR建築BIM建模師養成班(台北) 【享 6 期 0 利率】
加碼：領 折 2000 元 優惠券現折
⚡ 【RevitBIM】MEP五大系統整合實務班(贈 iCAP消防空調 雙證班) 【享 6 期 0 利率】
加碼：領 折 2000 元 優惠券現折
⚡ 嵌入式Linux設計開發 【享 6 期 0 利率】
加碼：領 折 3000 元 優惠券現折
⚡ MCU應用設計[ARM Cortex-M 應用設計] 【享 6 期 0 利率】
加碼：領 折 3000 元 優惠券現折
⚡USB韌體設計 【享 6 期 0 利率】
加碼：領 折 3000 元 優惠券現折
⚡壓力管理工作坊：釋放壓力，喚醒自信 【享 3 期 0 利率】
加碼：領 折 999 元 優惠券現折
⚡NPDP產品經理國際認證培訓班(2025/03/22 實體班) 【享 6 期 0 利率】
加碼：領 折 1999 元 優惠券現折
⚡ WBSA商務行銷企劃師國際認證培訓 (2025/03/22實體班) 【享 6 期 0 利率】
加碼：領 折 1999 元 優惠券現折
⚡AWS雲端解決方案架構師考證班 【享 6 期 0 利率】
加碼：領 折 7500 元 優惠券現折
⚡ AI-Agent實作課- 打造AI助理解決工作SOP【享 6 期 0 利率】
【提醒】加碼優惠有時效性，請依照各課程頁說明為基準。
0
0
17 0
拍手
留言
分享
Line
複製連結
收藏
你可能感興趣的教室