「調校」在職進修、線上學習、共學教室

AI 趨勢報－科技愛好者的產地🤖

關注

知識貓星球

喵星人

08/09 09:00

Apple 開源 OpenELM AI 模型：功能、優勢及訓練框架解析

蘋果終於進軍AI領域，推出全新開源語言模型OpenELM。這篇文章將深入探討OpenELM的功能、優勢及其訓練框架，幫助開發人員了解如何在蘋果裝置上高效運行AI模型，提升工作效率和產品質量。

▍蘋果推出OpenELM：AI模型的新選擇

在微軟、Meta、Google等科技巨頭相繼發布自家AI模型後，蘋果終於發聲，推出了全新的開源語言模型家族——OpenELM。這個模型的全名是開源高效語言模型（Open-source Efficient Language Model），能夠在蘋果裝置上高效運行。OpenELM提供了四種不同參數規模的模型，分別是2.7億、4.5億、11億及30億參數，並且每個規模都有預訓練和指令調校兩個版本，總共提供了八種版本供開發者選擇。

▍多樣化模型選擇，滿足不同需求

蘋果已經在Hugging Face上公開了這些模型，並提供完整的訓練和評估框架，開發人員還可以利用提供的程式碼將模型轉換成MLX函式庫，以便在蘋果裝置上進行推論和微調。這意味著，無論是從事什麼樣的AI應用，開發人員都能找到適合的OpenELM模型版本來滿足需求。

▍高效訓練框架：CoreNet

在訓練方面，OpenELM模型使用了CoreNet函式庫作為訓練框架。其預訓練資料集包括了RefinedWeb、去除重覆資料的PILE、RedPajama和Dolma v1.6各一個子資料集，共1.8兆token。這樣的資料集配置使得模型在訓練過程中能夠獲得廣泛而深入的語言知識。

▍分層擴展策略提升準確率

OpenELM融合了分層擴展策略，能將模型參數有效分配到transformer模型各層，以提升準確率。例如，11億參數版本的OpenELM比12億參數版本的OLMo在準確率上高出2.36%，但使用的預訓練資料token僅為其一半。這展示了OpenELM在有效利用資源方面的優越性能。

▍性能比較：OpenELM vs 其他模型

蘋果也列出了OpenELM在不同裝置上的性能數據。在一台Nvidia GPU/Ubuntu筆電上，OpenELM 4.5億參數版本的提示執行效能已超過MobiLama，而2.7億參數版本與OPT相差無幾。在程式碼生成任務上，雖然各個版本都還有改進空間，但已經展示了不錯的潛力。此外，蘋果還提供了在Apple Silicon-based MacBook Pro上的執行數據，顯示出OpenELM在自家裝置上的優異表現。

▍蘋果的AI研發成果

這次OpenELM的推出，是蘋果繼去年十月開源多模語言模型Ferret及今年三月的MM1之後，再度展示其在AI領域的研發成果。與以往不同的是，OpenELM特別強調其在蘋果裝置上的高效運行能力，這對於廣大使用蘋果產品的開發者來說無疑是個好消息。

▍競爭與未來展望

目前，微軟也推出了可在筆電上執行的小語言模型（SLM）Phi-3系列，最小版本有38億參數。微軟強調Phi-3在語言理解、推理、數學及寫程式等能力上，比更多參數的模型如GPT-3.5 Turbo、Mistral還要強大。面對這樣的競爭，蘋果與其他晶片業者如英特爾、AMD、高通等，預計在今年內推出為AI模型執行設計的第一代或新一代晶片。蘋果最新的Apple Silicon M4預計在今年稍後問世，並會在年底推出搭載M4晶片的Mac產品。

OpenELM的推出標誌著蘋果在AI領域邁出了重要一步。通過開源這些高效能的語言模型及其訓練和推論框架，蘋果不僅為開發者提供了強大的工具，也展示了其在AI技術上的雄厚實力。無論是在語言理解、程式碼生成，還是其他AI應用領域，OpenELM都有望成為開發者的首選。

➤ 歡迎在104學習精靈關注【AI趨勢報－科技愛好者的產地】獲得更多科技新知！

1 0 626 0

拍手

留言

分享到：

Line

Facebook

複製連結

取消

熱門精選

每日推薦課程

關注

104學習精靈

產品

11/15 12:57

從AI基礎知識到應用，市面上提供了各種AI學習課程：AI線上課程、AI實體課程，無論您是初學者還是專業人士，都可以找到適合自己的AI課程。本文將為您揭曉2024年11月最受歡迎的AI課程排行榜，幫助您輕鬆找到優質的AI學習資源，快速掌握AI技能。

本篇透過從104課程中心的用戶學習大數據，整理出大家都在搜尋的TOP 10 熱門課程；可透過排行榜，找到你所需的學習內容，增進職場的職能成長，加強自我競爭力，打造你的職涯藍圖！

第1名。ChatGPT x Excel | 職場必學商務數據分析術

https://nabi.104.com.tw/course/tibame/8ec8ed91-2d58-4d07-aa08-e342a12cb84b

講師將以系統化教學法，教授數據分析常用情境，搭上火紅 ChatGPT ，步驟式實戰，能隨學即用，讓你知道如何在工作中運用所學到的技能！

第2名。AI資料科學家【聽課全系列】

https://nabi.104.com.tw/course/tibame/9f67a312-8fc3-4848-8449-faedf49ea669

「基礎思維」AI資料科學的新朋友，必定要了解一下人工智慧的歷史里程碑與事件，從這裡出發，您也能與不熟悉這個領域的朋友侃侃而談地分享您所學領域的轉變與趨勢，而初學者免不了學習的十字路口，不知道該從哪個部分開始學習AI，這裡也會給您適合適當的指引。常常被混的網頁爬蟲與ETL您真的認識並了解嗎？聽聽看TibaMe的講師們怎麼說吧！

第3名。生成式AI應用速成：商業溝通師-數位行銷課(12/21開課)

https://nabi.104.com.tw/course/104nabi/d623f54c-5f91-437b-aaee-2d10b3dc9cf4

🔴報名截止日：2024/12/8🔴

你可以學到

🌟AI 行銷創作零基礎也能秒上手｜不需任何行銷經驗，快速學會生成式 AI 工具，輕鬆打造吸睛行銷素材。

🌟行銷策略效果爆發式成長｜有效運用 AI 提升執行力，讓行銷效率飆升、策略效果倍增。

🌟精準鎖定目標受眾，打中痛點｜用 AI 技術解析消費者行為，精準掌握市場趨勢，一次抓住受眾需求。

🌟品牌形象全面升級｜ AI 創造獨特行銷風格，讓品牌成為目光焦點，迅速在市場中脫穎而出。

第4名。2小時輕鬆學AI | 基礎觀念與應用

https://nabi.104.com.tw/course/tibame/49e06021-9062-4ccb-8f53-b50396066118

從資料科學的基礎觀念談起、商業智慧、資料探勘、影像辨識等技術應用，最後再討論企業實際導入人工智慧所需的相關流程。

第5名。生成式AI應用速成：創作詠唱師-影音創作課(11/30開課)