良陈集市优品网-生活美学的设计师

苹果推出开源AI语言模型OpenELM 加速生成式AI发展

苹果公司最近发布了一个开源的大型语言模型OpenELM,旨在推动生成式人工智能技术的发展。这一模型通过Hugging Face平台公布,采用分层扩展技术,有效提高了文本生成的效率和准确性。

苹果推出开源AI语言模型OpenELM1.jpg

苹果释出 AI 开源大型语言模型 OpenELM

苹果为了加速生成式 AI 领域发展,提前通过开源 AI 平台 Hugging Face 发表「OpenELM」具有开源的高效率文本生成模型家族,OpenELM采用了分层扩展(layer-wise scaling)技术策略,能在模型的每一层中有效分配参数,能让 OpenELM 转换器具有不同的配置与参数,近而够提高准确性。

苹果表示OpenELM是使用神经网络库CoreNet作为训练框架,并且搭配 Adam 优化演算法进行35万次模型训练,连同苹果MobileOne、CVNets、MobileViT、FastVit等知名研究也同样都是靠CoreNet完成。

OpenELM分别为4款经过预训练以及4款针对指令优化调校过的版本,在参数规模也分成2.7亿、4.5亿、11亿和30亿四种参数,每款规模也都比起高性能模型(70亿参数)要来得更小,比起微软 Phi-3 模型 38亿更小。

外媒指出,对于OpenELM训练资料全来自维基百科、Wikiboos、Reddit、arXivx论文、StackExchange 问答,以及 GitHub 的 RedPajama 资料集、Project Gutenberg等公共资料集,总计有1.8兆 tokens 的数据进行训练。

仅管OpenELM以开源许可证发布,并没有过度的限制,但苹果明确表示,任何基于 OpenELM 的衍生作品都将被视为侵犯权利,苹果保留提出专利索赔的权利。

苹果推出开源AI语言模型OpenELM2.jpg

OpenELM 模型小、性能表现优异

苹果分享的 OpenELM 模型特别是 4.5 亿参数的变体效能表现相当优异,另外 11 亿参数的 OpenELM 变体性能表现方面,也超越具备艾伦人工智能研究所所发布的开源大型语言模型 OLMo,预训练 token 数量减少一半,OpenELM 在性能比 OLMo 提高 2.36%。

至于 30 亿参数的 OpenELM 变体,在经由 ARC-C 基准测试中,知识和推理能力准确率达到了 42.24%,且 MMLU 和 HellaSwag 得分也分别获得 26.76% 和 73.28%。

虽然苹果的 OpenELM 模型在 AI 领域算不上是最顶尖,在回应也被多方证实相当可靠,与人类思考逻辑几乎一致,也能实现小参数达到超强性能。但是苹果 AI 模型在创造力方面,OpenELM 就容易出现稍显不足情况。

OpenELM 支持iPhone或Mac电脑独立运作

苹果在 OpenELM 公开说明中提到「将模型转换为 MLX 资料库的程式码,以便在苹果设备上进行推理和微调」,其中MLX是去年释出能在苹果芯片上运行机器学习的框架,能够在非连网络状态下,直接通过苹果设备本机执行。

苹果一直都是封闭系统领导者,如今罕见公开 AI 大模型,外界认为这有可能就类似 Google 操作方式,先通过开源拉拢开发人员,再利用封闭产品进行商业化。

如今苹果选在 WWDC 2024 开发者大会前,对外释出大模型用来展现将进军 AI 领域的决心,那也代表 iOS 18 和 iPhone 16 新机将导入 AI 功能应用将成为今年最热门的话题。

使用本站資源的用戶均應仔細閱讀本聲明。用戶使用本站資源的行為將被視為對本聲明全部內容的認可。 1、本站資源大部分搜集於網路,整理分類並分享。用戶可自行搜索在其他地方下載,也可選擇在本站下載。如果侵犯了您的合法權益,請聯繫:1479715313@qq.com 及時刪除。本站資源僅用於研究、學習之用,若使用商業用途,請購買正版授權,否則產生的一切後果將由下載用戶自行承擔。 2、本站對發佈的資源不能保證其完整性、安全性和可用性。請您在下載後自行檢查。您在使用過程中遇到的任何問題與本站無關。 3、註冊本站以及在本站充值、開通會員等消費行為僅作為用戶本人對本站的友情贊助,均為用戶本人的自願行為。相當於您是自願贊助本站的伺服器以及日常運營維護費用,而不是購買本站的任何服務與資源,請知悉!!! 4、本站資源資源採用網盤分享,如鏈接失效,請及時聯繫。 5、本站另提供各種軟件插件技術維護,與廣告行銷社交行銷等服務: 可定制個人和中小企業搭建網站,小程式,APP,遊戲等各種互聯網應用軟體,國内外各社交媒體平臺運營工具素材與課程,幫助您超快搭建高性價比的數字化場景,請聯係QQ;1479715313(添加請説明來意),TG電報:https://t.me/vip_3qyyds,郵件1479715313@qq.com Users who use the resources of this website should read this statement carefully. The user's use of the resources of this site will be regarded as the recognition of all the contents of this statement. 1. Most of the resources of this site are collected on the Internet, sorted and shared. Users can search for it and download it elsewhere, or choose to download it on this site. If your legitimate rights and interests are violated, please contact: 1479715313@qq.com to delete it in a timely manner. The resources of this site are only used for research and learning, if you use commercial purposes, please purchase the genuine licence, otherwise all the consequences will be borne by the download user. 2. This site cannot guarantee the integrity, security and availability of the published resources. Please check it yourself after downloading. Any problems you encounter during use have nothing to do with this site. 3. The consumption behaviours such as registering this site, recharging on this site, and opening a membership are only used as the user's own friendly sponsorship of the site, and are all voluntary behaviours of the user. It is equivalent to that you are voluntarily sponsoring the server and daily operation and maintenance costs of this site, rather than purchasing any services and resources of this site, please be aware!! 4. The resources of this site are shared by the network disk, if the link is invalid, please contact us in time. 5. This site also provides a variety of software plug-in technical maintenance, advertising and marketing, social marketing and other services: We can customise various Internet application software such as websites, applets, apps, games, etc., as well as operating tools and courses of various social media platforms at home and abroad to help you build cost-effective digital scenes super quickly, please contact QQ; 1479715313 (add please help to meaning), TG telegram: https://t.me/vip_3qyyds, mail 1479715313@qq.com このウェブサイトのリソースを使用するユーザーは、この声明を注意深く読む必要があります。 ユーザーがこのサイトのリソースを使用することは、この声明のすべての内容を認識したものと見なされます。 1.このサイトのほとんどのリソースは、インターネット上に収集され、分類され、共有されています。 ユーザーはそれを検索して他の場所でダウンロードするか、このサイトでダウンロードすることを選択できます。 お客様の正当な権利と利益が侵害された場合は、1479715313@qq.com に連絡して、適時に削除してください。 このサイトのリソースは、商業目的を使用する場合は、本物のライセンスを購入してください、それ以外の場合は、すべての結果はダウンロードユーザーが負担する、研究と学習のためにのみ使用されます。 2. 当サイトは、公開されたリソースの完全性、安全性、および可用性を保証するものではありません。 ダウンロード後、ご自身でご確認ください。 使用中に発生した問題は、このサイトとは関係ありません。 3.このサイトの登録、このサイトでのリチャージ、メンバーシップの開設などの消費行動は、サイトに対するユーザー自身の友好的なスポンサーシップとしてのみ使用され、すべてユーザーの自発的な行動です。 これは、このサイトのサーバーや日々の運用保守費用を自発的にスポンサーしているのと同等であり、このサイトのサービスやリソースを購入するのではなく、注意してください!! 4.このサイトのリソースはネットワークディスクによって共有されていますが、リンクが無効な場合は、時間内にご連絡ください。 5.このサイトでは、さまざまなソフトウェアプラグインの技術保守、広告とマーケティング、ソーシャルマーケティング、その他のサービスも提供しています。 私たちは、ウェブサイト、アプレット、アプリ、ゲームなどのさまざまなインターネットアプリケーションソフトウェアだけでなく、国内外のさまざまなソーシャルメディアプラットフォームの操作ツールやコースをカスタマイズして、費用対効果の高いデジタルシーンを超高速で構築することができます、QQにお問い合わせください。 1479715313(意味に助けをください)、TG電報:https://t.me/vip_3qyyds、メール 1479715313@qq.com
© 版权声明
THE END
喜歡記得收藏下載,海報分享可得現金
点赞1283 分享
相關推薦

3qyyds元神影音免費觀影

天氣預報出門提前知曉!