首頁 -> 電訊
Meta發布兩款最新開源大模型分享到:
香港中通社4月6日電 4月5日,臉書母公司Meta推出最新兩款大型語言模型Llama 4 Scout和Llama 4 Maverick。Meta稱,它們是公司“迄今最先進的模型”,且是“同類中最佳的多模態模型”。
Meta表示,Llama 4是其首個採用混合專家(MoE)架構的模型系列,這種架構在訓練和回答查詢時計算效率更高。混合專家架構基本上是將數據處理任務分解為子任務,然後將它們委派給更小的、專門的“專家”模型。 例如,Maverick總共有4000億個參數,但在128個“專家”模型中只有170億個活躍參數(參數數量大致與模型的問題解決能力相對應)。Scout有170億個活躍參數、16個“專家”模型以及總計1090億個參數。 在中國大語言模型DeepSeek引領開源浪潮以前,Meta一直是開源模型的行業領先者。Llama系列模型由Meta在2022年推出。Llama是一種多模態人工智能(AI)系統,能够處理和整合多種類型的數據,包括文本、視頻、圖像和音頻,且可以轉換成不同格式。 美國OpenAI的大語言模型ChatGPT橫空出世7個多月後,2023年,Meta就率先宣布開源Llama 2,並且可免費商用。這也成為大模型發展的分水嶺。 本月5日Meta最新發布的是Llama第四代模型的兩個版本,它們也將開源。Meta還稱,另一款模型Llama 4 Behemoth還在“訓練”中,並稱之為“世界上最聰明的大型語言模型之一”。(完) 相關新聞
|
視頻更 多
逾千非華裔學生參加全港公民教育常識問答比賽
【通說環球】陸續上新!粵港澳大灣區世界級機場群來了
南京大屠殺死難者國家公祭日|李家超獻花圈 粵港澳三地學生共悼念
2030年數字人數量超過人類?人類平均壽命達120歲?這些預言會不會成真?
李家超:委任陸啟康法官等3人組成宏福苑火災獨立委員會 九個月內完成報告
香港首間中醫醫院投入服務 裡面有提供哪些服務?
胞弟李振輝眼中的李小龍:永遠都在追求上進
來論更 多評論更 多
論壇更 多閱讀排行
|









