參數(shù)極小，性能超強(qiáng)。

原標(biāo)題：重磅！微軟開源最強(qiáng)小模型Phi-4，超GPT-4o、可商用
文章來源：智猩猩GenAI
內(nèi)容字?jǐn)?shù)：4208字

微軟開源最強(qiáng)小參數(shù)模型Phi-4，自動(dòng)駕駛峰會即將召開

本文總結(jié)了微軟開源小參數(shù)模型Phi-4的重大突破以及即將在北京舉辦的第四屆全球自動(dòng)駕駛峰會信息。

1. 微軟Phi-4模型開源

微軟研究院開源了其最新研發(fā)的超強(qiáng)小參數(shù)模型Phi-4，該模型僅有140億參數(shù)，卻在多個(gè)基準(zhǔn)測試中超越了包括GPT-4o在內(nèi)的眾多知名模型，甚至在性能上與參數(shù)量達(dá)4050億的Llama-3.1媲美。Phi-4在MMLU測試中取得了84.8的高分，在GPQA和MATH測試中也超過了GPT-4o，并在美國數(shù)學(xué)競賽AMC測試中獲得91.8分。

Phi-4的成功得益于高質(zhì)量的合成數(shù)據(jù)。該模型使用了約4000億個(gè)未加權(quán)的tokens，這些數(shù)據(jù)涵蓋了50多種不同類型，并遵循多樣性、細(xì)膩性與復(fù)雜性、準(zhǔn)確性和推理鏈等原則生成。除了合成數(shù)據(jù)，Phi-4還使用了經(jīng)過嚴(yán)格篩選和過濾的有機(jī)數(shù)據(jù)，并支持多種語言。

在訓(xùn)練方面，Phi-4采用混合數(shù)據(jù)策略，結(jié)合合成數(shù)據(jù)和高質(zhì)量有機(jī)數(shù)據(jù)進(jìn)行訓(xùn)練，并通過監(jiān)督微調(diào)(SFT)和直接偏好優(yōu)化(DPO)技術(shù)進(jìn)行優(yōu)化，最終實(shí)現(xiàn)了在多個(gè)基準(zhǔn)測試中取得優(yōu)異成績。

Phi-4開源并支持MIT許可證下商業(yè)用途，其開源地址為：https://huggingface.co/microsoft/phi-4/tree/main 。該模型的輕量級特性使其能夠在普通硬件上運(yùn)行，例如蘋果M4 Pro筆記本電腦。

2. 第四屆全球自動(dòng)駕駛峰會

第四屆全球自動(dòng)駕駛峰會將于1月14日在北京舉辦。峰會將包括主會場和分會場，內(nèi)容涵蓋開幕式、端到端自動(dòng)駕駛創(chuàng)新論壇、城市NOA專題論壇、自動(dòng)駕駛視覺語言模型技術(shù)研討會以及自動(dòng)駕駛世界模型技術(shù)研討會等。峰會演講嘉賓已全部敲定，具體議程可參考文末海報(bào)。

本次峰會為業(yè)內(nèi)人士提供了一個(gè)交流學(xué)習(xí)的平臺，關(guān)注自動(dòng)駕駛技術(shù)的未來發(fā)展趨勢。

有意參加峰會者可申請免費(fèi)票或購票。

總而言之，微軟Phi-4模型的開源是自然語言處理領(lǐng)域的一大進(jìn)步，其輕量級和高性能特性為未來的應(yīng)用提供了更多可能性。同時(shí)，即將召開的全球自動(dòng)駕駛峰會也為自動(dòng)駕駛行業(yè)的發(fā)展帶來了新的機(jī)遇。

聯(lián)系作者

文章來源：智猩猩GenAI
作者微信：
作者簡介：智猩猩旗下公眾號之一，深入關(guān)注大模型與AI智能體，及時(shí)搜羅生成式AI技術(shù)產(chǎn)品。