AIGC動態(tài)歡迎閱讀

原標題：談談Apple Intelligence邊緣推理和大模型隱私的問題
關(guān)鍵字：模型,用戶,框架,神經(jīng)網(wǎng)絡(luò),蘋果
文章來源：算法邦
內(nèi)容字數(shù)：0字

內(nèi)容摘要：

直播預告 | 7月2日10點，「智猩猩AI新青年講座」第242講正式開講，香港大學計算機系HKU-MMLAB二年級博士生梁志烜將直播講解《利用技能學習的擴散策略實現(xiàn)層次化機器人軌跡生成》，歡迎掃名~對于Apple WDCC的更新雖然不是很驚艷, 也沒有什么新奇的故事. 但是至少AI的故事讓還在服役的iPhone7 ~ iPhone14都有了換機的沖動, 所以市值上漲也不足為奇了. 當然我們關(guān)注的更多的是背后的技術(shù), 例如邊緣推理是如何實現(xiàn)的, 用戶隱私怎么保護的. 其實這個問題非常關(guān)鍵, 你看Musk對當前的邊緣推理和Private Cloud Compute并沒有反對, 只是反對OAI在OS Level調(diào)用API. 另一個層面來看,本質(zhì)上Apple已經(jīng)構(gòu)建好了一個LLM OS的雛形.那么我們就來詳細探索一下Apple邊緣推理的實現(xiàn),然后我在五六年前也因為GDPR等合規(guī)需求,當時在Cisco也實現(xiàn)了一套邊緣推理框架, 因此后面會給一點我個人的經(jīng)驗和建議, 特別是云端推理如何使用公有云的問題以及端側(cè)模型個性化的問題, 最后留了一個彩蛋~嘻嘻~01Apple 邊緣推理框架1.1 端側(cè)模

原文鏈接：談談Apple Intelligence邊緣推理和大模型隱私的問題

聯(lián)系作者

文章來源：算法邦
作者微信：allplusai
作者簡介：智猩猩矩陣賬號之一，聚焦生成式AI，重點關(guān)注模型與應用。