標(biāo)簽：緩存

WPS接入DeepSeek，秒變辦公神器！

WPS 大家經(jīng)常用來日常寫作，雖然本身提供了AI功能，但可惜需要會員，本文教你三分鐘接入最火的DeepSeek，讓W(xué)PS秒變辦公神器。 DeepSeek API申請地址：http:/...
閱讀原文

AI賺錢副業(yè)~AI生成影視解說，半個月漲粉變現(xiàn)3.5W+！

這兩年大家都在感嘆生活不易，然而我想說的是，機(jī)會還是有的，但問題不在于有沒有，而在于你是否能夠認(rèn)準(zhǔn)機(jī)會，然后抓住它。 接觸過很多咨詢項目的人，發(fā)現(xiàn)...

免訓(xùn)練加速DiT！Meta提出自適應(yīng)緩存新方法，視頻生成快2.6倍

一水 發(fā)自 凹非寺量子位 | 公眾號 QbitAI現(xiàn)在，視頻生成模型無需訓(xùn)練即可加速了？！ Meta提出了一種新方法AdaCache，能夠加速DiT模型，而且是無需額外訓(xùn)練的...
閱讀原文

vLLM這一年的新特性以及后續(xù)規(guī)劃（總結(jié)版!）

大會預(yù)告12月5日-6日，2024中國生成式AI大會（上海站）舉辦。將邀請50+位嘉賓圍繞大模型、AI Infra、端側(cè)生成式AI、AI視頻生成和具身智能等議題進(jìn)行同臺分享...
閱讀原文

強(qiáng)化學(xué)習(xí)訓(xùn)練一兩個小時，100%自主完成任務(wù)：機(jī)器人ChatGPT時刻真來了？

機(jī)器之心報道 編輯：Panda、佳琪把平均成功率從 50% 拉到了 100%。最近，AI 的進(jìn)步有目共睹，現(xiàn)在這些進(jìn)步已經(jīng)開始傳遞到機(jī)器人領(lǐng)域。強(qiáng)大的 AI 技術(shù)也能幫助...
閱讀原文

OpenAI DevDay公布五項重大創(chuàng)新，AI實時語音的時代來了！成本比GPT-3降低近1000倍！

OpenAI在昨天的DevDay上，公布了五項重大創(chuàng)新：實時API、提示詞緩存、模型蒸餾、視覺微調(diào)、新廣場玩法。 這些新能力似乎預(yù)示了OpenAI的戰(zhàn)略重心的變化——加大...
閱讀原文

奧特曼：自認(rèn)比o1聰明請舉手?到o2還這么想么?？｜OpenAI開發(fā)者日

夢晨 發(fā)自 凹非寺量子位 | 公眾號 QbitAI奧特曼：認(rèn)為自己比o1更聰明的請舉手。（臺下一些人舉手）奧特曼：到了o2你們還會這么想么？（汗流浹背了） 這一幕，...
閱讀原文

OpenAI DevDay：Realtime 實時多模態(tài) API、緩存折扣、視覺微調(diào)，全是利好開發(fā)者的

OpenAI在昨天的DevDay上，公布了五項重大創(chuàng)新：實時API、提示詞緩存、模型蒸餾、視覺微調(diào)、新廣場玩法。 這些新能力似乎預(yù)示了OpenAI的戰(zhàn)略重心的變化——加大...
閱讀原文

處于多事之秋的OpenAI，決定拯救開發(fā)者預(yù)算｜甲子光年

今年DevDay很低調(diào)，但也有四項創(chuàng)新。作者｜蘇霍伊 編輯｜王博高管離職、蘋果退出融資磋商，對于OpenAI來說，這無疑是動蕩的一周。但OpenAI仍在堅持說服開發(fā)者...
閱讀原文

Kimi 背后的長文本大模型推理實踐：以 KVCache 為中心的分離式推理架構(gòu)

演講嘉賓｜唐飛虎 編輯 ｜蔡芳芳 策劃 ｜AICon 全球人工智能開發(fā)與應(yīng)用大會 在不久前舉辦的 AICon 全球人工智能開發(fā)與應(yīng)用大會上，月之暗面高級研發(fā)工程師、...
閱讀原文

不花一分錢！GPT-4o微調(diào)限時免費開放，每日附贈百萬訓(xùn)練token

一水 發(fā)自 凹非寺量子位 | 公眾號 QbitAI一覺醒來，OpenAI又上新功能了： GPT-4o正式上線微調(diào)功能。 并且官方還附贈一波福利：每個組織每天都能免費獲得100萬...
閱讀原文

成本直降90%、延遲縮短80%！Anthropic將API玩出了新花樣，網(wǎng)友：應(yīng)該成為行業(yè)標(biāo)配

編譯 | 核子可樂、Tina Anthropic 在其 API 上引入了新的提示詞緩存機(jī)制，可將長提示的成本降低多達(dá) 90%，并將延遲降低 80%。 提示詞緩存功能能夠記住 API ...
閱讀原文

大模型降價又來新玩家——Claude，長文本緩存功能，最高節(jié)省 90% 成本

Claude 深夜上新重磅功能——API 長文本緩存。 新版 API 可以「記住」一整本書或整個代碼庫，不需要再重復(fù)輸入了。 這樣一來，不僅處理長文本的延時更低，更是...
閱讀原文

成本降低90%！Claude上新Gemini同款提示詞緩存，一次性記住整個代碼庫

克雷西 發(fā)自 凹非寺量子位 | 公眾號 QbitAIClaude深夜上新重磅功能——API長文本緩存。 新版API可以“記住”一整本書或整個代碼庫，不需要再重復(fù)輸入了。 這樣一...
閱讀原文

蘋果讓大模型學(xué)會偷懶：更快吐出第一個token，準(zhǔn)確度還保住了

機(jī)器之心報道 機(jī)器之心編輯部偷懶才能更好地工作。Llama 3.1 剛剛發(fā)布，你是否已經(jīng)嘗試了呢？就算你的個人計算機(jī)是最近的頂尖配置，運(yùn)行其中最小的 8B 版本可...
閱讀原文

月之暗面Kimi引擎是怎么煉成的？底層推理系統(tǒng)方案深度揭秘（二）

直播預(yù)告 | 7月5日晚7點，「智猩猩機(jī)器人新青年講座」第10講正式開講，北京通研院研究員賈寶雄博士主講，主題為《具身智能視角下的三維場景理解、生成與交互...
閱讀原文

Kimi論文自曝推理架構(gòu)，80%流量都靠它承擔(dān)

克雷西 發(fā)自 凹非寺量子位 | 公眾號 QbitAI月之暗面和清華KVCache.ai團(tuán)隊的最新論文，首次揭秘了Kimi背后的推理架構(gòu)！ 要知道Kimi是國產(chǎn)大模型的當(dāng)紅炸子雞，...
閱讀原文