AIGC動態歡迎閱讀
內容摘要:
作為一名學生黨,我深深地感受到了什么叫“一卡難求”,我們課題組主要從事深度學習領域的研究,尤其是CV、NLP方向,不少的任務對硬件的要求極高,特別是高端顯卡。
目前課題組只有幾張“老爺卡”,而項目需求卻日益增長。每次進行模型訓練時,師兄弟們都得排隊等候,甚至不得不放棄一些復雜的實驗設計,因為現有的“老爺卡”根本無法支撐起高計算量的任務。而且,這些顯卡的使用頻率極高,幾乎24小時不間斷地運行,經常處于高負荷狀態,導致它們的穩定性也大打折扣。
面對顯卡不足的情況,師兄弟們不得不開始四處尋找解決方案。首先,我們嘗試聯系其他課題組看是否有閑置的顯卡可以借用。但遺憾的是,大多數課題組都和我們一樣,顯卡資源同樣緊張。接著,我們又將目光轉向了跳蚤市場,如閑魚、京東等平臺,希望能淘到一些性價比高的二手顯卡。然而,由于市場上顯卡價格波動大且供不應求,我們很難以合理的價格購得所需的顯卡。
在尋找過程中,我們還發現了一些提供GPU顯卡租賃的云服務平臺,如并行科技的容器云等。我們發現,并行容器云是以云服務的形式提供GPU顯卡的租賃,用戶可以在云端進行模型訓練。雖然需要支付一定的費用,但相比購買硬件,成本還是低
原文鏈接:我薅到了63小時的3090卡
聯系作者
文章來源:夕小瑤科技說
作者微信:
作者簡介:
? 版權聲明
文章版權歸作者所有,未經允許請勿轉載。
相關文章
暫無評論...