訊飛星辰MaaS – 科大訊飛推出的AI大模型定制微調(diào)平臺

訊飛星辰MaaS是科大訊飛推出的一款A(yù)I大模型定制微調(diào)平臺，旨在幫助用戶創(chuàng)建專屬的個性化大模型。該平臺匯聚了20多款行業(yè)知名的高質(zhì)量模型，如星火大模型、Llama3和DeepSeek等，支持零代碼微調(diào)，顯著降低了大模型精調(diào)的門檻。訊飛星辰MaaS涵蓋數(shù)據(jù)管理、模型微調(diào)、評估、托管和推理等服務(wù)，實現(xiàn)大模型的全生命周期管理，適用于內(nèi)容創(chuàng)作、代碼生成、邏輯推理等多種應(yīng)用場景。

訊飛星辰MaaS是什么

訊飛星辰MaaS是由科大訊飛開發(fā)的AI大模型定制微調(diào)平臺，用戶可以在此平臺上創(chuàng)建和調(diào)整專屬的定制大模型。該平臺整合了20多款行業(yè)內(nèi)頂尖的優(yōu)質(zhì)模型，如星火大模型、Llama3和DeepSeek，支持零代碼微調(diào)，幫助用戶輕松實現(xiàn)大模型的精細(xì)調(diào)優(yōu)。訊飛星辰MaaS提供全面的數(shù)據(jù)管理、模型微調(diào)、評估、托管和推理服務(wù)，支持多種場景的應(yīng)用，如內(nèi)容創(chuàng)作、編程和邏輯推理。

該平臺在模型和數(shù)據(jù)集的豐富性以及功能特性上進(jìn)行了全新升級，強化了數(shù)據(jù)工程能力，支持多種數(shù)據(jù)集格式，并提供高級參數(shù)配置，以滿足專業(yè)開發(fā)者的需求。

訊飛星辰MaaS的主要功能

• 模型微調(diào)和部署
  • 模型集成：整合超過20款行業(yè)知名優(yōu)質(zhì)模型，包含訊飛星火、Llama3、SD-XL等。
  • 開源模型精調(diào)：引入書生系列、Qwen2.5系列等多個開源模型進(jìn)行精調(diào)。
  • 新增模型：推出Spark Max、Spark Mini、Spark Tiny等星火自研模型，以滿足不同業(yè)務(wù)需求。

• 數(shù)據(jù)集構(gòu)建和管理
  • 數(shù)據(jù)工程能力：基于問答抽取、數(shù)據(jù)增強和prompt工程等多維度，構(gòu)建全面的數(shù)據(jù)工程能力。
  • 數(shù)據(jù)集格式支持：支持多種數(shù)據(jù)集格式，包括ShareGPT、Alpaca等，實現(xiàn)主流數(shù)據(jù)集格式的兼容。
  • 自動拆分測試集：平臺能夠自動從訓(xùn)練集中拆分出一定比例的數(shù)據(jù)作為測試集，以便在訓(xùn)練后進(jìn)行驗證和效果展示。
  • 批量推理：支持最多10個模型同時在線進(jìn)行批量推理，大幅提升數(shù)據(jù)處理效率，適合需要處理大量數(shù)據(jù)的場景。

• 功能特性升級
  • 兼容性與遷移支持：兼容OpenAI協(xié)議，使依賴OpenAI API的企業(yè)能夠無縫遷移至國產(chǎn)大模型，實現(xiàn)技術(shù)的平穩(wěn)過渡。
  • 功能增強與擴展：支持function_call精調(diào)訓(xùn)練，調(diào)用外部工具，增強大語言模型的能力。
  • 模型訓(xùn)練與評估：支持展示Loss曲線，實時監(jiān)控模型訓(xùn)練效果，并可動態(tài)調(diào)整訓(xùn)練策略。同時，裁判員模型用于評判模型效果的優(yōu)劣。
  • 高級參數(shù)配置：支持分詞長度、Lora Merge、UnSloth等特性配置。
• API矩陣：構(gòu)建豐富且高性價比的API矩陣，提供不同版本的API服務(wù)，如Spark Pro、Ultra和Max版本，支持不同長度的上下文和Batch版本API。

如何使用訊飛星辰MaaS

• 注冊和登錄：訪問訊飛星辰MaaS的官方網(wǎng)站，創(chuàng)建新賬戶或使用現(xiàn)有賬戶登錄。
• 了解平臺服務(wù)：瀏覽平臺提供的服務(wù)和功能，熟悉不同模型的特點及其適用場景。
• 選擇模型：根據(jù)業(yè)務(wù)需求選擇合適的預(yù)訓(xùn)練模型，訊飛星辰提供多種模型供選擇，包括星火系列和Llama3等。
• 數(shù)據(jù)準(zhǔn)備：準(zhǔn)備或選擇適合的數(shù)據(jù)集進(jìn)行微調(diào)。平臺支持多種數(shù)據(jù)集格式，并提供數(shù)據(jù)增強工具以幫助構(gòu)建高質(zhì)量的數(shù)據(jù)集。
• 模型微調(diào)：利用平臺提供的工具對所選模型進(jìn)行微調(diào)，包括上傳數(shù)據(jù)集、配置微調(diào)參數(shù)等步驟。
• 模型評估：使用評估工具對微調(diào)后的模型進(jìn)行效果評估，例如查看Loss曲線，使用裁判員模型進(jìn)行效果對比等。
• 模型部署：將訓(xùn)練好的模型部署到實際應(yīng)用中。訊飛星辰支持模型托管和推理服務(wù)，便于模型的快速應(yīng)用。
• API調(diào)用：如有需要，可基于訊飛星辰提供的API進(jìn)行模型調(diào)用，實現(xiàn)模型服務(wù)的集成。

訊飛星辰MaaS的應(yīng)用場景

• 邏輯推理：構(gòu)建智能問答系統(tǒng)，基于邏輯推理提供決策支持，幫助用戶快速獲取信息與解決方案。
• 數(shù)據(jù)管理：通過自動化的數(shù)據(jù)標(biāo)注和清洗，提升數(shù)據(jù)準(zhǔn)備的效率與質(zhì)量，為AI模型訓(xùn)練奠定堅實的數(shù)據(jù)基礎(chǔ)。
• 模型微調(diào)和評估：根據(jù)不同的業(yè)務(wù)需求定制AI模型，通過微調(diào)和評估優(yōu)化模型性能，適應(yīng)特定的應(yīng)用場景。
• 托管和推理服務(wù)：將訓(xùn)練好的AI模型部署到云端或邊緣設(shè)備，提供穩(wěn)定可靠的在線推理服務(wù)，支持高并發(fā)請求。
• 多模態(tài)應(yīng)用：訓(xùn)練并構(gòu)建多模態(tài)應(yīng)用，在圖像和語音識別領(lǐng)域，提供智能分析和處理能力，例如自動識別圖像內(nèi)容和轉(zhuǎn)換語音為文本。