引言:MaaS(Model as a Service,模型即服務(wù))是一種將人工智能算法模型及其相關(guān)能力封裝成服務(wù),以降低人工智能技術(shù)使用門檻、控制應(yīng)用建設(shè)成本、簡(jiǎn)化系統(tǒng)運(yùn)維管理復(fù)雜度,并提升人工智能技術(shù)的綜合應(yīng)用效能的模式。

上新了,上新了,卓世科技 MaaS 平臺(tái) V2.0 版本正式上線。本次新上線了包括:模型訓(xùn)練新基座,支持模型訓(xùn)練、推理、量化、評(píng)測(cè)等功能。
卓世科技 MaaS 平臺(tái)是一款基于知識(shí)增強(qiáng)大模型的一站式行業(yè)模型訓(xùn)練開發(fā)平臺(tái)。面向開發(fā)者和企業(yè)提供從基礎(chǔ)算力服務(wù)、數(shù)據(jù)服務(wù)、模型訓(xùn)練服務(wù)、應(yīng)用部署和構(gòu)建等一系列行業(yè)模型的 " 交鑰匙 " 服務(wù)。通過(guò)產(chǎn)業(yè)數(shù)據(jù)和行業(yè)知識(shí)快速打造企業(yè)專屬的行業(yè)模型,行業(yè)模型將成為企業(yè)構(gòu)建上層應(yīng)用的智能化數(shù)據(jù)底座。
V2.0 版本上線新功能:
1、模型訓(xùn)練 MaaS 底座升級(jí)
2、MaaS 新基座模型 sft 微調(diào)
3、MaaS 新基座模型 PT 訓(xùn)練
4、MaaS 新基座模型評(píng)測(cè)
5、MaaS 新基座模型量化壓縮
6、MaaS 新基座模型推理部署升級(jí)
7、Prompt 工程能力
MaaS 平臺(tái)加速了 AI 應(yīng)用部署的周期,提升了創(chuàng)新的迭代速度,降低了企業(yè)應(yīng)用大模型服務(wù)的多方面成本,推動(dòng)了 AI 與各行業(yè)的深度整合。促進(jìn)生成式 AI 應(yīng)用的規(guī)模化落地。
卓世科技 MaaS 平臺(tái)核心優(yōu)勢(shì):
1、 支持多源異構(gòu)的基礎(chǔ)大模型:多種開源、閉源模型,璇璣玉衡模型、ChatGLM2、Llama2、文心一言 ERNIE-Bot-Turbo
2、 模型開發(fā)全流程一站式能力:場(chǎng)景分析、數(shù)據(jù)增強(qiáng)、模型訓(xùn)練、模型評(píng)估、模型測(cè)試、模型發(fā)布、模型部署
3、 低代碼方式降低模型開發(fā)門檻:通過(guò)拖拽的方式,完成訓(xùn)練流程的搭建,極大簡(jiǎn)化了用戶操作,大幅降低模型開發(fā)的技術(shù)門檻
4、 快捷的數(shù)據(jù)接入與知識(shí)增強(qiáng):特色的數(shù)據(jù)接入體系以及知識(shí)增強(qiáng)能力,幫助企業(yè)快速接入各種來(lái)源數(shù)據(jù)進(jìn)行模型訓(xùn)練服務(wù)
5、 完備的算力管理平臺(tái):算力資源監(jiān)控,調(diào)度和管理,實(shí)現(xiàn)跨設(shè)備、跨域、跨品牌算力融合管理
6、 支持各類模型架構(gòu):多種模型種類的支持,如大語(yǔ)言模型、多模態(tài)模型等;多種模型架構(gòu)支持,如單體模型架構(gòu)、MoE 模型架構(gòu)
7、 平臺(tái)提供多種模型微調(diào)方式:支持 RLHF、LORA、P-turning 等多種模型微調(diào)方式
8、 支持多種模型壓縮模式:平臺(tái)支持模型壓縮技術(shù),降低模型推理成本,滿足端側(cè)部署需求。
卓世科技 MaaS 平臺(tái) " 交鑰匙 " 服務(wù):
數(shù)據(jù)服務(wù)是 MaaS 平臺(tái)提供的一項(xiàng)核心 " 交鑰匙 " 服務(wù),基于大模型技術(shù)的數(shù)據(jù)分析和清洗、樣本數(shù)據(jù)智能生成和大模型推理數(shù)據(jù)回流,解決大模型訓(xùn)練數(shù)據(jù)不足且質(zhì)量不高等情況,全面賦能訓(xùn)練數(shù)據(jù)智能處理功能,提升實(shí)際訓(xùn)練場(chǎng)景下訓(xùn)練數(shù)據(jù)的質(zhì)量和多樣性。
它主要包括以下三個(gè)方面:
1、訓(xùn)練數(shù)據(jù)智能分析和清洗:綜合利用大模型 + 小模型 + 數(shù)學(xué)分析算法的技術(shù)優(yōu)勢(shì),對(duì)文本數(shù)據(jù) / 結(jié)構(gòu)化數(shù)據(jù)進(jìn)行分析,優(yōu)化數(shù)據(jù)清洗流程,去 " 臟 " 數(shù)據(jù)危害,清洗效率更高,人力投入更少,提升數(shù)據(jù)的質(zhì)量、準(zhǔn)確性和一致性,最終減少模型訓(xùn)練過(guò)程中的錯(cuò)誤,提高大模型訓(xùn)練的質(zhì)量和效率。
2、文本數(shù)據(jù)智能生成:基于大模型技術(shù),使用少量文本數(shù)據(jù)智能生成并標(biāo)注得到更豐富的樣本數(shù)據(jù),以解決大語(yǔ)言模型荊條場(chǎng)景樣本數(shù)據(jù)不足的情況,成本更低廉,且不會(huì)損害客戶隱私,從而提升大模型行業(yè)領(lǐng)域微調(diào)的可實(shí)現(xiàn)性。
3、大模型推理數(shù)據(jù)回流:結(jié)合大模型推理的點(diǎn)贊、點(diǎn)踩等反饋,將正負(fù)數(shù)據(jù)回流進(jìn)行管理。
模型訓(xùn)練服務(wù)是 MaaS 平臺(tái)提供的又一關(guān)鍵服務(wù),它涵蓋了:
1、模型選擇:提供多種預(yù)訓(xùn)練模型供用戶選擇,這些模型可能針對(duì)特定行業(yè)或通用任務(wù)進(jìn)行了優(yōu)化。
2、自定義模型構(gòu)建:允許用戶根據(jù)自己的需求從頭開始構(gòu)建模型,提供靈活的模型架構(gòu)設(shè)計(jì)工具。
3、訓(xùn)練環(huán)境配置:提供所需的計(jì)算資源,包括 GPU、TPU 等加速硬件,以及相應(yīng)的軟件環(huán)境。
4、超參數(shù)調(diào)優(yōu):幫助用戶找到最優(yōu)的模型參數(shù),提高模型性能,可能包括自動(dòng)化的超參數(shù)搜索服務(wù)。
5、模型訓(xùn)練監(jiān)控:提供訓(xùn)練過(guò)程中的實(shí)時(shí)監(jiān)控和日志記錄,幫助用戶了解模型訓(xùn)練的狀態(tài)和效果。
應(yīng)用部署和構(gòu)建服務(wù)確保模型能夠轉(zhuǎn)化為實(shí)際可用的應(yīng)用程序,具體包括:
1、模型部署:將訓(xùn)練好的模型部署到生產(chǎn)環(huán)境中,可能包括云服務(wù)器、邊緣設(shè)備或特定硬件上。
2、API 集成:提供 API 接口,使得模型可以被其他應(yīng)用程序調(diào)用,實(shí)現(xiàn)模型服務(wù)的快速集成。
3、應(yīng)用開發(fā)框架:提供一套框架和工具,幫助用戶快速構(gòu)建和測(cè)試基于模型的應(yīng)用。
4、持續(xù)集成 / 持續(xù)部署(CI/CD):自動(dòng)化應(yīng)用的構(gòu)建、測(cè)試和部署流程,提高開發(fā)效率和應(yīng)用質(zhì)量。
5、用戶界面(UI)設(shè)計(jì):幫助用戶設(shè)計(jì)和實(shí)現(xiàn)與模型應(yīng)用交互的用戶界面,提升用戶體驗(yàn)。
6、性能優(yōu)化:對(duì)部署的應(yīng)用進(jìn)行性能調(diào)優(yōu),確保應(yīng)用的響應(yīng)速度和處理能力滿足業(yè)務(wù)需求。
7、安全性保障:確保應(yīng)用的安全性,包括數(shù)據(jù)傳輸加密、訪問(wèn)控制和防御潛在的安全威脅。
通過(guò)這些服務(wù),卓世科技的 MaaS 平臺(tái)能夠?yàn)殚_發(fā)者和企業(yè)提供從數(shù)據(jù)準(zhǔn)備到模型訓(xùn)練,再到應(yīng)用部署的全流程支持,實(shí)現(xiàn)行業(yè)模型的快速開發(fā)和應(yīng)用。
免責(zé)聲明:市場(chǎng)有風(fēng)險(xiǎn),選擇需謹(jǐn)慎!此文僅供參考,不作買賣依據(jù)。