2023世界人工智能大會（WAIC 2023）于上海世博中心及世博展覽館成功舉辦。大會參展企業(yè)超過400家，線下參觀人數(shù)突破17.7萬人。速石科技也應邀參加本次大會，旗下一站式AI研發(fā)平臺及AI應用Megrez首次亮相。
本次大會以“智聯(lián)世界，生成未來”為主題，圍繞大模型、智能芯片、類腦智能、自動駕駛、元宇宙等十大前沿方向，聚焦于AI領域的學術和研發(fā)熱點問題，由包括圖靈獎得主、諾貝爾獎得主、海內外院士、頂尖企業(yè)領軍人才在內的逾1400位重量級嘉賓展開討論。
在ChatGPT、Midjourney等產(chǎn)品引爆AIGC熱度后，國內外知名科技公司也先后發(fā)布了自己的大模型，極高的關注度帶動了整條人工智能產(chǎn)業(yè)鏈的發(fā)展，從而催生了行業(yè)對MLOps平臺的進一步需求。
關于MLOps
與外界認知不同，在AI的完整生態(tài)體系中，模型開發(fā)在其中的占比微乎其微。
Google團隊在2015年的論文中首次提出機器學習系統(tǒng)中存在著隱藏的技術債務，代碼開發(fā)的占比僅僅如下圖小黑框所示，整個機器學習的體系復雜而龐大。
來源：Hidden Technical Debt in Machine Learning Systems, NeurIPS 2015
諸如數(shù)據(jù)處理、生產(chǎn)環(huán)境部署、算力資源管理、多個開發(fā)環(huán)境的管理等，會降低企業(yè)的研發(fā)效率和研發(fā)人員的工作體驗。
而在生產(chǎn)部署環(huán)節(jié)，根據(jù)IDC調查顯示，在準備部署人工智能的企業(yè)中，大部分還停留在對模型的評估測試階段，只有31%的企業(yè)將模型投入了生產(chǎn)環(huán)境，這其中僅三分之一的企業(yè)認為AI的部署對自己起到了正面作用。
MLOps就是將機器學習（ML）、開發(fā)（Dev）和運維（Ops）串連為一個整體，向人工智能領域提供了系統(tǒng)性的生產(chǎn)過程管理方案，從而針對性地解決前述AI領域問題。
行業(yè)對系統(tǒng)性的方法論和規(guī)范化的管理流程有著強烈的需求，這也是近年來MLOps產(chǎn)業(yè)快速發(fā)展的原因所在。
速石科技MLOps平臺
作為 NVIDIA Inception Program 的一員，速石科技致力于彌合研發(fā)團隊與AI基礎設施間的差距，簡化AI模型的研發(fā)流程，借助自身優(yōu)勢減少研發(fā)過程中技術和流程的重復，大幅優(yōu)化企業(yè)的研發(fā)效率和體驗。
速石科技旗下的MLOps平臺能為企業(yè)提供端到端的一站式AI研發(fā)平臺，并為AI/ML提供全生命周期的產(chǎn)研支持，實現(xiàn)AI/ML模型的部署和落地，從而幫助企業(yè)實現(xiàn)自身商業(yè)價值。
敏捷高效的一站式研發(fā)平臺
速石科技MLOps平臺能夠為企業(yè)提供敏捷高效的一站式研發(fā)環(huán)境，縮短模型的開發(fā)周期，覆蓋企業(yè)從ML/LLM模型的構建、訓練到最終部署的全部需求，幫助企業(yè)更快地將ML/LLM模型推向生產(chǎn)環(huán)境，從而提升整體產(chǎn)研效率。
速石科技擁有遍布全球的服務節(jié)點，能為企業(yè)提供海量的CPU、GPU、TPU等異構資源，并能提供數(shù)據(jù)運營（DataOps）和存儲方案等底層支持。平臺內多種即開即用的工具、可視化的操作界面和工作流設置，則能減少研發(fā)人員的學習成本，允許企業(yè)快速完成環(huán)境設置，隨時開啟研發(fā)工作。
幫助企業(yè)實現(xiàn)降本增效
速石科技一站式的研發(fā)服務也能幫助企業(yè)縮短AI項目的研發(fā)周期，實現(xiàn)快速迭代，幫助企業(yè)更快地將AI產(chǎn)品投入生產(chǎn)環(huán)節(jié)，實現(xiàn)自身商業(yè)價值。
速石科技通過集群實現(xiàn)對云端和本地算力的統(tǒng)一管理，并通過自研調度器Fsched確保每個用戶都能及時獲取所需資源，減少任務排隊和資源浪費，從而提升企業(yè)研發(fā)的投資回報率。
Fsched調度器能夠實現(xiàn)任務調度自動化，加快模型研發(fā)和迭代的速度，實現(xiàn)敏捷交付。在任務高峰期，F(xiàn)sched還能自動為團隊補充云端算力以防任務中斷。速石科技的自動集群管理與彈性資源擴充解放了團隊精力，幫助企業(yè)有效提升研發(fā)效率，控制研發(fā)成本。
可視化的監(jiān)控儀表盤可以讓企業(yè)從多個維度查看資產(chǎn)利用情況，并通過速石科技的身份系統(tǒng)管理用戶的訪問權限和資源上限，進一步優(yōu)化企業(yè)資源的投入產(chǎn)出比。
數(shù)字資產(chǎn)管理
隨著AI的飛速發(fā)展，數(shù)據(jù)、算法、模型和特征等數(shù)字資產(chǎn)的重要性逐漸突顯。
速石科技能夠提供多維度的監(jiān)控告警及審核日志，能夠追溯操作記錄，幫助企業(yè)了解數(shù)字資產(chǎn)的使用情況，增強企業(yè)的數(shù)字資產(chǎn)安全保障。
結合企業(yè)內部安全策略，速石科技能為企業(yè)提供安全可控的訪問環(huán)境，通過身份認證、權限管理、數(shù)據(jù)隔離等功能，簡化訪問管理，并實現(xiàn)對數(shù)字資產(chǎn)的全面管理和控制。
速石科技AI應用
AI應用落地是所有研發(fā)環(huán)節(jié)中最后一環(huán)，也是最重要的一環(huán)。在AIGC應用百花齊放的這波浪潮中，速石科技作為MLOps平臺的提供方，同時也是其使用方。
速石科技已經(jīng)發(fā)布一款行業(yè)知識庫聊天應用Megrez，這款聊天應用面向企業(yè)客戶提供大語言模型的私有化部署能力，解決了許多企業(yè)用戶關注的數(shù)據(jù)安全問題，它也允許用戶自定義行業(yè)知識庫，實現(xiàn)領域知識的問答。
速石科技支持用戶在平臺上自定義這款應用的部署，實現(xiàn)從基礎架構到最終應用的端到端掌控。
結語
AI工程化是產(chǎn)業(yè)發(fā)展的必經(jīng)之路，AI真正成為生產(chǎn)力工具，就必須借助MLOps等工程化技術來解決開發(fā)、訓練和部署等全鏈路生命周期的問題。
速石科技在云平臺、團隊協(xié)同、數(shù)據(jù)管理、工作流優(yōu)化和應用部署等層面的積累，能夠為企業(yè)提供優(yōu)質的、可落地的系統(tǒng)性研發(fā)支持，幫助企業(yè)優(yōu)化部署流程。
在未來，速石科技將在此基礎上積極探索，助力企業(yè)的可持續(xù)發(fā)展，推動行業(yè)形成人工智能生態(tài)閉環(huán)。
關于速石科技
速石科技（fastone）致力于構建為應用定義的云，讓任何應用程序，始終以自動化、更優(yōu)化和可擴展的方式，在任何基礎架構上運行。
我們?yōu)閯?chuàng)新驅動型用戶提供為應用優(yōu)化的一站式研發(fā)云平臺，滿足半導體、新藥研發(fā)、汽車/智能制造、人工智能、金融科技等企業(yè)及高校科研機構多種研發(fā)場景需求。基于本地+公有混合云環(huán)境的靈活部署及交付，幫助用戶提升20倍研發(fā)效率，降低成本達到75%以上，加快市場響應速度，面向全球開展競爭。
