36氪獲悉，AI應(yīng)用開(kāi)發(fā)者平臺(tái)「BentoML」已于日前完成900萬(wàn)美元種子輪融資，本輪融資由DCM領(lǐng)投，Bow Capital參投，融資金額將用于擴(kuò)充產(chǎn)品體系和提升產(chǎn)品水平。
「BentoML」是一家專(zhuān)注于AI應(yīng)用的開(kāi)發(fā)者平臺(tái)，成立于2019年，總部位于舊金山。核心團(tuán)隊(duì)主要由具有硅谷技術(shù)創(chuàng)業(yè)經(jīng)歷的工程師組成?！窧entoML」致力于為開(kāi)發(fā)者和企業(yè)客戶提供構(gòu)建、部署和擴(kuò)展AI應(yīng)用程序的能力，其開(kāi)源產(chǎn)品已經(jīng)支持全球范圍內(nèi)數(shù)千個(gè)企業(yè)及組織的核心AI應(yīng)用，并受到了全球AI應(yīng)用開(kāi)發(fā)者的青睞。「BentoML」于近日發(fā)布其Serverless云平臺(tái)BentoCloud，將更好的服務(wù)于全球AI開(kāi)發(fā)者，進(jìn)一步滿足縮減開(kāi)發(fā)時(shí)間和成本的剛性需求。
“友好的開(kāi)發(fā)者體驗(yàn)，能讓更多的開(kāi)發(fā)者將AI融入到他們的產(chǎn)品中去?！?/p>
(資料圖片僅供參考)
「BentoML」創(chuàng)始人、CEO楊超予曾是Databricks早期員工，他告訴36氪，“未來(lái)一段時(shí)間內(nèi)，縮短開(kāi)發(fā)周期、降低開(kāi)發(fā)門(mén)檻，將會(huì)成為開(kāi)發(fā)者和企業(yè)通過(guò)AI來(lái)獲得競(jìng)爭(zhēng)優(yōu)勢(shì)的重要因素?！?/p>
值得一提的是，「BentoML」自研的LLM（大語(yǔ)言模型）開(kāi)放平臺(tái)「OpenLLM」，在全球最大開(kāi)源項(xiàng)目社區(qū)GitHub上，僅上線一周就成為了“趨勢(shì)項(xiàng)目”。
GitHub - Trending
從模型部署切入，讓AI開(kāi)發(fā)“開(kāi)箱即用”
通過(guò)把所需的基礎(chǔ)設(shè)施進(jìn)行模塊化處理，和對(duì)于常見(jiàn)機(jī)器學(xué)習(xí)框架及推理引擎的支持，「BentoML」發(fā)布了其自研Serverless云平臺(tái)「BentoCloud」，提供了一套簡(jiǎn)單易用的API和靈活的架構(gòu)，使得開(kāi)發(fā)者可以更容易地選用若干預(yù)訓(xùn)練好的模型去開(kāi)發(fā)不同類(lèi)型的AI應(yīng)用。目前，「BentoML」主要優(yōu)勢(shì)有三：
首先，「BentoML」允許開(kāi)發(fā)者使用一套編程接口部署任何策略，這也是其作為新一代開(kāi)發(fā)者平臺(tái)有別于其他框架的特點(diǎn)之一。從低延時(shí)的API接口、針對(duì)長(zhǎng)推理任務(wù)的近線計(jì)算，到分布式的批處理和流處理等，開(kāi)發(fā)者只需要寫(xiě)一次代碼去描述AI應(yīng)用的邏輯。
其次，「BentoML」對(duì)主流模型進(jìn)行了開(kāi)箱即用的封裝和優(yōu)化，目前支持包括大語(yǔ)言模型（LLM）、生成式AI、計(jì)算機(jī)視覺(jué)、自然語(yǔ)言處理（NLP）等在內(nèi)的大部分細(xì)分領(lǐng)域AI應(yīng)用開(kāi)發(fā)。
第三，基于BentoML開(kāi)源框架的多年積累，「BentoCloud」的計(jì)費(fèi)方式是在業(yè)務(wù)高峰期自動(dòng)擴(kuò)容，在高峰過(guò)后縮容為零，確保開(kāi)發(fā)者只為使用的算力付費(fèi)，比起租用GPU來(lái)說(shuō)大幅降低了研發(fā)與業(yè)務(wù)成本。
圖源：BentoML
成立之初，「BentoML」從模型部署切入，主要面向?qū)I(yè)的AI開(kāi)發(fā)者。如今，隨著更多商業(yè)機(jī)會(huì)的出現(xiàn)，「BentoML」也正在向著更廣泛的AI應(yīng)用場(chǎng)景進(jìn)發(fā)。
比如，生成式AI的爆發(fā)，導(dǎo)致從去年開(kāi)始整個(gè)AI領(lǐng)域涌入了一大批AI應(yīng)用開(kāi)發(fā)者，其中很多人的經(jīng)驗(yàn)和技術(shù)背景主要來(lái)自于產(chǎn)品開(kāi)發(fā)、移動(dòng)應(yīng)用開(kāi)發(fā)等。為了調(diào)用AI的能力，他們需要在自己不擅長(zhǎng)的領(lǐng)域進(jìn)行大量的學(xué)習(xí)和實(shí)踐。
“這群新用戶是今天市場(chǎng)的發(fā)展讓我們看到的最大的改變?！?/p>
楊超予坦言，將AI開(kāi)發(fā)的門(mén)檻降低到普通開(kāi)發(fā)者的手中，“這個(gè)想法早就有了”。去年夏天，「BentoML」團(tuán)隊(duì)還在預(yù)言，未來(lái)會(huì)出現(xiàn)一個(gè)AI應(yīng)用開(kāi)發(fā)工程師的職位。直到今年2月，新聞開(kāi)始每天沖擊著整個(gè)科技圈的視野，隨之而來(lái)的是周?chē)鲕浖_(kāi)發(fā)的人開(kāi)始詢(xún)問(wèn)：如果我想做一個(gè)怎樣的模型，一個(gè)怎樣的應(yīng)用，我應(yīng)該怎么做？
在越來(lái)越多的聲音中，楊超予感受到，變革真的在發(fā)生。
對(duì)于市場(chǎng)驅(qū)動(dòng)下的新用戶來(lái)說(shuō)，「BentoML」發(fā)布了專(zhuān)屬的框架幫助用戶自己去探索或組合AI開(kāi)發(fā)中的各種解決方案。比如聊天機(jī)器人、OCR、圖像檢索、文本內(nèi)容搜索等常用AI場(chǎng)景。
簡(jiǎn)化產(chǎn)品路徑，建立MLOps標(biāo)準(zhǔn)
除了以AI為核心體驗(yàn)的產(chǎn)品服務(wù)之外，目前，開(kāi)發(fā)基于AI的產(chǎn)品服務(wù)也已經(jīng)成為了企業(yè)創(chuàng)新和提高生產(chǎn)效率的首要任務(wù)。
“企業(yè)對(duì)人工智能應(yīng)用的需求正在到達(dá)一個(gè)拐點(diǎn)?！?/p>
然而，由于構(gòu)建AI應(yīng)用的開(kāi)放標(biāo)準(zhǔn)尚未建立，盡管AI的目的是作用于更高效的生產(chǎn)和更好的用戶體驗(yàn)，但復(fù)雜的需求和生產(chǎn)環(huán)境仍然讓如今的AI開(kāi)發(fā)變得緩慢、昂貴、且門(mén)檻極高：盡管目前開(kāi)源社區(qū)中已經(jīng)存在如LLaMA、Stable Diffusion、LangChain等的開(kāi)發(fā)組件和預(yù)訓(xùn)練模型等，但開(kāi)發(fā)者仍然需要花費(fèi)大量的時(shí)間和精力才能達(dá)到生產(chǎn)環(huán)境所需的穩(wěn)定性和可擴(kuò)展性。
“那么多企業(yè)都在收集數(shù)據(jù)，我們都知道AI是挖掘數(shù)據(jù)價(jià)值的必經(jīng)之路，目前即使是成熟的科技公司，在內(nèi)部解決方案上也會(huì)面臨巨大的挑戰(zhàn)。”
比如，內(nèi)部開(kāi)發(fā)，僅是AI 服務(wù)開(kāi)發(fā)階段就要平均寫(xiě)3000行代碼和10多個(gè)組件?？傮w來(lái)看，「BentoML」能夠?qū)⑿侍嵘?5倍。
圖源：BentoML
事實(shí)上，無(wú)論是讓模型作用于數(shù)據(jù)分析，還是面向消費(fèi)市場(chǎng)的AI體驗(yàn)，MLOps（Machine Learning Operations，機(jī)器學(xué)習(xí)運(yùn)維）目前需要“行業(yè)里最好的工程師”，而不是每個(gè)公司都能招到頂尖人才去完成復(fù)雜系統(tǒng)的開(kāi)發(fā)。即使具備了以上條件，AI基礎(chǔ)設(shè)施還是會(huì)成為企業(yè)花時(shí)間和資源最多的地方。
可以說(shuō)，以更簡(jiǎn)單的方式進(jìn)行AI開(kāi)發(fā)與生產(chǎn)，不僅僅是以開(kāi)箱即用的解決方案匹配當(dāng)下風(fēng)頭正盛的技術(shù)方向，也是為當(dāng)下每一家還在收集數(shù)據(jù)、觀望 AI 的公司提前做出一個(gè)開(kāi)源標(biāo)準(zhǔn)。
無(wú)論是去年的低代碼、無(wú)代碼趨勢(shì)，還是時(shí)下熱門(mén)的MLOps、LLMOps，人類(lèi)技術(shù)發(fā)展的要義就是不斷簡(jiǎn)化和降低新興技術(shù)的門(mén)檻。而對(duì)于AI和大模型應(yīng)用開(kāi)發(fā)來(lái)說(shuō)，將差異化和競(jìng)爭(zhēng)壁壘依托于數(shù)據(jù)本身，模型訓(xùn)練交給數(shù)據(jù)科學(xué)家，其他的步驟在標(biāo)準(zhǔn)化的工業(yè)級(jí)生產(chǎn)框架下快速完成，才是最高效的。
“今年一月，很多人認(rèn)為企業(yè)要基于自己的數(shù)據(jù)去做大語(yǔ)言模型，訓(xùn)練成本需要上百萬(wàn)美金，很少有公司能負(fù)擔(dān)起。然而我們相信，隨著訓(xùn)練成本下降，更多的企業(yè)將來(lái)一定可以去使用自己的大語(yǔ)言模型。沒(méi)想到的是，僅三個(gè)月后，fine-tune 大模型的成本，可以下降到幾百美元?！?/p>
更早的投入，意味著每天都在見(jiàn)證嶄新的未來(lái)，也意味著一個(gè)更扎實(shí)的開(kāi)源社區(qū)基石。如今，「BentoML」在社區(qū)內(nèi)擁有上千名開(kāi)發(fā)者用戶，支撐著埃森哲、Riot Games、SoundHound、LINE等不同領(lǐng)域一線企業(yè)的AI應(yīng)用及服務(wù)。市場(chǎng)方面，「BentoML」目前的市場(chǎng)活躍度優(yōu)先分布于北美、東亞、歐洲市場(chǎng)，已經(jīng)得到了來(lái)自企業(yè)和開(kāi)發(fā)者的廣泛響應(yīng)。
置身AIGC的浪花中，AI技術(shù)革命所帶來(lái)的創(chuàng)造與體驗(yàn)價(jià)值，已經(jīng)成為了一個(gè)長(zhǎng)期命題。當(dāng)市場(chǎng)回歸理性，AI應(yīng)用與服務(wù)會(huì)從如今的新奇體驗(yàn)變?yōu)楦餍懈鳂I(yè)不可或缺的副駕駛。屆時(shí)，平靜海面的下方，將會(huì)是一個(gè)豐富而有條不紊的開(kāi)發(fā)生態(tài)系統(tǒng)。
而隨著越來(lái)越多的開(kāi)發(fā)者投身AI，像「BentoML」一樣深耕于MLOps基礎(chǔ)設(shè)施的“開(kāi)拓者”，也將進(jìn)一步思考，如何服務(wù)于不同需求、不同場(chǎng)景、不同技術(shù)背景下的開(kāi)發(fā)者，為AI開(kāi)發(fā)的成本和效率之戰(zhàn)給出更好的回答。
-----------------------
“隨著GPT4等大型語(yǔ)言模型（LLM）的蓬勃興起，軟件工程師正在以前所未有的速度和規(guī)模借助各類(lèi)開(kāi)源基礎(chǔ)模型創(chuàng)建AI原生應(yīng)用程序。 DCM對(duì)「BentoML」為幫助AI/ML開(kāi)發(fā)者創(chuàng)建和運(yùn)營(yíng)AI服務(wù)所做的工作感到興奮，”DCM中國(guó)創(chuàng)始合伙人、董事合伙人林欣禾（Hurst Lin）表示，“借助全新推出的BentoCloud產(chǎn)品，「BentoML」將以最大的可靠性和可擴(kuò)展性交付AI產(chǎn)品，成為所有軟件開(kāi)發(fā)者的首選MLOps/LLMOps平臺(tái)。”
標(biāo)簽：
