2月26日消息，京東云城市大會今日舉行。會上，京東云發(fā)布八大智算產(chǎn)品，五種全場景大模型部署模式，同時推出“開發(fā)訓(xùn)練+場景應(yīng)用”雙引擎一站式平臺，助力企業(yè)實(shí)現(xiàn)DeepSeek等大模型開箱即用、智能體深度開發(fā)與應(yīng)用，全面打通從模型落地到產(chǎn)業(yè)智能升級的最后一公里。

面向眾多企業(yè)用戶多樣化DeepSeek部署需求，京東云提供多場景、多形態(tài)、多規(guī)格的五大解決方案。對于希望低成本搭建AI應(yīng)用的初創(chuàng)公司和開發(fā)者，提供裸金屬智算服務(wù)和公有云Token調(diào)用兩種模式；對于金融、政府、企業(yè)等需要“數(shù)據(jù)不出域”的用戶，提供大模型私有化部署，包括一體機(jī)、純軟件部署和算力運(yùn)營三種模式，實(shí)現(xiàn)“數(shù)據(jù)本地化、模型私有化”。

圖源：中國網(wǎng)科技

京東云DeepSeek大模型一體機(jī)，通過自研的算力池化能力、智能推理加速引擎，充分融合軟硬件，實(shí)現(xiàn)了性能的全面提升，推理速度提升50%。目前，在河南鶴壁、江蘇宿遷、山東濱州，京東云已經(jīng)助力多地政府基于現(xiàn)有基礎(chǔ)設(shè)施本地化部署DeepSeek。

智能體成為大模型產(chǎn)業(yè)落地的核心載體，言犀智能體平臺實(shí)現(xiàn)三大能力突破：一是開放集成DeepSeek等數(shù)十款主流大模型；二是依托超萬個智能體落地實(shí)戰(zhàn)經(jīng)驗(yàn)，預(yù)置協(xié)同辦公、專業(yè)助手、客戶服務(wù)、營銷推廣、數(shù)據(jù)應(yīng)用等五大高價值場景模板；三是沉淀1000+智能插件與100+行業(yè)解決方案，支持零代碼敏捷構(gòu)建智能體。

隨著應(yīng)用深入，通過企業(yè)自有數(shù)據(jù)進(jìn)行模型蒸餾勢在必行。京東言犀大模型通過高質(zhì)量模型蒸餾，服務(wù)零售、健康、物流、金融等數(shù)百個場景，推理效率優(yōu)化1.5倍，顯存節(jié)約70%。當(dāng)前，AI已經(jīng)跑在京東內(nèi)部100多個場景，服務(wù)超60萬員工和20萬商家。未來，模型蒸餾能力也將向企業(yè)開放。

圖源：中國網(wǎng)科技