6月6日，京東云城市大會在成都順利舉行，大會全面展示了京東場景大模型應用效果、言犀大模型技術能力升級，支持大模型的新一代數(shù)字基礎設施，持續(xù)加速產業(yè)智能化變革。大模型落地應用的關鍵是在資源、性能、效果三者之間取得平衡。為了實現(xiàn)這一目標，京東云自研了推理引擎，通過利用推測解碼，用小模型輔助大模型進行推理，從而加速大模型的推理速度并降低成本。在大模型應用開發(fā)方面，京東云自研了大模型產品，以支持更高效的研發(fā)運維。其中，自研的輔助編碼助手 JoyCoder 幫助研發(fā)人員更高效地編寫、閱讀和優(yōu)化代碼，目前京東上萬名研發(fā)人員在使用 JoyCoder，生成代碼采納率超過30%，助力開發(fā)周期縮短20%。在運維服務上，京東云自研了混合多云智能運維平臺，提供指標異常檢測、日志分析、故障定位等功能，在 QPS 達千萬級流量時，可用率仍達到99.9%，大幅提升了運維效率。

基于京東云的自研技術，大模型已經(jīng)在京東的數(shù)百個應用場景中得到了應用，包括直播帶貨、店鋪運營、廣告投放等領域。例如，在內容生產方面，超過9萬商家借助大模型零成本制作店鋪營銷物料，AIGC 生成內容采納率超50%，實現(xiàn)了大幅度的降本提效。在數(shù)字人直播方面，大模型加持的京東云言犀數(shù)字人已在超過5000間品牌直播間開播，帶貨 GMV 總量近百億。

為了進一步推動大模型的應用，京東云還推出了一套支持大模型的完整工具，包括言犀 AI 開發(fā)計算平臺、向量數(shù)據(jù)庫、混合多云操作系統(tǒng)云艦、高性能存儲平臺云海、軟硬一體虛擬化引擎京剛等核心產品。其中，言犀 AI 開發(fā)計算平臺可以提供從基礎資源、模型服務到智能體構建的一站式大模型服務，支持 GPU 資源的統(tǒng)一管理，兼容國內外主流 AI 芯片，實現(xiàn)集群算力資源的充分利用。

未來，京東云將繼續(xù)與合作伙伴一道，以更豐富的應用場景和領先的技術能力，助推大模型抵達產業(yè)智能。