科技

阿里云刘伟光:公共云+API将成为企业使用大模型的主流方式 

2024年05月21日 | 查看: 51776

  5月21日,阿里云宣布通义千问GPT-4级主力模型Qwen-Long价格直降97%。这意味着,1块钱可以买200万tokens,相当于5本《新华字典》的文字量。Qwen-Long是通义千问的长文本增强版模型,上下文长度最高达1千万。本次降价,通义千问共覆盖9款商业化及开源系列模型。

阿里云刘伟光:公共云+API将成为企业使用大模型的主流方式 
图片来源于网络,如有侵权,请联系删除

阿里云刘伟光:公共云+API将成为企业使用大模型的主流方式 
图片来源于网络,如有侵权,请联系删除

  业界普遍认为,随着大模型性能逐渐提升,AI应用创新正进入密集探索期,但推理成本过高依然是制约大模型规模化应用的关键因素。“阿里云这次大幅降低大模型推理价格,就是希望加速AI应用的爆发。我们预计未来大模型API的调用量会有成千上万倍增长。”在武汉AI智领者峰会现场,阿里云智能集团资深副总裁、公共云事业部总裁刘伟光表示。

  刘伟光认为,不管是开源模型还是商业化模型,公共云+API将成为企业使用大模型的主流方式,主要有三点原因:

  一是公共云的技术红利和规模效应,带来巨大的成本和性能优势。阿里云可以从模型自身和AI基础设施两个层面不断优化,追求极致的推理成本和性能。阿里云基于自研的异构芯片互联、高性能网络HPN7.0、高性能存储CPFS、人工智能平台PAI等核心技术和产品,构建了极致弹性的AI算力调度系统,结合百炼分布式推理加速引擎,大幅压缩了模型推理成本,并加快模型推理速度。

阿里云刘伟光:公共云+API将成为企业使用大模型的主流方式 
图片来源于网络,如有侵权,请联系删除

  二是云上更方便进行多模型调用,并提供企业级的数据安全保障。阿里云可以为每个企业提供专属VPC环境,做到计算隔离、存储隔离、网络隔离、数据加密,充分保障数据安全。目前,阿里云已主导或深度参与10多项大模型安全相关国际国内技术标准的制定。

  三是云厂商天然的开放性,能为开发者提供最丰富的模型和工具链。阿里云百炼平台上汇聚通义、百川、ChatGLM、Llama系列等上百款国内外优质模型,内置大模型定制与应用开发工具链,开发者可以便捷地测试比较不同模型,开发专属大模型,并轻松搭建RAG等应用。从选模型、调模型、搭应用到对外服务,一站式搞定。

【纠错】 【责任编辑:凌纪伟】
    阅读下一篇:
      深度观察
      • 新华全媒头条丨黑龙江构筑向北开放新高地
      • 新华全媒+丨国家数据局解读城市全域数字化转型
      • 记者手记丨在孩子们心中播撒科学的种子
      • 新华每日电讯丨一杯茶品出的中国“工夫” 
      • 经济参考报丨“小电驴”迎强监管 充换电设施建设升温
      • 列国鉴丨记者观察:南非为什么如此“硬刚”以色列
      • 聚焦大湾区丨广西贺州预制菜叫响粤港澳大湾区
      • 南岭茶香飘千年
      • 长白山“守山人”

              推荐阅读:

              践行高质量发展 海尔“精华洗”开启绿色洗护新时代

              毅峰资本曹映雪:看重企业的多市场发展潜力

              A股三季报披露季启幕 披露业绩预告的公司逾七成预喜

              星空有约|这项试验成功,让下载海量卫星图片更高效

              探“灯塔工厂”看制造业“智变”

              数字人民币应用频“上新” 跨境支付显潜力

              央行定调下阶段货币政策 保持信贷合理增长

              “股贷”联动共促科技创新 建设多元化接力式科创金融服务体系备受期待

              北京长峰医院火灾事故初步调查结果公布:医院内部施工作业火花引发

              龙辰科技IPO上会被否 保荐机构为民生证券

              关键词: