新闻资讯

成本降低20% ?蚂蚁集团回应自研大模型训练降本

3月24日,针对媒体对蚂蚁百灵大模型训练成本的报道,蚂蚁集团方面回应界面新闻称,蚂蚁针对不同芯片持续调优,以降低AI应用成本,目前取得了一定的进展,也会逐步通过开源分享。

此前有报道称,蚂蚁集团正使用中国制造的半导体来开发AI模型训练技术,这将使成本降低20%。知情人士称,蚂蚁集团使用了包括来自阿里巴巴和华为的芯片,采用混合专家(MoE)机器学习方式来训练模型。他们表示,蚂蚁集团获得了与采用英伟达H800等芯片训练相似的结果。

其中一位知情人士称,蚂蚁集团仍在使用英伟达的产品进行人工智能开发,但目前其最新模型主要依赖于包括AMD产品和中国芯片在内的替代产品。

该技术成果论文《每一个FLOP都至关重要:无需高级GPU即可扩展3000亿参数混合专家LING大模型》已在预印版Arxiv平台上发表。

除了自研性能领先的大模型以外,该技术论文更大的突破在于提出了一系列创新 *** ,以提升资源受限环境下AI开发的效率与可及性。实验表明,其3000亿参数的MoE大模型可在使用国产GPU的低性能设备上完成高效训练,性能与完全使用英伟达芯片、同规模的稠密模型及MoE模型相当。

作为国内较早布局AI大模型的厂商,蚂蚁自研的百灵大模型2023年已通过备案,重点布局在生活服务、金融服务、医疗健康等场景的应用。

 

  • 起底“回流药”背后销售网:“医保取现”透支未来“救命钱”
  • 中国人保总裁赵鹏:将力争中长期ROE持续优于上市同业平均水平,为股东创造更大价值
  • 钉钉飞书上演客户“挖角”大战 竞争格局将被洗牌
  • 直通部委 | 市场监管信用修复统一平台正式上线 2月份彩票销售同比增长15.3%
  • 网传小米SU7高速上碰撞爆燃疑有3人遇难,客服回应
  • 南京扩大提取住房公积金支付购房首付款政策实施范围
  • 新片|梁朝伟、段奕宏主演《猎狐行动》将于4月4日上映
  • 净利同比增速创九年新高,风电老大金风科技业绩“回春”
  • 光线传媒拟12亿元购买办公楼,以满足动画制作业务扩大需要
  • 康达环保公布2024年业绩 归母应占溢利约1.68亿元同比增加约34.6%
  • 广州各区2024经济年报:汽车大区增城、番禺承压,海珠、白云增速领跑
  • 四大行破净突围 溢价定增探索资本补充新路径
  • 中国银河去年净利润增逾27%,投资交易业务收入增超45%
  • 金香花:AI技术不仅是智能汽车进化的“加速器”,更是重塑全球产业格局的“新大陆”
  • 直通部委 | 教育部:对招生问题频发地区学校严肃追责 两部门:食品标签不得使用“零添加”
  • 关键词: