{{detailStore.author.is_follow?'已关注':'关注'}}
最近几天,关于芯片算力,又想给一些博主发学习资料了: 1. 理想i8和智能焕新版L系列采用的Thor-U芯片,针对不同精度的推理模型,所释放的TOPS数值也不同,精度越高TOPS越低,精度越低TOPS越高。 2. 更高 TOPS 带来更高模型吞吐率,从而降低推理延迟,反应变快。 3. 想要反应快,就需要采用低精度的推理模型。 4. 低精度推理模型,非常考验工程能力,不是每个人都能做到的。 5. 理想汽车的VLA模型目前采用INT8与FP8的混合精度推理,英伟达Thor U芯片目前可提供高达700 TOPS的算力;同时,Thor-U也支持FP4精度推理,未来我们也会将精度逐渐往FP4去优化,从而“压榨”芯片获取更大的算力。 #理想i8#
01:13
  • 全部评论{{detailStore.commentnum}} 条
  • 只看作者
  • 最热
  • 最新
  • 最早

「待审核」

首评 {{ comment.relativeTime }} 已被赞赏 {{comment.integral}} 积分 回复

{{ type!=10 ? '前排沙发空着~' : '暂无相关评论' }}

{{type!=10 ? '还没有人评论哦,快抢沙发吧!' : '发表一下个人看法吧'}}
写评论
积分赞赏
点赞
评论区
  • 编辑
  • {{is_favourite ? '已收藏' : '收藏'}}
  • {{is_personal_top ? '取消主页置顶' : '个人主页置顶'}}
  • 举报
  • 加入黑名单
  • 删除
  • 取消置顶
  • 置顶推荐
    • 6小时
    • 12小时
    • 24小时
    • 3天
    • 一周
    • 长期
  • {{digest?'撤销精华':'设为精华'}}
回到顶部