火山引擎谭待:大模型的超低定价,来自对技术的信心
▓APL中国▓GGPoker[—ggn178.com—]为亚洲最具备实力的一间国际扑克竞技赛事平台,提供一个正规安全有保障的扑克游戏环境,加入立即玩与GGPoker全球玩家一起同乐美媒:拜登承认!美国的炸弹造成加沙平民伤亡
本文转自:中新网
中国体操队巴黎备战关键词:自信、血性、行动派
“降价的基本逻辑是#%**,我们有信心用技术手段降低成本#*%*%,市场也需要更低价的大模型%*@**。”
5月15日@*%,字节跳动豆包大模型在火山引擎原动力大会上正式发布@#。火山引擎总裁谭待在接受媒体采访时*%*#%,谈到了大模型的定价策略@%。
豆包大模型的超低价格引发行业震动*@*#。据悉@#%,豆包主力模型的推理输入价格只有0.0008元/千Tokens%#*%#,比行业便宜99.3%*#*%%。对此@##*,谭待坦言@%@@,“降价是用技术优化成本来实现的*#%。如果只是补贴#*%#,用亏损换收入是不可持续的@#,火山引擎不会走这条路@@%。”
据介绍#*%#,大模型推理成本的优化%@*@#,技术上有很多手段%**%#。首先是模型本身#*%#,模型结构、训练方法都可以持续改进*%#,包括业界很关注的MoE(混合专家模型)@%,就是优化推理成本很好的解决方案*@##*。
其次是工程上的优化***@@。大模型的调用量越大%@@@,优化推理成本的空间也越大#%%。以前的模型都是单机推理%*@#,大模型用的是分布式推理@%#。所以如果能把各种各样的底层算力用得更好#%##,推理成本就会大大降低@#。
谭待进一步解释说##%@*,豆包大模型平均每天处理1200亿Tokens文本、生成3000万张图片##%%,这里有不同的负载*%,可以把不同任务混合在一起*#,互相错峰**%@,通过智能调度把它们的利用率都跑得很高@*,就能极大地提升资源利用率%%#@%,实现整体成本的优化*%#@。
另外以字节内部业务为例%%**,飞书的主要流量高峰在工作时间*%***,抖音在下班后休闲时间的流量更高#@@*%,这些不同业务的大模型推理@#@,也能根据业务特点错峰使用@#@%,就可以降低成本%@。
对于“大模型开始价格战”的说法%*@#,谭待认为%**,大模型市场仍在发展初期*@,远远没到激烈竞争的阶段%%#%%。“池塘有多大#*,鱼就有多大##%@,现在整个池塘还在培养的过程@*%@@。”
“一个人现在创业@@,如果要花1万块钱调用大模型###%@,可能会觉得有点贵#%@%@。我们把价格降到1%都不到%***,100块钱就能用起来#*%*%,他的想法也就更容易尝试%@@*%。”谭待表示@#@#,企业的AI转型充满不确定性@@,试错成本要尽量低###*%,才能更快更多地实现大模型的应用落地*%,从而让整个行业受益%%**。
分享让更多人看到
热门排行
- 1中新人物“被篮球耽误的超模”,想再拿一次总冠军
- 2中国建设银行原资产管理业务中心副总经理童文涛接受审查调查
- 3高铁调价有哪些考量因素?未来会扩展到更多线路吗?
- 4收藏家张宗宪捐赠掐丝珐琅器入藏上海博物馆
- 5广州南站区域地下空间项目完成竣工验收
- 6台湾写真:探访台北知名创业加速器
- 7湖南长沙:会预警且能自动灭火的智能充电棚“上岗”
- 8【东西问·中外对话】联合国环境问题专家:中国为应对气候变化付出诸多努力外界应加深了解
- 9在匈牙利古都“穿越”秦汉文明
- 10湖北利川一村庄发现珍稀植物水晶兰
- 11日本本州东岸海域强震多地停电震感强烈
- 12彭丽媛同塞尔维亚总统武契奇夫人塔玛拉参观塞尔维亚国家博物馆
- 13黄河大合唱火出圈,兰州迎接“泼天流量”
- 14赖清德称“台湾有事就是日本有事”外交部:再次暴露民进党当局媚日卖台
- 15北京冬奥会开幕倒计时200天
- 16上海采取“减少流动+核酸筛查”策略尽快实现社会面动态清零
- 17北京怀柔黄花城长城水库现瀑布景观
- 18“鸟中大熊猫”黑脸琵鹭现身山东威海
- 19习近平到访的这个国家,为何被称“最西边的东方国家”?
- 20河北南皮3万亩紫花苜蓿迎首茬收获