火山引擎谭待:大模型的超低定价,来自对技术的信心
▓WSOP金手链冠军▓GGPoker[—ggn178.com—]为亚洲最具备实力的一间国际扑克竞技赛事平台,提供一个正规安全有保障的扑克游戏环境,加入立即玩与GGPoker全球玩家一起同乐疯狂的黄金一天一个价,现在还能买吗?
本文转自:中新网
黄河大合唱火出圈,兰州迎接“泼天流量”
“降价的基本逻辑是*%#,我们有信心用技术手段降低成本@@#*@,市场也需要更低价的大模型%@。”
5月15日*#%,字节跳动豆包大模型在火山引擎原动力大会上正式发布@@%。火山引擎总裁谭待在接受媒体采访时%@,谈到了大模型的定价策略%*##@。
豆包大模型的超低价格引发行业震动@@#%@。据悉*%**%,豆包主力模型的推理输入价格只有0.0008元/千Tokens*#*,比行业便宜99.3%@*。对此#*@,谭待坦言@#%,“降价是用技术优化成本来实现的%%@@@。如果只是补贴%#*,用亏损换收入是不可持续的%*@#,火山引擎不会走这条路%%%**。”
据介绍@%#%*,大模型推理成本的优化##*%*,技术上有很多手段@@%*。首先是模型本身@@*%%,模型结构、训练方法都可以持续改进*%,包括业界很关注的MoE(混合专家模型)@@,就是优化推理成本很好的解决方案@###。
其次是工程上的优化%%*。大模型的调用量越大%@@*#,优化推理成本的空间也越大%%%。以前的模型都是单机推理@%,大模型用的是分布式推理##。所以如果能把各种各样的底层算力用得更好%#*%%,推理成本就会大大降低*%#。
谭待进一步解释说*#%#,豆包大模型平均每天处理1200亿Tokens文本、生成3000万张图片*%%%*,这里有不同的负载%*%,可以把不同任务混合在一起@@#%,互相错峰@*@#*,通过智能调度把它们的利用率都跑得很高@*,就能极大地提升资源利用率**,实现整体成本的优化*#*#*。
另外以字节内部业务为例@%##%,飞书的主要流量高峰在工作时间#%#,抖音在下班后休闲时间的流量更高@#@*%,这些不同业务的大模型推理%@*,也能根据业务特点错峰使用@*,就可以降低成本%@。
对于“大模型开始价格战”的说法@#@*,谭待认为*%##@,大模型市场仍在发展初期@#%#,远远没到激烈竞争的阶段*%。“池塘有多大#*%*@,鱼就有多大@*,现在整个池塘还在培养的过程*%%。”
“一个人现在创业###%%,如果要花1万块钱调用大模型%#%#@,可能会觉得有点贵#%%。我们把价格降到1%都不到%%%*,100块钱就能用起来*@@@,他的想法也就更容易尝试#@@@。”谭待表示#*%#,企业的AI转型充满不确定性%*%*@,试错成本要尽量低@@#**,才能更快更多地实现大模型的应用落地*%*,从而让整个行业受益**。
分享让更多人看到
热门排行
- 1北京怀柔黄花城长城水库现瀑布景观
- 2中新网原创专题节目《中国新视野》
- 353天的太空“出差”嫦娥六号怎么干?这脚“刹车”很关键
- 4味蕾中国什么是“好客山东”?吃一顿鲁菜就明白了
- 5(寻味中华|名园)拙者为政处夜访问雅园
- 6最新研究破解“柳江人”年代学疑团:距今约3.3万
- 7上海采取“减少流动+核酸筛查”策略尽快实现社会面动态清零
- 8涉嫌信披违法违规,一天内8家上市公司被证监会立案
- 9发现新核素,中国冲在了前面119号新元素已在准备
- 10北京丰台通报某小区私挖地下通道事件:已立案调查
- 11在匈牙利古都“穿越”秦汉文明
- 12波音供应商前员工:经常发现产品缺陷出事只是时间问题!
- 13CBA:广东队领先10分痛失好局,主场被辽宁队逆转
- 14豆浆和牛奶,哪个更营养?吃出健康来
- 15万吨级江海直达船舶首次直航重庆
- 16一季度贷款更多投向重点领域
- 172024成都世园会开幕一起置身充满“黑科技”的“花花世界”
- 18美媒:拜登承认!美国的炸弹造成加沙平民伤亡
- 19一季度贷款更多投向重点领域
- 20东西问丨陈悦:福建船政有哪些中法交流往事?