开云(中国大陆)Kaiyun·体育官方网站-登录入口

你的位置:开云(中国大陆)Kaiyun·体育官方网站-登录入口 > 新闻动态 >
体育游戏app平台02豆包“击穿最廉价”-开云(中国大陆)Kaiyun·体育官方网站-登录入口
发布日期:2024-06-27 07:10    点击次数:76

体育游戏app平台

“大模子比行业低廉百倍,字节打的什么算盘?”

作家 | 代聪飞

裁剪 | 林觉民

2024 岁首,字节跨越 CEO 梁汝波在年会中提到,公司层面的半年度技巧记忆里,2023 年才出现 GPT 相关扣问。当作对比,业内作念得比拟好的大模子创业公司基本在 2018 年到 2021 年之间还是创立。

一位字节职工曾告诉雷峰网,直到 2023 年 2 月,字节才运转探索大模子。彼时,国内一些更早入局的大厂还是准备对外发布大模子。

简而言之,这场由 Open AI 在 2022 年底发布 ChatGPT 3.5 而掀翻的“大模子”盛宴,字节莫得成为最早的“入场嘉宾”。

往时一年多的时候里,字节在 AI,尤其是自研大模子畛域,耐久颇为低调,但这并不妨碍业内的期待。不少从业者在被问及最看好国内哪家公司的大模子产物时,齐曾向雷峰网说起字节。

其华夏因也不难阐明,不管从东说念主才密度、GPU 资源,如故技巧累积各个层面,字节齐有着弥漫的上风。诚然,字节不是最早参与到大模子接洽的公司,但却是为数未几在技巧累积和 GPU 资源等维度齐有着深厚积淀的公司。

转移互联网初期,本日头条便通过对算法保举的老到应用,冲破新闻派别网站的敛迹。从此,信息流产物成为各家互联网公司追赶的师法对象。

在大模子考试必不行少的 GPU 卡方面,雷峰网客岁在里还是提到,调研浮现,字节的 GPU 卡在现时国内开阔云厂商中名次 Top 3,并将其归因于抖音业务保举平台的抑制升级,以及火山引擎使用抖音同源机器学习平台对外服务的需求。

如今,字节终于揭开自研大模子的“巧妙面纱”。5月15日,火山引擎春季Force·原能源大会上,字节跨越初次对外隆重发布自研大模子:豆包大模子(原云雀大模子)眷属集体亮相。

尽管不少圈内东说念主还是听闻字节的大模子或立异廉价钱,但当火山引擎总裁谭待隆重对外告示价钱时,豆包大模子如故给 AI 界来了少量小小的“字节式”颤动。

火山引擎春季Force·原能源大会现场,参会者争相拍摄豆包大模子价钱

01

大模子竞争的推行是终局心智和应用场景多元化

岁首有媒体发文指出:“抖音旗下的 AIGC 应用豆包月活 1756.9 万,超越 1212.5 万月活的文心一言。”

证据 QuestMobile 最新数据,2024 年 3 月,豆包月活用户已达到 2328.2 万,甩开文心一言近千万。文心一言以及天工、讯飞星火、Kimi智能助手月活跃用户分裂为1466.1万、966.1万、620.4万、589.7万。

其时,本文作家身边也看到过不少安利豆包产物的用户。部分带娃家长直言:“豆包太兴致了,现时孩子每晚转头齐要跟豆包对话一刹,问多样问题。”

转移互联网期间,字节跨越作念出了本日头条、抖音这样的全民产物;大模子波涛起来以后,不少东说念主齐坐等一个 AI 期间的抖音。

不管业内东说念主士把大模子谈的多“花”,其九九归一,如故要让总共的闲居东说念主用起来,而不是仅限于圈内的狂欢。从这个角度来看,大模子竞争的推行,是终局心智的争夺。

就脚下的情况来看,豆包毫无疑问有这个后劲和契机。这款客岁才推出的产物,只是用不到一年就还是浮现出在同类产物中庞大的竞争力。

在 5 月 15 号的火山引擎春季Force·原能源大会上,字节跨越产物与计谋副总裁朱骏共享了豆包 APP 的一些趣事和念念考。

比如,对于这个看起来少量“科技感”莫得的名字,灵验户证明为抖音的官方bot——“抖bot”的谐音;还灵验户证明为“齐包了”,责任生计学习的需求齐包了。

甚至于其后,在被问到豆包名字的含义,朱骏也会用这两个谜底。

推行上,隆重定名以前,字节的大模子团队有一个生机,产物的名字,能够像用户对一个亲密一又友日常称号的昵称。在这个观念下,团队伍了许多名字,很快选中豆包。朱骏兴趣地说到:“归正以后如果有更好的名字也还可以改嘛。”

用户数方面,豆包官方数据浮现,其转移和桌面双端月活跃用户还是越过 2600 万。同期,这些用户共同创造了 800 多万个智能体。

发布会上,字节初次对外暴露了其自研的底座大模子,取名为豆包大模子,也即是此前一直被外界说起的云雀大模子。

豆包大模子眷属

豆包 APP,只是豆包大模子应用的一个侧面。

基于豆包大模子,字节跨越还打造了 AI 应用开发平台“扣子”、互动文娱应用“猫箱”、AI 分身创作应用“星绘”等一系列产物。

此外,抖音、番茄演义、飞书、巨量引擎等 50 余个业务也齐还是接入豆包大模子,用以晋升效劳和优化产物体验。这些产物中不乏亿级的用户和内容,抖音每天有 7 亿多用户以及丰富的图文短视频内容,番茄演义每天也有近 1 亿用户。

这还只是是字节里面产物的使用。

悄然间,OPPO小布助手、荣耀 MagicBook 的 YOYO 助理、华硕条记本电脑豆叮AI助手、极氪汽车的座舱大模子等均已接入字节的大模子服务。

基于豆包大模子,字节在本年2月上线了 AI 应用开发平台“扣子”。只是三个月往时,招商银行、海底捞暖锅、超等猩猩、猎聘、飞鹤等企业还是在扣子上搭建智能体并应用。复旦大学、浙江大学等名校也为课程和实验室搭建了 AI“助教”。

从 C 端的豆包 APP 用户,到 B 端的千行百业,豆包大模子不仅使用量大,应用场景之丰富也可见一斑。证据火山引擎总裁谭待先容,现时,豆包大模子日均处理文本 1200 亿 Tokens,生成 3000 万张图片。

业内广大认为,一般而言,大模子的使用量越大,效劳也就越好,这给了豆包大模子更大的底气。“大的使用量,材干打磨出好模子。”谭待也直言。

02

豆包“击穿最廉价”,大模子或将进入新波涛

不管是 C 端用户使用体验,如故 B 端应用场景,实在落地成为全民应用的基础齐需要弥漫低的价钱。

这就好比,4G 汇聚普及加快了流量资本镌汰,并促成智高手机的普及,又进一步加快了视频等终局 APP 的爆发式增长。

对于当下企业而言,使用大模子能够促见效劳的晋升险些是证据的,但大模子的参加一直以来齐至极大,而企业在参加一个新的立异畛域时,势必当先要谈判资本问题。

大概恰是由于价钱成分,往时一年多,大模子天然激勉了全行业的上涨,但实在参加使用的仍然只好少数企业。

在这一配景下,豆包大模子这次官宣的价钱能够成为行业焦点也就不及为奇了。

5月15日的发布会上,谭待告示豆包大模子价钱的那刹那间,掌声响彻总共这个词会场,也将这场发布会推向上涨。

火山引擎总裁谭待公布豆包大模子订价

豆包大模子的价钱有多惊东说念主?

豆包主力模子 Pro-32k 版块模子推理输入价钱只好 0.0008元/千Tokens,0.8 厘就能处理 1500 多个汉字,比行业同等模子低廉 99.3%;128k 型号价钱为 0.005元/千Tokens,比行业价钱低 95.8%。

更形象的说法是,证据火山引擎公布的价钱筹画,以 Pro-32k 版块为例,一元钱就能买到 125 万 Tokens,大致 200 万个汉字,相配于三本《三国演义》。

看到这样的价钱,不少东说念主以为,豆包大模子在“以吃亏换市集”。但在会后的媒体采访中,谭待清楚:“用吃亏换收入是不行抓续的,咱们从来不走这条途径。勇于订价这样低,是因为咱们对优化推理资本的技巧智商很有信心。”

对于为什么定这样的价钱,谭待清楚是基于两方面成分:一是能作念到,二是需要这样作念。

一方面,通过模子结构的优化、散播式推理、羼杂调遣等举措,极大压低了大模子的推理资本。模子调用量越大,资本优化空间就越大。以字节业务为例,飞书的主要流量岑岭在责任时候,抖音鄙人班后自在时候的流量更高,这些不同行务的大模子推理,能证据业务特色错峰使用,把资源欺骗率跑得很高,就可以镌汰资本。

另一方面,本年以来,大模子智商得到极大晋升以后,应用将是一个至极热切的设施。当下市集,许多企业有尝试大模子的观念,但因为不细则性的风险,些许有些畏手畏脚。只好价钱镌汰到一定进度,试错资本弥漫低,更多的企业才会加入到大模子的应用中。

不久前,零一万物 CEO 李开复清楚,大模子推理资本每年镌汰十倍,这在往时两年还是发生,优化得好更是可以镌汰二三十倍。

看来,字节对模子推理资本优化的预期也瑕瑜常乐不雅,降价所谈判的即是让大模子尽快在更多应用场景落地。

以大模子应用最平凡的内容产业为例,视频平台时时需要在鳞次栉比的脚本中,筛选出优质且稳当转换成影视表情标脚本。

假定,现时某公司霸术欺骗大模子作念一个 AI 脚本助手,匡助平台把几十万字的脚本索要出中枢重点,并进一步评估脚本可行性。如果想打磨出弥漫好的效劳,可能需要 100 亿 tokens 的推理输入。往时,完成这一表情,负责东说念主需要从公司请求 100 多万预算,这对一个中小企业而言并不算少。现时,如故这件事,使用豆包大模子,则只需要 8000 块钱。彰着,这是一个险些总共公司齐能接收的价钱。

换言之,也曾,许多创预观念可能因为大模子应用资本被拒之门外;现时,豆包大模子将价钱打下来以后,资本极低,企业和创业者们不再因此而受到敛迹,就更有契机找到好的落地场景,总共这个词行业的蛋糕也会越作念越大,从而酿成价钱低→ 使用量大 →落地场景丰富→应用效劳好的正向轮回。

经济学上,有一个专科术语叫作念限度经济,意为在一定产量范围内,奉陪产量加多,平均资本抑制镌汰的气候。其原因在于,产量加多会带来一个适度,每多坐褥一单元产物的资本(角落资本)抑制镌汰。

回到科技畛域,相通存在类似的效应。互联网出现以后,流量资本抑制镌汰,信息的分发资本险些接近 0,本日头条、抖音齐是其中的受益者。而现时,大模子正在加快 AI 应用的新一轮波涛。

a16z 的合资东说念主 Martin Casado 曾在演讲中提到,从基本的经济分析来看,大模子将创造的角落资本降到了零,比如创建图像和言语阐明。

业内齐在期待大模子重塑互联网产物,这一切的前提是,它的价钱弥漫低。现时,豆包大模子还是打了个样。

03

豆包“遇上”火山方舟,一场大模子的自我转换

在讶异于廉价的同期,不少企业可能系念模子的推理效劳是否能够知足使用需求。

对于这少量担忧,其实谜底在前文中还是有所示意。不少用户应该齐还是使用过字节面向 C 端的 AIGC 产物豆包,效劳如何信托每个东说念主齐有体会。如果效劳不好,它的用户数也不行能在短短一年间冲到同行业产物 TOP1。

又如,字节最近推出的 AI 分身创作产物星绘,环球也可以上手使用体验。

除了 AI 原生应用,抖音、本日头条、飞书等不少字节的产物齐大齐的使用了大模子。本日头条内嵌的 AI 器具不仅为用户提供了对话功能,还有条记创作、虚幻解读、创业指引等智商。

如今,不少互联网企业在发布大模子产物时,动辄可爱加一句“超越 GPT 4”之类的说法。但总共这个词发布会,豆包大模子齐莫得提到 GPT,这反而浮现出谭待以及豆包总共这个词团队的自信。

在被问及,豆包大模子和 Open AI、谷歌等国外公司的辞别时,谭待笑着说说念:“我可以很不务空名地讲,openAI慑服如故全球第一, anthropic、Gemini 也齐作念得至极好,这个差距当先是要承认的。”

与此同期,谭待也清楚,天然有差距,然而咱们追的速率如故可以的。豆包的原生应用和体验越来越好,用户量也越来越大,这是比拟热切的。一个最好扩充是,越来越多的东说念主去作念更多的应用,反过来又可以驱动技巧的进步,从而酿成一个正轮回。而这些,国内现时还莫得酿成,但从今天以后,它可能会越来越快。

除了豆包等 C 端大模子产物,字节跨越还针对大模子推出了新一代 AI 应用开发平台——扣子专科版,具备低门槛、个性化、及时性、多模态等上风,并纠合海量的 AI 资源、丰富的发布 API 服务。招商银行、海底捞等不少传统企业,齐成为扣子的用户。

基于扣子和豆包大模子,招商银行搭建了可以保举餐饮优惠门店的“掌上生计”bot,以及能汇总市集行情的“金钱看点”bot。

通过使用豆包大模子,海底捞搭建了主顾评价分析模子,并将其应用于服务质地、菜品性量、研究贬责的优化迭代。

鄙人午大破费分论坛上,海底捞信息科技部负责东说念主杨炫之共享了海底捞的 AI 系统斥地,他提到,AI 在餐饮企业的应用主要包括三方面,基于图文功课的访佛性服务(即告白案牍等)、老到模子的展望类责任(货物展望需求等)、相对通达的信息汇聚。

杨炫之在共享终末坦言,对于海底捞这样的传统企业而言,大模子带给更多的是便利性,或者说咱们基础责任的替代,应用范围可能莫得那么大。

回到大模子服务侧,当作大模子服务平台,火山方舟为模子考试、推理、评测、精调等提供了全场所功能和服务。在过往的一年多时候里,字节本人还是充分使用体验,复古了字节的大模子的丰富生态。

火山方舟 2.0 版块,升级了插件、系统承载智商等多个维度。

以 RAG 学问库插件为例,火山方舟 2.0 内置了字节跨越多年扩充千里淀的大限度高性能向量检索智商,百亿级别数据可以结束毫秒级检索,支抓秒级索引流式更新,可以结束新增数据能够及时检索。学问库插件也内置了豆包向量化模子,文档理会设施集成了飞书优秀的文档理会智商,支抓pdf、doc、ppt、excel、txt、markdown等多种复杂类型文档理会智商。

系统承载智商方面,火山方舟 2.0 结束了万卡公有云GPU资源池、5秒接入新建精调模子、3分钟内完成千卡扩容等效劳。

谭待清楚,全新升级的火山方舟 2.0 不仅提供了抖音、本日头条的搜索和内容插件等丰富的生态资源,还有着充沛的算力资源和极致弹性,保险客户的业务康健。

前文提到的扣子专科版,还是集成在火山方舟,提供企业级 SLA 和高等秉性。

回到着手,豆包还是在 C 端获得了看起来还可以的效劳;在 B 端,豆包大模子一上线就因价钱而广受见谅,火山方舟与豆包大模子会交出如何的答卷?

适度,大概还是呼之欲出。

火山引擎支抓的这套VR医疗培训系统,给灵敏医疗画好了「一个样板」

火山引擎To B,一场字节数据技巧教授的复刻之旅

多云期间到来,火山引擎「弯说念超车」进行时