开云体育(中国)官方网站当作亚马逊云科技最早、亦然诈欺最深切的客户-ky体育官网登录入口网页版(中国)有限公司官网
开云体育(中国)官方网站
12 月初,亚马逊云科技一年一度的 re:Invent 大会在好意思国拉斯维加斯大会召开,来自宇宙各地的超 6 万名参会者,他们脖子上佩带着不同情绪的牌子,穿梭于各个会场之间。
re:Invent 大会一直就以求实著称,但这一届发布的居品之多,连好多连气儿参会的资深内行都嗅觉到信息过载——只是在三天时期里,亚马逊云科技 CEO Matt Garman 与高档副总裁 Peter DeSantis、AI 和数据副总裁 Swami 博士就发布了非常 30+ 新品,涵盖推理芯片、AI 职业器、谎言语模子、生成式 AI 斥地器用等等。
在躬行感受这些密集的居品发布过程,可以显着地索要出亚马逊云科技开会和演讲的套路,那即是——在职业客户过程中咱们发现了 XX 问题,于是咱们就推出了 XX 器用,格外简便直给。
当作亚马逊云科技最早、亦然诈欺最深切的客户,亚马逊 CEO Andy Jassy 时隔多年再次亮相 re:Invent,此次他不仅一语气发布了 6 款 Amazon Nova 模子(包括 4 款基础模子,1 款图像生成模子和 1 款视频生成模子),更是当作亚马逊云科技最早、亦然诈欺最深切的客户(据他清爽,亚马逊里面已构建或正在构建近 1000 个生成式 AI 诈欺智力),他共享的对于亚马逊诈欺 AI 的三个中枢问题——聘请、老本和需求,完全可以当作结合本次大会的基本逻辑。搞懂了这三个问题,再看这 30 多个居品发布的背后想路就很显着了。
更解放的聘请
"当你尝试构建某些东西或者作念决策时,赓续需要在 A 和 B 之间作念聘请吗?这种聘请其实戒指了你的想路。在亚马逊云科技,咱们不这样想考问题。"亚马逊云科技一年一度的 re:Invent 大会上,亚马逊云科技 CEO Matt Garman 在主题演讲时,这样抒发了对技巧诈欺的结合。
Matt 以为,"作念聘请"实质上制造了舛错界限,"让你马上启动想我方必须选 A 或者选 B,但咱们鼓吹团队去想考如何同期已矣 A 和 B,就可以让全球换一种款式想考"。
在 Matt 眼中,斥地者与客户永恒有聘请最优居品的权益。这是亚马逊云科技建造时领受的理念,不管是一两百款 EC2,照旧上百款数据库——亚马逊云科技一直都以为,客户的需求大于一切,那么需求的各种性就决定了选项的各种性。
亚马逊云科技愿景文献撰写于 2003 年。彼时,繁密科技公司纷纷构建紧缚式的处理决策,试图大包大揽。最终变成的是强大而单一的处理决策,虽功能全面却仅达及格水准。但及格不应是追求的非常,东说念主们的确渴慕的是最优组件。若能将所有顶尖元素整合一体,那才号称完满。"基于此念,亚马逊云科技应时而生。" Matt 说。已往 18 年,机动的技巧构建模块,也成为亚马逊云科技职业逐步进取的捏念。
这一理念也表当今时下热议的大模子职业上。"在亚马逊里面构建花样中所使用模子的各种性令东说念主惊诧。赐与了斥地者自主聘请的权益,蓝本以为全球都会选用 Anthropic 的 Claude 模子,毕竟已往一年多它在全球属于性能顶尖的模子,照实有好多里面斥地者在使用 Claude 模子,但他们也会采选 Llama 模子、Mistral 模子,致使会使用自行研发的模子。" Andy Jassy 演讲时谈及亚马逊落地生成式 AI 的经历,"因为一直都在吸收统一个老师,那即是永恒不会出现一种器用能在某个范围一统六合的情况。就像数据库范围,有计划了 10 年,全球会使用各式万般的关系型数据库或者非关系型数据库;就像大数据范围接头了很久是不是 TensorFlow 会一统六合,成果 PyTorch 更受宽饶。"
Amazon Bedrock Marketplace 是 Swami 博士在现场发布的其中一款新品。这是一个领有 100 多个开端大模子的"市集",Amazon Bedrock 中的颐养体验极大简化模子斥地使命进程,给用户带来了前所未有的机动度,将让模子推理从"非 A 即 B "的聘请达到老本与延长的"玄机均衡"。
"对一个身分的优化经常需要对另一个身分进行融合,这是因为老本和响应延长与说念德准确性呈反比关系,因为功能更苍劲、高度智能的模子会铺张更多的资源。" Swami 博士诠释从客户了解到的需求。而在更新的 Bedrock 上,新模子蒸馏功能,使得用户可以将特定学问从更大、更准确的模子更动到更小、更高效的专科模子,使其速率提高 500%,老本裁减 75%。
然则多元化的聘请,也不免濒临一些自然存在的竞合关系,比如亚马逊云科技在向客户提供模子市集、模子斥地平台的同期,也推出了我方的基础模子。不外,亚马逊云科技一直以来都是怒放性的看待这种竞合关系。
对于亚马逊云科技的模子策略,Andy Jassy 作念了这样的回话:"咱们一直以来的指标即是为全球提供聘请,履行情况是,全球在不同的时期、出于不同的原因,都会使用不同的模子。
这其实反应了履行宇宙的运行法例。就好比东说念主类不会只找一个东说念主去获取各个范围的专科学问雷同,不同的东说念主在不同的方面各有长处。有时候全球会侧重于优化编码,有时候关注数学,有时候垂青与检索增强生成(RAG)的集成,有时候聚焦智能需求,还有时候阻拦更低的延长或老本问题。大大都情况下,是各式身分的组合决定的。
在亚马逊云科技,咱们会为全球提供这些身分组合之后,知足需求的聘请。咱们以为,最近又为这个组合增添了一些格外兴味兴味的模子。好音讯是,所有这些模子都能在 Amazon Bedrock 中使用,全球可以按照我方盼愿的任何组合去使用它们,进行检修,并字据情况作念出相应的调治。"
可领受的老本
云设想的老本问题,一直是 Matt 最为关爱的问题。
2018 年,亚马逊云科技一经作念过一个荒诞且颇具争议的决定:斥地我方的芯片。即 Amazon Graviton,以期在 ARM 内核变得越来越快、越来越苍劲的布景下提供相反化价值。当今,Amazon Graviton 被险些每个亚马逊云科技客户庸碌使用。Amazon Graviton 提供比 x86 高 40% 的性价比、减少 60% 的动力铺张,也极大缩减了云设想老本。
以图片共享网站 Pinterest 为例。在转向 Amazon Graviton 之前,Pinterest 运行着数千个 x86 实例来运营他们的业务。转向 Amazon Graviton 之后,Pinterest 将设想老本裁减了 47%,碳排放减少了 62%。"他们并不寂然,90% 的前 1000 个 Amazon EC2 客户都启动使用 Amazon Graviton。" Matt 说。
当今,生成式 AI 期间来了,当下最大的设想问题都与 AI 关连。自然与 NVIDIA 有着长达 14 年的合营关系(搭载 NVIDIA 新 Blackwell 芯片的 Amazon EC2 P6 职业器将于来岁年头推出),亦然 NVIDIA 的大型生成式 AI 集群局势,但 GPU 依然成了亚马逊云科技为设想降本的新指标:推出一款专为顶端生成式 AI 磨真金不怕火和推理这类高条目使命负载而设想的 GPU。
会上,亚马逊云科技最强 Amazon EC2 Trn2 设想实例发布。配备 16 个 Trainium2 芯片,一个 Amazon EC2 Trn2 实例可在单个设想节点提供 20.8 petaflops 的设想能力,Amazon EC2 Trn2 实例提供比面前 GPU 职业器跨越 30% 到 40% 的性价比,这些芯片通过一种称为 NeuronLink 的高带宽、低延长互连攀附在一皆。
AI 大模子公司 Anthropic 合资独创东说念主兼首席设想官 Tom Brown12 月 2 日在 re:Invent 演讲时马上告示,下一代的 Claude 模子将在 Project Rainier 上进行磨真金不怕火,他示意这将是一个新的设想集群,领罕有十万个 Amazon Tranium2 芯片。优化完成后,该集群展望将成为迄今为止宇宙上最大的 AI 设想集群,可供 Anthropic 构建和部署其畴昔模子。
"数十万个芯片意味着数百个密集的亿次浮点运算,比咱们一经使用过的任何集群都多五倍以上。这意味着客户将可以更低的价钱、更快的速率获取更多的智能。有了 Amazon Tranium2 和 Project Rainier,咱们不单是是在构建更快的东说念主工智能,还在构建可膨胀的、值得信托的东说念主工智能。" Tom Brown 示意。
Andy Jassy 在演讲时也屡次谈及"老本",他以为当生成式 AI 诈欺智力达到一定例模时,设想老本的要害性就突显出来了,全球都攻击但愿获取更高的性价比,即既能抑遏好延长,也要具备合理的老本结构。据他不雅察,从全球范围来看,那些诈欺 AI 最为奏效的公司,主要体当今老本肃清和坐褥力晋升方面,而且好多公司在这两方面都取得了阐扬。但值得一提的是,亚马逊云科技的老本抑遏,是体当今整场的居品革命上,而非简便的价钱。
需求导向,实用 AI
要是一定要给亚马逊云科技的 AI 计谋作念一个界说,需求导向的实用 AI 偶然更为精准。
"好多时候,东说念主们用上可以的模子作念了些使命,就以为打造出很棒的生成式 AI 诈欺智力了,但实质上可能只完成了或者 70% 的使命,而客户不会心爱存在那 30% 问题的诈欺智力。" Andy Jassy 示意。以亚马逊我方为例,加入生成式 AI 这个"贤人大脑"之后,亚马逊聊天机器东说念主客户欣然度晋升了 500 个基点,"这即是实用 AI 的体现。" Andy Jassy 说。
客户至尚和逆向使命法,是亚马逊云科技 DNA 的一部分。亚马逊云科技创业初期,由于合规性、审计、监管、安全、加密等考量,大部分的银行客户示意夸口采选云设想,但称可能永恒不会上云。亚马逊云科技莫得废弃这些金融客户,而是接下来花了十年来处理银行客户清单上的每一个问题。"今天,我很自爱地说,许多大型金融公司都是咱们的客户。因此,当你在革命时,要害的是要记着,你确切要从客户启动。你要问他们什么对他们要害,但你不单是是寄托客户条目的东西。你要为他们发明。" Matt 说。
AI 期间亦然同理:要为客户发明好用的 AI 器用。
会上,Swami 博士发布了新一代 Amazon SageMaker。从功能上看,SageMaker AI 与客户的数据强关连,是一个齐集了数据调用、数据分析、大模子磨真金不怕火的一站式平台,定位上发生了首要的变化。
"许多客户向咱们反馈,他们的分析和 AI 使命负载越来越多地围绕疏导的数据和疏导的使命进程进行交融。这正在变调其对分析职业的倡导,因为事实解释,他们不再只是孤迅速使用分析和 AI 器用,他们正在使用历史分析数据来磨真金不怕火机器学习模子,况且越来越多地将疏导的数据纳入其生成式 AI 诈欺智力中。" Matt 谈及从一个客户案例中获取的启发。这也不难结合,因为数据才是企业的中枢金钱,才是相反化的竞争力,而非模子,将企业十足上风的数据和大模子整合在一个平台上,才会有上风。
空洞来看,对客户来说,AI 落地的器用越来越多;对亚马逊云科技来说,他们又用一年的时期把 AI 生态这个木桶所有的木板都加长了一大截;对行业来说,这个市集又被卷紧了好几圈,竞争的焦点也逐步从大模子自己更动到了器用和落地上。
附:亚马逊云科技 re:Invent2024 居品发布全景(笔者现场整理)
(本文首发于钛媒体 APP,作家 | 秦贤人开云体育(中国)官方网站,剪辑 | 刘湘明)
上一篇:开yun体育网公司抽调部分时间东谈主员专攻大模子-ky体育官网登录入口网页版(中国)有限公司官网 下一篇:开yun体育网要是仔细不雅察英伟达和 AMD 的 GPU 阶梯图-ky体育官网登录入口网页版(中国)有限公司官网