农夫导航大全 搞懂这三个问题，AI策略落地就浅薄了好多
12月初，云科技一年一度的re:Invent大会在好意思国拉斯维加斯大会召开，来自宇宙各地的超6万名参会者农夫导航大全，他们脖子上佩带着不同神色的牌子，穿梭于各个会场之间。
re:Invent大会一直就以求实著称，但这一届发布的产物之多，连好多一语气参会的资深大家王人嗅觉到信息过载——只是在三天时候里，亚马逊云科技CEO Matt Garman与高档副总裁Peter DeSantis、AI和数据副总裁Swami博士就发布了卓绝30+新品，涵盖推理芯片、AI做事器、假话语模子、生成式AI开垦用具等等。
在亲自感受这些密集的产物发布过程，可以明晰地索要出亚马逊云科技开会和演讲的套路，那即是——在做事客户过程中咱们发现了XX问题，于是咱们就推出了XX用具，颠倒浅薄直给。
行为亚马逊云科技最早、亦然应用最深刻的客户，亚马逊CEO Andy Jassy时隔多年再次亮相re:Invent，此次他不仅一语气发布了6款Amazon Nova模子（包括4款基础模子，1款图像生成模子和1款视频生成模子），更是行为亚马逊云科技最早、亦然应用最深刻的客户（据他显露，亚马逊里面已构建或正在构建近1000个生成式AI应用活动），他共享的对于亚马逊应用AI的三个中枢问题——遴选、本钱和需求，完全可以行为会通本次大会的基本逻辑。搞懂了这三个问题，再看这30多个产物发布的背后想路就很明晰了。
更目田的遴选
“当你尝试构建某些东西或者作念决策时，经常需要在A和B之间作念遴选吗？这种遴选其实适度了你的想路。在亚马逊云科技，咱们不这样想考问题。”亚马逊云科技一年一度的re:Invent大会上，亚马逊云科技CEO Matt Garman在主题演讲时，这样抒发了对技能应用的会通。
Matt以为，“作念遴选”本色上制造了造作界限，“让你迅速运行想我方必须选A或者选B，但咱们鼓励团队去想考如何同期闭幕A和B，就可以让大众换一种面孔想考”。
在Matt眼中，开垦者与客户历久有遴选最优产物的权益。这是亚马逊云科技造就时袭取的理念，不论是一两百款EC2，如故上百款数据库——亚马逊云科技一直王人以为，客户的需求大于一切，那么需求的各种性就决定了选项的各种性。
亚马逊云科技愿景文献撰写于2003年。彼时，繁多科技公司纷繁构建紧缚式的照看决策，试图大包大揽。最终酿成的是雄壮而单一的照看决策，虽功能全面却仅达及格水准。但及格不应是追求的至极，东谈主们信得过渴慕的是最优组件。若能将通盘顶尖元素整合一体，那才号称竣工。“基于此念，亚马逊云科技应时而生。”Matt说。曩昔18年，生动的技能构建模块，也成为亚马逊云科技做事安逸进取的合手念。
这一理念也表目下时下热议的大模子做事上。“在亚马逊里面构建花式中所使用模子的各种性令东谈主骇怪。给以了开垦者自主遴选的权益，蓝本以为大众王人会选用Anthropic的Claude模子，毕竟曩昔一年多它在全球属于性能顶尖的模子，如实有好多里面开垦者在使用Claude模子，但他们也会领受Llama模子、Mistral模子，致使会使用自行研发的模子。”Andy Jassy演讲时谈及亚马逊落地生成式AI的经历，“因为一直王人在吸收归拢个教化，那即是历久不会出现一种用具能在某个限制一统六合的情况。就像数据库限制，接洽了10年，大众会使用各式千般的研究型数据库或者非研究型数据库；就像大数据限制商议了很久是不是TensorFlow会一统六合，恶果PyTorch更受接待。”
Amazon Bedrock Marketplace是Swami博士在现场发布的其中一款新品。这是一个领有100多个开头大模子的“市集”，Amazon Bedrock中的结伙体验极大简化模子开垦职责经由，给用户带来了前所未有的生动度，将让模子推理从“非A即B”的遴选达到本钱与蔓延的“秘要均衡”。
“对一个身分的优化经常需要对另一个身分进行和谐，这是因为本钱和响应蔓延与谈德准确性呈反比研究，因为功能更强劲、高度智能的模子会破钞更多的资源。”Swami博士讲演从客户了解到的需求。而在更新的Bedrock上，新模子蒸馏功能，使得用户可以将特定学问从更大、更准确的模子回荡到更小、更高效的专科模子，使其速率提高500%，本钱裁汰75%。
然则多元化的遴选，也未免面对一些自然存在的竞合研究，比如亚马逊云科技在向客户提供模子市集、模子开垦平台的同期，也推出了我方的基础模子。不外，亚马逊云科技一直以来王人是绽放性的看待这种竞合研究。
对于亚马逊云科技的模子策略，Andy Jassy作念了这样的回复：“咱们一直以来的筹画即是为大众提供遴选，践诺情况是，大众在不同的时候、出于不同的原因，王人会使用不同的模子。
这其实响应了践诺宇宙的运行律例。就好比东谈主类不会只找一个东谈主去获取各个限制的专科学问雷同，不同的东谈主在不同的方面各有长处。有时候大众会侧重于优化编码，有时候关注数学，有时候垂青与检索增强生成（RAG）的集成，有时候聚焦智能需求，还有时候提神更低的蔓延或本钱问题。大大宗情况下，是各式身分的组合决定的。
在亚马逊云科技，咱们会为大众提供这些身分组合之后，满足需求的遴选。咱们以为，最近又为这个组合增添了一些颠倒根由的模子。好音书是，通盘这些模子王人能在Amazon Bedrock中使用，大众可以按照我方渴望的任何组合去使用它们，进行锻练，并字据情况作念出相应的调度。”
可接受的本钱
云策画的本钱问题，一直是Matt最为眷注的问题。
2018年，亚马逊云科技依然作念过一个放纵且颇具争议的决定：开垦我方的芯片。即Amazon Graviton，以期在ARM内核变得越来越快、越来越强劲的配景下提供各异化价值。目下，Amazon Graviton被险些每个亚马逊云科技客户粗拙使用。Amazon Graviton提供比x86高40%的性价比、减少60%的动力破钞，也极大缩减了云策画本钱。
以图片共享网站Pinterest为例。在转向Amazon Graviton之前，Pinterest运行着数千个x86实例来运营他们的业务。转向Amazon Graviton之后，Pinterest将策画本钱裁汰了47%，碳排放减少了62%。“他们并不并立，90%的前1000个Amazon EC2客户王人运诈欺用Amazon Graviton。”Matt说。
目下，生成式AI时期来了，当下最大的策画问题王人与AI有关。诚然与NVIDIA有着长达14年的相助研究（搭载NVIDIA新Blackwell芯片的Amazon EC2 P6做事器将于来岁岁首推出），亦然NVIDIA的大型生成式AI集群时局，但GPU依然成了亚马逊云科技为策画降本的新筹画：推出一款专为顶端生成式AI教诲和推理这类高条目职责负载而设想的GPU。
会上，亚马逊云科技最强Amazon EC2 Trn2策画实例发布。配备16个Trainium2芯片，一个Amazon EC2 Trn2实例可在单个策画节点提供20.8 petaflops的策画才智，Amazon EC2 Trn2实例提供比刻下GPU做事器跳跃30%到40%的性价比，这些芯片通过一种称为NeuronLink的高带宽、低蔓延互连麇集在沿途。
AI大模子公司Anthropic结伙独创东谈主兼首席策画官Tom Brown12月2日在re:Invent演讲时就地晓示，下一代的Claude模子将在Project Rainier上进行教诲，他示意这将是一个新的策画集群，领稀有十万个Amazon Tranium2芯片。优化完成后，该集群展望将成为迄今为止宇宙上最大的AI策画集群，可供Anthropic构建和部署其畴昔模子。
“数十万个芯片意味着数百个密集的亿次浮点运算，比咱们依然使用过的任何集群王人多五倍以上。这意味着客户将可以更低的价钱、更快的速率得到更多的智能。有了Amazon Tranium2 和Project Rainier，咱们不单是是在构建更快的东谈主工智能，还在构建可膨胀的、值得相信的东谈主工智能。”Tom Brown示意。
Andy Jassy在演讲时也屡次谈及“本钱”，他以为当生成式AI应用活动达到一定例模时，策画本钱的枢纽性就突显出来了，大众王人进犯但愿得到更高的性价比，即既能适度好蔓延，也要具备合理的本钱结构。据他不雅察，从全球范围来看，那些应用AI最为奏效的公司，主要体目下本钱侧目和坐褥力升迁方面，而且好多公司在这两方面王人取得了施展。但值得一提的是，亚马逊云科技的本钱适度，是体目下整场的产物改进上，而非浅薄的价钱。
需求导向，实用AI
若是一定要给亚马逊云科技的AI策略作念一个界说，需求导向的实用AI偶然更为精准。
“好多时候，东谈主们用上可以的模子作念了些职责，就以为打造出很棒的生成式AI应用活动了，但本色上可能只完成了不详70%的职责，而客户不会可爱存在那30%问题的应用活动。”Andy Jassy示意。以亚马逊我方为例，加入生成式AI这个“聪敏大脑”之后，亚马逊聊天机器东谈主客户清闲度升迁了500个基点，“这即是实用AI的体现。”Andy Jassy说。
客户至尚和逆向职责法，是亚马逊云科技DNA的一部分。亚马逊云科技创业初期，由于合规性、审计、监管、安全、加密等考量，大部分的银行客户示意昌盛领受云策画，但称可能历久不会上云。亚马逊云科技莫得消逝这些金融客户，而是接下来花了十年来照看银行客户清单上的每一个问题。“今天，我很自重地说，许多大型金融公司王人是咱们的客户。因此，当你在改进时，枢纽的是要记取，你的确要从客户运行。你要问他们什么对他们枢纽，但你不单是是委用客户条目的东西。你要为他们发明。”Matt说。
色无极电影AI时期亦然同理：要为客户发明好用的AI用具。
会上，Swami博士发布了新一代Amazon SageMaker。从功能上看，SageMaker AI与客户的数据强有关，是一个会聚了数据调用、数据分析、大模子教诲的一站式平台，定位上发生了要紧的变化。
“许多客户向咱们反馈，他们的分析和AI职责负载越来越多地围绕调换的数据和调换的职责经由进行会通。这正在改造其对分析做事的认识，因为事实诠释，他们不再只是孤迅速使用分析和AI用具，他们正在使用历史分析数据来教诲机器学习模子，何况越来越多地将调换的数据纳入其生成式AI应用活动中。”Matt谈及从一个客户案例中得到的启发。这也不难会通，因为数据才是企业的中枢金钱，才是各异化的竞争力，而非模子，将企业十足上风的数据和大模子整合在一个平台上，才会有上风。
详尽来看，对客户来说，AI落地的用具越来越多；对亚马逊云科技来说，他们又用一年的时候把AI生态这个木桶通盘的木板王人加长了一大截；对行业来说，这个市集又被卷紧了好几圈，竞争的焦点也安逸从大模子自己回荡到了用具和落地上。
附：亚马逊云科技re:Invent2024产物发布全景（笔者现场整理）
（本文首发于钛媒体APP，作家 | 秦贤惠，裁剪 | 刘湘明）