分享好友 行业资讯首页 频道列表

加码生成式AI 亚马逊云科技布局技术场景应用

2025-01-02 09:45700

来源:环球网

【环球网科技报道 记者 李文瑶】生成式AI是否能为云计算带来新的发展机遇?作为全球头部企业,亚马逊云科技也在思考这一问题。

在今年年底的亚马逊云科技年度大会re:Invent 2024上,这家公司发布了一整套面向AI时代的新产品,包括自研大模型Amazon Nova系列、新一代AI训练芯片Trainium 3、新一代Amazon SageMaker(数据分析和AI的一站式平台)、AI助手Amazon Q新功能等。

图:亚马逊云科技大中华区产品部总经理陈晓建

过去一年,亚马逊云科技通过自研、投资、生态打造等多种方式夯实AI护城河,重塑IaaS(基础设施)、PaaS(平台软件)、SaaS(应用软件)、MaaS(模型服务)层的产品,以期在全球AI技术竞争中抢得先发优势。到年底,亚马逊云科技对外展示了其AI加持的计算、存储、数据库等基础云产品。

“就生成式AI整个行业而言,目前的突破点在于如何快速从技术原型走向生产。”在接受记者采访时,亚马逊云科技大中华区产品部总经理陈晓建认为,在生成式AI的发展上,企业正在从思考阶段转向实践阶段,进行大量场景试验,预计2025年将有更多的客户从原型验证阶段转化为生产阶段。

而云计算不仅是提供产品和技术,更重要的是帮助企业取得业务上的成功。

加码生成式AI 新品密集发布

2023年,亚马逊云科技推出了嵌入式模型Amazon Titan,而今年则进一步丰富了产品组合,发布了Amazon Nova系列——一套包含六个针对不同应用场景优化的模型。此外,亚马逊还计划在未来推出speech to speech和any to any等新型模型。

陈晓建介绍,这些新模型的开发遵循了“逆向工作法”的原则,即首先深入了解客户的实际需求,然后根据这些需求定制相应的解决方案。例如,针对用户在Micro、Lite、Pro以及即将推出的Premier等不同级别上的具体要求,亚马逊设计了各有侧重的模型,以确保它们能够无缝集成到客户现有的产品和服务中,并提供最佳性能。

通过这种方式,亚马逊不仅为客户提供了一个广泛的选择范围,而且保证了每个模型都能精确地满足特定业务场景的需求。

而在芯片方面,亚马逊云科技的自研芯片策略不仅强调技术先进性和性能优化,同时也关注能效和环境影响,旨在为客户提供高效且可持续的解决方案。

目前,Amazon Trainium(训练芯片)专注于提供极致的计算性能,支持大规模分布式计算任务,适用于复杂的模型训练。

Amazon Inferentia(推理芯片)主要针对推理任务,相比训练芯片,多机协同的需求较低,在设计过程中充分考虑了能效和碳排放等因素,确保高性能的同时也注重环保。

陈晓建透露,亚马逊云科技与Anthropic合作,正在构建名为Project Rainier的EC2 UltraCluster。该集群包含数十万颗Trainium2芯片,能够提供比当前一代领先AI模型训练所需算力高出5倍以上的超级算力。

此外,亚马逊云科技大中华区数据分析与生成式AI产品总监崔玮强调,公司的整体策略是以客户需求为导向,利用Amazon Bedrock平台部署第一方(内部开发)和第三方(外部合作)的模型,从而为客户提供更加多样化的选择和支持。

事实上,在此次新推出的模型中,为了实现低延时和低成本的目标,亚马逊云科技在其逆向工作过程中不仅专注于模型本身的优化,还在多个技术层级进行了创新。例如,正式推出的Trainium2自研芯片是关键组件之一,旨在提高性能同时降低成本;基于Trainium2芯片构建的这两款实例和服务器提供了强大的计算能力,特别适用于训练大型语言模型等任务;Amazon Bedrock层包含了“优化的低延迟推理选项”等功能,专门设计用来加速生成式AI应用的部署,并确保高效的运行效率。

据崔玮透露,通过上述各层级的技术创新,亚马逊云科技能够显著降低客户在部署生成式AI应用或Nova系列模型时的成本,与同等级别的其他模型相比,成本可降低约70%。

从尝试到生产 技术落地深入应用场景

随着生成式AI的发展,越来越多的客户正将其业务从尝试阶段推进到生产阶段。这一转变带来了多种任务需求,包括开发、训练和推理等不同类型的作业。面对这些多样化的需求,如何选择合适的集群和资源管理方式以实现最高效的资源利用成为了关键问题,尤其是在GPU成本高昂的情况下。

“当进入到生产阶段时,就不可避免地要考虑如何将数据和AI一体化管理。”崔玮说道,这也是亚马逊云科技在新产品应用升级方面考虑的主要问题。

据崔玮介绍,SageMaker 致力于帮助客户充分利用已经预订的云资源,确保每个GPU和其他计算资源都能得到最大程度的应用。这是通过优化资源配置和调度来达成的,从而直接助力客户的生产过程,减少浪费并降低成本。

在前期探索阶段,客户往往专注于评估模型和技术是否适合其业务需求。然而,当进入生产阶段时,就需要考虑更复杂的问题,如如何将数据管理和AI开发整合起来,确保数据流、数据治理及安全性等方面的一体化管理。

为此,亚马逊云科技推出了Amazon SageMaker Unified Studio(统一工作室)和Amazon SageMaker Lakehouse(数据湖仓)。这两个工具旨在为客户提供一个统一的工作环境,使他们能够在同一平台上完成从数据准备到模型部署的所有步骤,简化工作流程,提高效率,并确保数据的安全性和合规性。

“新一代Amazon SageMaker提供数据和AI的统一,去应对训练、推理、MLOps等场景。同时,Amazon SageMaker AI也有很多新的功能来加强用户的体验。”崔玮说道。

出海仍是重要场景需求

实际上,从生成式AI的应用场景选择来看,不同行业的客户需求和痛点各异,难以找到一个统一的应用起点。在陈晓建看来,“作为中国区的生成式AI团队,首要任务是与客户合作,识别最适合的应用场景。”

而代表性的应用场景,包括,利用知识库、代码生成工具等提高员工工作效率;通过集成知识库和其他AI能力,显著改善客服响应速度和服务质量;帮助中国企业出海时解决多语言翻译难题,特别是小语种的支持问题,而这在过去是一个非常大的挑战。

目前,出海是中国市场的重要需求之一。据陈晓建观察,生成式AI兴起后,出现了生成式AI原生创新企业,它们借助生成式AI开展之前无法从事的业务,发展速度迅猛,且很多在出海时选择亚马逊云科技作为承载云平台。“我们预测,随着生成式AI能力逐步完善,这类生成式AI原生企业创造的应用会越来越多。从海外榜单来看,在教育、陪伴等诸多领域,很多头部企业都是中国企业,这是一个我们看到的趋势。”

而从2024年来看,许多企业从思考阶段进入实践阶段,进行了大量场景试验。陈晓建预测,2025年肯定会发生变化,很多客户有望从原型验证阶段转化为生产阶段,“这是必经之路。”在这一过程中,企业的需求将更加复杂,不仅是选择模型,还需要各种技术支持。这也是亚马逊云科技在开发Amazon Bedrock等产品时,不仅提供模型市场,更重要的是提供能让模型推理运行时所需的各种生产力工具和生产环境工具。

“中国有很多优秀的初创企业已经成功应用生成式AI,这在不同的行业清晰可见。相对而言,传统企业进展较慢,但也在朝着应用生成式AI于生产的方向稳步迈进,我们期待明年能看到更多传统企业在这方面取得进展。”陈晓建说道。


反对 0
举报 0
收藏 0
打赏 0
评论 0
人形机器人带火丝杠业务 上市公司积极布局
来源:证券日报本报记者 徐一鸣在智能制造快速发展的背景下,人形机器人迎来黄金发展期。而丝杠作为人形机器人传动系统中至关重要的核心部件,也受到广泛关注。据了解,丝杠被称为人形机器人的“关节”与“肌腱”,直接影响到人形机器人运动的精准度、稳定性以及负载能

0评论2025-03-1795

智元机器人发布首个通用具身基座模型
来源:环球网【环球网科技综合报道】3月10日消息,智元机器人今天正式发布首个通用具身基座模型——智元启元大模型(Genie Operator-1),开创性提出Vision-Language-Latent-Action (ViLLA) 架构。据悉,该架构由VLM(多模态大模型) + MoE(混合专家)组成,其中VLM借助海

0评论2025-03-1241

LG电子宣布推出新型OLED和QNED电视
来源:环球网【环球网科技综合报道】3月11日消息,LG电子宣布其新型先进有机发光二极管(OLED)和量子纳米电池发光二极管(QNED)电视即将投放市场,为用户带来更加出色的观看体验。据介绍,这些新款电视不仅配备了用户友好型人工智能(AI)功能,还在图像质量上进行了

0评论2025-03-1251

“超级大脑”助无人驾驶落地
来源:科技日报【潮科技】◎本报记者 杨 雪没有人工智能(AI),就没有真正意义上的智驾汽车。“我们可以把AI想象成一个超级聪明的‘大脑’,它能学习、记忆、推理、决策。与人的学习和思考过程一样,它首先需要海量数据,掌握记忆方法,被不断地调教指正,从而做出更符

0评论2025-03-0737

全球首个人形机器人“半马”将在京举办
来源:科技日报科技日报讯 (记者华凌)3月4日,记者从北京市政府新闻办公室举行的发布会获悉,北京经济技术开发区将于4月13日举行北京亦庄半程马拉松赛,全球首个人形机器人半程马拉松赛将同期举行。会上,北京经开区工委委员、北京经开区管委会副主任李全表示,今年人

0评论2025-03-0650

国产首台16兆瓦燃气轮机成功总装下线
来源:科技日报科技日报北京3月5日电 (记者朱虹)3月5日,在全国政协十四届三次会议经济界小组会议上,哈尔滨电气集团有限公司(以下简称“哈电集团”)党委书记、董事长曹志安委员向记者透露了一则振奋人心的消息:哈电集团自主研制的国内首台16兆瓦燃气轮机样机(HGT

0评论2025-03-0637

大功率辅助动力装置实现完全自主研发
来源:科技日报科技日报北京3月5日电 (记者孙瑜)全国人大代表、中国航空发动机集团湖南动力机械研究所专职总师单晓明5日透露,作为总设计师,她带领团队研发的1300千瓦级大功率辅助动力装置(APU),在对标国际先进水平的同时,实现完全自主研发。“1300千瓦级大功率

0评论2025-03-0638

量子科技正成为新质生产力重要引擎
来源:科技日报科技日报记者 洪敬谱 吴纯新今年的政府工作报告提出,建立未来产业投入增长机制,培育生物制造、量子科技、具身智能、6G等未来产业。作为新一轮科技革命和产业变革的前沿领域,量子科技正以令人惊叹的颠覆性、引领性和独特性,深刻改变着人们的生活。“量

0评论2025-03-0637

我科学家突破酶催化新机制
来源:科技日报科技日报记者 陈曦3月6日,记者从中国科学院天津工业生物技术研究所获悉,该院高书山研究团队与杭州师范大学郭瑞庭教授课题组在酶催化机制研究中取得突破。长期以来,活性氧超氧阴离子(O2・⁻)被视为细胞中的“健康杀手”,它像一把失控的“分子剪刀”

0评论2025-03-0636

高温超导获新突破 脑机接口有新思路(一周科技观察)
来源:人民日报超导材料因其零电阻、完全抗磁性等神奇特性,在高技术领域应用潜力巨大。揭开高温超导机理之谜,科学家又迈出了重要一步。日前,借助研制的先进薄膜生长技术,国家最高科学技术奖得主、中国科学院院士薛其坤领衔的联合研究团队,发现常压下镍氧化物具有高

0评论2025-03-0333