云计算>业界新闻

为了帮客户重塑业务,亚马逊云科技又重塑了这么多技术

作者:刘沙   责任编辑:刘沙 2023-12-18 17:23:58
来源:电脑商情在线关键字:亚马逊云科技,云计算,生成式AI

众所周知,亚马逊云科技re:Invent一直被誉为云计算领域的风向标。近日,2023 re:Invent全球大会围绕底层基础设施、生成式人工智能(AI)、数据战略等推出了一系列新服务及功能。随着全球大会落下帷幕,亚马逊云科技2023 re:Invent中国行城市巡展也正式开启,在北京站活动中,亚马逊云科技大中华区产品部总经理陈晓建分享了如何利用这些技术重塑云计算、以及如何利用生成式AI重塑未来。

“亚马逊云科技一直秉承着逆向工作法的理念,从数百万客户的需求出发构建产品,我们深信,只有这样才能持续引领科技创新。”陈晓建强调,“作为云计算开拓者,亚马逊云科技一直通过最安全、最可靠的企业级能力来赋能客户的应用,我们直到今天仍然拥有业界最广泛、最深入的功能,用一个关键词来总结,就是重塑。我们从未停止探索用各种方法、更优化的方式找到解决客户痛点的最优解。”

如何重塑云计算

据悉,正是由于亚马逊在创业初期亲身经历了配置和管理基础设施的痛苦,所以才会重新思考如何管理和提供IT基础架构。

陈晓建表示:“我们希望任何人都能拥有和全球顶尖公司一样先进、强大的IT功能。通过按需、安全、可靠并且经济高效的云计算服务,我们重塑了IT基础设施,从根本上做到了技术普惠。”

此次,为了重塑云计算,亚马逊云科技对云基础设施、存储、通用型计算芯片,以及无服务器Serverless领域进行了重塑。

(一)在云基础设施领域,亚马逊云科技的基础设施已经横跨全球32个地理区域,本次计划新增5个区域,这些区域都能够提供全球一致的体验、高可用性和灾难恢复能力。

“目前还没有第二个云提供商可以在每个区域做到这一点。”陈晓建指出,亚马逊云科技的数据中心数量比第二大云提供商多三倍,服务多60%,功能多40%。

此外,为了建造卫星网络,亚马逊云科技还发起了Amazon Kuiper计划,并于上个月将首批两颗原型卫星成功送入了轨道。据悉,Kuiper不仅可以提供公共互联网连接,还能提供企业就绪的专用连接服务,可以通过专用、安全的连接,从任何地方移动数据,并连接访问亚马逊云科技的云中数据。

(二)在存储领域,亚马逊云科技发布了Amazon S3 Express One Zone,它采用了专门设计的软硬件来加速数据处理,比Amazon S3标准存储性能快10倍,能够以一致的毫秒级延迟处理每分钟数百万次的请求,同时将请求成本降低50%。

(三)在通用型计算芯片领域,亚马逊云科技发布了中国区域可用的Graviton3,在亚马逊云科技中国(北京)区域和中国(宁夏)区域,Amazon Graviton3处理器的Amazon EC2 C7g、M7g、R7g实例都可以提供更高性能、更快内存,并且更加节能。亚马逊云科技还推出了自研的Amazon Graviton 4芯片,比Amazon Graviton 3的平均性能提升了30%,数据库应用程序速度提升了40%,大型Java应用程序速度提升了45%。

(四)在无服务器领域,亚马逊云科技是第一家推出无服务器服务的云提供商,此次亚马逊云科技发布了Amazon Aurora Limitless Database、Amazon ElastiCache Serverless和Amazon Redshift Serverless。其中,Amazon Aurora Limitless Database简化了跨单台服务器读写吞吐量限制进行扩展,实现了自动分布式分片,可以最大程度提升性能,并提供跨分片事务的一致性,帮助客户实现真正意义上的无扩展上线的关系性数据库;Amazon ElastiCache Serverless可以帮助客户在一分钟内创建高可用的缓存,实时进行垂直和水平扩展,以支持复杂的应用程序,且无需管理基础架构;Amazon Redshift Serverless基于AI的扩展和优化功能的预览,可以根据多个工作负载维度自动调整资源并执行优化操作,完成预设的性价比目标。

此外,陈晓建还向与会者揭秘了一些无服务器的底层技术。他表示,对用户来说,无服务器最直观的收益就是更好的业务韧性和更优的成本效益。

如何利用生成式AI重塑未来

当前,生成式AI正在以人类意想不到的方式提供生产力,生成式AI与业务的结合充满着无限可能性。“但愿望是美好的,现实是残酷的,每个企业在落地生成式AI时都会遇到很多挑战。”陈晓建指出,如怎么兼顾规模和成本,怎么选择合适的生成式AI模型,怎么利用私有数据训练模型等等。

为了利用生成式AI重塑未来,重塑每个产业,亚马逊云科技在生成式AI的端到端的3个不同层面展开了持续投入。

(一)底层

在底层,亚马逊云科技提供了用于基础模型训练和推理的基础设施。

此次亚马逊云科技发布了用于生成式 AI 和机器学习训练的专用芯片Amazon Trainium2处理器,它针对训练具有数千亿至数万亿参数的基础模型进行优化,比上一代处理器的性能提升了4倍。新发布的Amazon SageMaker HyperPod 服务则可以大规模加速基础模型训练,缩短40%的训练时间,并确保训练过程持续数周或数月而不中断。

此外,亚马逊云科技还与英伟达达成了多项新合作:亚马逊云科技将提供首款搭载NVIDIA Grace Hopper超级芯片和亚马逊云科技UltraClusters技术的云AI超级计算机;以及首款使用NVIDIA最新芯片GH200 NVL32 的NVIDIA DGX云;双方还将共同开展“Project Ceiba”项目,将全球最快的GPU驱动AI超级计算机和NVIDIA DGX云超级计算机用于NVIDIA AI的训练、研发、定制化模型的开发,它将拥有1.6万个最新的GH200超级芯片,提供高达65 ExaFLOPS的算力。

(二)中间层

在中间层工具层,亚马逊云科技提供了使用基础模型进行构建的工具。

据陈晓建介绍,Amazon Bedrock是利用大模型构建和扩展生成式人工智能应用的最简单方法,各行各业已经在使用Amazon Bedrock 重塑产品、流程和用户体验。

· 模型选择

此次亚马逊云科技发布了多种模型供用户选择,如Amazon Titan Text Lite,它更小巧、更具成本效益,支持聊天机器人问答或文本摘要等用例,非常适合微调,可以根据业务需求进行定制;Amazon Titan Text Express的模型参数量更大,可用于开放式文本生成和对话聊天等更广泛的任务;Amazon Titan Multimodal Embeddings多模态嵌入模型,能创建更丰富的多模态搜索和推荐体验;Amazon Titan Image Generator图像生成模型预览版,使客户能使用自然语言提示生成高质量、逼真的图像或增强现有图像。要强调的是,为了促进负责任地开发人工智能技术,所有Titan生成的图像都会默认含有隐形水印。

· 模型定制

“企业创造真正价值的生成式人工智能应用程序的关键,是能用企业自己的数据进行定制,这样才能构建企业的差异化壁垒。”陈晓建强调,为此亚马逊云科技推出了模型定制。此次发布的Amazon Bedrock持续预训练功能可提供预览,支持对 Amazon Titan Text Lite 与 Express持续预训练,持续预训练是在Amazon Bedrock 中自定义模型的方法;Amazon Bedrock微调功能可以提供预览,支持Cohere Command、Meta Llama 2和Amazon Titan等模型,并将很快支持Anthropic Claude 2;Amazon Bedrock具有知识库的检索增强生成功能,可提供预览。据了解,RAG检索增强是当前最常见的用企业数据定制的方式。知识库功能可将模型安全连接到公司内部数据源,并通过RAG检索增强生成的方式为聊天机器人或问答系统等应用提供更准确的回答。

· 模型集成

当然,有了模型和定制能力,还需要模型和应用集成才能服务于业务。所以亚马逊云科技发布了Amazon Bedrock 代理功能,可以使生成式AI应用跨公司系统和数据源执行多步骤任务。

为了打造负责任的人工智能,亚马逊云科技还发布了Guardrails for Amazon Bedrock 预览版,通过负责任的人工智能策略来保护生成式人工智能应用程序。

同时,陈晓建还强调,Amazon Bedrock会确保数据安全和隐私,客户的任何数据都不会用于训练底层模型,所有数据在传输和静态时均会经过加密。

(三)顶层

在顶层应用层,亚马逊云科技则提供了利用基础模型构建的应用程序。

此次新发布的Amazon Q预览版就是专为企业业务量身定制的、生成式人工智能工作助手,让用户可以通过自然语言交互快速获得答案。

陈晓建表示,Amazon Q不仅是亚马逊云科技的专家,还是企业业务的专家、商业智能的专家,联络中心的专家,它是由亚马逊云科技17年来积累的知识和经验训练而成的。

作为亚马逊云科技的专家,它可以在多种界面回答客户提出的各种亚马逊云科技相关的专业问题,在Amazon CodeWhisperer中回答开发人员各种代码相关问题,并附上可一键实施的代码,提供代码转换功能,将应用维护和升级代码转换所需时间从几天缩短到几分钟。

作为企业业务的专家,Amazon Q拥有40多个兼容流行数据源的内置连接器,并支持自定义连接器,企业可以将其轻松连接到业务数据和系统中。Amazon Q可使用身份验证系统来确认用户的职能和访问权限,并支持指定话题屏蔽或关键词过滤等管理控制功能。

作为商业智能专家,Amazon Q支持将其引入多种服务和应用中,以提供基于生成式AI的帮助。将Amazon Q引入BI应用Amazon QuickSight中,它能够在几秒钟内响应用户要求,创建精准且美观的月度业务变化相关描述。

作为联络中心专家。Amazon Q被引入云联络中心应用Amazon Connect后,能够根据实时对话检测客户问题,并自动回复、给出建议、提供相关资料。

(四)数据基础

“对于生成式AI来说,还有个至关重要的因素就是数据基础,强大的数据基础应该是全面的、集成化的、可治理的。”陈晓建表示。

· 全面的数据服务

为此,亚马逊云科技提供了全面的数据服务,以满足不同类型的数据处理需求。

在托管数据库服务Amazon RDS方面,亚马逊云科技提供了MySQL、Postgre Oracle、SQL Server等多种数据库引擎和灵活的部署方式,此次又新增了Amazon RDS for Db2。

为帮助客户将向量数据和业务数据存储在一起,亚马逊云科技的服务中启用了向量检索。新发布的Amazon OpenSearch Serverless可以帮助客户进行简单、可扩展且?性能的向量存储和搜索,??需管理基础设施。Amazon DocumentDB和Amazon DynamoDB数据库新增了全新向量搜索功能,对于需要高模式灵活性或JSON数据的用例,Amazon DocumentDB客户可将其源数据和向量数据存储在同一数据库中。Amazon DynamoDB客户则可以通过与Amazon OpenSearch的Zero-ETL集成来实现向量功能。一同发布的还有Amazon MemoryDB for Redis的向量检索功能预览版,MemoryDB客户可以获得具有高吞吐量和并发性的超快速向量搜索。

· 集成化的数据基础

为了从数据中获取价值,企业通常需要确保数据跨数据仓库进行集成,以获得更完整的业务视图。为此亚马逊云科技新发布了多项Zero-ETL功能。如Amazon Aurora PostgreSQL、Amazon RDS for MySQL和Amazon DynamoDB与Amazon Redshift的Zero-ETL集成预览版,加上Amazon Aurora MySQL,消除了为了让数据在其间移动而不得不做的繁琐的ETL工作;还有Amazon DynamoDB 与Amazon OpenSearch Service的Zero-ETL 集成;Amazon OpenSearch和Amazon S3之间实现Zero ETL集成预览版。

· 可治理的数据基础

“数据基础也必须是可治理的,”陈晓建强调,“创新+治理,要二者兼得,企业要在保证业务敏捷性的同时,确保数据能有效治理。”

为此亚马逊云科技发布了Amazon DataZone AI recommendations预览版和Amazon Clean Rooms ML预览版,前者是一项AI描述建议功能,能为企业的数据集自动生成更易理解的业务描述,并提供该数据集的使用建议;后者是第一个在不共享基础数据的情况下仍然能与合作伙伴一起构建机器学习模型的产品。

在活动的结尾,陈晓建指出,为了让未来技术的愿景、未来的技术能够更好的实现,亚马逊云科技不仅致力于把当前已经实用化的产品做得更好,也在专注于量子计算这样看似触不可及的前沿技术。“我们希望作为技术的引领者,持续为客户带来价值。我们希望能通过re:Invent实现技术的普惠,帮助客户重塑业务。这一旅程远远没有终点!”

意见反馈:zhanheng@cbigroup.com

稿件投诉:zhanglin@cbigroup.com

内容合作QQ:2291221

商务合作:13391790444 詹老师

京ICP备:2022009079号-3

京公网安备:11010502051900号

ICP证:京B2-20230255

关注我们