亚马逊云科技 – 庄闲棋牌官网官方版 -199IT //www.otias-ub.com 发现数据的价值-199IT Tue, 11 Mar 2025 01:42:46 +0000 zh-CN hourly 1 https://wordpress.org/?v=5.4.2 亚马逊云科技在Amazon Bedrock提供完全托管的DeepSeek-R1模型 //www.otias-ub.com/archives/1744711.html Tue, 11 Mar 2025 01:42:46 +0000 //www.otias-ub.com/?p=1744711 亚马逊云科技是首个将DeepSeek-R1作为完全托管服务推出的云服务提供商

进一步扩展了客户在Amazon Bedrock上使用DeepSeek-R1及其蒸馏版本的方式

北京——2025年3月11日 亚马逊云科技宣布,DeepSeek-R1现已作为完全托管的无服务器大语言模型(LLM)在Amazon Bedrock上正式可用, 亚马逊云科技是首个将该模型作为完全托管服务推出的云服务提供商。DeepSeek-R1是人工智能初创公司深度求索推出的一系列模型之一。它是公开可用模型,在处理复杂任务时具有高精度的复杂推理能力和对上下文的深度理解。

DeepSeek在过去几个月一直是业界关注的焦点,其快速发展的态势及其训练技术受到全球媒体的广泛报道,据报道这些技术使其模型比同类产品的成本降低了90-95%,具有更高的性价比

此次的发布进一步扩展了客户在Amazon Bedrock上使用DeepSeek-R1及其蒸馏版本(即经过训练、类似于DeepSeek-R1的小型模型)的方式。现在,亚马逊云科技的客户可以在Amazon Bedrock上轻松访问完全托管的、无服务器的DeepSeek-R1模型,并将其应用于企业级部署。

任何客户均可利用其强大的功能解决复杂的问题、编写代码、处理数据、分析数据等。完全托管的方式使得客户无需担心任何背后复杂的技术设置或运维。通过在Amazon Bedrock上使用DeepSeek-R1,客户还可以受益于亚马逊云科技企业级的安全性,包括数据加密和严格的访问控制,从而确保客户的数据隐私与合规。客户可以完全控制自己的数据,并可以设置如Amazon Bedrock Guardrails等亚马逊云科技推荐的保护措施,以检测和防止模型幻觉。

此前,DeepSeek-R1已在Amazon Bedrock Marketplace上推出,客户可使用自己管理的基础设施运行该模型。此外,客户还可以通过Amazon Bedrock自定义模型导入功能,上传自己微调的DeepSeek-R1蒸馏版Llama模型,将其作为完全托管的模型运行,该功能使客户通过单一API导入和使用其自定义模型以及现有模型。

自1月下旬该模型推出以来,已有数千名客户使用Amazon Bedrock的自定义模型导入功能部署了DeepSeek-R1模型

如果将DeepSeek-R1拟人化,他们会是一位专家级软件工程师,能够轻松地用Python编写代码、用通俗易懂的语言解释复杂算法,或者摇身一变,轻松撰写关于经典哲学家的论文,甚至可将项目需求翻译为中文供国际团队使用。特别值得一提的是,他们全天候可用,并且丝毫不介意被反复询问上百遍。

亚马逊云科技生成式AI副总裁Vasi Philomin表示:“我们很高兴将DeepSeek-R1引入Amazon Bedrock,它是一款非常先进的模型,不但显著降低了推理成本,同时还具备前沿推理性能。通过与Amazon Bedrock Guardrails等功能结合使用,客户可以实施AI安全护栏,同时获得Amazon Bedrock提供的内置安全与隐私保护。借助这种完全托管的实现方式,客户能够以无服务器按token付费的模式使用该模型,帮助他们无需管理任何基础设施即可实现从实验到生产的规模扩展。”

通过将DeepSeek-R1作为完全托管的无服务器模型在Amazon Bedrock中提供,亚马逊云科技持续为广泛的客户提供行业领先的生成式AI模型的最新创新,无论是初创公司还是大型企业,无论其技术能力如何。

亚马逊云科技通过提供来自业界领先AI公司广泛的完全托管的模型选择,持续赋能企业根据自身需求选择合适的工具,并成为客户构建和扩展生成式AI最便捷的方式。

亚马逊云科技强烈建议客户将Amazon Bedrock Guardrails和Amazon Bedrock模型评估功能与DeepSeek-R1结合使用,以保护其生成式AI应用程序。Amazon Bedrock Guardrails就像高速公路上的护栏能防止车辆偏离道路一样,有助于防止应用程序生成有害或不恰当的内容。这包括屏蔽攻击性语言、露骨的内容或其他被认为不适合最终用户的内容,以及识别和删除个人数据以保护用户隐私。

此外,客户还可以根据公司政策或行业法规设置特定规则。评估工具则可帮助客户评估AI模型在特定需求下的表现。如需了解更多信息,请参阅Amazon Bedrock GuardrailsAmazon Bedrock评估工具

欲了解更多关于DeepSeek-R1的功能、如何部署模型以及如何将DeepSeek-R1与Amazon Bedrock Guardrails等功能集成,请访问亚马逊云科技新闻博客或相关DeepSeek-R1 in Amazon Bedrock产品页面

用户现在就可以在Amazon Bedrock控制台中开始使用DeepSeek-R1。

]]>
Anthropic最智能的混合推理模型Claude 3.7 Sonnet上线亚马逊云科技Amazon Bedrock //www.otias-ub.com/archives/1742723.html Wed, 26 Feb 2025 01:18:10 +0000 //www.otias-ub.com/?p=1742723 Claude 3.7 Sonnet混合推理模型,解锁“深度思维”,优化编码及计算机应用能力

 

北京——2025225亚马逊云科技宣布,人工智能安全与研究公司Anthropic迄今最智能的模型Claude 3.7 Sonnet现已在Amazon Bedrock上线。据Anthropic介绍,这是其首款”混合推理”模型。客户可在标准思维模式与深度思维模式之间自由切换,从而在速度、成本与答案深度之间实现平衡。

Claude 3.7 Sonnet 融合了前沿大语言模型(LLM)和推理模型的能力。大语言模型通常用于生成文本和理解语言,而推理模型作为一种特殊的大语言模型,还能将复杂问题分解成多个步骤并展示其”思维链”。Claude 3.7 Sonnet与其他模型的不同之处在于它兼具这两种能力。用户可以选择让模型正常回答问题,或者让它在回答前进行更深入的 “思考” 并展示推理过程,也就是在用于快速回复的标准思维模式和深度思维模式之间做出选择。用户还能控制推理预算,从而为自己的应用程序在速度、性能和成本之间选择最佳平衡点。

亚马逊云科技生成式AI副总裁Vasi Philomin表示:”使用 Claude 3.7 Sonnet 的早期用户反馈,在使用深度思维模式时,该模型在数学、物理、竞赛编程和深入分析方面表现最为出色。再结合Amazon Bedrock的丰富功能,Claude 3.7 Sonnet将帮助客户构建更强大的生成式AI应用。”

Claude 3.7 Sonnet是什么——若将Anthropic的Claude 3.7 Sonnet拟人化,它就像才华横溢的同事,既能对行业细微话题即时作答,又能花数小时周密规划复杂项目,并在每个步骤中清晰展示其思考过程与计算逻辑。Anthropic营收主管Kate Jensen表示:”Claude 3.7 Sonnet是我们构建实用型AI道路上的重要里程碑。这是首款兼具快速响应与深度推理能力的混合模型,就像人类一样。它让使用AI系统真正实现与人类协作共同应对重大挑战,更近了一步。”

数据亮点

  • Claude 3.7 Sonnet可生成长达128K token的响应,是前代模型的15倍(默认启用的token输出长度为64K)。token是模型能处理的最小文本数据单位(例如一个词、短语或单个字符)。长文本响应特别适合复杂的代码生成与内容创作。
  • 客户可控制”思考预算”,即指示Claude的思考不超过N个token(N最高可达128K)。这使其能根据生成质量要求,灵活调整速度与成本。

 

Amazon Bedrock上线Claude 3.7 Sonnet ,进一步体现了亚马逊云科技致力于为客户广泛提供来自领先AI公司的众多AI模型,成为客户构建与扩展生成式AI应用的最便捷方式。通过提供一款既可快速响应(同时具备速度和准确性)、又能处理复杂推理任务的模型,Anthropic让各种规模的企业都能更方便地使用先进的AI功能,并更具实用性。Claude 3.7 Sonnet具有领先的编码能力,并在计算机应用、智能体能力、复杂推理与内容生成方面取得了突破。

客户可通过Amazon Bedrock使用Claude 3.7 Sonnet构建与部署生成式AI应用。对金融服务业、数据分析及研发等领域的团队而言,Claude现在能在几分钟内解决曾经需要人工花费数天才能完成的难题。

更多详情可参考亚马逊云科技博客或访问Amazon Bedrock

]]>
安全为本:亚马逊云科技进一步扩展多因素验证 强化统一安全管理 //www.otias-ub.com/archives/1740698.html Tue, 11 Feb 2025 03:57:12 +0000 //www.otias-ub.com/?p=1740698 亚马逊云科技从一开始就将安全为本的原则融入进其服务的构建中,包括为客户设置高标准的默认安全功能。在账户安全的众多要素中,强大的身份验证是账户安全的基础组成部分。多因素验证(MFA)是防止未经授权人员访问系统或数据的最简单且有效的方法之一。我们发现,启用MFA可以防止超过99%的密码相关攻击。亚马逊云科技自首次倡导客户在Amazon Management Console为根用户设置MFA以来,在增强客户账户安全性方面已经取得显著的进展。

近年来,典型的工作场所已经发生了显著变化。随着混合工作模式和自带设备(BYOD)政策的普及,安全界限的界定变得更加错综复杂。众多企业已经调整了安全边界——强化基于身份的访问控制。然而,这一变化也导致用户密码成为了新的安全短板。用户有时会为了使用方便而选择低复杂度的密码,或者在多个网站上重复使用复杂的密码,这在网站发生数据泄露时会大幅增加风险。

亚马逊云科技致力于不断提升客户的安全防护能力,以抵御日益复杂的网络威胁。为此,亚马逊云科技实施了一系列措施,包括监控网络资源,一旦发现凭据泄露,立即阻止客户在亚马逊云科技上使用这些凭据;杜绝使用易被破解的弱安全性密码,并始终倡导避免使用默认密码。此外,对于尚未启用MFA的客户,若检测到异常登录行为,亚马逊云科技将通过其首选电子邮件地址发送一次性PIN码,以增强登录验证的安全性。尽管采取了这些措施,我们还必须认识到密码本身仍然存在风险。

我们识别了两个关键机会来改善这种情况。首先,加速推动客户采用MFA,特别是针对拥有高权限的用户,通过MFA提升他们在亚马逊云科技上的默认安全防护。自2024年5月起,亚马逊云科技要求Amazon Organizations的管理账户的根用户必须使用MFA,并从处于较大规模环境的用户开始。同年6月份,亚马逊云科技推出了对FIDO2 passkeys的支持,这一全新的MFA方法为客户提供了一个既安全又易用的选择来满足他们的安全需求。此外,亚马逊云科技还进一步将MFA的使用要求扩展至所有独立账户的根用户。随着Amazon Identity and Access Management (IAM)在2024年6月对FIDO2 passkeys的支持,防钓鱼MFA的客户注册率增长了一倍之多。从2024年4月至10月,已有超过75万名亚马逊云科技的根用户启用了MFA。

第二项措施在于摒弃对非必要密码的依赖。密码不仅存在安全隐患,维护基于密码的身份验证体系亦给客户带来了额外的运营负担,这一点对于大规模运营的企业以及那些需定期更换密码以满足监管要求的企业尤为明显。亚马逊云科技近期又推出了一项创新功能,旨在集中管理Amazon Organizations中管理账户的根访问权限。此功能将极大减少客户所需管理的密码数量,同时确保对根用户权限的严格控制。通过IAM控制台或Amazon CLI进行简单的配置调整,客户便可轻松启用这一集中化的根访问权限管理(具体流程请访问文章《使用Amazon Organizations集中管理客户根访问权限》)。该功能一经启用,客户即可从其组织内部成员账户中移除根用户的长期凭据,包括密码和长期访问密钥。这不仅显著提升了客户的安全防护能力,也有效减轻了他们的运营负担。

亚马逊云科技强烈推荐Amazon Organizations中的客户尽快启用集中根访问功能,即刻享受该功能带来的显著优势。如果客户选择继续保留根用户,则必须对这些高权限凭据实施严格的安全保护措施。为了进一步强化对大规模运营客户的支持,并随着诸如passkeys等附加功能的推出,亚马逊云科技正将MFA需求扩展至Amazon Organizations的成员账户。从2025年春季开始,未启用根访问集中管理的客户将需要为其Amazon Organizations成员账户的根用户注册MFA,以便访问其亚马逊云科技的管理控制台。亚马逊云科技将分阶段实施此变更,并提前通知相关客户,协助他们采取必要措施以符合新规,尽量减少对日常运营的影响。”

用户可以在IAM用户指南中了解更多关于集中管理根访问的新功能,以及在Amazon MFA in IAM用户指南中了解更多关于在亚马逊云科技中使用MFA的信息。

]]>
亚马逊云科技陈晓建:全栈联动大规模创新才能满足客户的复杂需求 //www.otias-ub.com/archives/1734728.html Tue, 31 Dec 2024 09:17:20 +0000 //www.otias-ub.com/?p=1734728 得AI者得天下。如果说过去AI大模型只是大公司竞争的焦点,而当下,企业拥抱大模型在持续加速。在亚马逊云科技大中华区产品部总经理陈晓建看来,很多客户正在从原型验证阶段转化为生产阶段。客户在这一阶段的难点在于:需求将更加复杂,不仅是选择模型,还需要各种技术支持。

(图:亚马逊云科技大中华区产品部总经理陈晓建)

在亚马逊云科技2024 re:Invent中国行北京站主题分享上,陈晓建表示,同时使用多个模型的做法在行业中普遍存在。企业在选择模型时,通常会基于性能、功能和成本进行权衡,根据不同场景需求,选择高性能或低成本等不同定位的模型。

亚马逊云科技2024 re:Invent推出Amazon Nova六款基础模型;Amazon Bedrock新接入100多款模型,并推出AI防护、多智能体协作和模型蒸馏等重磅更新,全面优化推理场景的准确性、成本和响应速度;Amazon Q更加深入软件开发和商业应用场景,并为传统工作负载转型开辟新途径;Amazon SageMaker AI将帮助客户更快更轻松地构建、训练和部署模型。

生成式AI推理将成应用核心构建块,未来应用需支持规模化推理平台,利用专有数据,平衡性能、安全性和成本,模型选择至关重要。

Amazon Nova系列模型

Amazon Nova甫一发布即成为全球领先基础模型的重要力量,包括Nova Micro、Nova Lite、Nova Pro和Nova Premier基础模型,以及用于生成高质量图像的Nova Canvas和生成高质量视频的Nova Reel。在各自智能类别中,Amazon Nova Micro、Lite和Pro应用成本比Amazon Bedrock中表现最佳的模型至少降低75%,同时也是Amazon Bedrock中对应类别速度最快的模型。

Amazon Nova系列模型,包括多种类型。Nova Micro是文本到文本模型,能以极低成本提供低延迟响应;Nova Lite为成本极低得多模态模型,可快速处理多种输入;Nova Pro是功能强大的多模态模型,在准确性、速度和成本间平衡;即将推出的Nova Premier是其中能力最强的多模态模型,可处理复杂推理任务并指导定制模型蒸馏。

新一代图像生成模型Amazon Nova Canvas,它能帮助客户生成高质量图像,还具备图像编辑功能,最高可以生成高达两K(2000乘以2000)、2048乘以2048这样的图像,并且用户很快就可以通过Canvas这个模型进行微调。

新一代视频生成模型Amazon Nova Reel,以先进的视频生成质量和低延迟而自豪,提供了性能和成本效益之间的平衡。其文本到视频的功能,使用户能够通过简单描述内容就可生成视频,实现了视频制作的普惠化;文本视频生成功能让用户可通过输入文本和视觉来控制最终输出,制作与愿景匹配的视频。

来自poolside、Luma AI和Stability AI的Stable Diffusion 3.5模型等将很快在Amazon Bedrock上线。其中,poolside的两款模型专为软件开发流程打造,其模型在代码生成、测试、文档编写方面表现出色,基于深层次上下文实现实时代码补全;Luma的模型在创新方面取得重大突破,可将文本和图像转化为高品质、逼真的视频;Stable Diffusion 3.5是基于SageMaker HyperPod训练的高级文生图模型,性能强大。

推出Amazon Bedrock Marketplace,通过该平台,用户可以使用领先供应商提供的一百多个新兴和专业基础模型。用户能够通过统一界面发现、测试各类新兴专业模型,部署模型后,可使用Amazon Bedrock的统一API,以及知识库、安全防护、Agent等工具,同时享受其安全和隐私保护。

Amazon Bedrock的重大发布

Amazon Bedrock是一项完全托管的服务,借助高性能基础模型,构建和扩展生成式人AI应用程序。它是构建和扩展生成式AI应用的关键平台,为客户提供将推理功能整合到生产环境所需的工具,已为客户带来价值。

此次2024 re:Invent上,Amazon Bedrock有很多重大发布,包括:

Amazon Bedrock推出延迟优化选项,基于Amazon EC2 Trn2实例,利用最新硬件和软件优化,可在多模型上实现更好的推理性能。用户指定推理请求优先级后,平台自动处理,该功能已面向特定模型开放预览,如Llama 405B模型在延迟优化版本中性能显著提升,Anthropic的 Claude 3.5 Haiku模型延迟优化版处理速度大幅提高。

Amazon Bedrock推出模型蒸馏功能,用户只需提供示例提示,平台自动完成工作,通过蒸馏得到的模型运行速度提升到5倍,成本降低75%,显著提升生成式AI项目投资回报。

Amazon Bedrock 知识库支持GraphRAG,利用Amazon Neptune自动生成图谱,建立数据源关联,无需专业知识即可开发更全面的生成式AI应用,清晰展示连接和信息来源,提升事实验证透明度,通过API调用可让应用生成更准确响应。

Amazon Bedrock推出自动推理检查功能,预防模型幻觉引起的事实性错误,基于数学验证检查模型事实性陈述准确性并展示推理过程,如在保险领域可确保回答准确性。

Amazon Bedrock多智能体协作功能,支持多个Agent协作处理复杂工作流程,为特定任务创建一系列独立Agent,创建监督Agent负责设置信息访问权限、决定任务执行方式并确保协作,用户无需单独管理Agent,可轻松处理复杂任务。

新一代的Amazon SageMaker

Amazon SageMaker重新做了定义,叫新一代的Amazon SageMaker。新一代Amazon SageMaker为数据、分析和AI提供统一平台,包括以下内容:

全新的Amazon SageMaker Unified Studio使客户能够轻松查找和访问整个组织的数据,并汇集了亚马逊云科技专门构建的分析、机器学习(ML)和AI功能,客户可以在Amazon Q Developer的协助下,为各种类型的常见数据用例选择最合适的工具处理数据。

Amazon SageMaker Catalog和内置的治理功能确保合适的用户以正确目的访问合适的数据、模型和开发组件。

全新的Amazon SageMaker Lakehouse统一了数据湖、数据仓库、运营数据库和企业应用程序中的数据,使客户可以轻松访问和处理Amazon SageMaker Unified Studio中的数据,并使用其熟悉的AI和ML工具或与Apache Iceberg兼容的查询引擎。

全新zero-ETL与领先的软件即服务(SaaS)应用程序的集成,让客户无需复杂的数据管道,即可在Amazon SageMaker Lakehouse和Amazon Redshift中访问第三方SaaS应用程序的数据,并进行分析或机器学习。

大的方向上,客户在构建整个生成式AI的旅程时,需要的不只是模型,甚至不只是生成AI这个词,更多的是数据加AI的统一。新一代Amazon SageMaker就是数据加AI,首先是统一,统一的平台;第二它要开放,第三还是要安全。我们会通过这三层,给客户提供从数据到AI的一体化的感受。

以前的Amazon SageMaker,现在叫Amazon SageMaker AI,它也有很多新的功能发布。Amazon SageMaker AI推出四项创新,助力企业更快使用热门的公开模型,最大化训练效率、降低成本,并使用其首选工具加速生成式AI模型的开发:

Amazon SageMaker HyperPod新增三项强大功能(新训练模板、灵活训练计划、任务治理),帮助客户更轻松地快速开始训练当今最流行的公开可用模型,通过灵活训练计划节省数周的模型训练时间,并最大化计算资源利用率,将成本降低高达40%。

新训练模板帮助客户更快上手:Amazon SageMaker HyperPod现在提供30多个精选的模型训练配方,可适用于时下热门的一些公开可用模型,包括Llama 3.2 90B、Llama 3.1 405B和Mistral 8x22B。这些配方极大地简化了客户的入门过程,自动加载训练数据集、应用分布式训练技术,并配置系统以实现高效的检查点管理和基础设施故障恢复。

灵活训练计划可轻松满足训练时限和预算要求:客户只需轻松点击几下,就能指定预算、截止日期和所需的最大计算资源量。Amazon SageMaker HyperPod会自动预留容量、设置集群并创建模型训练作业,帮助团队节省数周的训练时间,减少客户在获取大型计算集群以完成模型开发任务时的不确定性。

任务治理功能最大化加速器利用率:通过Amazon SageMaker HyperPod任务治理功能,客户可以在模型训练、微调和推理过程中最大化加速器的利用率,将模型开发成本降低最多 40%。

这些新功能能够帮助客户有更灵活、更经济地承载客户在生成式AI训练和推理的工作负载。

总的来看,新一代Amazon SageMaker提供数据和AI的统一,去应对训练、推理、MLOps等场景。同Amazon SageMaker AI也有很多新的功能来加强用户的体验。

亚马逊云科技近几年的创新,不仅在云的核心服务层面持续创新,更在从芯片到模型,再到应用的每一个技术堆栈取得突破,让不同层级的创新相互赋能、协同进化。陈晓建坚信,只有全栈联动的大规模创新才能真正满足当今客户的发展需求。

]]>
亚马逊云科技发布Amazon Q Developer新功能,加速大规模传统工作负载的转型 //www.otias-ub.com/archives/1733617.html Mon, 23 Dec 2024 07:31:51 +0000 //www.otias-ub.com/?p=1733617 Amazon Q Developer是首个基于生成式AI的助手,旨在加速Windows.NET、VMware和大型机工作负载的迁移和现代化,缩短转型时间并降低成本

北京——20241223亚马逊云科技在2024 re:Invent全球大会上,宣布推出Amazon Q Developer新功能,这是一款强大的软件开发生成式人工智能(AI)助手,旨在简化复杂且耗时的应用迁移和现代化项目,帮助客户和合作伙伴节省时间和成本。

  • 将NET应用迁移至Linux的速度提升4倍,许可成本最多降低40%。
  • 加快VMware工作负载向云原生架构的转化,将本地网络配置转换为亚马逊云科技的等效配置的时间由几周缩短至几小时。
  • 加速大型机现代化进程,简化代码分析、文档生成、规划和重构等劳动力密集型工作。
  • Amdocs、Caylent、Cognizant、Compass UOL、HCLTech、Heirloom、Infosys、Mission Cloud、Signaturit Group、Slalom、SoftServe、Steamhaus、Tata Consultancy Services和北美丰田等客户和合作伙伴,正在使用Amazon Q Developer来加速传统工作负载的迁移和现代化。

亚马逊云科技技术副总裁Mai-Lan Tomsen Bukovec表示:“我们拥有近二十年帮助企业在亚马逊云科技上迁移和现代化传统工作负载的经验。基于这些经验,我们打造了Amazon Q Developer,对于希望从Windows.NET、VMware和大型机迁移的客户和合作伙伴来说,这是一项变革性技术。现在,Amazon Q能显著加速应用转型项目,它通过智能体自主完成如分析、规划、代码生成和测试等很多劳动密集型任务,这帮助企业充分挖掘云计算的价值。”

大量企业传统应用程序通常需要专门技术支持运营,维护成本高且耗时。虽然企业希望能摆脱这些传统技术,但应用现代化可能需要持续数月甚至数年。许多企业因此暂停或推迟这些项目,转而优先开发新应用。为了简化这类项目,Amazon Q Developer推出了转型功能,使用AI驱动的智能体将升级和现代化过程中的繁重工作实现自动化,包括自动分析源代码、生成新代码、测试,并在客户批准后执行更改。今年初,亚马逊将Amazon Q Developer的Java转型功能集成到内部系统中,将数万个生产应用程序从旧版Java迁移到Java 17。与传统方法相比,这项工作节省了超过4,500年的开发时间,提升的性能可每年节省成本2.6亿美元。如今,亚马逊云科技正在将这一技术扩展至更多的大规模传统转型项目。

  • NET应用迁移至Linux,迁移速度提高多达4倍:如今,企业希望加速Windows.NET框架的应用现代化进程,将其迁移到Linux上的跨平台Windows.NET,以节省许可成本、增强安全性、优化性能,并简化现代开发实践的采用。借助Amazon Q,客户和合作伙伴能将.NET应用从Windows迁移到Linux,可降低多达40%的许可成本。启动转型过程很简单:开发人员只需在其集成开发环境(IDE)的亚马逊云科技Toolkit部分选择”Transform”,确认需要现代化的文件即可。随后,Amazon Q使用智能体自动识别需要升级的组件、创建转型计划、修复构建错误并执行计划。这包括升级现有代码和配置文件,生成所需的新文件,修复构建失败的问题,最后向开发人员提供总结报告。

Signaturit Group是欧洲领先的高安全性数字交易提供商。该公司已开始使用Amazon Q加速其现代化项目。Signaturit Group原计划将Windows .NET应用迁移以提升速度、效率并降低成本,并预计需要8个月时间完成,但经常因其他优先事项而推迟。通过使用Amazon Q的新功能,Signaturit Group在短短几天内就实现了遗留代码的现代化,将许可证管理应用从Windows.NET迁移到Linux,而且这一过程没有被推迟或影响其他项目的进度。

  • VMware工作负载转型:随着客户和合作伙伴逐步退出数据中心,VMware成为他们急需现代化的关键工作负载之一。Amazon Q简化并加速了VMware工作负载向亚马逊云科技的转型过程,帮助客户能更快地受益于提升的安全性和系统韧性。客户和合作伙伴无需花费大量时间评估哪些工作负载可以安全地迁移,或者他们是否设计了能满足安全性和扩展性需求的基础设施。Amazon Q使用智能体能自动识别依赖关系,制定分批现代化的计划,将原本需要数周的工作压缩至几分钟内完成。同时,Amazon Q智能体还能在几小时内完成网络配置转换,将本地网络配置转换为亚马逊云科技的等效配置,时间由几周缩短至几小时。

 

Cognizant是一家跨国信息技术服务与咨询公司,致力于帮助组织实现技术现代化、流程重构和体验转型。目前Cognizant正在使用Amazon Q帮助客户加速VMware现代化进程。借助Amazon Q,Cognizant能更快地完成数百个VMware工作负载的现代化,这使得团队能专注于核心工作,帮助客户重新设计流程,为最终用户带来更好的体验。

  • 加速大型机现代化:大型机是阻碍组织离开数据中心的最复杂的系统之一。现在,Amazon Q能简化大型机现代化项目中的劳动密集型工作,包括代码分析、文档生成、规划和应用重构等,首批支持IBM z/OS大型机。合作伙伴和客户可以借助Amazon Q降低成本,加快现代化进程。Amazon Q智能体可以协助多项现代化任务,例如自动生成COBOL代码文档,并快速将单体应用拆分为可迁移到亚马逊云科技的独立组件。

为了帮助客户和合作伙伴更高效地协作完成大规模转型项目,所有以上三项功能都已集成到Amazon Q Developer的新Web应用程序中。该新应用程序专为帮助客户同时执行数百个复杂的转型项目而设计。团队可以在这个平台上集中审查计划、根据组织特定需求调整方案,并追踪项目关键项目进程。VMware和大型机现代化功能仅在这个新Web应用中提供,而Windows .NET转型则还可以在IDE中直接执行。

目前,上述Amazon Q新功能均已预览可用。

]]>
Amazon Connect运用生成式AI提升端到端客户体验 //www.otias-ub.com/archives/1733164.html Fri, 20 Dec 2024 03:22:19 +0000 //www.otias-ub.com/?p=1733164 新功能涵盖主动且个性化的客户沟通、增强的自助服务、生成式AI安全防护,以及用于坐席培训的管理工具。

北京——2024年12月20日 亚马逊云科技在2024 re:Invent全球大会上,宣布推出云联络中心解决方案Amazon Connect的全新生成式人工智能(AI)增强功能。这些全新功能让客户服务更加个性化、高效和主动,将进一步提升客户体验。通过更快地解决问题以及联络中心的持续优化,企业将显著提高客户满意度并降低运营成本。

客户使用Amazon Q in Connect自助服务

  • Amazon Connect 现已推出自动细分功能,支持主动外联,能够为个人或具有相似特征的用户群提供跨通信渠道的个性化且及时的互动。
  • Amazon Q in Connect是一款由生成式AI驱动的客户服务助手,可以帮助企业创建与业务相关的、自动化且动态的自助服务体验。
  • Amazon Q in Connect新增了可定制的AI guardrails功能,严格控制AI生成的内容,确保企业在遵循特定政策并维护客户互动的安全性的前提下,在联络中心部署生成式AI。
  • 全新AI驱动的坐席评价和智能联系人分类工具,使客户服务经理能够轻松识别坐席服务表现趋势,加强培训力度,提升整体服务质量。
  • 每天,数千万的亚马逊云科技客户通过 Amazon Connect支持1000多万次联络中心互动。Frontdoor、富士通(Fujitsu)、GoStudent、Priceline、Pronetx以及奥克兰大学等众多客户和合作伙伴使用 Amazon Connect 全新的生成式AI增强功能,以更低的成本提供卓越的客户服务。

亚马逊云科技副总裁兼Amazon Connect总经理 Pasquale DeMaio 表示:“通过Amazon Connect,我们不仅提升了客户服务质量,而且从根本上重构了企业构建、培养和维护客户关系的方式。借助生成式AI,我们改善了客户体验,Amazon Connect正让每一次的客户互动成为宝贵的机会——提升客户满意度并培育他们长期忠诚度。Amazon Q in Connect的持续创新,让企业无需编程经验即可更好、更灵活地应对复杂的客户服务场景。”

生成式AI赋能个性化体验,提升客户忠诚度

 由于数据分散在多个系统中,包括购买记录、支持票据以及在线互动等不同的数据库,企业常常难以提供个性化的客户体验。数据的碎片化让企业很难获得客户的全面洞察,并且限制了企业根据客户实时动态发起精准营销和主动沟通的能力。结果是,企业可能会错失在关键节点上与客户互动的机会,无论是提供即时的支持、推送相关信息,还是开展主动沟通。客户越来越期待无缝、个性化的互动,而企业若无法满足这一需求,便会导致客户满意度下滑,并难以维系客户的忠诚度。

Amazon Connect致力于打破数据孤岛,为每一个客户创建统一视图,从而有效解决上述问题。企业可以在问题出现之前便主动满足客户需求,同时开展精准的对外营销活动。如今,Amazon Connect基于生成式AI的细分功能,能够深入分析数据,基于实时和历史互动,为吸引不同客户群体提供智能化建议,提供全面的客户交互和偏好视图。例如,航空公司可以通过Amazon Connect识别出遭遇严重航班延误的常旅客,并基于他们的忠诚度等级和过往旅行习惯,自动提供优先改签服务、休息室使用权或定制化的补偿方案。Amazon Connect通过整合来自各种接触点的客户旅程洞察,简化了价值客户细分和传递相关推广活动的过程。营销经理可以通过简单的对话指令,依托这些丰富的数据来定义精准的客户群体。这种方法使企业能够根据客户的实时兴趣和事件,精准安排沟通时机,从而提供更加个性化的体验,显著提升客户满意度和忠诚度。

GoStudent是一家领先的教程和教育技术供应商,正在使用Amazon Connect来确保客户回电能够根据过往的互动记录,精准地转接至相应的销售代表。通过借助Amazon Connect增强的统一客户档案和呼出活动功能,GoStudent正着手扩展其销售策略,在现有的呼入服务基础上,增添主动外联。这种综合性的方法预计将销售代表日常联系量提升20%,并加速潜在客户的转化。

借助Amazon Q in Connect打造由生成式AI驱动的自助服务体验 

消费者对自助服务的期望日益增长,他们期待更加个性化、迅速和强大的支持体验。生成式AI为满足这些期望提供了有力的解决方案。然而,将其集成到联络中心生态系统中,往往需要企业在多个第三方服务、基础设施以及专业人才上进行大量投入。在部署过程中,企业必须设计定制化的保障措施,以规范AI生成的响应。缺乏有效的控制措施可能导致AI向客户传递错误信息,提供无效建议,或者反复向客户提出相同的问题,这些情况都会有损客户体验。因此,许多企业在全面采纳生成式AI时显得犹豫不决,从而错失了提升客户体验和增强联络中心运营效率的机会。

Amazon Q in Connect现已集成生成式AI功能,提升了自助客户服务的水平,能够为客户提供与人工坐席相媲美的个性化回应、主动服务以及进行上下文理解。企业得以在文字和语音渠道上迅速构建、测试并优化由AI驱动的自助服务体验,实现定制化的回复和主动服务。例如,当客户询问他们的航班有哪些改签选项时,Amazon Connect将访问并分析客户的具体信息,随后作出回复。这一过程包括检查客户的航空公司状态(如常旅客等级)、确认当前舱位,并基于航空公司的政策来评估资格。利用这些数据,Amazon Connect能够提供定制化的回答,根据客户的状态、偏好和资格来推荐改签选项。在适当且符合规定的情况下,它还可以自动为客户预订新机票。此外,Amazon Connect能够在必要时自动将对话转接给人工坐席,提供详尽的沟通摘要,共享收集到的所有客户相关数据和上下文信息,确保坐席能够无缝接手对话,避免客户重复提供信息。

为了增强联络中心生成式AI部署的安全性与可靠性,Amazon Q in Connect现已配备了一套可定制的AI防护栏,让企业无需大量的提示工程,便可严格控制AI生成的响应。企业能够为自助服务屏蔽不适宜的话题,依据其负责任的AI政策过滤掉有害及不当内容,同时确保敏感信息得到妥善处理来保护客户隐私,并使用上下文相关性检查来验证模型响应。这些保障措施可以根据互动类型,实现对AI交互的灵活控制。通过将这些功能集成到 Amazon Q in Connect,亚马逊降低了定制生成式AI虚拟坐席的复杂性,并降低了成本,让企业在其联络中心充分利用AI,满足其独特需要。

领先的住宅保修和数字按需服务提供商Frontdoor,正在率先使用Amazon Q in Connect减少坐席人员的培训周期和入职时间。根据其在Amazon Connect代理工作区以Amazon S3存储的政策文件,可以为坐席提供精准的响应建议和行动指导,让他们更快掌握对工作的熟悉程度。Frontdoor还计划将这种支持扩展至面向消费者以及自助服务互动中。

生成式AI洞察赋能联络中心经理

联络中心管理人员在管理客户旅程和协调大规模数字化及人工坐席互动方面面临巨大挑战。传统的坐席质检评估方法不仅耗费大量时间,而且覆盖范围有限,通常仅能评估1%-2%的客户互动。这种局限性使其难以提供及时、全面的反馈,容易产生评估偏差,并降低了整体绩效的透明度。同时,管理人员也很难有效地对客户互动进行分类和分析,这限制了他们发现趋势、识别改进点以及基于数据做出决策以增强客户体验的能力。如果没有有效的工具来自动标记客户不满或升级请求等关键问题,管理人员往往会错失及时处理新问题的机会。这些限制不仅影响了企业的敏捷性和适应性,还限制了其预见并应对可能影响客户体验的外部及业务环境变化的能力。

为应对这些挑战,Amazon Connect 推出了全新增强功能,帮助联络中心经理迅速识别客户反馈中的关键趋势,并更好地进行坐席培训。经理现在可以利用一系列工具,借助会话分析和屏幕录制功能,根据既定的质量标准,自动完成100%的坐席质检评估。同时,经理能够自动执行并完成评估流程,获取坐席服务表现的综合数据并识别具体的培训机会,从而推动团队的发展和进步。这些改进可持续优化客户体验。例如,经理可以自动识别客户互动中的行为培训机会,如“在向客户传达不利信息时缺乏同理心”。此外, Amazon Connect使用生成式AI技术,让经理更轻松地实现对联系人的分类。通过自然语言提示,经理能够自动对联系人进行分类,深入了解呼叫趋势、标记出令客户不满的通话、识别沟通中的障碍、发掘提升代理绩效的潜在机会等。由此,企业能够更高效地培训员工,更快地识别并解决常见的客户问题,进而全面提升客户体验。

富士通(Fujitsu)与亚马逊云科技携手合作,开发了一种基于生成式AI的质量保证(QA)方法。传统上,富士通的QA流程仅能对4%的语音交互和0.5%的聊天交互进行审查。如今,借助Amazon Connect,富士通的服务台得以在不增加人手的情况下,对语音和聊天渠道的全部互动实现自动化评分。这一突破使得管理人员能够将精力集中于更重要的战略计划,并将QA效率提升60%,将富士通的QA流程升级为实时、高样本和无偏见的模式,且无需额外投入QA资源。

从今天开始,所有这些功能全部正式可用。欲获取更多信息,请访问:

]]>
亚马逊云科技开启re:Invent 2024中国行 重塑企业生成式AI和云上创新 //www.otias-ub.com/archives/1732768.html Wed, 18 Dec 2024 13:41:02 +0000 //www.otias-ub.com/?p=1732768 北京——2024年12月18日 亚马逊云科技在2024 re:Invent全球大会上推出一系列技术发布,以覆盖基础设施、模型和应用的全栈联动创新助力企业应用生成式AI,全面重塑客户云上创新体验。亚马逊云科技此次发布聚集生成式AI、数据战略和云服务三大领域:在生成式AI领域,推出Amazon Nova系列基础模型并强化Amazon SageMaker、Amazon Bedrock和Amazon Q等核心服务,通过更低的训练和推理成本、更多的模型选择、更深入场景的应用全面加速企业应用生成式AI创新;在数据战略方面,发布新一代Amazon SageMaker为数据、分析和AI提供统一平台;同时,Amazon S3新增Tables存储类型和元数据功能,以及无服务器分布式SQL数据库Amazon Aurora DSQL将进一步提升用户的数据管理能力;在云服务方面,推出搭载Trainium2芯片的新型计算实例和为万亿参数模型提供实时推理性能的超级服务器。亚马逊云科技re:Invent 2024中国行全国巡展活动今日正式开启,将陆续为北京、上海、深圳等城市的企业和开发者带来一站式技术盛宴。

亚马逊云科技大中华区产品总经理陈晓表示:“亚马逊云科技是全球云计算的开创者和引领者,更是企业构建和应用生成式AI的首选,今年re:Invent全球大会的一系列重磅发布再次印证了这一点。我们不仅在云的核心服务层面持续创新,更在从芯片到模型,再到应用的每一个技术堆栈取得突破,让不同层级的创新相互赋能、协同进化。我相信,只有这样全栈联动的大规模创新才能真正满足当今客户的发展需求,加速前沿技术的价值释放,助力各行各业重塑未来。”

生成式AI全栈创新训练推理、模型和应用全面进化

在生成式AI领域,亚马逊云科技全面强化基础设施、模型和应用三层技术栈,帮助企业更轻松、更经济地将生成式AI应用于实际业务场景。此次更新包括:推出Amazon Nova六款基础模型;Amazon Bedrock新接入100多款模型,并推出AI防护、多智能体协作和模型蒸馏等重磅更新,全面优化推理场景的准确性、成本和响应速度;Amazon Q更加深入软件开发和商业应用场景,并为传统工作负载转型开辟新途径;Amazon SageMaker AI将帮助客户更快更轻松地构建、训练和部署模型。

  • Amazon Nova大幅降低基础模型成本Amazon Nova甫一发布即成为全球领先基础模型的重要力量,包括Nova Micro、Nova Lite、Nova Pro和Nova Premier基础模型,以及用于生成高质量图像的Nova Canvas和生成高质量视频的Nova Reel。在各自智能类别中,Amazon Nova Micro、Lite和Pro应用成本比Amazon Bedrock中表现最佳的模型至少降低75%,同时也是Amazon Bedrock中对应类别速度最快的模型。
  • Amazon Bedrock平台能力全面升级:Amazon Bedrock模型选择全面升级,首家提供Luma AI和poolside模型,更新了Stability AI的最新模型,并通过新推出的Amazon Bedrock Marketplace功能为客户提供100多个热门、新兴及专业模型;同时,Amazon Bedrock推出了低延迟优化推理、模型蒸馏、提示词缓存等功能,大幅提升推理效率;支持GraphRAG等知识库功能增强数据利用能力;通过自动推理检查功能和多智能体协作等创新,进一步增强AI安全性并推动智能体发展。
  • Amazon Q扩展应用场景:Amazon Q Developer增加三款新的智能体,能自动执行单元测试、文档编制和代码审查流程,并通过与GitLab深度集成,扩展应用场景;推出转型功能以加速NET、VMware和大型机工作负载的迁移和现代化,缩短转型时间并降低成本。强化了Amazon Q Business和Amazon Q in QuickSight洞察能力,并简化了复杂工作流程的自动化实现方式。
  • 基础设施创新:推出Amazon SageMaker AI的四项创新,包括Amazon SageMaker HyperPod的新训练配方功能、灵活训练计划和任务治理功能,以及在Amazon SageMaker中使用亚马逊云科技合作伙伴的热门AI应用。这些功能将帮助客户更快开始训练流行模型,通过灵活训练计划节省数周时间,并将成本降低高达40%。

数据体验升级,统一平台释放数据价值

如今,越来越多的客户不再孤立地使用不同的数据分析工具,相反,他们正在将分析、机器学习和生成式AI相结合来获取洞察。亚马逊云科技推出的新一代Amazon SageMaker包括一个新的、统一的工作室,为客户提供一个单一的数据和AI开发环境,用户可以在其中查找和访问其组织中的所有数据,为各种常见的数据用例选择最佳工具,并将数据和AI项目扩展至团队内不同分工角色以实现协作。

  • 新一代Amazon SageMaker:将快速SQL分析、PB级大数据处理、数据探索和集成、模型开发和训练以及生成式AI等功能统一到一个集成平台。通过全新的Amazon SageMaker Unified Studio,客户可以轻松查找和访问组织内的所有数据资源,并借助Amazon Q Developer选择最适合的工具进行处理。Amazon SageMaker Catalog和内置治理功能确保数据、模型和开发组件的合规访问,此外,通过Zero-ETL与领先SaaS应用程序的集成,客户无需构建复杂的数据管道,即可在Amazon SageMaker Lakehouse和Amazon Redshift中分析第三方应用数据。
  • 推出Amazon SageMaker Lakehouse:实现了数据湖、数据仓库、运营数据库和企业应用程序中数据的统一管理,支持客户使用熟悉的AI和机器学习工具或Apache Iceberg兼容的查询引擎进行访问和处理。

全栈联动创新,升级云服务 

作为全球云计算的开创者和引领者,亚马逊云科技在计算、网络、存储和数据库等核心领域持续创新,为各类工作负载提供更强大的底层支持。

  • 自研芯片引领算力创新:基于Amazon Trainium2的EC2 Trn2实例正式可用,较当前GPU实例性价比提升30-40%;推出配备64个Trainium2芯片的EC2 Trn2 UltraServers服务器,提供高达2 Petaflops浮点算力,计算能力是单一实例的四倍。在大规模训练方面,Project Rainier集群搭载数十万个Trainium2芯片,算力超越以往集群5倍以上。采用3纳米工艺的下一代Trainium3芯片预计将在2025年末上线,预计将使集群性能提升4倍,并在性能、能效和密度上树立新标杆。
  • 网络基础设施升级:推出第二代UltraCluster网络架构,也称为”10p10u”网络,支持超过20,000个GPU协同工作,带宽达10Pb/s,延迟低于10ms,这一突破性升级将模型训练时间缩短至少15%。
  • 存储服务增强数据处理能力:Amazon S3新增Metadata元数据功能实现自动获取和实时更新;推出专为Iceberg表优化的S3 Tables存储类型,将查询性能提升3倍,事务处理能力提升10倍。
  • 数据库服务突破: Amazon Aurora DSQL是一款全新的无服务器分布式SQL数据库,采用active-active架构并具备自动故障恢复功能,支持应用程序在任意端点进行读写。它不仅提供999%的多区域可用性,还能实现近乎无限的可扩展性,且无需进行数据库分片或实例升级。同时,Amazon DynamoDB global tables也增加了多区域强一致性支持,进一步增强了其分布式数据库服务能力。
  • 数据中心设计重塑基础架构:通过简化电力分配和机械系统,实现基础设施可用性达9999%,将受电气问题影响的机架数量减少89%。创新的”液体到芯片”冷却系统无缝集成空气和液体冷却功能,机械能耗降低46%。全新设计让每个站点提供增加12%的计算能力,同时在可持续性方面取得重要突破,采用可再生柴油作为备用发电系统燃料,与传统化石柴油相比温室气体排放可减少90%,数据中心建筑的混凝土固有碳排放量较行业平均水平最高可降低35%。

助力全球企业在亚马逊云科技上重塑未来

众多初创企业与行业领袖正在使用亚马逊云科技持续创新,从人工智能前沿探索到金融风险把控、从数字娱乐体验优化到制药诊断科学推进,亚马逊云科技正助力各行各业加速创新,突破既有范式,重塑未来。

在亚马逊,Amazon Kindle的技术支持工程师采用Amazon Q Developer的运营调查功能后,问题解决速度提升了65-80%,这使他们能够更快地响应客户需求,确保提供卓越的用户体验。Amazon Music的开发人员将Amazon Q视为全天候的得力助手,它能够自动调查并识别各种潜在问题,极大提升了他们的响应速度。初期的使用数据显示,Amazon Music的问题解决速度提高了一倍,确保了听众能够不间断地享受他们喜爱的音乐。

Anthropic专注于AI安全和研究,致力于打造可靠、可解释和可控的AI系统。Anthropic的旗舰产品Claude是全球数百万用户信赖的大型语言模型。Anthropic已开始优化Claude模型,以便在亚马逊最先进的AI硬件Trainium2上运行。Anthropic将使用数十万个Trainium2芯片,该规模是其之前集群的五倍以上,为使用Amazon Bedrock上的Claude客户提供卓越的性能表现。

罗氏(Roche)是一家制药和诊断领域的先锋企业,致力于推进科学进步以改善人们的生活。该公司将使用Amazon SageMaker Lakehouse统一来自Amazon Redshift和Amazon S3数据湖的数据,以消除数据孤岛,增强团队之间的协作,并允许用户无缝利用数据,无需昂贵的数据移动或重复的安全访问控制。借助Amazon SageMaker Lakehouse,罗氏预计数据处理时间将减少40%,这让他们减少数据管理工作,而将精力更多用于推动业务发展。

]]>
Amazon SageMaker AI创新重塑生成式AI与机器学习模型的构建与扩展 //www.otias-ub.com/archives/1732454.html Mon, 16 Dec 2024 09:11:07 +0000 //www.otias-ub.com/?p=1732454 通过Amazon SageMaker HyperPod的三项新功能,以及直接在Amazon SageMaker中整合亚马逊云科技合作伙伴的热门AI应用产品,亚马逊云科技帮助客户消除AI开发生命周期中无差别繁重工作,从而更快速、更轻松地构建、训练和部署模型

北京——2024年12月16 亚马逊云科技在2024 re:Invent全球大会上,宣布推出Amazon SageMaker AI四项创新,助力企业更快使用热门的公开模型,最大化训练效率、降低成本,并使用其首选工具加速生成式人工智能(AI)模型的开发。Amazon SageMaker AI是一项端到端的服务,数十万客户使用它来构建、训练和部署各种用例的AI模型,它提供完全托管的基础设施、工具和工作流。

  • Amazon SageMaker HyperPod新增三项强大功能,帮助客户更轻松地快速开始训练时下流行的公开可用模型,通过灵活训练计划节省数周的模型训练时间,并最大化计算资源利用率,将成本降低高达40%。
  • 现在,客户可以直接在Amazon SageMaker中轻松安全地发现、部署和使用来自亚马逊云科技合作伙伴的完全托管的生成式AI和机器学习(ML)开发应用,例如CometDeepchecksFiddler AILakera,从而灵活选择最适合的工具。
  • Articul8、澳大利亚联邦银行、富达、Hippocratic AI、Luma AI、NatWest、NinjaTech AI、OpenBabylon、Perplexity、Ping Identity、Salesforce和汤森路透等客户正在使用Amazon SageMaker的新功能,加速生成式AI模型开发。

亚马逊云科技人工智能和机器学习服务与基础设施副总裁Baskar Sridharan博士表示:“亚马逊云科技在七年前推出Amazon SageMaker,以简化构建、训练和部署AI模型的过程,帮助各种规模的组织访问和扩展其对AI和机器学习的使用。随着生成式AI的兴起,Amazon SageMaker不断快速创新,自2023年以来已经推出了超过140项功能,帮助Intuit、Perplexity和Rocket Mortgage等企业更快地构建基础模型。通过此次发布,我们将为客户提供更高性能、更具成本效益的模型开发基础设施,帮助他们加速将生成式AI工作负载部署到生产环境中。”

Amazon SageMaker HyperPod:训练生成式AI模型的首选基础设施

随着生成式AI的出现,构建、训练和部署机器学习模型的过程变得更加困难,这需要深厚的AI专业知识、访问大量数据以及创建和管理大型计算集群。此外,客户需要开发专门的代码来实现跨集群分布式训练,持续检查和优化模型,并手动处理硬件故障,同时尽量控制时间进度和成本。亚马逊云科技为此推出Amazon SageMaker HyperPod,帮助客户在数千个AI加速器上高效扩展生成式AI模型开发,将训练基础模型的时间缩短高达40%。无论是Writer、Luma AI、Perplexity等领先的初创公司,还是汤森路透、Salesforce等大型企业,都在利用Amazon SageMaker HyperPod加速模型开发。亚马逊还使用Amazon SageMaker HyperPod训练新的Amazon Nova模型,不仅降低了训练成本,提高了训练基础设施的性能,还节省了数月手动设置和管理集群的时间。

现在,越来越多的企业希望微调热门的公开可用模型,或训练自己的专用模型,以利用生成式AI改造业务和应用。Amazon SageMaker HyperPod将持续创新,帮助客户更轻松、更快速、更具成本效益地大规模构建、训练和部署这些模型,具体创新包括:

  • 新训练配方帮助客户更快上手:许多客户希望基于Llama和Mistral等热门的公开可用模型,使用内部数据为特定用例进行定制。然而,优化训练性能可能需要数周的反复测试,包括尝试不同的算法、调整参数、观察训练效果、调试问题和设定性能基准。为了帮助客户在几分钟内快速入门,Amazon SageMaker HyperPod现在提供30多个精选的模型训练配方,可适用于时下热门的一些公开可用模型,包括Llama 3.2 90B、Llama 3.1 405B和Mistral 8x22B。这些配方极大地简化了客户的入门过程,自动加载训练数据集、应用分布式训练技术,并配置系统以实现高效的检查点管理和基础设施故障恢复。不同技能水平的客户能够从一开始就在亚马逊云科技基础架构上优化模型训练的性价比,省去了数周的反复评估和测试的时间。客户可以通过Amazon SageMaker GitHub存储库浏览可用的训练配方,根据定制需求调整参数,并在几分钟内完成部署。此外,客户只需一行简单编辑,即可在基于GPU或Trainium的实例之间无缝切换,进一步优化性价比。

Salesforce的研究人员一直在寻求一种快速启动基础模型训练和微调的解决方案,希望能够在不用过多关注基础设施的情况下,避免为每个新模型耗费数周时间进行训练堆栈优化。通过Amazon SageMaker HyperPod的定制模板,他们现在能够快速开展基础模型的原型设计。目前,Salesforce的AI研究团队可以在短短几分钟内启动各种预训练和微调流程,并成功实现基础模型的高效运营。

  • 灵活训练计划可轻松满足训练时限和预算要求尽管基础设施创新有助于降低成本并提高训练效率,但客户仍需规划并管理所需计算资源,以确保在预算范围内按时完成训练任务。因此,亚马逊云科技为Amazon SageMaker HyperPod推出了灵活训练计划。客户只需轻松点击几下,就能指定预算、截止日期和所需的最大计算资源量。Amazon SageMaker HyperPod会自动预留容量、设置集群并创建模型训练作业,帮助团队节省数周的训练时间,减少客户在获取大型计算集群以完成模型开发任务时的不确定性。如果提议的训练计划无法满足指定的时间、预算或计算要求,Amazon SageMaker HyperPod会提供替代方案,如延长日期范围、增加计算资源或选择不同的亚马逊云科技区域进行训练。一旦计划获批,Amazon SageMaker会自动配置基础设施并启动训练作业。Amazon SageMaker使用 Amazon Elastic Compute Cloud (EC2)容量块预留所需的加速计算实例,确保训练任务按时完成。根据容量块的可用时间,Amazon SageMaker HyperPod通过有效的暂停和恢复训练作业,确保客户始终拥有按时完成任务所需的计算资源,无需人工干预。

Hippocratic AI为医疗保健开发以安全为重点的大语言模型(LLM)。为了训练多个模型,Hippocratic AI采用了Amazon SageMaker HyperPod灵活训练计划,获得了按时完成训练任务所需的加速计算资源。这帮助他们将模型训练速度提高了4倍,并更有效地扩展其解决方案,以适应数百个用例。

  • 任务治理功能最大加速器利用率:越来越多的企业为模型训练配置大量加速计算资源。这些计算资源昂贵且有限,因此客户需要一种管理资源使用率的方法,以确保其计算资源优先用于最关键的模型开发任务,避免任何浪费或利用率不足。如果没有对任务优先级和资源分配的有效控制,一些项目最终会因资源不足而停滞,而同时其他项目却资源利用率不足。这给管理员带来了巨大负担,他们必须不断重新规划资源分配,而数据科学家则难以取得进展。这不仅阻碍了企业将AI创新快速推向市场,还可能导致成本超支。通过Amazon SageMaker HyperPod任务治理功能,客户可以在模型训练、微调和推理过程中最大化加速器的利用率,将模型开发成本降低最多 40%。只需点击几下,客户就可以轻松为不同任务定义优先级,并为每个团队或项目可以使用的计算资源设置限制。一旦客户在不同团队和项目之间设置了限制,Amazon SageMaker HyperPod将分配相关资源,自动管理任务队列以确保最关键的工作优先进行。例如,如果客户紧急需要更多计算资源来支持面向客户的推理任务,但所有计算资源都已被占用,Amazon SageMaker HyperPod会自动释放未充分利用的资源或非紧急任务的资源,以确保紧急推理任务获得所需资源。在这种情况下,Amazon SageMaker HyperPod会自动暂停非紧急任务,保存检查点以保证已完成的工作完好无损,并在更多资源可用时从最后保存的检查点恢复任务,确保客户最大化计算资源的利用。

Articul8 AI是一家快速成长的初创企业,致力于帮助企业构建自己的生成式AI应用产品,因此需要不断优化计算环境,以尽可能高效地分配资源。通过使用Amazon SageMaker HyperPod中的新任务治理功能,该公司的GPU利用率有了显著提高,减少了空闲时间,并加速了端到端模型开发。自动将资源转移到高优先级任务的能力提高了团队的生产力,使他们能够更快地推出生成式AI创新成果。

Amazon SageMaker中使用亚马逊云科技合作伙伴的热门AI应用产品,加速模型开发和部署

许多客户在使用Amazon SageMaker AI的同时,也在使用业界一流的生成式AI和机器学习模型开发工具来执行专业任务,如跟踪和管理实验、评估模型质量、监控性能和保护AI应用产品。然而,将热门的AI应用产品集成到团队的工作流程中是一个耗时的多步骤过程。这包括寻找合适的解决方案、执行安全和合规性评估、监控跨多个工具的数据访问、配置和管理必要的基础设施、构建数据集成以及验证是否符合治理要求。现在,亚马逊云科技帮助客户更轻松地将专业AI应用产品的强大功能与Amazon SageMaker AI的托管能力和安全性结合起来。这项新功能让客户能够直接在Amazon SageMaker中轻松发现、部署和使用来自领先合作伙伴(如Comet、Deepchecks、Fiddler和Lakera Guard)的最佳生成式AI和机器学习开发应用,从而消除其中的阻碍繁重的工作。

Amazon SageMaker是首个为一系列生成式AI和机器学习开发任务提供精选的、完全托管且安全的合作伙伴应用集的服务。这为客户构建、训练和部署模型提供了更大的灵活性和控制权,同时将AI应用产品的上线时间从数月缩短到数周。每个合作伙伴应用都由Amazon SageMaker AI完全托管,因此客户不必担心设置应用或持续监控以确保有足够的容量。通过Amazon SageMaker可直接访问这些应用,客户无需将数据从安全的亚马逊云科技环境中移出,同时可以减少在不同界面之间切换的时间。客户只需浏览Amazon SageMaker合作伙伴AI应用产品目录,了解他们想要使用的应用的功能、用户体验和定价。然后,他们可以轻松选择和部署应用,并使用Amazon Identity and Access Management(Amazon IAM)管理整个团队的访问权限。

Amazon SageMaker在Ping Identity自研的AI和机器学习基础设施的开发和运营中也发挥着关键作用。借助Amazon SageMaker中的合作伙伴AI应用产品,Ping Identity将能够通过私有、完全托管的服务,为其客户提供更快速、更高效的机器学习驱动的功能,同时满足严格的安全和隐私要求,并减少运营开销。

Amazon SageMaker全部创新技术现已全面可用。

]]>
Amazon Bedrock全新升级,新增业界领先的AI防护、新智能体功能和模型定制能力 //www.otias-ub.com/archives/1731775.html Thu, 12 Dec 2024 02:39:29 +0000 //www.otias-ub.com/?p=1731775 Amazon Bedrock新增自动推理检查、多智能体协作和模型蒸馏三项新功能,基于坚实的企业级功能基础构建助力客户更快从概念验证过渡到生产的生成式人工智能

北京——2024年12月12亚马逊云科技在2024 re:Invent全球大会上,宣布推出Amazon Bedrock的三项新功能。Amazon Bedrock是一项完全托管的服务,借助高性能基础模型,构建和扩展生成式人AI应用程序。新发布的功能可帮助客户防止因模型幻觉而导致的事实性错误,编排多个AI智能体处理复杂任务,以及创建更小的、针对特定任务的模型,这些模型在成本与延迟方面远低于大型模型的同时,仍能达成相近效果。

  • 自动化推理检查功能是强有力的生成式AI保护措施,有助于防止因模型幻觉而导致的事实性错误,从而开辟了需要更高精度的新的生成式AI用例。
  • 多智能体协作功能可帮助客户轻松构建和编排多个AI智能体,以共同解决问题,从而扩展客户应用生成式AI解决复杂用例的方式。
  • 模型蒸馏功能使客户能够将特定知识从功能强大的大模型转移到更小、更高效的模型,运行速度最快可提高500%,成本降低75%。
  • 如今,数以万计的客户在使用 Amazon Bedrock,穆迪公司、普华永道和Robin AI等公司都在使用这些新功能,以经济高效的方式扩大推理规模,实现前所未有的生成式AI创新。

亚马逊云科技人工智能和数据副总裁Swami Sivasubramanian博士表示:“Amazon Bedrock拥有广泛的模型选择、领先的功能,使开发人员能够更轻松地将生成式AI集成到其应用中,并且注重安全和隐私。对于希望将生成式AI作为其应用和业务核心的客户来说,Amazon Bedrock已成为一个不可或缺的工具。因此,Amazon Bedrock的客户群仅在去年就增长4.7倍之多。随着生成式AI逐渐改变越来越多企业业务和客户体验,推理将成为每个应用的核心部分。随着此次新功能的推出,我们正在为客户进行创新,以解决整个行业在将生成式AI应用推向生产时面临的主要挑战,比如降低幻觉和成本。”

自动推理检查功能防止因模型幻觉而导致的事实性错误

虽然模型在不断进步,但即使是能力最强的模型也会产生幻觉,提供不正确或误导性的响应。幻觉仍然是整个行业面临的一个根本挑战,这限制了企业对生成式AI的信任。特别是在医疗保健、金融服务和政府机构等受监管的行业中,准确性至关重要,这些组织需要进行审核,以确保模型做出适当的响应。自动化推理检查功能是强大的生成式AI保护措施,可通过逻辑准确且可验证的推理来帮助防止因模型幻觉而导致的事实性错误。通过提高客户对模型响应的信任,自动化推理检查功能为生成式AI开辟了对准确性要求极高的新应用场景。

自动化推理是AI的一个分支,它运用数学来验证事情的正确性。在处理用户需要精确答案的问题时,自动化推理表现出色,尤其是在那些主题广泛且复杂、并有一套明确定义的规则或知识体系的领域。亚马逊云科技拥有一支由世界一流的自动化推理专家组成的团队,他们过去十年使用这项技术在整个亚马逊云科技改善用户体验,例如准确部署证明权限和访问控制以增强安全性,或者在部署之前,对Amazon Simple Storage Service(Amazon S3)中的数百万个场景进行检查,以确保可用性和持久性得到保障。

Amazon Bedrock Guardrails使客户能够轻松地将安全和负责任的AI检查应用到生成式AI应用程序中,从而指导模型仅讨论相关主题。通过Amazon Bedrock Guardrails,自动化推理检查功能可以让Amazon Bedrock验证事实响应的准确性,生成可审计的输出,并向客户准确展示模型得出结果的原因。这提高了透明度,并确保模型响应符合客户的规则和政策。例如,健康保险提供商采用了生成式AI驱动的客户服务应用程序,它需要能够正确响应客户有关保单的问题,自动化推理检查功能可实现这一点。为了使用该功能,提供商无需自动化推理方面的专业知识,只需上传其政策信息,Amazon Bedrock 会自动制定必要的规则,并指导客户反复测试,以确保模型调整为正确的响应。然后,保险提供商应用自动化推理检查功能,当模型生成响应时,Amazon Bedrock 会对其进行验证。如果响应不正确,例如弄错了免赔额或标记了不在承保范围内的程序,Amazon Bedrock 会使用自动化推理检查功能中的信息来建议正确的响应。

全球专业服务公司普华永道正在使用自动化推理检查功能来创建高度准确、可信且有用的AI助手和智能体,以推动其客户的业务处于领先地位。普华永道将该功能纳入到为金融服务、医疗保健和生命科学领域客户提供的特定行业解决方案,包括验证AI生成的合规内容是否符合美国食品药品管理局(FDA)和其他监管标准的应用程序。在公司内部,普华永道采用自动化推理检查功能来确保生成式AI助手和智能体生成的响应准确且符合内部政策。

轻松构建和协调多个智能体以执行复杂的工作流程

随着企业将生成式AI作为其应用程序的核心部分,这项技术的应用不再仅限于总结内容和增强聊天体验。企业还希望自己的应用程序能够执行实际操作。AI驱动的智能体可以通过利用模型的推理功能,将任务(例如帮助退货或分析客户留存数据)分解为模型可以执行的一系列步骤,从而帮助客户的应用程序完成这些操作。Amazon Bedrock智能体功能使客户能够轻松构建智能体,使其能够跨公司系统和数据源工作。单个智能体可能很有用,但更复杂的任务,如对数百或数千个不同变量进行财务分析,可能需要大量各具专长的智能体。然而,要创建一个能够协调多个智能体、在智能体之间共享上下文并动态分配不同任务给相应智能体的系统,需要专业工具和生成式AI专业知识,这是很多企业难以企及的。因此,亚马逊云科技扩展Amazon Bedrock智能体功能以支持多智能体协作,使客户能够轻松地构建和协调专业智能体来执行复杂的工作流程。

凭借Amazon Bedrock多智能体协作功能,客户可以通过为项目的特定步骤创建和分配专用智能体,从而获得更准确的结果,并通过编排多个并行工作的智能体来加速任务。例如,金融机构可以使用Amazon Bedrock智能体对一家公司进行投资前的尽职调查。首先,客户可以使用 Amazon Bedrock智能体创建一系列专注于特定任务的专用智能体,例如分析全球经济因素、评估行业趋势和审查公司的历史财务状况。在创建完所有专用智能体后,再创建一个主管智能体来管理整个项目。主管智能体负责协调工作,包括将任务分解并路由到相应的智能体,为特定智能体提供完成工作所需的信息,并确定哪些操作可以并行处理,以及哪些操作需要等待其他任务的详细信息完成后才能继续。一旦所有专业智能体都完成了自己的任务,主管智能体会将信息汇总,综合结果,并制定整体风险概况。

穆迪公司是信用评级和金融洞察领域的全球领导者,已选择Amazon Bedrock多智能体协作功能来增强其风险分析工作流程。穆迪公司正在利用Amazon Bedrock创建智能体,为每个智能体分配特定的任务,并允许其访问量身定制的数据集,以履行其职责。例如,一个智能体可能会分析宏观经济趋势,另一个智能体可能会使用专有财务数据评估公司特定风险,第三个智能体则考虑竞争和战略定位。这些智能体无缝协作,将输出结果综合成精确、可操作的洞察。这种创新方法使穆迪公司能够提供更快、更准确的风险评估,巩固其作为金融决策领域值得信赖的权威机构的声誉。

使用模型蒸馏功能创建更小、更快、更具成本效益的模型

如今,客户正在尝试各种型号的模型,以找到最适合其业务独特需求的模型。然而,即使在所有可用模型中,也很难找到一个能够提供特定知识、成本和延迟的最佳组合。较大的模型知识更丰富,但响应时间更长、成本更高,较小的模型运行速度更快、更便宜,但功能不够强大。模型蒸馏是一种将知识从大型模型转移到小型模型,同时保留小型模型性价比的技术。然而,这项工作需要机器学习(ML)专业知识来处理训练数据、手动微调模型,以及在不损害客户最初选择该小型模型的性能特征的前提下调整模型权重。借助Amazon Bedrock模型蒸馏功能,任何客户现在都可以蒸馏出自己的模型,与原始模型相比,被蒸馏模型的速度可以提高500%,运行成本降低75%,在检索增强生成(RAG)等用例中,准确性损失低于2%。现在,客户无需具备专业的机器学习知识,可根据自身用例进行优化,实现功能、准确性、延迟和成本的最佳组合。

借助Amazon Bedrock模型蒸馏功能,客户只需为给定的用例选择最佳模型,该系列模型中的一个较小的模型便能满足客户对成本和延迟的需求。在客户提供样本提示后,Amazon Bedrock将完成生成响应和微调较小模型的所有工作,如果需要,它甚至可以创建更多样本数据以完成蒸馏过程。这为客户提供了一个具有大模型的相关知识和准确性,同时又具有较小模型的速度和成本的模型,使其成为生产场景下(如实时聊天互动)的理想选择。模型蒸馏适用于来自Anthropic、Meta的模型,以及新发布的Amazon Nova模型。

Robin AI提供一款AI驱动的助手,该服务能使复杂的法律流程更快、更经济且更易于访问。该公司正在使用模型蒸馏来帮助实现针对数百万合同条款的高质量法律问答。模型蒸馏帮助Robin AI以极低的成本获得所需的准确性,而更快的响应则为客户与AI助手之间提供了更流畅的互动。

自动化推理检查、多智能体协作和模型蒸馏功能均已预览可用。

]]>
亚马逊云科技在Amazon Bedrock上推出100多个新模型和全新强大的推理和数据处理功能,助力客户加速采用生成式AI //www.otias-ub.com/archives/1731258.html Fri, 06 Dec 2024 04:46:24 +0000 //www.otias-ub.com/?p=1731258 模型扩展规模空前,并新增推理优化工具及额外的数据功能,为客户提供了更大的灵活性和控制力,更快构建和部署生产级生成式AI

北京——2024年12月6日 亚马逊云科技在2024 re:Invent全球大会上,宣布推出Amazon Bedrock的多项创新功能。Amazon Bedrock是亚马逊云科技一项完全托管的服务,旨在利用高性能基础模型构建和扩展生成式人工智能(AI)应用程序。此次发布进一步彰显了亚马逊云科技对模型选择的承诺,同时优化了大规模推理的执行方式,帮助客户从数据中挖掘更多价值。

在新模型目录中探索Amazon Bedrock Marketplace模型和Amazon Bedrock完全托管的模型

  • 亚马逊云科技即将成为首家提供Luma AI和poolside模型的云服务提供商。亚马逊云科技还将把Stability AI的最新模型添加至Amazon Bedrock,并通过全新的Amazon Bedrock Marketplace功能为客户提供100多个热门、新兴及专业模型的访问权限,客户可根据自身用例找到最合适的模型组合。
  • 全新的提示词缓存功能和Amazon BedrockIntelligent Prompt Routing提示词智能路由功能帮助客户更轻松、更经济地扩展推理业务。
  • Amazon BedrockKnowledge Bases现已提供对结构化数据和GraphRAG的支持,进一步拓展了客户利用自身数据提供定制化生成式AI体验的途径。
  • Amazon BedrockData Automation功能能够在无需编写代码的情况下,自动将非结构化、多模态的数据转换为结构化数据,以帮助客户将更多数据应用于生成式AI及分析工作中。
  • 数以万计的客户信赖Amazon Bedrock运行其生成式AI应用程序,过去一年使用该服务的客户量增长了7倍。Adobe、Argo Labs、宝马集团、Octus、Symbeo、Tenovos和Zendesk等公司已采用Amazon Bedrock的最新技术。

亚马逊云科技人工智能和数据副总裁Swami Sivasubramanian博士表示:“Amazon Bedrock服务持续快速增长,因其广泛而领先的模型选择、可轻松基于自身数据进行定制的工具、内置的负责任的AI功能以及开发复杂智能体的能力成为越来越多客户的选择。为了让客户充分释放生成式AI的潜力,Amazon Bedrock一直致力于解决开发人员当前面临的最大挑战。通过此次新发布的一系列新功能,我们将帮助客户开发出更智能的AI应用程序,让他们为其最终用户创造更大价值。”

汇集领先AI公司的广泛模型选择

Amazon Bedrock为客户提供丰富的完全托管的模型选择,这些模型来自领先的AI公司,包括AI21 Labs、Anthropic、Cohere、Meta、Mistral AI以及Stability AI等。此外,Amazon Bedrock是客户使用新发布的Amazon Nova模型的唯一渠道。Amazon Nova是新一代基础模型,以行业领先的性价比为广泛的任务提供先进的智能能力。通过此次发布,亚马逊云科技在Amazon Bedrock上新增更多行业领先的模型,进一步扩展Amazon Bedrock的模型选择范围。


  • Luma AI的Ray 2:Luma AI的多模态模型和软件产品借助生成式AI推动视频内容创作。亚马逊云科技将成为首家向用户提供Luma AI最先进的Luma Ray 2模型(其著名视频模型的第二代)的云服务提供商。Ray 2标志着生成式AI辅助视频创作的重大进步,它能够依据文本和图像高效且以电影级质感生成高质量、逼真的视频。用户能够快速尝试不同的拍摄角度和风格,创建角色连贯、物理效果准确的视频,可为建筑、时尚、电影、平面设计以及音乐等领域提供创意性输出。
  • poolside的malibu和point:poolside解决大型企业现代软件工程面临的挑战。亚马逊云科技将成为首家提供poolside的malibu和point模型访问权限的云服务提供商,这两个模型在代码生成、测试、文档编制以及实时代码补全方面表现出色。这有助于工程团队提高生产力,更快编写出更优质的代码,并加速产品开发周期。这两种模型还能够依据客户的代码库、实践操作以及文档进行安全、私密的微调,使其能够适配特定项目,帮助客户以更高的准确性和效率处理日常软件工程任务。此外,亚马逊云科技还将成为首家提供poolsideAssistant访问权限的云服务提供商,该功能可以将poolside的malibu和point模型强大的功能融入开发人员首选的集成开发环境(IDE)之中。
  • Stability AI的Stable Diffusion 3.5 Large:Stability AI是视觉媒体领域领先的生成式AI模型开发商,在图像、视频、3D和音频方面拥有先进的模型。Amazon Bedrock即将添加Stable Diffusion 3.5 Large这一Stability AI最先进的文本转图像模型。该模型能够依据各种风格的文本描述生成高质量图像,加速为媒体、游戏、广告以及零售领域的客户创建概念艺术、视觉效果以及详细的产品图像。
通过Amazon Bedrock Marketplace访问100多个热门、新兴和专业模型

尽管Amazon Bedrock中的模型能够支持众多任务,许多客户仍希望将新兴的专用模型融入到他们的应用程序中,为其独特的用例,如分析财务文档或生成新型蛋白质等提供支持。借助Amazon Bedrock Marketplace,客户如今能够轻松地从100多个模型中进行查找与选择,这些模型可部署在亚马逊云科技上,并能通过Amazon Bedrock中的统一体验进行访问。这涵盖了诸如Mistral AI的Mistral NeMo Instruct 2407、Technology Innovation Institute的Falcon RW 1B以及NVIDIA NIM微服务等热门模型,以及众多专业模型,如用于金融行业的Writer的Palmyra-Fin、用于翻译的Upstage的Solar Pro、Camb.ai的文本转音频MARS6以及用于生物学的EvolutionaryScale的ESM3生成模型等。

客户一旦找到他们想用的模型,就能依据自身扩展需求选择合适的基础设施,并通过完全托管端点轻松将其部署在亚马逊云科技上。客户随后可将该模型与Amazon Bedrock的统一应用程序编程接口(API)安全集成,从而使用诸如Guardrails和Agents等工具,并受益于内置的安全和隐私功能。

Zendesk是一家全球服务软件公司,服务于覆盖全球10万个品牌的多元文化客户群体。该公司可在Amazon Bedrock中使用如用于翻译的Widn.AI等专用模型,通过电子邮件、聊天、电话以及社交媒体对客户服务请求进行个性化和本地化处理。这将为客服人员提供其所需的数据,比如客户母语表达中的情绪或意图等,最终提升客户服务体验。

提示词缓存和Intelligent Prompt Routing帮助客户大规模处理推理问题

在选择模型时,开发人员需要权衡多种因素,如准确性、成本和延迟。针对其中任一因素进行优化,都可能意味着在其他因素上做出让步。为了在将应用程序部署到生产环境时平衡这些考量因素,客户会采用多种技术,例如缓存常用提示词或将简单问题分配给较小模型。然而,运用这些技术既复杂又耗时,需要专业知识来反复测试不同的方法,以确保终端用户获得良好的体验。正因如此,亚马逊云科技新增了两项功能,帮助客户更有效地大规模管理提示词信息。

  • 通过缓存提示词功能降低响应延迟和成本。Amazon Bedrock现已支持安全地缓存提示词,从而减少重复处理,且不会影响准确性。对于受支持的模型,此功能最高可将成本降低90%,并将延迟最多缩短85%。例如,一家律师事务所可以创建一个生成式AI聊天应用程序,用于回答律师有关文件的问题。当多名律师在提示词中询问关于文档同一部分的问题时,Amazon Bedrock能够缓存该部分内容,使其只需处理一次,之后每当有人想要询问相关问题时便可重复使用。这通过减少模型每次需要处理的信息量来降低成本。Adobe的Acrobat AI助手通过实现快速文档摘要和问答功能,提高了用户的工作效率。根据初步测试,借助Amazon Bedrock上的提示词缓存功能,Adobe发现其响应时间缩短了72%。
  • 提示词智能路由功能有助于优化响应质量和成本。借助该功能,客户能配置 Amazon Bedrock 自动把提示词分配至同一模型系列里的不同基础模型,以优化响应质量和成本。运用先进的提示词匹配和模型理解技术,提示词智能路由能够预测每个请求对应的每个模型的性能,并将请求动态路由至最有可能以最低成本提供所需响应的模型。提示词智能路由可在不影响准确性的情况下,将成本降低多达30%。Argo Labs为餐厅提供创新的语音代理解决方案,通过提示词智能路由处理各类客户咨询和预订业务。当客户提交问题、下单以及预订位置时,Argo Labs的语音聊天机器人会动态地将查询请求路由至最合适的模型,从而优化响应的成本和质量。例如,像“今晚这家餐厅有空桌吗?”这样简单的是非问题,可以由较小模型处理,而“这家餐厅提供哪些素食选项?”这类更复杂的问题则可由较大模型来回答。借助提示词智能路由功能,Argo Labs能够利用其语音代理无缝处理客户交互,同时实现准确性和成本之间的合理平衡。

Amazon Bedrock知识库的两项新功能助力客户最大程度发挥数据价值

无论自身数据存储于何处、采用何种格式,客户都希望利用它们为终端用户构建独特的由生成式AI驱动的体验。知识库是一项全托管功能,客户借助检索增强生成(RAG),能够轻松利用上下文相关及关联数据自定义基础模型的响应。虽然知识库已能便捷地连接至诸如Amazon OpenSearch Serverless和Amazon Aurora等数据源,但许多客户还希望将其他数据源和数据类型融入其生成式AI应用程序中。基于此,亚马逊云科技为知识库新增了两项功能。


  • 结构化数据检索支持功能加速生成式AI应用程序开发。Knowledge Bases提供了首批托管式、开箱即用的RAG解决方案之一,使客户能够直接查询其生成式AI应用程序中结构化数据的存储位置。这一功能有助于打破数据源之间的数据孤岛,将生成式AI开发周期从一个多月缩短至短短几天。客户能够构建应用程序,让应用程序运用自然语言查询来探索存储在Amazon SageMaker Lakehouse、Amazon S3数据湖以及Amazon Redshift等数据源中的结构化数据。借助这项新功能,提示词信息会转换为SQL查询,用于检索数据结果。Knowledge Bases会依据客户的架构和数据自动调整,从查询模式中学习,并提供一系列定制选项,进一步提高所选用例的准确性。信用情报公司Octus将运用Knowledge Bases中全新的结构化数据检索功能,允许终端用户使用自然语言查询结构化数据。通过将Knowledge Bases与Octus现有的主数据管理系统相连,终端用户的提示词信息可转换为SQL查询,Amazon Bedrock利用这些SQL查询检索相关信息,并将其作为应用程序响应的一部分返回给用户。这将帮助Octus的聊天机器人向用户提供精准的、由数据驱动的见解,增强用户与公司一系列数据产品之间的交互。
  • GraphRAG支持功能可生成更具相关性的响应。知识图谱允许客户通过将不同的相关信息映射成网状结构来对数据间的关系进行建模和存储。将这些知识图谱融入RAG时会格外有用,系统可依据图谱轻松审阅并检索相关信息片段。如今,凭借对GraphRAG的支持,Knowledge Bases可让客户无需具备图数据库专业知识,即可使用Amazon Neptune图数据库服务自动生成图谱,并跨数据链接各实体之间的关系。Knowledge Bases能够更便捷地生成更准确、更相关的响应,借助知识图谱识别相关联系,并查看源信息以了解模型如何得出特定响应。宝马集团将为旗下的My AI Assistant(MAIA)实施GraphRAG。MAIA是一款人工智能驱动的虚拟助手,可帮助用户查找、理解并整合托管在亚马逊云科技上的公司内部数据资产。借助由Amazon Neptune支持的GraphRAG自动化图形建模功能,宝马集团能够依据数据使用情况,持续更新MAIA所需的知识图谱,从其数据资产中提供更具相关且全面的洞察,进而持续为数百万车主打造优质体验。

Amazon Bedrock Data Automation将非结构化多模态数据转换为结构化数据,用于生成式AI和分析

如今,大多数企业数据都是非结构化的,这些数据包含在文档、视频、图像以及音频文件等内容中。许多客户希望利用这些数据挖掘见解或为客户打造新体验,但将其转换为便于分析或RAG所需的格式往往是一个艰难的手动过程。例如,银行在处理贷款业务时可能会接收多个PDF文档,需要从每个文档中提取详细信息,对姓名、出生日期等特征进行标准化以保证一致性,然后将结果转换为文本格式,再输入数据仓库进行分析。借助Amazon Bedrock Data Automation,客户能够使用单个API从非结构化内容中大规模自动提取、转换并生成数据。

Amazon Bedrock Data Automation能够快速且经济高效地从文档、图像、音频以及视频中提取信息,并将其转换为结构化格式,适用于智能文档处理、视频分析以及RAG等用例。该功能可以使用预定义的默认设置生成内容,例如视频片段每个场景的描述或音频的转录内容,客户也可以根据自身的数据架构生成定制化的输出内容,并将其轻松加载到现有的数据库或数据仓库中。通过与Knowledge Bases的集成,Amazon Bedrock Data Automation还可以解析内容以支持RAG应用程序,通过整合嵌入在图像和文本中的信息,提升结果的准确性和相关性。同时,该功能提供置信度评分,并基于原始内容生成响应,有助于降低生成“幻觉”风险并提高透明度。

Symbeo是一家隶属于CorVel的公司,提供自动化应付账款解决方案。Symbeo计划利用Amazon Bedrock Data Automation,从复杂的文档(如保险理赔、医疗账单等)中自动提取数据。这将帮助Symbeo的团队更快速地处理理赔事务,并缩短向客户回复的周转时间。数字资产管理平台Tenovos正在使用Amazon Bedrock Data Automation在大规模语义搜索中提升内容的复用率,复用率提高了50%以上,节省了数百万美元的营销费用。

Amazon Bedrock Marketplace现已正式可用,同时Amazon Bedrock Knowledge Bases中的推理管理功能、结构化数据检索、GraphRAG以及Amazon Bedrock Data Automation均已预览可用。此外,Luma AI、poolside和Stability AI的模型也即将上线。

]]>
云计算以及人工智能将为全球国内生产总值贡献数万亿美元 //www.otias-ub.com/archives/1729559.html Wed, 27 Nov 2024 07:12:30 +0000 //www.otias-ub.com/?p=1729559 亚马逊云科技联合从事经济影响研究的全球知名市场调查与咨询公司——电信咨询服务(Telecom Advisory Services)发布了三项新研究,这些研究评估了云计算的经济影响力、人工智能的采用情况以及上云所能提升的能源生产率。

研究结果显示,2023年,企业上云对GDP(全球国内生产总值)总体贡献超过1万亿美元,在云上使用人工智能为GDP贡献超过980亿美元。其中一项研究对未来发展做出如下预测:2024到2030年间,上云所产生的全球GDP将突破12万亿美元,而在云上使用人工智能将进一步贡献1.5万亿美元。

全球各地的经济影响

具体到全球各地,研究结果显示,2023年云计算在美国和加拿大创造了超过4,340亿美元GDP,其中560亿美元来自在云上使用人工智能。在欧洲,云计算创造了超过3,210亿美元GDP,在云上使用人工智能贡献了其中的300亿美元。亚太地区国家的这两项数据分别为1,520多亿美元和70多亿美元。

未来六年,使用云计算和人工智能将为全球带来更加可观的经济效益。到2030年,上云预计为美国和加拿大创造超过5.6万亿美元GDP,其中8,420亿美元将来自在云上使用人工智能。在欧洲国家,这两项数据将分别接近2.7万亿美元和4,340亿美元。在亚太地区,上云有望产生超过2.7万亿美元GDP。其中,在云上使用人工智能将贡献超过2,020亿美元。

数据中心和云计算已经深刻融入了我们的日常生活。为实现互联互通,亚马逊云科技为全球客户提供了遍布34个地理区域的108个可用区,以及Local Zones、Amazon CloudFront和数百个接入点。很多人都在不知不觉间使用着云计算——无论是在线联络亲友、网络购物、查看银行对账单、点外卖、拼车,还是在线看电影或综艺、听音乐,一切都是由数据中心和云来实现。

电信咨询服务公司负责人、本研究的策划者Raul Katz博士表示:”云计算是数字化转型的一大推动力,我们已经亲身体会到它对日常生活的影响。现在,我们终于可以用金额来量化这种影响,以及云计算产业对于全球经济的重要意义。”Katz博士也是哥伦比亚大学哥伦比亚远程信息研究所(Columbia Institute of Tele-Information)经营战略研究主任。”这些数据初看可能有如天文数字,但2023年数据表明,随着各行各业纷纷上云并在云上使用人工智能,全球经济已从中受益。而且,预测数据还显示了不可限量的未来增长空间。这无疑是数字化转型和人类发展的高光时刻。”

上云带来的能源效益

三项新研究中,有一项还考察了上云对能源生产率的影响。能源生产率是指单位能耗(兆瓦时)所创造的新增经济价值(GDP)。该研究显示,能源生产率的提升可以让公司和行业在消耗等量能源时,创造更多的商品和服务,从而降低各行各业的生产成本。由此可见,云计算发挥的作用极为突出。

该研究显示,当一个国家的上云比例提升10%,其能源生产率就会随之提高,这就让各行各业能够用等量的能源产出更多商品和服务。研究案例显示,如果一个国家的能源生产率增幅达到每兆瓦时14.57美元,该国企业就可以通过使用云计算技术,在消耗等量能源的前提下创造更多商品和服务。优化能源生产率可以降低成本,让企业将省下的资金投入到创新和业务扩张当中。照此计算,能源生产率的提高可为全球经济带来约2,168亿美元的新增GDP。

云计算和人工智能的应用正在改变日常生活

亚马逊云科技的数百万活跃客户都在使用云计算技术——包括人工智能——改善人们的日常生活。从支持Lyell和莫德纳(Moderna)的医疗革新事业,到推动Blackboard和PBS的数字化与个性化教育;从为用户提供在Netflix、Prime Video和迪士尼+(Disney+)平台上畅快的追剧和观影体验,到帮助达美航空(Delta Airlines)和福特(Ford)更好地服务运输业,亚马逊云科技正在赋能千行百业的数字化转型。其中,也不乏云原生客户,如爱彼迎(AirBnB)、Lyft、Slack、Snap以及Stripe等,这些企业都助推了行业变革。

在亚马逊云科技,人工智能目前已成为年营收率达数十亿美元的业务。来自各行各业的10万多家客户都在使用亚马逊云科技人工智能和机器学习服务来重塑客户体验,包括阿迪达斯(adidas)、纽约证券交易所(New York Stock Exchange)、辉瑞(Pfizer)、瑞安航空(Ryanair)和丰田(Toyota)等。此外,许多领先的生成式人工智能模型也在亚马逊云科技上训练和运行。

亚马逊云科技当前服务全球245个国家和地区,并公布了进一步新建18个可用区和6个区域的计划,这让全球各地的客户和公共部门组织都能通过使用云计算以及生成式人工智能等先进技术获益。

]]>
亚马逊与Anthropic深化战略合作 追加第二笔40亿美元投资 //www.otias-ub.com/archives/1728574.html Mon, 25 Nov 2024 00:32:51 +0000 //www.otias-ub.com/?p=1728574 北京——2024年11月23日 亚马逊宣布与Anthropic持续深化战略合作。Anthropic选择亚马逊云科技为模型训练首要合作伙伴,并计划使用Amazon Trainium和Amazon Inferentia芯片训练和部署未来的基础模型。此外,亚马逊将向Anthropic追加第二笔40亿美元投资。

去年9月,亚马逊与Anthropic宣布达成战略合作协议,内容包括Anthropic将亚马逊云科技指定为其主要云服务提供商,同时亚马逊对Anthropic投资40亿美元。随后,Anthropic Claude系列模型在亚马逊云科技上线,该系列自去年4月在Amazon Bedrock上线后,迅速获得广泛采用。如今,亚马逊与Anthropic进一步深化合作关系。除了继续以亚马逊云科技为主要云服务提供商,Anthropic现将亚马逊云科技指定为其模型训练首要合作伙伴,并计划使用Amazon Trainium和Amazon Inferentia芯片训练和部署未来的基础模型。双方将继续紧密合作,不断提升Amazon Trainium的硬件和软件能力。

随着双方合作进入新阶段,Amazon Bedrock将为运行Claude模型的客户提供更卓越的性能、安全性和隐私保护。此外,合作双方将携手为亚马逊云科技的客户提供早期访问权限,以能够使用自己的数据对Anthropic模型进行微调,这项定制化功能可让亚马逊云科技的客户在一段时间独享Claude新模型。

亚马逊云科技首席执行官Matt Garman表示:“借助Anthropic基础模型在Amazon Bedrock上开发生成式AI应用的客户都给予了积极的反馈。通过在Amazon Bedrock中继续部署Anthropic模型,并与Anthropic合作开发定制化的Amazon Trainium芯片,我们将不断拓展生成式AI技术的应用边界。Anthropic的创新速度和对负责任的生成式AI的承诺令我们印象深刻,我们期待与Anthropic进一步深化合作关系。”

Anthropic联合创始人兼首席执行官Dario Amodei表示:“对于Claude来说,这是突破性增长的一年。我们与亚马逊的合作至关重要,这使Claude模型的能力得以覆盖Amazon Bedrock上数万个客户的数百万终端用户。我们期待与亚马逊的深化合作,通过使用Amazon Trainium训练并支持我们最先进的AI模型,全面释放技术潜能。”

2024年,Anthropic多次刷新大型语言模型的性能基准,Claude 3和Claude 3.5系列模型均已在Amazon Bedrock上正式可用。其中,Claude 3.5 Sonnet近期升级了包括“电脑操作”在内的高级智能体能力。根据Anthropic的测试结果,该模型在代理编码任务中的表现超越了所有公开可用的模型。由于其卓越的性能,以及在Amazon Bedrock中提供的多样化高性能模型,Arcanum AI、b.well、HackerOne、HUDstats、Forcura、Iterate、NinjaTech.ai、Rexera、Sapio Sciences、StarTree、Thematic和Tulip等客户,已将其生成式AI工作负载迁移至亚马逊云科技。

这些公司和数以万计的来自初创公司、大型企业和政府机构的客户一起,正在亚马逊云科技上使用Anthropic最先进的模型运行其核心工作负载,以获得更好的性能,以及可靠性和安全性。通过Anthropic先进的生成式AI技术和Amazon Bedrock,客户能够安全接入业内顶级基础模型,并推动其在多种应用场景中的实现,包括客户服务聊天机器人、代码助手、翻译应用、药物研发、工程设计以及复杂业务流程。这些客户包括ADP(美国自动数据处理公司)、Airtable、Alida、Amdocs、BrainBox AI、桥水基金、Broadridge、CelcomDigi、科莱恩、Cloudera、Crypto.com、Degas Ltd.、DoorDash、Dovetail、Druva、Enverus、FeatherSnap、Forcura、Genesys、英国基因组学研究所、Georgia-Pacific、GoDaddy、HappyFox、Health eCareers、iFood、Instructure、Intuit、Jaja Finance、KT、Kytes、Lawpath、LexisNexis Legal & Professional、Lili、LivTech、Lonely Planet、M1 Finance、Mend.io、三菱电机、穆迪、nCino、Netsmart、NextGen Healthcare、Nexxiot、野村控股、Parsyl、Perplexity AI、辉瑞、PGA巡回赛、Proto Hologram、理光、Rocket Companies、瑞安航空、Shield、Showpad、西门子、Swindon Borough Council、T-Mobile、TUI、Verisk、Zendesk等。

 

]]>
亚马逊云科技:通过主动防御打造可信赖的云安全保障 //www.otias-ub.com/archives/1727106.html Fri, 15 Nov 2024 02:48:08 +0000 //www.otias-ub.com/?p=1727106 随着企业数字化转型的深入,云计算已成为支撑现代业务运营的核心基础。然而,伴随而来的网络安全威胁日益复杂且不断升级,给企业的运营稳定性和数据安全带来了严峻挑战。为了应对这一挑战,亚马逊云科技一直致力于通过创新的安全设计和领先的技术,帮助客户构建一个安全、稳定且可信赖的云服务平台。亚马逊云科技的“主动防御”策略,结合其全球化的基础设施和先进的威胁检测技术,形成了一个从威胁诱捕到实时响应的全方位安全防护体系,确保客户能够有效应对日益严峻的网络攻击。

主动防御:亚马逊云科技的安全战略

亚马逊云科技的安全防护策略的核心在于“主动防御”——即通过提前识别、拦截潜在威胁,防止攻击对客户业务产生影响。这种防御方式通过多层次的技术手段和全球化的安全网络,构建了一套高效、精准的安全防护体系。该体系的关键组件包括MadPot、Mithra和Sonaris三大系统,它们共同协作,形成了一个从威胁监控到自动响应的综合防护能力。

MadPot:模拟诱捕攻击行为

MadPot是亚马逊云科技开发的先进蜜罐系统,旨在诱捕和分析攻击者的行为。通过在全球范围内布设虚拟“诱饵”环境,MadPot模拟了亚马逊云科技的常见应用场景,吸引攻击者进行恶意尝试。这些虚拟环境中包含的服务和数据对攻击者具有吸引力,却并非真实业务资源。当攻击者试图入侵这些环境时,他们的行为将被详细记录并分析。这些情报为亚马逊云科技提供了关于攻击者手段、工具和模式的宝贵数据,进一步加强了防御策略的有效性。

MadPot的作用不仅限于引诱攻击者,它通过精确记录每一个恶意行为,帮助亚马逊云科技不断优化其他安全系统,提升整体防护能力。

2、Mithra:智能流量监控与攻击防御

Mithra是亚马逊云科技开发的一种大规模流量监控和信誉评分系统,特别用于应对分布式拒绝服务(DDoS)等大流量攻击。Mithra通过一个庞大的神经网络模型,涵盖了全球35亿节点和480亿条边,能够实时分析所有进入亚马逊云科技网络的流量请求。

Mithra每天处理超过200万亿次互联网请求,利用其强大的计算能力,对每一条请求进行信誉评分。当发现恶意流量或不可信请求时,Mithra会及时将其拦截。通过这种方式,Mithra有效防止了攻击者通过恶意流量占用资源,导致服务中断。在一次全球DDoS攻击中,Mithra成功阻挡了数十亿次恶意请求,确保了客户服务的稳定运行。

3、Sonaris:全球实时威胁检测与响应

Sonaris是亚马逊云科技的全球实时威胁检测系统,它依赖机器学习和深度神经网络,能够在几分钟内识别并响应网络攻击。与MadPot密切协作,Sonaris在全球范围内分析网络流量,实时发现并屏蔽恶意活动,尤其是针对亚马逊云科技的存储服务(如S3)和计算资源(如EC2)进行的潜在攻击。

Sonaris不仅能识别未经授权的访问行为,还可以实时限制攻击者的活动。例如,当恶意扫描Amazon S3存储桶或寻找Amazon EC2漏洞的行为被检测到时,Sonaris能够在几秒钟内做出反应,立即封堵这些潜在威胁。通过与MadPot的数据共享,Sonaris会持续更新自身的防御策略,以应对新型攻击方式。

在实际应用中,Sonaris成功地拦截了大量针对Amazon S3和EC2的攻击请求。2024年9月的数据显示,Sonaris成功阻止了83%的攻击尝试,显著减少了客户的数据泄露风险和潜在的业务中断。

持续创新,保障客户安全

在云计算和数字化浪潮的推动下,企业面临的网络安全挑战不断加剧。亚马逊云科技通过创新的主动防御策略,成功构建了一个覆盖全球的多层次安全防护体系,帮助客户应对日益复杂的网络威胁。通过MadPot、Mithra和Sonaris等系统的协同作战,亚马逊云科技为全球客户提供了强有力的安全保障,确保了其业务的稳定性与连续性。

未来,随着网络威胁的不断演化,亚马逊云科技将继续加强其安全防护体系的创新和优化,始终为客户提供更加安全、可靠的云服务和更加可信赖的云服务平台。

]]>
从意外发现到效率革命:亚马逊云科技大规模应用自动推理提升系统效率 //www.otias-ub.com/archives/1726463.html Wed, 13 Nov 2024 05:37:45 +0000 //www.otias-ub.com/?p=1726463 Byron Cook,亚马逊云科技自动推理副总裁及杰出科学家

编者按:亚马逊云科技是唯一一家如此大规模使用自动推理的云提供商。随着越来越多的人使用自动推理工具,这让我们在提升自动推理工具的可用性和可扩展性上更容易进行大量的投入。我们发现自动推理工具越易于使用,它们的功能就会变得越强大,同时自动推理工具的采用率也会变得越高。我们能证明云基础设施的正确性对于那些看重安全的客户而言我们的越有吸引力。正如本文所述,通过自动推理,我们不仅能够提高安全性,还能更快地为客户提供更高性能的代码,并最终节省客户的成本。

在亚马逊云科技应用自动推理的10多年时间里,我们发现经过验证的代码通常比它所替代的未经验证的代码性能更好。

这主要是因为在验证过程中我们所做的bug修复通常会提升代码的运行性能。自动推理让开发人员有信心去探索额外的优化,进一步提升系统性能。我们发现验证的代码更容易更新、修改和操作,这减少了半夜的日志分析和调试环节。

自动推理的基本概念

在亚马逊云科技,我们努力为客户构建简单、易用的服务。但在这种简单的背后却是庞大、复杂的分布式系统,每秒处理着数十亿个请求。验证这些复杂系统的正确性是一个极大的挑战。我们的服务随着新功能的增加、组件的重新设计、安全的增强和性能的优化,一直处于不断变化和发展的状态。很多变化本身就是非常复杂的,必须在不影响亚马逊云科技本身或客户的安全性和韧性的前提下进行。

设计评审、代码审计、压力测试和故障注入是我们经常以及未来都会一直使用的宝贵工具。然而,我们发现仍然需要使用额外的技术来确认许多情况下的正确性。细微的bug仍可能逃过检测,尤其是在大规模、容错架构中。有些问题甚至可能源于最初的系统设计,而不是实施缺陷。随着我们服务规模和复杂性的增长,我们不得不使用基于数学和逻辑的更强大技术作为对传统测试方法的补充。这就是人工智能(AI)的一个分支自动推理发挥作用的地方。

传统测试侧重于在特定场景下验证系统行为,而自动推理旨在使用逻辑来验证系统在任何可能场景下的行为。即使是一个中等复杂的系统,要重现可能发生的每一种可能状态和参数的组合,所需的时间也是难以想象的。自动推理可以通过计算系统正确性的逻辑证明来快速、高效地取得相同的效果。

使用自动推理需要我们的开发者具有不同的思维方式。我们不是试图考虑所有可能的输入场景及其可能出错的方式,而是定义系统应该如何工作,并识别出让它正确运行必须满足的条件。然后,我们可以使用数学证明来验证这些条件是否为真。换句话说,我们可以验证系统是否正确。

自动推理将系统的规范和实施以数学的形式进行审核,然后使用算法来验证系统的数学表示是否满足规范。通过把我们的系统编码为数学系统,并使用形式逻辑对其进行推理,自动推理使我们能够有效和权威地解答有关系统未来行为的关键问题。系统能做什么?它将做什么?它永远不会做什么?自动推理可以帮助回答系统的这些问题,即便是最复杂的、大规模的和潜在无限的系统——这些场景是单单通过传统测试无法彻底验证的。

自动推理能让我们达到完美的程度吗?不能,因为它仍然依赖于对系统组件的正确行为以及系统与其环境模型之间关系的某些假设。例如,系统模型可能错误地假设底层组件(如编译器和处理器)没有任何bug(尽管也可以对这些组件进行验证)。话虽如此,与使用传统软件开发和测试方法相比,自动推理让我们更有信心达到正确性。

更快的开发

自动推理不仅仅是数学家和科学家的工具。我们的 Amazon Simple Storage Service (Amazon S3) 工程师每天都在使用自动推理来防止bug。S3的背后是世界上最大、最复杂的分布式系统之一,它存储了400万亿个对象、EB级别的数据并通常需要每秒处理1.5亿个请求。S3由许多子系统组成,这些子系统本身就是分布式系统,其中许多由数万台机器组成。S3一直不断增加新的功能,同时它也被我们的客户大量使用中。

S3索引子系统是S3的一个关键组件,它是一个对象元数据存储,来支持快速的数据查找。该组件包含一个非常大的、复杂的数据结构和精密的优化算法。以S3的这种大规模,这些算法对于人类来说很难正确使用,同时我们也不能容许S3在查找时发生任何错误,为此我们大约每个季度都会进行新的改进,但任何更改都是在极其谨慎和大量测试的前提下进行的。

基于我们15年的经验,S3是一个构建良好以及经过充分测试的系统。然而,我们曾一度无法确认S3索引子系统中一个bug的根本原因。该系统能够从异常中自动恢复,因此该bug的存在并没有影响系统的行为。但我们并不满足于此。

为什么这个bug存在这么久?像S3这样的分布式系统拥有大量组件,每个组件都有自己的异常情况(corner cases),而且有可能同时发生很多异常情况。就S3而言,它拥有超过300个微服务,这些异常情况的潜在组合的数量是巨大的。即使开发人员有证据证明bug存在,并可能知道引起bug的根本原因,但对于开发人员来说,他们不可能考虑到所有异常情况,更不用说这些异常情况的不同组合了。

这种复杂性促使我们探索如何使用自动推理来探索可能隐藏在这些状态中的可能状态和错误。通过构建系统的正式规范,我们能够找到bug并证明未来不存在此类bug。使用自动推理也让我们有信心每一两个月发布一次更新和改进,而不是一年只发布三或四次。

更快的代码

Amazon Identity and Access Management (IAM)服务的正确性是确保我们客户工作负载安全的基础。每个发送到亚马逊云科技的请求即每个API 调用都由IAM授权引擎处理,这会涉及到数百万客户、数千种资源类型和数百种亚马逊云科技的服务。这种请求每秒就超过12亿次。这是亚马逊云科技中对安全要求最高以及需要高度扩展的软件之一。

在亚马逊云科技,任何改变在进入到生产环境之前,我们需要有极高的信心确保系统保持安全和正确。使用自动推理,我们可以证明我们的系统在几乎所有情况下遵守特定的安全属性。我们称之为可证明的安全性。自动推理不仅使我们能够为客户提供可证明的安全保证,还让我们能够大规模交付功能、安全性和优化。

与S3一样,IAM在过去超过15年时间里,已经成为一个经过时间考验的、值得信赖的系统。但我们想进一步提高标准。我们构建了一个正式规范来捕获现有IAM授权引擎的行为,将其策略评估原则编码为可证明的定理,并使用自动推理构建了一个新的、更高效的实施。今年早些时候,我们部署了新的经过证明正确的授权引擎——没人注意到。自动推理使我们能够无缝地用经证明正确的替换物代替授权引擎,一个最关键的亚马逊云科技基础设施之一。

有了规范和证明,我们可以很有信心的安全、积极地优化代码。在IAM的大规模下,每一微秒的性能改进都意味着更好的客户体验和我们自身更好的成本优化。我们优化了字符串匹配、删除了不必要的内存分配和冗余计算、加强了安全性并提高了可扩展性。每次更新后,我们都会再次运行证明,来确认系统仍在正确运行。

现在,优化后的IAM授权引擎相比之前快了50%。如果不使用自动推理,我们根本不可能这么有信心地进行如此重要的优化。

更快的代码部署

大多数在线安全交易都受到加密保护。例如,RSA加密算法通过生成两个密钥来保护数据:一个用于加密数据,另一个用于解密数据。这些密钥实现了安全的数据传输以及安全的数字签名。在加密这种场景下,正确性和性能至关重要——加密算法中的一个bug可能是灾难性的。

随着亚马逊云科技客户将工作负载迁移到Amazon Graviton上,针对ARM指令集的密码优化的好处也得到凸显。但是,通过加密优化获得更好的性能是很复杂的,这使得验证修改后的加密算法是否正常运行变得困难。在我们开始使用自动推理之前,对密码学库进行优化通常需要数月的审查,才能获得足够的信心将其投入生产环境。

自动推理的力量就在于此:正式验证使RSA更快,部署也更快。当我们将自动推理应用于椭圆曲线密码学时,我们也看到了类似的提升。

形成一个良性循环

我们在过去十多年间,在亚马逊云科技的内部越来越多的应用自动推理技术来证明我们的云基础设施和服务的正确性。我们经常使用这些方法不仅用于验证正确性,而且还用于增强安全性和可靠性,以及最小化设计缺陷。可以使用自动推理为一个系统创建一个精确且可测试的模型,使用该模型快速验证更改是否安全,或者发现它们是不安全的来避免对生产环节产生有害影响。

我们可以回答关于我们基础设施的一些关键问题,来检测可能导致数据泄露的错误配置。我们可以阻止一些我们无法通过其他技术发现的微妙但严重的错误进入生产环境。有了模型检查,我们获得了显著的性能优化,这是我们以往不敢尝试的。自动推理为关键系统按预期运行提供了严格的数学保证。

亚马逊云科技是唯一一家如此大规模使用自动推理的云提供商。随着越来越多的人使用自动推理工具,这让我们在提升自动推理工具的可用性和可扩展性上更容易进行大量的投入。我们发现自动推理工具越易于使用,它们的功能就会变得越强大,同时自动推理工具的采用率也会变得越高。我们越能证明云基础设施的正确性,对于那些看重安全的客户而言我们的云就越有吸引力。正如前文所述,我们不仅能够提高安全性,还能更快地为客户提供更高性能的代码,并最终节约客户的成本。

我们正处于一个新时代的开端,在这个时代大规模云架构的关键属性,诸如安全、合规性、可用性、持久性和防护等都可以实现自动证明。亚马逊与众不同之处就在于,我们从基础就用可靠的数学推理并持续分析我们所构建的一切,防止从AI幻觉到分析虚拟机监控程序、密码学和分布式系统等潜在问题的发生。

]]>
亚马逊云科技在中国区域推出Amazon Lambda SnapStart,启动性能提升10倍 //www.otias-ub.com/archives/1723979.html Wed, 30 Oct 2024 04:08:59 +0000 //www.otias-ub.com/?p=1723979 2024年10月29日 亚马逊云科技日前宣布,通过与光环新网与西云数据的紧密合作,在亚马逊云科技(北京)区域和(宁夏)区域推出Amazon Lambda SnapStart功能,将基于Java Lambda函数的启动性能提高多达10倍。Amazon Lambda SnapStart能够降低Java Lambda函数90%的异常的高启动延迟(冷启动),实现200毫秒以内的冷启动时间,让客户更轻松地构建响应迅速且可扩展的Java应用程序。客户使用Lambda SnapStart无需额外成本,尤其适用于构建同步 API、交互式微服务或数据处理等应用程序。

Amazon Lambda是亚马逊云科技于2014年推出的无服务器计算服务,开创了无服务器计算的先河,让客户只需关注业务逻辑,无需预置或管理基础设施,即可运行编写代码。通常情况下,Amazon Lambda函数在执行时会经历初始化(Init)、调用(Invoke)和关闭(Shutdown)三个主要阶段。对于使用Java runtime的应用而言,Init阶段往往较为耗时,有时甚至可能长达10秒。对于延迟敏感型应用程序,如果客户希望支持不可预测的流量突发,那么冷启动可能会导致用户体验发生延迟。

为了提升启动性能,Amazon Lambda SnapStart通过对Amazon Lambda执行环境的内存和磁盘状态进行加密快照,并在后续函数调用时直接从缓存中恢复这些状态,从而大幅减少初始化时间,实现近乎热启动的性能表现。在启用Amazon Lambda SnapStart功能后,Lambda函数会自动触发一个优化流程。该流程会先启动函数,完成整个Init阶段,然后对内存和磁盘状态创建一个加密的不可变快照,并将其缓存起来。待后续调用该函数时,Lambda服务将直接从缓存中按需检索并恢复这些状态,从而跳过漫长的Init阶段。

Amazon Lambda SnapStart将基于Java Lambda函数的启动性能提高多达10倍,尤其适用于延迟敏感型应用程序。

  • 显著提升用户体验:对终端类应用(如Web或移动应用)而言,SnapStart可帮助应用在面对流量高峰或突发流量时,保持毫秒级响应速度,为最终用户带来流畅的使用体验。
  • 优化实时数据处理:在物联网、游戏行业等实时数据处理领域,SnapStart可最大限度地降低数据延迟,确保Lambda函数及时处理大规模的事件数据,以支撑实时决策或个性化推荐等高实时性业务场景。
  • 提高系统可靠性:针对自动化工作流、流程编排等对可靠性和低延迟要求极高的应用场景,SnapStart能够实现毫秒级响应,大幅降低了错过关键时间窗口、导致系统故障的风险。

Amazon Lambda SnapStart已为众多客户及合作伙伴带来显著的效能提升。亚马逊云科技的合作伙伴Xerris通过Amazon Lambda SnapStart功能,将其应用的响应速度提升15倍,其可靠性和稳定性也得到改善。金融科技公司Currency Cloud使用Lambda SnapStart显著缩短了初始化时间,确保关键业务功能的高可用性,有助于推进更多高可用性的创新应用。

]]>
亚马逊云科技高可靠性秘密武器:基础设施到技术架构的韧性之道 //www.otias-ub.com/archives/1718314.html Thu, 19 Sep 2024 01:30:41 +0000 //www.otias-ub.com/?p=1718314 作为全球领先的云计算服务提供商,亚马逊云科技通过其高度可靠的基础设施和技术架构,为客户提供强大而灵活的计算、存储和数据库服务、AI等服务。屹立行业之巅,亚马逊云科技为何能引领云计算行业十几年,其秘密武器是打造的从基础设施到技术架构再到运营机制全链路韧性技术。

在近期亚马逊云科技媒体沟通会上,亚马逊云科技大中华区解决方案架构总经理代闻详细阐述了韧性技术背后的逻辑和思考。

如何打造高可靠的云服务

亚马逊云科技在2006年开创性地发布了第一款云服务,时至今日,亚马逊云科技提供了超过 240 种功能全面的服务。

代闻首先披露了一组数据,“亚马逊云科技去年每天稳定启动的Amazon EC2实例超过1亿,每秒 API请求数高达100万亿。正是因为做对了很多事情,才有今天全球数百万客户的选择和信任。”这在云计算行业可谓是首屈一指。

在代闻看来这些事故背后的风险包括:

基础设施层——括数据中心、主机、机架、网络故障,或自然灾害导致的损坏

架构设计层——数据状态、应用程序状态异常、依赖项失效等

运营机制层——由运维操作、代码部署、配置错误等引起的故障

想要构建高度可靠的云服务,必须要解决以上三个重点问题,

秘密武器:基础设施韧性、韧性技术架构和卓越的运营机制

在基础设施韧性方面,亚马逊云科技的基础设施分为区域、可用区(通常相距100公里)、多个或单个超大数据中心等多个层级。每个可用区的数据中心都有独立的电力、制冷和物理安全设施。

当一个可用区发生电力中断,自然灾害时,区域内其他可用区不会受到任何影响, 安全距离既能防止相关故障,又能实现毫秒级延迟的同步复制。

在可用区内部,可用区之间,区域和区域之间,均铺设光纤线路两两互联,实现高速数据传输的同时任一连接是冗余的,实现了高可用、低延迟的可用区网络设计。

在韧性技术架构方面,亚马逊云科技总结云服务自身韧性的四大要素:区域隔离,多可用区;控制面和数据面独立;单元架构;随机分片。

区域隔离,多可用区的目的是实现控制故障发生时对客户的影响范围。控制面和数据面独立能够确保云服务的数据平面能够独立于控制平面的状态持续稳定运行,且能够独立扩展互不影响。单元架构设计确保当发生故障时,只有该单元受影响,而不会导致整个系统瘫痪,无论硬件、网络、电力系统还是代码,都将影响最小化,进一步提高整个应用和系统的可用性。

为确保云服务的韧性,卓越的运营和机制至关重要,也是亚马逊云科技的差异化优势之一,亚马逊云科技的运营机制总结为4个模块:服务责任模型、运营就绪审查、持续安全部署、纠错流程。服务责任模型确保各项服务的良好运营,能够随叫随到。运营就绪审查提供了服务发布和更新相关的标准化流程。持续安全部署能够在保持服务连续性的实现安全的自动化部署。纠错流程能够了解错误发生的根本原因,同时成功的纠错记录还将成为运营就绪审查标准流程的一部分,确保问题不会再次发生。

授人以渔:帮助客户构建端到端的韧性

在与客户和内部团队展开多年合作的基础上,亚马逊云科技为韧性构建工程总结归纳为4大经验:

  1. 系统韧性的提高是持续的过程,而不是一次性的努力;

  2. 在业务需求、可靠性、成本、系统复杂度之间取得均衡;

  3. 以标准软件开发生命周期为蓝本,可轻松整合到企业现有流程中;

  4. 从业务、技术与持续运营等多个维度来帮助企业提高系统韧性。

基于经验分解,亚马逊云科技开发了韧性系统建设生命周期框架, 该框架包含五个关键阶段, 包括设定目标、设计及实施、验证和测试、持续运营、实施各种运营最佳实践、响应和改进。并强调韧性是一个持续的生命周期,需要不断重复五个阶段,以应对不断变化的环境和需求。

亚马逊云科技希望客户能够采用同样的单元架构方法论,来最小化自身应用的爆炸半径,提高可用性。亚马逊云科技90%以上的服务来源于用户需求。在韧性系统建设生命周期框架的五个阶段,亚马逊云科技都提供了多种服务和工具:如Amazon Resilience Analysis Framework、Amazon Aurora、Amazon DynamoDB、Amazon Aurora Global Database、Amazon Fault Injection Simulator(FIS)、Amazon Resilience Hub、Amazon Application Recovery Controller等。

系统的可观测性和故障自动化处理

针对199IT提出的“如何持续提高系统的可观测性和自动化”这一问题,代闻表示,一个关键点是API。一个云服务平台没有 API 或者 API 不健全,自动化是没有办法做到。

亚马逊云科技在全球云计算行业做了非常好的示范带头作用, API 是怎么写,API 的细颗粒度以及安全等前置考虑都实现得非常好。要做自动化和可观测性,你一定需要把应用和这个基础架构里面的数据能够拿出来,能够看,能够做分析。

另外一个关键点是亚马逊云科技对云原生服务支持已经足够好,并提供了一系列的云原生服务,像 Amazon Aurora global Database 能够自动跨区域数据复制;Amazon Lambda无服务器运算,客户只需要关心它的代码运营环境,底层高可用弹性都是自动实现。GenAI领域,用户在Amazon Bedrock中做推理的时候,不用做很多的基础运维工作,亚马逊云科技比较好地平滑地给客户提供一个可扩展环境。一些新的云原生的服务在不断地推出,这将会大大简化自动化流程,并降低可观测性的难度和复杂度。

细微处见真章,云计算行业需要务实、为客户负责、对安全可靠的前置通盘预判,从基础设施到技术架构到运营机制,亚马逊云科技对韧性技术的打造,是赢得客户青睐和信任的秘密武器。

]]>
亚马逊云科技宣布Amazon EC2 P5e 实例正式可用 //www.otias-ub.com/archives/1718168.html Wed, 18 Sep 2024 05:52:14 +0000 //www.otias-ub.com/?p=1718168 亚马逊云科技宣布由英伟达H200 GPU提供支持的 Amazon Elastic Compute Cloud P5e(Amazon EC2 P5e)实例现已正式可用。亚马逊云科技是首个将英伟达H200 GPU用于生产环境的领先云提供商。与基于英伟达H100 GPU的Amazon EC2 P5实例相比,Amazon EC2 P5e实例GPU内存容量提升1.7倍,GPU内存宽带提升1.5倍。Amazon EC2 P5e非常适用于复杂的大型语言模型(LLM)和多模态基础模型(FM)的训练、微调和推理,用于支持最苛刻和计算密集型的生成式AI应用,如问答、代码生成、视频和图像生成、语音识别等。

Amazon EC2 P5e实例提供8个英伟达H200 GPU,具有1128GB高带宽GPU内存,同时提供第三代AMD EPYC处理器,2TB系统内存和30TB本地NVMe存储。Amazon EC2 P5e实例还提供 3,200 Gbps的聚合网络带宽并支持GPUDirect RDMA,从而能够绕过CPU进行节点间通信,实现更低的延迟和高效的横向扩展性能。Amazon EC2 P5e实例具有的更高的内存带宽、更大的GPU内存容量和对更大的batch sizes的支持,从而显著提升客户工作负载的性能、降低成本并简化运营。

Amazon EC2 P5e实例现已可通过Amazon EC2 Capacity Block for ML工具访问并在美国东部(俄亥俄州)区域正式可用。

此外,亚马逊云科技还宣布将推出Amazon EC2 P5en实例,通过将英伟达H200 GPU与定制的第四代英特尔Xeon可扩展处理器相结合支持PCle Gen5,将提供高达四倍的CPU和GPU之间的带宽,降低网络延迟,进一步提高工作负载性能。

 

]]>
从容应对未知风险——解密亚马逊云科技的韧性之道 //www.otias-ub.com/archives/1715629.html Wed, 28 Aug 2024 08:19:53 +0000 //www.otias-ub.com/?p=1715629 越来越多用户希望企业业务能7×24不间断运行,同时企业却面临越来越多业务中断的风险,如企业系统复杂性的增加,频繁的功能更新和发布等。如何确保业务连续性,提升韧性,成为企业急需解决的问题。

韧性是应用程序抵御中断或从中恢复的能力,包括与基础设施、依赖服务、错误配置、网络问题和负载激增相关的中断。在亚马逊云科技,构建云韧性是一项最基础的工作。亚马逊云科技从一开始并持续在其基础设施、服务设计与部署、运营模式和机制中将韧性考虑其中。在此基础上,亚马逊云科技还提供一套全面的服务、最佳实践等,进一步帮助客户提升自身的韧性。

亚马逊云科技的韧性始于全球基础设施

亚马逊云科技全球基础设施地理位置分散,遍及34个地理区域的108个可用区。为了避免单点故障的影响范围,亚马逊云科技最小化全球基础设施之间的互联性。每个区域都独立于其他区域,区域之间的这种隔离机制确保单个区域发生服务故障时,其他区域不受影响仍正常运营。每个区域由三个或更多个相互独立,且在物理上分隔的可用区组成。每个可用区都有独立的电力、制冷和物理安全设施,同一区域内的可用区之间的物理距离也经过精心计算——通常是100公里以内。可用区的这种隔离机制,既能防止如供电、冷却等常见故障点,也能避免同时受到如地震、洪水等大规模灾害的影响。可用区之间又通过冗余的超低延迟网络连接,可实现可用区间单位毫秒级延迟的数据同步复制。为了获得高可用性的同时可以实现更大的容错能力,客户可以将他们的应用程序设计为在多个可用区中运行。

马逊云科技将韧性根植于服务及架构设计中

亚马逊云科技构建的服务均满足极高的可用性目标。在服务/系统设计时,亚马逊云科技使用通过对服务的控制平面和数据平面进行隔离设计,并采用 “单元架构”设计模式,减少故障发生的可能,并尽可能降低故障发生时的影响范围。

亚马逊云科技服务分为控制平面和数据平面,并对他们进行分离设计,即数据平面不依赖于控制平面而独立运行,当控制平面发生故障的情况下数据平面仍能继续正常运行。其中,控制平面提供用于创建、读取/描述、更新、删除和列出(CRUDL)资源的管理 API,例如启动新的 Amazon EC2 实例、创建 Amazon S3 存储桶以及描述 Amazon SQS 队列等。数据平面是提供服务的主要功能,例如正在运行的Amazon EC2 实例本身、读取和写入Amazon EBS 卷、在 Amazon S3 存储桶中获取和放置对象等。控制平面往往是复杂的协调和聚合系统,会执行多项任务;数据平面则没那么复杂,相比控制平面其发生故障事件的可能性要小。这类似于火车系统,控制平面相当于指挥中心,数据平面则是铁路线路,当指挥中心如通讯系统出现临时故障时,火车仍然能按照既定线路运行。

亚马逊云科技根据区域和可用区的隔离机制以及控制平面和数据平面分离的原则,提供三种服务类型:全局(Global)服务、区域级(Region)服务、可用区级(AZ)服务。全局服务的控制平面和数据平面不是在每个区域中独立存在。全局服务以Amazon Identity and Access Management(Amazon IAM)为例,该服务是全局服务,它的数据平面独立存在于每个区域(Region),该区域中的每个云服务都直接与Amazon IAM数据平面交互。Amazon IAM 有独立的控制平面,客户可以使用它来管理身份和策略等IAM 资源。当 IAM 控制平面故障的情况下,无需任何更改,每个区域的身份验证和授权(即IAM的数据平面)都可以继续正常运行。

区域级服务是建立在多个可用区域之上的服务,数据平面和控制平面都是区域级别。以Amazon S3 为例,将请求和数据分布在多个可用区之间,可以自动从可用区故障中恢复。

可用区级服务可在一个区域内的每个可用区中独立运行,不依赖于其他可用区中的组件,可用区服务可以指定将资源部署到哪个可用区,如Amazon EC2属于可用区级服务。客户可以通过部署多可用区架构运行具有更高可用性、容错能力和可扩展性的生产级工作负载。当工作负载使用多个可用区架构时,可以更好地隔离和保护客户免受影响单个可用区物理基础设施问题的影响,即使一个可用区出现故障,工作负载也能保持运行。

此外,为了进一步降低故障发生时的影响范围即“爆炸半径”,亚马逊云科技还采用了“单元架构”设计模式。该模式将服务切分为多个部署堆栈,每个部署堆栈称为“单元” ,每个单元之间都是互相独立的,不共享任何内容,包括数据库,每个单元服务于一个或多个客户。采用了单元架构后,以可用区级别的服务为例,服务发生故障的影响范围就限制在单元内,而不是整个可用区。

“经验没有压缩算法”——通过卓越的运营和机制确保云服务的韧性

亚马逊云科技还建立内部运营机制,通过服务责任模型、运营就绪审查、安全/持续部署以及错误流程纠错来确保云服务的韧性。其中,亚马逊云科技的工程和产品管理工作由小型多学科团队领导,他们对所提供的服务拥有强大的所有权——不仅负责设计和发布服务,还负责在生产过程中运营服务,并在出现问题时随时待命。

在一项服务发布之前,亚马逊云科技还会使用“运营就绪审查”流程来审核所有新服务的运营准备情况。当对部署软件进行服务更新或推出新服务时,亚马逊云科技会使用安全、持续的部署管道。为了最大限度地减少错误部署对生产造成的潜在影响,亚马逊云科技通过使用广泛的预生产测试、自动回滚和交错生产部署,将自动化部署安全构建到发布过程中。例如,一项服务的更新会从小处开始,首先部署到可用区内的单个最小单元,并经过指定的等待期以验证没有出现问题,再逐步部署到整个可用区的其余部分、其他可用区、单个区域,最后部署到其余区域。

此外,亚马逊云科技还利用“纠错流程”,对客户事件进行分析、研究,找出根本原因,减少其他服务发生类似问题的可能性,防患于未然。

亚马逊云科技赋能客户利用“云韧性”提升“云中韧性”

构建韧性是一个持续的过程,而不是一次性的努力。为了帮助客户更轻松地提升云中应用的韧性,亚马逊云科技基于自身以及多年服务客户的广泛经验,总结了一套包含了服务、策略和架构最佳实践的“韧性系统建设生命周期框架”。该框架包含五个阶段:设定目标、设计和实施、验证和测试、持续运营以及响应和改进。

亚马逊云科技在每个阶段都为客户提供了适用的工具和服务。例如,客户可以使用Amazon Resilience Hub来设置目标,根据这些目标评估韧性状况,并根据Amazon Well-Architected Framework和Amazon Trusted Advisor的建议实施改进措施。在Resilience Hub中,客户可以创建和运行Amazon Fault Injection Service实验,这些实验允许客户测试其应用程序将如何响应某些类型的中断。其他服务,如Amazon BackupAmazon Elastic Disaster Recovery (Amazon DRS)Amazon Route53 Application Recovery Controller (Route 53 ARC),可以帮助客户快速响应和从中断中恢复。

结语

正如亚马逊首席信息官 Werner Vogels曾说过“Everything fails all the time”(故障总在情理之中、意料之外),这也是亚马逊云科技从开始并始终加强和发展韧性的原因。亚马逊云科技将持续为客户提供广泛、深入的架构及运营最佳实践服务、工具和指导,帮助客户在云中构建和运行韧性的应用程序。

]]>
亚马逊云科技如何追踪并阻止云端的安全威胁 //www.otias-ub.com/archives/1713537.html Wed, 14 Aug 2024 05:07:27 +0000 //www.otias-ub.com/?p=1713537 作者:亚马逊首席信息安全官C.J. Moses

来自全球各地的企业信任亚马逊云科技存储及处理其最敏感的数据。业界领先的威胁情报是我们确保客户在亚马逊云科技上的数据安全的一种方式,我们通过该项目识别和阻止各种可能危害或干扰我们客户或我们基础设施的恶意在线活动。我们非常重视制定准确、及时、可操作和可扩展的威胁情报,并在这方面投入了大量资源。

很多客户非常想了解我们威胁情报的来源、我们检测到了哪些威胁、我们如何根据所观察到的内容采取行动,以及他们需要做什么来保护他们自己。这些问题表明,首席信息安全官(CISO)的角色已经从主要技术职能演变为战略性以及面向业务的职能,他们知道有效的威胁情报对于组织的成功和韧性至关重要。

只有亚马逊云科技的全球规模才能达到的高保真威胁情报

我们每一天都会对亚马逊云科技的基础设施进行扫描、检测和防御网络攻击。作为全球最大的公共云服务提供商,亚马逊云科技对互联网的某些实时活动,拥有独到的洞察优势。但要让威胁情报对安全产生有意义的影响,就必须收集来自整个互联网的大量原始数据并迅速分析。同时,还必须剔除误报。例如,威胁情报可能会错误地将员工在下班后登录访问敏感数据视为内部威胁,而实际上该员工可能是因为临时项目而不得不加班工作。威胁情报的生成非常耗时,需要大量人力和数字资源。人工智能(AI)和机器学习可以帮助分析师筛选和分析大量数据。然而,如果无法收集和分析整个互联网上的相关信息,威胁情报的用处就非常有限。对于时间敏感类信息,组织机构即使能够自行收集可操作的威胁情报,如果没有覆盖全球的云基础设施,也很难或不可能及时并大规模地与他人共享。

亚马逊云科技的基础设施彻底改变了威胁情报,我们通过大量情报信号(由我们的安全工具生成的通知)显著提高了威胁情报的准确性——即我们所说的高保真。亚马逊云科技复杂的全球分布式威胁传感器网络MadPot具有自动响应功能,随着我们使用MadPot发现和监控潜在的有害活动,我们也在不断提升针对威胁参与者不断发展的战术、技术和程序(TTP)的观测和应对能力。

通过亚马逊云科技的全球网络和像MadPot这样的内部工具,我们可以实时接收和分析数千种不同类型的事件信号。例如,MadPot每天能检测到1亿多个来自全球的潜在威胁,其中约有50万个被归类为恶意活动。这意味着高保真的发现会生成有价值的威胁情报,我们因此可以迅速采取行动,保护世界各地的客户免受有害和恶意在线活动的影响。我们也会将高保真情报产生的实时发现输入到我们的智能威胁检测安全服务Amazon GuardDuty中,对数百万个亚马逊云科技账户进行自动威胁检测。

亚马逊云科技的Mithra评估域名可信度,帮助保护客户免受威胁

识别恶意域名(互联网上的物理IP地址)对于有效的威胁情报至关重要。当亚马逊云科技客户与域名进行交互时,GuardDuty会生成各种发现(如异常行为等潜在的安全问题),每个域名都会根据各种评估可信度的指标得到一个信誉评分。为什么要进行这种评分排名?维护一个高质量的恶意域名列表对于监控网络犯罪行为、保护我们的客户至关重要。我们如何完成这个庞大的评分排名任务?首先将它想象成一个庞大的图表(可能是现存最大的图表之一),大到人根本无法查看和理解其全部内容,更不用说从中获得可用的洞察了。

让我们认识一下Mithra。Mithra这个名字源自一种神话中的升起的太阳,它是一个由亚马逊云科技开发的大型内部神经网络图模型,使用为威胁情报而设计的算法。

Mithra的信誉评分系统具有35亿个节点和480亿条边,专门用于识别客户接触到的恶意域名,并对这些域名进行相应的打分。我们每天观察到大量DNS请求,仅在亚马逊云科技一个区域就高达2000万亿次,Mithra每天平均检测到182,000个新的恶意域名。Mithra每天都会为每个在亚马逊云科技内查询的域名算出一个信誉评分,这让亚马逊云科技不需要依赖第三方来检测新兴威胁,同时相比使用第三方能更快生成更好的知识。

Mithra不仅能够以惊人的准确性检测恶意域名,减少误报,而且这个超级图还能够比第三方的威胁情报源提前数天、数周,有时甚至数月预测恶意域名。这种强大的能力意味着我们每天都可以观察到并应对数百万个安全事件和潜在威胁。

Mithra对域名进行评分,可用于:

  • 生成一个新的、高度可信的恶意域名列表,用于诸如GuardDuty之类的安全服务中,保护我们的客户。GuardDuty还允许客户阻止恶意域名并获取潜在威胁的警报。
  • 使用第三方威胁情报源的服务可以借助Mithra的评分来显著减少误报。
  • 亚马逊云科技安全分析师可以在安全调查过程中使用这些评分作为额外的参考。

与客户分享我们高保真威胁情报,提升他们的自我保护能力

我们的威胁情报不仅用于无缝增强亚马逊云科技和客户所依赖的安全服务,我们还主动与那些可能会受到恶意行为者攻击或潜在入侵的客户和其他组织分享关键信息。威胁情报接收者可以通过评估我们分享的信息,采取措施来降低风险,防止业务中断。

例如,通过我们的威胁情报,如果我们发现某些组织机构的系统可能会被威胁行为者入侵,或似乎运行了配置错误且易受攻击或滥用的系统(如开放数据库),我们就会对这些组织机构发出通知。网络犯罪分子会持续扫描互联网来寻找暴露的数据库和其他漏洞,数据库暴露的时间越长,恶意行为者发现并利用它的风险就越高。在某些情况下,当我们收到信号表明第三方组织(非客户)可能会遭到威胁行为者入侵时,我们也会通知他们,因为这样做可以阻止进一步的攻击,促进整个互联网的安全。

通常,当我们向客户和其他组织机构发出此类问题的警报时,这是他们第一次意识到自己可能被入侵了。他们收到通知后,可以进行调查来决定需要采取哪些措施来保护自己,防止可能导致中断或进一步攻击的事件的发生。我们的通知通常还包括组织机构可以采取的行动建议,例如审查特定域名的安全日志并阻止它们,实施缓解措施,更改配置,进行取证调查,安装最新补丁或将基础设施置于网络防火墙之后。这些主动行动能帮助相关组织机构在潜在威胁发生之前就采取行动,而不是在事件发生后才做出反应。

有时,我们通知的客户和其他组织机构也会反过来提供一些信息,让我们能进一步为他人提供帮助。如果受影响的组织机构在调查后向我们提供相关的入侵指标(indicators of compromise,IOC),这些信息可用于提升我们对入侵发生方式的理解。这种理解可能会带来重要的洞察,我们可以与他人分享这些洞察,他们进而利用这些信息采取行动来改善自身的安全态势——这是一个良性循环,通过协作促进安全。例如,我们收到的信息可能会帮助我们了解一个社会工程学攻击或特定的网络钓鱼活动是如何通过在受害者系统上安装恶意软件来破坏一个组织的安全。或者,我们可能会收到用于实施入侵的零日漏洞信息,或了解如何使用一个远程代码执行(RCE)攻击来运行恶意代码和其他恶意软件来窃取数据。然后,我们可以使用和分享这些情报来保护客户和其他第三方。当大家相互合作、共享资源、情报和专业知识时,这种协作和协调响应会更加有效。

亚马逊云科技运营着可靠的云基础设施,这让我们拥有独特的视角观测安全态势和客户每天面临的威胁。我们分享的威胁情报提高了客户和其他组织的安全性,这让我们深受鼓舞,我们将继续寻找更多能提供帮助的方式。

]]>
亚马逊云科技中国区域推出Amazon Private CA私有证书服务 为中国智造加速 //www.otias-ub.com/archives/1705509.html Tue, 02 Jul 2024 02:47:59 +0000 //www.otias-ub.com/?p=1705509 北京——2024年7月2日 亚马逊云科技宣布,通过与光环新网和西云数据的紧密合作,在亚马逊云科技(北京)区域和(宁夏)区域推出私有证书授权管理服务Amazon Private Certificate Authority(Amazon Private CA),助力企业加速构建私有证书体系,安全高效地识别内部设备、应用和资源,并提供集中化管理和保护。证书是网络中确认对方身份的关键载体,私有证书常用于企业内部非公网场景,如物联网(IoT)设备的远程控制和升级、车联网设备的通信等。通过Amazon Private CA,企业无需专业的技术人员和运维投入,即可利用专属的加密硬件为私有证书体系提供高级安全防护,方便地对各种用途的证书进行不同层级管理。Amazon Private CA支持国密算法和各种广泛使用的加密算法,以及如连接标准联盟CSA推出的Matter等关键的行业认证,可有效降低企业的安全合规成本,助力中国智能制造企业加速业务创新。

亚马逊云科技大中华区产品总经理陈晓建表示:“如今,越来越多企业正通过构建私有证书体系提升企业的业务安全。我们很高兴将Amazon Private CA服务在中国区域落地,将亚马逊云科技云计算的弹性、安全等优势带给企业用于私有证书的构建和管理,帮助他们更加便捷、高性价比地实现大范围私有证书部署,更安全的进行业务创新。”

随着数字化转型加速,越来越多金融、医疗、大型制造业等企业,欲通过构建私有证书体系,进一步提升企业数据和通信安全并满足合规要求。但自建私有证书体系的门槛较高,需要专业人员、昂贵加密硬件的投入,且证书全生命周期管理复杂,需分配不同层级证书、权限,设置吊销周期等。

Amazon Private CA是一项完全托管的私有证书授权管理服务,用于创建多功能私有证书及其授权配置的创建,识别和保护内部资源如服务器、应用程序、用户设备和容器等,满足监管合规要求,并提供便捷的管理功能,降低企业实施证书授权和管理的门槛。

  • 提供专属加密硬件模块,确保证书授权密钥安全。Amazon Private CA使用专属的加密机硬件安全模块来保护并存储密钥,并支持国密算法和各种广泛使用的加密算法,能够有效确保私有证书免受密钥泄露。
  • 支持高达5层的证书层级结构,助力企业轻松实施证书授权系统的集中化管理。企业使用Amazon Private CA,无需依赖任何外部的证书系统就能创建完整的证书授权层级系统。该服务支持导入第三方证书系统颁发的证书,并与Amazon Identity and Access Management(Amazon IAM)集成,帮助企业实施细粒度的权限控制策略,例如为不同级别的部门分配不同的证书层级。企业也可以为内部和外部供应商设置不同的账号,并通过跨账号共享授权来制定更加灵活且集中化的证书管理体系。
  • 多种易用功能,降低实施门槛。Amazon Private CA支持通用证书和最长7天的短期证书,企业可轻松快速地设置和管理私有证书。该服务还支持开发人员通过API接口或Amazon CloudFormation模板来快速创建和管理证书体系,或是进行签发操作,还支持大量、自动化的证书签发和部署。此外,该服务也支持对非实物设备的资源创建定制的私有证书,如特定的算法、证书生命周期的配置或是应用程序,以帮助企业设置更灵活的安全控制机制。

Amazon Private CA目前广泛应用于IoT物联网和车联网领域。Amazon Private CA已符合连接标准联盟CSA提出的Matter合规要求,企业使用Amazon Private CA服务可按需付费,大幅降低获得Matter认证的成本,并减少在证书安全和管理上的工作量。2023年全球通过Matter认证的企业有一半以上使用了Amazon Private CA服务。

道通科技专注于新能源充电桩、汽⻋综合诊断、检测分析系统及汽⻋电⼦零部件的研发、⽣产、销售和服务,致⼒于为客⼾提供“更智能、更易⽤、更可靠、更绿色“的全场景极致充电体验。凭借过硬的产品⼒、端到端的服务体验、本地化建⼚策略,道通科技已发展成为全球领先的电动汽⻋充电解决⽅案提供商,业务覆盖北美、欧洲、亚太、南美、中东⾮等70多个国家和地区,在北美、越南和中国均设有⽣产基地。道通科技采⽤Amazon Private CA⽀持其多种业务场景,包括在其⽣产线上实时给每台设备签发和预置唯⼀的数字证书;为软件签发签名证书以实现固件和软件的合法性校验和防篡改;同时也为设备运维MQTT平台签发各种服务端证书,以建⽴服务之间、服务和设备之间的双向安全通道。Amazon Private CA显著降低了道通科技在全球业务⽅⾯的安全合规投⼊,并全⾯加强了其物联⽹产品的通信安全和软件安全。

]]>
亚马逊云科技代闻:生成式AI时代技术架构演进的安全稳定可信赖之路 //www.otias-ub.com/archives/1701737.html Tue, 11 Jun 2024 09:42:58 +0000 //www.otias-ub.com/?p=1701737 2024年,生成式AI如火如荼地迭代中,从文生文、文生图到文生视频、音频,生成式AI进一步强化。同时这一能力也开始大量应用到艺术创作、娱乐、金融、医疗、制造、汽车等多领域。麦肯锡此前估算,生成式AI每年对全球经济的贡献至多达7.9万亿美元。

作为全球云计算行业的领导者,亚马逊云科技在不久前落幕的2024中国峰会上,发布了诸多与生成式AI相关的重大战略、方案和合作计划。越来越多的企业在业务中使用生成式AI。在生成式AI时代,技术架构演进如何安全稳定地进行,亚马逊云科技大中华区解决方案架构总经理代闻给出了一些新的思考。

在代闻看来,生成式AI的底层仍然是云计算核心能力来支撑。“只有在云计算的环境下,才有机会做这样的从应用到CPU的全栈创新。亚马逊云科技为客户提供的是云计算服务,所以能够在不断提升服务能力的前提下,保持内部全栈创新的灵活性。同时能够了解到使用最多的应用及其资源消耗模式,以此来挑选对用户来说收益最高的技术点来做针对性优化,快速改进软件和硬件堆栈,甚至CPU设计。”

基础组件能力决定了架构设计

生成式AI底层由云计算支撑,云计算的最基础组件是计算、存储和网络,其中又以计算作为最核心的组件。从Amazon Nitro到SRD、SIDR、UltraCluster、Nitro Enclaves、存储、自研芯片Amazon Graviton,亚马逊云科技不断创新赢得了客户的认可。

回顾发展历史,亚马逊云科技不断为客户打破技术和产品服务能力的上限。这些重要节点包括:

2017年亚马逊云科技对外宣布了Amazon Nitro虚拟化平台。将安全、管理和监控也卸载到了硬件上,将主机算力近乎100%地提供给客户,并且进一步加强了虚拟化的安全。更重要的是,实现了虚拟化平台和服务器选择的解耦,因此底层的虚拟化技术创新和上层的服务器种类发展可以并行展开。回顾Amazon Nitro 的十年的发展历程,亚马逊云科技已经发布了五代Amazon Nitro芯片。持续在网络性能、存储性能 和 安全加固。获得更低的延迟、更高的吞吐量以及每秒处理更多数据包的能力。

Amazon Nitro应用的2013年,Amazon EC2 C3系列虚拟机获得了万兆带宽。之后随着Nitro创新,带宽发展到100Gbps、400Gbps,直到现在的单机6.4Tbps,为大模型训练提供了有力的保障。并且,最新Amazon Nitro支持的包转发达到了30Mpps(Packets Per Second),即每秒处理三千万个数据包。

在最新的Amazon Nitro 平台支持下,单个虚拟机的最大 IOPS 可以到 400K,存储带宽可以到 100Gbps。

过去5年, 亚马逊云科技发布了四代Amazon Graviton。亚马逊云科技在全球规模化提供的基于 Amazon Graviton 的 Amazon EC2 实例种类达 150 多个,已经构建的 Amazon Graviton 处理器数量超过 200 万个,并拥有超过 50,000 客户。这些客户涵盖了Amazon EC2 最大的前 100 个客户,他们使用基于Amazon Graviton 的实例为其应用提供最佳性价比。

架构体系创新拓展核心能力

在代闻看来,在架构体系创新中,韧性、弹性与效率是其中的关键。

为构建和运行世界上最可靠的云,亚马逊云科技持续投入,在服务设计和部署机制中构建保障措施,并将韧性植根于运营文化之中。如何应对不可控制的外部风险,以及管理不善造成的内部风险,是技术架构韧性要解决的主要题目。如同桥梁的韧性一样。

最近一段时间,云服务自身的可靠性导致的事故原因大都与云平台的访问控制核心服务相关,亚马逊云科技的Amazon IAM提供高可靠的访问控制服务。Amazon IAM在每个区域的数据平面都采用了单元架构来实现高可用。单元架构,Cell-based Architecture,是一个架构设计方法,目的是最小化故障的影响范围,降低“爆炸半径”。基于多区域的控制面与数据面的隔离,基于区域内 单元架构,Amazon IAM实现了全球高可靠架构。现在,Amazon IAM每秒处理超过十亿次调用,是毫无疑问的高韧性的安全基石。

就弹性和效率而言,亚马逊云科技的Serverless不仅是产品,更是一种构建方式。具有代表性产品Firecracker、Amazon Lambda SnapStartCaspian。

Firecracker轻量级虚拟化技术,旨在快速启动和管理容器化工作负载,提升资源效率和安全性。Amazon Lambda SnapStart提升10倍冷启动速度。Caspian实现了类似“多库同宿主,允许共享预留”的逻辑。

多元技术融合驱动架构创新

生成式AI应用催生新的数据架构。生成式AI应用的云上的参考架构比过去三层web应用架构和微服务架构完全不同,核心原因是多了一个或几个响应没那么快的大模型。生成式AI应用的数据架构包括以下三个方面:

第一、在用户交互侧,不变的核心要求是响应时间要快

第二、在后端涉及数据流的更新,数据的ETL处理

第三、用户和后台中间的是大模型和用户聊天的各种上下文数据,或是来自企业业务的“特定领域”的知识数据

整体应用架构是多元技术均衡的结果,需要考虑以上诸多因素,包括成本、合规、扩展性、可持续发展、韧性、安全、性能、访问可达性、可用性等等。架构师的工作就是在不同的场景下对不同的需求,通过一系列的折中取舍持续优化。没有一个架构是十全十美的。架构本身也受技术发展不断影响,一个良好的架构应该能够随着多元因素的影响不断演进。

亚马逊云科技的优良架构体系(Well-Architected Framework)到现在已经超过十年了,从四个维度(卓越运营、安全、可靠、性能效率),演进到六个维度,新增了可持续发展和成本优化。随着客户对各种组件更深入地使用。架构师的决定和组件选择会直接影响到整块的应用负载在云上的成本。

生成式AI时代,技术架构演进应当注重什么,代闻强调主要是两个方面:什么是变的。所有技术工作者应当主动拥抱 生成式 AI,积极地升级技能、积极地去应用这项变革性的技术;什么是不变的。在技术架构的演进过程中锚定不变的原则,在技术变革的浪潮中找到前进的灯塔方向。

 

]]>
亚马逊云科技携手SAP通过生成式AI解锁创新潜力 //www.otias-ub.com/archives/1700630.html Fri, 07 Jun 2024 01:08:43 +0000 //www.otias-ub.com/?p=1700630 SAP AI Core的生成式AI中心与Amazon Bedrock的基础模型集成,为企业客户提供生成式AI驱动的洞察,并简化手动流程

西雅图——2024年67  亚马逊云科技与SAP宣布扩大战略合作,旨在革新现代化的云ERP体验,并利用生成式AI为企业带来全新功能与效率提升。双方将共同努力,简化客户在亚马逊云科技上采用RISE with SAP解决方案的流程,提高SAP工作负载在云端运行的性能和效率,并将生成式AI嵌入企业的整个关键业务应用产品组合中。

“亚马逊云科技是首家通过认证支持SAP产品组合的云服务提供商。如今,已有数千家企业在亚马逊云科技上运行SAP解决方案,以充分发挥其关键业务应用价值。”亚马逊云科技首席执行官Matt Garman表示,“目前,亚马逊云科技和SAP正共同努力,使企业能够更快速、更便捷地将生成式AI应用于其核心业务数据,从而提升效率、增强响应能力并推动可持续发展。”

“与亚马逊云科技的合作对我们来说至关重要,SAP致力于将生成式AI解决方案全面嵌入ERP应用,帮助客户加速实现创新。”SAP全球CEO Christian Klein表示,“除了为双方共同的客户提供现代化的云ERP解决方案外,我们也非常高兴能够在亚马逊自身的转型过程中提供支持,帮助其在开创性领域采用RISE with SAP,例如亚马逊推出的Kuiper卫星计划,旨在提升全球宽带接入。”

Amazon Bedrock提供的生成式AI模型现已在SAP AI Core的生成式AI中心正式可用

SAP AI Core基础设施中的生成式AI中心支持客户安全访问各种大语言模型(LLMs),这些模型可以轻松集成到SAP业务应用中。通过集成Amazon Bedrock的生成式AI模型,如Anthropic Claude 3系列模型和Amazon Titan,SAP客户将能够访问高性能的大语言模型和其他基础模型(FMs),并使用他们自己的数据构建定制化的应用。数千家的客户都在使用Amazon Bedrock,从AI21 Labs、Anthropic、Cohere、Meta、Mistral AI、Stability AI和Amazon等领先人工智能公司的基础模型中,轻松、快速、安全地构建和扩展生成式AI应用。

通过这一集成,SAP的客户可以加速采用生成式AI,更新和优化基于SAP解决方案的关键业务流程。这些创新可以直接应用于RISE with SAP内嵌的用例中,或作为集成组件,在SAP Business Technology Platform(业务技术云平台)的智能场景生命周期管理功能中使用。此外,SAP和亚马逊云科技还计划扩展Amazon Bedrock功能在生成式AI中心的应用,以进一步增强SAP云解决方案和产品应用组合中的嵌入式AI功能。这其中包括在财务和产品生命周期管理领域的其他用例。

SAP将使用亚马逊云科技芯片培训部署未来的SAP AI产品

SAP使用亚马逊云科技自研芯片Amazon Graviton3来支持SAP HANA Cloud(ERP云),帮助SAP实现性能提升、成本节约和效能优化。通过使用基于Graviton3的Amazon Elastic Compute CloudEC2)实例,SAP已实现高达30%的分析工作负载的计算性能提升,并且SAP HANA Cloud的碳足迹预计减少45%。目前,SAP和亚马逊云科技正在合作开发面向SAP HANA Cloud和其他SAP应用的新一代Amazon Graviton4芯片,以持续提升性能和效率。基于在Amazon Graviton上运行SAP HANA Cloud的成功经验,SAP计划进一步借助Amazon Graviton支持SAP解决方案和应用,例如SAP BTP、SAP Datasphere(数据整合平台)、SAP Analytics Cloud(分析云)以及SAP Cloud ALM解决方案。

SAP计划通过亚马逊云科技面向机器学习训练自研芯片Amazon Trainium和面向机器学习推理自研芯片Amazon Inferentia,训练和部署其未来的商业AI产品。在概念验证中,SAP工程师利用基于Amazon Trainium和Inferentia2的实例,在两天内对生成式AI大语言模型(LLMs)进行了训练和微调,而使用类似的Amazon EC2实例需要23天的时间。通过利用Trainium专门设计的高效ML模型训练架构,SAP可以加速开发过程,同时保持高水平的准确性和可靠性。

RISE with SAP在亚马逊云科技上实现性能提升 

数千家的客户选择在亚马逊云科技上运行其规模最大、最复杂的全球SAP解决方案。现已全面推出全新一代的Amazon EC2 High Memory U7i实例,在单个实例中提供高达32TiB的内存,为客户提供所需的内存与灵活性,满足他们不断扩大的SAP HANA数据库需求。Amazon EC2 High Memory U7i实例是领先的云服务提供商推出的首款基于DDR5内存型的8插槽产品,用于提高内存密集型应用程序的性能,例如RISE with SAP中的SAP S/4HANA Cloud。

亚马逊Kuiper项目选择使用RISE with SAP推动卫星宽带网络发展

亚马逊旗下的多家公司,包括Twitch、Zappos.com和Zoox Inc.,已经通过亚马逊云科技使用SAP软件支持其运营管理。现在,亚马逊的卫星宽带网络Kuiper项目也加入了这一行列,通过部署RISE with SAP以支持其复杂的供应链和制造运营,从而最大限度地提高其关键任务SAP软件的性能和价值。通过在亚马逊云科技上运行SAP解决方案,Kuiper项目能够利用RISE with SAP中最新的SAP功能,推动业务转型并加速决策进程,以提升整体性能和生产力。

如今,全球仍有数亿人缺乏互联网接入能力,Kuiper项目致力于通过向缺乏可靠互联网连接的地区提供快速且低成本的宽带服务,以缩小数字鸿沟。为了实现这一愿景,Kuiper需要以前所未有的速度制造卫星。RISE with SAP为Kuiper团队提供了可靠且可扩展的基础设施,运行现代云ERP作为托管服务,从而使团队将更多精力集中在创新而非IT管理上。

]]>
数字化赋能,云上精耕细作 西云数据助力企业提质降本增效 //www.otias-ub.com/archives/1699853.html Fri, 31 May 2024 12:37:24 +0000 //www.otias-ub.com/?p=1699853 北京——2024年5月31日  在近日举办的“2024亚马逊云科技中国峰会”上,宁夏西云数据科技有限公司(简称为“西云数据”)全面阐述其在云计算领域的持续深耕,通过增强数字化赋能助力众多行业提质增效,凭借丰富的经验帮助企业在云上精耕细作,助力客户降本增效应对业务挑战。

西云数据是亚马逊云科技中国(宁夏)区域的运营方,通过卓越的运营管理,持续将亚马逊云科技的先进技术引入中国,推动中国企业数字化转型和创新。来自互联网、油气、制造、物流、交通、光伏等行业的客户,如WirelessCar China、海天智联、合合信息、群核科技COOHOM等客户携手亮相,共同讲述“云载未来,成就所托”的创新实践。

西云数据销售市场部总经理曲冬表示:“西云数据持续将亚马逊云科技先进技术引入中国,并以灵活的定价模式、丰富的安全服务,为本土企业的数字化转型赋能,助力多行业提质增效。同时,西云数据积极履行自身社会责任,由其运营的亚马逊云科技中国(宁夏)区域(数据中心一期)入选‘2022年度国家绿色数据中心’,以实际行动支持国家‘东数西算’和‘双碳’战略,积极推进绿色数字经济发展。”

西云数据销售市场部总经理 曲冬

在亚马逊云科技中国峰会上进行主题分享

云上精耕细作,应对业务挑战

在全球数字化转型加速的背景下,企业必须快速适应并利用技术重构成本结构与业务模式,降本增效已经成为关乎企业生存与发展的核心战略。在云技术的支持下,企业能更精细地管理资源,实现真正的降本增效。西云数据通过精耕细作不仅关注成本降低,而且更重视客户需求、客户价值、创新推动及可持续发展。西云数据支持总经理杨琳强调,西云数据多年来秉持精益求精的精神,为客户提供高质量的云服务,同时优化成本和运营效率,为客户提供更具价格优势的服务,助力企业数字化转型的成功。

西云数据支持总经理 杨琳

在亚马逊云科技中国峰会上进行主题分享

在企业上云用云过程中,需要根据成本控制策略实现云计算资源和业务资源的对齐,提升业务的敏捷性,实现云上精耕细作。例如,在制造行业的个性化定制往往会导致成本的飙升,就需要缩短从开发到生产的周期,加速新功能上线,高效满足定制化需求。零售行业在降本增效中就需要采用微服务架构与自动化运维等方式,使得促销活动能够快速上线,在保持系统稳定的同时提升顾客体验。

西云数据高级技术客户经理欧智华提出,云上精耕细作强调在资源管理、服务部署、成本控制和业务创新等各个方面采取细致、科学、高效的方法,以实现资源的最大化利用和业务的持续优化。西云数据企业级技术支持专家为客户提供定制化服务,通过在云上精耕细作,帮助客户实现资源利用最大化,实现更多的业务价值和创新。

携手共进,赋能行业提质增效

西云数据拥有丰富的行业客户的运营服务经验和技术能力,依托专业的本地化服务团队为企业的数字化转型提供有力的支持。凭借强大的技术实力和丰富的行业经验,西云数据在众多行业展现出卓越的能力,满足不同行业的业务创新需求,赋能企业云上创新。

西云数据企业级支持总经理Jowana JO指出,西云数据通过提供全面的企业级服务为客户的上云用云和创新保驾护航,帮助客户从成本、运维和人员等方面综合考虑,从前期咨询、方案设计到实施提供全面的服务。西云数据深入洞察客户的业务需求,能够制定高质量的上云和用云方案,在客户遇到技术、产品或架构问题时,西云数据都随时待命快速响应,确保客户在云上高枕无忧,能够专注于业务创新。

WirelessCar是全球领先的互联汽车服务提供商,在全球范围内为超过1300万辆汽车提供车联网服务,覆盖100多个国家和地区。WirelessCar China为中国市场的众多汽车品牌提供服务,专注于本地市场需求,致力于推动智能网联汽车在中国的进一步发展。

WirelessCar在业务快速发展中需要可靠的云平台和丰富的云服务满足业务需求,为客户提供稳定、高效的车联网解决方案,需要具备充足的计算、存储资源,以支持不同类型的车联网场景。同时,WirelessCar需要高弹性拓展能力来应对持续不断的业务增量与爆发式的车辆集中接入。为实现长期增长目标,WirelessCar还需要优化基础设施及云服务的使用成本。

WirelessCar China首席架构师郑岩表示:“车联网平台需要提供非常高的弹性能力,以便应对定期和不定期的访问高峰的压力。在西云数据提供的企业级支持服务帮助下,WirelessCar基于亚马逊云科技服务实现核心系统的迁移上云,构建起能够承载百万量级的车辆接入的车联网服务平台,助力汽车行业更快地响应市场需求,加快创新步伐并提高运营效率。WirelessCar在完成迁移上云后,仅在数据库方面的成本节约就高达20%。”

全球领先的制造型跨国集团海天集团旗下的智能制造一站式解决方案提供商海天智联,深刻洞察传统制造业转型升级的痛点和需求,通过智能制造顶层规划打造新型数字工厂。通过实现制造过程的数智化管理,海天智联为企业提供智慧决策依据,助力其实现精细化管理和高效生产。

数智平台是海天智联打造新型数字工厂的核心,需要有能够承载百万台量级设备实时并发、可高度弹性扩展并具备高度安全性能的物联网解决方案作为数字底座。在西云数据的支持下,海天智联借助Amazon IoT Core成功将海量设备安全稳定地接入云端平台,构建起管工厂云、小诸葛云 MES 协同系统,以及High-Net 智慧工厂整体解决方案。

海天智联副总经理许文杰表示:“在西云数据的支持下,海天智联成功构建了一个安全、可靠、弹性、高效的物联网平台,帮助制造企业打造万机互联的智慧工厂。通过对制造过程进行数智化管理,海天智联助力制造企业加速向智能制造和智物创新升级。”

合合信息(INTSIG TextIn)是行业领先的人工智能及大数据科技企业,专注于智能文字识别及商业大数据领域的应用。在智能文字识别解决方案的开发过程中,合合信息发现,传统OCR产品依赖基于固定版式的大量样本训练,以实现较为高效的识别。但在实际工作中,用户可能会输入非固定版式、不可预见的非结构化内容,导致识别效果不佳等问题。

在智能文字识别集成大模型的训练中,合合信息通过多种主流多模态大语言模型与自身的TextIn解决方案相结合,并将其部署到现有的企业解决方案中,为AI工作流中的大模型提供更高质量的输入信息,利用人工智能来完成文本的解析及版面信息的还原。

合合信息高级产品经理龚政涛表示:“合合信息基于机器学习深度学习技术为行业提供领先的场景智能文字识别引擎。我们顺利部署了多模态大语言模型,通过为大模型提供更高质量的输入信息,从而提高识别准确性,缩短处理时间,获得更高效的工作流程体验,显著提升了用户体验和工作效率。”

杭州群核信息技术有限公司旗下的国际化品牌COOHOM为全球企业和个人提供涵盖设计、营销、生产和管理等全方位的一站式在线设计解决方案。随着用户规模的不断扩大,COOHOM平台面对海量的数据规模和并发访问需求,亟需更高性能、高可靠的数据库支持,以保障用户拥有优质的使用体验。

西云数据针对COOHOM的不同业务需求和工作负载特点,帮助其选择亚马逊云科技数据库服务方案,通过采用“专库专用”的方式更好地发挥数据库性能和功能优势。西云数据也从 COOHOM 业务的角度出发,运用多种方式帮助COOHOM实现成本优化,使其在面对用户数量翻倍增长的同时能够稳定地控制成本支出。

COOHOM资深副总裁廖溪指出:“在西云数据的专业服务支持下,COOHOM构建起100%云原生的 3D 云设计产品,充分利用云计算服务的高弹性和高可扩展能力,以及托管数据库的超高性能,使得用户能够全天候、流畅快捷地进行高效设计。同时,在保持业务性能的前提下节约超过 20%的成本,让设计师从云的规模和成本优势中获益,从而更加专注于业务的开拓创新。”

西云数据通过不断的技术创新和卓越的客户服务,致力于客户成功和价值共创。西云数据将继续秉持客户至尚的服务理念,持续推动更多先进的云计算技术、产品和解决方案的落地应用,让更多的客户上好云用好云,赋能千行百业的技术和业务创新,帮助更多企业加速实现数字化转型。同时,将不断探索不同行业绿色低碳转型的实践路径,携手客户共创美好未来。

]]>
亚马逊云科技升级“3+1”合作伙伴战略 与合作伙伴共赴新征程 //www.otias-ub.com/archives/1699662.html Fri, 31 May 2024 02:31:34 +0000 //www.otias-ub.com/?p=1699662 北京——2024年5月31日 亚马逊云科技中国合作伙伴峰会在上海召开。峰会上,亚马逊云科技升级推出“3+1”合作伙伴战略,聚焦生成式AI、专注行业和业务拓展三大业务战略,并提供一系列赋能支持举措,持续引领合作伙伴创新并提升合作体验。其中,亚马逊云科技发布了“亚马逊云科技生成式AI合作伙伴计划”和“亚马逊云科技行业合作伙伴计划”,以加强合作伙伴在生成式AI和重点行业场景方面的能力和价值。同时,4家合作伙伴获得了亚马逊云科技2023年度各项奖项。

亚马逊云科技大中华区合作伙伴及业务赋能总经理李晓芒表示:“在亚马逊云科技合作伙伴网络第二个十年新征程的开局之年,秉持长期主义,我们基于合作伙伴价值成就体系升级‘3+1’合作伙伴战略。这将进一步强化亚马逊云科技合作伙伴网络建设,加速为合作伙伴赋能,助力他们实现业务增长和规模化发展,与亚马逊云科技共赢新征程。”

亚马逊云科技大中华区合作伙伴及业务赋能总经理李晓芒

三项业务战略引领合作伙伴创新加速

首先,亚马逊云科技将与合作伙伴全面拥抱生成式AI,为企业提供更创新的生成式AI解决方案和服务。为了帮助合作伙伴在该领域全方位提升专业度,亚马逊云科技于近期推出业内首个生成式AI能力认证,旨在验证、认可在利用亚马逊云科技生成式 AI 技术方面拥有专业知识、实践经验和成功案例的合作伙伴。在中国已经有13家合作伙伴获得该能力认证,包括伊克罗德、柯基数据、八斗智能、墨奇科技、神州数码、聚云科技、神州泰岳、灵奥科技、Zilliz、德勤中国、野村综研、跨海科技和华讯网络等。

中国首批获得亚马逊云科技生成式 AI 能力认证的合作伙伴

这次峰会上,亚马逊云科技推出“亚马逊云科技生成式AI合作伙伴计划”。该计划旨在助力企业更快地应用生成式AI,打造“人工智能+”时代的竞争优势。亚马逊云科技将联合生成式AI领域顶尖的3+1类合作伙伴,为企业提供全方位的模型、工具、应用和集成服务。3是指大模型提供方、工具链提供方、以及各类开箱即用的生成式AI应用和方案提供方。1是指系统集成商合作伙伴。亚马逊云科技将为加入本计划的合作伙伴提供全面的支持,投入技术专家与合作伙伴共创,帮助合作伙伴更好地将他们的创新和亚马逊云科技的服务适配和集成,并支持合作伙伴方案上架亚马逊云科技Marketplace,服务中国客户的同时触达全球客户。首批加入该计划的合作伙伴共计16家,包括:百川智能、智谱AI、MiniMax、月之暗面、零一万物、Zilliz、墨奇、Dify.AI、硅基流动、Canva、易点天下、数里行间、德勤中国、神州泰岳、伊克罗德和华讯网络。

其次,亚马逊云科技将与合作伙伴深耕行业,服务行业客户的数字化转型和创新。双方聚焦汽车、制造、生命科学、零售电商、媒体娱乐、游戏、软件服务、金融八个行业,共同打造行业解决方案。为此,亚马逊云科技专注在五个方面为合作伙伴赋能,包括提供广泛深入的云服务;针对各个行业场景的行业解决方案以及帮助合作伙伴更好构建解决方案的指南;全球丰富的客户实践;行业专家和服务团队;以及亚马逊全球体系。

亚马逊云科技行业合作伙伴计划发布

本次峰会上,亚马逊云科技宣布推出“亚马逊云科技行业合作伙伴计划”。亚马逊云科技将投入行业业务专家、云技术专家,以及丰富的云服务资源,携手深耕行业、具备系统集成能力的咨询服务伙伴,具备行业影响力的垂类软硬件开发商,针对八个重点行业重点场景下的客户痛点和需求,联手打造和推广基于云的新一代行业解决方案,共同助力行业客户引领产业变革。首批加入该计划的合作伙伴已达10余家,包括德勤中国、凯捷中国、神州泰岳、华讯网络、小宿科技、博思云为、汉得、神州数码、同盾科技、中科创达、即构科技、紫讯、Veeva、SHOPLINE、数数科技、能科科技、西门子和涂鸦智能等。

亚马逊云科技还宣布推出“亚马逊云科技安全合作伙伴计划”携手一众合作伙伴共同为客户提供更广泛的安全解决方案选择,助力企业在亚马逊云科技上实现安全合规、达成后顾无忧。首批加入该计划的合作伙伴已达10余家,包括Palo Alto Networks、Check Point、Radware、亚信安全、安恒信息、Authing、微步在线、奇安信、Cisco、Fortinet、云纷科技、Kaamel、青藤云和亚洲诚信等。

最后,亚马逊云科技还持续助力合作伙伴加强业务拓展,实现规模化增长。首先,亚马逊云科技将加大对国内区域覆盖的投入,助力合作伙伴深耕本地。目前,亚马逊云科技已有数百家合作伙伴为各区域的企业提供就近服务和支持;其次,亚马逊云科技将通过合作伙伴能力的多样化,全面提升合作伙伴的获客能力;最后,亚马逊云科技还为合作伙伴规划了清晰的升级成长路径,保障他们在合作伙伴网络中的可持续发展。

一系列赋能支持举措,升级合作伙伴体验

亚马逊云科技能力认证是客户选择合作伙伴的重要标准,目前能力认证涵盖行业、解决方案和工作负载三个维度的30个大类的90多个认证领域,供合作伙伴选择。目前,在中国已有超过110家合作伙伴获得了超过200项能力认证。

亚马逊云科技也为合作伙伴提供丰富的培训资源,包括提供超过600门线上数字化课程的官方学习中心Skill Builder、合作伙伴专属培训课程、合作伙伴网络研讨会以及定制化的线下实战训练营等。

亚马逊云科技将发布或升级一系列相关的合作伙伴项目,加速合作伙伴的业务增长。具体包括:升级托管服务提供商项目;升级合作伙伴行业商机加速计划;针对现有客户和新客户分别推出增长激励计划;并升级迁移加速计划(MAP)。

亚马逊云科技Marketplace为合作伙伴提供了有效的业务拓展渠道,帮助他们触达全球用户。亚马逊云科技Marketplace(中国区)在近期推出了卖家自主经营和在线交易功能,简化了客户购买和部署软件流程,进一步提升用户体验,同时也为合作伙伴提供了更多的销售机会。

亚马逊云科技2023年度合作伙伴奖项揭晓

在本届峰会上,亚马逊云科技还为4家合作伙伴颁发了2023年度系列奖项,旨在表彰、展示各位合作伙伴在数字化转型过程中取得的优秀成绩。

神州泰岳荣获亚马逊云科技2023年度系统集成(SI)合作伙伴。作为业界领先的软件与信息技术服务提供商,神州泰岳拥有包含迁移、数据分析、开发与运维和云运营等4项能力认证以及亚马逊云科技托管服务提供商(MSP)认证,同时也是首批获得生成式AI能力认证的中国合作伙伴。自双方合作以来,神州泰岳云业务已服务300多家中国出海企业,业务范围延展至全球40余个国家。

杭州勤易荣获亚马逊云科技2023年度系统集成(SI)成长之星合作伙伴。作为亚马逊云科技高级咨询合作伙伴,杭州勤易利用亚马逊云科技服务与企业用户云应用场景结合,打造了云迁移、安全与合规、人工智能、托管服务及日志管理等多个解决方案。双方已携手服务来自生命科学、电商零售和制造等行业众多客户。

PingCAP荣获亚马逊云科技2023年度独立软件开发(ISV)合作伙伴。PingCAP将旗下开源分布式数据库TiDB和全托管的数据库即服务(DBaaS)产品TiDB Cloud上架亚马逊云科技Marketplace,依托亚马逊云科技的全球基础设施向全球用户提供迅速部署和服务,在云端提供全新的一栈式实时HTAP数据库体验。PingCAP还利用亚马逊云科技的人工智能服务,在TiDB中为用户提供智能的数据管理和分析工具,为云计算和开源数据库合作创新树立了新标杆。

Canva可画荣获亚马逊云科技2023年度独立软件开发(ISV)成长之星合作伙伴奖项。作为2018年进入中国的全球视觉传播平台,Canva可画利用亚马逊云科技的服务构建了云原生的一站式数字资产管理解决方案,该方案有效帮助企业各职能部门实现高效协同合作,设计统一品牌视觉并进行专业化的数字资产管理,释放企业设计创新能力同时大幅提升设计生产力。目前,该解决方案已应用于零售电商、汽车、教育和地产等行业。

]]>
亚马逊云科技扩展生成式AI合作 百川智能和零一万物基础模型登陆中国区域SageMaker JumpStart //www.otias-ub.com/archives/1699144.html Thu, 30 May 2024 03:54:55 +0000 //www.otias-ub.com/?p=1699144 上海——2024年530日 亚马逊云科技在中国峰会2024上宣布,由百川智能提供的基础模型Baichuan2-7B即将登陆中国区域SageMaker JumpStart,由零一万物提供的基础模型Yi-1.5 6B/9B/34B正式登陆中国区域SageMaker JumpStart,在为中国企业提供丰富模型选择的同时满足了企业对安全合规、快速扩展、免运维的需求。作为首批登陆中国区域SageMaker JumpStart的中文基础模型,Baichuan2和Yi-1.5与亚马逊云科技托管服务深度集成,助力中国企业应用一流的生成式AI技术实现本土创新与业务转型。

亚马逊云科技宣布百川智能和零一万物基础模型登陆中国区域SageMaker JumpStart

亚马逊云科技大中华区产品部总经理陈晓建表示:“亚马逊云科技不断扩充优质基础模型选择,致力于成为企业构建和应用生成式AI的首选基础设施。作为首屈一指的中文基础模型的供应商,百川智能是中国率先全面投入生成式AI的科技企业,零一万物最近也推出了备受瞩目的Yi-1.5模型,更好地满足中国企业需求。我相信此次合作将拉开我们与中文基础模型供应商合作的序幕,未来将有越来越多的领先模型通过亚马逊云科技提供服务。

百川智能联合创始人、联席总裁洪涛表示:“模型和应用是通往通用人工智能的重要路径,中国企业正在快速构建海量的生成式AI创新应用,而亚马逊云科技为这些构建提供了完善的基础设施和云服务支持体系。我们希望通过此次合作,将国产中文大模型带给亚马逊云科技的用户,帮助他们重塑业务、实现创新。我们也期待与亚马逊云科技的合作能不断深入,为生成式AI领域的构建者提供更多可能。”

零一万物API平台负责人蓝雨川表示:“零一万物的愿景是让通用人工智能普惠各地,人人受益。我们新推出的模型在海内外得到了很好的评价。我很高兴通过这次合作能把模型和服务带给更多亚马逊云科技用户,帮助大家基于亚马逊云科技基础设施搭建生成式 AI 应用,期待未来与亚马逊云科技在全球范围有更广泛的合作。”

Baichuan 2-7B是百川智能推出的开源大语言模型,基于2.6万亿高质量多语言数据进行训练,在数学、代码、安全、逻辑推理、语义理解等方面表现卓越,且在“中文通用”部分拥有较大优势。Yi-1.5系列开源大模型是零一万物此前推出的备受好评的Yi系列模型的升级版。Yi-1.5在前作的基础上使用高质量的5000亿个标记语料库进行持续预训练,因此延续了Yi系列开源模型的出色表现,在语言理解、常识推理和阅读理解能力方面一如既往地保持了高水准,同时在编码、数学、推理和指令执行能力方面得到全面提升。

]]>
企业如何在生成式AI时代进行“安全的创新” //www.otias-ub.com/archives/1698213.html Fri, 24 May 2024 03:14:08 +0000 //www.otias-ub.com/?p=1698213 生成式人工智能(生成式AI)正在成为任何人都无法忽视的生产力变量。在它的面前,以往的知识与技能壁垒开始松动甚至坍塌,并为各领域机构的创新带来新的无穷可能性。

但企业利用生成式AI进行业务创新的同时也不免面临新的隐忧。企业或机构向生成式AI模型提供数据——很可能是涉及核心业务及客户信息等关键数据——是否能被妥善地保管、使用,及进行必要的隔离;还有生成式AI的一些“固有问题”,如怎样实现负责任的AI,过滤有害内容,确保内容符合当地及企业政策等问题……

通常情况下,规模化生成式AI应用都发生在云端,更多企业机构也将依赖于云开展生成式AI的业务创新。因此,我们可以将生成式AI的安全话题,看作是对云计算安全提出的新挑战。

亚马逊云科技对AI的研究已持续数年,其中包括生成式AI应用被广泛应用后产生的安全需求演变。对于云计算安全,亚马逊云科技的态度是一贯的——在业务初期就考虑安全因素,主动设计而不是被动响应。聚焦到生成式AI相关服务、功能及应用,亚马逊云科技在其安全的基础设施之上,在生成式AI服务及功能设计之初就充分考虑了安全因素,并进一步构建了负责任AI的防护机制。与此同时,亚马逊云科技也在利用生成式AI来赋能已有的或新推出的安全服务。这些举措帮助亚马逊云科技的客户在使用生成式AI服务时能获得不逊色于以往任何时候的安全体验。

从底层基础设施层面实现对生成式AI工作负载数据的隔离与加密保护

企业使用生成式AI最大的顾虑之一是如何保护他们的数据及隐私安全。企业可能会使用高度敏感的如个人数据、合规数据、运营数据和财务信息用于模型优化或使用生成式AI应用。

企业为了安全地使用生成式AI,首先应考虑三个问题:1)数据在哪里?企业需要知道用数据训练模型的整个工作流程中,这些数据来自哪,以及是如何被处理和保护的。2)如何处理模型推理时的输入和输出数据?训练数据并不是企业需要关注的唯一敏感数据集,企业查询本身也应该成为数据保护计划的一部分。3)生成式AI模型的输出是否准确?不同的生成式AI的使用场景对准确度和风险的要求不同。如果企业正在使用大型语言模型来生成代码,那么企业就必须要确认这个代码是否写得足够好,是否遵循了企业的最佳实践等等。

亚马逊云科技对客户生成式AI的保护始于其基础设施。亚马逊云科技独有的云服务器虚拟化引擎Amazon Nitro将主机CPU/GPU的I/O功能卸载至专门的硬件上,不但提供了更加一致的性能,其增强的安全性可以在客户端和云端全程保护客户的代码和数据在处理过程中的安全。这一独有的功能已经获得了领先的网络安全公司NCC Group的独立验证。

Nitro系统提供的硬件级别的安全机制,首先从设计上将客户数据与运营商进行完全隔离,即亚马逊云科技作为运营商无法访问客户在Amazon Elastic Compute Cloud (Amazon EC2)实例上运行的包括生成式AI相关在内的工作负载或数据。其次,客户还可以通过Amazon Nitro Enclaves和Amazon Key Management Service(Amazon KMS),使用密钥加密敏感的生成式AI数据,将其存储在指定的位置,并安全地将加密数据传输到隔离的计算环境中进行推理计算。此外,亚马逊云科技还将Amazon Nitro Enclaves和Amazon KMS端到端加密流程进一步扩展到如Amazon Trainium2和其他GPU,进一步增强用户生成式AI数据在基础设施设备间的安全通信。

在生成式AI服务的设计之初就考虑安全性,并成为负责任的AI

除了构建安全的全球云基础设施,亚马逊云科技的安全不止安全服务,其所有服务均有安全基线。亚马逊云科技提倡在新服务设计初期就考虑安全因素。

以生成式AI完全托管服务Amazon Bedrock为例,作为一项为让客户便捷地使用基础模型构建和扩展生成式AI应用程序的云服务,Amazon Bedrock在设计之初就考虑了如何发挥基础设施安全能力,以及AI服务本身的安全需求。亚马逊云科技和第三方模型提供商不会使用 Amazon Bedrock 的任何输入或输出来训练其基础模型。在使用Amazon Bedrock时,客户的数据在传输过程中和静态存储时都经过加密,客户的所有数据都是始终安全且私密的。客户可以使用Amazon PrivateLink建立从Amazon Virtual Private Cloud(Amazon VPC)到Amazon Bedrock的私有连接;或者采用基于身份识别的安全策略,例如在使用Amazon KMS创建、管理和控制加密密钥时,定义哪些用户或角色可以在什么条件下对哪些资源执行什么操作。

对于云计算用户来说,数据与隐私安全并非生成式AI带来的“新话题”。但生成式AI也确实带来了像“负责任的AI(Responsible AI)”这种AI时代独有的安全考验。当客户在使用Amazon Bedrock这类生成式AI服务时,不得不考虑过滤有害内容,确保内容符合当地及企业政策等问题。

为此,Amazon Bedrock配备了帮助客户实施负责任AI的防护机制(Guardrails for Amazon Bedrock)。相比于一些AI大模型仅通过内部控制模块来过滤内容,Amazon Bedrock的防护机制能让客户进一步定制AI应用程序,以便符合不同标准的内容政策。

 

客户只需提供一个自然语言描述来定义其应用程序上下文中被拒绝的主题,即可创建个性化的防护机制,还可以配置阈值,跨领域过滤诸如仇恨言论、侮辱、暴力等语言,以及设置过滤器来删除任何个人和敏感信息、亵渎言论或特定的屏蔽词。通过这种“内置+定制”的双重防护机制,更大限度保证基于生成式AI的业务能良好实践负责任的AI要求。

借助生成式AI的能力让安全更易实现

在云环境中,生成式AI并不仅仅是“被保护者”,它本身也能成为提升安全的强大工具,从业务初期就能揭示那些潜伏的、未被意识到的风险。

代码编写方式是信息安全中最大的变量之一,一些小问题就可能导致严重的安全后果。包括生成式AI模型本质上也是代码,也可能因为代码编写的漏洞而存在安全隐患。从安全角度来看,从一开始就编写出安全的代码,无疑比在编写完成后,已经进行了测试,甚至已经交付后再去修改要好得多。

为了帮助云计算客户达成符合安全需求的代码编写,亚马逊云科技将AI能力运用到代码生成器上,以服务或功能的方式提供给客户。

亚马逊云科技推出的用于IDE(集成开发环境)和命令行的AI生产力工具Amazon Q Developer,是一个以机器学习为动力的代码生成器,直接在集成开发环境中为开发者提供实时代码建议。Amazon Q Developer不仅能极大提升开发者的编码效率,而且还能让代码更加安全。它内置了安全扫描功能,能够扫描代码以检测难以发现的漏洞,并根据客户的代码,提供专属修复建议,帮助开发者及时快速修复该漏洞。

Amazon Q Developer同样为客户提供了定制化的选择,以便使用自己的私有代码库来提升产出成果。为了确保用于开发的数据处于隔离计算环境,以及防止一切未经授权的访问,Amazon Q Developer设置了一系列不可变更的安全机制,包括不同工作负载之间的数据隔离,Amazon KMS对静态数据的加密,基于身份认证的数据访问授权,以及数据存储时的加密和强制隔离。

一些原有的安全服务也正在逐渐通过生成式AI获得新的功能。例如漏洞管理服务Amazon Inspector,它的Amazon Lambda函数代码扫描功能从去年开始使用生成式AI和自动推理的辅助代码修复,以简化更新易受攻击代码的过程。Amazon Detective也在去年增加了使用生成式AI来构建安全事件描述的能力。生成式AI可以自动分析调查发现组并以自然语言提供洞察,帮助安全工程师加快安全调查。

这些基于生成式AI的创新服务和新的升级,为安全工作创造了更便捷、更高效的新可能。我们可以期待,企业的安全工程师将能够以更少的工作负担来达成目标,使企业得以更从容地应对各类安全风险。

写在最后

在不远的未来,生成式AI将如同当下的互联网与云计算一样变得无处不在。尽管新的数字技术产物也将无可避免地带来新的安全挑战,但我们无需为此过分担忧。成熟的安全防护机制,加上新的安全功能,足以为云上生成式AI业务构建起可靠的安全环境。生成式AI本身也成为安全创新的助力,让新的安全功能更具主动性,更加简单易用。

云计算厂商积累的经验与智慧,将继续在AI时代护航用户的安全——经历过数次重大技术变革之后,安全工作者愈发知道如何应对变革,让新事物的到来可控且有序。

]]>
探索生成式人工智能时代的云安全 亚马逊云科技re:Inforce 2024全球大会即将开启 //www.otias-ub.com/archives/1697515.html Tue, 21 May 2024 07:08:18 +0000 //www.otias-ub.com/?p=1697515 北京——2024年521  亚马逊云科技一直将安全视为企业业务发展的驱动力,安全能够帮助企业降低风险、增强弹性、促进创新,并加速企业安全使用如生成式人工智能(生成式AI)等新技术。亚马逊云科技一年一度的re:Inforce 2024全球大会将于当地时间6月10日至12日在美国宾夕法尼亚州正式开启,将与客户分享全球安全领域的最新洞察与成功实践。

亚马逊云科技re:Inforce 2024全球大会的亮点包括:

亚马逊云科技的安全策略及未来展望

亚马逊云科技首席信息安全官CISOChris Betz将做主题演讲,他将回顾过去一年亚马逊云科技在安全领域的创新,亚马逊云科技如何持续提升自身的安全态势,以及未来展望。届时,亚马逊首席安全官Steve Schmidt也将就安全文化构建、如何安全地使用生成式AI等方面分享他的观点。

提升生成式AI及其他新兴技术的安全性

安全团队需要为业务构建团队赋能,以便他们更有信心的使用生成式AI进行创新。在re:Inforce 2024上,亚马逊云科技将分享其基于生成式AI的最新安全进展,通过互动环节向参会者展示如何更安全的部署AI工作负载、探索其他客户的成功经验及用例,并展示来自亚马逊云科技及合作伙伴的AI驱动的安全实践。参会者还可以关注Innovation Talks,亚马逊云科技的安全专家将就加密、生成式AI以及构建安全文化进行深入探讨。

本次re:Inforce将举办250多场会议,涵盖数据保护、身份和访问管理、威胁检测和事件响应、网络和基础设施安全、治理、风险和合规性以及应用程序安全。我们还邀请到诸多客户分享他们在亚马逊云科技上的安全创新经验。90多家值得信赖的亚马逊云科技安全合作伙伴也将在活动现场,帮助客户简化和整合其安全组合。对于那些希望深化安全专业知识的参会者,本次re:Inforce将有70%以上的会议是高级或专家级别水平。

了解亚马逊云科技安全领域的最新创新

在100多个互动会议中,参会者将能了解亚马逊云科技最新的宣布和产品发布,并学习如何运营这些安全创新。我们在本次大会上增加了更多互动会议,包括白板讨论、代码讨论、研讨会和构建者会议,参会者可以与亚马逊云科技的专家直接沟通,学习如何能更好的利用已有的安全工具。

此外,参会者在re:Inforce上,还将有机会与安全领域的同行、专家、IT领导者、开发者等沟通与交流,并通过大会展区与亚马逊云科技合作伙伴建立联系,以及参加安全社区组织的各种趣味互动活动等。

 

]]>
亚马逊云科技独特的安全文化起到了哪些作用? //www.otias-ub.com/archives/1689995.html Thu, 25 Apr 2024 02:28:51 +0000 //www.otias-ub.com/?p=1689995 作者:亚马逊云科技首席信息安全官Chris Betz

北京——2024年425我们的客户选择亚马逊云科技运行他们的关键应用程序和最敏感的数据。每天,世界上发展最快的初创公司、最大的企业和最值得信赖的政府机构都选择亚马逊云科技作为技术基础设施平台。他们之所以选择亚马逊云科技,是因为亚马逊云科技自创建之初就将安全作为首要任务。我们从根本上将亚马逊云科技设计为客户运行工作负载最安全的平台,我们在公司内部构建了安全文化,将其视为业务运营的必需。

虽然技术安全措施很重要,但组织是由人组成的。Cyber Safety Review Board (CSRB)近期的一份报告明确表明,有缺陷的安全文化可能是导致可避免错误的根本原因,这些错误可能会导致入侵,甚至长期未被发现。

安全是我们的首要任务

我们的安全文化始于高层,并贯穿公司的各个方面。八年前,我们决定让安全团队直接向CEO汇报。这种结构设计重新定义了我们如何将安全融入到亚马逊云科技的文化之中,并通过高层领导的参与和可见性,让公司的每个人都知道安全是我们的最高优先级。我们授权服务团队完全负责其服务的安全性,并扩大安全最佳实践和项目,让我们的客户有信心在亚马逊云科技上进行创新。

我们认为构建强大的安全文化有四个关键原则:

安全融入我们的组织结构

在亚马逊云科技,我们将安全视为业务的核心功能,与我们的使命目标密切相关。这不仅是一种好的意图,而且它直接嵌入我们的组织结构中。在亚马逊,我们特意让所有的安全团队向CEO直接汇报,同时也与业务部门紧密合作。这么做的目的是将安全构建到我们制作决策的结构框架中。每周,由我们的CEO领导的亚马逊云科技领导团队都会与安全团队会面,讨论安全问题,确保我们在战术和战略安全问题上做出正确的选择,必要时进行纠正。我们内部的运营指标报告会将我们的安全文化与对客户的影响联系起来,将数据与业务成果挂钩,并为领导层提供参与和提问的机会。最高执行层对安全的支持有助于让安全成为业务的推动力,提升客户的体验,而不是成为阻碍。

安全是每个人的工作

亚马逊云科技安全文化建立在强有力的责任模型之上。主人翁精神是亚马逊“领导力原则”之一。所有员工都会定期接受安全培训,持续强化“安全是每个人的工作”理念。每个服务和产品团队都完全负责其交付的服务或功能的安全性。安全像功能、性能、成本和构建团队的其他核心职责一样,融入到每个产品的路线图、工程计划和每周会议中。最佳的安全性不是在流程结束或系统外部“拼凑”上去的,而应该是与生俱来,从基础做起。

亚马逊云科技的业务领导层优先考虑构建那些在设计之初就考虑安全的产品和服务。同时,他们努力创造一种鼓励员工发现并上报潜在安全隐患事件的环境,即使不确定是否存在实际问题。上报是我们在亚马逊云科技工作的一部分,我们会为每个人提供了一个“安全地安全报告环境”。我们鼓励团队和员工以较高优先级工单的形式向安全团队报告和上报任何可能的安全问题或隐患。我们宁愿听到可能的安全隐患并进行调查,而不管它是否真的会发生。我们的员工知道即使最终报告无关紧要,公司也是欢迎的。

亚马逊云科技内部传递安全专业知识和所有权

我们的安全团队提供了许多关键能力和服务,支持并使我们的工程和服务团队有效履行安全职责。我们提供培训、咨询、威胁建模工具、自动化代码扫描框架和工具、设计审查、渗透测试、自动化API测试框架,最后还会对每个新服务或新功能进行最终的安全审查。安全审查人员有权对每一个发布做出批准或不批准的决定。如果一个服务或功能在第一次审查中没有通过安全审查流程,我们会深入了解原因,以便可以改进流程,并在开发早期发现问题。发布一个尚未准备好的东西对我们而言是一个很大的失败,我们倾向于保持高的安全标准,并始终努力达到我们客户所期。

多年来,我们开发的一种分散安全所有权的重要机制是Security Guardians(安全卫士)项目。该项目培训、发展和授权每个two-pizza team(两个披萨团队)中的服务团队开发人员,使他们成为产品团队内部的安全大使或卫士。站在较高的角度来看,卫士是每个团队的”安全意识”。他们确保产品的安全考虑因素更早、更频繁地被纳入,帮助他们的同事更快地构建和发布产品,同时与主要安全团队密切合作,帮助确保亚马逊云科技始终保持高安全标准。安全卫士作为跨组织成员能感到被授权,同时也在团队和亚马逊云科技整个公司中扮演着关键角色。

通过创新来扩大安全规模

我们在亚马逊云科技将安全文化规模化的另一种方式是创新。我们创新的构建工具和流程,帮助我们的所有人尽可能有效地工作并保持专注。我们使用人工智能(AI)来加速我们的安全软件开发过程,以及在Amazon Inspector、Amazon Detective、Amazon Config和Amazon CodeWhisperer中新增基于生成式AI的功能,这些功能通过帮助人们做出更好的安全决策并利用更广泛的知识来补充人工技能。将复杂的工具与熟练的工程师相结合的这种模式非常有效,它使人们能够做出有效安全所需的细微决策。

对于大型组织而言,可能需要花费数年时间评估每一种情况并证明系统是安全的可能。即使如此,他们的系统也在不断变化。我们的自动推理工具使用数学逻辑来回答有关基础设施的关键问题,从而检测可能导致数据泄露的错误配置。可证明的安全性为上云和云中的安全性提供了更高的保证。我们在存储、网络、虚拟化、身份和加密等关键服务领域应用自动推理。亚马逊的科学家和工程师还使用自动推理来证明关键内部系统的正确性。我们每天处理超过10亿个数学查询,为Amazon Identity and Access Management Access AnalyzerAmazon Simple Storage Service (Amazon S3)阻止公共访问和其他安全产品提供支持。亚马逊云科技是第一个,也是唯一一个以这种规模使用自动推理的云提供商。

推进云安全的未来

在亚马逊云科技,我们非常重视安全文化。我们一直从客户的角度出发逆向工作,不断提高我们的安全工具和能力标准。例如,亚马逊云科技支持加密一切。Amazon Key Management Service (Amazon KMS)是第一个也是唯一一个高度可扩展、云原生的密钥管理系统,同时也获得了FIPS 140-2 Level 3的认证。没有人能够获得客户的明文密钥,甚至亚马逊云科技内部最有特权的管理员也不行。通过Amazon Nitro系统,亚马逊云科技的计算服务Amazon Elastic Compute Cloud (Amazon EC2)都是基于Nitro,我们最大限度地提高了客户工作负载的安全,这是行业首创且至今仍是独一无二的创新。Nitro系统为所有计算需求(包括最新的基于GPU计算的生成式AI)提供了业界领先的隐私和隔离。没有人,包括亚马逊云科技内部最有特权的管理员,也不能访问基于Nitro的EC2实例中客户的工作负载或数据。

我们将继续为客户创新,让他们能够快速、安全且有信心地开展业务。在云安全领域,我们始终处于领先地位。尽管如此,网络安全挑战仍在不断演变,我们虽然为迄今取得的成就感到自豪,但我们仍将通过不断创新、提升技术以及加强安全文化等持续提升安全性。

]]>
西门子中国与亚马逊云科技签署战略合作协议 加速生成式AI在制造行业创新应用落地 //www.otias-ub.com/archives/1686231.html Thu, 18 Apr 2024 06:58:05 +0000 //www.otias-ub.com/?p=1686231 2024年4月18日 西门子中国和亚马逊云科技双方高层在西门子中国北京总部会晤,双方宣布签署战略合作协议,共同成立“联合创新团队”。基于亚马逊云科技在生成式AI领域的领先技术和服务,并结合西门子在工业领域的深厚积累和经验,联合创新团队将深入探索云计算、人工智能、机器学习、大数据等前沿技术与制造业更进一步融合,并加速生成式AI技术在制造业的创新应用落地。西门子中国副总裁杨斌与亚马逊云科技中国行业集群总经理田锋出席并签署战略合作协议。

基于战略合作协议,双方将着重探讨与构建高效可靠的企业级大数据平台,并在人工智能平台建设、高级算法研发、企业级PaaS平台标准化和应用现代化等领域开展深度合作,利用大数据和人工智能技术提升企业内部运营效率、加快产品迭代开发、推动信息技术(IT)与运营技术(OT)融合等,持续为制造业数字化转型注入新动能。同时,双方还将持续发掘生成式AI在制造业的潜在应用场景,如利用生成式AI提升产品设计创新能力、优化生产制造流程、改善客户体验等,助力制造企业抢占行业发展新高地。

西门子股份公司(以下简称“西门子”)是专注于工业、基础设施、交通和医疗领域的全球领先的科技公司。从更高效节能的工厂、更具韧性的供应链、更智能的楼宇和电网,到更清洁、更舒适的交通以及先进的医疗系统,西门子致力于让科技有为,为客户创造价值。自2017年起,西门子中国就与亚马逊云科技展开合作。从企业级支持助力SAP系统迁移上云,到一体化仿真计算云服务平台部署、云边协同解决方案落地,以及最新的生成式AI技术应用,西门子中国与亚马逊云科技始终保持紧密合作,积极打造创新的数字化解决方案,不断提升制造业运营效率与智能化水平,并助力西门子与其企业客户实现转型重塑与业务创新。

西门子中国与亚马逊云科技开启云边协同合作,利用亚马逊云科技人工智能与机器学习服务Amazon SageMaker、数据分析服务Amazon Elastic MapReduce(Amazon EMR)、物联网服务IoT和存储服务Amazon Simple Storage Service(Amazon S3)等云服务,以及西门子的工业边缘解决方案,共同助力制造业客户提升工厂数字化和智能化程度。基于云边协同解决方案,西门子自动化成都工厂成功构建了工业废料自动分拣系统,将分拣准确率从70%大幅提升至97%以上,有害垃圾的分类准确率从90%提升到将近100%。

当下,生成式AI技术正在重塑人们的工作方式,越来越多企业正在加速生成式AI技术与自身业务的融合。西门子中国在亚马逊云科技的助力下,构建了基于自有模型的智能知识库暨智能会话机器人“小禹” 。“小禹”集成了西门子独特的内部知识系统,如西门子的各种产品和解决方案、内部流程等,能够自动定位内容、提取知识。当员工有问题需要答案,直接向“小禹”提问,“小禹”智能地提取知识,直接回答,而不是传统搜索方式中的大量有关或无关的搜索结果,员工还需费时费力地找到相应的答案。这极大地提升了员工获取工作信息的效率。仅用3个月时间,西门子中国完成了整套系统的开发和部署,上线首周超过4,000名内部用户使用、超过12,000个问题被解答。

展望未来,此次战略合作的签署标志着双方合作将迈入层次更深、领域更广的新阶段。西门子中国副总裁杨斌表示:“多年来,西门子中国与亚马逊云科技始终保持着密切、深入的合作,覆盖工业软件、工厂智能化、产品智能化等多个领域。通过此次战略合作协议签署,西门子中国期待与亚马逊云科技继续深耕合作,基于亚马逊云科技的领先技术与优势,充分把握生成式AI发展机遇,加速生成式AI等前沿技术在制造行业的应用与创新,全方面赋能西门子中国与我们服务的制造业企业高质量发展。”

“西门子是一家拥有全球视野和前瞻性的科技企业,在工业制造和数字化转型方面具有极其丰富的实战经验。”亚马逊云科技中国行业集群总经理田锋表示,“我们非常荣幸与西门子中国签署战略合作协议,这代表着双方合作进入了崭新的发展阶段。未来,我们将继续推动加强‘人工智能+’与制造行业的深度融合,共同探索更多生成式AI创新应用场景,助力推动制造业产业持续升级创新与智能化发展。”

更多阅读:

]]>
Anthropic Claude 3 Opus基础模型在Amazon Bedrock上正式可用 //www.otias-ub.com/archives/1686224.html Thu, 18 Apr 2024 02:22:37 +0000 //www.otias-ub.com/?p=1686224 2024年4月17日 亚马逊云科技宣布,在Amazon Bedrock上正式推出来自Anthropic的Claude 3 Opus模型,该模型是Claude 3家族中最智能的模型,在高度复杂的任务上表现卓越,并拥有惊人的流畅性和类似人类的理解能力,能够高效应对开放性提示和未知的全新场景。至此,Amazon Bedrock也成为了首个提供所有Claude 3系列模型的全托管服务,其中包括Claude 3 Opus和此前推出的Claude 3 Sonnet与Claude 3 Haiku。

通过在Amazon Bedrock上提供业界领先的Claude 3系列模型,亚马逊云科技能够帮助各种规模的企业快速测试、构建和部署生成式AI应用。Amazon Bedrock助力客户安全、便捷地访问大语言模型(LLM)和其他基础模型(FM)。这些模型种类丰富、性能卓越,且以全托管的方式提供服务。Amazon Bedrock提供一系列广泛且全面的功能来帮助客户安全地定制模型,包括一流的RAG检索增强生成、Guardrails安全功能、模型评估和AI驱动的代理功能等。通过这些功能,Amazon Bedrock为客户提供了开始构建和扩展生成式AI应用程序的简便方法,同时还内置了负责任AI。

我们正生活在快速创新的生成式AI时代。Anthropic于3月4日发布其Claude 3基础模型家族,包含Haiku、Sonnet和Opus三个模型。亚马逊云科技当天也在Amazon Bedrock上推出了Claude 3 Sonnet,这是一个平衡性能和速度的模型。3月13日,亚马逊云科技在Amazon Bedrock上推出了Claude 3 Haiku模型,这是Claude 3系列中最快、最紧凑的成员,具有近乎实时的响应能力。

随着Claude 3 Opus在Amazon Bedrock上正式可用,企业现在能够通过构建生成式AI应用程序以实现任务自动化,凭借面向用户的应用程序盈利,或是进行复杂的财务预测,以及加速各行业的研发。与Claude 3系列的其他模型一样,Opus能够处理图像并返回文本输出。

在处理复杂的开放式问题上,Claude 3 Opus的准确率预计比Claude 2.1提高两倍,从而能够减少错误回答的可能性。来自医疗保健、金融和法律研究等行业的企业正在使用Claude模型,因此提高模型准确性对于企业生成式AI的安全性和性能都至关重要。

Claude 3 Opus在大多数常见AI系统评估基准上都优于同行,包括本科水平专家知识(MMLU)、研究生水平专家推理(GPQA)、基础数学(GSM8K)等。它对复杂任务表现出高水平的理解力和流畅性,引领通用智能的前沿。

Claude 3 Opus模型支持以下用例:

  • 任务自动化:跨API、数据库和交互式编程的复杂行动的规划与执行
  • 研究:头脑风暴和假设生成、研究审查、药物发现
  • 策略:高级图表和图形分析、财务与市场趋势、预测分析

Claude 3 Opus现已在美国西部(俄勒冈)区域正式可用。

Amazon Bedrock上的客户已经开始利用Claude创建生成式AI应用程序

Amazon Bedrock有助于测试、构建和扩展颠覆性应用程序,因此全球超过10,000家企业正通过Amazon Bedrock进行生成式AI试验,致力于将其推向生产阶段。其中,来自全球各个行业、各种规模的企业都在Amazon Bedrock上运用Anthropic的Claude模型构建生成式AI应用程序。这些企业包括ADP(美国自动数据处理公司)、Amdocs、桥水基金、Broadridge、CelcomDigi、科莱恩、Cloudera、丹娜法伯癌症研究院、Degas Ltd.、Delta航空公司、Druva、Enverus、Genesys、英国基因组学研究所、GoDaddy、Happy Fox、Intuit、KT、LivTech、Lonely Planet、LexisNexis Legal & Professional、M1 Finance、Netsmart、Nexxiot、Parsyl、Perplexity AI、辉瑞、PGA巡回赛、Proto Hologram、Ricoh USA、Rocket Companies以及西门子。

 

]]>
40亿美元投资Anthropic 亚马逊云科技夯实生成式AI三层架构 //www.otias-ub.com/archives/1685289.html Wed, 17 Apr 2024 02:22:13 +0000 //www.otias-ub.com/?p=1685289 毋庸置疑,在追加投资27.5亿美元之后,亚马逊云科技完成了对Anthropic总共40亿美元投资,拿到了生成式AI领域的全球顶级船票。这也是2024年生成式AI的关键性事件之一。

在近期的2024亚马逊云科技生成式AI媒体沟通会,亚马逊云科技大中华区产品部总经理陈晓建介绍了亚马逊云科技在生成式AI领域的最新进展。相关的进度。陈晓建表示,亚马逊云科技与Anthropic的合作是非常紧密,Anthropic推出下一代模型Claude3的时候,第一时间在Amazon Bedrock平台上完成了发布。同时,Anthropic做出长期承诺,将通过Amazon Bedrock为世界各地的亚马逊云科技的客户提供访问其下一代基础模型的能力。

没有一个基础模型能适用所有业务场景

亚马逊云科技在生成式AI领域为客户提供了三层架构。

最底层,亚马逊云科技为客户提供了基础算力,包括英伟达最新推出的G200芯片,亚马逊自研芯片Amazon Trainium、Amazon Inferentia以及用于训练和推理的平台Amazon Sagemaker。

中间层,以Amazon Bedrock为代表,通过一个模型平台支持多种技术大模型。Amazon Bedrock提供各种领先的基础模型供客户选择:既有知名的开源模型,如Stable Diffusion XL、Llama、Mistral 7B和Mixtral 8*7B,也有如Anthropic Claude 3、AI21labs Jurassic、Cohere Command、Amazon Titan等非开源模型。

最上层,应用GenAI技术的开箱即用的云服务。例如Amazon Q,可以与、Amazon QuickSight、Amazon Connect、Amazon CodeWhisperer等应用都实现了非常有效地结合。

与Anthropic在生成式AI领域进行广泛的深度合作

Anthropic在Amazon Bedrock上提供的Claude 3系列模型是全球最领先的大模型之一,共包含三个模型:具有几乎即时响应能力且最紧凑的 Claude 3 Haiku;在技能与速度之间达到理想平衡的 Claude 3 Sonnet;以及为处理高度复杂任务设计的最智能模型 Claude 3 Opus。客户可以根据自己的商业需求,从中选择最合适的智能、速度和价格组合。

Claude 3的能力已经非常突出,包括四个方面:

1.Claude 3创造模型智能水平的新纪录——在数学问题、编程练习和科学推理等标准评估中超越了所有现有模型。客户可以借助AI驱动的响应,自动化完成任务并保证高准确率,特别是Claude 3 Opus,它不仅在大多数常见的AI系统评估基准测试中表现优异并且在复杂任务中表现出优秀的理解能力和流畅性,走在通用智能的最前沿。

2.Claude 3现已具备多模态能力——Claude 3可以接收基于图像的输入,能力与其他前沿模型大致相同,并且延迟低于其他多模态模型(尤其是Claude 3 Haiku)。

3.Claude 3能够降低幻觉,提升回答准确率——在处理挑战性开放问题(100Q Hard)上准确性明显提升,并且减少错误答案。

4.Claude 3系列模型均提供200K 超长上下文准确召回,针对某些特殊场景,会开放支持 1M token的上下文窗口;大海捞针(Needle In A Haystack, NIAH) 召回率表现优异;甚至还能识别出测试本身的局限,比如发现某“目标”句子明显是后来人为添加进原始文本的。

Claude 3应用场景包括内容续写、代码辅助、电商商品描述撰写、长文本知识召回总结等。

在活动现场互动时,Claude 3对于随机提出的相对论问题及中国古代丹法流派伍柳派相关问题均快速得出逻辑清晰的答案。

亚马逊云科技如何平衡模型能力和客户成本

亚马逊云科技之所以推出Amazon Bedrock这样的产品,是因为它为客户提供了丰富的选择,客户可以在自己的应用场景下,选择成本和性能更合适的环境。

陈晓建也列举出客户的疑问:既然Claude 3如此强大,为什么要加Amazon Bedrock这么一层呢?

在陈晓建看来,模型能力和真正的运营生产之间,需要增加很多辅助能力。Amazon Bedrock提供一系列除了大模型以外的能力。

首先是Provisioned Throughput(预置吞吐量)。客户可以购买后台资源,这些资源提供的大模型能力完全独享。

其次,是模型微调(fine-tunning),很多客户都会关注如何将自身的业务数据与大模型结合,进行微调。这毫无疑问是业务能够产生差异化价值的关键,关键在于如何用好业务数据,而非仅仅简单使用完全标准化的大模型。这个能力也是Amazon Bedrock提供的一个关键能力。

此外,还有类似Guardrails的能力,能够全面监管大模型使用情况,通过适当的配置来降低幻觉现象的产生,同时提供全方位日志。

从用户角度来看,除了大模型之外,如果他们需要充分利用大模型的能力,那么应该如何与业务结合呢?陈晓建认为需要一个非常强的数据基础或者称之为数据底座。要使用大模型,必须有一定的生产结合。生产结合意味着需要拥有大量的业务数据,需要去与大模型打通。

陈晓建表示,“大模型非常重要,非常核心,然而仅靠大模型对你的生产是远远不够的。你需要一系列周边能力帮助你正确、合理、安全、高效地使用大模型。这就是亚马逊云科技一系列产品所提供的价值所在。”

 

]]>
安全稳定可信赖 亚马逊云科技如何构建可靠的云服务 //www.otias-ub.com/archives/1684169.html Tue, 09 Apr 2024 02:40:42 +0000 //www.otias-ub.com/?p=1684169 越来越多的企业将关键性的工作负载放到云上,如何确保云上业务的连续性即云的韧性对企业来说就越来越重要。在亚马逊云科技,我们从一开始就在基础设施、服务设计与部署、运营模式和机制中将韧性考虑其中。例如,亚马逊云科技在一个区域内三个或更多可用区的设计,可通过更多冗余和更好的隔离来控制故障的影响面。亚马逊云科技将韧性根植于服务的设计之中,不同级别的服务有对应的、隔离的控制面和数据面,并逐层实施隔离。

如今,全球数百万用户选择亚马逊云科技,包括对数据高度敏感的组织如纳斯达克、道琼斯、美国金融监管局(FINRA)、默沙东等,他们信赖亚马逊云科技提供的安全、稳定、可信赖的云服务,满足其业务需求。

将韧性构建到亚马逊云科技的方方面面

为构建和运行世界上最可靠的云,亚马逊云科技持续投入,在服务设计和部署机制中构建保障措施,并将韧性植根于运营文化之中。亚马逊云科技服务的设计中就考虑了如何防止中断和事故的发生,因此当中断确实发生时,对客户和服务的连续性的影响将是最小的。为了避免单点故障,我们最小化全球基础设施之间的互联性。亚马逊云科技全球基础设施地理位置分散,遍及33个地理区域的105个可用区。亚马逊云科技的区域由一个地理区域内的多个相互独立,且在物理上分隔的可用区组成。每个可用区都有独立的电力、制冷和物理安全设施,可用区之间通过冗余的超低延迟网络连接。同一区域内的可用区之间具有足够的距离,最远可达约100公里,既能防止相关故障,但又能实现单位毫秒级延迟的同步复制。亚马逊云科技是唯一在每个区域内提供三个或更多可用区的云提供商,通过更多冗余和更好的隔离来控制故障的影响面。常见故障点,如发电机和冷却设备等,不会在可用区之间共享,并且设计为由独立的电力变电站供电。为了获得高可用性的同时可以实现更大的容错能力,客户可以将他们的应用程序设计为在多个可用区中运行。

韧性根植于亚马逊云科技服务设计之中。在亚马逊云科技构建的服务必须满足极高的可用性目标。我们会仔细考虑我们系统所依赖的因素。即使这些依赖项受到影响,我们的设计也使我们的系统保持韧性;我们使用被称为静态稳定性来实现这种程度的韧性。这意味着系统以静态状态运行,并在发生故障或依赖项不可用时继续正常运行,无需进行任何更改。例如,在Amazon Elastic Compute Cloud (Amazon EC2)中,实例启动后就和数据中心中的物理服务器一样可用。其他亚马逊云科技资源如虚拟私有云(VPC)、Amazon Simple Storage Service (Amazon S3)存储桶以及Amazon Elastic Block Store (Amazon EBS)卷也具有相同的特性。

赋能客户所有工作中构建韧性

数百万客户信赖亚马逊云科技是构建和运行关键业务和关键任务应用程序的最佳场所。我们提供了一套全面的专门构建的服务、策略和架构最佳实践,客户可以使用这些服务、策略和最佳实践来提升企业自身的韧性。这些服务、策略和最佳实践在亚马逊云科技韧性生命周期框架中被概述成了五个阶段:设定目标、设计和实施、评估和测试、运营以及响应和学习。弹性生命周期框架模仿标准软件开发生命周期,因此客户可以轻松地将韧性纳入现有流程。

例如,客户可以使用Amazon Resilience Hub来设置目标,根据这些目标评估韧性状况,并根据Amazon Well-Architected Framework和Amazon Trusted Advisor的建议实施改进措施。在Resilience Hub中,客户可以创建和运行Amazon Fault Injection Service实验,这些实验允许客户测试其应用程序将如何响应某些类型的中断。

其他服务,如Amazon BackupAmazon Elastic Disaster Recovery (Amazon DRS)Amazon Route53 Application Recovery Controller (Route 53 ARC),可以帮助客户快速响应和从中断中恢复。当汤森路透(一家为超过100个国家的客户提供税务、法律、媒体和政府解决方案的国际媒体公司)希望改善其业务部门之一的数据保护和应用程序恢复时,他们采用了Amazon DRS。Amazon DRS为汤森路透提供了持续复制,因此他们在源环境中所做的更改会在几秒钟内更新到灾难恢复站点。

 

行而不辍,未来可期

新技术、新威胁和新的处事之道层出不穷。这就是亚马逊云科技不懈努力改进基础设施、服务设计、运营模式和机制,持续加强与发展云设施韧性的原因。亚马逊云科技将持续为客户提供广泛、深入的架构及运营最佳实践服务、工具和指导,帮助客户在云中构建和运行弹性应用程序。

 

]]>
亚马逊云科技携手埃森哲、Anthropic助力企业打造负责任的AI //www.otias-ub.com/archives/1682090.html Wed, 27 Mar 2024 07:26:37 +0000 //www.otias-ub.com/?p=1682090
  • 全新投入的专项资源和资金致力于支持客户利用自身数据,在亚马逊云科技上定制Anthropic模型,快速将生成式AI应用案例推向生产实践。
  • 埃森哲已将Anthropic和亚马逊云科技的技术应用于多个行业特定的解决方案中,包括提示工程、平台工程与定制服务。
  • 北京——2024年3月27日,亚马逊云科技正式宣布,将与埃森哲、人工智能公司Anthropic展开全球合作,帮助企业,尤其是医疗健康、公共服务、银行和保险等受到强监管的行业,引入并规模化定制生成式AI技术,在追求创新、优化客户服务和提高员工生产效率的同时,严格遵守数据隐私和安全标准。

    通过此次合作,企业能够在Amazon Bedrock上使用Anthropic的AI模型。Amazon Bedrock是亚马逊云科技的一项完全托管服务,它通过单一的API接口提供来自领先人工智能公司和亚马逊的高性能基础模型。此外,企业将在确保安全、隐私和负责任的AI的基础上,获得一系列广泛的功能,用于构建生成式AI应用程序。埃森哲提供的服务和加速器能够定制和调优Anthropic的Claude模型,以满足特定的客户需求。这一服务将增强Claude模型在知识管理、预测分析及监管文档制作等行业特定场景中的应用能力。这些加速器服务使客户能够更快地将他们的生成式AI场景推向生产环节,而不必从零开始。

    埃森哲、Anthropic和亚马逊云科技的合作不仅促进了客户的提示工程和平台工程化,还打造了在Amazon Bedrock或Amazon SageMaker上部署定制化模型的最佳实践。Amazon SageMaker是亚马逊云科技的一项完全托管服务,集成了一系列工具,旨在为任何生成式AI场景实现高性能、低成本的机器学习。此外,逾1,400名埃森哲工程师将经过专业培训,成为在亚马逊云科技上应用Anthropic模型的专家,从而为客户部署生成式AI应用提供端到端支持。

    “生成式AI正在塑造全新的工作方式。我们通过不断部署及进一步调整技术,以满足客户的业务需求,不断为客户创造新的价值。”埃森哲技术服务事业部全球总裁Karthik Narain表示:“我们将埃森哲、亚马逊云科技及Anthropic的独特优势相结合,帮助客户更迅速地将创意转化为实际价值。尤其在强监管的行业,我们的模型定制服务具有更大的潜力,因为这些行业对AI模型的合规性、准确性和安全性要求非常高。”

    通过结合亚马逊云科技的先进云服务以及Anthropic的领先基础模型,三家公司已经合作开发了行业特定的人工智能解决方案,满足了企业对速度和规模的特定业务需求。例如,在保险行业,埃森哲借助Claude模型开发的智能核保和理赔解决方案,极大提高了文档处理的准确性,改善了客户反馈体验,并显著加快了业务处理速度。

    埃森哲的人工智能创新中心通过AI Navigator和GenWizard平台向企业提供自动化及AI服务。依托Claude和亚马逊云科技的强大能力,埃森哲在这些平台上融入了生成式AI技术,进一步推动了应用开发、模型定制和业务流程重构的自动化进程,为客户带来了显著的效率提升。

    亚马逊云科技全球销售、市场和服务高级副总Matt Garman指出:“生成式AI为全球包括强监管行业在内的各行各业的创新都产生了积极影响。通过整合埃森哲的专业知识、Anthropic的前沿生成式AI技术,以及亚马逊云科技作为全球领先的云服务提供商所提供的强大支持,我们致力于确保企业能在负责任和安全的前提下,快速实现生成式AI应用的开发和部署,从而优化成本效益并缩短产品上市时间。

    Anthropic首席执行官Dario Amodei表示:“目前,企业高层领导者正在积极构建自己的AI战略和竞争优势。我们与亚马逊云科技和埃森哲的合作为企业负责任地部署强大的生成式AI人工智能系统提供了最快捷的途径。通过融合Anthropic在模型性能与安全性方面的专长、亚马逊云科技在安全与可靠性方面的实践经验,以及埃森哲在技术落地和行业洞察方面的专业知识,我们致力于打造能够满足关键业务需求的定制化解决方案。”

    此次三方合作标志着埃森哲与亚马逊云科技超过十五年合作关系的进一步深化。不久前,Anthropic已选择亚马逊云科技作为其首选的云服务提供商。

    ]]>
    18年,Amazon S3 如何成为长盛不衰的云存储服务? //www.otias-ub.com/archives/1681201.html Thu, 21 Mar 2024 06:32:00 +0000 //www.otias-ub.com/?p=1681201 只要计算机依然遵循冯·诺依曼体系结构所定义的形态,那么关于计算的发展创新,大多都将围绕着“存”与“算”的协作。不过有趣的是,从古文明到计算机时代,千年以来人类对“存”的需求似乎总是优先于“算”——只要条件允许,人们就倾向于灾备性地保留尽可能多的数据,即便它们可能再也不会被用于计算;现在的电子产品也喜欢让用户在计算硬件相同但存储空间不同的产品中进行选择。

    当然,在计算的世界中“存”和“算”只是在不同场景中有所侧重,缺一不可。只不过由于技术、成本等限制,人们在购买算力时往往精心算计,但对存储则倾向预留充足冗余。这也解释了为何在计算机领域的一些重大发展中,存储或是发挥重要作用,或是在第一时间享受到创新的增益。

    如果将2006年亚马逊云科技成立,看作是拉开了云计算时代的帷幕,那么Amazon Simple Storage Service(Amazon S3)对象存储服务就是拉开帷幕的那只无形的手。作为亚马逊云科技的推出的第一个云服务,Amazon S3的到来,与那些隐约感受到数据膨胀压力的用户形成了一场双向奔赴。

    现在,诞生已18年的Amazon S3已是最受欢迎的亚马逊云科技服务之一。随着云计算生态日益繁荣,计算场景来到机器推理、生成式人工智能等高阶应用,Amazon S3也在一路发展成长,成为云计算中基础但又从不缺席的环节。

    首个云对象存储,Amazon S3揭开云计算时代的大幕

    作为亚马逊云科技的“元老”级服务,Amazon S3目前为全球数百万各行各业的客户提供可靠、便捷的云存储。现在,Amazon S3 存储了超过 350 万亿个对象,平均每秒处理超过1亿次请求,能够胜任几乎所有工作负载。

    Amazon S3能拥有持续18年的旺盛生命力,来自云计算所开创的颠覆性存储范式。云计算通过功能和服务取代了本地存储,上至无限的弹性容量、按用量付费……云计算使存储拥有了与业务同步成长的可能。

    而且Amazon S3还提供了远超本地存储的可靠性,具有的11个9(99.999999999%)的持久性,意味着一万年时间跨度中1000万个对象才可能会丢一个,用户使用Amazon S3不需要在本地构建数据中心,无需操心数据存放位置,不用担心扩容问题,也几乎不用担心数据丢失的风险。

    丰富的存储级别,Amazon S3以更经济的方式承载更多数据与应用

    随着企业数字化转型的逐步推进,以及云计算技术对企业IT技术的重塑,企业在云上存放了数量众多、类型多样的数据,并在云上构建了越来越多的应用。企业一方面要解决存储成本持续增加的挑战;另一方面还需要满足不同应用的数据不同访问模式,比如,有的数据访问频次不同,需要的检索时效不同,有的需要即时检索,有的在几十个小时检索。

    针对客户的这些需求,亚马逊云科技持续针对Amazon S3持续开展创新,如今Amazon S3提供了9个存储层级,不同层级有不同的访问特性和成本水平。2012年是云计算方兴未艾的年代,亚马逊云科技在标准Amazon S3的基础上又发布了Amazon S3 Glacier(现已更名为Amazon S3 Glacier Flexible Retrieval ),它为需要长期存储,且低访问频次的数据提供了低成本的数据存储方案,也成了云上存储多样化的一个重要开端。

    此后,为了提供更加灵活的数据存取速度和成本效率,满足更多应用需求。亚马逊云科技先后推出了成本最低的深度归档存储Amazon S3 Glacier Deep Archive,支持快速检索的归档存储Amazon S3 Glacier Instant Retrieval,以及不常访问、但在需要时要能快速访问的Amazon S3 Standard-IA和Amazon  S3 One Zone-IA等。

    金山办公是国内领先的办公软件和服务提供商,其旗舰产品 WPS Office是全球主流办公软件产品之一。WPS Office 对数据的存储和管理有极为严苛的要求:WPS Office 存储了 PB 级海量数据,带来了巨大的存储成本压力;同时,由于 WPS Office 为用户提供对 “冷” 文档的及时访问,因此对归档存储(Archive Storage)的数据提取时间也有更高的标准。为了降低最终用户的延迟和存储成本,WPS Office 在亚马逊云科技的协助下,最终通过 Amazon S3 完成了自动化生命周期管理流程的建立。其中,针对很少访问且需要毫秒级检索的长期数据,将其归档在更具有成本效益的 Amazon S3 Glacier Instant Retrieval 中。最终,WPS Office 有近一半的存储进入到了 Amazon S3 Glacier Instant Retrieval 中,达成了数据访问速度提升和存储成本大幅优化的双重效果。

    此外,针对用户访问模式不明确以及数据访问模式不断改变的情况,亚马逊云科技还推出了Amazon S3新的存储层级——Amazon S3 Intelligent-Tiering。该服务可以根据访问频率自动将数据移至成本最低的存储层,在对象级别降低存储成本,并且不会影响性能表现。自 2018 年Amazon S3 Intelligent-Tiering 推出以来,与 Amazon S3 Standard 相比,客户通过采用 S3 Intelligent-Tiering 节省了 20 亿美元。

    迎接人工智能技术发展,Amazon S3性能实现突破性提升

    随着新的使用场景的出现,如机器学习训练和推理、交互式分析、金融模型模拟、实时广告和媒体内容创建,这类工作负载可能每分钟写入和访问数据达百万次,并需要一致的、毫秒级的响应时间以满足性能需求。例如,人工智能(AI)和机器学习模型训练通常需要在几分钟内处理数百万张图片和文本行,因此数据访问速度对于实现最高的计算效率至关重要。

    Amazon S3上存储着各种不同类型的大量非结构化数据,这些非结构化数据通常是直接从真实世界中获取的,因此它能更真实地反映现实世界的复杂性和多维度信息,利用这些数据做训练能提高模型的实用价值,更好地满足企业用户需求。去年底,亚马逊云科技在2023年re:Invent全球大会上,发布Amazon S3 Express One Zone,这是Amazon S3在性能方面的一次突破性提升。它采用了单可用区的架构设计,拥有个位数毫秒级响应时间,性能比标准版Amazon S3快了10倍,每分钟可处理数百万次请求。

    对于计算密集型负载,Amazon S3 Express One Zone延迟的降低对用户有显而易见的价值。用ImageNet数据集进行为期15天训练时,GPU经常需要等候标准版Amazon S3加载数据,而在换成S3 Express One Zone之后,GPU利用率持续稳定在高水平,最终提早完成任务,释放了GPU资源并节省成本。

    Colorfront 致力于为电影行业开发高性能数字处理技术。“Colorfront 将高性能 GPU 架构与 Amazon S3 Express One Zone 集成,实现对文件进行转码、解码、转换和封装到各种格式的加速处理。” Colorfront 解决方案工程总监 Brandon Heaslip 表示,“借助  Amazon S3 Express One Zone 个位数毫秒级的数据访问速度,Colorfront的客户可以将数字视频处理速度提高70%,满足了流媒体传输中多样化的媒体和娱乐需求,并保持数字视频的标准。”

    除了Amazon S3 Express One Zone以外,亚马逊云科技还发布了多个新特性,让Amazon S3更好地支撑人工智能/机器学习工作负载。亚马逊云科技在Amazon Common Runtime (CRT)中封装访问Amazon S3的性能最佳实践,从而提高S3的传输性能和传输稳定性。而且,CRT已经集成到包括AWS Python SDK、AWS CLI、Mountpoint以及PyTorch中,在CRT的帮助下,Mountpoint for Amazon S3和Amazon S3 Connector for PyTorch都可以提高存储的性能表现,为机器学习负载中的数据存储提供加速,使其更快完成训练任务,进而帮助企业节省成本。

    结束语

    在过去的18年里,Amazon S3成为众多用户上云的第一步,从存储开始步入云计算驱动的数字化转型。如今,Amazon S3还在持续创新,全球数百万客户正使用Amazon S3存储各种类型的数据,并将Amazon S3的数据对接到亚马逊云科技各种计算引擎、数据库引擎,与人工智能/机器学习和大数据分析等服务高度集成,为其业务创新带来了更广泛的可能性。

    ]]>
    亚马逊云科技与英伟达扩展合作 持续推进生成式AI创新 //www.otias-ub.com/archives/1681034.html Wed, 20 Mar 2024 02:30:15 +0000 //www.otias-ub.com/?p=1681034
  • 亚马逊云科技将提供基于NVIDIA Grace Blackwell GPU的Amazon EC2实例和NVIDIA DGX Cloud,以加速构建及运行数万亿参数的规模大型语言模型的性能
  • Amazon Nitro系统、Elastic Fabric Adapter加密,以及与Blackwell加密集成的Amazon KMS密钥管理服务,为客户提供从训练数据到模型权重的端到端控制,为客户在亚马逊云科技上的AI应用提供更强的安全保障
  • “Ceiba项目”——一台完全依托亚马逊云科技搭建、采用DGX Cloud的AI超级计算机,搭载了20,736颗GB200 Superchips芯片,能够提供414 exaflops的处理能力,专为NVIDIA自身的AI研发工作设计
  • Amazon SageMaker与NVIDIA NIM推理微服务集成,以帮助客户进一步优化在GPU上运行基础模型的性价比
  • 亚马逊云科技与英伟达之间的合作加速了在医疗保健和生命科学领域的AI创新
  • 北京——2024年3月20日,亚马逊云科技和英伟达宣布,英伟达在2024年GTC大会上推出的新一代NVIDIA Blackwell GPU平台即将登陆亚马逊云科技。亚马逊云科技将提供NVIDIA GB200 Grace Blackwell Superchip和 B100 Tensor Core GPU,这一举措延续了双方长期的战略合作伙伴关系,旨在为客户提供安全、先进的基础设施、软件及服务,助力客户开启新一代生成式AI的能力。

    英伟达与亚马逊云科技继续汇聚各自的领先技术,包括具备英伟达最新多节点系统的下一代NVIDIA Blackwell平台和AI软件,以及亚马逊云科技的Nitro系统、具备领先安全性的Amazon KMS密钥管理服务、千万亿比特级的Elastic Fabric Adapter(EFA)网络和Amazon EC2 UltraCluster超大规模集群等技术。基于上述技术打造的基础设施和工具,使客户能够在Amazon EC2上以更快速度、更大规模、更低成本地对其构建和运行数万亿参数的大型语言模型(LLMs)进行实时推理,性能相较于配备前一代英伟达GPU的EC2实例有显著改进。

    亚马逊云科技首席执行官Adam Selipsky表示:“我们双方的深入合作可以追溯到13年前,当时我们共同推出了世界上第一个亚马逊云科技上的GPU云实例,而今天我们为客户提供了最广泛的英伟达GPU解决方案。英伟达的下一代Grace Blackwell处理器是生成式AI和GPU计算领域的标志性事件。当结合亚马逊云科技强大的EFA网络、Amazon EC2 UltraClusters的超大规模集群功能,以及我们独有的Amazon Nitro高级虚拟化系统及其安全功能时,我们就能够使客户更快、更大规模且更安全地构建和运行具有数万亿参数的大型语言模型。”

    英伟达创始人兼首席执行官黄仁勋表示:“人工智能正在以前所未有的速度推动新应用、新商业模式和跨行业的创新。我们与亚马逊云科技的合作正在加速新的生成式AI能力的发展,并为客户提供前所未有的计算能力,以开创无限可能。”

    亚马逊云科技与英伟达的新合作将显著加快超万亿参数前沿大型语言模型的训练

    亚马逊云科技将提供配置GB200 NVL72的英伟达Blackwell平台,它配备72颗Blackwell GPU和36颗Grace CPU,通过第五代NVIDIA NVLink™互连。当与亚马逊云科技强大的EFA网络、Amazon Nitro高级虚拟化系统和Amazon EC2 UltraClusters超大规模集群等技术结合时,客户能够轻松扩展至数千个GB200 Superchips。英伟达Blackwell在亚马逊云科技上的应用,使得该平台在应对资源密集型和数万亿参数语言模型等推理工作负载加速方面实现了巨大飞跃。

    基于此前搭载英伟达H100的Amazon EC2 P5实例的成功(客户短期使用这些实例可通过Amazon EC2 Capacity Blocks for ML功能),亚马逊云科技计划提供配备B100 GPUs新的Amazon EC2实例,并支持在Amazon EC2 UltraClusters中部署以加速超大规模生成式AI的训练和推理。GB200也将在NVIDIA DGX™ Cloud上可用,这是一个在亚马逊云科技上双方共同开发的AI平台,为企业开发者提供了构建和部署先进生成式AI模型所需的专用基础设施和软件。在亚马逊云科技上推出的基于Blackwell的DGX Cloud实例将加速前沿生成式AI和超过1万亿参数的大语言模型的开发。

    提升AI安全性:亚马逊云科技Nitro系统、Amazon KMS、EFA加密与Blackwell加密技术紧密集成

    随着AI技术应用越来越广泛,企业需要确信,在整个训练流程中,他们的数据都得到了安全的处理。保护模型权重的安全至关重要,模型权重是模型在训练过程中学习到的参数,对于模型做出预测的能力至关重要。确保模型权重的安全对保护客户的知识产权、防止模型被篡改以及维护模型的完整性都是非常重要的。

    亚马逊云科技的AI基础设施和服务已经实现了安全特性,使客户能够控制其数据,并确保数据不会与第三方模型提供者共享。Amazon Nitro系统和英伟达GB200的结合将能够阻止未授权个体访问模型权重,从而把AI安全性提升到新的高度,。GB200支持对GPU之间NVLink连接进行物理加密,以及对Grace CPU到Blackwell GPU的数据传输进行加密,同时EFA也能够对服务器之间的分布式训练和推理过程的数据进行加密。GB200还将受益于Amazon Nitro系统,该系统将主机CPU/GPU的I/O功能卸载至专门的硬件上,以提供更加一致的性能,其增强的安全性可以在客户端和云端全程保护客户的代码和数据在处理过程中的安全。这一独有的功能已经获得了领先的网络安全公司 NCC Group 的独立验证。

    通过在Amazon EC2上使用GB200,亚马逊云科技将使客户能够使用Amazon Nitro Enclaves和Amazon KMS,在其EC2实例旁创建一个可信执行环境。Amazon Nitro Enclaves允许客户使用Amazon KMS控制下的密钥来加密他们的训练数据和权重。从GB200实例内部可以加载安全区(enclave),并且可以直接与GB200 Superchip通信。这使得Amazon KMS能够以加密安全的方式直接与安全区通信,并直接传递密钥材料。然后,安全区可以将该材料传递给GB200,这样做能够保护客户实例中的数据,防止亚马逊云科技操作人员访问密钥或解密训练数据或模型权重,从而赋予客户对其数据的无与伦比的控制权。

    “Ceiba项目”利用Blackwell在亚马逊云科技上推动英伟达未来生成式AI创新

    在2023年亚马逊云科技re:Invent大会上宣布的“Ceiba项目”,是英伟达与亚马逊云科技合作建造的世界上最快的AI超级计算机之一。这台专为英伟达自身的研究和开发而设的超级计算机,独家托管在亚马逊云科技上。这台首创的拥有20,736颗GB200 GPU的超级计算机,采用新型NVIDIA GB200 NVL72配置构建,其特有的第五代NVLink将连接10,368颗NVIDIA Grace CPU。系统通过亚马逊云科技第四代EFA网络进行扩展,为每个Superchip提供高达800 Gbps的低延迟、高带宽网络吞吐量——能够处理高达414 exaflops的AI计算量,与之前计划在Hopper架构上构建Ceiba相比,性能提升了6倍。英伟达的研发团队将利用Ceiba推进大语言模型、图形(图像/视频/3D生成)与仿真、数字生物学、机器人技术、自动驾驶汽车、NVIDIA Earth-2气候预测等领域的AI技术,以帮助英伟达推动未来生成式AI的创新。

    亚马逊云科技与英伟达的合作推动生成式人工智能应用开发及医疗健康与生命科学领域的应用进展。

    亚马逊云科技与英伟达联手,通过Amazon SageMaker与NVIDIA NIM推理微服务的整合,提供了高性能、低成本的生成式AI推理解决方案,该服务作为NVIDIA AI企业版的一部分提供。客户可以利用这一组合在Amazon SageMaker中快速部署和运行已预编译且对NVIDIA GPU进行优化的基础模型,缩短生成式AI应用的推出时间。

    亚马逊云科技与英伟达还在利用计算机辅助的药物发现领域进行合作拓展,推出了新的NVIDIA BioNeMo™基础模型,用于生成化学、蛋白质结构预测,以及理解药物分子与目标的相互作用。这些新模型将很快在Amazon HealthOmics上提供,这是一个专为帮助医疗保健和生命科学组织存储、查询和分析基因组、转录组及其他组学数据而设计的专用服务。

    Amazon HealthOmics和英伟达医疗保健团队还合作推出生成式AI微服务,以推进药物发现、医疗技术和数字健康领域的发展,该服务提供一个新的GPU加速的云端服务目录,涵盖生物学、化学、成像和医疗保健数据,以便医疗企业能够在亚马逊云科技上利用生成式AI的最新成果。

    ]]>
    2024年,四大趋势将重塑组织人才培养 //www.otias-ub.com/archives/1675176.html Tue, 06 Feb 2024 01:49:01 +0000 //www.otias-ub.com/?p=1675176 亚马逊云科技大中华区培训与认证部总监纪慧森

    北京——2024年2月5日 去年,全球经济面临多重挑战,迫使每一个企业重新审视整体的运营成本,开源节流。在我跟很多企业管理层的交流中我也发现,他们普遍认为,建立组织韧性的关键在于对人才培养的持续投入,以及进一步巩固包容开放的企业文化、鼓励员工保持好奇和不断学习的精神,这一点在企业面临困难的时期尤为重要。企业的管理者应该鼓励员工从不同的角度思考问题,寻求多种观点,并有效地激励和督促彼此。

    在2024年,企业对于自身发展更为乐观,不变的是,人才依旧是企业把握机遇的核心要素。无论是业务负责人、人力资源主管还是技术领导,对提升员工技能的投入始终应该是最具战略性和影响力的投入。而以下四个方面,将成为2024年塑造企业组织创新能力的主要趋势。

    1. 生成式人工智能

    根据世界经济论坛《2023年未来就业报告》,未来五年内,超过75%的组织计划采用大数据、云计算和人工智能(AI)技术。无论企业是刚开始探索这些技术,还是已经在利用它们在推动业务运营的现代化,企业都需要拥有相应技能的人才。然而,企业现有的人才积累非常有限,尤其在生成式人工智能(Generative AI)方面。大部分企业已经意识到,生成式人工智能将全面变革我们的工作和生活方式,它对现有岗位的影响也将远超出IT部门。而这项技术所带来的变革正以前所未有的速度发生,对于员工提升自身技能和企业主提升员工技能水平方面都带来了巨大的压力和紧迫性。因此,我们建议,企业和组织应该制定培训计划,覆盖开发者、销售、市场营销、人力资源、客户服务等各个领域的员工,以确保团队准备好应对生成式人工智能的革新。同时,企业管理者应该了解和学习不断涌现的应用案例,并鼓励经理们了解生成式人工智能能够如何改善他们的业务领域,推动创新,而不仅仅是改进工作方式。管理者还可以组织跨部门的讨论,分享经验教训,并在内部设立生成式人工智能的先锋小队或倡导者,为企业当下和未来高效、安全、正确地使用这项技术制定明确的战略。

    1. 人力资源在数字化转型过程中的作用

    过去,数字化转型计划通常由各个业务部门或IT部门发起。随着企业的管理团队共同了解云计算及如何利用其创造价值,情况正在发生改变。如今,随着很多企业利用云端技术来培训所有的员工,他们的而员工有机会利用云端的优势提高投资回报率和整体业务效率,增强企业安全性以及加速创新。上云已经成为很多企业的关键战略。在这个前提下,人力资源部门需要重新审视组织的人才战略,从招聘、留存到持续的培训项目。还有一点值得特别重视,就是针对非技术部门员工的云技能培训。因为在过去,这部分员工并不需要掌握云的技能。在这方面,人力资源部门应该有效地将这部分员工培训的目标与业务或个人发展的目标绑定。通过推动所有员工提高云端技能,企业能够更有效地应对外部变化。我们认为,各个部门的管理者都应该尽快与人力资源部门协同合作,让员工有能力支持公司的云计算战略。

    1. 交互式的数字化学习

    全球疫情改变了我们工作和学习的方式。尽管虚拟和自主的办公、学习、交流模式更容易规模化应用,但在效率方面无法完全替代面对面的交流。我们非常高兴看到,有很多的创新正在发生,以便最大化两种工作和学习方式的优势,尤其是在学习培训的范畴。例如,视频游戏在过去几十年里被用作辅助教学工具,并在近年来取得了尤为显著的进展。如今,数字原生的员工(年龄在25至35岁之间)期望有基于游戏的学习方式,通过互动、有趣的游戏元素激发学习动力。与传统的教学方法相比,基于游戏的学习方法更注重实验、实践、解决问题,同时,通过提供以个人或团队合作形式的闯关体验,学习者能更深入地理解并在实践中运用学习到的概念。我建议,企业的管理者都可以开始尝试基于游戏的学习方案,以提高员工的技能并实现培训目标。这个方法将有助于不同团队和部门之间打破孤岛,提高学习成果。

    1. 为员工提供学习时间

    领导者需要创造一个环境,让员工有机会学习本职工作以外的技能。我建议,管理层鼓励员工将工作中10%的时间用于学习,而不是处理电子邮件和其他日常任务。在亚马逊云科技的一些部门,我们就实行了“无会议星期五”政策,允许员工根据自身兴趣选择新的领域进行学习。员工在学习新技能方面投入的精力越多,对公司的贡献就越大。我相信,鼓励员工保持好奇心和创造力,并发挥想象力,将推动更多的创新,获得员工的信任和忠诚度。

    ]]>
    亚马逊云科技陈晓建:云计算的价值在生成式AI的今天被放大 //www.otias-ub.com/archives/1670148.html Fri, 05 Jan 2024 02:16:00 +0000 //www.otias-ub.com/?p=1670148 在亚马逊云科技2023re:Invent中国行北京站活动上,亚马逊云科技大中华区产品部总经理陈晓建重点强调了亚马逊云科技如何通过创新性的技术重塑帮助客户加速创新。亚马逊云科技全面发力生成式AI,推出面向企业级生成式AI的一系列新服务及功能,包括重塑未来工作方式的新型生成式AI助手Amazon Q、Amazon Bedrock更多的模型选择和全新强大功能、Amazon SageMaker助力规模化开发应用模型的五大新功能等,帮助企业更轻松、安全地构建和应用生成式AI。

    虽然生成式AI是2023年重头戏,话题伴随着亚马逊云科技中国市场的众多活动,但底层思维是亚马逊云科技亘古不变的坚持。

    亚马逊云科技一直秉承着逆向工作法的理念,从数百万客户的需求出发构建产品。深信只有这样,才能够持续引领科技创新。作为云计算开拓者,亚马逊云科技不仅一直通过最安全、最可靠的企业级的能力来赋能客户的应用,直到今天仍然拥有业界最广泛、最深入的功能。用一个关键词来总结,就是重塑,从未停止探索用各种方法、更优化的方式找到解决客户痛点的最优解。

    像云计算,卫星网络,生成式AI等所有复杂技术一样,虽然未来未知,但作为云计算的探索开创者,亚马逊云科技始终践行创新实践,为客户突破复杂技术,用重塑实现科技技术的普惠,通过对底层技术的重塑,帮助客户持续重塑业务,这一旅程没有终点。

    基础设施、存储、芯片、无服务器等全面升级

    亚马逊云科技全球基础设施横跨世界33个地理区域,当前,亚马逊云科技的数据中心数量比第二大的云提供商多三倍,服务多60%,功能多40%。

    Kuiper是亚马逊云科技正在建造一个由数千颗近地轨道卫星组成的卫星⽹络。Kuiper团队成功将他们的首批两颗原型卫星送入了轨道。除了公共互联网连接外,Kuiper 还将提供企业就绪的专用连接服务,可以通过专用、安全的连接从任何地方移动数据,以及连接访问亚马逊云科技的云中的数据。

    全新高性能对象存储 Amazon S3 Express One Zone 正式可用。Amazon S3 Express One Zone是新的S3存储类别,采用专门设计的软硬件来加速数据处理,可提供比Amazon S3标准存储快10倍的性能,同时能够以一致的毫秒级延迟处理每分钟数百万次的请求,同时请求成本降低了50%。这项新服务帮助Pinterest提升了10倍以上的写入速度,并将其机器学习驱动的视觉灵感引擎的总成本降低了40%。

    此次推出自研芯片Amazon Graviton 4,平均性能比Amazon Graviton 3提升30%,对某些工作负载的加速更明显,数据库应用程序速度提升40%,大型Java应用程序速度提升45%。基于Amazon Graviton 4的Amazon EC2 R8g实例的预览版已经推出。

    同时推出三项新的无服务器服务创新,涵盖了数据库和分析领域,使客户能够更快速、更轻松地扩展他们的数据基础设施,以支持最具挑战性的应用场景。这三项创新包括:Amazon Aurora Limitless数据库,这是一项全新的功能,可以自动完成超过单个Amazon Aurora数据库写入限制的扩展,让开发人员轻松地扩展他们的应用程序并比自建的解决方案节省数月时间。

    Amazon ElastiCache Serverless可以帮助客户在一分钟内创建高可用的缓存,并实时进行垂直和水平扩展以支持客户复杂的应用程序,且无需管理基础架构。Amazon Redshift Serverless利用人工智能(AI)预测工作负载并自动扩展和优化资源,帮助客户实现高性价比的目标。

    降低生成式AI门槛 重塑产业未来

    亚马逊云科技在生成式AI的端到端的3个不同层面展开持续投入。在底层,提供用于基础模型训练和推理的基础设施。在中间层工具层,提供使用基础模型进行构建的工。在顶层应用层,提供利用基础模型构建的应用程序。

    值得关注的新发布包括:

    Amazon Trainium2处理器,用于生成式 AI 和机器学习训练的专用芯片,针对训练具有数千亿至数万亿参数的基础模型进行优化,相较 Amazon Trainium 4 倍性能提升,65 exaflops的按需超级计算性能。

    Amazon SageMaker HyperPod 服务,可大规模加速基础模型训练,能够缩短高达40%的训练时间,并可以确保持续数周或数月的训练过程不中断。

    Amazon Bedrock是利用大模型构建和扩展生成式人工智能应用的最简单方法。各行各业的客户已经在使用Amazon Bedrock 重塑他们的用户体验、产品和流程,并将人工智能带入他们的业务核心。

    生成式人工智能工作助手Amazon Q,Amazon Q 可以根据客户的业务进行定制,帮助员工快速获得复杂问题的答案、生成内容并采取行动。它可以根据企业的人员、角色和权限进行个性化定制,并确保客户的内容不会被用于训练 Amazon Q 的底层模型,保障数据安全和隐私。

    云计算的价值在生成式AI的今天被放大

    在采访环节,媒体谈到X平台下云这一事件。在陈晓建看来,下云或者云上到底是更贵还是更便宜,这个问题本身就没有一个标准的答案,不同的客户的诉求不一样、能力不一样,就会得出不一样的解答来。

    以前如果要做一个互联网应用,可能只要做一个前端的接入,然后中间做一个数据库和MySQL的数据存储,后面写一堆代码程序就结束了。而现在要做的是GenAI的事,要懂大模型,要懂分布式训练,并且还要懂怎么安全地把模型打通变成共性的。所以对于IT人员能做的事的复杂度是大大提高了。

    是不是每个公司都具备这样的专业能力呢?以做一个一千张卡的并行训练来举例,可能只有很少一部分客户具备这样的能力,更不用提达到极致的性价比,如果只是采用一些标准化的硬件的话。

    对于IT来说,以后要做的工作不再是只搭一个简单的在线的服务,而是要做生成式AI的工作,甚至可能要把生成式AI跟业务完整结合,要做一个时序训练,这个背后的复杂性是非常非常高的。

    这一切提升了用户自己构建数据中心、构建IT基础设施的成本,也放大了云的优势。所以云在给客户带来价值,在生成式AI的今天不是缩小了,而是放大了,因为只有像这种具备这么大海量规模、这么大的研发团队的服务商,才能够有能力去做这些事情。

    艾瑞咨询研究总监王成峰表示:“本次亚马逊云科技re:Invent大会继续在生成式AI领域推陈出新,同时对基础产品升级迭代。其中,令人印象深刻的主要包括:全面深化Serverless,推进数据库、数据分析、AI等全线产品的‘无服务器化’,继续保持在云原生方面的领先布局;继续为生成式AI的发展提供强大能力支撑,不仅包括与英伟达等芯片商合作带来的更先进算力资源,也通过Amazon Bedrock产品提供‘精选’多模型接入的能力平台,更加强调生成式AI领域的生态打造。”

     

    ]]>
    亚马逊首席技术官Werner Vogels:2024年及未来技术趋势预测 //www.otias-ub.com/archives/1667327.html Wed, 20 Dec 2023 06:33:07 +0000 //www.otias-ub.com/?p=1667327 在历史的长河中,人类一直在不断开发各种工具和系统,增强自身的能力。无论是印刷术还是流水线,这些创新拓宽了我们的能力,造就新的工作和职位,我们也在不断调整自己来适应这些变革。这种变革的速度在过去一年急剧加快。云技术、机器学习以及生成式AI变得更加普及,从写电子邮件到开发软件,甚至是早期的癌症筛查,这些技术几乎影响到我们生活的方方面面。未来几年,我们将迎来更多产业创新,推动技术的广泛应用,帮助我们跟上日益加快的生活节奏,而这一切都将始于生成式AI。

    生成式AI将逐渐具备文化意识

    基于文化多样性数据训练的大语言模型(LLM),将能够更细腻地理解人类体验以及复杂地社会挑战。这种“文化流利度”有望让全球用户更方便地使用应用生成式AI。

    文化的影响体现在方方面面,从我们讲的故事、吃的食物、穿着打扮,到价值观、礼仪与偏见,以及我们处理问题和做出决策的方式。文化是我们在社会群体中存在的基础,为我们的行为和信仰提供了规则和指南,而这些会随我们所在的环境和接触的对象而变化。

    同时,这些差异有时也会导致混淆和误解。例如,在日本,吃面时发出的大声吸汤的声音被视为享受美味的表现,但在其他文化中则被视为不礼貌的行为。在印度的传统婚礼上,新娘可能会穿着精心设计、色彩鲜艳的蓝嘎(lehenga,印度女性的传统服饰);而在西方,白色婚纱才是传统;在希腊,人们会为了好运往婚纱上吐口水。作为人类,我们已习惯跨越多种文化展开协作,我们能够将这些信息置于特定语境中,调整解读方式并做出适当的回应。

    所以,为什么不对我们在日常生活中使用和依赖的技术有同样的期望呢?在未来几年,文化将在技术的设计、部署和使用方式中发挥关键作用,其中最显著的影响将体现在生成式AI中。

    基于大语言模型的系统要触达全球用户,它们需要达到与人类自身相似的文化流利度。佐治亚理工学院的研究人员今年早些时候发布的一篇论文中证实,即使给一个大语言模型提供了明确提及伊斯兰祷词的阿拉伯语提示词,它生成的回复仍然是建议与朋友一起饮酒,这在伊斯兰文化中显然是不当之举。这很大程度上与可用的训练数据有关。用于训练许多大语言模型的Common Crawl数据集大约有46%的内容是英语,而且无论是哪种语言,更大比例的内容以西方文化为基础(明显倾向于美国)。而如果使用专门针对阿拉伯语生成的预训练模型并使用阿拉伯语进行预训练,提供相同的提示词,就能生成更符合相应文化背景的回复,比如建议喝茶或咖啡。非西方语境的大语言模型在过去几个月里已经开始出现:例如基于阿拉伯语和英语数据训练的Jais、中英双语模型Yi-34B,以及使用大量日语网络语料库进行训练的Japanese-large-lm。这些迹象表明,具有文化准确性的非西方模型将把生成式AI带给数亿人,并影响从教育到医疗的方方面面。

    需要注意的是,语言和文化并不相同。一个模型即使能够提供完美的翻译,也并不代表其具备文化意识。随着大量的历史和经验被嵌入到模型中,我们将看到大语言模型开始形成更广泛的全球化视角。正如人类从辩论探讨和思想交流中学习一样,大语言模型也需要类似的机会来拓展它们的视野并理解文化。在这种文化交流中,有两个研究领域将发挥关键作用:一是基于AI反馈的强化学习(RLAIF),即一个模型可以吸收另一个模型的反馈,不同的模型之间可以相互影响,并根据这些影响更新其对不同文化概念的理解;二是通过多智能体辩论进行协作,即一个模型的多个实例生成响应,之后针对每个响应的有效性及背后的推理展开辩论,最后基于辩论过程得出一致的响应。这两个研究领域都能够降低训练和微调模型所需的人力成本。

    大语言模型在相互之间交互和学习的过程中,将从不同文化的视角获得对复杂社会挑战的更为细致的理解。这些进步还将确保模型提供更具韧性和技术准确性的反馈,涵盖如科技等广泛的领域。该影响将是深远的,并在不同地理区域、社区和不同时代中为人们所感知。

    女性科技终于崛起

    随着女性科技(FemTech)投资的激增、混合医疗的发展以及丰富的数据让诊断和治疗效果不断改善,女性医疗健康领域迎来一个拐点。女性科技的崛起不仅将造福女性,还将推动整个医疗系统的发展。

    女性医疗并非小众市场。仅在美国,女性每年在医疗领域的支出就超过5,000亿美元。她们占人口总数的50%,但在消费者医疗保健决策者中的占比则达到80%。然而,现代医学一直默认以男性为基础,直到1993年美国国立卫生研究院(NIH)颁布的《振兴法案》之后,女性才被纳为临床研究对象。历史上,月经护理和更年期治疗历来被视为禁忌话题,而且由于女性被排除在临床试验和研究之外,她们的诊疗结果比男性要差得多。

    平均而言,女性在许多疾病的诊断上要晚于男性,而且女性在心脏病发作后被误诊的风险比男性高50%。处方药或许是最能体现不平等的例子:女性使用处方药造成不良反应的比例明显高于男性。尽管这些统计数据看起来令人担忧,但在云技术和大数据的帮助下,对女性医疗(又称“女性科技”)的投资正在不断上升。

    亚马逊云科技一直与女性领导的初创公司密切合作,见证了女性科技的发展。仅仅在过去的一年,相关投资就增长了197%。随着投资的不断增加、机器学习等技术的不断发展,以及专为女性设计的联网设备的出现,我们正身处一个前所未有的转折点,不仅关系到人们对女性护理的认知,也涉及到相应的管理方式。TiaElvieEmbr Labs等公司展示了利用数据和预测分析提供个性化护理的巨大潜力,无论是在家还是在旅途中都能给患者提供舒适的体验。

    随着对女性健康需求的社会偏见逐渐消失,以及更多的资金流入该领域,女性科技公司将会继续积极应对过去被忽视的各种医疗状况和需求。与此同时,在线医疗平台、便捷的低成本诊断设备以及按需获取的医疗专家服务构成的混合医疗模式的发展,将大幅增加女性获得医疗服务的机会。Maven等客户已证明了在这一领域的领导地位,它们打破了心理健康和身体健康之间的界限,为用户提供从情感咨询到更年期护理的全方位服务。

    这些平台的成熟和普及将促使医疗服务的大众化。借助应用程序和远程医疗平台,居农村和医疗资源匮乏地区的女性将更容易联系到妇产科医生、心理健康专家及其他领域的专家。例如NextGen Jane正在开发的智能卫生棉系统,将帮助女性建立子宫健康档案,识别潜在的疾病基因组标记物,并与临床医生共享这些信息。可穿戴设备将为用户和医生提供大量可分析的纵向健康数据。如今,超过70%女性的更年期症状无法得到有效治疗,随着教育水平的提升、数据的普及和非介入性解决方案的出现,将极大地改善治疗效果,而这也远远超出了妇产科护理的范畴。

    例如,在女足世界杯的备战期间,约有30名运动员因十字韧带撕裂提前退赛。与传统医学一样,女性的训练模式也是基于男性的训练方法,很少考虑到生理差异。因此,女性因十字韧带受伤而退役的几率是男性的6倍,而她们完全康复并重返球场的几率则比男性低25%。这也是研究女性独特的健康数据将产生重大影响的另一个领域,这样不仅可以预防女性运动员受伤,还能全面提升她们的整体健康状况。

    我们正处于女性医疗的转折点。获取丰富多样的数据,并结合计算机视觉和深度学习等云技术,将减少误诊并且有助于降低当前对女性影响较大的药物副作用。子宫内膜异位症和产后抑郁症将得到应有的关注。我们终将看到女性医疗从边缘走向前沿。由于女性主导的团队解决广泛健康问题的意愿要比男性主导的团队更强,女性科技不仅让女性受益,也将改善整个医疗系统。

    AI助手重新定义开发者生产力

    AI助手将从基础代码生成器,演变为导师和不知疲倦的合作伙伴,在整个软件开发生命周期中提供支持。它们将用通俗语言解释复杂的系统,提出有针对性的改进建议并处理重复性任务,让开发者将注意力集中在最具影响力的工作上。

    在2021年,我曾预测生成式AI将开始在软件编写中起到关键作用。它将拓展开发者的能力,协助他们写出更安全、更可靠的代码。现在,这一预测正在变为现实。我们看到众多基于自然语言提示,生成的函数、类和测试的工具和系统。事实上,在2023年Stack Overflow开发者调查中,70%的受访者表示他们在开发过程中已经使用或计划使用AI辅助工具。

    未来的AI助手不仅会理解和编写代码,它们还将是一位不知疲倦的合作伙伴和导师。无论你提出多少问题,它们都会不知疲倦地执行任务,并且不厌其烦地解释概念或重复工作。AI助手拥有无限的时间和耐心,协助团队中的每个成员应对从代码审查到产品策略过程中的各种挑战。

    产品经理、前端和后端工程师、数据库管理员、UI/UX设计师、DevOps工程师和架构师之间的界限将逐渐模糊。AI助手将凭借对整个系统,而非对单一模块的理解,提供一些能够激发人类创造力的建议,例如将一张餐巾纸上的草图转换成框架代码、根据需求文档自动生成模板,或者为你的任务推荐最适合的基础设施,如无服务器架构或容器技术。

    这些AI助手将具有高度的可定制性,可以针对个人、团队或企业级的需求进行个性化定制。它们能用简单的术语解释Amazon S3等复杂分布式系统的内部机制,成为极具价值的教学工具。初级开发者可以借助这些工具快速熟悉不了解的基础架构并,而经验丰富的工程师则可以使用它们快速理解新的项目或代码库,并做出实际贡献。可能过去需要花费数周的时间才能完全理解代码更改的下游影响,而AI助手可以即刻对变更进行评估,概述对系统其他部分可能产生的影响,并根据需要提提供改进建议。

    我们已经看到,在现代软件开发中,很多之前被视为枯燥的工作内容正逐渐从开发者的日常工作中消失,例如编写单元测试、样板代码和调试错误。那些通常被认为是“多余的”任务往往会被忽视。AI助手将有能力重构和迁移整个遗留应用程序,例如将应用从Java 8升级到Java 17,或者将单体应用拆分为微服务。

    毫无疑问,开发人员仍然需要规划和评估最终产出。但是AI助手将帮助他们筛选学术研究,为分布式系统选择正确的算法,并决定如何更好地从主备模式迁移到双活模式,甚至能够理解资源如何影响效率,并据此制定定价模型。这将使更多的工作自动化,开发者不再需要手动执行升级Java版本等繁重的任务,转而可以专注于那些能推动创新的创意性工作。

    在未来几年中,随着AI助手从软件行业中的尝鲜变为必需品,工程团队将变得更加高效,开发出更高质量的系统,并缩短软件的发布周期。

    教育变革紧跟科技创新步伐

    仅靠高等教育无法跟上技术变革的步伐。以行业为主导的技能培训项目将会兴起,这些项目会更接近于技术工人的职业道路,而持续学习的转变将让个人和企业实现双赢。

    我对过去的软件开发周期还记忆犹新:一个产品可能要开发5年以上才能交付给客户。直到90年代末,这仍是公认的做法。但在今天,用上述方法开发的软件在真正投入使用之前就已经严重过时了。得益于云计算的普及、持续改进的文化以及最小化可行产品方法的广泛采用,我们的软件开发周期得到了大幅缩短,其影响力也极为显著。企业将产品推向市场的速度,以及客户对新技术的接受速度,比以往任何时候都快。在技术和商业都在快速旋转的飞轮中,高等教育直到现在都尚未包含在内。

    教育在世界各地存在着巨大差异,但人们普遍认为,企业要想雇佣优秀的人才,或者自己要想找到理想的工作,拥有大学学位是最基本的要求,在技术领域尤为如此。然而,我们看到这种模式正在瓦解,无论是对个人还是对企业。对于学生而言,教育成本在不断上升,许多人对传统大学学位的价值产生了质疑,尤其是在实用培训变得可行时。对于企业而言,新员工仍然需要在职培训。随着越来越多的行业要求员工具备专业化的技能,学校教育与雇主需求之间的差距正在扩大。就像数十年前的软件开发过程,我们在科技教育领域也到达了一个关键点,我们将看到曾经为少数人量身定制的在职培训逐渐演变成面向广大人群的由行业驱动的技能教育。

    多年来,我们已经见证了这种趋势的转变。像Coursera这样最初专注于消费者的公司,已经与企业合作,加强了技能提升和再培训力度。学位学徒制因为可以由雇主专门化而继续流行,而学徒在学习的同时也能获得收入。不过,目前企业自身也开始大规模投资于技能教育。事实上,亚马逊刚刚宣布,已在全球培训了2,100万技术学习者。这在一定程度上得益于机械电子与机器人技术学徒计划Mechatronics and Robotics Apprenticeship,以及Amazon Cloud Institute等项目。所有这些项目都让处于职业生涯不同阶段的学习者能够获得他们需要入职热门职位的精准技能,而无需承担传统多年制项目的承诺。

    需要明确的是,这个概念并非没有先例。例如电工、焊工和木匠等熟练工种,他们的大部分技能都不是在课堂上学到的。他们从初学者到成为学徒,再成长为熟练工,甚至可能成为技术专家。这样的学习是在工作中持续进行的,而且有明确的技能提升路径。这种终身教育的方式——学习并保持好奇心,对个人和企业而言都大有脾益。

    所有这一切并不意味着传统学位会消失。这不是一个“非此即彼”的情况,而是关乎选择。在科技领域,传统的学术学习仍然至关重要。但在许多其他行业中,技术的影响已经超越了传统教育系统。为了满足商业需求,我们将迎来一个行业主导的教育机会新时代,而这将是不容忽视的潮流。

    ]]>
    Amazon Connect新增生成式AI功能,帮助企业提高员工生产力、节省成本并改善客户服务体验 //www.otias-ub.com/archives/1667093.html Mon, 18 Dec 2023 06:49:34 +0000 //www.otias-ub.com/?p=1667093
  • Amazon Connect中的Amazon Q功能通过实时响应并提供推荐操作,协助坐席人更快地满足客户需求,提高客户满意度;
  • Amazon Connect Contact Lens为客户互动添加了AI生成摘要功能,帮助管理人员评估和优化坐席表现;
  • Amazon Connect中的Amazon Lex现已利用生成式AI,使构建有效且有趣的自助服务体验变得更加简便;
  • Amazon Connect Customer Profiles使用生成式AI,从常见的SaaS应用程序中汇总客户数据,减少提供个性化客户体验所需的时间和精力
  • 北京——2023年1218亚马逊云科技在2023 re:Invent全球大会上,宣布Amazon Connect新增生成式AI功能。作为亚马逊云科技的云呼叫中心,Amazon Connect能够帮助各种规模的企业以更低的成本提供更好的客户体验。最新的Amazon Connect增强功能基于Amazon Bedrock提供的大语言模型(LLM)与其他基础模型(FM),提升了该服务已有的机器学习功能,这将改变企业为客户提供服务的方式。Amazon Connect中的Amazon Q功能是Amazon Connect Wisdom的生成式AI增强版,可根据实时的客户问题为坐席提供建议和行动,从而为客户提供更快速、更准确的支持。Amazon Connect Contact Lens是Amazon Connect的一个实时分析呼叫中心的对话并对其进行质量管理的功能,现在可以通过AI生成的摘要来识别对话的关键内容,这些摘要可以检测客户情绪、趋势以及政策合规性。Amazon Connect中的Amazon Lex同样由生成式AI驱动,让呼叫中心管理员能够通过自然语言提示,在几个小时内就能创建新的聊天机器人和交互式语音应答(IVR)系统,并通过生成常见问题的回答来改进现有系统。Amazon Connect的另一项新功能Amazon Connect Customer Profiles能够帮助坐席提供更快速、更个性化的客户服务,现在企业可以从不同的软件即服务应用程序和数据库创建统一的客户档案。若要开始使用Amazon Connect,请访问:aws.amazon.com/connect/

    作为重要的客户服务渠道,企业使用呼叫中心为客户提供支持并构建稳固的客户关系。随着生成式AI的出现,呼叫中心的管理者面临着前所未有的机遇,有望重新定义客户体验构建和评估方式。然而,利用大语言模型及其他基础模型需要专业技能,但这方面的专业人才相对紧缺。即使利用现有模型,也必须使用行业特定的数据进行微调,以生成适用于企业业务需求的模型。企业欲将这些模型集成到新的客户体验应用程序中,并与现有的呼叫中心工具协同工作,更需要进一步的行业专业知识。为了解决企业在呼叫中心构建和部署模型面临的挑战,Amazon Connect让非技术业务负责人在几分钟内即可建立具有生成式AI功能的云呼叫中心。Amazon Connect新的生成式AI功能包括:

    • Amazon Connect中的Amazon Q功能:通过生成式AI坐席提供推荐回答和操作实现更快的客户支持坐席在协助企业建立客户信任和忠诚度方面发挥着关键作用,他们引导客户做出复杂的决策,帮助客户解读政策和条款,提供新产品和服务的建议,在出现问题时提供快速准确的解决方案,并记录每次客户互动的细节。Amazon Q是一款全新的生成式AI助手,可以根据企业需求进行定制,为呼叫中心提供全新的坐席辅助功能。Amazon Connect中的Amazon Q功能有助于深入了解客户意图并使用相关信息源,帮助坐席在与客户实时沟通中做出准确的响应和行动,解决客户独特的需求。例如,Amazon Connect中的Amazon Q功能可以检测到客户联系租车公司更改预订,为坐席生成回答,快速说明基于公司的预订变更政策会产生什么样的价格变化,同时引导坐席完成更新预订所需的步骤。通过授权坐席在没有管理者帮助的情况下解决客户的众多需求,Amazon Connect中的Amazon Q功能提高了客户满意度,并帮助建立忠诚的客户关系,同时减少坐席培训、解决问题的时间和成本。
    • Amazon Connect Contact Lens:沟通后生成总结以提高工作效率为了进一步改善客户交互,呼叫中心管理者需要坐席在每次与客户互动后手动创建备注,以供未来参考。为了更好地理解这些备注,管理者须听取大量的客户对话或阅读完整的对话记录,因为如果没有正确地获取和响应对话中的信息可能会降低呼叫中心的服务质量从而降低客户的信任度。如今,Amazon Connect Contact Lens可以在每次互动后生成简洁的客户沟通摘要,为管理者提供了丰富的上下文信息。在客户互动结束后的几分钟内,Amazon Connect Contact Lens即可识别客户对话的重要细节,比如客户的问题、坐席采取的回应以及完成客户咨询所需的后续步骤,并生成摘要。管理者可以使用这些摘要指导并改进呼叫中心的服务质量。例如,管理者可以使用摘要跟踪对客户的承诺,并确保及时完成后续行动。在调查客户问题时,管理者可以查看之前自动生成的对话摘要,无需再听录音或阅读文字记录。由此,管理者可以更有效地密切关注所有客户的交互表现并大幅提升质量管理。
    • Amazon Lex in Amazon Connect:用生成式AI简化机器人构建,创造更好的自助服务体验。创建个性化的自助式聊天机器人和IVR系统,需要呼叫中心管理员兼顾对话的方方面面,包括客户意图、响应和交互流程。当这些系统无法处理客户的异常回复或查询时,通常需要上报到呼叫中心坐席,并引来客户的不满。Amazon Connect能够帮助企业更容易地打造聊天机器人和IVR系统,提供更有效、更个性化的自助服务体验。通过Amazon Lex管理员控制台,呼叫中心管理员只需用自然语言描述他们希望自助服务系统实现的目标,即可创建强大的聊天机器人和IVR系统。例如,呼叫中心管理员可以输入:“使用客户姓名、联系信息、旅行日期、房间类型和付款细节,构建一个能够处理酒店预订服务的机器人程序。”根据该提示,Amazon Lex将生成对话示例并创建聊天机器人或IVR,从而减少构建自助服务系统的时间并降低复杂性。此外,呼叫中心管理员现在可以部署更有效的自助服务系统,不需要预测所有可能的问题和答案。当客户对聊天机器人或IVR做出不太常见的回答时,Amazon Connect利用模型来正确解释客户的回应。例如,如果客户表示他们想在“周六和周日”预订酒店客房,自助服务系统将正确地解释为“住两晚”。呼叫中心管理员还可以直接使用Amazon Lex创建问答式聊天机器人和IVR,它将通过搜索企业现有的知识库并总结最相关的详细信息,为常见的客户问题生成答案。这些自助服务聊天机器人和IVR系统可以立即部署到任何网站中。
    • Amazon Connect Customer Profiles:自动创建统一的客户档案提供个性化的客户体验。客户都期望获得个性化的客户服务体验,这需要呼叫中心全面了解客户的偏好、购买记录和互动行为。为此,呼叫中心管理员需要合并来自数十个应用程序的客户数据以创建统一的客户档案。现在,Amazon Connect Customer Profiles能够利用模型来缩短提供个性化客户体验所需的时间。当呼叫中心管理员添加数据源,例如Adobe Analytics、Salesforce、ServiceNow、ZenDesk或Amazon Simple Storage Service(AmazonS3),Amazon Connect Customer Profiles将分析数据,从而理解数据格式和内容含义,以及数据与客户档案的关系。然后,Amazon Connect Customer Profiles会确定如何将不同来源的数据组合成完整、准确的档案。管理人员仅需几次点击便可查看、编辑并完成客户档案的设置,以便呼叫中心团队提供个性化的客户服务,提高客户满意度和坐席的工作效率。

    “生成式AI将从根本上改变呼叫中心行业,为客户服务坐席、呼叫中心管理者及管理员提供更有效地提供个性化客户体验的新方法。然而,很少企业具备先进的机器学习专业知识,并能轻松地将这项技术运用到业务运营中。”亚马逊云科技应用程序产品部Amazon Connect副总裁Pasquale DeMaio表示,“呼叫中心负责人只需几次点击,就可以充分利用Amazon Connect中由生成式AI赋能的新功能,更好地处理每天发生在Amazon Connect上超过1500万次的客户交互。借助这些新功能,呼叫中心可以持续大规模改进客户支持。”

    除了这些新的生成式AI的增强功能,Amazon Connect还扩展了全渠道能力,包括对双向短信的开箱即用的支持,以及支持视频应用程序内通话和互联网语音通话。这些新的全渠道通信功能,以及针对Amazon Lex、Amazon Q in Connect和Amazon Connect Customer Profiles的生成式AI增强功能已正式可用。Amazon Connect Contact Lens的新生成式AI功能预览可用。

     

    Choice Hotels是全球领先的酒店特许经营商,在46个国家和地区拥有近7,500家酒店,共计约63万间客房。“我们的团队如今还需花费大量时间来深入了解客户数据关系并创建数据映射。酒店预订或会员忠诚度之类的数据对象非常复杂,具有多层嵌套关系。”Choice Hotels的首席工程师Michael Bennett表示,“使用Amazon Connect生成式AI的数据映射功能将缩短导入时间,并提供哪些数据列可用于唯一标识概要文件的指引。利用该功能,我们将能更快接入其他特定的数据源,并通过这些数据360度全方位的丰富客户档案,进而支持我们提供实时的个性化服务。”

    Traeger Grills是一家领先的烟熏器、烤架和烧烤产品供应商。 “随着我们的客户群愈加壮大、产品日益多样,我们面临的一个重大挑战是在合适的时间为我们的坐席和管理者提供正确的信息,以提高客户满意度。”Traeger Grills客户体验与服务副总裁Corey Savory表示,“Amazon Connect新的生成式AI 功能在我们的呼叫中心的试用中显示出了巨大潜力。未来,这些功能将使我们的坐席和管理者专注于提供一流的客户体验。Amazon Connect中的Amazon Q功能通过为坐席提供针对客户需求的响应和行动,将提高20%的坐席工作效率。Amazon Connect Contact Lens能够以结构化且易于阅读的格式,简明扼要地总结客户对话中的重要信息,管理者将不再需要花费宝贵时间来听取完整的通话录音或阅读详细的记录。”

     

    ]]>
    亚马逊云科技全面发力生成式AI 2023 re:Invent中国行城市巡展活动开启 //www.otias-ub.com/archives/1665912.html Tue, 12 Dec 2023 04:09:06 +0000 //www.otias-ub.com/?p=1665912 北京——2023年12月12日 亚马逊云科技在2023 re:Invent全球大会上围绕底层基础设施、生成式人工智能(AI)、数据战略等推出了一系列新服务及功能,以创新性的技术重塑帮助客户加速创新。亚马逊云科技全面发力生成式AI,推出面向企业级生成式AI的一系列新服务及功能,包括重塑未来工作方式的新型生成式AI助手Amazon Q、Amazon Bedrock更多的模型选择和全新强大功能、Amazon SageMaker助力规模化开发应用模型的五大新功能等,帮助企业更轻松、安全地构建和应用生成式AI。为了给生成式AI提供强大的数据支持,亚马逊云科技进一步丰富向量数据库选择,推出让跨数据存储的数据访问与分析更快速、更便捷的Zero-ETL集成特性等。此外,亚马逊云科技推出新一代自研芯片Amazon Graviton4和Amazon Trainium2,为机器学习(ML)训练和生成式AI应用等广泛的工作负载提供更高性价比和能效。亚马逊云科技2023 re:Invent中国行城市巡展活动于今天正式开启,将覆盖北京、上海、广州、深圳、成都、青岛、南京、西安、杭州、长沙 10 座城市,为中国构建者全面展示2023 re:Invent全球大会上的最新服务及技术、前沿趋势以及最佳实践。

    亚马逊云科技大中华区产品部总经理陈晓建表示:“作为全球云计算的开创者和引领者,亚马逊云科技在每年的re:Invent全球大会上都会发布众多新服务、新功能和新应用。我们在基础设施、计算、存储、数据等领域持续重塑云计算,并围绕当今最具变革性的技术生成式AI推出重磅新服务及功能。我们希望通过这些技术创新,帮助更多企业加快创新速度,利用生成式AI全面重塑未来。”

    全面发力生成式AI——帮助企业更轻松、安全地构建和应用生成式AI

    生成式AI在技术变革、重塑人们的行为方式方面拥有巨大潜力。亚马逊云科技为生成式AI提供三层架构,包括利用基础模型构建的应用程序、使用基础模型进行构建的工具和用于基础模型训练和推理的基础设施,并在每一层都持续创新,帮助客户更轻松、安全地构建和应用生成式AI,进一步降低利用生成式AI的门槛。

    • 推出Amazon Q,重塑未来工作方式。这是一种新型生成式AI支持的助手,可以根据客户业务进行定制,专门用于满足办公场景需要。客户可以快速获得复杂问题的相关答案、生成内容并采取行动 – 所有这些都基于客户自身的信息存储库、代码和企业系统的见解。此外,客户的内容绝不会用于训练Amazon Q的底层模型。无论是在亚马逊云科技上进行构建、使用内部数据和系统,还是使用亚马逊云科技应用程序实现商业智能(BI)、联络中心和供应链管理的客户,Amazon Q都是良好的基于生成式AI的助手,能够帮助各个行业、各种规模的企业安全地使用生成式AI。Amazon Q已向客户提供预览版,Amazon Connect中的Amazon Q已正式推出,Amazon Supply Chain中的Amazon Q即将推出。
    • Amazon Bedrock发布更多模型选择和全新强大功能,助力安全构建和规模化生成式AI应用来自Anthropic、Cohere、Meta、Stability AI和亚马逊最新的高性能模型为客户提供更丰富的行业领先模型选择,以支持各种用例。此次发布进一步降低了生成式AI应用的门槛——为客户提供了更多行业领先的模型选择和评估模型新功能,以简化客户使用相关和专有数据定制模型的方式;提供自动执行复杂任务的工具;并为客户配备了提供负责任地构建和部署应用程序的保障。
    • 推出五项Amazon SageMaker新功能,助力规模化开发应用模型。Amazon SageMaker的五项新功能让企业更轻松快速地构建、训练和部署支持各种生成式AI使用场景的机器学习模型。新功能包括:Amazon SageMaker HyperPod可大规模加速基础模型训练,能够缩短高达40%的训练时间,并可以确保持续数周或数月的训练过程不中断;Amazon SageMaker Inference 推理功能可平均降低50%的部署成本和20%的推理延迟;Amazon SageMaker Clarify可以帮助客户评估、比较和选择最佳模型;Amazon SageMaker Canvas的两项增强功能——用自然语言指令准备数据、利用模型进行大规模业务分析,将使客户能够更轻松、更快速地将生成式AI集成到他们的工作流程中。

    强大的数据支持对生成式AI至关重要,在2023 re:Invent全球大会上,亚马逊云科技围绕数据基础设施、集成以及治理等推出多项服务及功能。

    • 进一步丰富向量数据库选择,确保业务数据和向量数据同步支持生成式AI亚马逊云科技推出了Amazon OpenSearch Serverless向量引擎、Amazon DocumentDBAmazon DynamoDB的新向量搜索功能、Amazon Memory DB for Redis向量搜索预览版,提升生成式AI应用在响应和延迟方面的性能表现。亚马逊云科技还正式推出图数据库分析引擎Amazon Neptune Analytics,帮助Snapchat这样的应用在几秒钟内对数十亿个连接进行图形分析。
    • 推出四项Zero-ETL集成特性,让跨数据存储的数据访问与分析更快速、更便捷通过全新的Amazon Aurora PostgreSQLAmazon DynamoDBAmazon Relational Database Service(Amazon RDS)for MySQL与Amazon Redshift的Zero-ETL集成特性,使得在Amazon Redshift中连接和分析多个关系型和非关系型数据库的数据变得更加容易。此外,客户现在还可以使用Amazon OpenSearch Service对Amazon DynamoDB数据进行近乎实时的全文和向量搜索。无论数据存储在哪里,这些Zero-ETL集成特性都能简化数据连接和操作流程,使客户灵活地利用亚马逊云科广泛而领先的数据库和分析服务,深入挖掘新洞见的同时,更迅速地实现创新并做出更明智的数据驱动决策。
    • 在数据治理方面,亚马逊云科技为Amazon DataZone推出了AI描述建议功能预览版,它能够为企业的数据集自动生成更易理解的业务描述,并提供该数据集的使用建议。亚马逊云科技还推出了Amazon Clean Rooms ML预览版,可帮助企业及其合作伙伴在集合数据上应用机器学习模型,而无需相互复制或共享原始数据,并为其推出了第一个专门帮助公司为营销用例创建相似细分市场的模型。

    重塑云计算——自研芯片、存储、无服务器的持续创新

    芯片是企业所有工作负载的基础。亚马逊云科技十多年来持续针对自研芯片进行创新,每一代自研芯片都提升性价比和能效;同时为客户提供了基于AMD、Intel以及英伟达等的最新芯片和实例组合。在2023 re:Invent全球大会上,亚马逊云科技推出Amazon Graviton4和Amazon Trainium2自研芯片,为机器学习训练和生成式AI应用等广泛的工作负载提供更高性价比和能效。

    • Graviton4与当前一代Graviton3处理器相比,性能提升高达30%,独立核心增加50%以上,内存带宽提升75%以上,为在Amazon Elastic Compute Cloud (Amazon EC2)上运行的工作负载提供最佳性能和能效;基于Graviton4的Amazon EC2 R8g实例目前已提供预览。值得一提的是,通过与光环新网和西云数据的紧密合作,基于Graviton3处理器的Amazon EC2 C7g、M7g、R7g实例目前均已在亚马逊云科技中国(北京)区域和中国(宁夏)区域正式可用,为中国客户广泛的云上工作负载带来更高性价比和能效。

     

    • Trainium2芯片专为以高性能训练具有数万亿个参数或变量的基础模型和大语言模型而构建。Trainium2与第一代Trainium芯片相比,性能提升多达4倍,内存提升3倍,能源效率(每瓦性能)提升多达2倍。Amazon EC2 Trn2实例采用最新的Trainium2,一个单独实例包含16个Trainium加速芯片。Trainium2实例致力于为客户在新一代EC2 UltraClusters中扩展多达100,000个Trainium2加速芯片,并与Amazon Elastic Fabric Adapter(EFA)PB级网络互联,提供的算力高达65 exaflops,客户可按需获得超级计算级别的性能。

    Amazon Simple Storage Service(Amazon S3)自17年前推出以来,已成为最受欢迎的云存储服务之一,在全球拥有数百万各行各业的客户。在本次大会上,亚马逊云科技宣布Amazon S3 Express One Zone正式可用,与Amazon S3 Standard相比,数据访问速度提高至多10倍,数据请求成本降低50%,为机器学习训练和推理、交互式分析以及媒体内容创建等请求密集型工作负载提供最高性能存储。

    亚马逊云科技在17年前就开创性地推出了无服务器技术,为客户提供极致的弹性和自动扩展能力。在2023 re:Invent全球大会上,亚马逊云科技推出了三款无服务器服务创新,帮助客户以任意规模分析和管理数据并显著简化运营,客户无需花费时间和精力去配置、管理和扩展其数据基础设施。其中,Amazon Aurora Limitless数据库可跨多个Amazon Aurora Serverless实例自动分发和查询数据,并能够扩展到每秒百万次的事务级写入并管理PB级数据。Amazon ElastiCache Serverless可以帮助客户在一分钟内创建高可用的缓存,并实时进行垂直和水平扩展以支持客户复杂的应用程序,且无需管理基础架构。Amazon Redshift Serverless利用人工智能(AI)预测工作负载并自动扩展和优化资源,帮助客户实现高性价比的目标。

     

    ]]>
    亚马逊云科技宣布推出三项无服务器服务创新,助力客户以任意规模分析和管理数据 //www.otias-ub.com/archives/1665469.html Thu, 07 Dec 2023 04:06:36 +0000 //www.otias-ub.com/?p=1665469
  • Amazon Aurora新功能可自动扩展支持每秒数百万次写入交易并管理PB级的数据,同时保持单个数据库操作的简易性;
  • Amazon ElastiCache新的无服务器选项让创建高可用缓存变得更加快速和简便,并可即时按需扩展以满足应用程序需求;
  • Amazon Redshift Serverless新功能利用AI预测工作负载,并自动扩展和优化以满足性价比目标;
  • 涂鸦智能、Genesys和Peloton等客户和合作伙伴正在使用这些新的无服务器服务创新
  • 北京——2023年12月7日 亚马逊云科技在2023 re:Invent全球大会上,宣布推出三项新的无服务器服务创新,涵盖了数据库和分析领域,使客户能够更快速、更轻松地扩展他们的数据基础设施,以支持最具挑战性的应用场景。这三项创新包括:Amazon Aurora Limitless数据库,这是一项全新的功能,可以自动完成超过单个Amazon Aurora数据库写入限制的扩展,让开发人员轻松地扩展他们的应用程序并比自建的解决方案节省数月时间。Amazon ElastiCache Serverless可以帮助客户在一分钟内创建高可用的缓存,并实时进行垂直和水平扩展以支持客户复杂的应用程序,且无需管理基础架构。Amazon Redshift Serverless利用人工智能(AI)预测工作负载并自动扩展和优化资源,帮助客户实现高性价比的目标。这些发布基于亚马逊云科技开创性的无服务器技术,可以帮助客户管理任何规模的数据并显著简化运营,使客户可以专注为其最终用户进行创新,而无需花费时间和精力去配置、管理和扩展其数据基础设施。要了解有关使用亚马逊云科技解锁数据价值的更多信息,请访问aws.amazon.com/data

    “自亚马逊云科技创立之初,我们一直专注于为客户消除无差异化的复杂工作负担,并通过无服务器产品不断延续这一传统,大幅简化了构建、运行和管理大规模应用程序所需的工作。”亚马逊云科技数据与人工智能副总裁Swami Sivasubramanian博士表示,“数据是企业数字化转型的基石,而充分发挥数据潜力则需要一种端到端的战略,能够根据客户需求进行扩展,并适应各种业务场景。数据的动态特性使其完美适合无服务器技术,这也是亚马逊云科技提供广泛的无服务器数据库和分析解决方案的原因。今天宣布的无服务器服务创新致力于让客户更轻松地处理每秒数百万次规模的交易,在随时扩展容量并动态调整工作负载模式的同时优化性能和成本。”

    如今,企业需要从越来越多的来源中创建和存储PB级数据。为了更大程度地释放数据价值,企业需要一个端到端的战略帮助他们在任何规模下分析和管理数据。许多亚马逊云科技的客户已经在使用各种专门构建的数据服务,支持其关键应用程序并做出数据驱动的决策,包括关系型数据库Amazon Aurora、运行内存缓存的数据库Amazon ElastiCache,以及数据仓库Amazon Redshift。这些服务消除了客户在运行自己的数据库和分析解决方案时面临的大部分繁重工作,使他们专注于为最终用户创造差异化体验。亚马逊云科技通过在服务组合中加入无服务器技术持续简化客户操作,从早期的Amazon Simple Storage Service(Amazon S3)到通过Amazon Lambda实现前沿的无服务器技术,如Amazon Lambda事件驱动计算服务等。现在,亚马逊云科技在云端提供了广泛的无服务器数据分析产品,使客户能够选择适合任务的正确工具从而轻松享有自动配置、按需扩展和按使用量付费等多项优势。今天宣布的创新服务进一步实现了亚马逊云科技通过无服务器技术重构数据库和分析产品组合的承诺,使客户更轻松地优化成本,更大程度地发挥数据的潜在价值。

    Amazon Aurora Limitless数据库推动PB级规模应用,支持每秒数百万次写入

    如今,有数十万客户正在使用Amazon Aurora,这是一个完全托管的且与MySQL和PostgreSQL兼容的关系型数据库,提供商业数据库的性能和可用性,但成本仅为它的1/10。这些企业依靠Amazon Aurora Serverless v2驱动自己的应用程序,原因是它能够在秒级时间内扩展并支持高达数十万事务。随着规模的扩大,它能够以细粒度的方式调整容量,确保为应用程序提供合适的数据库资源。然而,在某些应用场景,例如在线游戏和金融交易,则需要管理数亿全球用户的工作负载、每秒处理数百万事务并存储PB级的数据。现状是,这些企业必须通过将数据分割成较小的子集,并在多个不同的数据库实例之间分布,以水平的方式进行扩展,这个过程被称为“分片”(Sharding),同时需要数月甚至数年的前端开发工作来构建自定义软件,以便将请求发送给正确的实例或实现多个实例之间的变更。同时,企业还需要持续监控数据库活动并调整容量,这一过程不仅耗时而且会影响可用性。此外,对于这些工作负载的持续维护工作量也很大,因为企业需要协调常规的维护操作,例如向表中添加列、在所有计算实例上进行统一备份、应用升级和补丁,并不断调整和平衡多个实例之间的负载。因此,企业需要一种自动扩展应用程序超出单个数据库限制且无需自建的方案。

    Amazon Aurora Limitless数据库能够维持等同单个数据库操作简便性的同时,扩展到每秒数百万次的事务写入以及可以管理PB级数据。Amazon Aurora Limitless数据库可根据客户的数据模型跨多个Amazon Aurora Serverless实例自动分发和查询数据,无需构建自定义软件来跨实例发送请求。随着计算或存储需求的增加,Amazon Aurora Limitless数据库能够在无服务器实例内部自动垂直扩展资源,或在实例间进行水平扩展以满足工作负载需求,为客户提供持续的高性能服务,且客户无需创建用于扩展其数据库的自定义软件,这相当于减少了数月甚至数年的工作量。维护操作和更改可以在单个数据库中进行,并自动应用于多个实例,无需手动管理数十个甚至数百个数据库实例的常规任务。

    无需繁琐的规划、容量预置和管理,Amazon ElastiCache Serverless可以更快速轻松地创建缓存并实时扩展以满足应用需求

    许多企业在构建应用程序时,为了提高响应速度并降低数据库成本,会将频繁访问的数据存储在缓存中。这些客户通常选择使用高性能且可扩展的Redis和Memcached等开源内存数据存储。为了简化构建和管理缓存的流程,亚马逊云科技推出了完全托管服务Amazon ElastiCache,兼容Redis和Memcached的服务。目前,已有数十万客户受益于该服务的实时性、性能和成本优化。当前,Amazon ElastiCache已支持扩展到数百TB级的数据和每秒数亿次操作,响应时间仅为微秒级,让企业可以跨多个可用区部署高可用性以及执行关键任务的应用程序。在企业享受Amazon ElastiCache所提供的精细化配置选项的同时,还有一些企业希望在构建新应用程序或迁移现有工作负载时,能够迅速启动缓存而无需设计和预留用于缓存的基础设施,从而避免了涉及专业知识和需要深入了解应用程序流量模式的复杂过程。此外,企业还需持续监控和调整容量以保持卓越的性能水平,同时避免为峰值容量过度配置,从而造成不必要的开支。因此,企业需要一种解决方案,可以帮助它们管理底层基础设施,使创建和运行缓存更快捷和简便。

    借助Amazon ElastiCache Serverless,客户现在可以在不到一分钟的时间内创建一个高可用性的缓存,同时无需规划或配置基础设施。Amazon ElastiCache Serverless可以持续监控缓存的计算、内存和网络利用率,实时拓展垂直和水平容量以满足需求,无需停机或降低性能表现,从而消除了复杂且耗时的容量规划过程。通过Amazon ElastiCache Serverless,客户不再需要设置或调整缓存。Amazon ElastiCache Serverless会在多个可用区之间自动复制数据,并为所有工作负载提供99.99%的可用性。客户只需支付实际存储的数据和应用程序所耗费的计算资源。今天,Amazon ElastiCache Serverless正式推出,它的部署选项可以同时兼容Redis和Memcached。点击此处开始使用aws.amazon.com/elasticache/features/#Serverless

    下一代AI驱动的扩展和优化解决方案Amazon Redshift Serverless,为可变工作负载提供更高性价比

    数以万计的客户每天使用Amazon Redshift处理EB级数据。其中大量客户利用Amazon Redshift Serverless来自动配置和扩展数据仓库,以满足并发查询数量的需求。客户可以轻松地在Amazon Redshift Serverless上运行各种规模的分析工作负载,不用管理数据仓库基础设施。同时,Amazon Redshift Serverless还可以从更多维度灵活适应客户工作负载的变化,如处理庞大的数据或复杂的查询任务,在优化成本的同时保持始终如一的高性能。

    例如,拥有可预测仪表盘工作负载的企业可能会发现,新的监管报告要求它们需要摄取更多数据并处理更为密集、复杂的查询。为了应对不同维度工作负载的变化并确保性能一致而不干扰现有工作负载,一个经验丰富的数据库管理员必须花费数小时将额外的工作负载分离到不同的数据仓库,或进行多次复杂的人工调整,这包括临时增加资源以用于数据提取和新查询的工作负载、预先计算结果以快速访问数据、组织数据以实现高效检索,以及定时执行数据仓库管理任务。所有这些优化需要持续地进行,同时也需要管理每个组织在性能和成本平衡方面的优先级,无论它们的数据量、查询复杂度或并发查询的变化是什么样的。

    借助新的基于AI的扩展和优化功能,Amazon Redshift Serverless可以根据多个工作负载维度自动调整资源,并执行优化操作以满足性价比的目标。Amazon Redshift Serverless利用AI学习客户的工作负载模式,包括查询复杂度、数据大小和频率等维度,并根据这些动态模式持续调整容量,以满足客户指定的性价比目标。现在,Amazon Redshift Serverless还会根据客户的工作负载模式主动调整资源。例如,基于AI扩展和优化的Amazon Redshift Serverless会在白天缩减容量以处理仪表盘工作负载,但在需要处理复杂查询时,会根据需求自动添加适量的所需容量。在夜间,Amazon Redshift Serverless会主动增加容量,以支持大规模数据处理任务,并且无需手动干预。基于现有的自动调优功能,Amazon Redshift Serverless会自动测量和调整资源,并进行成本效益分析,以优先考虑特定工作负载的最佳优化方案。客户可以在亚马逊云科技控制台中设置自己的性价比目标,在成本和性能之间进行自定义选择。基于AI扩展和优化的Amazon Redshift Serverless目前处于预览阶段。欲了解更多信息,请访问aws.amazon.com/redshift/redshift-serverless/

    涂鸦智能提供了一个通过物联网(IoT)连接设备的云平台,并依托技术应用改善产品价值,使消费者的生活更加便利,从而赋予合作伙伴和客户更强大的能力。“涂鸦IoT开发者平台注册开发者超84.6万人,分布在200多个国家和地区,赋能了7600多家品牌客户。在过去的5年里,我们一直使用Amazon Aurora以及其他亚马逊云科技专门构建的数据库。但由于高写入请求,我们不得不为数据库构建自己的分片和代理解决方案。”涂鸦智能数据基础设施负责人陈冲表示,“对于Amazon Aurora Limitless数据库的最新引入让我们兴奋不已,这将协助我们将IoT平台的性能和管理水平提升到新的高度。它将为客户提供更高效、流畅的响应体验,且无需使用复杂的自我管理解决方案。”

    Genesys是一家AI驱动的客户体验交互软件公司,帮助企业在任何渠道与客户进行互动,并赋予联络中心及其他领域的员工更强大的能力。“在Genesys,我们使用Amazon ElastiCache为我们的全能云平台提供高吞吐量、低延迟的存储,支持每天数百万次的客户互动。”Genesys首席架构师Rob Gevers表示,“我们期待Amazon ElastiCache Serverless能够帮助我们进一步提升性能和效率,消除实例预留和特定配置设置和扩展的需求。Amazon ElastiCache Serverless不仅减轻了我们的管理负担,更显著提高了系统稳定性,同时也有效应对了不断增长的使用需求和多变的工作负载。”

    在线健身科技公司Peloton旨在通过其网联健身设备和订阅课程,帮助世界各地的人们实现健身目标。“在Peloton,我们收集并处理各种数据,从硬件销售到教练表现和用户锻炼数据,以制定和完善我们的业务决策,提供更好的客户体验。”Peloton数据工程总监Jerry Wang表示,“随着分析工作负载变得日益复杂,我们的数据库管理员不得不投入更多时间来调整容量阈值和手动执行数据库优化。通过充分利用Amazon Redshift Serverless中全新的优化功能,我们能够进一步简化数据仓库管理任务,在实现卓越性能的同时达到更高的成本效益。”

    ]]>
    亚马逊云科技推出五项Amazon SageMaker新功能,助力规模化开发应用模型 //www.otias-ub.com/archives/1665037.html Wed, 06 Dec 2023 02:05:50 +0000 //www.otias-ub.com/?p=1665037
  • Amazon SageMaker HyperPod通过为大规模分布式训练提供专用基础架构,将基础模型的训练时间缩短高达40%
  • Amazon SageMaker Inference通过优化加速器的使用,平均降低50%的基础模型部署成本平均缩短20%的延迟时间
  • Amazon SageMaker Clarify能够让客户更轻松地根据支持负责任AI参数,迅速评估和选择基础模型
  • Amazon SageMaker Canvas功能帮助客户通过自然语言指令加速数据准备,并需几次点击即可使用基础模型进行模型定制;
  • 宝马集团(BMW)、缤客com、Hugging Face、Perplexity、Salesforce、Stability AI和先锋领航集团(Vanguard)等已开始使用新的Amazon SageMaker功能
  • 北京——2023年12月6日 亚马逊云科技在2023 re:Invent全球大会上,宣布推出五项Amazon SageMaker新功能,帮助客户加速构建、训练和部署大语言模型和其他基础模型。随着模型不断改变各行各业的客户体验,Amazon SageMaker让企业更轻松快速地构建、训练和部署支持各种生成式AI使用场景的机器学习模型。为了成功使用模型,客户需要先进的功能来高效管理模型的开发、使用和性能。这就是Falcon 40B和180B、IDEFICS、Jurassic-2、Stable Diffusion以及StarCoder等大多数业内领先的模型都在Amazon SageMaker上训练的原因。

    今天的宣布包括了一项新功能,进一步增强了Amazon SageMaker的模型扩展能力并加速了模型的训练。此外,Amazon SageMaker推出的另一项新功能,能够通过降低模型部署成本和延迟时间,优化了管理托管的机器学习基础设施。亚马逊云科技还推出了新的SageMaker Clarify功能,可以让客户在负责任地使用AI的基础上,根据质量参数更轻松地选择正确模型。为了帮助客户在企业范围内应用这些模型,亚马逊云科技还在Amazon SageMaker Canvas中引入了新的无代码功能,让客户更快、更容易地使用自然语言指令准备数据。同时,Amazon SageMaker Canvas继续推动模型构建和定制的普及,让客户更轻松地使用模型提取洞察、进行预测和使用企业专有数据生成内容。这些创新均基于Amazon SageMaker丰富的功能,帮助客户实现规模化机器学习创新。开始使用Amazon SageMaker,请访问aws.amazon.com/sagemaker

    足够的可伸缩算力的就位、海量数据的爆炸,以及机器学习技术的快速进步,正在促使包含数十亿参数模型的兴起,使它们能够执行各种任务,如撰写博客文章、生成图像、解决数学问题、进行对话和根据文档回答问题。如今,成千上万的客户,例如3M、阿斯利康(AstraZeneca)、法拉利(Ferrari)、LG AI Research、瑞安航空(RyanAir)、汤森路透(Thomson Reuters)和先锋领航集团(Vanguard)等,每月在Amazon SageMaker进行超过1.5万亿次的推理请求。此外,像AI21 Labs、Stability AI和Technology Innovation Institute等客户也正借助Amazon SageMaker训练拥有数十亿参数的模型。随着客户从构建主要针对特定任务的模型转向构建支持生成式AI的大型通用模型,他们必须处理大量数据集并进行更复杂的基础设施设置,同时在这个过程中还要不断优化成本和性能。客户还希望能够构建和定制自己的模型,以创造独特的客户体验,体现企业的声音、风格和服务。自2017年推出以来,Amazon SageMaker已经新增了380多个功能和特性,为客户提供了规模化构建、训练和部署可投入生产的大规模模型所需的一切。

    “机器学习是近年来影响深远的技术变革之一,所有企业组织都对模型产生了浓厚的兴趣。这也给那些希望快速构建、训练和部署模型的客户带来了新的挑战。” 亚马逊云科技人工智能和机器学习副总裁Bratin Saha表示,“从加速训练、优化托管成本、降低延迟到简化基础模型的评估,再到扩展无代码模型的构建能力,我们的使命是让各种规模的企业平等地使用高质量、高成本效益的机器学习模型。今天,我们再次增强Amazon SageMaker,通过全托管、专门构建的新功能帮助客户充分获得他们在机器学习方面的投资回报。”

    新功能客户更轻松快速地训练和操作模型,驱动生成式AI的应 

    随着生成式AI的持续发展,许多新兴应用都将依赖于模型。然而,大多数企业在调整基础设施以满足新模型需求时存在困难,很难高效地实现规模化训练和操作。今天,Amazon SageMaker增加了两项全新功能,旨在帮助减轻规模化训练和部署模型的负担。

    • AmazonSageMaker HyperPod加速基础模型规模化训练:许多企业希望以较低的成本使用基于GPU和Trainium的计算实例来训练自己的模型。然而,数据激增、模型规模扩大以及较长的训练时间使模型训练复杂程度呈指数级增长,这要求客户必须进一步调整他们的流程来应对这些新需求。通常客户需要将模型训练分配到数百甚至数千个加速器上。之后,在几周或者几个月的时间内并行运行数万亿次数据计算,这是一项耗时且需要专门机器学习知识的任务。与训练特定任务的模型相比,加速器的数量和训练时间会大大增加。因此,很容易出现如单个加速器故障这样的小错误。这些错误可能会中断整个训练过程,并需要人工干预来识别、隔离、调试、修复和恢复,这将进一步延迟任务进度。在基础模型的训练过程中,客户经常需要暂停训练,评估当前模型性能并优化训练代码。为了不间断地训练模型,开发人员必须不断保存训练进度(通常称为检查点),以便在训练中断后不会丢失进度,并从停止的地方继续训练。这些挑战明显增加了训练模型所需的时间和成本,延迟了新的生成式AI创新的部署。

    Amazon SageMaker HyperPod消除了为训练模型而构建、优化机器学习基础设施的繁重工作,将训练时间缩短了高达40%。Amazon SageMaker HyperPod预置了Amazon SageMaker的分布式训练库,使客户能够自动将训练工作负载分布到数千个加速器上,以便并行处理工作负载,提高模型性能。此外,Amazon SageMaker HyperPod通过定期保存检查点以确保用户能够不间断地训练模型。当训练过程中发生硬件故障时,Amazon SageMaker HyperPod会自动检测故障、修复或替换有故障的实例,并从最后保存的检查点恢复训练,无需客户手动管理这一过程,协助客户在分布式环境中进行数周或数月的训练而无需中断。

    • AmazonSageMaker Inference有助于降低模型部署成本并缩短延迟时间:企业在部署模型的过程中一直在寻找优化性能的方法。为了降低部署成本和减少响应延迟,客户使用Amazon SageMaker在新的机器学习基础设施加速器上部署模型,如Amazon Inferentia和GPU。然而,有些模型没有充分利用这些实例提供的加速器,导致硬件资源使用效率低。有些企业还将多个模型部署到同一个实例上,以便更好地利用所有可用的加速器,但这需要复杂的基础设施编排,既耗时又难以管理。当多个模型共享同一个实例时,每个模型都有自己的扩展需求和使用模式,因此很难预测客户何时需要添加或删除实例。例如,一个模型用于支持在特定时间内使用量可能激增的应用程序,而另一个模型可能具有更稳定的使用模式。除了优化成本,客户还希望通过降低延迟来提供理想的用户体验。由于模型的输出范围从一句话到一整篇文章不等,因此完成推理请求所需的时间差异很大。如果请求在实例之间随机路由,就会导致延迟出现不可预测的峰值。Amazon SageMaker现在支持新的推理功能,帮助客户降低部署成本和延迟时间。通过这些新功能,客户可以将多个模型部署到同一个实例上,更好地利用底层加速器,平均部署成本可降低50%。客户还可以分别控制每个模型的扩展策略,使之更适应模型的使用模式,同时优化基础设施成本。Amazon SageMaker能够积极监测正在处理推理请求的实例,并根据可用的实例智能发送请求,平均降低20%的推理延迟。

    新功能能够帮助客户评估任意模型根据使用场景选择更适合的模型

     现在,客户在为生成式AI应用程序挑选模型时有很多选择,他们希望能快速比较这些模型,并根据相关质量和负责任的AI参数(如准确性、公平性和鲁棒性)找到更适合的选择。然而,当比较执行相同功能(例如文本生成或摘要)或属于同一系列(例如Falcon 40B与Falcon 180B)的模型时,每个模型在各种负责任的AI参数上表现都不相同。即使是在两个不同数据集上微调相同的模型,性能也存在差异,这将很难确定哪个版本效果更佳。如要开始比较模型,企业必须先花费数天时间识别相关标准,设置评估工具并对每个模型进行评估。尽管客户可以访问公开可用的模型标准,但他们通常无法根据代表特定使用场景的提示词来评估模型的性能。此外,这些标准通常难以理解,也不适用于评估品牌声音、相关性和风格。另外,企业还需经过耗时的手动分析结果的过程,并对每个新使用场景或微调模型重复此过程。

    Amazon SageMaker Clarify现在可以帮助客户根据所选参数评估、比较和选择适合特定使用场景的最佳模型,以支持企业负责任地使用AI。借助Amazon SageMaker Clarify的新功能,客户可以轻松提交自己的模型进行评估,或通过Amazon SageMaker JumpStart选择模型。在Amazon SageMaker Studio中,客户可以选择要针对给定任务进行比较的模型,例如问答或内容摘要。然后,客户选择评估参数并上传自己的提示词数据集,或者从内置的公开数据集中进行选择。对于需要复杂人工判断的敏感标准或精细内容,客户可以选择使用自己的员工或由SageMaker Ground Truth提供的托管工作人员,使用反馈机制在几分钟内审查回复。一旦客户完成设置过程,Amazon SageMaker Clarify将会运行评估并生成报告,以便客户可以根据性能标准快速评估、比较和选择最佳模型。

    新的Amazon SageMaker Canvas增强功能使客户更轻松、更快速地将生成式AI集成到工作流程中 

    Amazon SageMaker Canvas帮助客户构建机器学习模型并生成预测,而无需编写代码。此次发布扩展了Amazon SageMaker Canvas现有的即用功能,帮助客户在无代码环境中使用模型来支持各种使用场景。

    • 使用自然语言指令准备数据如今,Amazon SageMaker Canvas中的可视化界面使那些没有机器学习专业知识的人可以轻松准备数据,但有些客户还希望以一种更快、更直观的方式浏览数据集。客户现在可以通过示例查询快速入门,并在整个过程中随时提问以简化数据准备工作。客户还可以使用自然语言指令进行复杂的转换,解决常见的数据问题,例如填充列中的缺失值。通过这个新的无代码界面,客户可以大大简化在Amazon SageMaker Canvas上处理数据的方式,将准备数据所需的时间从数小时缩短至数分钟。
    • 利用模型进行大规模业务分析客户使用AmazonSageMaker Canvas构建机器学习模型,并为各种任务生成预测,包括需求预测、客户流失预测和金融投资组合分析等。今年早些时候,客户即可通过Amazon SageMaker Canvas访问Amazon Bedrock上的多个模型,包括来自AI21 Labs、Anthropic和亚马逊的模型,以及来自MosaicML、TII和通过Amazon SageMaker Jumpstart获取的模型。使用与今天相同的无代码界面,客户可以上传数据集并选择模型,Amazon SageMaker Canvas会自动帮助客户构建自定义模型,立即生成预测。Amazon SageMaker Canvas还可以显示性能指标,让客户可以轻松协作,使用模型生成预测并了解基础模型在特定任务上的表现。

     

    Hugging Face是一家领先的机器学习公司和开放平台,它为AI构建提供了开放的基础模型以及创建模型所需的工具。“Hugging Face一直在使用Amazon SageMaker HyperPod创建重要的最新开放基础模型,如StarCoder、IDEFICS和Zephyr,这些模型已被下载了数百万次。”Hugging Face产品负责人Jeff Boudier表示,“Amazon SageMaker HyperPod专为高可用和性能构建的功能使我们的开放科学团队能够专注于创新,并改进基础模型的构建方式,而非管理基础设施。Amazon SageMaker HyperPod能够检测到机器学习硬件故障,并快速替换有故障的硬件,且不会中断正在进行的模型训练。由于我们的团队需要快速创新,该自动化作业恢复功能帮助我们在基础模型训练过程中减少中断情况,让我们在一年内便节省了数百小时的训练时间。”

    领先的人工智能客户关系管理(CRM)平台Salesforce,凭借数据、AI和CRM,提高了生产力,创造了可信的客户体验。 “我们对基础模型采用了开放的方式,而Amazon SageMaker是一个至关重要的组成部分,帮助我们扩展架构并加速市场推广。”Salesforce工程副总裁Bhavesh Doshi表示,“利用新的Amazon SageMaker推理功能,我们能够将所有模型放入单一的Amazon SageMaker端点,该端点可以自动处理所有资源分配和计算资源共享,在提高性能的同时降低了基础模型的部署成本。”

    汤森路透(Thomson Reuters)是一家领先的信息领域提供商,也是全球值得信赖的新闻机构之一。 “我们的工程师面临的一个挑战是在高峰季节有效管理客户呼叫资源,以确保雇佣合适数量的客服人员来处理激增的咨询。”Thomson Reuters人工智能、商业智能和数据平台副总裁Maria Apazoglou表示,“对包含呼叫量、等待时间、日期等关键指标的呼叫中心数据进行历史分析是一项耗时的任务。我们的团队正在利用Amazon SageMaker Canvas中新的数据准备和定制功能,对公司数据进行模型训练,从而识别影响高峰时段呼叫量的模式和趋势,这让我们使用自有数据构建机器学习模型变得非常简便。我们期待通过Amazon SageMaker Canvas增加对基础模型的使用,而无需编写任何代码。”

    ]]>
    亚马逊云科技联合Clarity AI共同推动大规模可持续性投资 //www.otias-ub.com/archives/1663417.html Wed, 29 Nov 2023 04:22:15 +0000 //www.otias-ub.com/?p=1663417 o 借助亚马逊云科技的生成式AI、机器学习和分析能力,领先的可持续发展技术平台Clarity AI能够准确高效地评估公司、基金等组织的可持续发展能力和社会影响力

    北京——2023年11月29日,亚马逊云科技在2023 re:Invent全球大会上,宣布Clarity AI已全面迁移至亚马逊云科技。作为全球领先的技术公司,Clarity AI专注于提供环境和社会方面的数据,帮助企业和消费者做出可持续的投资和购买决策。Clarity AI的平台通过分析数百万个数据点来支持投资者追踪、衡量和优化其投资组合的社会和可持续影响,同时确保符合监管报告要求。这些洞察帮助全球1.5亿消费者选择那些符合可持续发展原则的品牌进行购买,并协助投资者将超过30万亿美元的资金投向产生积极环境影响的公司。

    “作为一家数据驱动的企业,我们借助亚马逊云科技丰富的云服务以及高灵活性、可扩展性释放人工智能潜力,并向投资者、消费者以及每天做出影响地球和每个居民重要决策的组织提供关键的可持续洞察。”Clarity AI董事会成员兼产品高级副总裁Ángel Agudo表示,“Clarity AI的愿景是让投资者和企业将社会和环境影响视为金融价值之外的关键变量。”

    Clarity AI在亚马逊云科技上运行着关键任务平台,并充分利用亚马逊云科技的生成式AI、机器学习和分析能力,为投资、企业研究、基准测试、消费者电商购买,以及监管报告提供可持续性分析工具。借助亚马逊云科技专门用于构建、训练和部署机器学习模型的托管服务Amazon SageMaker、机器学习开发环境Amazon SageMaker Studio和Amazon Elastic Compute Cloud (Amazon EC2) GPU实例,Clarity AI成功训练了高达70亿参数的大语言模型(LLMs)和自然语言处理(NLP)模型,用于检测、管理和分类来自可持续性报告、财务报告、财报电话会议和研究文件的数百万个非结构化数据点。随后,Clarity AI利用这些数据确定哪些公司可能受到特定新闻事件的影响,并判断环境影响的程度,最终将这些公正的信息共享给投资者、研究人员和消费者,帮助他们做出可持续性投资和购买决策。

    借助亚马逊云科技的云服务能力,Clarity AI的可持续发展技术平台已为超过7万家公司、42万只基金和400个地方政府提供了清晰且客观的数据。电子商务公司使用Clarity AI分析平台对电子产品、时尚服装、食品杂货和家居品牌以及健康和美容公司的商务环境进行分析,以可视化的方式为购物者识别具有可持续性的品牌。Clarity AI的平台与现有的电子商务环境集成,通过展示相关标识来认可品牌的可持续性表现,使具有环保意识的购物者能够通过购买来奖励可持续性实践。

    如今,投资者和消费者在制定投资和购买决策时主要依赖报告框架,例如ESG(环境、社会和治理)报告,这些报告可以显示企业的环境影响信息。投资者使用这些报告中的数据来评估企业在环境和社会方面产生的影响。然而,由于报告标准的不统一、ESG法规的不断变化以及数据的碎片化,让验证ESG绩效数据存在一定的挑战。

    Clarity AI利用Amazon SageMaker在亚马逊云科技上开发了生成式AI模型,用于发现新的数据点,从而帮助客户避免投资于从事“漂绿”或有害环境实践的公司或基金。利用NLP模型,Clarity AI可以提取信息、识别问题,并评估环境问题的重要性。亚马逊云科技的商业智能服务Amazon QuickSight让Clarity AI通过使用现代化和交互式的仪表盘、报告、嵌入式分析和自然语言查询呈现研究结果。Clarity AI在内部还使用了构建于亚马逊云科技上基于生成式AI的聊天机器人,来处理潜在客户的查询,提高了产品专家团队的效率。

    此外,Clarity AI还依托亚马逊云科技进行安全管理,提高治理水平,并保持符合监管要求。通过使用威胁检测服务Amazon GuardDuty,Clarity AI可以持续监测亚马逊云科技账户和工作负载是否存在恶意活动,并以Amazon WAF作为网络防火墙,防御常见的网络攻击和恶意机器人对可用性和安全性的不良影响。亚马逊云科技的安全和合规服务也助力Clarity AI获得了ISO 27001和SOC 2 Type II认证。

    未来,Clarity AI计划扩大对亚马逊云科技生成式AI和机器学习服务的部署,例如Amazon Bedrock,从而利用创新技术,简化模型开发流程,并增强推理能力。

    “生成式AI有望改变每个应用、企业和行业。Clarity AI的实践展示了生成式AI能够为企业、社会和世界带来巨大益处,并帮助企业、消费者实现更多可持续性投资和购买决策。”亚马逊云科技全球销售、市场和服务高级副总裁Matt Garman表示,“与Clarity AI等客户合作,我们相信选择和安全是帮助企业充分利用生成式AI重塑客户体验的制胜组合。”

    ]]>
    亚马逊云科技宣布推出Amazon Q重塑未来工作方式 //www.otias-ub.com/archives/1663415.html Wed, 29 Nov 2023 04:04:28 +0000 //www.otias-ub.com/?p=1663415 o 在设计时就考虑了安全和隐私保护的新型生成式AI助理,使员工能够利用公司的数据和专业知识获取问题的答案、解决问题、生成内容并采取行动

    o 埃森哲、宝马集团、吉利德、Mission Cloud、Orbit Irrigation和Wunderkind等客户和合作伙伴都期待使用Amazon Q

    北京——2023 年11月29日 亚马逊云科技在2023 re:Invent全球大会上宣布推出Amazon Q,这是一种新型生成式AI支持的助手,专门用于满足办公场景需要,可以根据客户业务进行定制。客户可以快速获得复杂问题的相关答案、生成内容并采取行动 – 所有这些都基于客户自身的信息存储库、代码和企业系统的见解。Amazon Q为员工提供信息和建议,帮助他们简化任务、加速决策和解决问题,并帮助激发工作中的创造力和企业创新。Amazon Q为满足企业级客户严格的要求专门设计,可以根据企业既有的人员、角色和权限对每个用户交互进行个性化定制。此外,客户的内容绝不会用于训练Amazon Q的底层模型。无论对于在亚马逊云科技上进行构建、使用内部数据和系统,还是使用亚马逊云科技应用程序实现商业智能(BI)、联络中心和供应链管理的客户,Amazon Q都是良好的基于生成式AI的助手,能够帮助各个行业、各种规模的企业安全地使用生成式AI。Amazon Q已向客户提供预览版,Amazon Connect中的Amazon Q已正式推出,Amazon Supply Chain中的Amazon Q即将推出。要了解有关Amazon Q的更多信息,请访问aws.amazon.com/q。

    亚马逊云科技数据和人工智能副总裁Swami Sivasubramanian博士表示:“生成式AI有潜力推动技术变革,从而重塑人们的一切行为方式,无论是信息搜索还是以全新的方式编写和构建应用程序。亚马逊云科技在三层堆栈的每一层提供解决方案,包括专门构建的基础设施、工具和应用程序,帮助客户更好地利用生成式AI。亚马逊云科技的初衷和基因便是让复杂、昂贵的技术能为各种规模和拥有不同技术能力的客户所用,降低技术应用的门槛,并从一开始就秉承数据优先的原则和内置企业级安全和隐私保障。无论客户是在亚马逊云科技上进行构建、使用内部数据和系统,还是应用一系列数据和业务应用程序,Amazon Q都能提供强大的生成式AI的支持。它是我们生成式AI堆栈应用层的强大补充,为每个企业都开辟了新的可能性。”

    生成式AI聊天应用程序激发了公众的想象力,激发了人们的想象空间,但还不能作为解决方案应用在工作中。具体来说,这些聊天应用程序不了解企业的业务、数据、客户、运营或者员工——如员工的工作、他们与什么人交互、应用什么信息以及可以访问什么数据。此外,这些解决方案最初也没有配备企业所需的安全和隐私功能,无法保障员工在日常工作中的安全使用。企业不得不在构建助手后再将这些功能添加到助手中,这远不如在设计之初就将安全性纳入其中。这就是亚马逊云科技创建Amazon Q的原因,致力于帮助客户让每位员工充分发挥生成式AI的优势。

    Amazon Q是客户在亚马逊云科技上构建、部署和操作应用程序及工作负载的专家

    如今,开发者和IT人员需要跟上最新的技术发展,快速设计和交付新功能,管理应用程序和工作负载端到端的生命周期,并在维护既有产品和构建新功能之间平衡优先级。所有这些都需要开发者和IT人员进行大量工作,这会分散他们的核心注意力。无论他们是想回答一个简单的问题(例如某个特定功能如何工作),还是一个专业的问题(例如为给定工作负载寻找最佳的Amazon EC2实例),客户都需要花费大量时间阅读技术文档、访问公共论坛和与同事交流来学习。应用程序启动并运行后,客户需要投入额外的时间和资源来维护它。例如,对网络连接问题进行故障排除可能需要客户快速诊断问题,确保资源之间存在正确的连接,并检查网络配置详细信息,有时甚至可能没有团队成员的额外指导或支持。在集成开发环境(IDE)中,接手前人项目的开发者必须花时间研究以前编写的代码以了解其底层编程逻辑。无论是什么项目,开发者都需要不断排除错误、编写测试、优化代码,这让他们没有时间构建新功能。在所有这些步骤中,开发者和IT人员时而访问亚马逊云科技管理控制台,时而阅读技术文档,时而在IDE中编写代码,时而与同事交流,没有一个统一的来源来回答从规划到维护应用程序各个步骤中遇到的问题。

     

    Amazon Q由亚马逊云科技17年来积累的知识和经验训练而成,改变了开发者和IT人员在亚马逊云科技上构建、部署和运维应用程序和工作负载的方式。客户可以通过亚马逊云科技管理控制台、文档页面、IDE、Slack或其他第三方对话应用程序的聊天界面访问Amazon Q。Amazon Q是亚马逊云科技优良架构框架、最佳实践、文档和解决方案实施的专家,使客户能够更轻松地探索新服务和功能、学习不熟悉的技术、构建解决方案、发现问题、升级应用程序等,而且能够更快上手。客户可以询问亚马逊云科技产品相关问题(如什么是Amazon Bedrock代理功能?),检索亚马逊云科技服务的运行方式(如Amazon DynamoDB表扩展的极限是什么?),探寻架构解决方案的最佳方案(如构建事件驱动架构的最佳实践是什么?)或识别满足特定场景需求的最佳云服务(如在亚马逊云科技上构建Web应用程序有哪些方法?)都能够获得明确的指导和解答。基于这些问题,Amazon Q会给出明确答案并列出引用出处。客户可以追问任意多轮的问题,来获取更加详尽的答案,找到实现其工作负载的最佳选项,并得到基本操作的步骤指导。客户也可以利用Amazon Q为工作负载选择最佳EC2实例,客户可以问:“帮我找到合适的EC2实例,为我的游戏应用程序部署具有最高性能的视频编码工作负载。”Amazon Q将提供一系列实例以及使用每个实例的原因。如果要排查Amazon EC2或 Amazon Simple Storage Service(Amazon S3)配置错误等问题,客户只需在亚马逊云科技控制台按“Troubleshoot with Amazon Q”按钮即可让Amazon Q找到错误并提出修复建议。客户还可以通过询问“为什么我无法从笔记本电脑连接到我的 EC2 实例?”等问题来排查网络问题。Amazon Q将分析客户的端到端网络配置并提供诊断(如“该实例似乎处在私有子网中,可能需要调整子网的公网访问配置”)。

     

    在客户通过Amazon CodeWhisperer的IDE中访问Amazon Q的场景。Amazon Q已经将构建软件的专业知识与对客户代码的理解结合起来。开发者可以使用 Amazon Q通过问答聊天来理解具体的程序代码逻辑(如“向我提供此应用程序的功能及其工作原理的描述。”),Amazon Q将提供代码使用哪些服务以及不同功能的详细信息(如 “此应用程序正在使用Python Flask和Amazon Lambda构建一个工单支持系统。”),并描述该应用程序的核心能力以及它们的实现方式等。Amazon Q还可以帮助开发人员调试、测试和优化他们的代码。开发人员只需向 Amazon Q通过提出帮助请求(如“优化我选择的 DynamoDB查询“),Amazon Q会用自然语言提供建议,并附上开发人员可以一键实施的代码。

    此外,Amazon Q使开发者能够获得强大的功能来解决常见挑战,进一步简化应用程序开发和维护,包括:

    · 功能开发加速:如果开发者现在想要向应用程序添加新功能,他们需要经历一整套耗时的过程——制定计划、思考编程逻辑、编写代码和测试、将其集成到应用程序中、在数千行代码中修修补补。借助Amazon Q的功能开发能力,开发者可以获得指导和帮助,并自动化大部分端到端流程。通过Amazon CodeCatalyst(亚马逊云科技面向团队协作的统一软件开发服务),开发人员从其待开发功能列表中为Amazon Q分配任务,然后Amazon Q会起草分步计划、编写代码并向开发人员提供功能实现的更改建议 – 开发人员只需查看建议、进行必要的调整、批准建议的更改。

    · Amazon Q代码转换:如今,许多开发者花费数小时进行应用程序维护和升级,而用于编写代码或构建新应用程序的时间却减少了。虽然这些升级对于应用程序安全性非常重要,并能提升性能,但它们通常需要开发者花费数月或数年来检查每一行代码。借助Amazon Q代码转换功能,开发者可以减少很多繁琐工作,将所需的时间从几天缩短到几分钟。开发者只需要在IDE中打开代码,告诉 Amazon Q进行“转换”,然后Amazon Q会分析代码库、识别和更新其依赖项、生成新的代码语言、纳入最新的安全性和性能增强功能,并进行测试以验证应用程序能够运行。最近,由5名亚马逊开发者组成的小团队使用Amazon Q代码转换,在短短两天内将 1000个生产应用程序从Java 8升级到Java17。每个应用程序升级的平均时间不到10分钟。 Amazon Q代码转换目前支持从Java 8到Java 17的语言升级,.NET框架到跨平台.NET的升级即将推出,更多代码转换功能也将陆续推出。

    Amazon Q 是客户业务的专家

    企业拥有分布在多个文档、系统和应用程序中的大量数据。从财务和人力资源到市场推广和销售,每个企业的员工每周都会花费数小时搜索内部信息、拼凑分析报告、撰写报表、做PPT并针对不同客户或受众调整内容。生成式AI可以帮助解决这些挑战,但目前可用的通用解决方案没有连接内部资源,并且不了解公司现有的人员、角色和权限,也就不能确定员工应该有权访问哪些资源来完成工作。公开可用的解决方案还可能使用输入和输出的数据进行培训,导致公司将面临安全和隐私风险。为此,一些企业彻底禁止这些产品。虽然有一些生成式AI解决方案在设计之初就与一些特定的工具配合使用,但它们仅能与这些工具协作,并且不能扩展到企业的所有系统和应用程序。由于这些障碍,员工无法充分发挥生成式AI的潜力。

     

    Amazon Q 允许客户连接到其业务数据、信息和系统,使任何企业都可以创建服务自己业务的生成式AI助手。该助手可以,为员工提供量身定制的对话、解决问题、生成内容并采取与其业务相关的行动。Amazon Q拥有40多个兼容流行数据源的内置连接器,包括Amazon S3、Dropbox、Confluence、Google Drive、Microsoft 365、Salesforce、Service Now和Zendesk,同时提供构建自定义连接器的选项来连接企业内网,内部知识库,流程说明书等,让客户更快捷的开始使用。当Amazon Q综合所有连接到的信息,客户准备部署他们自己的助手时,Amazon Q会生成一个网络应用程序,该程序让员工可以通过客户现有的身份验证系统访问。Amazon Q使用身份验证系统来理解用户、他的职能,以及他被允许访问的系统权限,因此员工可以询问详细的问题,但仅获得该用户有权查看的信息的个性化结果。员工可以询问Amazon Q他们以往需要在不同数据源中搜索的任何事情(如“最新的标志使用指南是什么?”),Amazon Q将综合相关内容,分享答案和信息来源链接。Amazon Q也可以简化日常交流,帮助员工进行如生成博客文章、总结文档、草拟电子邮件和创建会议议程等任务。员工还可以使用Amazon Q在像Jira、Salesforce、ServiceNow和Zendesk这样的流行系统中完成任务。例如,员工可以要求Amazon Q在Jira中打开一个工单或在Salesforce中创建一个案例。

    Amazon Q提供的答案和洞察准确且忠于客户提供的源素材和知识库,客户还可以使用额外的管理控制功能来屏蔽整个话题,并使用关键词过滤问题和最终答案。管理员还可以将特定的回应仅限制给特定的员工或数据源。例如,可以设置Amazon Q只对安全团队的安全相关问题进行回应,或者只从公司的内部目录中提取与人员相关的问题的答案。

    Amazon Q为Amazon QuickSight、Amazon Connect和Amazon Supply Chain提供基于生成式AI的助理

    虽然许多应用场景和行业将受益于生成式AI的变革潜力,但目前可用的解决方案通常是通用的,并不具备执行专业领域任务所需的特定上下文。为了充分发挥生成式AI的优势,客户需要针对其应用场景或行业专门构建的解决方案。因此,亚马逊云科技将Amazon Q引入多种服务和应用程序,包括:

    · Amazon QuickSight中的Amazon Q(预览版):Amazon QuickSight是专为云构建的统一BI服务,提供交互式仪表板、分页报告、嵌入式分析以及自然语言查询功能。借助QuickSight中的 Amazon Q,客户可以访问由生成式AI驱动的功能,由此来构建仪表板,并更轻松地利用数据简化决策、与业务利益相关者同步信息并获取洞察。借助新的故事生成功能,用户可以要求 Amazon Q“描述上个月业务发生的变化,用于向领导层汇报。” Amazon Q能够在几秒钟内根据Amazon QuickSight中的可用数据创建一段数据驱动的、视觉效果良好的描述,用户可以进一步自定义描述并与整个企业共享。此外,通过仪表板和报告上的新的概要总结功能,Amazon Q可以快速创建摘要,突出显示仪表板中需要注意的重要内容。业务用户还可以使用新的、简化的问答体验,他们可以提出开放性问题并获得相关答案,而不仅限于仪表板和报告中的视觉效果。例如,用户可能会问:“为什么上个月的订单数量增加了?” Amazon Q会在动态创建的仪表板中总结详细信息,并提供相应的视觉效果。

    · Amazon Connect中的Amazon Q(已正式发布):Amazon Connect是云联络中心,使各种规模的企业能够以更低的成本提供卓越的客户体验。联络中心客服能够通过一系列复杂的决策帮助客户,在企业建立客户信任和忠诚度方面发挥着关键作用,但招聘、培训和指导员工成为优秀的客服,确保他们能够快速、准确地响应客户需求是一项艰巨挑战。Amazon Connect中的Amazon Q根据客户与客服之间的实时对话检测客户问题,并能够自动回复、给出建议以及提供相关资料。通过让客服人员能够在没有主管协助的情况下满足客户对各种问题的需求,Amazon Connect中的Amazon Q提高了客户满意度,同时减少了客服人员培训、解决问题的时间并降低了成本。例如,Amazon Q可以检测到客户正在联系租车公司更改预订。然后,Amazon Q可以快速响应,发送公司的预定变更政策,并指导客服如何一步步地更新预订。

    · Amazon Supply Chain中的Amazon Q(即将推出):Amazon Supply Chain是一款基于云的应用程序,通过将亚马逊近30年的供应链经验与亚马逊云科技的弹性、安全性和业务连续性相结合,让客户深入了解自身的供应链。许多客户正在寻找一种更直观的方式来了解上下游库存变化如何影响他们未来的运营。借助Amazon Supply Chain中的Amazon Q,客户将能够提出有关供应链数据的一系列问题,如“是什么?”、“为什么?”和“如果……会怎样?”,将复杂场景的结果可视化,还可以追问问题以权衡不同决定之间的优劣。例如,客户可能会问“是什么导致我的发货延迟以及如何加快速度?” Amazon Q会分析客户的供应链,并标注大部分订单目前都在东海岸,风暴导致了延误,客户可以选择运往纽约而不是迈阿密来加快交货速度并降低成本。

    埃森哲是亚马逊云科技核心级服务合作伙伴,是一家全球领先的专业服务公司,专注于加速端到端地采用亚马逊云科技,并安全、快速、规模化地实现企业范围内的转型。埃森哲集团全球主管Karthik Narain表示:“随着我们继续与亚马逊云科技密切合作,加速我们自己的工程师以及世界各地的企业对生成式AI技术的应用和部署,Amazon Q将为埃森哲带来革命性的改变。我们的最新研究显示,几乎所有企业高管都希望生成式AI能够为他们的公司和行业带来变革,因此我们积极投资,希望利用Amazon CodeWhisperer和Amazon Q为多达50000名软件开发者和IT人员提供支持。借助Amazon CodeWhisperer,我们已经将开发工作效率提高了30%,同时还提高了安全性、编程质量和绩效。我们预计,随着我们在整个企业内推出Amazon Q,这一成果将更加显著。”

    宝马集团是一家德国跨国豪华汽车和摩托车制造商。宝马集团数据工程和分析顾问Christoph Albrecht 表示:“宝马团队需要快速提取和解释新数据,以提供客户期望的精确体验。Amazon QuickSight中新增的Amazon Q功能可帮助我们的分析师在数小时内构建仪表板,而以前需要数天时间。我们看到,Amazon QuickSight中的Amazon Q对我们的业务用户产生了更大的影响,它支持对紧急问题的即时解答,加速了我们企业最高层的关键业务决策。Amazon QuickSight的故事(story)功能还使我们能够在董事会会议上清晰地展示业务情况,快速构建富有洞察力和专业格式的故事。Amazon QuickSight中的Amazon Q能够满足严苛的要求,助力我们的团队快速获得精确答案。”

    免责声明:

    本新闻稿中提及的生成式AI新发布服务暂时仅在亚马逊云科技境外区域可用,亚马逊云科技中国仅为帮助您了解行业前沿技术和发展海外业务选择推介该服务。

    ]]>
    亚马逊云科技与Salesforce深化合作,为客户更轻松地构建可信的AI应用程序,提供无缝CRM体验,并将其产品上架亚马逊云科技Marketplace //www.otias-ub.com/archives/1663186.html Tue, 28 Nov 2023 05:06:59 +0000 //www.otias-ub.com/?p=1663186 ○ 新的联合创新增强了数据管理能力,改善了客户体验,并支持基于人工智能的应用程序

    ○ Salesforce在整个产品组合中大幅扩展了对亚马逊云科技的应用,特别是在其具有战略意义且增长较快的创新领域,即Salesforce Data Cloud中采用了亚马逊云科技的原生服务。亚马逊云科技则在整个公司范围内扩大了对Salesforce CRM产品的应用,包括采用Data Cloud来管理统一的客户资料

    ○ Salesforce现已在亚马逊云科技 Marketplace上正式可用,成千上万的共同客户可以轻松购买并加速部署Salesforce产品

    北京——2023年11月28日 亚马逊云科技在2023 re:Invent全球大会上,宣布与全球领先的人工智能客户关系管理系统公司Salesforce进一步扩展长期的全球战略合作伙伴关系,深化在数据和人工智能领域的产品集成,并首次将部分Salesforce产品上架亚马逊云科技Marketplace。这一全新的拓展协议使客户能够更轻松且无缝地在Salesforce和亚马逊云科技之间管理数据,并以负责任的方式将新的生成式AI技术安全地融入到应用程序和工作流中。

    为了让客户更容易地从Salesforce和亚马逊云科技的合作中受益,双方将加深业界领先产品之间的集成。Salesforce将全面支持Amazon Bedrock,这项完全托管的服务通过一个API即可调用多个来自领先AI公司的基础模型(FMs),并将其作为Salesforce开放模型生态战略的一部分。客户通过Einstein Trust Layer即可使用Amazon Bedrock,为Salesforce中基于AI的应用程序和工作流提供动力。此外,Salesforce Data Cloud还将支持亚马逊云科技其他技术之间的数据共享。这些Data Cloud集成将由新的集中式访问控制管理,使客户能够在文件夹、对象和文件级别对存储在Amazon Simple Storage Service(Amazon S3)中的Data Cloud内容进行安全的用户访问管理。

    作为合作的一部分,Salesforce将通过Hyperforce扩大对亚马逊云科技的使用,包括计算、存储、数据和人工智能技术,以进一步增强Salesforce Data Cloud等热门服务。同时,亚马逊云科技也将扩大对Salesforce产品的应用,特别是Salesforce Data Cloud。Data Cloud让亚马逊云科技能够创建一个统一的客户档案,从而为客户提供更加个性化的体验。

    以下是全新的增强集成服务:

    ● 简化亚马逊云科技Marketplace的购买选项:这是Salesforce首次登录亚马逊云科技Marketplace,提供的产品包括Data Cloud、Service Cloud、Sales Cloud、Industry Clouds、Tableau、MuleSoft、Platform和Heroku,亚马逊云科技客户可以更轻松地订阅和管理Salesforce产品。单一的IT支出视图、简化的采购流程以及灵活的选项给客户提供了极大的便利,例如通过亚马逊云科技进行私有定价和合并计费,从而可以无缝地利用预先批准的预算并提高业务绩效。在美国的客户现在可以通过亚马逊云科技Marketplace购买部分Salesforce产品,在2024年将进一步扩大对产品范围和区域的支持。

    ● 通过统一数据管理增强客户体验:亚马逊云科技和Salesforce致力于将Data Cloud打造成一款全面、灵活且安全的软件即服务(SaaS)数据平台,以更好地满足客户需求。新的Zero-ETL(提取、转换和加载)集成减少了客户在Data Cloud和亚马逊云科技数据服务之间构建自己ETL管道的需求。因此,客户可以轻松无缝地整合所有数据,从而支持更快速的洞察、预测和更强大的应用。此外,借助由亚马逊云科技Amazon Elastic Compute Cloud (Amazon EC2) 、Amazon Elastic Kubernetes Service (Amazon EKS) 和Amazon Lambda所支持的Data Cloud,客户可以安全地运行自己的代码来执行数据处理任务,如复杂的转换、计算洞察、数据触发器或用户定义函数。

    ● 亚马逊云科技数据和AI服务安全集成到Salesforce Einstein 1平台:客户将可以使用更新的解决方案,如Salesforce Prompt Builder。作为Einstein Copilot Studio的一部分,Salesforce Prompt Builder能够基于自有数据创建自定义提示模板,该模板可以发送至客户偏好的基础模型,包括托管在Amazon Bedrock上的领先模型。这将使客户能够安全地将检索增强生成(RAG)等技术与 AI21 Labs、Amazon、Anthropic、Cohere、Meta 和 Stability AI 等领先人工智能公司的模型结合使用。除了通过Data Cloud和Amazon SageMaker的集成访问自己的基础模型外,开发人员还将能够通过Einstein Trust Layer使用简化的工具微调Amazon Bedrock上的基础模型,并在Salesforce Customer 360平台上提供生成式AI体验。

    ● Service Cloud和Amazon Connect集成提供无缝客户体验:通过深度集成Service Cloud Voice和Amazon Connect,Salesforce和亚马逊云科技将Amazon Connect Chat引入Service Cloud Digital Engagement,通过Amazon Connect的预测、容量规划和代理调度增强Salesforce Service Cloud 全渠道的监管体验。这与集成的生成式AI能力一起为客户洞察提供支持,并为代理和经理提供自动化辅助,从而实现统一的客户体验、更高效的跨渠道代理以及更明智的监管。这一深度集成的第一阶段计划于2024年初发布。

    ● 为开发者提供全新的亚马逊云科技计算和开发服务:Salesforce正在与亚马逊云科技合作,将Heroku重构为平台即服务(PaaS)层,用于跨Salesforce和亚马逊云科技的人工智能优先的应用程序开发。该计划预计于2024年上半年推出。Heroku将利用亚马逊云科技提供的强大且高性价比的基础设施来加强Dyno计算功能,包括由Nvidia GPU支持的加速Amazon EC2实例、用于机器学习训练和推理的Amazon Trainium和Amazon Inferentia,以及用于图形密集型应用的其他GPU优化的EC2实例。此外,Salesforce还将使用基于Amazon Graviton的EC2实例,以获得更高性价比的计算能力。这将为Heroku客户的资源密集型工作负载(如使用基础模型进行开发)提供更高性能、更具成本效益的基础设施。新的Heroku还将利用Amazon CodeWhisperer帮助客户更快速、更安全地构建应用程序。Salesforce开发人员还将使用Einstein Copilot Studio创建Einstein Copilot可以调用的自定义操作,涵盖从Salesforce中的工作流到托管在亚马逊云科技上的服务,为跨平台流程自动化创建了一种新的AI优先的模式。

    “今天的深化合作是我们与亚马逊云科技长期合作的重要里程碑。”Salesforce主席兼首席执行官Marc Benioff表示, “我们将全球领先的人工智能CRM提供商和领先的云服务提供商汇聚在一起,提供一个可信赖、开放、整合的数据和人工智能平台,并确保我们满足亚马逊云科技Marketplace上大量客户对于我们产品的需求。通过这些合作,我们将让客户在全新的AI时代更具创新性、更高效、更成功。”

    “Salesforce与亚马逊云科技让开发人员能够安全地访问和利用数据及生成式AI技术,推动企业和行业的快速转型。”亚马逊云科技首席执行官Adam Selipsky表示,“通过扩大合作,我们共同的客户可以采用更强大的方式来创新协作,并利用一系列广泛而深入的云服务构建更专注于客户体验的应用程序。”

    “作为行业领先的保险公司,State FarmⓇ与亚马逊云科技和Salesforce合作多年,每次合作都为我们的团队和服务的客户带来巨大的价值。”State Farm高级副总裁兼首席数字官Fawad Ahmad表示, “随着这两家行业领先的公司进一步扩大合作,我们期待为State Farm所服务的9,400万保单和账户创造更多价值。”

    产品可用性:

    ● 新的产品集成将于2024年推出。

    ● 位于美国的合作客户现在可以通过亚马逊云科技Marketplace购买部分Salesforce产品,产品范围和区域将于2024年进一步扩大。

    ]]>
    亚马逊云科技陈晓建:生成式AI时代 技术普惠和负责任的AI至关重要 //www.otias-ub.com/archives/1661915.html Thu, 23 Nov 2023 05:04:07 +0000 //www.otias-ub.com/?p=1661915 整整一年多,生成式AI已经吸足了全球科技界目光。在亚马逊云科技大中华区产品部总经理陈晓建看来,生成式AI不仅仅是大模型,还需要大量的基础模型以外的服务来支撑,如加速芯片,数据库,数据分析,数据安全服务等等。

    作为全球云计算领导者,亚马逊云科技提供了完整的端到端的生成式AI技术堆栈,从底层的加速层如加速芯片,存储优化,到中间层模型构建工具和服务,再到最上层的生成式AI相关应用,每一层都在针对客户的不同需求持续创新。

    在生成式AI时代的定位

    当199IT问到在生成式AI时代,亚马逊云科技如何看待自身的定位。陈晓建表示,亚马逊云科技本身是一个基础设施的提供商,初心是做技术的普惠化,在生成式AI的今天,初心未变,亚马逊云科技仍然希望通过技术降低使用门槛,能够让生成式AI的技术为业务赋能。

    除了普惠化之外,负责的AI也是亚马逊云科技所秉持的重心。包括六点——公平和偏见、稳定性、可解释性、治理、透明度、隐私和安全性。

    因为AI技术如此之新,如此智能,所以在使用的时候其实会碰到很多非技术的问题,虽然它很聪明,可以干各种事情,但是并不是每一件事情都是对社会有利的。所以亚马逊云科技强调公平性,它不能按性别、年龄、种族而提供区别对待的服务。

    如何保证服务的高可用性,至关重要。另外,要避免有害性,生成式AI本身是一把双刃剑,很多生成式AI的能力非常强,如果不在有害性方面去做很好的管理,可能会引导到一些并不是非常好的应用场景上。还包括个人隐私等。

    陈晓建认为以上这些要点,决定了生成式AI最终能够跟产业结合会达到什么效果。

    释放生成式AI的潜力

    亚马逊云科技围绕应用场景、工具和基础设施、数据基座、AI原生应用构建和生成式AI服务,助力企业和开发者释放生成式AI的潜力。

    基础模型的发展和迭代速度正超越以外任何一项技术,基本以月甚至天为单位持续迭代,而新出现的每一个大模型都在性能和特定领域有着独特的优势。在众多的基础模型中,应该如何便捷安全的选择最适合自己业务场景的基础模型,是每一家企业在构建生成式AI应用时面临的挑战。

    亚马逊云科技正式推出了Amazon Bedrock,该服务与Amazon SageMaker Jumpstart结合,助力对基础模型有着不同需求的客户轻松、安全地选择基础模型。

    Amazon Bedrock是企业使用基础模型构建和扩展生成式AI应用程序的最简单方法,它是一项无服务器服务,提供了广泛的模型选择、数据隐私,并且能够自定义模型,无需管理任何基础设施。该服务提供的基础模型来自Meta, Anthropic, Stability AI, AI21 Labs、Cohere等第三方领先提供商以及自身的Amazon Titan模型等,近期还加入了Meta的下一代开源大模型Llama2以及Anthropic的Claude2等热门基础模型。

    与Amazon Bedrock相比,Amazon SageMaker需要客户管理应用程序架构中的模型部署、配置和托管,但拥有更大的灵活度和自由度对基础模型进行定制,客户可以从Amazon SageMaker Jumpstart中选择开源的基础模型,然后根据自身需求可以选择全量微调,轻量微调等不同方式,进一步确定微调框架,利用分布式训练实现微调,从而更好的评估微调效果。

    Amazon Bedrock代理功能是一项全新的全托管功能,使开发人员能够更轻松地创建基于生成式AI的应用程序,以完成各种用例的复杂任务,并根据专有知识源提供最新的答案。开发人员只需进行简单操作,Amazon Bedrock 代理功能就会自动分解任务并创建编排计划,无需任何手动编码。该代理通过简单的 API 接口安全地连接到公司数据,自动将数据转换为机器可读的格式,并增加相关信息以生成最准确的回答。然后,代理可以自动调用 API 来满足用户的请求。

    10多年来,亚马逊云科技对全球基础设施进行深度投资,能够为客户提供广泛的加速器选择,包括强大而灵活的基于GPU的解决方案,例如基于英伟达最新GPU芯片H100 Tensor Core的Amazon EC2 P5实例,与上一代相比速度快6倍,训练成本节省40%;还有基于亚马逊云科技自研的机器学习推理芯片Amazon Inferentia2推出的Amazon EC2 Inf2实例,与其他类似的EC2实例相比性价比高40%;基于自研机器学习训练芯片Amazon Trainium推出的Amazon EC2 Trn1实例,与同类实例相比训练成本节省高达50%。

    开箱即用的生成式AI服务

    编程是生成式AI技术得到快速应用的领域之一。软件开发者需要花费大量时间编写相当浅显和无差别的代码,真正用于创新的时间少之又少。从网上复制代码片段则可能无意中复制无效代码或有安全隐患的代码,或对开源代码的使用没有进行有效追溯。

    亚马逊云科技的解决方案是Amazon CodeWhisperer,它是一款人工智能编码伙伴,在基础模型高级选项中使用,可以实时生成代码建议,从根本上提高开发人员的生产力。我们还进行了一项生产力测试,与未使用的参与者相比,使用Amazon CodeWhisperer的参与者完成任务的速度平均快57%,成功率高27%。

    同时亚马逊云科技最近推出了Amazon Whisperer自定义功能,能够生成优于之前的代码建议,因为它允许客户使用私有代码库安全地定制 CodeWhisperer代码建议,这些私有代码库可涵盖内部API、数据库、最佳实践和架构模式等。

    据悉,亚马逊云科技通过开箱即用的生成式AI服务及工具,已帮助1000+中小企业和初创公司快速实现生成式AI创新,已赋能10W+中国开发者。

    帮助不同类型的客户使用生成式AI服务

    亚马逊云科技使命是帮助不同规模、不同体量的客户降低创新门槛。

    具体到生成式AI方面,一类是想要用生成式AI构建比较大规模的,计划面对上百万、上亿用户的AI原生的或者大模型要大规模应用的企业(它可能是初创企业),从算力、数据端到端的能力,用云的方式,通过Amazon Bedrock、Amazon SageMaker让他们尽可能容易的构建模型,快速发展,并且很容易扩展到很大的规模,利用好云的弹性,以极低的成本去运行。这是亚马逊云科技未来重点投入的地方。

    对于企业内部来应用,提升协作效率,提升办公效率,这一类的客户最重要的应用可能部署的规模不会特别大,但是对业务要求和整个业务的理解,包括到底能不能产生业务价值要求是非常高的。亚马逊云科技更多是投入人力包括一些合作伙伴的政策去支持,行业专家加上技术专家满足客户需求。

    陈晓建表示,“开发生成式AI应用是一个充满挑战的系统工程,并不是单纯的产品和服务拼接,因此,如何加速客户最终应用的商业化落地,除了亚马逊本身的资源以外,我们同样需要构建强大的合作伙伴生态,与它们一起助力解决生成式AI应用构建中的各种技术问题,加速应用落地。除了云服务之外,我们还提供解决方案架构师、产品技术专家、人工智能实验、数据实验室、快速原型团队、专业服务团队、培训与认证部门等多个资源共同助力客户成功,同时我们还携手生态合作伙伴与初创圈构建生成式AI的完整体系,进一步助力生成式AI技术的落地。”

    ]]>
    亚马逊云科技:数据流通和应用的关键在于识别、可见、协作及安全可操作 //www.otias-ub.com/archives/1654338.html Wed, 18 Oct 2023 23:12:53 +0000 //www.otias-ub.com/?p=1654338 数据作为新型生产要素,是数字化、网络化、智能化的基础,已快速融入生产、分配、流通、消费和社会服务管理等各个环节,深刻改变着生产方式、生活方式和社会治理方式。

    在亚马逊云科技大中华区产品部总经理陈晓建看来,数据已经是现代发明和创新之源。如何从数据本身既保证安全的前提下,同样促进数据安全的应用,这是摆在众多企业面前的难题。

    数据牵涉到很多业务的价值,要绝对保证安全,同时也要去满足数据合规的要求。但是,安全和合规往往和数据应用是矛盾的关系。如何在保证数据的安全和合规的同时能最大限度地促进数据的流通和应用?

    很多企业和用户通过IT信息化积累了非常多的数据,但很多数据都是处在孤岛的状态,并没有实现充分的跨组织和跨公司之间的流通,并没有有效地实现数据的协作。这是一对制约整个业务发展、价值最大化的关键的矛盾。到今天有越来越多的企业设立了CDO(Chief Data Officer)的职位,通过技术和流程促进数据的应用和进行业务最大化。

    在主题为“安全无忧 释放数据价值”的分享会上,陈晓建将企业数据安全与应用面临的挑战归纳为四个方面,分别是业务数据的识别、可见、协作以及安全数据的可操作。

    识别敏感数据 应对合规挑战

    如何评估什么是个人数据、什么是个人敏感数据,这是每个企业必须要思考,必须要解决的重大的问题。企业要实现数据的安全合规需要人,流程,工具相互配合。

    为用户的业务和计算负载提供最合适的工具,一直是亚马逊云科技投入的方向。在敏感数据的发现与识别也是一样,通过合适的工具产品与解决方案,与合作伙伴一起,为亚马逊云科技用户提供价值。

    敏感数据保护解决方案(Sensitive Data Protection on Amazon Web Services, SDP)是亚马逊云科技转为敏感数据识别与保护这一场景量身定做的方案。这是一个开源的数据安全及数据隐私云原生解决方案,客户可以在自己账号内部署使用。

    利用机器学习、模式匹配等方式自动识别敏感数据,允许客户创建数据目录、使用内置或定制数据识别规则定义敏感数据类型。该解决方案还提供中心化的管理平台,客户可通过网页应用程序对敏感数据资产进行可视化管理。通过敏感数据保护解决方案,客户可以加速实现业务数据合规,为下一步释放数据价值铺平道路。

    特别适用于两种场景,一是存量数据多且分散,需要使用这个方案来发现四处分散的数据。二是对于数据类型不好判断的情况下,可以使用这个方案自动根据合规要求来识别,提高准确率。

    数据可见 被安全有效地发现、共享和协作

    数据可见指的是在一个公司内部有很多的业务数据,分别分布在不同的“烟囱”(silo)里,在不同用户的数据的“烟囱”里如何实现公司内部跨组织之间数据的可见并共享。

    数据可见是企业内不同角色高效挖掘数据价值的前提,也是不同治理模式高效协同的基础。

    每个企业的应用场景都是不同的,IT信息化做得也不同,数据的处理和分布也是不同的。在这个层面,往往会需要有多个角色和多个团队来进行协同的开发,譬如说,业务人员,业务人员背后的应用开发人员和数据分析的人员等等,在不同的阶段可能还会有许多数据分析和数据开发的团队。

    数据在不同的业务场景下,也有很大的不同:

    第一是数据本身结构不同。ERP的订单数据往往是结构化的数据,通常存在数据库里面,但是广告业务的数据往往都是一些非结构化的数据,包括文本,也可能包括图片、视频等。

    第二是数据的使用要求不同,有的数据分析是定期汇总。但像类似广告这样的在线竞争营销系统,需要的数据,能够完成非常高的实时性,往往在毫秒级别就要完成快速的数据应用并且能输入结果。针对不同的数据需求,数据本身的类型和数据所处的环境,包括数据所使用的这些要求,整个数据团队需要应对不同的数据引擎,既要能处理来自于数据库的数据引擎,类似于ERP结构化的数据,还有要处理数据分析可能使用的数据仓库的一种非结构化数据引擎。还有可能有很多第三方的软件,包括可能像类似于Salesforce这样第三方常用的软件,从不同的数据源中汇聚形成数据。这是每个企业应对的挑战。

    在数据团队和业务团队协作方式上,集中式和联邦式是比较常见的两种类型,

    集中式:负责治理运营的人主要集中在数据团队并负责所有治理工作,集中式方式能够实现快速的决策和高效的执行。这种结构较为简单,易于实施和控制。更适合刚开始数据分析之旅和小型组织的客户。

    联邦式:总的治理原则/政策有特定团队负责,但负责治理运营的人可以分散在各业务线,这样业务部门拥有自己的数据,并在组织的监督下做出决策,以满足其特定需求和目标。适合多BU的中大型企业或跨国企业。

    两种类型的协作方式都需要多个角色高效协同,特别是联邦式治理更是对“数据可见”需求迫切。

    在这个客户需求背景下,亚马逊云科技在去年推出一项全新的数据管理服务Amazon DataZone,让每个人都能看见数据,解锁数据。它可以让客户更快、更轻松地对存储在亚马逊云科技、客户本地和第三方来源的数据进行编目、发现、共享和治理。

    借助Amazon DataZone可以使用精细的控制工具管理和治理数据访问权限,确保数据访问发生在正确的权限和正确的情境之下。

    Amazon DataZone使数据开发者、数据科学家、分析师和业务用户可以轻松访问整个组织的数据,从而发现、使用数据,通过数据进行协作来获得洞察。

    多方协作:多方数据安全地共享和分析

    多方数据协作为行业创新注入活力,企业之间需要产业上下游数据协作来快速创新,而企业需要在保障安全和创造价值之间寻求平衡。

    在实际的场景中,数据协作的所有参与者都需要面对数据保护与业务价值安全之间的权衡。现在有一些企业实现数据协作的方式是向合作伙伴提供数据副本,并依赖合同协议防止滥用。但是,显而易见,这样的方式仍然发生了数据移动,依然存在数据误用和泄漏的风险。

    亚马逊云科技推出了Amazon Clean Rooms,实现了匹配、分析和协作彼此的数据,而不需要移动或者暴露原始数据,安全地实现数据分析协作。

    使用Amazon Clean Rooms,用户可以在几分钟内创建一个安全的数据Clean Room,通过创建协作项目,实现数据的多方协作。而对于数据提供方而言,不仅可以通过数据预加密来对数据进行保护,而且因为所有成员都是直接从自己的Amazon S3贡献数据,从而真正实现了只有数据查询和分析而没有数据移动。

    值得强调的是,Amazon Clean Rooms提供了一个密态计算的环境,数据的提供方可以对数据进行预加密,从而在Clean Rooms 环境中的数据以加密的形态完成数据分析操作,并将分析结果解密并返回,从而在数据安全的到最大保护的同时充分在协作方之间开发了数据价值。

    生成式AI时代,企业需要更多第三方的数据来协作创新。而第三方数据的获取却并非易事。Amazon Data Exchange可以大大简化获取第三方数据的过程

    Amazon Data Exchange 使客户能够轻松在云上找到、订阅和使用第三方数据。

    AWS Data Exchange已经可以提供超过3500种的第三方数据,数据来源包括金融,天气,地理空间,健康医疗等等非常多的行业和领域。

    而通过Amazon Data Exchange获取数据非常简便,支持包括Amazon S3注入,查询表接口(query tables)以及API调用等多种的访问方式。 对于像生成式ai的模型训练这样的场景来说,用户只需要将下单的数据集注入到Amazon S3数据湖,就可以使用数据分析工具进行数据处理进而开始模型训练了。

    所有数据在存储和传输时都是加密的。亚马逊云科技整合了身份和访问控制管理系统(IAM)来设定权限,以及来监控实际的访问过程。

    实现数据可操作

    在Gartner发布的2022年网络安全重点趋势里,安全供应商的整合排到第4位。企业在短时间内做到整合安全厂商是有挑战和难度的,亚马逊云科技的解决方法是建立一个安全数据湖,统一管理来自不同厂商的日志,并且让这些日志可被用来进行安全事件的分析。

    Amazon Security Lake可以自动将来自多云、本地和第三方的安全数据集中到一个专门构建的数据湖中。主要特点如下:

    自动搜集并存储亚马逊云科技安全产品(如Amazon GuardDuty, Amazon SecurityHub)的日志,以及第三方乃至线下安全设备的日志,并且使用OCSF统一格式

    使用Amazon S3集中存储日志,可以充分利用Amazon S3的存储性能,将日志分层管理,提高性价比。

    和其他亚马逊云科技提供的服务一样,这个数据湖本身的安全性由亚马逊云科技来保证,例如集成了亚马逊云科技的加密服务Amazon KMS,可以实现自动加密管理。

    数据安全治理的全链路核心难点及解决之道

    十年前,跨部门的数据打通及协作显得遥不可及。而到今天这一切已经变得非常容易。

    亚马逊云科技除了安全责任共担模型之外,有一个端到端的数据战略,有几个基础要点:

    一是要有面向未来的云原生的技术架构,给一个合适的负载,一个最合适的引擎去支撑它,

    二是要有一个统一融合的分析,在很多跨部门的中间怎么打通这部分的数据交互。有几件事情要做。

    第一要把一些比较复杂和繁冗的工作尽可能简化,同时在整个的效率上,在引擎上的能力和产品之间的能力上是有融合的。

    第二是统一分析,很多客户在企业成立初期是一个大而全的数据平台,可以服务不同的部门,但是当企业逐渐长大,有非常多的部门,这些部门之间的数据流转自然而然就出现了问题,这个场景下,我们看到能把一个数据资产注册到一个平台上,然后让数据消费方可以及时发现它,这个是一个最主要的难点,就是怎么能让数据使用者(特别多的是业务团队的数据分析师)能发现它,这也是为什么亚马逊云科技推出Amazon DataZone去解决这部分的难点。

    第三,需要把机器学习的能力和数据能力做结合,然后普惠化。要把整个的能力做一个打通,同时底下端到端的数据战略最下面还有一层数据治理和安全底座,通过这个底座对数据做一个安全的访问控制,不仅要用Amazon DataZone做好数据资产注册和发现,底下还通过Lake Formation这样的工具非常安全地把数据访问权限控制好。这是端到端的数据战略,解决数据怎么样去共享,它们之间怎么样有信任,解决这样的问题。

    陈晓建强调,亚马逊云科技有一个很重要的能力是底下的平台化安全能力的支持,关于数据应用的产品方面,比如Amazon DataZone、Amazon Data Exchange,包括Amazon Clean Rooms,底层其实整合了大量的安全的能力,包括Amazon IAM——Identity and Access Management,访问身份控制、访问控制各方面的权益,在Amazon DataZone已经整合进去了。

    包括像Amazon DataZone为了实现数据的访问,还有一个很重要的工作就是在Amazon Clean Rooms里面怎么实现安全的计算,在这个层亚马逊云科技做了数据全链条的加密,不光是在存储的时候,在传输的时候、计算的时候都实现了加密,这对解决数据有效的共享都是必不可少的。

    亚马逊云科技提供了特定场景下的解决方案比如Amazon DataZone,

    Amazon Data Exchange,Amazon Security Lake,这背后不只是技术的能力,亚马逊云科技拥有的产品尤其是安全化的产品能力也是至关重要的,只有有了这些能力才能让用户放心地去用。

    在阻碍数据共享的很重要的因素还是在技术上的一些能力,可能没有在数据和安全方面能都做得非常好,而Amazon DataZone、Amazon Data Exchange,致力于在安全和功能方面能都做到比较让客户满意,真正实现对生产系统的支撑能力。

    ]]>
    亚马逊云科技宣布推出生成式AI新服务加速创新 //www.otias-ub.com/archives/1652484.html Sat, 07 Oct 2023 03:29:59 +0000 //www.otias-ub.com/?p=1652484 北京——2023年10月7日 亚马逊云科技宣布推出五项生成式AI创新,使各种规模的企业都可以构建新的生成式AI应用程序,提高员工生产力并完成业务转型。这五项创新包括:亚马逊云科技全面托管服务Amazon Bedrock正式可用,通过统一的应用程序编程接口(API)提供来自领先AI公司的基础模型(FM);亚马逊云科技宣布Amazon Titan Embeddings模型正式可用,为客户提供更多基础模型选择;Amazon Bedrock最新引入了Meta Llama 2模型,这是第一个通过API提供完全托管Meta Llama 2模型的服务;AI编程助手Amazon CodeWhisperer的新功能即将提供预览,可以根据企业的内部代码库安全地定制CodeWhisperer的代码建议,助力开发人员从生成式AI中获得更大价值;Amazon QuickSight的生成式BI创作功能现已推出预览版,可以提高业务分析师的工作效率。这一功能是云原生构建的统一BI服务,使客户能够通过自然语言简单地描述他们想要的内容,从而创建可视化内容、格式化图表、执行计算等。从Amazon Bedrock、Amazon Titan Embeddings,再到Amazon CodeWhisperer和Amazon QuickSight,这些创新增强了亚马逊云科技在生成式AI堆栈各个层面的能力,无论任何规模的企业都可在获得企业级安全和隐私保护的同时,选择模型并进行模型定制。开始体验亚马逊云科技生成式AI,请访问aws.amazon.com/generative-ai/。

    “在过去的一年里,海量数据的爆炸、大规模弹性算力的就位,以及机器学习技术的快速进步点燃了人们对生成式AI的热情,深刻改变了各行各业,并重塑了人们的工作方式。”亚马逊云科技数据和机器学习全球副总裁Swami Sivasubramanian表示,“凭借企业级的安全和隐私保护、领先的基础模型选择、数据为先的方法论,以及高性能、具有成本效益的基础架构,亚马逊云科技赢得了企业的信赖,并在技术栈的每一层使用生成式AI解决方案助力企业不断创新。今天的发布是一个重要的里程碑,它将生成式AI提供给每个企业,从初创企业到大型企业的每个员工,从开发工程师到数据分析师。通过强大的创新,亚马逊云科技为企业带来了更强的安全性、多种选择和出色的性能,同时还帮助它们紧密对齐企业的数据战略,进而能够充分释放生成式AI的潜力。”

    各行各业的企业无论规模大小都渴望借助生成式AI来变革运营方式,重新思考解决复杂问题的方法,并创造全新的用户体验。尽管生成式AI的最新进展引起了广泛关注,但许多企业还未能参与到这一转型过程中。它们一边对使用生成式AI充满渴望,一边又对这些工具的安全性和隐私问题忧心忡忡。这些企业希望能够测试多种基础模型,从而找到最适合自己应用场景的模型。它们还希望最大限度地利用已经拥有的数据,通过定制模型来为最终用户提供独特的体验。最后,企业需要工具将创新迅速推向市场,还需要具备在全球范围内部署生成式AI应用程序的基础设施。

    这就是为什么众多企业正在向亚马逊云科技寻求生成式AI服务,比如阿迪达斯、Alida、宝马集团、Genesys、Glide、GoDaddy、Intuit、律商联讯(LexisNexis Legal & Professional)、孤独星球(Lonely Planet)、默克、国民西敏、Perplexity AI、Persistent、Quext、RareJob Technologies、Rocket Mortgage、SnapLogic、株式会社竹中工务店、Traeger Grills、美巡赛、Verint、Verisk和WPS等。

    Amazon Bedrock正式可用,帮助更多客户构建和扩展生成式AI应用程序

    Amazon Bedrock是一项完全托管的服务,提供了来自众多领先AI公司(包括AI21 Labs、Anthropic、Cohere、Meta、Stability AI和亚马逊)面向海外业务的的高性能基础模型,以及企业构建生成式AI应用程序所需的一系列功能,能够在实现简化开发的同时确保隐私性和安全性。基础模型具有良好的适用性,可为信息搜索、内容创建及药物发现等诸多领域提供支持。但是对于许多希望利用生成式AI的企业来说,尚有一些问题需要解决。首先,它们需要简单直观的选取和访问高性能基础模型,满足其场景需求且表现优异;其次,客户希望应用程序实现无缝集成,无需管理庞大的基础设施集群或花费大量成本;最后,客户希望借助基础模型并结合自身数据来轻松构建差异化的应用程序,而这些客户用于定制的数据无疑是非常宝贵的资产,具有知识产权,因此在使用过程中必须做到全面保护,在确保安全和隐私的同时,保证客户对数据共享和使用方式拥有控制权。

    借助Amazon Bedrock的完善功能,企业能够更方便、轻松地尝试多种领先的基础模型,使用自己的专有数据定制模型。此外,Amazon Bedrock还提供差异化能力,例如无需再编写任何代码便可创建的托管代理(AI agent),它可以执行复杂任务,如旅行预订、处理保险索赔、策划广告活动和管理库存等。由于Amazon Bedrock采用无服务器(serverless)技术,客户不必管理任何基础设施,就可以使用已经熟悉的亚马逊云科技服务将生成式AI能力安全地集成和部署到应用程序中。

    Amazon Bedrock在开发之初就考虑到安全性和隐私保护,帮助客户保护敏感数据。客户可以使用Amazon PrivateLink,在Amazon Bedrock与虚拟私有网络(VPC)之间建立专门的安全连接,确保任何数据传输都不会暴露在公共网络。对于存在高度监管需求的客户,Amazon Bedrock符合HIPAA(《健康保险流通与责任法案》)要求,并且可以在GDPR(欧盟《通用数据保护条例》)合规标准下使用,让更多的客户从生成式AI中获益。

    Amazon Bedrock通过Amazon Titan Embeddings和Llama 2进一步扩大可选模型范围,帮助每个客户找到适合应用场景的模型

    事实上,没有任何一个单一模型可以适用于所有的应用场景。因此,为了挖掘生成式AI的价值,企业往往需要访问多个模型,根据自己的要求寻找最适合的那一个。为此,Amazon Bedrock让出海客户只需通过单一API就能找到和测试AI21 Labs、Anthropic、Cohere、Meta、Stability AI和亚马逊提供的领先的基础模型。此外,亚马逊云科技近日还宣布了Anthropic未来的所有基础模型都将在Amazon Bedrock上可用,并为亚马逊云科技出海客户提供模型定制和微调等特殊功能的优先访问。而现在起,Amazon Bedrock再次引入新的基础模型带来更多选择:

    • Amazon Titan Embeddings现正式可用:Amazon Titan基础模型是由亚马逊云科技在大型数据集上创建和预训练的一系列模型,可以支持各种应用场景。作为这些模型中第一个正式可用的模型,Amazon Titan Embeddings是一种大语言模型(LLM),它将文本转换成被称为嵌入向量(embeddings)的数值表示,以支持检索增强生成(RAG)的应用场景。基础模型虽然适用于多种任务,但却只能根据从训练数据和提示词上下文中学到的信息来回答问题。一旦这些回答需要利用高时效性的知识或专有数据时,其有效性就会受限。为了能通过扩展数据来改进基础模型的回答,许多企业将目光转向RAG——这一流行的模型定制技术能将基础模型连接到可被引用的知识库,从而改进响应效果。要开始使用RAG,客户必须先访问一个嵌入模型,将数据转换成嵌入向量,使基础模型更容易理解数据之间的语义和关系。然而,构建嵌入模型需要大量的数据和资源,以及深厚的机器学习专业知识,因此很多客户很难完成自行构建,也就无法实现RAG。Amazon Titan Embeddings使客户能够更简单地启用RAG,以便利用专有数据扩展各种基础模型的能力。Amazon Titan Embeddings支持超过25种语言和多达8192个token的上下文长度,非常适合基于企业的应用场景处理单个单词、短语或整个文档。该模型可返回1536个维度的输出向量,确保高度准确性的同时还专为实现更低延迟和更优性价比进行了优化。
    • Llama 2即将在未来几周推出:Amazon Bedrock是业界首个通过托管API提供Meta下一代大语言模型Llama 2的完全托管的生成式AI服务。Llama 2模型比之前的Llama模型有了显著改进,包括使用了比原始训练多40%的训练数据,并具有更长的上下文长度(4000个token),以处理更大的文档。Amazon Bedrock提供的Llama 2模型已经过优化,可以在亚马逊云科技基础设施上提供快速响应,非常适合对话式应用场景。客户可以构建由130亿和700亿个参数的Llama 2模型驱动的生成式AI应用程序,且无需设置和管理任何基础设施。

    Amazon CodeWhisperer新功能将允许客户使用私有代码库安全地定制CodeWhisperer代码建议,进一步提升开发人员效率

    Amazon CodeWhisperer是一款基于AI的编程助手,它通过对数十亿行来自亚马逊和公开可用的代码进行训练,提高开发人员的生产力。虽然开发人员在日常工作中频繁使用CodeWhisperer,但有时他们需要将其企业内部私有代码库(例如内部API、代码库、软件包和类)整合到应用程序中,而这些代码都不属于CodeWhisperer的训练数据。内部代码的使用也是一个难题,因为说明文档有限,并且没有开发人员可以求助的公共资源或论坛。

    例如,要编写一个用于从购物车中移除商品的函数,开发人员必须首先了解用于与应用程序交互的API、集合和其他内部代码。以前,开发人员可能需要花费数小时来检查以前编写的内部代码,从而找到所需信息并理解其工作原理。即使找到了正确的资源,他们仍需仔细检查代码,以确保其符合公司编码的最佳实践,并且不会重复引用代码中的任何缺陷或漏洞。

    Amazon CodeWhisperer新定制功能将解锁生成式AI编程的全部潜力,通过安全地利用客户的内部代码库和资源提供定制化建议。这使得开发人员在各种任务中能够更准确地获得代码建议,从而节省时间。首先,管理员需要从源(例如GitLab或Amazon S3)连接到他们的私有代码存储库,并调度一个作业来创建自己的定制内容。在创建定制内容时,CodeWhisperer利用各种模型和上下文定制技术,学习客户的代码库并改进实时代码建议,从而使开发人员花更少的时间去寻找无差别的问题的正确答案,同时将更多时间投入到创建新的差异化体验上。管理员可以在亚马逊云科技控制台(Amazon Console)集中管理所有定制功能、查看评估指标、估算每个定制功能的性能,并有选择地将它们部署给公司内特定的开发人员,以限制对敏感代码的访问。

    通过选择高质量的存储库,管理员可以确保CodeWhisperer提供的定制建议不包含已弃用的代码,以满足企业质量与安全标准。考虑到企业级安全和隐私,这项功能可以确保定制内容完全私密,而支持CodeWhisperer的底层基础模型在训练过程中不使用定制内容,能够保护客户宝贵的知识产权。该自定义功能将很快作为CodeWhisperer企业版的一部分在预览中提供给客户使用。此外,CodeWhisperer的自定义设置默认确保了安全性,无论客户使用 Amazon CodeWhisperer专业版还是企业版,在处理来自开发人员IDE的请求时,亚马逊云科技均不会存储或记录任何客户内容。

    Amazon QuickSight的新生成式BI创作功能,可以帮助业务分析师使用自然语言命令轻松创建和定制数据可视化效果

    Amazon QuickSight是一个为云端构建的统一BI服务,能够创建交互式仪表盘、分页报告以及嵌入式分析,同时具备使用QuickSight Q进行自然语言查询的能力,因此企业的每位用户都能以他们偏好的格式获取所需的洞察。

    通常情况下,商业分析师需要花费数小时使用BI工具来探索各种不同的数据源,添加计算、创建和完善可视化效果,然后将它们呈现在仪表盘中提供给业务利益相关者。要创建一个简单的图表,分析师首先必须找到正确的数据源、识别数据字段、设置过滤器,同时进行必要的个性化设置以实现良好的可视化效果。

    如果进行数据可视化需要进行新的计算(例如年度销售额),分析师还必须确定所需的参考数据,然后创建、验证并将视觉效果添加到报告中。如果可以减少商业分析师手动创建和调整图表和计算所花费的时间,让他们将更多时间投入到高价值的任务中,企业也能从中获益。

    新的生成式BI创作功能扩展了QuickSight Q的自然语言查询功能,使其不仅能够回答清晰表述的问题(例如,“加利福尼亚州销售排名前10的产品是什么?”),还能帮助分析师从问题片段(例如,“销售排名前10的产品”)快速创建可定制的视觉效果,通过提出后续问题来澄清查询意图,优化视觉效果,并完成复杂的计算。业务分析师只需描述想获得的结果,QuickSight即可生成具有良好观感的视觉对象。分析师仅需简单操作就能将其轻松添加到仪表盘或报告中。

    例如,分析师可以要求QuickSight Q为“2022年和2023年运动鞋销售额的月度趋势”创建可视化内容,该服务会自动选择合适的数据,并根据请求使用最合理的图表格式(比如线形图或条形图)绘制所需信息。QuickSight Q还将提供预设的提示问题,帮助分析师澄清在多个数据字段与其匹配查询时可能出现的歧义(比如图表应包括运动鞋销售额的美元总额还是销售的单位个数)。

    分析师获得了最初的可视化内容后,还可以使用自然语言添加复杂的计算,改变图表类型,或优化可视化效果。QuickSight Q中新的生成式BI创作功能使业务分析师能够轻松快捷地创建良好的视觉效果,更快速地为大规模数据驱动型决策提供宝贵的信息依据。

    千行百业的客户都在利用亚马逊云科技的生成式AI服务创建新的应用程序,提高开发人员的效率,以及帮助分析师更快速地获取洞察

    阿迪达斯是全球最大的运动品牌之一。 “我们很高兴能参与Amazon Bedrock预览版的试用,亲身体验这项服务。Amazon Bedrock对我们的生成式AI工具构建大有裨益,Amazon Bedrock 承担了构建生成式AI应用的繁重基础设施管理工作,使我们能够专注于大语言模型项目的核心方面。”阿迪达斯企业架构副总裁Daniel Eichten表示,“我们已经使用Amazon Bedrock开发了一款生成式AI解决方案,使阿迪达斯的广大工程师只需通过单个对话界面,就能从知识库中找到所需的各种信息和答案,回答从入门到复杂的多种技术问题。”

    默克是一家研发密集型生物制药公司,130多年来一直致力于发现和研发创新药物和疫苗,以拯救生命和改善健康。“完整的制药价值链上存在很多手动且耗时的流程,这些流程阻碍了更有价值的工作的开展,同时还不能有效利用数据改善员工、客户和患者体验。”默克数据科学执行董事Suman Giri表示,“借助Amazon Bedrock,我们迅速建立了生成式AI功能,使知识挖掘和市场研究等工作更高效。在我们的美国患者分析工作流程中,我们可以利用这些功能提供对患者治疗的见解,提高生活质量,扩大商业影响力,同时填补数据共享方面的空白,为负责任的生成式AI打造数据治理生态系统。”

    宝马集团是全球顶级的汽车和摩托车制造商之一。“宝马的区域专家致力于优化整条供应链的库存。他们经常收到董事会成员或供应链专家等利益相关者的请求,要求创建新的仪表盘视图,以便他们分析最新趋势。”宝马集团数据工程和分析专家Christoph Albrecht表示,“QuickSight Q创作体验能够显著节省时间,可以在无需参考的情况下创建计算、快速构建视觉效果,然后通过自然语言对可视化呈现进行精确调整。区域专家的快速反馈给我们的业务用户留下了深刻印象,从而让他们可以更快地做出重要决策。”

    ]]>
    亚马逊云科技加速分析与安全服务创新 助力企业释放数据要素价值 //www.otias-ub.com/archives/1651056.html Fri, 22 Sep 2023 11:37:31 +0000 //www.otias-ub.com/?p=1651056 北京——2023年9月22日 亚马逊云科技持续加速分析与安全服务创新,守护安全基座,助力企业进一步释放数据要素价值,实现创新增长。在数字经济时代,如何在确保数据安全的前提下有效发挥数据资产的商业价值,成为企业数字化亟需解决的问题。亚马逊云科技不断探索云上数据创新的边界,围绕业务数据的可识别、可见、可协作和安全数据的可操作四大场景提供创新服务和解决方案,如保障数据合规的敏感数据保护解决方案,提升数据可见性的数据治理服务Amazon DataZone,助力多方数据协作的分析服务Amazon Clean RoomsAmazon Data Exchange,以及对安全日志进行统一管理的安全数据湖服务Amazon Security Lake。亚马逊云科技分析与安全服务协同,也助力生成式AI基础模型广泛获取内外部数据并实现安全训练。

    “在数字化、智能化的时代,安全是企业的首要优先级,数据是驱动创新的宝贵资产。”亚马逊云科技大中华区产品部总经理陈晓建表示,“我们致力于通过数据分析与安全服务的融合帮助客户释放数据价值,确保客户在数据安全上无后顾之忧。通过丰富的工具集和创新的解决方案,我们广泛赋能安全合规团队、数据团队、业务团队和运营团队提高效率、加强协作、实现创新。”

    强化业务数据可识别 保护敏感数据

    数据合规要求企业从多个数据源中自动识别敏感数据以进行管理、分级,这项工作耗时费力。为解决这一难题,亚马逊云科技推出了云原生的敏感数据保护解决方案,利用机器学习、模式匹配等方式自动识别敏感数据,允许客户创建数据目录、使用内置或定制数据识别规则定义敏感数据类型。该解决方案还提供中心化的管理平台,客户可通过网页应用程序对敏感数据资产进行可视化管理。通过敏感数据保护解决方案,客户可以加速实现业务数据合规,为下一步释放数据价值铺平道路。

    提高数据可见性 促进安全共享

    数据可见是企业内不同部门、不同角色高效挖掘数据价值的前提,因此企业需要构建连接数据提供者与数据消费者的桥梁,但出于数据安全的考虑又不能无限制地将所有数据共享给所有人。亚马逊云科技推出的数据管理服务Amazon DataZone能够加速企业的数据网格建设以对不同网格来源的数据进行共享和治理。通过数据所有权的去中心化、联邦式数据治理、点对点的数据共享等功能,Amazon DataZone能够让数据生产者轻松管理和控制数据访问,让数据消费者发现和使用数据并开展数据协作,在快速实现协作分析的同时大大简化数据治理难度。

    赋能数据协作 激活第三方数据

    释放数据价值并非只局限在企业自身的业务数据,产业上下游和合作伙伴等第三方数据的加入将为企业创新注入全新活力。Amazon Clean Rooms分析服务能够帮助企业与其合作伙伴在互相不暴露原始数据的情况下进行数据协作,也无需在云上移动数据,从而最大化数据价值。对生成式AI基础模型而言,模型训练需要海量的第三方非结构化数据。Amazon Data Exchange提供来自300多家提供商的3500多种公共数据产品,可以帮助客户轻松查找、订阅和使用所需的各种第三方数据。Amazon Data Exchange与Amazon EMR Serverless等分析服务相结合,可以大大简化企业生成式AI应用开发方面的数据获取难题,加速生成式AI落地。

    实现安全数据可操作 提升安全运营效率

    与业务数据不同,安全数据是指各类安全日志和安全事件的数据。安全数据的统一管理能够帮助企业更高效地实现安全合规,应用多样化分析工具从数据中获取洞察,提升安全性。Amazon Security Lake是一项正式可用的安全数据湖服务,它支持包括亚马逊云科技、安全合作伙伴和第三方分析服务提供商在内的80多个安全数据源。企业可以将这些来源的安全数据传入该数据湖中并转换为符合开放网络安全架构框架(Open Cybersecurity Schema Framework,OCSF)要求的格式,从而自动收集、组合和分析这些安全数据。该服务还与亚马逊云科技成熟的数据分析工具集成,助力企业安全团队在熟悉的分析环境中实现更快的威胁检测、调查和事件响应,有效解决潜在安全隐患。

    ]]>
    亚马逊云科技推出媒体与娱乐媒资变现解决方案,助力企业提高营收能力 //www.otias-ub.com/archives/1650676.html Thu, 21 Sep 2023 04:00:09 +0000 //www.otias-ub.com/?p=1650676 北京——2023年9月21日,近期,亚马逊云科技作为参展商参与了久负盛名的IBC 2023 (欧洲广播电视展)并宣布推出一系列聚焦营收增长的媒体与娱乐(Amazon Web Services for M&E)行业解决方案。这些解决方案通过组合专门构建的亚马逊云科技服务与合作伙伴的产品,让媒体与娱乐行业客户的广告、许可、订阅和营销技术策略更加简化和现代化,在增加各媒体观看平台收入的同时,与用户建立更加深入和个性化的关系。

    “Insider Intelligence“在2023年发布的一份报告显示,2022年美国成年人观看在线数字视频的时长首次超过了线性电视。然而,数字渠道观众人数增长所带来的营收潜力尚未得到充分挖掘,线性广告销售仍然是大多数媒体机构的主要收入来源。为了使收入与观看时长的变化相匹配,媒体公司正在寻求让广告销售系统变得简化和现代化的方式,以便为线性电视和数字渠道提供统一的广告购买、交付和评估。这些公司正在重构商业模式,利用数据最大程度地提高直销和程序化营销的收益,并确保广告投放能在各个平台上获得最佳效果。

    数据已经成为媒体公司及其品牌客户推动广告和营销决策、提高营收能力的关键资产。因此,许多公司正在重新构建客户数据系统,充分利用第一方和第三方数据,以改进他们的身份识别系统和数据净室(clean rooms),创建全方位消费者旅程的洞察。

    亚马逊云科技媒体与娱乐媒资变现解决方案解决了在视频融合时代媒体公司面临的最紧迫的挑战。亚马逊云科技正在通过推动融合线性电视广告工具和解决方案,实现线性广告和数字广告的统一,并促进包括广告购买、交付和评估在内的简化和跨平台操作。这些解决方案包括多平台广告规划及销售自动化、数据驱动的优化、系统互操作性、购买内容、数字植入广告以及新的营收产品的敏捷集成。为了满足在各种孤立的数据源中将用户测量数据整合到一起的需求,亚马逊云科技正在帮助内容发布者调整这些数据集,并将它们集成到自己的广告生态系统中。

    亚马逊云科技媒体与娱乐媒资变现解决方案提供了全方位的用户洞察和数据互操作性等工具,帮助媒体公司实现符合隐私法规的第一方数据协作,提升客户全生命周期的价值,并提供预测分析技术最大限度减少用户流失。此外,亚马逊云科技客户还可以在超个性化、受众细分和广告创意生成等使用场景中采用最新的生成式AI工具。通过一系列解决方案,媒体公司可以在适当的时间、利用正确的信息触达最佳受众。无论是地方广播公司、国家电视网络、区域及全国体育网络、流媒体平台,还是测量公司和数据提供商,都可从这些工具和解决方案中获益。例如:

    Amazon Clean Rooms可以帮助客户及合作伙伴以轻松、安全的方式对数据集进行分析和协作处理,而无需共享或复制原始的底层数据。

    Amazon Elemental MediaTailor是一种可以快速提供线性频道与个性化的广告插入的服务,用于使用现有视频内容创建线性播出的互联网媒体频道,并通过个性化广告从这些频道或者其他直播流内容中获得更好的营收能力。

    Amazon Entity Resolution可以帮助客户匹配和关联相关记录,无需构建自定义解决方案。该服务利用灵活、可配置的机器学习和基于规则的技术,根据客户业务需求优化记录的匹配。

    “媒体与娱乐公司正面临着高度复杂和竞争激烈的市场环境,而数据管理和营收工具的碎片化让竞争局面变得更加复杂。”亚马逊云科技媒体与娱乐行业总经理Marc Aldrich表示,“亚马逊云科技媒体与娱乐解决方案专注提升营收能力,将为客户全面优化数据、广告和订阅收入策略,以创造全新机遇。”

    亚马逊云科技媒体与娱乐媒资变现解决方案拥有众多卓越的合作伙伴,可提供获得行业广泛认可的技术解决方案,帮助客户推动创新和转型。这些合作伙伴包括ActioniQ、Castlabs、Comscore、Databricks、Datazoom、HighTouch、Innovid、iSpot、SpringServe、ThinkAnalytics、Triplelift和Veritone。

    亚马逊云科技媒体与娱乐媒资变现解决方案现已上市。即刻尝试,请访问:https://aws.amazon.com/media/monetization

     

     

    ]]>