对话上海网杉Hitpoint Cloud创始人Peter Deng|云ERP何以成为企业数字化转型的驱动力与效能提升的关键策略?
2024-10-21 22:27
EqualOcean获悉,亚马逊(Amazon)于4月13日推出了AIGC全家桶——生成式人工智能服务Bedrock以及自有的大语言模型Titan。与Open AI、Google、微软等公司推出的消费级AI服务不同,亚马逊AIGC全家桶旨在提供一站式的解决方案,即AI“底座”服务,为上层应用公司提供AI基础设施,以帮助开发人员和企业快速构建、部署和管理各种人工智能应用程序。
black tech
AIGC(生成式人工智能)依赖于机器学习模型的支持,这些模型是基于大量数据进行预训练的超大型模型,通常被称为基础大模型 (FM)。因为在大量的数据上进行了预训练,基础模型已具有了高度适应性,能够完成一系列下游任务。
AWS(亚马逊公司的云计算IaaS和PaaS平台服务)推出的Bedrock服务,无疑是AIGC全家桶中最值得关注的模块。Bedrock最重要的特色,就是让开发者能够轻松定制模型,并构建属于自己的生成式AI应用程序,用户可以通过API访问亚马逊自己的Titan大模型,包括两个全新大语言模型,同时也支持调用来自AI21 Labs、Anthropic、Stability AI等第三方的多样化模型。
Bedrock还支持企业自定义基础模型,只需少量数据就完成模型定制化和微调。国内的百度文心一言、阿里云通义千问也推出了类似的企业级服务。Bedrock也是亚马逊云科技在生成式AI市场上最大的一次尝试。根据Grand View Research的估计,到2030年,该市场的价值可能接近1100亿美元。
此外,AWS还推出了两款针对生成式AI优化的计算实例:EC2 Trn1n实例和EC2 Inf2。训练实例EC2 Trn1由其自研芯片Trainium支持,可节省高达50%的训练成本,EC2 Trn1n更进一步性能再提高20%。推理实例Inf2基于其自研芯片Inferentia2,吞吐量提高了4倍,延迟降低了10倍。AWS是云巨头中首个推出专门面向生成式AI实例的玩家。
名为CodeWhisperer的AI编程伴侣,则是辅助程序员编程的工具,提高用户执行任务的速度,据称速度可以提升57%。CodeWhisperer预览版将面向所有用户免费开放。这一产品类似于微软旗下GitHub上线的基于GPT-4的CopilotX平台,但AWS称其首创了内置安全扫描,能够查找难以检测的漏洞并提出补救建议。
亚马逊云科技数据库、数据分析和机器学习全球副总裁Swami透露,亚马逊自主研发的基础模型“泰坦”(Titan)将成为Bedrock基础模型之一,并将随之开放。该模型目前针对两种不同的场景进行了优化:第一种场景类似于ChatGPT,能够提供文本总结、聊天和信息提取等功能;第二种场景被称为文本嵌入(embeddings)大语言模型,即可将文字转换为代码,可用于个性化推荐和搜索等多种用途。
随着相关技术的演进,各行各业对于AIGC内容的需求也在不断增加,从营销到客服,再到新闻和娱乐等等。 这对于那些提供基础设施服务的供应商来说,是一个非常好的机会。亚马逊AIGC全家桶能够解决的一大业界痛点是:降低企业训练AI的成本。目前AI界翘楚OpenAI在训练ChatGPT的过程中斥资数十亿美元,用了3万多个英伟达A100打造超算。此外,数据可用性也成为了训练过程中的一大难题,根据纽约时报报道,网络论坛巨头Reddit便开始计划向使用平台数据训练模型的公司收费,其中就包括微软、谷歌、OpenAI等公司。Bedrock作为基础大模型云服务,能够解决以上痛点,帮助更多企业以更低的成本定制符合自身业务需求的AI模型。
亚马逊AWS曾经在AIGC领域拥有先发优势,但随着微软和谷歌的发展,这一优势逐渐被追平。尤其是微软推动了AIGC竞赛之后,亚马逊并非无动于衷。目前,微软和谷歌都通过开放API接口来让开发者或用户使用其语言模型。而亚马逊则通过Bedrock平台推出了两种新的AI语言模型,分别由人工智能研究初创公司Anthropic和AI21实验室开发。这些AI模型的开发和训练与OpenAI和谷歌的语言模型直接竞争。
受此消息影响,亚马逊(AMZN)当日收盘股价涨幅达4.67%,报102.4美元/股,最新市值为1.05万亿美元。
对话上海网杉Hitpoint Cloud创始人Peter Deng|云ERP何以成为企业数字化转型的驱动力与效能提升的关键策略?
2024-10-21 22:27