亚马逊AI赛道上奋起直追,更新自研芯片,推出AI助手
原标题:亚马逊(AMZN.US)AI赛道上奋起直追!更新自研芯片,推出AI助手
作者:智通财经庄礼佳

题图来源 | Unsplash
智通财经 APP 获悉,亚马逊正在竞争激烈的生成式人工智能市场上奋起直追。该公司的云计算部门(AWS)本周在 re:Invent 全球大会上推出了芯片、AI 工具等一系列产品。
AWS 在此次大会上推出了更新后的自研通用服务器芯片 Amazon Graviton 4 和用于机器学习的训练、推理的芯片 Amazon Trainium 2。据悉,Graviton 3 处理器相比,Graviton 4 与性能提升高达 30%、独立核心增加 50% 以上、内存带宽提升 75% 以上,为在 Amazon EC2 上运行的工作负载提供更优的性能和能效。
另外,与第一代 Trainium 芯片相比,Trainium 2 训练速度提升多达 4 倍,并能在 EC2 UltraClusters 中部署多达 100000 个芯片,可以在极短的时间训练基础模型(FMs)和大语言模型(LLMs),同时能效提升多达 2 倍。
除了芯片之外,AWS 也在大模型相关产品上迭代。亚马逊的 AI 大模型服务 Bedrock 能够让用户使用大语言模型和其他基础模型构建生成式 AI 的应用。Bedrock 提供了对大量模型的访问支持,包括Anthropic 的 Claude 模型。值得一提的是,今年获得亚马逊 40 亿美元投资的 Anthropic 被认为是 OpenAI 的劲敌,Anthropic 的模型也成为了 AWS 服务中的一部分。
目前,亚马逊已经推出自研的 Amazon Titan AI 大模型,据悉还将推出更多模型。与此同时,Bedrock 也推出新功能,包括新的 fine tuning(微调)工具、新的检索增强生成(RAG)技术、新的 Agents 使模型能够针对特定用例进行更加定制和优化。
AWS 还推出了生成式 AI 驱动的助手 Amazon Q。该 AI 助手主要用于工作场景中,比如辅助员工完成日常工作、总结文件、回答公司政策等。亚马逊希望借此与 OpenAI 的 ChatGPT 和谷歌的智能聊天机器人 Bard 展开竞争。AWS 首席执行官 Adam Selipsky 表示,很多公司出于安全和隐私的担忧已经禁止了企业使用这些人工智能助手,对此,亚马逊设计 Amazon Q 时更注重安全性和隐私性。
目前,Amazon Q 的预览版本已上线,部分功能可免费使用,正式版本中企业用户的费用为每人每月 20 美元,具备额外功能的版本费用为每人每月 25 美元。相比之下,Microsoft 365 的 Copilot 和 Google Workspace 的 Duet AI 均需支付每人每月 30 美元。
此外,亚马逊和加强了与英伟达的合作。英伟达首席执行官黄仁勋到大会现场共同讨论围绕生成式 AI 的开发。黄仁勋宣布部署全新的 GPU 系列,包括最新的 GH200,而 AWS 将是第一家在云端配备具有多节点 NVLink 技术的 NVIDIA GH200 Grace Hopper Superchips 的云厂商。
另一方面,NVIDIA DGX Cloud 也将登陆 AWS。黄仁勋表示,DGX Cloud 是英伟达的人工智能工厂,可让企业和软件开发人员通过浏览器登入,即可获得英伟达的超级计算机 DGX 的 AI 算力。英伟达还与 AWS 合作推动 Ceiba 项目,该超级计算机将配置 16384 颗 NVIDIA GH200 超级芯片,能处理高达 65 exaflops 速度等级的 AI 运算,从而推动生成式 AI 的创新。
文章信息来自于智通财经App,不代表白鲸出海官方立场,内容仅供网友参考学习。对于因本网站内容所引起的纠纷、损失等,白鲸出海均不承担侵权行为的连带责任。如若转载请联系原出处。
友情提醒:白鲸出海目前仅有微信群与QQ群,并无在Telegram等其他社交软件创建群,请白鲸的广大用户、合作伙伴警惕他人冒充我们,向您索要费用、骗取钱财!
本文相关公司
亚马逊认证


闽公网安备35010402350923号