ChatGPT运行每天或花费70万美元 微软开发自主芯片尝试降低成本

【摘要】由于ChatGPT运行在价格昂贵的计算基础设施之上,OpenAI每天为运行ChatGPT投入的成本可能高达70万美元。为了降低生成式人工智能模型的运行成本,微软正在开发一款代号为“雅典娜”的人工智能芯片

ChatGPT运行每天或花费70万美元 微软开发自主芯片尝试降低成本

建筑外的招牌  描述已自动生成

  帕特尔指出,ChatGPT需要庞大的算力,才能基于用户的输入信息做出反馈,包括撰写求职信、生成教学计划,以及帮助用户优化个人资料等。他表示:“大部分成本都来自于昂贵的服务器。”

  此外,帕特尔最初的估计基于OpenAI的GPT-3模型,而在采用最新的GPT-4模型之后,ChatGPT现在的运行成本可能更高。

  对此,OpenAI尚未对此做出回应。

  帕特尔和SemiAnalysis的另一位分析师阿夫扎尔·艾哈迈德(Afzal Ahmad)表示,此前外界已经注意到,训练ChatGPT背后的大语言模型可能要花费上亿美元,但运营费用,或者说人工智能推理的成本,以任何合理的部署规模来看都远远超过了训练成本。他们指出:“事实上,按周来看,ChatGPT的推理成本超过了训练成本。”

  过去几年,使用OpenAI语言模型的公司也一直在承担高昂的价格。创业公司Latitude开发了一款基于用户输入信息生成故事情节的人工智能地下城游戏。该公司首席执行官尼克·沃尔顿(Nick Walton)表示,运行该模型,以及相应的购买亚马逊AWS云服务器的费用2021年达到每月20万美元。因此,沃尔顿最终决定改用AI21 Labs支持的语言软件提供商。这帮助他将公司的人工智能成本降低了一半,至每月10万美元。

  沃尔顿在接受采访时表示:“我们会开玩笑说,我们有人类员工和人工智能员工,在这两类员工身上花费的成本大致相同。我们每个月在人工智能上花掉数十万美元,而且我们也不是一家大型初创公司,所以这是一笔巨大的开支。”

  近期有报道称,为了降低生成式人工智能模型的运行成本,微软正在开发一款代号为“雅典娜”的人工智能芯片。该项目于2019年启动。在此几年前,微软与OpenAI达成了10亿美元的投资协议,要求OpenAI仅在微软的Azure云服务器上运行其模型。

  微软启动这一芯片项目的背后有两方面思考。知情人士透露,微软高管意识到,他们在自主芯片开发方面落后于谷歌和亚马逊。与此同时,微软正在寻找更便宜的方案去替代英伟达的GPU芯片。

  目前,微软大约有300多名员工正在开发这款芯片。消息人士称,该芯片最早可能在明年发布,供微软和OpenAI内部使用。微软拒绝对此消息置评。

原文转载: https://finance.sina.com.cn/tech/internet/2023-04-21/doc-imyrawer9252203.shtml

企业级 Azure OpenAI GPT-4 (国际预览版)服务发布

【摘要】3月23日,微软宣布企业级 Azure OpenAI GPT-4(国际预览版)服务发布,已经使用企业级国际版 Azure OpenAI 服务的客户和合作伙伴可以申请访问 GPT-4,并开始使用 OpenAI 目前最先进的模型构建应用。

翻译自微软全球博客

作者:Eric Boyd,微软全球副总裁,人工智能平台

在微软,我们不断发现释放创造力、解放生产力和提高技能的新方法,以便更多人从使用人工智能中受益。这使我们的客户能够使用大规模的人工智能模型来推动他们的应用程序的创新,更快、更负责任地构建未来。我们与 OpenAI 的合作以及 Azure 的强大功能,一直是我们AI发展的核心。

今天,我们很高兴地宣布, 企业级 Azure OpenAI GPT-4(国际预览版)服务发布。已经使用企业级国际版 Azure OpenAI 服务的客户和合作伙伴可以申请访问 GPT-4,并开始使用 OpenAI 目前最先进的模型构建应用。通过这个里程碑,基于 Azure AI 优化的基础设施、企业级可用性、合规性、数据安全和隐私控制提供的支持,以及与其它 Azure 服务的多种集成,我们很自豪地为 Azure 客户带来了世界上领先的 AI 模型,包括 GPT-3.5、ChatGPT 和 DALL•E 2。

客户今天可以开始申请访问 GPT-4 服务。所有 GPT-4 服务的计费将于 2023年4月1日开始,价格如下:

图形用户界面, 应用程序  描述已自动生成

企业级可用的GPT-4

今天的发布允许企业利用先进模型通过企业级国际版 Azure OpenAI 服务来构建自己的应用程序。

借助生成式AI技术,我们正在为各行业的企业开创新效率。例如,Azure OpenAI 服务能够使机器人开发人员使用 Power Virtual Agents 中的 Copilot,以自然语言创建虚拟助手,仅需几分钟即可完成。

GPT-4 具有利用其广泛的知识、问题解决能力和领域专业知识,将此体验提升到全新水平的潜力。借助企业级国际版 Azure OpenAI GPT-4 服务,企业可以使用一个具有额外安全性投资的模型,简化内部以及与客户之间的通信,减少有害输出。

各种规模的公司都在利用 Azure AI。许多公司正在使用企业级国际版 Azure OpenAI 服务部署语言模型到生产环境中,该服务是由 Azure 独特的超级计算和企业能力支持的。解决方案包括从端到端改善客户体验、总结长篇内容、帮助编写软件,甚至通过预测正确的税务数据来降低风险。

客户正在加速采用语言模型

我们只是在探索生成式人工智能技术的表层,并正在努力帮助我们的客户负责任地采用 Azure OpenAI 服务,以带来真正的影响。随着 GPT-4 的问世,Epic Healthcare、Coursera 和 Coca-Cola 计划以独特的方式利用AI创新:

文本  低可信度描述已自动生成

Epic公司研发高级副总裁,Seth Hain表示:“我们对 GPT-4 的研究显示了它在医疗保健领域的巨大潜力。我们将利用它帮助医生和护士减少花费在键盘上的时间,而以更具对话性和易于使用的方式帮助他们研究数据。”

Coursera工程高级副总裁,Mustafa Furniturewala 表示: “Coursera 正在使用 Azure OpenAI 服务在其平台上创建一个新的AI驱动的学习体验,使学习者能够在整个学习过程中获得高质量和个性化的支持。Azure OpenAI 服务和新的 GPT-4 模型将共同帮助全球数百万人更有效地在 Coursera 上学习。”

可口可乐公司数据和人工智能高级总监,Lokesh Reddy Vangala表示:“作为一家消费品公司,我们无法用言语表达我们对 Azure OpenAI 带给我们无限机遇的兴奋和感激之情。有了 Azure 认知服务作为我们数字服务框架的核心,我们利用 OpenAI 的文本和图像生成模型的变革性力量来解决业务问题和构建知识中心。

但正是 OpenAI 即将推出的 GPT-4 多模态能力的巨大潜力真正让我们感到惊叹和惊奇。在营销、广告、公共关系和客户关系方面的可能性是无限的,我们迫不及待地想成为这项革命性技术的领先者。我们知道我们的成功不仅仅取决于技术,还需要有正确的企业功能。这就是为什么我们自豪地与 Microsoft Azure 建立了长期合作伙伴关系,确保我们拥有所有必要的工具,为我们的客户提供卓越的体验。

Azure OpenAI 不仅是尖端技术,更真正地改变游戏规则,我们很荣幸能成为这段不可思议旅程的一部分。”

微软对负责任的AI的承诺

正如我们在之前的博客中所描述的那样,微软采用了分层方法来管理生成模型,遵循微软的负责任AI原则。在 Azure OpenAI 中,一个集成的安全系统提供了保护,防止不良输入和输出,并监测滥用行为。除此之外,我们还为客户提供指导和最佳实践,以负责任的方式构建使用这些模型的应用程序,并期望客户遵守 Azure OpenAI 行为准则

随着 GPT-4 的推出,OpenAI 的新研究进展使得额外的保护层成为可能。在人类反馈的指导下,安全性直接内置于 GPT-4 模型中,这使得模型更有效地处理有害输入,从而降低了模型生成有害响应的可能性。

开始在Azure OpenAI服务中使用GPT-4

填写表单,申请 GPT-4 访问权限

在Microsoft Learn中开始学习 Azure OpenAI Service 的 GPT-4

阅读合作伙伴公告博客,授权使用 Azure OpenAI Service 中的 ChatGPT 开发AI应用和体验

学习如何在 Azure OpenAI Service 中使用 Chat Completions API(国际预览版)和 ChatGPT、 GPT-4 模型版本

—结束—

关于微软公司

微软(纳斯达克上市代码“MSFT”)致力于成就“智能云与智能边缘计算”时代的数字化转型,予力全球每一人、每一组织,成就不凡。

原文转载:

企业级 Azure OpenAI GPT-4 (国际预览版)服务发布

微软发布 Windows 365 Frontline 服务:针对轮值 / 兼职员工提供灵活 Cloud PC 许可

【摘要】微软宣布推出 Windows 365 Frontline 服务,针对轮班和兼职员工,帮助企业更灵活地在多人之间分配 Cloud PC 许可证。

电脑前的人  描述已自动生成

Windows 365 Frontline 服务官方介绍如下:

Windows 365 Frontline 是最新的 Windows 解决方案,可帮助您的一线员工提高工作效率。该服务主要有以下优势:

  • 可在云端获得完成、个性化的 Windows 体验
  • 去除共享物理设备的束缚
  • 轮值人员可无缝切换使用 Cloud PC

图形用户界面, 应用程序  描述已自动生成

IT之家从报道中获悉,微软还宣布 LG 的 2023 年款智能电视也可以访问 Windows 365 Cloud PC,并推出了适用于安卓设备的诸多新功能 / 新特性。用户可以通过 Microsoft Store 访问 Windows 365 应用程序。

房间的摆设布局  低可信度描述已自动生成

原文转载: https://www.ithome.com/0/684/872.htm

AMD ROCm 开放式软件平台新进展:即将登陆 Windows 系统,支持消费级显卡

【摘要】据 TechPowerUp 消息,AMD 为其开放式软件平台 ROCm 发布新进展,ROCm 即将登陆 Windows 操作系统,而且 AMD 已将 ROCm 支持扩展到消费类显卡,而不仅仅是支持专业级 GPU。

图片包含 电路, 电子, 桌子, 电脑  描述已自动生成

据报道,AMD 已经为 Radeon RX 6900 XT、Radeon RX 6600 和 R9 Fury GPU 带来了对 ROCm 的支持。有趣的是,在这三款 GPU 中,只有 R9 Fury 具有完整的 ROCm 支持,RX 6900 XT 具有 HIP SDK 支持,而 RX 6600 仅具有 HIP runtime 支持。而且 R9 Fury GPU 仅在 Linux 而不是 Windows 上具有完整的 ROCm 支持。这种奇怪的支持的原因还有待发现。

IT之家在 AMD 官网了解到,AMD ROCm 开放式软件平台专为提供出色灵活性和卓越性能而构建,让高性能计算和人工智能社区能够借助各种开源计算语言、编译器、库和工具来加快代码开发,从而解决当今世界所面临的艰巨挑战。

ROCm 开放式软件平台使研究人员能够充分利用 AMD Instinct 加速器来推动科学发现。ROCm 平台建立在开放可移植性的基础上,支持跨多个加速器供应商和架构的环境。AMD ROCm 5.0 平台在 AMD Instinct MI200 加速器的助力下,支持更广泛的高性能计算和人工智能应用,面向开发人员提供更多 ROCm 支持和访问机会,并针对关键工作负载打造卓越性能。

原文转载: https://www.ithome.com/0/686/513.htm

谷歌紧急发布安全补丁,建议 30 亿 Chrome 用户尽快安装

【摘要】近日,谷歌发现 Chrome 浏览器存在一个严重的安全漏洞,该漏洞已经被黑客利用,可能导致用户的数据和电脑受到损害。为了解决这个问题,谷歌紧急推出了一个安全更新,并建议所有的 Chrome 用户尽快安装。

这个漏洞被命名为 CVE-2023-2033,是一个类型混淆漏洞,出现在 Chrome 浏览器使用的 V8 JavaScript 引擎中。简单来说,类型混淆漏洞是一种允许使用错误的类型访问内存的 Bug,从而导致越界读写内存。这个漏洞的危险之处在于,黑客可以制作一个恶意的 HTML 页面,利用堆内存的损坏来执行任意代码。

根据谷歌的威胁分析组(TAG)的报告,这个漏洞已经被黑客利用。虽然目前还没有公布这个漏洞的具体影响范围和危害程度,但谷歌将其定为“高”级别的问题,并在周五发布了一个公告,提醒用户注意。

图形用户界面, 应用程序, Teams  描述已自动生成

为了保护用户的安全,谷歌已经发布了一个版本为 112.0.5615.121 的安全更新,修复了这个漏洞以及其他一些未公开的问题。一般来说,Chrome 浏览器会自动更新,但用户也可以手动检查是否已经安装了最新版本。用户可以点击 Chrome 浏览器右上角的三个点菜单,选择“帮助”,然后选择“关于 Chrome”来查看自己的版本号。

作为世界上最流行的浏览器之一,Chrome 拥有超过 30 亿的用户。因此,这个漏洞对于网络安全来说是一个巨大的威胁。IT之家建议所有的 Chrome 用户尽快更新自己的浏览器,以免遭受不必要的损失。

原文转载: https://baijiahao.baidu.com/s?id=1763377488990177272&wfr=spider&for=pc

微软 Windows 365 App 发布:支持 Win11/10 平台,可访问云 PC 电脑

【摘要】作为 Windows 11 系统 2023 年 2 月重大更新的一部分,微软推出了适用于 Windows 11 和 Windows 10 的 Windows 365 App 官方通用版本。该应用程序允许用户访问微软的云 PC 服务器,适用于小型和大型企业。

图形用户界面, 应用程序  描述已自动生成

用户需要订阅 Windows 365 才能使用该新应用程序。微软声明:

“借助 Windows 365 应用程序,您可以从桌面直接转到云 PC,这将为您提供根据用户设置、配置文件和工作方式量身定制的个性化体验。它还减少了 IT 管理员的分歧,他们可以为员工提供单点登录体验。”

该 Windows 365 应用程序中包含的一些功能如下:

  • 使用云电脑的窗口或全屏模式
  • 为 Microsoft Teams、多媒体重定向和其他 Microsoft 365 应用提供高性能、可靠的体验
  • 用户可直接从 Windows 执行重新启动、重置、还原、重命名和故障排除云 PC 的操作
  • 直接的单点登录体验
  • 支持 Azure Active Directory (Azure AD) 多重身份验证 (MFA) 和 Microsoft Authenticator 验证器,以安全访问云 PC
  • 使用屏幕阅读器和键盘快捷键的辅助功能
  • 定期自动更新应用程序以确保员工使用最新版本的 Windows 365

图形用户界面, 应用程序  描述已自动生成

微软将在所有新安装的 Windows 11 中包含该应用程序。对于所有其他用户,可以从商店下载适用于 Windows 10 和 11 的 Windows 365 应用程序(IT之家附上下载链接)。微软计划在未来几周和几个月内为该应用程序添加更多功能。

原文转载: https://www.ithome.com/0/676/557.htm

AMD 承认罕见的 Radeon 显卡驱动错误,或造成 Windows 无限蓝屏

【摘要】外媒 PCWorld 近日称 AMD Radeon 驱动有一项错误,该错误可能破坏 Windows 操作系统的安装。目前该错误得到 AMD 官方的承认。

报道称,用户已经报告这个问题一个多月了,但 AMD 此前从未承认。用户在安装 AMD Radeon 驱动时,如果选择“恢复出厂设置”进行全新安装,且恰好 Windows 正在更新系统,那么就会造成蓝屏重启循环的情况,只能通过重装系统或还原系统解决。 电视游戏的萤幕截图  描述已自动生成

▲ IT之家小伙伴千万不要选这个选项

电脑萤幕的截图  描述已自动生成

AMD 对此回应称:

如果在安装 AMD 肾上腺素软件的过程中进行 Windows 系统更新,则在极少数情况下可能会发生问题,我们正在积极调查。建议用户确保在安装驱动之前应用或暂停所有系统更新,并且在 AMD 驱动安装过程中取消选中“恢复出厂设置”选项。我们致力于尽快解决问题,并强烈鼓励用户通过错误报告工具提交 AMD 肾上腺素软件的问题。

原文转载: https://www.ithome.com/0/677/388.htm

微软取消版本和方式限制,让企业在 Windows 10 / Windows 11 上更快部署 AppLocker

【摘要】微软今天宣布取消了 AppLocker 的相关限制,方便企业更快地部署。本次调整取消了 ​​Windows 10​​​ 2004、20H2 和 21H2 版本和所有 ​​​Windows 11​​ 系统的版本验证检查。

图形用户界面, 应用程序  描述已自动生成

AppLocker 可帮助企业控制用户可以运行的应用和文件。它们包括可执行文件、脚本、Windows 安装程序文件、动态链接库 (DLL)、应用包和应用包安装程序。

IT之家附 AppLocker 的主要功能和特性如下:

  • 根据应用更新期间永久使用的文件属性来定义规则,例如:发布者名称(从数字签名派生)、产品名称、文件名和文件版本。你还可以基于文件路径和哈希创建规则。
  • 向安全组或单个用户分配规则。
  • 创建规则异常。例如,可以创建规则以允许所有用户运行除注册表编辑器 (regedit.exe) 之外的所有 Windows 二进制文件。
  • 使用仅审核模式部署策略,并在强制执行它之前了解其影响。
  • 在暂存服务器上创建规则并测试它们,然后将它们导出到生产环境,之后将其导入到组策略对象。
  • AppLocker 规则的创建和管理可通过使用 Windows PowerShell 来简化。

微软此前需要根据 Windows 版本和管理终端方式来强制性区分 AppLocker 策略,例如企业如果使用 MDM 方式进行管理,可以在所有 Win10 和 Win11 版本中部署 AppLocker 策略;而如果使用组策略方式,仅能在 Win10 和 Win11 的企业版或者交班本中部署 AppLocker。

微软现在取消了这些版本检查,企业管理员可以不用区分系统版本和管理方法,在以下 Windows 及更高版本中可以更加轻松地部署 AppLocker:

  • ​Windows 11​​, version 22H2 (KB5017389, 于 2022 年 9 月 30 日发布)
  • Windows 11, version 21H2 (KB5018483, 于 2022 年 10 月 25 日发布)
  • ​Windows 10​​, version 2004 (KB5018482, 于 2022 年 10 月 25 日发布)
  • Windows 10, version 20H2
  • Windows 10, version 21H1

本次更新还允许 IT 管理员不需要区分不同的 Windows 版本,使用 Windows Defender 应用程序控制 (WDAC) 来部署系统的 Managed Installer 策略。

责任编辑:庞桂玉来源: IT之家

微软​​Windows

原文转载: https://www.51cto.com/article/749159.html

IDC:预计 2023 年全球个人电脑和平板电脑出货量同比下降 11.2%

【摘要】根据 IDC 的最新预测,2023 年全球个人电脑和平板电脑的出货量将降至 4.031 亿台,同比下降 11.2%,也低于 IDC 全球季度个人计算设备跟踪报告 (IDC Worldwide Quarterly Personal Computing Device Tracker) 在 2022 年 12 月预测的 4.295 亿台。

手在键盘上  描述已自动生成

图源 Pixabay

表格  描述已自动生成

不过 IDC 预计 2024 年将是一个恢复增长的年份,个人电脑和平板电脑的出货量将比 2023 年增加 3.6%,达到 4.177 亿台,超过疫情前的水平。

IDC 认为,由于消费者不再受到疫情的限制,个人电脑的商业订单基本完成,个人电脑市场在 2022 年下半年已经发出了一个明确的信号:端点设备不再是重点,2023 年将是清理库存和调整优先级的时候。

IDC 分析师指出,商业需求是预测中的一个亮点,因为混合办公模式和学校 1:1 配备方案扩大了整个潜在市场。Windows 10 即将结束支持预计将在 2024 年和 2025 年促进 PC 更新,而 Chromebook 和 Android 平板电脑将从教育部署和更新中受益。尽管苹果产品在最近几个季度保持了稳定而缓慢的商业增长,但该公司在商业客户中缺乏广泛采用率,这可能导致其未来两年内落后于其他平台。

原文转载: https://www.ithome.com/0/677/996.htm

上万颗英伟达芯片 + 微软数亿美元投资,带你揭秘 ChatGPT 背后的超级计算机

【摘要】ChatGPT之所以能够如此智能,背后依托的是微软公司为它打造的一台昂贵的超级计算机。

微软超级计算机使用了上万颗英伟达GPU

微软超级计算机使用了上万颗英伟达GPU

凤凰网科技讯 北京时间3月14日消息,人工智能聊天机器人ChatGPT一经推出便火爆全球,但外界可能不知道,ChatGPT之所以能够如此智能,背后依托的是微软公司为它打造的一台昂贵的超级计算机。

2019年,当微软向ChatGPT开发商OpenAI投资10亿美元时,它同意为这家人工智能研究创业公司打造一台庞大的尖端超级计算机。唯一的问题是:微软没有OpenAI需要的那样的东西,也无法完全确定它能在Azure云服务中构建这么大的东西而不会破坏它。

当时,OpenAI正试图训练一套规模越来越大的人工智能程序,也就是“模型”,后者正在吸收越来越大的数据量,学习越来越多的参数。这些参数是人工智能系统通过训练和再训练得出的变量。这意味着,OpenAI需要在很长一段时间内使用强大的云计算服务。

上万颗芯片、数亿投资

为了克服这一挑战,微软不得不想办法将数万颗英伟达A100图形芯片(训练人工智能模型的主力)组合在一起,并改变服务器在机架上的位置以防止断电。微软负责云计算和人工智能的执行副总裁斯科特·格思里(Scott Guthrie)不愿透露该项目的具体成本,但表示“可能不止”几亿美元。

“我们构建了一个可以在超大规模范围内运行并且可靠的系统架构。 这就是ChatGPT成为可能的原因,”微软Azure人工智能基础设施总经理尼迪·查普尔(Nidhi Chappell)表示,“它是从中得出的一个模型,未来还会有很多很多其他的模型。”

英伟达A100造价1万美元

英伟达A100造价1万美元

这项技术帮助OpenAI发布了ChatGPT,后者在去年11月发布几天后就吸引了100多万用户,现在正被纳入其他公司的商业模式,从亿万富翁对冲基金创始人肯·格里芬(Ken Griffin)运营的公司,到外卖公司Instacart。随着ChatGPT等生成式人工智能工具越来越受到企业和消费者的兴趣,微软、亚马逊公司和谷歌等云服务提供商将面临更大的压力,需要确保他们的数据中心能够提供所需的巨大计算能力。

现在,微软使用它为OpenAI构建的同一套资源来训练和运行自己的大型人工智能模型,包括上个月推出的新必应搜索机器人。微软还向其他客户销售该系统。作为微软与OpenAI扩大合作协议,追加100亿美元投资的一部分,该软件巨头已经在研究下一代人工智能超级计算机。

“我们不想把它打造成定制产品,它一开始是一个定制产品,但我们总是想办法把它打造成通用型产品,这样任何想训练大型语言模型的人都可以利用同样的改进,”格思里在一次采访中表示,“这真的能够帮助我们成为使用更广泛的人工智能云。”

训练一个庞大的人工智能模型需要在一个地方拥有大量相互连接的图形处理单元,就像微软组装的人工智能超级计算机一样。一旦模型投入使用,回答用户提出的所有查询——称之为推理——需要稍微不同的设置。微软还部署了用于推理的图形芯片,但这些成千上万个处理器在地理上分散在公司的60多个数据中心区域。微软周一在一篇博客文章中表示,现在该公司正在为人工智能工作负载添加最新的英伟达图形芯片H100,以及最新版本的英伟达Infiniband网络技术,以更快地共享数据。

微软Azure云服务

微软Azure云服务

目前,新必应搜索仍处于预览阶段。微软正在从等待名单中逐渐增加更多用户。格思里的团队每天与大约24员工举行会议,后者被称之为“后勤维修人员”,这一称呼原指一群在比赛中调整赛车的机械师。该小组的工作是弄明白如何让更强的计算能力快速上线,以及解决突然出现的问题。

“这很像是一种碰头会,就像是,‘嘿,任何人都有好主意,让我们今天把它放在桌面上讨论它,弄清楚好吧,我们可以在这里节省几分钟吗? 我们可以节省几个小时吗? 几天?’”格思里表示。

小错会酿成大祸

云服务依赖的是成千上万个不同的部件和物品,包括服务器的各个部件、管道、建筑物的混凝土、不同的金属和矿物,任何一个部件的推迟或供应不足,无论多么微小,都可能导致功亏一篑。最近,维修人员不得不处理电缆托盘的短缺问题。电缆托盘是一种篮子状的精巧装置,用来固定从机器上脱落的电缆。因此,他们设计了一种新的电缆托盘,使得微软可以自己制造,也可以找地方购买。格思里说,他们还在研究如何尽可能多地压缩世界各地现有数据中心的服务器,这样他们就不必等待新的大楼了。

当OpenAI或微软训练一个大型AI模型时,这些工作是一次性完成的。它被分配到所有的GPU上,某些时候各个单元需要相互交流来分享它们所做的工作。对于人工智能超级计算机,微软必须确保处理所有芯片之间通信的网络设备能够处理这种负载,并且必须开发出能够充分利用GPU和网络设备的软件。该公司现在推出了一款软件,可以训练具有数十万亿个参数的模型。

由于所有机器都是同时启动的,微软不得不考虑它们的放置位置和电源的位置。格思里说,否则,你最终会得到数据中心版本的结果,就像你在厨房里同时打开微波炉、烤面包机和吸尘器一样。

新一代超级计算机

图片包含 日历  描述已自动生成

微软Azure全球基础设施总监阿利斯泰尔·斯皮尔斯(Alistair Speirs)表示,该公司还必须确保能够为所有这些机器和芯片降温,并在较冷的气候条件下使用蒸发、室外空气,在炎热的气候条件下使用高科技沼泽冷却器。

格思里称,微软将继续开发定制服务器和芯片设计,并想办法优化供应链,以尽可能地提高速度、效率和节省成本。

“现在让世界惊叹的模型是建立在我们几年前开始建造的超级计算机上的。新的模型将建立在我们正在训练的新型超级计算机上,这台计算机更大,也更精密。”(作者/箫雨)

更多一手新闻,欢迎下载凤凰新闻客户端订阅凤凰网科技。想看深度报道,请微信搜索“凤凰网科技”。

“特别声明:以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布,本平台仅提供信息存储空间服务。

Notice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”

[责任编辑:于雷 PT032]

原文转载: https://tech.ifeng.com/c/8O8jMczrvSe