近日， SIGGRAPH 2024 上，英伟达公布了一系列软件更新，主要涉及AI推理的云原生微服务——NIM（Nvidia Inference Microservices）全新升级，并且通过NIM 将生成式 AI 应用于 USD（通用场景描述），拓宽AI在3D世界的可能性。

　　更为重磅的是，英伟达发送 Blackwell 架构的样品，这是英伟达今年首发的新款芯片架构。

　　6月2日，黄仁勋宣布，目前“全球最强大的芯片”Blackwell芯片现已开始投产。

　　对于大型语言模型推理工作负载，GB200 超级芯片的性能是 H100 GPU 的 30 倍，并且显著降低了功耗。

　　定价方面，今年早些时候，首席执行官黄仁勋告诉 CNBC，Blackwell GPU 的价格为 3 万至 4 万美元。以此推算，每台 AI 服务器机柜的价格约为 200 万至 300 万美元，而 Nvidia 计划出货 6 万至 7 万台 B200 服务器机柜，预计年收入至少为 2100 亿美元。

　　摩根士丹利称，由于需求旺盛，Nvidia 将台积电的订单量增加了约 25%。可以毫不夸张地说，Blackwell 将成为AI 训练和许多推理工作负载的事实标准，它为一系列下一代应用如机器人、自动驾驶汽车、工程模拟和医疗等提供了强力支持。

　　此前，今年 3 月英伟达推出 NIM 时介绍，NIM 提供经过优化的推理微服务，旨在缩短上市时间，并简化生成式 AI 模型在云、数据中心和 GPU 加速工作站的任何位置的部署。

　　开发者可以使用英伟达托管的云API测试新的生成式 AI 模型，或者通过下载 NIM 来自行托管模型，并在主要云提供商或本地使用 Kubernetes 快速部署，以减少开发时间、复杂性和成本。

　　NIM微服务通过打包算法、系统和运行时优化并添加行业标准 API 来简化 AI 模型部署流程。这使开发者能够将 NIM 集成到其现有应用程序App和基础设施中，无需大量定制或专业知识。

　　近日，英伟达宣布更新扩大的 NIM 推理微服务库，涵盖了物质世界环境、高级视觉建模和各种垂直应用。

　　英伟达已在预览版中提供了约 100项NIM推理微服务，现在要发布完整版本。比如，作为英伟达的部分新NIM，视觉媒体公司Getty Images Holdings的4K 图像生成 API 和图像、影片、音乐等数字内容供应商Shutterstock Inc. 的3D图像生成器即将上线。两者都使用英伟达的Nvidia Edify，它是一种用于视觉生成 AI 的多模式架构。

　　Nvidia NIM通过提供预训练的AI模型和标准化的API，大大简化了AI模型的开发和部署过程，这或许也意味着普通程序员的任务可以由NIM预先完成，普通程序员可能不再需要进行复杂的模型训练和调优工作。

　　同时，英伟达宣布，构建了世界上首个能够理解基于 OpenUSD（Universal Scene Description 通用场景描述）语言、几何、材料、物理和空间的生成性AI模型，并将这些模型打包为Nvidia NIM微服务。Nvidia还宣布即将推出几种新的NIM微服务，包括USD Layout、USD Smart Material和FDB Mesh Generation，以进一步提升开发者在开放USD平台上的应用能力和效率。

　　英伟达还与自然语言处理（NLP）工具集和平台Hugging Face合作，推出了推理即服务，帮助开发人员使用托管在 Hugging Face Hub 上的开源AI模型快速制作原型，并将其部署到生产中，这一合作将简化开发者的AI模型部署。

　　此外，英伟达推出基于 OpenVDB 的 fVDB，利用现实世界的 3D 数据，打造空间智能。推出 Isaac Lab，为不同的训练环境提供模块化的高保真模拟，提供物质世界 AI 功能和 GPU 驱动的物质世界模拟。

　　近日，在Meta的Llama 3.1训练过程中，其运行的1.6万个GPU训练集群每3小时就会出现一次故障，意外故障中的半数都是由英伟达H100 GPU和HBM3内存故障造成的。

　　此外，在英伟达最新Blackwell架构产品问世前夕，传出大幅削减用于游戏等应用的高阶GPU供应量，减幅最高达五成，近期更扩大缩减供应力道，使得板卡（即显卡）供给恐面临严重短缺，报价涨声响起。

　　近日，AMD计划在台湾投资53.3亿元新台币建设研发中心，专注于AI软硬件开发和先进封装技。