RTX 5090震撼发布：超迷你AI超算问世！

巨无霸性能，微型身材：RTX 5090引领AI超算新时代

　　 就在刚刚，老黄身着闪亮的新皮夹克亮相CES，接连展示了一系列令人瞩目的新技术和产品。 老黄这身新行头无疑为本次CES增添了不少看点。他在展会上频频抛出重磅消息，不仅展示了公司的最新技术成果，还透露了未来的发展方向。这些举动再次证明了英伟达在科技领域的领导地位，也让人对即将推出的产品充满了期待。

　　 先是发布了自家最新的GPU——RTX 5090。

　　 直接来看下基于Blackwell架构的最新GPU主要性能：

　　 拥有920亿个晶体管

　　 具备4000 AI TOPS（每秒万亿次操作）的性能

　　 能够实现380 RT TFLOPS（每秒万亿次浮点运算）的光线追踪性能

　　 具备1.8 TB/s 的内存带宽，能够快速地读取和写入数据

　　 具有125 Shader TFLOPS 的着色器性能

　　 这一50系列GPU的价格也直接一道公布：

　　 RTX 5090：1999美元（约14651元）

　　 RTX 5080：999美元（约7321元）

　　 RTX 5070 Ti：749美元（约5489元）

　　 RTX 5070：549美元（约4023元）

　　 而Blackwell架构关键的互联技术也上了波新的——NVLink72。

　　 依旧是快速来看下主要性能亮点：

　　 72个Blackwell GPU具备1.4 ExaFLOPS TE FP4计算能力

　　 晶体管数量达到130万亿

　　 拥有2592个 Grace CPU核心

　　 72个ConnectX - 8网络接口卡

　　 576个存储芯片，总容量14TB，带宽1.2PB/s

　　 18个NVLink交换机，全连接带宽130 TB/s

　　 非常有趣的是，老黄在现场还手持大尺寸的样品，就像举着一面盾牌，开始了他的表演。

　　 除此之外，AI超算，现在迎来了PC时刻。

　　 就在刚才，老黄也发布了一款全球最小的个人AI超级计算机——ProjectDigits。

　　 有多强悍？

　　 2000亿参数的大模型，现在竟然可以直接在你办公桌上运行了！ 这项技术突破无疑令人震惊。以往，如此庞大的模型只能依赖于超级计算机或云端服务器来处理。如今，它却能在普通桌面上流畅运行，这标志着计算能力有了质的飞跃。这不仅极大地降低了模型训练和应用的成本，还意味着未来人工智能的应用场景将更加广泛。我们可以期待，在不久的将来，个人用户也能享受到这种高端算力带来的便利，从而推动整个行业的发展与创新。

　　 如果同时使用两台ProjectDigits，那么还能够运行拥有4050亿参数的巨大模型。

　　 据了解，每个ProjectDIGITS设备都配置了128GB的统一、相干内存，并且可以支持高达4TB的NVMe存储空间，这一切仅依靠一个标准电源插座就能启动运行。这样的设计无疑大大提升了设备的便携性和灵活性，让它们能够在更广泛的场景中得到应用。尤其在当前追求高效能与低能耗并存的技术趋势下，ProjectDIGITS的表现可以说是非常符合市场需求的。它不仅能够满足高性能计算的需求，还简化了部署过程，使得用户无需复杂的电力配置就可以快速启动和运行，这对于需要频繁移动或在不同地点进行工作的专业人员来说，无疑是一个巨大的优势。

　　 在完成桌面系统的开发或推理工作后，可以轻松地将大模型部署到加速云或数据中心基础设施中。这种无缝迁移的能力不仅极大地提升了工作效率，还显著降低了从研发到实际应用之间的转换成本。这表明，随着技术的进步，我们正朝着更加高效、灵活且成本效益更高的计算解决方案方向迈进。这样的技术进步无疑将推动更多创新应用的诞生，同时也为科研人员和开发者提供了更为广阔的发展空间。

　　 正如老黄在现场所说的那样：

　　 AI将成为每个行业、每个应用的主流。

　　 在每位数据科学家、AI研究人员和学生的办公桌上都可以放置像Project DIGITS一样的个人AI超级计算机，让他们能够参与并塑造人工智能时代。

　　 而且ProjectDIGITS不用等太久哦，今年5月份就会开始提供，起售价3000美元（约21978元）。

　　 那么Project DIGITS又是如何做到又小又彪悍的呢？

　　 搭载了全新的GB10超级芯片

　　 Project DIGITS的关键，就在于它搭载的全新Grace Blackwell超级芯片（GB10）。

　　 想必大家对这款系列芯片已经非常熟悉了，它是基于Grace Black架构设计的，属于一种片上系统（SoC）。

　　 在FP4精度下可以提供高达1千万亿次浮点运算的AI性能。

　　 GB10包含了英伟达Blackwell GPU（具有最新一代 CUDA 核心和第五代 Tensor Cores），通过 NVLink-C2C 芯片到芯片互连连接到高性能 NVIDIA Grace CPU（采用 Arm 架构的 20 个节能核心）。

　　 据了解，联发科参与了GB10的设计，对提升能效、性能和连接性等方面起到了一定作用。

　　 基于这样的架构，企业和研究人员可以利用本地的Linux系统ProjectDIGITS来进行模型原型设计、微调与测试，然后再将其部署到NVIDIA DGX Cloud等平台上。这种模式不仅提高了研发效率，还降低了硬件投入的成本。通过在本地完成大部分开发工作，企业能够更灵活地调整和优化模型，而在云端进行部署则能充分利用高性能计算资源，加速项目进程。这种方法为科研人员和开发者提供了一种高效且经济的解决方案，使得他们能够在更短的时间内实现从概念到产品的转化。

　　 用户还可以访问因为大的AI软件库，包括NGC目录和开发者门户中的软件开发工具包、编排工具、框架和模型等，可用NVIDIA NeMo框架微调模型、NVIDIA RAPIDS库加速数据科学，运行PyTorch等常见框架。

　　 此外，还可以利用NVIDIABlueprints和NVIDIANIM微服务来开发智能AI应用程序；据知，在将实验转化为生产环境的过程中，NVIDIAAIEnterprise许可证能够为企业提供安全等支持。

　　 允许商用的世界基础模型Cosmos

　　 与此同时，老黄还宣布英伟达将开源允许商用的世界基础模型——Cosmos。

　　 Cosmos平台不仅涵盖了用于生成物理世界合成数据的扩散模型和自回归Transformer模型，还包含了一种视频Tokenizer以及专门设计用来加速视频处理的高效管道。这一系列技术组合不仅大大提升了数据生成的质量与效率，也为视频处理领域带来了革命性的进步。通过这些先进的工具，研究人员和开发者能够更便捷地处理复杂的数据集，从而推动了相关领域的创新与发展。这种集成式的解决方案无疑为未来的技术发展开辟了新的道路，值得业界密切关注。

　　 其中，Cosmos基础模型经过在2000万小时的驾驶及机器人操作视频数据上进行训练，旨在加快自动驾驶技术和未来机器人系统的开发进程。

　　 开发者既可以用Cosmos生成物理合成数据，也可以用英伟达NeMo框架+私有视频数据进行微调。

　　 而如此发布也是基于目前AI技术的发展大势。

　　 具体而言，本次CES大会上，老黄一共介绍了三类模型：

　　 Nano：超低延迟的实时模型，优化用于边缘部署；

　　 Super：高性能基线模型，适用于开箱即用的微调和部署；

　　 Ultra：最高准确度和质量，适合模型定制；

　　 据介绍，这些模型的参数大约在40亿到140亿之间，不论企业规模大小，均可自由使用Cosmos模型。

　　 目前已公布的第一批试用者包括机器人公司1X、Agility Robotics，以及自动驾驶领域的Uber、小鹏、比亚迪等。

　　 对了，老黄这次特意官宣丰田将基于英伟达芯片和操作系统开发下一代新能源汽车。

　　 从应用示例可以看出，Cosmos已经在工业界和自动驾驶领域生成了大量的数据，这无疑大大加速了相关AI技术的研发进程。随着数据量的持续增长，我们有理由相信，Cosmos将在推动这些领域的技术创新方面发挥更加关键的作用。 这一进展不仅展示了技术在数据生成与处理方面的巨大潜力，也预示着未来工业生产与自动驾驶技术将迈入一个全新的发展阶段。这对于提高生产效率和道路安全具有重要意义。同时，我们也应关注随之而来的数据安全与隐私保护问题，确保技术发展的同时，社会各层面的利益得到妥善维护。

　　 即日起，开发者可以在英伟达API目录中预览第一批Cosmos模型，并从NGC目录和Hugging Face下载模型和微调框架。

　　 另外，Cosmos也为进一步扩展Omniverse（英伟达工业数字化和物理AI仿真平台）提供了新的可能。

　　 开发者可以在Omniverse中创建3D场景，完成渲染后用于Cosmos模型以生成合成的虚拟环境，最终目的是为了物理人工智能的训练。

　　 在那个充满未来感的场景中，老黄置身于一排机器人之中，仿佛预示着具身智能时代的到来。这一幕不仅展示了技术的飞速进步，也让人不禁思考人工智能与人类关系的未来走向。随着科技的发展，我们正逐步迈向一个人机共存的新纪元，这既令人振奋又充满挑战。在这个过程中，如何平衡技术创新与伦理道德，将是摆在我们面前的重要课题。

　　 还有两个新模型服务

　　 除了非常fashion的世界模型之外，老黄这次还发布了两个大方向的模型服务。

　　 其中一个为AI基础模型，专为RTXAIPC设计，注重提供便捷与灵活的开发体验。

　　 具体而言，通过连接到图形用户界面（GUI）的NIM微服务，用户可轻松访问和部署最新生成式 AI 模型。

　　 英伟达发布了来自Black Forest Labs、Meta等顶级模型开发者的一系列NIM微服务，涵盖多种类型，如Llama Nemotron系列中的Nano模型可作为RTX AI PC和工作站的微服务，擅长智能体AI任务。

　　 这些微服务涵盖了在个人电脑上部署AI所需的核心组件，并且已经针对英伟达GPU进行了优化，使得它们能够在配备WSL的Windows 11个人电脑上实现快速下载、安装和运行。此外，这些微服务还兼容多种AI开发工具和智能框架。

　　 NIM微服务之外，AI蓝图（AI Blueprints）也即将在PC上可用。

　　 AI蓝图是基于NIM微服务架构设计的，主要为数字人类、内容创作等领域提供预配置的参考工作流程。这项技术的发展不仅推动了人工智能在各个行业的应用，还极大地提升了工作效率与创造力。通过预先设定的工作流程，用户可以更加专注于内容的创新与优化，而无需过多关注底层的技术细节。这标志着人工智能正逐步走向成熟，成为推动社会进步的重要力量。

　　 例如，PDF转播客解决方案可通过提取PDF内容来自动生成脚本和音频文件，而3D引导生成式AI工具则能使艺术家在3D场景中更精准地掌控图像生成过程。

　　 具体到产品，英伟达近期展示了Project R2X，这是一款具备视觉功能的PC虚拟形象。通过NVIDIA RTX Neural Faces算法来渲染面部表情，并利用全新的Audio2Face-3D模型进行动画驱动，能够连接各种AI服务和微服务。这一技术进步不仅展现了英伟达在图形处理和人工智能领域的强大实力，还为虚拟现实和增强现实的应用开辟了新的可能性。它有望在未来改变我们与数字世界互动的方式，无论是远程协作还是娱乐体验都将因此而变得更加丰富和真实。

　　 据了解，自今年2月以来，NIM微服务与AI蓝图已正式启用，多家个人电脑制造商及系统构建商即将推出支持NIM的RTXAIPC产品。

　　 同样依托于NIM微服务架构，英伟达此次新发布了Nemotron模型系列，涵盖：

　　 Llama Nemotron大型语言模型

　　 Cosmos Nemotron视觉语言模型

　　 这两个大模型则是更倾向于AI智能体方向。

　　 LlamaNemotron是以开源的Llama模型为基础，利用英伟达的先进技术以及精选的数据集进行裁剪和训练，从而提升了计算效率和精确度。

　　 擅长执行指令、聊天互动、函数调用、编程以及数学运算等功能，在多种英伟达加速计算平台上均能高效运行。

　　 尺寸方面同样包含Nano、Super 和 Ultra三种大小：

　　 Nano成本效益高，适用于低延迟实时应用和PC及边缘设备；

　　 Super在单个GPU上提供高吞吐量和高精度；

　　 Ultra为数据中心规模应用设计，精度最高。

　　 CosmosNemotron视觉语言模型融合了英伟达的NIM微服务技术，使开发者能够创建可以分析并回应图像及视频的智能系统，该技术可应用于各个行业。

　　 One More Thing

　　 在老黄亮相CES之前，英伟达的股价再次刷新了历史高位！

　　 涨幅超3%，收盘价为149.43美元（高于去年11月7日创下的每股148.88美元收盘纪录），最新估值达到3.66万亿美元，成为仅次于苹果的全球第二大上市企业。

　　 △图源@YahooFinance

　　 不知道这次发布的东西是否符合大家的期待捏？

　　 参考链接：

　　 [1]https://www.youtube.com/live/k82RwXqZHY8

　　 [2]https://x.com/YahooFinance/status/1876376522766024882