Hệ sinh thái châu Âu xây dựng các nhà máy AI hiệu quả nhất thế giới với NVIDIA DSX

Tóm tắt tin tức: 

• Các thiết kế tham chiếu NVIDIA DSX sử dụng làm mát bằng chất lỏng vòng kín và bộ làm mát khô để đạt mức tiêu thụ nước làm mát cơ sở gần bằng không, với khả năng tiết kiệm 54 triệu lít mỗi ngày cho một triển khai 2-gigawatt — tương đương lượng nước sử dụng hàng ngày của 180.000 hộ gia đình.
• Các đám mây AI tại châu Âu đang xây dựng và vận hành các nhà máy AI dựa trên NVIDIA DSX, mở rộng khả năng tiếp cận với tính toán tăng tốc cho các doanh nghiệp, nhà phát triển và chính phủ trên lục địa này.
• Phần mềm NVIDIA DSX MaxLPS giúp các nhà vận hành sử dụng ít hơn tới 30% điện năng để tạo ra cùng một số lượng token, trong khi CoreWeave, Firmus, Google Cloud, IREN, Lambda, Nebius, Nscale và Sharon AI đang lên kế hoạch sử dụng công nghệ này, trong khi phần mềm DSX Flex biến các nhà máy AI thành các tải điện linh hoạt để hỗ trợ độ tin cậy của lưới điện và cho phép kết nối lưới nhanh hơn.
• NVIDIA SimReady Central, một trung tâm dành cho các mô hình kỹ thuật số sẵn sàng mô phỏng của thiết bị vật lý, ra mắt trên Hugging Face với các tài sản điện và làm mát đã được xác thực, giúp các nhà vận hành xây dựng và mô phỏng các bản sao kỹ thuật số của nhà máy AI DSX nhanh hơn.
• Phần mềm mã nguồn mở NVIDIA DSX OS mới tự động hóa vòng đời cơ sở hạ tầng và cải thiện khả năng tự động hóa sức khỏe cũng như khả năng chống chịu, giúp các nhà vận hành vận hành các nhà máy AI ở quy mô lớn.
• Một hệ sinh thái đang mở rộng — bao gồm các nhà lãnh đạo về công nghệ và AI công nghiệp AVEVA, Dassault Systèmes và Siemens, cùng các nhà cung cấp năng lượng và làm mát ABB, Eaton, GE Vernova, Hitachi Energy, Schneider Electric, Siemens Energy, Trane Technologies và Vertiv — đang kết nối thiết kế nhà máy AI, điện, làm mát và vận hành để hỗ trợ việc xây dựng hạ tầng tính toán tăng tốc của châu Âu.

GTC Berlin—Ngày hôm nay, NVIDIA đã thông báo rằng các đối tác hệ sinh thái hàng đầu của châu Âu đang áp dụng Nền tảng Nhà máy AI NVIDIA DSX™ để xây dựng các nhà máy AI nhằm giảm thiểu lượng nước tiêu thụ cho việc làm mát và sử dụng ít điện hơn cho cùng một mức đầu ra AI. Nền tảng này cũng giúp các đối tác đưa công suất mới vào hoạt động nhanh hơn và điều chỉnh mức tiêu thụ điện của tải công việc để hỗ trợ độ tin cậy của lưới điện.

NVIDIA DSX là kiến trúc tham chiếu nhà máy AI toàn bộ phần mềm và phần cứng, được đồng sáng tạo với các công ty hạ tầng hàng đầu thế giới. Tính toán, mạng, lưu trữ, phần mềm, điện và làm mát được thiết kế đồng bộ như một hệ thống thống nhất — được tối ưu hóa từ khâu thiết kế đến vận hành.

Các đám mây AI và các nhà cung cấp thiết kế, xây dựng, năng lượng và làm mát hàng đầu đang sử dụng DSX để xây dựng và vận hành hạ tầng phục vụ các doanh nghiệp, nhà phát triển và chính phủ tại châu Âu.

“Sự lãnh đạo về công nghệ của châu Âu phụ thuộc vào mức độ hiệu quả mà chúng ta chuyển đổi điện năng và hạ tầng thành trí tuệ,” ông Warren Barkley, Phó Chủ tịch quản lý sản phẩm DSX tại NVIDIA, cho biết. “NVIDIA DSX mang đến các công nghệ và chuyên môn hệ sinh thái mà các nhà vận hành cần để xây dựng có trách nhiệm, vận hành hiệu quả ở quy mô lớn và đưa trí tuệ ra thị trường nhanh hơn.”

Nền tảng NVIDIA DSX bao gồm DSX MaxLPS™ để phân bổ điện năng động, DSX Flex để điều phối mức tiêu thụ điện của khối lượng công việc với điều kiện lưới điện, DSX Reference Design cho các kiến trúc hạ tầng đã được xác thực, DSX Sim™ để mô phỏng, DSX OS™ để quản lý hạ tầng và DSX Exchange™ để kết nối các hệ thống tính toán và cơ sở vật chất. Những công nghệ này giúp các nhà vận hành thiết kế, triển khai và vận hành các nhà máy AI tiết kiệm các nguồn tài nguyên quý giá.

NVIDIA DSX Suy nghĩ lại về Hệ thống Làm mát
Các tháp làm mát thông thường loại bỏ nhiệt bằng cách bay hơi nước, đòi hỏi nguồn nước thay thế liên tục. Các thiết kế tham chiếu của NVIDIA DSX kết hợp máy tính làm mát bằng chất lỏng với việc thải nhiệt dựa trên bộ làm mát khô, tránh bay hơi: Chất lỏng làm mát hấp thụ nhiệt từ thiết bị máy tính và tuần hoàn trong một vòng kín, trong khi các bộ làm mát khô bên ngoài, tương tự như các bộ tản nhiệt lớn, thải nhiệt đó ra không khí mà không làm bay hơi nước.

Hạ tầng NVIDIA Vera Rubin hỗ trợ làm mát 100% bằng chất lỏng với nhiệt độ chất làm mát lên đến 45 độ C. Với các thiết kế dựa trên bộ làm mát khô, kiến trúc này có thể giảm mức tiêu thụ nước làm mát của cơ sở xuống gần bằng không. Ở quy mô 2 gigawatt, NVIDIA DSX có thể tiết kiệm 54 triệu lít nước mỗi ngày so với các hệ thống dựa trên tháp làm mát thông thường — tương đương với lượng nước sử dụng hàng ngày của 180.000 hộ gia đình. Khí hậu địa phương quyết định xem có cần làm mát cơ học bổ sung trong những thời kỳ nóng nhất hay không.

Đưa ra cùng kết quả AI với ít năng lượng hơn
Nguồn điện khả dụng quyết định mức độ năng lực mà các nhà vận hành có thể đưa vào hoạt động. DSX MaxLPS và DSX Flex giải quyết hạn chế này.

DSX MaxLPS phân bổ động năng lượng trong ngân sách dự phòng của nhà máy AI, giúp các nhà vận hành tạo ra cùng số lượng token với ít hơn tới 30% năng lượng. Các nhà vận hành cũng có thể sử dụng hiệu quả này để hỗ trợ nhiều năng lực GPU hơn và thông lượng cao hơn trong các ngân sách điện hiện có. CoreWeave, Firmus, Google Cloud, IREN, Lambda, Nebius, Nscale và Sharon AI đang khám phá phần mềm này.

Trong một bằng chứng khái niệm trên các hệ thống NVIDIA HGX™ B200 với DSX MaxLPS, Lambda đã chứng minh được hiệu suất thông lượng token cụm cao hơn 24% và dung lượng GPU cao hơn 19% trong một ngân sách điện cố định.

Điều phối nhu cầu điện của nhà máy AI với lưới điện
DSX Flex giúp các nhà máy AI trở thành những tài sản linh hoạt cho lưới điện, cho phép các nhà vận hành điều chỉnh mức tiêu thụ điện của khối lượng công việc theo nhu cầu của công ty điện lực, các sự kiện đáp ứng nhu cầu và giá năng lượng. Nó cũng có thể điều phối điện từ lưới điện, năng lượng tái tạo tại chỗ và lưu trữ năng lượng, giúp các nhà máy AI hoạt động như các tải điện linh hoạt hỗ trợ độ tin cậy của lưới điện và cho phép kết nối lưới điện nhanh hơn.

Trong một thử nghiệm ban đầu, Emerald AI, EPRI, Nebius, Lưới Quốc gia Vương quốc Anh và NVIDIA đã chứng minh việc giảm tới 40% mức tiêu thụ điện của cụm máy trên một cụm GPU NVIDIA Blackwell Ultra khi phản ứng với các sự kiện lưới điện mô phỏng, trong khi các tác vụ quan trọng vẫn tiếp tục chạy.

Nscale Nâng cao Hiệu quả Nhà máy AI với NVIDIA DSX
Sử dụng DSX MaxLPS, DSX Flex và DSX Sim, Nscale đang chứng minh cách nền tảng NVIDIA DSX kết nối tối ưu hóa điện, hoạt động phản ứng với lưới điện và thiết kế.

Dựa trên một lần đánh giá được thực hiện tại nhà máy AI của Nscale ở Iceland, sử dụng DSX MaxLPS trên bốn rack NVIDIA GB300 NVL72, Nscale đã chứng minh được thông lượng suy luận cao hơn 49% và dung lượng GPU được quản lý nhiều hơn 37% trong cùng ngân sách điện được cấp là 264 kilowatt. Kết quả cho thấy cách phân bổ điện động có thể giải phóng thêm dung lượng từ cơ sở hạ tầng hiện có.

Nscale cũng đang khám phá DSX Flex để đồng bộ hóa mức tiêu thụ điện của khối lượng công việc với điều kiện lưới điện.

“Tham vọng AI của châu Âu đòi hỏi chúng tôi phải tận dụng tối đa mỗi megawatt,” Josh Payne, nhà sáng lập và CEO của Nscale, cho biết. “Với NVIDIA DSX, chúng tôi đang xây dựng các nhà máy AI mang lại nhiều sức mạnh tính toán hơn từ nguồn điện có sẵn, phản ứng với điều kiện lưới điện và rút ngắn thời gian từ thiết kế đến triển khai.”

Đối với các cơ sở tại Bồ Đào Nha và Iceland, Nscale đang sử dụng DSX Sim để tạo ra các bản sao số giúp đánh giá các cấu hình điện, làm mát và hạ tầng trước khi triển khai. Bằng cách xác thực thiết kế một cách ảo, Nscale có thể phát hiện sớm các vấn đề tiềm ẩn, giảm thiểu rủi ro triển khai và đẩy nhanh quá trình từ lập kế hoạch đến năng suất hoạt động.

Tăng tốc thiết kế nhà máy AI với DSX Sim và SimReady Central Library
NVIDIA đang ra mắt SimReady Central Library với các tài sản thiết bị điện và làm mát đã được xác thực từ các đối tác như Vertiv, đẩy nhanh việc tạo ra các bản sao kỹ thuật số của nhà máy AI DSX.

Khi sử dụng với DSX Sim, các đối tác hệ sinh thái bao gồm PTC đang giúp tạo ra các tài sản sẵn sàng mô phỏng này bằng thiết kế hỗ trợ máy tính để cho phép các quy trình SimReady, giúp các nhà xây dựng mô hình hóa các cấu hình hạ tầng và đánh giá các quyết định về điện và làm mát trước khi thiết bị được lắp đặt. Các nhà vận hành có thể xác thực thiết kế sớm hơn, giảm thiểu rủi ro triển khai và đẩy nhanh tiến độ từ lập kế hoạch sang xây dựng.

Đẩy mạnh khả năng sẵn sàng sản xuất với NVIDIA DSX OS
Để hỗ trợ các nhà vận hành chuyển đổi cơ sở hạ tầng đã lắp đặt thành năng lực sản xuất, NVIDIA đang mở rộng danh mục DSX OS mã nguồn mở, mô-đun hóa của mình với ba thành phần trong bản xem trước dành cho nhà phát triển:

• NVIDIA Config Manager tự động hóa cấu hình mạng nhà máy AI.
• NVIDIA Rack Management Service cung cấp quản lý điện, danh mục, firmware và switch ở cấp rack.
• NVIDIA Cluster Readiness Engine chạy các tác vụ phân tán để xác thực các cụm GPU trước khi các tác vụ sản xuất đến và cô lập các sự cố vào các nút cụ thể.

Cùng với NVIDIA Infrastructure Controller, NVIDIA AI Cluster Runtime và NVSentinel, các thành phần này giúp các nhà vận hành tự động hóa quản lý vòng đời hạ tầng, duy trì các môi trường runtime nhất quán và tăng cường xác thực sức khỏe, gán nguyên nhân sự cố và khôi phục.

Các đối tác đám mây bao gồm Aleria, Cassava, CoreWeave, Crusoe, Firmus, Firebird, G42, GMI Cloud, IREN, Lambda, Nebius, Nscale, Radiant, Sharon AI và Volta đang khám phá các thành phần mới nhất của NVIDIA DSX OS để tự động hóa quản lý vòng đời hạ tầng, và cải thiện khả năng chống chịu và độ tin cậy.

Kết nối Thiết kế, Nguồn điện và Làm mát trong Hệ sinh thái Nhà máy AI của Châu Âu
Các đối tác phần mềm công nghiệp, nguồn điện và làm mát của NVIDIA đang thúc đẩy việc xây dựng nhà máy AI tại Châu Âu với các thiết kế tham chiếu DSX, bản sao kỹ thuật số vòng đời và thiết bị đạt chứng nhận, kết nối hạ tầng cơ sở với tính toán tăng tốc.

• Schneider Electric đã phát triển các thiết kế tham chiếu về nguồn điện và làm mát cho hạ tầng NVIDIA Vera Rubin và đang hợp tác với AVEVA về các bản sao kỹ thuật số bao trùm thiết kế hạ tầng, xây dựng và vận hành.
• Procore đang hỗ trợ quản lý việc xây dựng nhà máy AI bằng nền tảng quản lý xây dựng của mình, được tích hợp với DSX Sim.
• Siemens đang sử dụng DSX Sim để mô phỏng điện, làm mát và âm học, trong khi Dassault Systèmes và Vertiv đang phát triển các mô hình sinh số (digital twin) của cơ sở hạ tầng OneCore của Vertiv, cho phép mô phỏng và tối ưu hóa thông qua kỹ thuật hệ thống dựa trên mô hình.
• ABB đang phát triển các tài sản SimReady với NVIDIA DSX Sim, cho phép các kỹ sư đánh giá kiến trúc từ nguồn đến rack trước khi xây dựng, đồng thời thúc đẩy sự phát triển của 800 VDC thông qua danh mục sản phẩm Infinitus Direct Current mới được công bố của họ.

Các đối tác cũng đang cung cấp cơ sở hạ tầng điện và làm mát phối hợp, phù hợp với các thiết kế tham chiếu DSX. Trane Technologies và Eaton gần đây đã hợp tác với NVIDIA để giúp tăng hiệu quả trung tâm dữ liệu và cắt giảm chi phí lắp đặt bằng một thiết kế tích hợp được xây dựng cho NVIDIA Vera Rubin DSX AI Factory Reference Design, kết hợp nền tảng Beam và cơ sở hạ tầng điện của Eaton với hệ thống làm mát Trane Continuum và các bộ điều khiển phối hợp trong kiến trúc từ lưới điện đến chip.

Trane Technologies đã công bố bảy thiết kế tham chiếu cho hệ thống quản lý nhiệt, bao gồm ba thiết kế tham chiếu làm mát dựa trên DSX công suất 250-megawatt để hỗ trợ lập kế hoạch hạ tầng nhiệt ở quy mô lớn.

Thông qua chương trình NVIDIA DSX Ready, các nhà xây dựng có thể lựa chọn thiết bị được chứng nhận theo các danh mục DSX tương ứng. LiquidStack GigaModular của Trane Technologies và CoolChip 2.3-megawatt của Vertiv — cả hai đều là đơn vị phân phối chất làm mát — đã được chứng nhận theo các danh mục tương ứng, trong khi hệ thống lưu trữ năng lượng pin của Hitachi Energy đã đạt chứng nhận NVIDIA DSX Ready BESS.

Đối với việc cung cấp năng lượng và tích hợp lưới điện, GE Vernova, Hitachi Energy và Siemens Energy đang hợp tác với NVIDIA trong các sáng kiến về hạ tầng điện và mô phỏng số (digital twin), kết nối kỹ thuật hệ thống năng lượng và quy hoạch lưới điện dựa trên các yêu cầu của cơ sở. Hitachi Energy đang phát triển một giải pháp tích hợp giữa hệ thống quản lý năng lượng của mình và DSX Flex để tối ưu hóa các nguồn tài nguyên lưới điện, phát điện và lưu trữ theo nhu cầu khối lượng công việc.

Xem gtc/keynote/" target="_blank" rel="nofollow noopener">buổi thuyết trình chính GTC Berlin của nhà sáng lập kiêm CEO NVIDIA Jensen Huang và khám phá các phiên.

____
Bài viết liên quan