Trong kỷ nguyên chuyển đổi số hiện tại, chúng ta đang chứng kiến một sự dịch chuyển mô hình (paradigm shift) từ "điện toán dựa trên truy xuất" (retrieval-based computing) sang "điện toán tạo sinh" (generative computing). Sự dịch chuyển này đòi hỏi một thế hệ hạ tầng mới: AI Factory (Nhà máy AI). Bài viết này nhằm cung cấp một cái nhìn chuyên sâu, toàn diện và chiến lược về khái niệm, kiến trúc cũng như hệ sinh thái của một AI Factory.

"AI Factory" là gì?

AI Factory là một thế hệ trung tâm dữ liệu (Data Center) kiểu mới, được thiết kế và tối ưu hóa đặc biệt không phải để lưu trữ dữ liệu hay chạy các ứng dụng phần mềm truyền thống, mà để sản xuất ra "trí thông minh" (intelligence).

Khái niệm này được định hình mạnh mẽ bởi CEO NVIDIA - Jensen Huang. Nếu như các nhà máy truyền thống ở thế kỷ 20 sử dụng điện và nguyên liệu thô để sản xuất hàng hóa vật lý, thì AI Factory ở thế kỷ 21 sử dụng năng lượng điện và dữ liệu thô (raw data), đưa qua các cỗ máy học sâu (deep learning) để sản xuất ra các mô hình trí tuệ nhân tạo, các "token" dữ liệu có giá trị và những dự đoán có độ chính xác cao.

Ý nghĩa cốt lõi:

• Chuyển đổi Dữ liệu thành Tài sản Số: AI Factory là nơi "tinh chế" dữ liệu thô thành tri thức ứng dụng (mô hình AI).
• Động cơ của Nền kinh tế Mới: Nó đóng vai trò là "nhà máy điện" của kỷ nguyên GenAI, cung cấp sức mạnh tính toán cho mọi ngành nghề từ y tế, tài chính đến sản xuất công nghiệp và quốc phòng.

Vì sao khái niệm AI Factory xuất hiện?

Sự ra đời của AI Factory không phải là một trào lưu nhất thời, mà là sự tất yếu của công nghệ giải quyết các giới hạn vật lý và kiến trúc:

• Sự bùng nổ của Generative AI (GenAI): Các mô hình ngôn ngữ lớn (LLM) như GPT-4, Gemini hay Llama có hàng trăm tỷ tham số. Việc huấn luyện (training) và suy luận (inference) chúng đòi hỏi năng lực tính toán song song khổng lồ mà kiến trúc CPU truyền thống không thể đáp ứng.
• Giới hạn của Trung tâm Dữ liệu truyền thống: Data Center truyền thống được xây dựng theo kiến trúc Bắc-Nam (Client-Server) với mạng lưới tốc độ vừa phải, phù hợp để phục vụ web. AI yêu cầu kiến trúc Đông-Tây (Server-to-Server) với băng thông cực lớn để hàng vạn GPU giao tiếp đồng thời mà không bị nghẽn cổ chai.
• Chiến lược AI có chủ quyền (Sovereign AI): Các quốc gia và tập đoàn lớn nhận ra dữ liệu là tài nguyên an ninh quốc gia/tài sản doanh nghiệp. Họ cần các AI Factory tại chỗ (On-premise hoặc Private Cloud) để giữ quyền kiểm soát tuyệt đối thay vì phụ thuộc hoàn toàn vào Public Cloud.

Kiến trúc hạ tầng của một AI Factory có gì?

Một AI Factory không chỉ đơn thuần là việc xếp nhiều máy chủ chứa GPU lại với nhau. Nó là một cỗ máy thống nhất khổng lồ (one single Supercomputer).

Cấu trúc hạ tầng bao gồm 4 lớp lõi:

A. Lớp Điện toán (Compute Layer)

Trái tim của AI Factory. Thay vì sử dụng máy chủ CPU độc lập, lớp điện toán sử dụng các cụm máy chủ chứa bộ tăng tốc (Accelerators) mật độ cao.

• Thiết kế: Các GPU/TPU được liên kết thành các cụm (Clusters) hoặc SuperPODs, cho phép chúng hoạt động như một siêu máy tính duy nhất để xử lý song song các ma trận toán học khổng lồ.

B. Lớp Mạng & Kết nối (Networking & Interconnect Layer)

Nếu Compute là trái tim, thì Networking là hệ tuần hoàn. Trong huấn luyện AI, việc đồng bộ hóa dữ liệu giữa các GPU quyết định thời gian hoàn thành.

• Mạng trong node (Scale-up): Kết nối các GPU trong cùng một máy chủ (VD: NVIDIA NVLink).
• Mạng giữa các node (Scale-out): Kết nối hàng nghìn máy chủ với nhau với độ trễ siêu thấp và không rớt gói tin (Lossless network).

C. Lớp Lưu trữ (Storage Layer)

AI Factory tiêu thụ dữ liệu với tốc độ kinh hoàng. Nếu bộ lưu trữ chậm, GPU sẽ bị "đói dữ liệu" (starvation), gây lãng phí tài nguyên đắt đỏ.

• Yêu cầu: Băng thông cực cao (High throughput) và IOPS khổng lồ để đọc hàng triệu tệp tin nhỏ hoặc các file dữ liệu khổng lồ liên tục.

D. Lớp Hạ tầng Vật lý & Năng lượng (Physical Infrastructure & Power/Cooling)

Đây là thách thức lớn nhất của AI Factory so với Data Center thường.

• Năng lượng: Một rack máy chủ AI có thể tiêu thụ từ 40kW đến hơn 120kW điện (gấp 5-10 lần rack thông thường).
• Tản nhiệt: Tản nhiệt khí truyền thống đã chạm giới hạn. AI Factory bắt buộc phải sử dụng hệ thống tản nhiệt chất lỏng trực tiếp tới chip (Direct-to-Chip Liquid Cooling) hoặc ngâm làm mát (Immersion Cooling).

Hệ sinh thái Thiết bị và Phần mềm trong AI Factory ra sao?

Để hệ thống vận hành trơn tru, cần có sự kết hợp chặt chẽ giữa phần cứng chuyên dụng và lớp phần mềm (Software Stack) tối ưu hóa.

Bảng: Phân loại Thiết bị & Phần mềm tiêu biểu

Thành phần	Công nghệ / Thiết bị / Phần cứng tiêu biểu	Phần mềm / Giao thức / Nền tảng tiêu biểu
Điện toán (Compute)	Hệ thống GPU NVIDIA (H100, B200 Blackwell), AMD Instinct (MI300X), Google TPUs, Intel Gaudi.	NVIDIA CUDA, AMD ROCm.
Kết nối (Networking)	Switch InfiniBand (Quantum-2/3), Ethernet tốc độ cao 400GbE/800GbE (Spectrum-X, Arista, Cisco), DPU (BlueField).	RDMA over Converged Ethernet (RoCE v2), NCCL (NVIDIA Collective Communications Library).
Lưu trữ (Storage)	All-Flash NVMe Arrays, giải pháp từ DDN, Pure Storage, VAST Data, Weka.	Parallel File Systems (Lustre, GPFS), NFS trên nền NVMe.
Hệ điều hành AI & Quản trị	Máy chủ chuyên dụng (VD: NVIDIA DGX SuperPOD, OCP Racks).	NVIDIA AI Enterprise, Base Command, Kubernetes, Slurm (quản lý job), MLflow (MLOps).
Hạ tầng Vật lý	Cấp nguồn UPS mật độ cao, hệ thống CDU (Coolant Distribution Unit) cho tản nhiệt chất lỏng.	Phần mềm quản trị năng lượng hạ tầng trung tâm dữ liệu (DCIM).

Các câu hỏi thường gặp (FAQ) về AI Factory

Điểm khác biệt lớn nhất về mặt chi phí giữa AI Factory và Data Center truyền thống là gì?

Mật độ vốn (Capital density). Cùng một diện tích vật lý, chi phí xây dựng AI Factory cao gấp nhiều lần do giá thành của GPU, thiết bị mạng tốc độ siêu cao và hệ thống tản nhiệt chất lỏng. Tuy nhiên, thay vì chỉ là trung tâm chi phí (Cost Center) phục vụ nội bộ, AI Factory được xem là trung tâm lợi nhuận (Profit Center), trực tiếp tạo ra tài sản trí tuệ và mô hình kinh doanh mới.

Việc tiêu thụ năng lượng của AI Factory quá lớn. Các doanh nghiệp giải quyết bài toán ESG (Môi trường, Xã hội, Quản trị) như thế nào?

Đây là một bài toán hóc búa. Các AI Factory hiện đại giải quyết bằng cách: (1) Sử dụng tản nhiệt chất lỏng giúp giảm chỉ số PUE (Power Usage Effectiveness) xuống mức rất thấp (dưới 1.15); (2) Đặt AI Factory tại những khu vực có nguồn điện tái tạo dồi dào (thủy điện, điện gió, năng lượng mặt trời) hoặc gần các nhà máy điện hạt nhân, thay vì đặt ở trung tâm các siêu đô thị.

Có nên tự xây dựng AI Factory On-premise hay nên thuê hạ tầng Cloud AI (AWS, Azure, GCP)?

Việc này phụ thuộc vào chiến lược dữ liệu và quy mô:

• Nên dùng Cloud AI: Khi mới bắt đầu thử nghiệm (PoC), khởi nghiệp, hoặc cần tài nguyên không thường xuyên (bursty workloads). Giúp tránh chi phí đầu tư ban đầu lớn (CapEx).
• Nên xây On-premise AI Factory: Khi doanh nghiệp (Ngân hàng, Viễn thông, Chính phủ) cần huấn luyện các mô hình lõi liên tục 24/7, có yêu cầu bảo mật dữ liệu tuyệt đối (Sovereign AI), và muốn tối ưu hóa chi phí dài hạn (OpEx thấp hơn so với thuê Cloud liên tục ở quy mô lớn).

Những rủi ro lớn nhất khi đầu tư vào AI Factory là gì?

Nguy cơ nghẽn cổ chai có thể xảy ra: Đầu tư hệ thống nhiều GPU nhưng liên kết mạng hoặc lưu trữ không tương xứng dẫn đến hiệu suất thực tế của cụm GPU chỉ đạt 40-50%. Quản lý tài nguyên và tối ưu hóa cấp độ phần mềm (Orchestration) là chìa khóa để đạt ROI tốt nhất.

---

Nhất Tiến Chung hiện là đối tác cấp Elite trong hệ thống thành viên NVIDIA Partner Network cho các giải pháp hạ tầng AI cấp doanh nghiệp tại Việt Nam. Hãy liên hệ với chúng tôi nếu bạn có bất kỳ vướng mắc nào trong việc thiết lập hạ tầng nền tảng cho kỷ nguyên Trí tuệ Nhân tạo hiệu suất cao.

Trong khuôn khổ triển lãm Computex Taipei 2026 tại Đài Loan, Supermicro đã giới thiệu bản thiết kế DCBBS dành cho NVIDIA Vera Rubin NVL72 và NVIDIA HGX™ Rubin NVL8, được xây dựng để mở rộng quy mô từ 5MW đến 1GW như một giải pháp tổng thể từ đầu đến cuối.

Hôm nay đánh dấu sự khởi đầu của triển lãm thương mại thường niên Computex diễn ra tại Đài Loan. Vốn là “thánh địa” của vô số nhà sản xuất hệ thống và thiết bị, Computex là một "bữa tiệc" khổng lồ của thiết bị điện tử tiêu dùng và hiện đang là sự kiện lấy PC làm trung tâm lớn nhất trong năm. Mặc dù diễn ra vào tháng 6 – mới chỉ đi được nửa chặng đường của năm, nhưng sự kiện này luôn tạo tiền đề cho các sản phẩm tiêu dùng và máy chủ dự kiến ra mắt vào cuối năm, đặc biệt là vào quý 3 và quý 4 cực kỳ quan trọng của ngành công nghệ.

Sẽ có một vài buổi diễn thuyết lớn (keynote) trong khuôn khổ sự kiện năm nay. Trong khi AMD đã bỏ qua việc tổ chức keynote (vì họ đang ở ngay giai đoạn giữa của chu kỳ sản phẩm), thì Intel, NVIDIA và Qualcomm đều góp mặt. Và với tư cách là "gã khổng lồ" công nghệ lớn nhất tại triển lãm, có lẽ hoàn toàn phù hợp khi NVIDIA được trao quyền mở màn bằng buổi keynote lớn đầu tiên.

Tổng quan về NVIDIA Computex 2026 Keynote

Như thường lệ, CEO của NVIDIA (và cũng là "ngôi sao nhạc rock" sinh ra tại Đài Loan) Jensen Huang sẽ là diễn giả chính cho sự kiện 2026 song hành cùng Computex của công ty. Dù về mặt kỹ thuật, nó là một phần của sự kiện GTC Taipei đang diễn ra cùng thời điểm, nhưng đây vẫn là buổi diễn thuyết lớn đầu tiên của mùa Computex – và vì không có lịch trình nào đối đầu, nó nghiễm nhiên trở thành sự kiện mở màn của toàn bộ chuỗi sự kiện Computex.

Mối quan tâm kinh doanh cốt lõi của NVIDIA hiện nay vẫn là mọi thứ xoay quanh AI – được thúc đẩy bởi sự bùng nổ về nhu cầu phần cứng cho đào tạo và suy luận (inference) AI. Và như bạn có thể dự đoán, AI sẽ chiếm một phần khổng lồ trong bài keynote năm nay.

Về mặt sản phẩm, NVIDIA vừa mới "xả" một loạt các thông báo sản phẩm quan trọng vào hai tháng trước tại hội nghị độc quyền của hãng là GTC 2026, thế nên đừng kỳ vọng NVIDIA sẽ có một núi thông báo về phần cứng mới tại Computex. Dù vậy, công ty cũng không đến Đài Loan với hai bàn tay trắng. Vào thứ Sáu vừa rồi, hãng đã đăng một dòng tweet hứa hẹn về “Một kỷ nguyên mới của PC” kèm theo tọa độ địa điểm tổ chức sự kiện tại Đài Loan.

Và để dẹp bỏ mọi nghi ngờ rằng chúng ta đang nói về PC Windows, tài khoản Windows của Microsoft cũng đã đăng tải một thông điệp tương tự cùng thời điểm, trong khi Arm cũng có động thái tương tự vài giờ sau đó.

Một trong những "bí mật ai cũng biết" tồi tệ nhất trong ngành lúc này là NVIDIA đang phát triển một SoC dành cho các thiết bị Windows-on-Arm cho người dùng cuối, với tên mã N1X. Chúng ta sẽ không cố dự toán quá nhiều trước giờ G, nhưng NVIDIA đã đặt nền móng cho con chip như vậy với GB10 – trái tim của DGX Spark và các dòng PC form-factor nhỏ gọn khác – nên có vẻ như họ đang định mở rộng thị phần của mình. Họ nhắm đến đâu, chúng ta chắc chắn sẽ có câu trả lời vào hôm nay.

Gác lại tham vọng về mảng PC tiêu dùng, chúng tôi cũng kỳ vọng bài phát biểu năm nay sẽ tập trung mạnh vào mảng robotics của NVIDIA, biến đây thành một trong những trụ cột trong nỗ lực của họ tại Đài Loan để giúp quốc đảo này trở thành quốc gia dẫn đầu về robotics. Vì vậy, sẽ không có gì đáng ngạc nhiên khi thấy một số tiết lộ liên quan đến robot từ hãng.

Nhìn chung, Đài Loan được cho là tâm điểm lớn của bài phát biểu năm nay, thậm chí còn mạnh mẽ hơn mức bình thường. Đứng từ góc độ kinh doanh, NVIDIA phụ thuộc rất lớn vào các đối tác tại Đài Loan trong việc cung cấp linh kiện, lắp ráp và vận chuyển các hệ thống tích hợp GPU, CPU và thiết bị mạng của mình. Do đó, một phần quan trọng trong các bài phát biểu của NVIDIA tại Computex những năm gần đây là để tri ân các đối tác và giúp quảng bá cho họ. Thêm vào đó, quá trình xây dựng cơ sở Constellation tại địa phương của NVIDIA sắp sửa khởi công, và Jensen đã chính thức xác nhận vào tuần trước tại GTC Taipei rằng ông dự kiến công ty sẽ chi 150 tỷ đô la mỗi năm tại Đài Loan. Tóm lại, mối quan hệ của NVIDIA với Đài Loan vốn đã sâu đậm nay sẽ còn sâu đậm hơn nữa.

Cuối cùng, không có bài phát biểu nào của NVIDIA được coi là trọn vẹn nếu thiếu đi những nội dung liên quan đến AI trong trung tâm dữ liệu. NVIDIA hiện chưa vận chuyển (ship) số lượng lớn nền tảng Vera Rubin, nên Computex sẽ là cơ hội tuyệt vời để "push" mạnh hơn cho phần cứng này trước khi nó chính thức ra mắt vào cuối năm nay.

Bài phát biểu dự kiến kéo dài 120 phút.

https://www.youtube.com/watch?v=wSp6AiNIrsY

Tường thuật Trực tiếp NVIDIA Computex 2026 Keynote

Hiện tại là vài phút trước 8 giờ tối theo giờ Thái Bình Dương (PT), và chúng ta đang chờ đợi sự kiện bắt đầu. Thường thì chúng không bao giờ bắt đầu đúng giờ cả, nên hãy chờ xem sao.

Và ngay lúc tôi vừa dứt lời, NVIDIA đã bắt đầu phát các video thông báo miễn trừ trách nhiệm trước sự kiện. Bắt đầu thôi!

Như thường lệ, mở đầu bằng một đoạn video giới thiệu. Chủ đề: Tokens và AI.

Cũng có một sự nhấn mạnh mạnh mẽ vào robotics, đặc biệt là cách AI kích hoạt nó. "Và đây, tại Đài Bắc là nơi mọi thứ bắt đầu."

Jensen xuất hiện! "Chào mừng đến với GTC Taiwan."

Có vẻ Jensen đã đưa cả bố mẹ mình tới. Dường như có tới 70 watch party (tiệc xem chung) cho bài phát biểu này ở Đài Loan.

Jensen nói rằng ông có rất nhiều đối tác tại Đài Loan cần phải gửi lời cảm ơn. “Hệ sinh thái của NVIDIA trải dài ngược dòng lên tới toàn bộ chuỗi cung ứng của chúng tôi” và “xuôi dòng xuống các trung tâm dữ liệu và người dùng cuối.” NVIDIA sẽ nói về gần như toàn bộ hệ sinh thái trong tối nay.

Sự trỗi dậy của AI Tự chủ (Agentic AI)

Và để mở đầu, Jensen dẫn dắt bằng AI tự chủ (Agentic AI).

Số lượng commit trên GitHub đang tăng lên với tốc độ chóng mặt. Nó đã tăng gần gấp ba vào năm 2026, nhờ các công cụ lập trình AI giúp cải thiện năng suất của các kỹ sư phần mềm. Jensen cũng lập luận rằng điều này sẽ thúc đẩy việc tuyển dụng thêm kỹ sư phần mềm, vì sản lượng (output) trên mỗi kỹ sư đang tăng lên. “Điều này sẽ sớm hiển hiện trong nền kinh tế của chúng ta theo một cách nào đó.”

“Tokens giờ đây là những đơn vị doanh thu sinh lời.” Jensen hiện đang tóm tắt lại luồng thực thi cho Agentic AI và các agent (tác nhân) riêng lẻ. Ông cho xem các ví dụ về các prompt/dự án mã hóa AI đơn giản.

“Đây hiện là mô hình điện toán mới.” “Trong hai năm qua, chúng tôi đã xây dựng hướng tới điều này, và giờ nó đã đến.” Và để đưa mọi thứ trở lại với NVIDIA, Jensen nói về cách các thư viện CUDA-X của công ty đã giúp mang lại tất cả những điều này.

 “Mô hình điện toán của phần mềm sẽ thay đổi.”

Các agent của ngày mai sẽ là những người sử dụng công cụ rất tinh vi. Điều này sẽ khiến các thư viện CUDA-X trở nên vô cùng quan trọng đối với chúng. Các thư viện CUDA-X sẽ đi kèm với các bộ kỹ năng (skills) để giúp các agent hiểu cách thực hiện nhiệm vụ. Và tất cả những điều này sẽ yêu cầu một bộ sưu tập phần cứng khổng lồ: GPU cho LLM (Mô hình ngôn ngữ lớn), CPU để điều phối, bộ nhớ, DPU, v.v.

Hệ sinh thái Vera Rubin & DSX AI Factory

Đó là lý do tại sao NVIDIA xây dựng toàn bộ hệ sinh thái Vera Rubin của mình. The full stack (toàn bộ ngăn xếp).

Rốt cuộc, các đối tác của NVIDIA không chỉ muốn mua máy tính, mà họ muốn xây dựng các "Nhà máy AI" (AI Factories).

Đó là lý do tại sao NVIDIA lại bắt đầu chuyển mình một lần nữa.

NVIDIA DSX chính là bản thiết kế (blueprint) để xây dựng các nhà máy này.

Tất cả bắt đầu bằng các mô phỏng (simulations) trước khi bất kỳ thứ gì được xây dựng vật lý. Sau khi cơ sở hạ tầng vật lý được hoàn thành, phần mềm của NVIDIA là bước tiếp theo.

DSX MaxLPS giúp các nhà điều hành trung tâm dữ liệu quản lý mức tiêu thụ điện năng và chạy nhiều phần cứng hơn ở một mức ngân sách điện nhất định.

Và DSX Flex để hợp tác với các nhà cung cấp năng lượng nhằm thu hẹp mức tiêu thụ điện năng của trung tâm dữ liệu khi nguồn năng lượng hiện có ở mức thấp.

Chi phí cho một gigawatt cơ sở hạ tầng AI sẽ chạm mức 100 tỷ đô la. Đó là lý do tại sao các mô phỏng lại cực kỳ quan trọng; không có chỗ cho sai sót.

Jensen đang nói về các công ty cung cấp dịch vụ đám mây và phần cứng được xây dựng từ phần cứng/phần mềm của NVIDIA. “Điện toán giờ là doanh thu. Điện toán là lợi nhuận.”

Và tóm tắt lại cách NVIDIA đã xây dựng tất cả những điều này, cho phép họ tạo ra một hệ sinh thái kết hợp cả phần cứng lẫn phần mềm có tốc độ thiết lập nhanh hơn và hiệu năng cao hơn bất kỳ thứ gì khác. Đồng thiết kế cực hạn (Extreme co-design) trong thực tế.

“1 gigawatt nghĩa là 1 gigawatt. Đó là toàn bộ nguồn điện bạn có thể tạo ra.”

Thông lượng trên mỗi Watt (Throughput per Watt) chính là doanh thu. Những con chip rẻ hơn sẽ chẳng giúp ích gì nếu chi phí vận hành chúng đắt đỏ hơn. “Bạn càng mua nhiều, bạn càng kiếm được nhiều.”

Trong khi đó, phần mềm cho các hệ thống này đang thay đổi từng ngày. AI đã thay đổi hoàn toàn kể từ thời Hopper, chứ đừng nói đến Ampere. Từ LLMs sang MoE và giờ là Agentic. “Bạn không thể dự đoán hệ thống của mình sẽ kéo dài được bao lâu. Nhưng tôi có thể.”

Jensen hứa hẹn tuổi đời hiệu dụng sẽ lâu dài hơn cho phần cứng NVIDIA.

“AI hữu ích đã ở đây. AI sinh lời đã ở đây.” Và để hỗ trợ cho điều đó, Jensen tuyên bố rằng Vera Rubin hiện đã đi vào sản xuất hàng loạt (full production). Trong khi đó, thời gian lắp ráp đã giảm xuống. Một rack Grace Blackwell giờ đây rõ ràng có thể được lắp ráp chỉ trong vòng 5 phút.

“Cảm ơn Đài Loan.”

Jensen gửi lời cảm ơn mọi người vì đã đưa Vera Rubin vào sản xuất hàng loạt.

(Một clip ngắn được phát về Vera Rubin, bao gồm các trích đoạn ngắn của các nhà cung cấp Đài Loan tham gia vào hệ sinh thái Vera Rubin như TSMC và Foxconn.)

Vera Rubin không chỉ được chế tạo để chạy AI, mà nó được tạo ra để chạy các Agent (tác nhân). Cỗ máy tính có thể chạy các agent sẽ là cỗ máy tính tiên tiến nhất trên thế giới.

(Jensen mang ra một tủ rack Vera Rubin) NVL72. Groq. Các rack CPU Vera. Các rack mạng. “Chi phí token của NVIDIA là thấp nhất thế giới” nhờ vào khả năng đồng thiết kế cực hạn và sự am hiểu của NVIDIA về inference (suy luận), dẫn đến sự ra đời của NVL72.

Không có dây cáp nào trong một khay điện toán (compute tray) của Vera Rubin. NVIDIA giờ đã là công ty mạng lưới lớn nhất trên thế giới.

Vera CPU: Trái tim của Kỷ nguyên AI Agent

Bây giờ, hãy chuyển sang một ngành công nghiệp lớn tiếp theo mà NVIDIA sẽ góp mặt. “Hãy nói về CPU.” Vera CPU được chế tạo cho kỷ nguyên của AI. “Các Agent rất mất kiên nhẫn.” “Việc chúng ta làm cho các CPU có độ trễ thấp nhất có thể là điều sống còn.”

Jensen hiện đang phác thảo cách các CPU Vera được sử dụng trong nhiều loại tray khác nhau của NVIDIA. Các rack điện toán Vera Rubin, rack CPU và sau đó là các rack lưu trữ. “NVIDIA vốn đã là một trong những nhà sản xuất CPU lớn nhất thế giới.” CPU giờ đây là một phần trong "con đường sống còn" của phần đắt đỏ nhất trong trung tâm dữ liệu.

Nhắc lại các thông số kỹ thuật phần cứng cho Vera mà NVIDIA đã tiết lộ trước đó. Hiệu năng đơn luồng (single-threaded) phải ở đẳng cấp thế giới. IPC "cao nhất thế giới". Băng thông trên mỗi nhân và băng thông tổng thể cũng cực kỳ quan trọng. Vera đang ở giới hạn reticle. “Không bị đánh thuế chiplet” (No chiplet tax - ý chỉ không bị suy giảm hiệu năng do cấu trúc chiplet).

Jensen tiếp tục nhấn mạnh về mức băng thông mà con chip này cung cấp, cả cho cấu trúc nội bộ (fabric) lẫn bên ngoài. Nó là một CPU được tạo ra cho người dùng agent, chứ không phải cho con người. Các CPU này cần phải có hiệu năng cao, nhưng cũng phải tiết kiệm năng lượng. (Năng lượng tiêu thụ cho CPU sẽ lấy đi năng lượng có thể được dùng để tạo token). Đủ để nói rằng, NVIDIA tin rằng họ sẽ dẫn đầu ở mảng này.

(Phát một video về CPU Vera) NVIDIA tuyên bố rằng Vera sẽ mang lại hiệu năng agentic gấp 1.8 lần so với các CPU x86. “Vera là CPU dành cho kỷ nguyên của các Agent.” “Đây sẽ là động lực tăng trưởng chính mới của chúng tôi.”

“Vera sẽ là CPU agentic tối ưu nhất trên thế giới” nhờ vào tất cả những công việc tối ưu hóa vốn đã được đưa vào để mang các khối lượng công việc hiện tại lên Grace.

Jensen tiết lộ một chút về các benchmark ban đầu của Vera. Tốc độ xử lý SQL nhanh hơn 3 lần. “Vera hoàn toàn mang tính cách mạng.”

Các công ty lớn về AI/Agentic – OpenAI, Anthropic, SpaceX – sẽ là những "early adopters" (người tiên phong ứng dụng) Vera. “Thị trường này chắc chắn sẽ lớn hơn thị trường trước đó” bởi vì sẽ có nhiều agent hơn là con người. Và đó là Vera.

Công cụ phát triển & Tối ưu AI cho doanh nghiệp

Quay trở lại mô hình ứng dụng cho AI Agentic. Công bố bộ công cụ NVIDIA Agent Toolkit for Enterprise AI. AI cần mô hình (models), hệ thống khai thác (harnesses), công cụ & kỹ năng (tools & skills), và môi trường thực thi (runtime). NVIDIA cung cấp tất cả những thứ đó bằng bộ công cụ của họ.

Các mô hình mở (Open models). Và OpenShell để chạy chúng trong khi vẫn đảm bảo quyền riêng tư và bảo mật. Các agent này sẽ được sử dụng như thế nào? Thiết kế chip, là điểm khởi đầu. (Phát video về thông báo hợp tác cùng Cadence và quá trình thiết kế, xác minh chip)

NVIDIA làm điều này một phần là cho chính họ; họ cần các công cụ thiết kế chip tốt cho các sản phẩm trong tương lai của chính mình. Các công cụ có thể rút ngắn nhiều tuần làm việc trong thiết kế chip xuống chỉ còn vài phút.

Công bố hôm nay: Nemotron 3 Ultra, mô hình mở tiếp theo của NVIDIA. Nemotron 3 Ultra nhanh hơn gấp 5 lần (không rõ là so với gì). Và chi phí chạy thấp hơn 30% xét về FLOPS và thời gian suy luận. Và NVIDIA hiện đang phát triển Nemotron 4.

RTX Spark (N1X): Tái phát minh Máy tính cá nhân (PC)

Có vẻ như đó là phần tổng kết về AI Agentic, ít nhất là trong trung tâm dữ liệu. Bây giờ chúng ta chuyển hướng sang điện toán cá nhân (Personal Computing). PC là nơi NVIDIA khởi nghiệp. Jensen tóm tắt lại lịch sử của PC và của Windows. Windows đã (và đang) được trừu tượng hóa khỏi phần cứng. BIOS, drivers, các lớp trừu tượng, API đa phương tiện, v.v.

“40 năm sau, Microsoft và NVIDIA sẽ tái phát minh lại chiếc PC.”

Có vẻ Jensen sẽ có mặt tại một buổi thuyết trình khác vào tối mai cùng với CEO Microsoft Satya Nadella, nơi họ sẽ nói nhiều hơn về điều này. Hệ điều hành mới chính là hệ điều hành cũ được cộng thêm các mô hình ngôn ngữ lớn (LLM). Ứng dụng hiện đại sẽ được thay thế bằng các runtime agentic.

(Phát một video về việc PC sẽ ra sao trong kỷ nguyên của Agent).

Giới thiệu RTX Spark. Tiến trình TSMC 3nm. 70 tỷ bóng bán dẫn. 20 nhân CPU. 6144 nhân CUDA.

“Chúng tôi đang tái phát minh lại máy tính cá nhân.”

Vậy ra đây chính là N1X. Được chế tạo nhờ sự hợp tác với Mediatek.

Ngay từ đầu chưa rõ con chip này khác biệt thế nào so với chip GB10 được dùng trong DGX Spark (nếu có khác). Nhờ lớp tương thích (compatibility layer) của Windows cũng như tất cả các phần mềm đã được port sang Windows-on-Arm, RTX Spark có thể chạy toàn bộ hệ sinh thái Windows. Cộng với hệ sinh thái của NVIDIA.

(Phát video về các khối lượng công việc AI agentic chạy trên RTX Spark) Trong video, một ngôi nhà đang được thiết kế bằng AI agentic, với người vận hành tinh chỉnh thiết kế.

Cũng có thông báo rằng Adobe Premiere và Photoshop đang nhận được bản cập nhật cho RTX Spark để tăng tốc độ lên gấp đôi. Công bố các dòng Laptop RTX Spark. Sẽ có mặt vào mùa thu năm nay.

Công bố ba dòng máy Windows:

• Laptop RTX Spark.

• Desktop RTX Spark (Một cỗ máy tại gia để chạy AI agentic cục bộ, không làm tăng hóa đơn điện toán đám mây - cỗ máy MSI này trông giống như bản sơn lại của hệ thống GB10 của họ).

• Và cuối cùng, DGX Station cho Windows (Dành cho các nhà phát triển trong hệ sinh thái Windows thay vì Linux, thứ mà DGX Station vốn đã hỗ trợ).

 

 

Jensen so sánh sự tiến hóa của PC với điện thoại di động. Ngày nay, mọi người không thực sự gọi điện nhiều trên smartphone nữa. Vậy PC sẽ thay đổi ra sao? Các máy tính AI agentic sẽ chạy trong nhà bạn. Jensen đang đánh cược rất mạnh vào ý tưởng về các AI agentic và tầm nhìn Copilot của Microsoft về những cỗ máy thực hiện mọi tác vụ thay cho chủ nhân.

Bản đồ lộ trình (roadmap) của RTX Spark: Sẽ có các bộ xử lý Vera Rubin và Rosa Feynman Spark nối tiếp vào năm 2028 và 2030. Và đó là RTX Spark.

Đột phá trong Robotics và Xe Tự Lái

Bây giờ chuyển hướng một lần nữa, lần này là về Robotics. Jensen đang phác thảo quy trình để đạt được các mô hình nền tảng thế giới (world foundation models). Tự vận động từ điều khiển từ xa (teleoperation) và mô phỏng đến dữ liệu tổng hợp (synthetic data), và cuối cùng là một mô hình thế giới.

Công bố NVIDIA Cosmos 3 dành cho robotics. Jensen tin rằng NVIDIA sở hữu mô hình AI tốt nhất cho robotics. (Phát video về Cosmos 3) Nói ngắn gọn, Cosmos là tất cả về việc thấu hiểu thế giới vật lý và có thể mô phỏng chính xác thế giới đó. “Bây giờ chúng ta đã có AI, điện toán chính là dữ liệu.”

Cosmos là một mô hình mở, giống như Nemotron. Dữ liệu cũng được mở. Một nơi Cosmos sẽ được sử dụng: Robotaxis (Taxi tự lái). Đặc biệt là với nền tảng Drive Hyperion của NVIDIA. (Phát video về Alpamayo và Drive Hyperion) “Alpamayo: Phương tiện tự lái có khả năng suy luận đầu tiên trên thế giới.”

Chuyển hướng nhanh sang nền tảng Isaac GROOT. Ô tô chỉ là một ứng dụng chuyên biệt của robotics. Và đối với mọi thứ khác, đã có nền tảng robotics của NVIDIA. Công bố hôm nay: NVIDIA Isaac GROOT Reference Humanoid Robot. Một robot hình người dựa trên nền tảng Jetson Thor với stack phần mềm của NVIDIA và cơ thể cùng bàn tay có độ khớp nối cực cao từ hãng Unitree. (Phát video về Isaac GROOT) “Thật nhiều robot.”

Và đó là về robotics.

Có vẻ đã đến lúc bắt đầu tóm tắt và kết thúc. Dù là trung tâm dữ liệu, PC hay robotics, tất cả đều được gắn kết với nhau bằng việc sử dụng các AI Agentic. Vera Rubin đang được sản xuất hàng loạt, Vera sẽ thay đổi thế giới CPU, PC Windows được trang bị sức mạnh của NVIDIA và tương lai của robot tích hợp AI.

“Tôi còn một điều nữa dành cho các bạn.” (One more thing) NVIDIA đã tổng hợp một video tóm tắt (recap video) được tạo ra bởi AI, giống như cách họ đã làm cho GTC vài tháng trước.

Và đó là khép lại của bài diễn thuyết NVIDIA Computex 2026.

NTC Tổng hợp

Giới thiệu

Đưa quá trình phát triển AI của bạn từ trung tâm dữ liệu đến bàn làm việc với NVIDIA DGX Spark™. NVIDIA DGX Spark cung cấp tính năng của hệ điều hành DGX cùng với hiệu năng của siêu chip NVIDIA Grace Blackwell GB10 cho các nhà phát triển và kỹ sư ở bên ngoài trung tâm dữ liệu.

Thay vì dựa vào điện toán đám mây, mượn tài nguyên từ hạ tầng điện toán của bạn hoặc dựa vào máy trạm truyền thống, NVIDIA DGX Spark cung cấp 128GB bộ nhớ và hiệu năng AI 1 petaFLOP trong một thiết bị nhỏ gọn với kích thước chỉ 15 x 15cm.

Bạn có thể khai thác khả năng phát triển AI cấp độ doanh nghiệp trong một thiết bị nhỏ gọn và triển khai NVIDIA DGX Spark trong team của bạn để đạt được mật độ hiệu năng vượt trội. Hãy cùng xem những gì DGX Spark có thể hỗ trợ trong quy trình phát triển AI của bạn.

Mang theo nó mọi lúc mọi nơi

NVIDIA DGX Spark là một nền tảng phát triển trí tuệ nhân tạo (AI) với chip xử lý NVIDIA GB10 Grace Blackwell Superchip làm trung tâm, sở hữu hiệu năng AI 1 petaFLOP, được cài đặt sẵn bộ phần mềm AI của NVIDIA và bộ nhớ hợp nhất (Unified Memory) 128GB. Tất cả được gói gọn trong một máy tính mini di động với phong cách thiết kế của máy chủ DGX. DGX Spark lý tưởng cho:

• Tinh chỉnh và triển khai AI quy mô nhỏ: Tinh chỉnh và vận hành các mô hình LLM cục bộ và AI tạo sinh.
• Xây dựng AI prototype: Khám phá các kiến ​​trúc AI khác nhau trên một thiết bị trừu tượng được kết nối trực tiếp về trung tâm dữ liệu của bạn.
• Truyền thông & Sáng tạo: Tạo video bằng AI cục bộ, Stable Diffusion và quy trình sản xuất có sự hỗ trợ của AI
• Giáo dục & Nghiên cứu: Các trường đại học có thể sử dụng DGX Spark cho nghiên cứu chương trình giảng dạy về AI thực tiễn.

NVIDIA DGX Spark là một máy trạm AI siêu di động, cho phép bạn mang theo mọi nơi. DGX Spark vừa vặn trong ba lô của bạn, vì vậy nhóm của bạn có thể mang sức mạnh tính toán đến các studio, trung tâm dữ liệu và phòng thí nghiệm. Tính linh hoạt trong triển khai và khả năng mở rộng lên cơ sở hạ tầng điện toán doanh nghiệp là điểm mạnh của DGX Spark. Đó là tất cả những gì NVIDIA hình dung cho trung tâm dữ liệu, được gói gọn trong một siêu máy tính để bàn nhỏ gọn kích thước 15 x 15 x 5cm.

Để tôn vinh sức mạnh hiệu năng của mình, NVIDIA DGX Spark sở hữu khung máy hoàn toàn bằng vàng với lưới tản nhiệt ở mặt trước và mặt sau, được mô phỏng theo NVIDIA DGX-1 nguyên bản ra mắt năm 2016.

• Siêu chip NVIDIA GB10 Grace Blackwell: Hiệu năng AI lên đến 1 petaFLOP ở độ chính xác FP4 và 31 TFLOPS ở độ chính xác FP32.
• Bộ nhớ CPU-GPU hợp nhất 128GB: Bộ nhớ hợp nhất loại bỏ nút thắt cổ chai trong việc truyền dữ liệu giữa CPU và GPU, cho phép các nhà phát triển tạo mẫu, tinh chỉnh và chạy suy luận cục bộ một cách tối ưu.
• Công nghệ mạng NVIDIA ConnectX cho phép tạo cụm máy chủ và NVIDIA NVLink-C2C cho băng thông PCIe gấp 5 lần. Các nhà phát triển có thể kết nối thêm một thiết bị NVIDIA DGX Spark thứ hai để tăng hiệu năng tính toán và bộ nhớ, hỗ trợ các mô hình AI lớn hơn.

Thông số kỹ thuật NVIDIA DGX Spark

NVIDIA DGX Spark
NVIDIA Grace CPU	20 ARM Cores (10 Cortex®-X925 + 10 Cortex-A725)
CPU Memory	128GB Unified LPDDR5X at 273 GB/s
NVIDIA GPU	NVIDIA Blackwell
Networking	1x 10Gb Ethernet
Networking NIC	NVIDIA ConnectX-7 NIC (at 200Gb Ethernet
Net. Bandwidth	Up to 200Gb/s
Storage	Up to 4TB NVMe SSD
Connectivity	WiFi 7 & Bluetooth 5.3
Output	1x HDMI 2.1a

 

Hiệu năng AI của NVIDIA DGX Spark

Thay vì dựa vào điện toán đám mây và các lệnh gọi API, DGX Spark thể hiện hiệu năng mạnh mẽ trong các tác vụ tinh chỉnh, tạo ảnh, khoa học dữ liệu và suy luận. NVIDIA đã công bố thông lượng trên các tác vụ AI với NVIDIA DGX Spark.

NVIDIA DGX Spark dành cho suy luận LLM cục bộ

DGX Spark mang lại tốc độ tạo token ấn tượng trên nhiều mô hình khác nhau. Các GPU máy trạm cao cấp hiện nay—NVIDIA RTX PRO™ 6000 Blackwell—có 96GB VRAM, trong khi DGX Spark cung cấp nhiều hơn với 128GB bộ nhớ hợp nhất. Điều này cho phép bạn chạy các mô hình lớn hơn ngay tại chỗ, ngay cả khi hiệu năng thấp hơn một chút so với RTX PRO 6000 Blackwell. Theo đánh giá chuyên môn của chúng tôi, tốc độ trên 20 token mỗi giây là hoàn toàn có thể sử dụng được.

Model	Precision	Backend	Prompt processing throughput(tokens/sec)	Token generation throughput(tokens/sec)
Qwen3 14B	NVFP4	TRT-LLM	5928.95	22.71
GPT-OSS-20B	MXFP4	llama.cpp	3670.42	82.74
GPT-OSS-120B	MXFP4	llama.cpp	1725.47	55.37
Llama 3.1 8B	NVFP4	TRT-LLM	10256.9	38.65
Qwen2.5-VL-7B-Instruct	NVFP4	TRT-LLM	65831.77	41.71
Qwen3 235B(on dual DGX Spark)	NVFP4	TRT-LLM	23477.03	11.73

 

Fine-tuning với NVIDIA DGX Spark

Với tính di động của DGX Spark, các nhà phát triển có thể tận dụng sức mạnh tính toán trong một máy trạm di động nhỏ gọn để tinh chỉnh và thử nghiệm trước khi đưa vào sản xuất. DGX Spark đưa các mô hình AI tùy chỉnh đến tay mọi người, từ những người đam mê đến các nhà phát triển và doanh nghiệp.

Model	Method	Backend	Configuration	Peak tokens/sec
Llama 3.2 3B	Full fine-tuning	PyTorch	Sequence length: 2048 Batch size: 8 Epoch: 1 Steps: 125 BF16	82,739.20
Llama 3.1 8B	LoRA	PyTorch	Sequence length: 2048 Batch size: 4 Epoch: 1 Steps: 125 BF16	53,657.60
Llama 3.3 70B	QLoRA	PyTorch	Sequence length: 2048 Batch size: 8 Epoch: 1 Steps: 125 FP4	5,079.04

 

Image Generation với NVIDIA DGX Spark

Với bộ nhớ hợp nhất 128GB và khả năng tính toán lên đến 1 petaFLOP, DGX Spark hỗ trợ quy trình xử lý hình ảnh độ phân giải cao và các mô hình tạo sinh phức tạp. Các nhà phát triển có thể tận dụng độ chính xác FP4 để đạt tốc độ lặp nhanh hoặc duy trì độ trung thực khi chất lượng là yếu tố quan trọng.

Model	Precision	Backend	Configuration	Images/min
Flux.1 12B Schnell	FP4	TensorRT	Resolution: 1024×1024 Denoising steps: 4 Batch size: 1	23
SDXL1.0	BF16	TensorRT	Resolution: 1024×1024 Denoising steps: 50 Batch size: 2	7

 

---

 

Câu hỏi thường gặp về NVIDIA DGX Spark

 

Điều gì làm cho NVIDIA DGX Spark khác biệt so với các hệ thống phát triển AI khác?

DGX Spark mang kiến ​​trúc DGX cấp doanh nghiệp của NVIDIA vào một thiết kế nhỏ gọn, tách biệt khỏi các tài nguyên tính toán chính. Với hiệu năng AI lên đến 1 petaFLOP và bộ nhớ 128GB, các nhà phát triển và nghiên cứu AI về cơ bản có một trung tâm dữ liệu di động nằm gọn trong ba lô, cho phép họ tạo mẫu, tinh chỉnh và triển khai các mô hình AI ở bất cứ đâu.

NVIDIA DGX Spark được thiết kế dành cho đối tượng nào?

DGX Spark được xây dựng dành cho các nhà phát triển, kỹ sư, nhà nghiên cứu và những người đam mê AI muốn có khả năng tính toán hiệu năng cao tại chỗ để phát triển/tạo mẫu AI, tinh chỉnh và suy luận cục bộ . DGX Spark sử dụng cùng một hệ thống backend tương tự với phần cứng NVIDIA cấp doanh nghiệp, vì vậy bạn có thể chuyển các mô hình của mình trực tiếp lên trung tâm dữ liệu hoặc đám mây một cách mượt mà.

NVIDIA DGX Spark sử dụng hệ điều hành nào?

DGX Spark chạy hệ điều hành DGX OS , cùng môi trường được sử dụng trong các hệ thống trung tâm dữ liệu của NVIDIA. Nó cũng được cài đặt sẵn toàn bộ bộ phần mềm AI của NVIDIA, bao gồm CUDA, cuDNN, TensorRT và các container Docker được cấu hình sẵn, hoàn toàn tương thích với các framework phổ biến như PyTorch, TensorFlow và JAX .

Tôi có thể ghép nhiều thiết bị NVIDIA DGX Spark lại với nhau thành một nhóm được không?

Được. Với hỗ trợ kết nối mạng ConnectX-7 tích hợp sẵn (200 Gbps), bạn có thể kết nối nhiều thiết bị DGX Spark để tăng dung lượng bộ nhớ, xử lý song song, huấn luyện mô hình phân tán và nhiều hơn nữa.

Tôi có thể mua thiết bị NVIDIA DGX Spark ở đâu?

DGX Spark được cung cấp bởi Nhất Tiến Chung thông qua các sản phẩm OEM như ASUS Ascent GX10 và MSI EdgeXpert MS-C931 (hoàn toàn tương đương với NVIDIA DGX Spark Founder's Edition, chỉ khác về thiết kế và chính sách hỗ trợ theo từng hãng).

Phần kết luận

NVIDIA DGX Spark thay đổi cách các chuyên gia AI tiếp cận sức mạnh tính toán cấp doanh nghiệp, cung cấp khả năng tương đương trung tâm dữ liệu trong một máy trạm mini nhỏ gọn. Mang sức mạnh đến với các kỹ sư và nhà sáng tạo của bạn để tăng cường nền tảng AI, chạy suy luận LLM cá nhân và tạo mẫu các giải pháp AI mới mà không bị hạn chế về hạ tầng điện toán.

Kết hợp kiến ​​trúc Grace Blackwell tiên tiến với khả năng tích hợp phần mềm liền mạch và các tùy chọn kết nối mở rộng, DGX Spark được thiết kế dành riêng cho những người mong muốn tính di động, hiệu năng và khả năng tương thích với hệ sinh thái AI của NVIDIA.

Đặt mua NVIDIA DGX Spark thông qua NTC, đối tác NPN cấp độ Elite của NVIDIA. Khai thác hiệu năng và tính linh hoạt chưa từng có cho dự án đột phá tiếp theo của bạn.

Tăng tốc quá trình huấn luyện AI trên NVIDIA DGX Spark

Mang sức mạnh tính toán AI doanh nghiệp đi bất cứ đâu. NVIDIA DGX Spark cung cấp hiệu năng lên đến 1 petaFLOP trong một thiết kế nhỏ gọn 15 x 15 x 5cm. Khai thác sức mạnh trung tâm dữ liệu trong ba lô của bạn. Hiện đã có sẵn thông qua Nhất Tiến Chung.

Nhận báo giá ngay hôm nay!

Trí tuệ nhân tạo (AI) đang định hình lại cách nhân loại học tập và làm việc. Tuy nhiên, liệu công nghệ này có đang được tiếp cận một cách bình đẳng trên toàn cầu? Mới đây, Viện Kinh tế AI của Microsoft (Microsoft AI Economy Institute) đã công bố báo cáo "Global AI Adoption in 2025—A Widening Digital Divide", mang đến một cái nhìn dữ liệu toàn diện về sự dịch chuyển trong việc ứng dụng AI của các quốc gia trong nửa cuối năm 2025. Hãy cùng Nhất Tiến Chung đi sâu vào những điểm nhấn đáng chú ý nhất của bản báo cáo này.

Cột mốc mới: 1/6 dân số thế giới đang sử dụng AI tạo sinh

Sự bùng nổ của AI tạo sinh (Generative AI) không hề có dấu hiệu hạ nhiệt. Theo dữ liệu, tính đến cuối năm 2025, tỷ lệ dân số toàn cầu sử dụng AI tạo sinh đã đạt mức 16.3% (tăng 1.2 điểm phần trăm so với nửa đầu năm). Điều này đồng nghĩa với việc cứ 6 người trên thế giới thì có 1 người thường xuyên sử dụng các công cụ AI để học tập, làm việc hoặc giải quyết các vấn đề hàng ngày. Đây là một tốc độ phổ cập kỷ lục đối với một công nghệ chỉ mới bước ra thị trường đại chúng chưa lâu.

Báo động: "Khoảng cách số" ngày càng nới rộng

Dù AI mang lại nhiều lợi ích, nhưng bản báo cáo đã chỉ ra một sự thật đáng lo ngại: Lợi ích của AI đang không được phân bổ đồng đều.

• Tại nhóm các quốc gia phát triển (Global North), tốc độ ứng dụng AI tăng trưởng nhanh gấp gần hai lần so với nhóm các nước đang phát triển (Global South).

• Hệ quả là, 24.7% lực lượng lao động tại Global North hiện đang sử dụng AI, trong khi con số này ở Global South chỉ khiêm tốn ở mức 14.1%.

• Top 10 quốc gia có mức tăng trưởng ứng dụng AI lớn nhất thế giới hiện nay đều là các nền kinh tế có thu nhập cao. Khoảng cách số đang bị nới rộng từ 9.8 lên thành 10.6 điểm phần trăm chỉ trong vòng nửa năm.

Bảng xếp hạng cường quốc AI: UAE giữ vững ngôi vương, Hàn Quốc bứt phá ngoạn mục

Danh sách các quốc gia dẫn đầu về tỷ lệ ứng dụng AI không có nhiều xáo trộn, phần lớn thuộc về những nước đã đầu tư sớm vào hạ tầng kỹ thuật số và đào tạo kỹ năng AI:

• UAE (Các Tiểu vương quốc Ả Rập Thống nhất) tiếp tục củng cố vị trí Top 1 thế giới. Từ mức 59.4% ở nửa đầu năm, UAE đã vọt lên mức 64.0% tỷ lệ người trong độ tuổi lao động sử dụng AI. Bám sát ở vị trí thứ hai là Singapore với 60.9%.

• Điểm sáng lớn nhất gọi tên Hàn Quốc: Xứ sở kim chi đã nhảy vọt 7 bậc (từ vị trí 25 lên thứ 18 thế giới). Tỷ lệ ứng dụng AI tăng mạnh từ 25.9% lên 30.7%. Sự bứt phá này đến từ 3 yếu tố: Chính sách đẩy mạnh AI của chính phủ; Sự nâng cấp vượt bậc của các mô hình tiên tiến (như GPT-4o, GPT-5) đối với tiếng Hàn; và một "cơn sốt" văn hóa trên mạng xã hội khi người dùng đua nhau tạo ảnh AI mang phong cách Ghibli.

Nghịch lý của nước Mỹ

Nước Mỹ hiện đang dẫn đầu thế giới về hạ tầng AI và phát triển các siêu mô hình (Frontier Models). Tuy nhiên, Mỹ lại bị tụt từ hạng 23 xuống vị trí thứ 24 toàn cầu về mức độ ứng dụng thực tế trong dân số (chỉ đạt 28.3%). Điều này cho thấy việc sở hữu công nghệ cốt lõi không đồng nghĩa với việc công nghệ đó được phủ sóng rộng rãi trong đời sống dân sự, đặc biệt khi so sánh với các quốc gia có quy mô nhỏ hơn nhưng mức độ số hóa cao hơn.

Sự trỗi dậy của DeepSeek và cuộc đua "Mở" hóa AI

Một trong những diễn biến quan trọng nhất cuối năm 2025 là sự bùng nổ của DeepSeek - nền tảng AI mã nguồn mở. Bằng việc cấp phép theo chuẩn MIT (hoàn toàn miễn phí) và cung cấp chatbot không thu phí, DeepSeek đã gỡ bỏ hoàn toàn rào cản kỹ thuật lẫn tài chính.

DeepSeek đang thu hút lượng lớn người dùng tại Trung Quốc, Nga, Iran và đặc biệt là sự tăng trưởng vũ bão tại khu vực Châu Phi (thông qua các quan hệ đối tác chiến lược như Huawei). Điều này không chỉ đánh dấu một cuộc đua khốc liệt giữa Mỹ và Trung Quốc trong việc lan tỏa mô hình AI quốc gia, mà còn cho thấy AI mã nguồn mở đang là chìa khóa để "phổ cập AI" cho nhóm hàng tỷ người dùng tiếp theo, đặc biệt là tại các khu vực vốn gặp nhiều khó khăn trong việc tiếp cận công nghệ.

Việt Nam đang ở đâu trên bản đồ AI toàn cầu?

Theo dữ liệu chi tiết từ báo cáo của Microsoft, Việt Nam đang cho thấy những bước tiến vô cùng tích cực. Tỷ lệ ứng dụng AI trong nước đã tăng từ 21.2% (nửa đầu năm 2025) lên 23.5% (nửa cuối năm 2025) – đạt mức tăng 2.3 điểm phần trăm.

Sự tăng trưởng ổn định này chứng tỏ người dùng và doanh nghiệp Việt Nam đang ngày càng cởi mở, nhanh nhạy trong việc đưa các công cụ trí tuệ nhân tạo vào quy trình làm việc và sáng tạo.

Lời kết

Báo cáo Global AI Adoption 2025 cho chúng ta thấy một bức tranh đa sắc: AI đang lan tỏa với tốc độ đáng kinh ngạc, nhưng song song đó, nguy cơ tụt hậu của các khu vực thiếu thốn hạ tầng cũng đang hiển hiện.

Tại Nhất Tiến Chung, chúng tôi tin rằng, để thực sự tận dụng được làn sóng này, các doanh nghiệp và cá nhân không chỉ cần công nghệ, mà còn cần những chiến lược tích hợp thực tiễn, trang bị kỹ năng số và hướng tới việc dân chủ hóa AI. Cuộc đua AI không chỉ là tạo ra mô hình thông minh nhất, mà là làm sao để công nghệ đó phục vụ được nhiều người nhất!

→ Xem bài gốc tại: https://www.microsoft.com/en-us/corporate-responsibility/topics/ai-economy-institute/reports/global-ai-adoption-2025/

Nguồn: Microsoft AI Economy Institute - Dịch và tổng hợp bởi NTC

Trong bối cảnh trí tuệ nhân tạo (AI) đang chuyển mình mạnh mẽ từ các mô hình thử nghiệm sang ứng dụng thực tiễn ở quy mô lớn, hạ tầng CNTT truyền thống đang đối mặt với những thách thức chưa từng có. Để huấn luyện các mô hình ngôn ngữ lớn (LLM) hay vận hành các hệ thống tính toán hiệu năng cao (HPC), doanh nghiệp không chỉ cần những chiếc máy chủ mạnh mẽ mà cần một hệ thống tích hợp toàn diện.

Nắm bắt xu hướng đó, Gigabyte đã giới thiệu GIGAPOD – giải pháp hạ tầng quy mô tủ rack (rack-scale) thế hệ mới. Với tư cách là Nhà phân phối chính thức các sản phẩm máy chủ doanh nghiệp Gigabyte tại Việt Nam, Nhất Tiến Chung xin giới thiệu chi tiết về giải pháp "chìa khóa trao tay" này – một nền tảng sức mạnh giúp doanh nghiệp hiện thực hóa các mục tiêu AI tham vọng nhất.

GIGAPOD là gì? Định nghĩa lại hạ tầng Trung tâm dữ liệu

GIGAPOD không đơn thuần là một cụm máy chủ đặt cạnh nhau. Đây là một giải pháp Rack-Scale trọn gói (Turnkey Solution), được thiết kế để hoạt động như một thực thể tính toán thống nhất.

Thay vì khách hàng phải tự mình lựa chọn từng linh kiện, cấu hình switch, và loay hoay với việc tối ưu hóa tản nhiệt, GIGAPOD cung cấp một kiến trúc đã được kiểm chứng (validated architecture). Một hệ thống GIGAPOD tiêu chuẩn thường bao gồm nhiều tủ rack chứa các máy chủ GPU, hệ thống lưu trữ, switch mạng và phần mềm quản lý, tất cả được tối ưu để đạt hiệu suất cao nhất ngay khi triển khai.

Những đặc điểm nổi bật tạo nên sức mạnh của GIGAPOD

Kiến trúc linh hoạt và khả năng mở rộng không giới hạn

Điểm mạnh nhất của GIGAPOD chính là khả năng mở rộng (Scalability). Doanh nghiệp có thể bắt đầu với quy mô nhỏ và mở rộng dần theo nhu cầu:

• Cấu hình cơ bản: Một cụm GIGAPOD tiêu chuẩn có thể bao gồm 32 node máy chủ GPU, cung cấp tổng cộng 256 GPU được kết nối với nhau.

• Mở rộng linh hoạt: Nhờ thiết kế module, các doanh nghiệp có thể kết nối nhiều cụm GIGAPOD lại với nhau để tạo thành một "AI Factory" khổng lồ với hàng nghìn GPU, phục vụ cho các siêu dự án tính toán.

Tích hợp những bộ vi xử lý mạnh mẽ nhất thế giới

GIGAPOD là minh chứng cho mối quan hệ hợp tác sâu rộng giữa Gigabyte và các "ông lớn" trong ngành bán dẫn. Hệ thống hỗ trợ đa dạng các nền tảng tăng tốc hàng đầu:

• NVIDIA HGX™ H100/H200 & Blackwell: Tận dụng sức mạnh từ các GPU Tensor Core mới nhất, kết nối qua công nghệ NVLink tốc độ siêu cao.

• AMD Instinct™ MI300X/MI325X: Lựa chọn tối ưu cho các tác vụ HPC và đào tạo mô hình AI quy mô lớn với băng thông bộ nhớ cực khủng.

• Intel® Gaudi® 3: Mang lại hiệu quả kinh tế cao cho các tác vụ suy luận (inference) và huấn luyện AI chuyên biệt.

Hệ thống mạng tốc độ cao – Huyết mạch của hệ thống

Để 256 GPU (hoặc hơn) có thể làm việc cùng nhau như một bộ não duy nhất, GIGAPOD sử dụng các giải pháp mạng tiên tiến nhất như NVIDIA Quantum-2 InfiniBand hoặc Spectrum-X Ethernet. Việc tối ưu hóa cấu trúc mạng giúp giảm thiểu độ trễ và tối đa hóa băng thông giữa các node, đảm bảo rằng không có "nút thắt cổ chai" nào cản trở quá trình tính toán.

Giải pháp tản nhiệt: Chìa khóa cho sự bền bỉ

Mật độ tính toán cực cao đồng nghĩa với lượng nhiệt tỏa ra khổng lồ. GIGAPOD cung cấp hai tùy chọn tản nhiệt tiên tiến để phù hợp với hạ tầng sẵn có của doanh nghiệp:

• Tản nhiệt gió (Air Cooling): Được thiết kế tối ưu hóa luồng khí, phù hợp với các trung tâm dữ liệu truyền thống có hệ thống điều hòa công suất lớn.

• Tản nhiệt lỏng trực tiếp (Direct Liquid Cooling - DLC): Đây là giải pháp cho tương lai. Bằng cách dẫn chất lỏng trực tiếp đến các linh kiện nóng nhất (CPU, GPU), DLC giúp giảm đáng kể năng lượng tiêu thụ cho làm mát (giảm chỉ số PUE), đồng thời cho phép duy trì hiệu suất đỉnh cao trong thời gian dài mà không bị giảm xung do quá nhiệt.

Phần mềm quản trị GIGABYTE POD Manager (GPM)

Phần cứng mạnh mẽ cần một "bộ chỉ huy" thông minh. GIGAPOD đi kèm với phần mềm GPM (GIGABYTE POD Manager) – một bộ công cụ quản trị tập trung giúp đội ngũ IT:

• Theo dõi trạng thái sức khỏe của từng linh kiện trong toàn bộ tủ rack.

• Điều phối tài nguyên tính toán một cách linh hoạt theo từng dự án.

• Tối ưu hóa tiêu thụ điện năng và quản lý nhiệt độ theo thời gian thực.

• Tự động hóa quá trình triển khai và cập nhật hệ thống, giảm thiểu sai sót do con người.

Lợi ích vượt trội cho khách hàng doanh nghiệp

Khi lựa chọn giải pháp GIGAPOD do Nhất Tiến Chung cung cấp, doanh nghiệp sẽ nhận được những giá trị thiết thực:

1. Rút ngắn thời gian triển khai (Time-to-Market): Thay vì mất hàng tháng để thiết kế và lắp ráp, giải pháp GIGAPOD được chuẩn hóa giúp doanh nghiệp nhanh chóng đi vào vận hành.

2. Đảm bảo tính tương thích tuyệt đối: Mọi thành phần từ phần cứng đến phần mềm đều đã được Gigabyte kiểm thử kỹ lưỡng, loại bỏ rủi ro xung đột hệ thống.

3. Tối ưu hóa chi phí vận hành: Với thiết kế tiết kiệm năng lượng và quản trị tập trung, GIGAPOD giúp giảm chi phí điện và nhân sự vận hành về lâu dài.

4. Hỗ trợ kỹ thuật chuyên sâu: Sự kết hợp giữa đội ngũ kỹ sư của Gigabyte và Nhất Tiến Chung đảm bảo hệ thống luôn hoạt động ổn định 24/7.

Nhất Tiến Chung – Đối tác tin cậy mang công nghệ Gigabyte đến Việt Nam

Việc triển khai một hệ thống quy mô Rack-Scale như GIGAPOD đòi hỏi đơn vị cung cấp không chỉ có tiềm lực về tài chính mà còn phải có năng lực chuyên môn cao.

Nhất Tiến Chung đã chính thức trở thành nhà phân phối các sản phẩm máy chủ doanh nghiệp của Gigabyte tại thị trường Việt Nam. Sự hợp tác chiến lược này không chỉ mang lại cho khách hàng cơ hội tiếp cận sớm nhất với các công nghệ máy chủ GPU, lưu trữ và các giải pháp Rack-Scale tiên tiến như GIGAPOD, mà còn đi kèm với cam kết về dịch vụ hậu mãi, bảo hành chính hãng và hỗ trợ tư vấn giải pháp từ các chuyên gia hàng đầu.

Cuộc đua AI không chờ đợi bất kỳ ai. Với GIGAPOD, doanh nghiệp của bạn sẽ sở hữu một "đòn bẩy" sức mạnh để bứt phá và dẫn đầu trong kỷ nguyên số. Hãy liên hệ ngay với Nhất Tiến Chung để được tư vấn chi tiết về lộ trình xây dựng hạ tầng AI tối ưu nhất cho doanh nghiệp mình.

NVIDIA hôm nay đã công bố bắt đầu xuất xưởng NVIDIA DGX Spark, ​​siêu máy tính AI nhỏ nhất thế giới, và giao đến tay khách hàng trên toàn cầu.

Các tải công việc AI đang nhanh chóng vượt quá khả năng của bộ nhớ và phần mềm trên PC, máy trạm và máy tính xách tay mà hàng triệu nhà phát triển đang sử dụng hiện nay — buộc các nhóm phải chuyển công việc của họ sang đám mây hoặc trung tâm dữ liệu tại chỗ.

Là một thế hệ máy tính mới, DGX Spark mang đến hiệu năng AI lên đến cấp độ petaflop và bộ nhớ hợp nhất 128GB trong một thiết kế máy tính để bàn nhỏ gọn, cho phép các nhà phát triển chạy suy luận trên các mô hình AI với tối đa 200 tỷ tham số và tinh chỉnh các mô hình lên đến 70 tỷ tham số cục bộ. Ngoài ra, DGX Spark cho phép các nhà phát triển tạo ra các AI agent và chạy các lớp phần mềm tiên tiến cục bộ.

“Năm 2016, chúng tôi đã xây dựng DGX-1 để cung cấp cho các nhà nghiên cứu AI siêu máy tính riêng. Tôi đã tận tay giao hệ thống đầu tiên cho Elon Musk tại một công ty khởi nghiệp nhỏ tên là OpenAI — và từ đó ChatGPT ra đời, khởi đầu cho cuộc cách mạng AI,” Jensen Huang, nhà sáng lập kiêm CEO của NVIDIA, cho biết. “DGX-1 đã mở ra kỷ nguyên của siêu máy tính AI và mở ra những quy luật mở rộng thúc đẩy AI hiện đại. Với DGX Spark, chúng tôi quay trở lại với sứ mệnh đó — trao một máy tính AI vào tay mỗi nhà phát triển để khơi nguồn làn sóng đột phá tiếp theo.”

DGX Spark kết hợp toàn bộ nền tảng AI của NVIDIA — bao gồm GPU, CPU, mạng, thư viện CUDA và bộ phần mềm NVIDIA AI — thành một hệ thống đủ nhỏ gọn cho phòng thí nghiệm hoặc văn phòng, nhưng vẫn đủ mạnh mẽ để tăng tốc quá trình phát triển AI tác nhân và AI vật lý. Bằng cách kết hợp hiệu suất đột phá với khả năng tiếp cận liền mạch đến hệ sinh thái NVIDIA, DGX Spark biến máy tính để bàn thành một nền tảng phát triển AI.

Hệ thống DGX Spark cung cấp hiệu suất AI lên tới 1 petaflop, được tăng tốc bởi siêu chip mới NVIDIA GB10 Grace Blackwell, mạng NVIDIA ConnectX-7 200Gbps và công nghệ NVIDIA NVLink-C2C, cung cấp băng thông gấp 5 lần PCIe Gen 5 với bộ nhớ kết hợp CPU-GPU 128GB.

Bộ phần mềm NVIDIA AI được cài đặt sẵn để các nhà phát triển có thể bắt đầu làm việc trên các dự án AI ngay lập tức. Với DGX Spark, các nhà phát triển có thể truy cập các công cụ trong hệ sinh thái AI của NVIDIA bao gồm mô hình, thư viện và các microservice NVIDIA NIM, cho phép thực hiện các quy trình làm việc cục bộ như tùy chỉnh mô hình FLUX.1 của Black Forest Labs để tinh chỉnh quá trình tạo hình ảnh, tạo tác nhân tìm kiếm và tóm tắt thị giác bằng mô hình ngôn ngữ thị giác NVIDIA Cosmos Reason, hoặc xây dựng chatbot AI bằng Qwen3 được tối ưu hóa cho DGX Spark.

Để chào mừng việc DGX Spark được vận chuyển đến khách hàng trên toàn thế giới, hôm nay, tại Starbase, Texas, Huang đã đích thân trao tặng một trong những thiết bị DGX Spark đầu tiên cho Elon Musk, kỹ sư trưởng của SpaceX. Buổi trao đổi này là một sự kết nối với nguồn gốc của siêu máy tính, bởi Musk là một trong những người đầu tiên nhận được siêu máy tính NVIDIA DGX-1 từ Huang vào năm 2016.

Những nơi khác nhận được DGX Spark sớm, bao gồm Anaconda  Cadence, ComfyUI, Docker, Google, Hugging Face, JetBrains, LM Studio, Meta, Microsoft, Ollama và Roboflow, đang thử nghiệm, xác thực và tối ưu hóa các công cụ, phần mềm và mô hình của họ cho DGX Spark.

Các tổ chức nghiên cứu trên toàn thế giới, bao gồm NYU Global AI Frontier Lab, đã được thử nghiệm trước DGX Spark để thúc đẩy quá trình phát triển AI của họ.

“DGX Spark cho phép chúng tôi tiếp cận điện toán peta-scale ngay trên máy tính để bàn”, Kyunghyun Cho, giáo sư khoa học máy tính và dữ liệu tại Phòng thí nghiệm Global AI Frontier thuộc Đại học New York, cho biết. “Cách thức thực thi nghiên cứu và phát triển AI mới này cho phép chúng tôi nhanh chóng tạo nguyên mẫu và thử nghiệm các thuật toán và mô hình AI tiên tiến — ngay cả đối với các ứng dụng nhạy cảm về quyền riêng tư và bảo mật, chẳng hạn như chăm sóc sức khỏe.”

NVIDIA DGX Spark chính thức lên kệ

Bắt đầu từ thứ Tư, ngày 15 tháng 10, bạn có thể đặt hàng DGX Spark trên NVIDIA.com. Các hệ thống đối tác sẽ có sẵn tại ASUS MSI, GIGABYTE, Dell Technologies, HP, Lenovo cũng như các cửa hàng Micro Center tại Hoa Kỳ và từ các đối tác kênh của NVIDIA trên toàn thế giới.

Nhất Tiến Chung hiện đang phân phối sản phẩm này qua kênh đối tác Thế Giới Máy Chủ với các ưu đãi đặt sớm, cùng chính sách bảo hành và hỗ trợ sau bán hàng.

→ Đặt hàng DGX Spark: https://aipc.thegioimaychu.vn/

 

Thế giới Trí tuệ Nhân tạo (AI), đặc biệt là lĩnh vực AI Tạo sinh (Generative AI) và các Mô hình Ngôn ngữ Lớn (LLM), đang đòi hỏi sức mạnh tính toán vượt ra ngoài giới hạn vật lý hiện tại. NVIDIA Blackwell không chỉ là một kiến trúc GPU mới; nó là một nền tảng điện toán toàn diện được thiết kế để giải quyết những thách thức về vấn đề gia tăng quy mô, hiệu suất xử lý và hiệu quả sử dụng điện năng trong kỷ nguyên AI hàng nghìn tỷ tham số.

Kiến trúc Blackwell GPU: Đột phá từ chiplet với hàng tỷ bóng bán dẫn

Kiến trúc Blackwell là sự kế thừa mang tính cách mạng từ thế hệ Hopper, tập trung giải quyết vấn đề lớn nhất của việc huấn luyện mô hình: tắc nghẽn truyền dẫn và hiệu suất sử dụng điện năng.

1. Cấu tạo và công nghệ sản xuất

• Mật độ tuyệt đối: GPU Blackwell, ví dụ như B200 GPU, là một kỳ tích kỹ thuật với 208 tỷ bóng bán dẫn. NVIDIA đạt được điều này bằng cách sử dụng kiến trúc chiplet (hay multi-die) tiên tiến.
• Kết nối chip-to-Chip (C2C) 10 TB/s: Hai khuôn (dies) Blackwell được kết nối vật lý với nhau bằng một giao diện băng thông 10 Terabytes/giây (TB/s), giúp chúng hoạt động như một GPU thống nhất. Điều này cho phép mở rộng quy mô tính toán mà vẫn duy trì băng thông nội tại cực cao.
• Bộ nhớ HBM3e: Tích hợp bộ nhớ băng thông cao HBM3e với tổng băng thông bộ nhớ cực lớn (ví dụ: lên tới 8TB/s cho B200), đảm bảo GPU luôn được cấp dữ liệu kịp thời.

2. Công nghệ Tensor Core thế hệ mới

• Hỗ trợ độ chính xác FP4: Blackwell giới thiệu việc hỗ trợ cho định dạng FP4 (4-bit Floating point) mới, một bước tiến lớn so với FP8 của thế hệ trước. Đối với suy luận AI (AI Inference), việc giảm độ chính xác xuống FP4 giúp tăng mật độ tính toán lên gấp đôi, từ đó mang lại tốc độ suy luận nhanh hơn tới 30 lần cho các LLM khổng lồ.
• Công nghệ Transformer Engine thế hệ 2: Bộ phận này được thiết kế lại để quản lý việc truyền dẫn dữ liệu và tính toán với độ chính xác hỗn hợp (mixed-precision) hiệu quả hơn. Nó tự động điều chỉnh việc sử dụng các định dạng số như FP8, FP6, và FP4, đảm bảo độ chính xác của mô hình trong khi tối đa hóa thông lượng.

Grace Blackwell Superchip (GB200): Xóa bỏ nút thắt băng thông

GB200 Superchip là thành phần cơ bản và là đỉnh cao của triết lý điện toán tăng tốc của NVIDIA: Tích hợp sâu (Deep integration).

1. Kiến trúc Superchip

GB200 kết hợp một NVIDIA Grace CPU (72 lõi Arm neoverse V2) cùng với hai NVIDIA Blackwell GPU thành một Superchip duy nhất.

Thành phần	Vai trò chính	Đặc điểm kỹ thuật
Grace CPU	Xử lý dữ liệu, OS, các tác vụ không tăng tốc	72 Lõi Arm neoverse V2, Bộ nhớ LPDDR5X dung lượng lớn (480GB)
Blackwell GPU (x2)	Huấn luyện/Suy luận AI, HPC	208 Tỷ bóng bán dẫn, Bộ nhớ HBM3e băng thông cao

2. Công nghệ NVLink-Chip-to-Chip (C2C)

• Liên kết vật lý trực tiếp: Đây là giao diện tốc độ cao, độ trễ thấp, kết nối Grace CPU với các GPU Blackwell.
• Băng thông liên kết: Cung cấp băng thông hai chiều 900 GB/s (GigaBytes/giây). Tốc độ này nhanh hơn đáng kể so với kết nối PCIe thế hệ trước, loại bỏ hiện tượng "nghẽn cổ chai" dữ liệu giữa CPU và GPU.
• Bộ nhớ đồng nhất (Coherent memory): Cho phép CPU và GPU truy cập cùng một không gian bộ nhớ. Điều này cực kỳ quan trọng đối với các khối lượng công việc liên quan đến xử lý dữ liệu lớn (Data Processing), giúp tăng tốc độ tải, truy cập, và tổng hợp dữ liệu gấp nhiều lần so với kiến trúc truyền thống.

III. GB200 NVL72: Hệ thống siêu máy tính AI quy mô tủ rack (Rack-Scale)

GB200 NVL72 là một hệ thống siêu máy tính hoàn chỉnh, được thiết kế theo kiến trúc quy mô tủ rack (Rack-Scale architecture) để giải quyết các mô hình AI có hàng nghìn tỷ tham số.



1. Cấu trúc hệ thống vật lý

• Quy mô: Mỗi tủ rack NVL72 chứa 18 khay tính toán Blackwell (Compute trays).
• Tổng năng lực tính toán đến từ:
  • 72 NVIDIA Blackwell GPU
  • 36 NVIDIA Grace CPU
• Làm mát bằng chất lỏng (Liquid cooling): Đây là tính năng bắt buộc. Với mật độ năng lượng lên tới 120kW trên một tủ rack, chỉ có làm mát bằng chất lỏng mới đảm bảo nhiệt độ ổn định và đạt được hiệu suất năng lượng tối ưu.

2. Công nghệ NVLink Switch: Biến cả tủ rack thành một "siêu chip" duy nhất

Đây là điểm khác biệt cốt lõi:

• NVLink Thế hệ 5: Các superchip GB200 được kết nối với nhau thông qua 9 NVLink Switches đặc biệt bên trong tủ rack.
• Miền NVLink Thống nhất: Toàn bộ 72 GPU trong tủ rack được kết nối với nhau trong một Miền NVLink duy nhất. Điều này cho phép các GPU giao tiếp với mọi GPU khác với tốc độ cực cao, tương đương như chúng đang nằm trên cùng một bo mạch chủ.
• Băng thông hệ thống: Cung cấp băng thông All-to-All tổng hợp lên tới 130 TB/s và băng thông AllReduce (cần thiết cho huấn luyện AI phân tán) lên tới 260 TB/s. Tốc độ này nhanh hơn gấp 36 lần so với việc sử dụng mạng Ethernet 400Gb/s truyền thống.

3. Công nghệ làm mát bằng chất lỏng: Chìa khóa cho mật độ tính toán kỷ lục

Trong các hệ thống điện toán tăng tốc thế hệ mới như GB200 NVL72, mật độ sử dụng năng lượng và nhiệt lượng sinh ra từ các chip GPU/CPU là rất lớn. Việc sử dụng quạt gió (làm mát bằng khí) truyền thống không còn đảm bảo. Do đó, làm mát bằng chất lỏng trực tiếp lên chip (Direct-to-Chip Liquid cooling - DLC) trở thành một yêu cầu bắt buộc và là một phần không thể thiếu trong thiết kế của GB200 NVL72.

Sự cần thiết của giải pháp làm mát bằng chất lỏng

• Quản lý lượng điện năng rất cao: Một tủ rack GB200 NVL72 hoàn chỉnh có thể tiêu thụ tới 120kW điện năng (tương đương với cả một ngôi nhà hoặc một khu dân cư nhỏ). Lượng nhiệt phát ra từ 72 GPU Blackwell và 36 CPU Grace là cực kỳ lớn.
• Hiệu suất tản nhiệt: Chất lỏng (thường là nước đã được xử lý hoặc chất điện môi chuyên dụng) có khả năng hấp thụ và dẫn nhiệt tốt hơn không khí gấp nhiều lần. DLC giúp loại bỏ nhiệt trực tiếp tại nguồn (trên bề mặt chip), giữ cho các linh kiện hoạt động ở nhiệt độ tối ưu, đảm bảo hiệu suất cao nhất và độ ổn định lâu dài.
• Giảm chi phí và tiếng ồn: So với việc phải xây dựng các trung tâm dữ liệu với hệ thống điều hòa không khí khổng lồ và tốn kém, làm mát bằng chất lỏng giúp giảm đáng kể chi phí vận hành (điện năng tiêu thụ cho làm mát) và loại bỏ tiếng ồn lớn từ quạt.

Cấu trúc làm mát bên trong GB200 NVL72

Hệ thống làm mát được thiết kế đồng bộ theo quy mô tủ rack:

• Tấm lạnh (Cold plate): Mỗi GB200 Superchip được trang bị các tấm lạnh chuyên dụng, được gắn trực tiếp lên bề mặt GPU Blackwell và CPU Grace. Chất lỏng làm mát sẽ lưu thông qua các kênh nhỏ trong tấm lạnh này, hấp thụ nhiệt từ chip.
• Lưu thông chất lỏng: Chất lỏng làm mát được bơm từ Bộ phân phối chất lỏng (Coolant distribution unit - CDU) nằm ngay trong hoặc sát tủ rack.
  • CDU In-Rack: CDU là trái tim của hệ thống làm mát. Nó bơm chất lỏng vào các khay tính toán (Compute trays) và nhận lại chất lỏng đã hấp thụ lượng nhiệt nóng. CDU cũng có vai trò trao đổi nhiệt với một hệ thống nước lớn hơn của trung tâm dữ liệu (thường là nước tháp giải nhiệt).
  • Ống dẫn và khớp nối nhanh (Quick-Connect): Hệ thống sử dụng các ống dẫn và khớp nối chất lượng cao, chống rò rỉ, cho phép kỹ thuật viên tháo lắp các khay tính toán mà không cần xả toàn bộ chất lỏng trong hệ thống.
• Thiết kế đã tối ưu hóa (Optimized design): Với việc tích hợp các khay tính toán MGX (Kiến trúc Module hóa của NVIDIA), thiết kế làm mát đã được tối ưu hóa để đảm bảo luồng chất lỏng đồng đều qua tất cả 72 GPU và 36 CPU, bất kể vị trí của chúng trong tủ rack.

Nhờ công nghệ làm mát bằng chất lỏng tinh vi này, GB200 NVL72 có thể cung cấp hiệu suất điện toán tăng tốc cao nhất hiện nay, đóng vai trò là xương sống cho các nhà máy AI thế hệ mới.

3. Định nghĩa lại điện toán AI cấp độ Exascale

Được thiết kế có mục đích hướng đến kỷ nguyên AI hàng nghìn tỷ tham số, các hệ thống dựa trên Grace Blackwell mang lại những con số gây ấn tượng cho ngành công nghiệp:

Tăng tốc suy luận	Tăng tốc độ suy luận LLM (ví dụ: GPT-MoE 1.8T) lên 30 lần so với H100.
Giảm tổng chi phí sở hữu (TCO)	Giảm 25 lần Chi phí Sở hữu Tổng thể và tiêu thụ năng lượng cho cùng một khối lượng công việc.
Huấn luyện quy mô lớn	Tăng tốc huấn luyện LLM lên 4 lần nhờ NVLink Switch system.
Điện toán bền vững	Hiệu suất năng lượng vượt trội nhờ làm mát bằng chất lỏng.

 

NVIDIA GB200 NVL72 không chỉ là một cỗ máy tính toán, mà là một "nhà máy AI" hoàn chỉnh, cung cấp nền tảng cần thiết để xây dựng và vận hành các mô hình AI thế hệ tiếp theo, đưa Trí tuệ Nhân tạo từ phòng thí nghiệm ra ứng dụng thực tế với tốc độ và quy mô chưa từng thấy.

 

Tập đoàn công nghệ di động hàng đầu thế giới Qualcomm vừa công bố thỏa thuận mua lại Arduino, một công ty của Ý, nổi tiếng với nền tảng phần cứng và phần mềm mã nguồn mở được sử dụng rộng rãi để phát triển các thiết bị IoT.

Thương vụ này đánh dấu bước đi chiến lược quan trọng của Qualcomm nhằm củng cố vị thế trong lĩnh vực Trí tuệ Nhân tạo Biên (Edge AI) và thiết bị nhúng (Embedded IoT), bằng cách tiếp cận trực tiếp với cộng đồng hơn 33 triệu nhà phát triển và nhà chế tạo (maker) trong hệ sinh thái Arduino.

Động lực đằng sau thỏa thuận

Qualcomm, vốn là nhà cung cấp chip chính cho điện thoại di động, đang tích cực mở rộng sang các lĩnh vực mới như phương tiện kết nối, máy công nghiệp, và thiết bị IoT. Việc thâu tóm Arduino, sau các thương vụ mua lại Foundries.io (hệ điều hành) và Edge Impulse (công cụ AI), giúp Qualcomm hoàn thiện bộ công cụ nền tảng cho thiết bị nhúng.

Ông Nakul Duggal, Tổng Giám đốc nhóm Ô tô, Công nghiệp và IoT Nhúng của Qualcomm, nhấn mạnh rằng thương vụ này nhằm mục đích "phổ thông hóa khả năng tiếp cận các sản phẩm điện toán và AI tiên tiến" của Qualcomm, giúp quá trình phát triển sản phẩm nhúng trở nên nhanh chóng và dễ dàng hơn.

Cam kết giữ vững bản sắc mở của Arduino

Dù trở thành công ty con thuộc sở hữu hoàn toàn của Qualcomm, cả hai bên đều đưa ra những cam kết mạnh mẽ:

1. Giữ nguyên thương hiệu và sứ mệnh: Arduino sẽ tiếp tục duy trì thương hiệu độc lập, các công cụ, sứ mệnh và triết lý mã nguồn mở của mình.
2. Hỗ trợ đa nhà cung cấp: Arduino sẽ tiếp tục hỗ trợ nhiều loại vi điều khiển và vi xử lý từ các nhà cung cấp chip khác nhau, không chỉ riêng Qualcomm.

Việc gia nhập Qualcomm được Massimo Banzi, Đồng sáng lập Arduino, coi là cơ hội để "tăng cường cam kết về khả năng tiếp cận và đổi mới," mang lại công nghệ tiên tiến và quy mô toàn cầu của Qualcomm cho cộng đồng nhà phát triển.

Sản phẩm đầu tiên: Arduino UNO Q và AppLab

Ngay sau công bố, liên minh Qualcomm-Arduino đã giới thiệu sản phẩm đầu tiên: Arduino UNO Q.

• Kiến trúc "Lưỡng Não" (Dual Brain): UNO Q là một bo mạch máy tính đơn (single-board computer) mạnh mẽ, kết hợp bộ vi xử lý Qualcomm Dragonwing™ QRB2210 (hỗ trợ Linux Debian, khả năng tăng tốc AI, đồ họa) với một vi điều khiển thời gian thực (real-time microcontroller) STM32U585. Thiết kế lai này cho phép UNO Q vừa xử lý các tác vụ AI phức tạp, vừa kiểm soát thời gian thực các yếu tố robot như cánh hoặc bánh xe.
• Phần mềm mới: UNO Q cũng là bo mạch đầu tiên tương thích với Arduino AppLab, một môi trường phát triển tích hợp (IDE) mới, nhằm mục đích hợp nhất quy trình phát triển truyền thống của Arduino với các hệ thống AI phức tạp hơn, giúp nhà phát triển nhanh chóng tạo mẫu và triển khai các giải pháp AI.

Arduino UNO Q (phiên bản 2GB RAM/16GB bộ nhớ) có giá khoảng 44 USD và được thiết kế để trở thành công cụ đắc lực cho các dự án nhà thông minh, tự động hóa công nghiệp và giải pháp thị giác/âm thanh ứng dụng AI.

Chi tiết tài chính của thương vụ không được tiết lộ, và thỏa thuận này đang chờ sự chấp thuận từ cơ quan quản lý.

Thế giới đang bước vào kỷ nguyên của các mô hình AI với hàng nghìn tỷ tham số, biến trung tâm dữ liệu truyền thống thành những "nhà máy AI siêu quy mô" (giga-scale AI factories). Để vận hành những cỗ máy khổng lồ này, yêu cầu về hệ thống mạng không chỉ là "nhanh hơn" mà phải là một "hệ thống thần kinh" hoàn toàn mới.

NVIDIA đã chính thức giới thiệu giải pháp mang tính đột phá đó: Bộ chuyển mạch Ethernet NVIDIA Spectrum-X™.  Đáng chú ý, hai ông lớn trong lĩnh vực công nghệ là Meta và Oracle đã ngay lập tức mở rộng việc áp dụng các giải pháp mạng của NVIDIA, khẳng định tầm quan trọng của Spectrum-X trong sự phát triển của công nghệ AI.

Spectrum-X: "Hệ thống Thần kinh" của Nhà máy AI

CEO NVIDIA, Jensen Huang, đã nhấn mạnh tầm quan trọng của công nghệ này:

"Các mô hình nghìn tỷ tham số đang biến các trung tâm dữ liệu thành nhà máy AI quy mô giga, và các nhà lãnh đạo ngành như Meta và Oracle đang tiêu chuẩn hóa Spectrum-X Ethernet để thúc đẩy cuộc cách mạng công nghiệp này. Spectrum-X không chỉ là Ethernet nhanh hơn — nó là hệ thống thần kinh của nhà máy AI, cho phép các nhà cung cấp siêu quy mô kết nối hàng triệu GPU thành một siêu máy tính duy nhất để đào tạo các mô hình lớn nhất từng được xây dựng."

Điểm sáng công nghệ của Spectrum-X:

• Nền tảng Đầu tiên cho AI: Spectrum-X là nền tảng Ethernet đầu tiên được xây dựng có mục đích dành riêng cho AI, bao gồm Bộ chuyển mạch Spectrum-X Ethernet và SuperNICs Spectrum-X Ethernet.
• Hiệu suất Đột phá: Nền tảng này đã chứng minh hiệu suất lập kỷ lục, đạt thông lượng dữ liệu 95% nhờ công nghệ kiểm soát tắc nghẽn tiên tiến. Con số này vượt trội hẳn so với Ethernet tiêu chuẩn ở quy mô lớn, vốn chỉ đạt khoảng 60% do xung đột luồng.
• Khả năng Mở rộng Giga-Scale: Với công nghệ Spectrum-XGS Ethernet, nền tảng này có thể liên kết các trung tâm dữ liệu qua các thành phố, quốc gia và lục địa, tạo thành các siêu nhà máy AI khổng lồ.

Meta và Oracle lên kế hoạch thay đổi cuộc chơi

Việc hai gã khổng lồ này áp dụng Spectrum-X không chỉ là một thỏa thuận kinh doanh, mà còn là một bước ngoặt về chiến lược hạ tầng AI.

1. Meta: Tăng tốc nền tảng FBOSS mở

Meta sẽ tích hợp các bộ chuyển mạch Spectrum Ethernet vào cơ sở hạ tầng mạng lưới của mình cho Facebook Open Switching System (FBOSS) – một nền tảng phần mềm được phát triển để quản lý và kiểm soát các bộ chuyển mạch mạng ở quy mô lớn.

• Mục tiêu: Tăng tốc triển khai ở quy mô lớn, mở khóa những cải tiến đáng kể trong hiệu quả đào tạo AI và rút ngắn thời gian thu thập thông tin chuyên sâu.
• Phát biểu từ Meta: "Cơ sở hạ tầng AI thế hệ tiếp theo của Meta đòi hỏi mạng lưới mở và hiệu quả ở quy mô chưa từng thấy trong ngành," ông Gaya Nagarajan, Phó Chủ tịch Kỹ thuật Mạng tại Meta, chia sẻ. "Việc tích hợp sẽ mở ra hiệu quả và khả năng dự đoán cần thiết để đào tạo các mô hình ngày càng lớn hơn."

2. Oracle: Xây dựng siêu máy tính AI cấp độ Giga-scale

Oracle sẽ sử dụng Spectrum-X Ethernet để xây dựng các siêu máy tính AI quy mô giga, được tăng tốc bởi kiến trúc NVIDIA Vera Rubin sắp tới.

• Mục tiêu: Kết nối hàng triệu GPU với hiệu suất đột phá, cho phép khách hàng nhanh chóng đào tạo, triển khai và hưởng lợi từ làn sóng AI tạo sinh và AI suy luận tiếp theo.
• Phát biểu từ Oracle: Ông Mahesh Thiagarajan, Phó Chủ tịch Điều hành Oracle Cloud Infrastructure, cho biết: "Bằng cách áp dụng Spectrum-X Ethernet, chúng tôi có thể kết nối hàng triệu GPU với hiệu suất đột phá để khách hàng có thể nhanh chóng đào tạo và triển khai AI thế hệ mới."

Tương lai nằm ở hệ thống mạng

Thông tin này từ NVIDIA củng cố vị thế dẫn đầu của hãng không chỉ ở GPU mà còn ở toàn bộ hệ sinh thái công nghệ AI. Khi các mô hình AI tiếp tục phát triển về kích thước và độ phức tạp, vai trò của nền tảng mạng hiệu suất cao như Spectrum-X sẽ trở nên quan trọng hơn bao giờ hết, định hình nên tốc độ tiến hóa của Trí tuệ Nhân tạo trên toàn cầu.

Đây là một bước tiến quyết định, biến trung tâm dữ liệu từ nơi lưu trữ dữ liệu thành những cỗ máy tạo ra trí tuệ khổng lồ, hiệu quả và đáng tin cậy.