Hiệu năng mạnh mẽ với mức tiêu thụ điện thấp

FuriosaAI, startup AI của Hàn Quốc do LG hậu thuẫn, vừa công bố máy chủ RNGD – giải pháp được đánh giá có hiệu năng tương đương Nvidia H100 nhưng vượt trội về khả năng tiết kiệm năng lượng.

Theo công bố, mỗi RNGD Server cung cấp sức mạnh tính toán 4 petaflop cùng 384 GB bộ nhớ HBM3, nhưng chỉ tiêu thụ 3 kW khi hoạt động. Trong khi đó, Nvidia DGX H100 cần hơn 10 kW cho cùng mức hiệu năng. Điều này có nghĩa, một rack trung tâm dữ liệu tiêu chuẩn (15 kW) có thể chứa tới 5 máy chủ RNGD, trong khi chỉ vừa một máy chủ DGX H100.

Giải quyết bài toán hạ tầng trung tâm dữ liệu

Hầu hết trung tâm dữ liệu hiện chỉ giới hạn ở mức 8 kW điện năng mỗi rack hoặc ít hơn, do yêu cầu làm mát và cấp điện phức tạp. RNGD Server giúp doanh nghiệp vượt qua hạn chế này, dễ dàng mở rộng quy mô mà không phải nâng cấp hạ tầng tốn kém.

Ngoài ra, máy chủ vẫn tương thích với API của OpenAI, mang đến sự linh hoạt khi triển khai các mô hình ngôn ngữ lớn (LLM).

Hầu hết trung tâm dữ liệu hiện chỉ giới hạn ở mức 8 kW điện năng mỗi rack hoặc ít hơn, do yêu cầu làm mát và cấp điện phức tạp.

Hậu thuẫn từ LG và những cột mốc đáng chú ý

FuriosaAI từng gây chú ý khi từ chối đề nghị mua lại trị giá 800 triệu USD từ Meta. Startup này vừa hoàn tất vòng gọi vốn Series C trị giá 125 triệu USD, đồng thời mở rộng hợp tác với LG AI Research.

LG hiện sử dụng RNGD để vận hành mô hình Exaone, đạt hiệu suất suy luận trên mỗi watt cao gấp 2 lần so với GPU truyền thống. Trước đó, FuriosaAI cũng hợp tác với OpenAI để trình diễn chatbot mã nguồn mở gpt-oss 120B, chạy thời gian thực chỉ với hai bộ tăng tốc RNGD.

Sẵn sàng thương mại hóa

Hiện RNGD Server đang trong giai đoạn thử nghiệm với khách hàng và dự kiến sẽ mở đặt hàng vào đầu năm 2026. Đây được coi là bước đột phá quan trọng, khi nhu cầu hạ tầng AI tăng mạnh nhưng chi phí năng lượng và mở rộng trung tâm dữ liệu vẫn là rào cản lớn.