Chip AI của Nvidia nhanh hơn hàng chục lần thế hệ cũ

Nvidia vừa ra mắt chip Blackwell- dòng chip AI có tốc độ xử lý AI nhanh hơn từ 7 đến 30 lần tùy vào tác vụ thực hiện so với phiên bản cũ Hopper H100. Đây chính là con chip AI mạnh nhất thế giới tính đến thời điểm hiện tại.

Chip AI Blackwell sử dụng 208 tỉ bóng bán dẫn

Rạng sáng ngày 19/03, tại sự kiện GPU Technology Conference- GTC 2024 của Nvidia ở San Jose, Califonia, CEO Jensen Huang phát biểu: "Blackwell nhanh hơn Hopper, nhưng quan trọng là nó có khả năng tính toán trong mạng, yếu tố giúp tốc độ xử lý AI nhanh hơn nữa cũng như thực hiện những công việc khó khăn trước đây, như biến lời nói thành video 3D".

Bên trái là B200 và bên phải H100

Chip H100 trước đấy sử dụng 80 tỷ bóng bán dẫn còn chip AI Blackwell sử dụng 208 tỷ bóng bán dẫn, tức là cao gấp 80 lần so với H100. Một con số kinh khủng khiếp. Dựa vào số lượng bóng bán dẫn lớn khủng đấy, Chip Blackwell có khả năng xử lý AI đạt 20 triệu tỷ phép tính trên mỗi giây, gấp 4 lần so với H100. Nvidia thông báo trên thực tế, Blackwell tốc độ xử lý AI nhanh hơn từ 7 đến 30 lần tùy vào tác vụ thực hiện so với phiên bản cũ Hopper H100, đồng thời giảm chi phí và mức tiêu thụ năng lượng tới 25 lần.

Hệ thống Transformer Engine thế hệ hai

Hệ thống Transformer Engine thế hệ hai là một trong những cải tiến quan trọng của chip AI mới này. Nó giúp nhân đôi khả năng tính toán, băng thông và kích thước mô hình. Hệ thống này có thể hỗ trợ tối đa 576 GPU giao tiếp với nhau, với băng thông hai chiều 1,8 Tb/giây khi được kết hợp với bộ chuyển mạch NVLink.

Tại sự kiện, CEO Huang cũng đã nhấn mạnh: "Không có vấn đề về bộ nhớ, cũng không có vấn đề về bộ nhớ đệm. Đơn giản Blackwell là chip khổng lồ. Tham vọng của nó là vượt lên giới hạn của vật lý". Đồng thời, "GPU Blackwell là động cơ thúc đẩy cuộc cách mạng công nghiệp AI mới, sẽ hiện thực hóa lời hứa về AI cho mọi ngành công nghiệp".

Phần mềm hỗ trợ đi kèm phần cứng chip AI mới

Đi kèm với GPU Blackwell, Microservice- công cụ phần mềm mới cũng được Nvidia giới thiệu. Microservice sẽ giúp người dùng cải thiện rất nhiều hiệu quả hệ thống cho nhiều mục đích khác nhau. Từ đó, Doanh nghiệp của bạn dễ dàng kết hợp mô hình AI vào công việc hơn, giống như một hệ điều hành máy tính tốt có thể giúp các ứng dụng của bạn hoạt động hiệu quả hơn.

Giá của Chip AI B200 là bao nhiêu?

Hiện tại hãng Nvidia chưa công bố giá của sản phẩm này. Hiện nay H!00 có giá từ 30 đến 40 nghìn USD. Theo thông tin được tiết lộ, hãng sẽ hướng tới nhóm khách hàng mua với số lượng lớn. Hàng sẽ được đóng gói nhiều chip vào một thiết kế duy nhất gọi là GB200 NVL72- nặng tầm 1.36 kg. 

Amazon, Google, Microsoft và Oracle đã đặt hàng để dùng GB200 NVL72 cho Nvidi để sử dụng cho trung tâm dữ liệu của họ.

Công ty Cổ phần Vật tư và Thiết bị văn phòng CDC

Trụ sở chính: C18, Lô 9, KĐTM. Định Công, P. Định Công, Q. Hoàng Mai, TP. Hà Nội

Hotline 1: 0983.366.022 (Hà Nội)

CN.HCM: 51/1 Giải Phóng, Phường 4, Quận Tân Bình, TP Hồ Chí Minh

Hotline 2: 0904.672.691 (TP.HCM)

Website: maytinhcdc.vn

Facebook: https://www.facebook.com/maytinhcdc.vn/