Chip nâng cấp của Nvidia là H200. Chip này sẽ vượt qua chip H100 hàng đầu hiện tại của Nvidia.
Reuters cho hay, việc nâng cấp tập trung vào bộ nhớ có băng thông cao hơn. Đây là một trong những bộ phận đắt nhất của chip, xác định lượng dữ liệu có thể xử lý nhanh chóng.
Nvidia thống trị thị trường chip AI, phục vụ dịch vụ ChatGPT của OpenAI cũng như nhiều dịch vụ AI tạo sinh tương tự.
Việc bổ sung bộ nhớ băng thông cao hơn và kết nối nhanh hơn với các bộ phận xử lý của chip giúp những dịch vụ AI tạo sinh tương tự có thể đưa ra câu trả lời nhanh hơn.
H200 có bộ nhớ băng thông cao 141 gigabyte, tăng từ mức 80 gigabyte ở H100.
Nvidia không tiết lộ nhà cung cấp bộ nhớ trên chip mới. Tuy nhiên, hồi tháng 9 năm nay, Micron Technology cho biết đang nỗ lực để trở thành nhà cung cấp cho Nvidia.
Ngoài ra, Nvidia cũng mua bộ nhớ từ SK Hynix của Hàn Quốc. Tháng trước, công ty của Hàn Quốc cho biết, chip AI đang giúp vực dậy doanh số bán hàng của công ty.
Ngày 14.11, Nvidia thông tin, Amazon Web Services, Google Cloud, Microsoft Azure và Oracle Cloud Infrastructure sẽ là một trong những nhà cung cấp dịch vụ đám mây đầu tiên được cấp quyền tiếp cận chip H200 cùng với các nhà cung cấp đám mây AI đặc biệt CoreWeave, Lambda và Vultr.
