Đương nhiên với sức mạnh tính toán khổng lồ của siêu máy tính Memphis sẽ đòi hỏi một nguồn năng lượng cực lớn. Với mỗi GPU H100 tiêu tốn ít nhất 700W, trung tâm dữ liệu này cần tới hơn 70MW điện để vận hành 100,000 GPU cùng lúc; đó là chưa kể đến các thiết bị hỗ trợ, máy chủ và hệ thống làm mát.
Dylan Patel, một nhà phân tích AI và chất bán dẫn từ SemiAnalysis, ban đầu nhận định rằng sẽ không thể vận hành được Memphis Supercluster do hạn chế về nguồn điện. Ông đánh giá 7MW được lấy từ lưới điện đủ để cung cấp cho khoảng 4000 GPU. Nếu thỏa thuận với Tennessee Valley Authority (TVA) được ký kết, xAI sẽ nhận thêm 50MW từ tháng 8. Dylan Patel cũng cho biết trạm biến áp 150MW tại xAI vẫn đang được xây dựng và dự kiến hoàn thành vào quý IV 2024.
Tuy nhiên, thông qua phân tích hình ảnh vệ tinh, Patel đã phát hiện ra giải pháp của Musk cho siếu máy tính. Đó chính là sử dụng 14 máy phát điện di động VoltaGrid được kết nối với 4 trạm biến áp.
Mỗi máy phát điện có công suất 2,5MW, tạo ra tổng cộng 35MW. Kết hợp với 8MW từ lưới điện, Musk có tổng cộng 43MW, đủ để vận hành 32,000 GPU H100 với công suất hạn chế.
Nếu TVA cung cấp đủ 50MW vào đầu tháng 8, Musk sẽ có đủ năng lượng để vận hành 64,000 GPU cùng lúc. Để vận hành toàn bộ 100,000 GPU, cần khoảng 155MW; do vậy, xAI cần hoàn thành trạm biến áp hoặc Musk phải sử dụng thêm máy phát điện di động.
Với mỗi máy chủ H100 tiêu thụ khoảng 7kW, mỗi gallon xăng cung cấp 33,7kWh với hiệu suất khảong 50%. Sẽ cần khoảng 124,000 gallon xăng mỗi ngày để siêu máy tính hoạt động, một con số không khả thi nếu không có cơ sở hạ tầng đặc biệt.
Trung tâm dữ liệu AI cần năng lượng cực lớn
Việc tiêu thụ năng lượng khổng lồ và tác động đến biến đổi khí hậu là những vấn đề mà các trung tâm dữ liệu AI đang phải đối mặt. Các GPU của trung tâm dữ liệu trong năm 2023 tiêu thụ nhiều điện năng hơn 1,3 triệu hộ gia đình Mỹ cộng lại, đẩy lưới điện đến giới hạn.
Dù các máy phát điện di động sử dụng khí tự nhiên, giảm thiểu ô nhiễm so với than đá hoặc dầu mỏ, nhưng vẫn thải carbon vào khí quyển. Google gần đây tiết lộ lượng khí thải carbon của họ tăng 48% từ năm 2019 do nhu cầu năng lượng của các trung tâm dữ liệu. Nếu xAI của Musk không chuyển sang nguồn năng lượng sạch hơn, họ cũng sẽ gặp phải tình trạng tương tự.