ChatGPT hiện có gần 200 triệu người dùng với hơn 1 tỷ yêu cầu mỗi ngày.
Mỗi lượt hỏi đáp tưởng chừng đơn giản nhưng lại tiêu tốn nguồn điện khổng lồ.
Năm 2023, các trung tâm dữ liệu AI chiếm tới 4,4% điện năng Mỹ và 1,5% toàn cầu.
Quá trình huấn luyện GPT-4 đã ngốn 50 gigawatt-giờ, đủ cấp điện cho San Francisco trong ba ngày.
Theo giáo sư khoa học máy tính Mosharaf Chowdhury tại Đại học Michigan, huấn luyện và suy luận là hai giai đoạn “ngốn điện” nhất.
Một máy chủ Nvidia DGX A100 tiêu thụ tới 6,5 kilowatt, nhân lên hàng nghìn máy là con số khổng lồ.
Ngay cả suy luận cũng tiêu hao nhiều điện vì mỗi ngày có tới 2,5 tỷ yêu cầu chỉ riêng ChatGPT.
Các chuyên gia kêu gọi minh bạch dữ liệu tiêu thụ năng lượng để hướng tới AI bền vững hơn.
