Chip Jalapeño của OpenAI: Suy luận nhanh trên quy mô lớn, dữ liệu thử nghiệm xác nhận
OpenAI vừa tiết lộ chi tiết về chip Jalapeño tại hội nghị Hot Chips, cho thấy hiệu suất suy luận vượt trội khi được thử nghiệm trên benchmark InferenceX, ghi nhận token trên người dùng và tốc độ xử lý trên kilowatt cao hơn các bộ xử lý hiện đại,... [Nội dung đầy đủ và hình ảnh đã được ẩn đối với công cụ tự động]