Tôi đã dự đoán điều này sẽ xảy ra: OpenAI thông báo rằng họ đã phát triển các phiên bản mini hiệu suất cao của GPT-4 sẽ chạy cục bộ trên laptop hoặc điện thoại. Điều này sẽ chuyển nhiều quá trình suy diễn ra khỏi các trung tâm dữ liệu và vào các máy tính cục bộ của chúng ta. Khi mô hình không thể trả lời một câu hỏi cục bộ, nó có thể nói "chờ một chút trong khi tôi tham khảo ý kiến từ trí tuệ tập thể..." hoặc bất cứ điều gì và đi thực hiện suy diễn trên đám mây. Câu hỏi lớn cho những người trong lĩnh vực điện và trung tâm dữ liệu: điều này sẽ ảnh hưởng như thế nào đến xu hướng xây dựng trung tâm dữ liệu, nhu cầu về điện của họ và các vị trí mà họ có thể/sẵn sàng xây dựng? Giả thuyết của tôi: điều này sẽ làm giảm nhu cầu về suy diễn tại các trung tâm dữ liệu tập trung, trong khi cũng tăng mức độ độ trễ mà các trung tâm dữ liệu suy diễn có thể xử lý (bởi vì các nhiệm vụ cần độ trễ thấp thường sẽ được thực hiện cục bộ).