Cách chạy DeepSeek R1 cục bộ trên PC và Mac

Hướng dẫn cài đặt và chạy DeepSeek R1 cục bộ trên PC, Mac bằng LM Studio và Ollama để trò chuyện AI mà không cần internet.

Làng công nghệ AI vừa chứng kiến một cú sốc lớn với sự xuất hiện của DeepSeek R1 - mô hình AI đến từ một nhóm nghiên cứu Trung Quốc. Không chỉ vượt mặt ChatGPT để dẫn đầu App Store tại thị trường Mỹ, DeepSeek còn tạo ra những biến động đáng kể trên thị trường chứng khoán công nghệ với mô hình R1 được đánh giá ngang tầm với ChatGPT.

Tuy người dùng có thể trải nghiệm DeepSeek R1 miễn phí thông qua trang web chính thức, nhưng việc dữ liệu được lưu trữ tại Trung Quốc đã gây không ít lo ngại về quyền riêng tư. Nếu bạn muốn đảm bảo an toàn thông tin cá nhân, bạn hoàn toàn có thể chạy DeepSeek R1 trực tiếp trên máy tính của mình thông qua LM Studio và Ollama. Hãy cùng tìm hiểu cách thực hiện qua hướng dẫn chi tiết dưới đây.

Cách chạy DeepSeek R1 cục bộ với LM Studio

• Tải xuống và cài đặt LM Studio 0.3.8 trở lên (miễn phí) trên PC, Mac hoặc Linux.
• Mở LM Studio và chuyển đến cửa sổ tìm kiếm ở thanh bên trái.
• Trong phần Model Search, tìm mô hình "DeepSeek R1 Distill (Qwen 7B)" trên Hugging Face.
• Nhấn Download. Bạn cần ít nhất 5GB dung lượng lưu trữ và 8GB RAM để sử dụng mô hình này.

• Khi quá trình tải xuống hoàn tất, chuyển sang tab "Chat" và tải mô hình lên.

• Chọn mô hình và nhấn "Load Model". Nếu gặp lỗi, hãy giảm “GPU offload” xuống 0 và thử lại.

• Giờ đây, bạn có thể trò chuyện với DeepSeek R1 ngay trên máy tính của mình mà không cần kết nối internet.

Cách chạy DeepSeek R1 cục bộ với Ollama

• Cài đặt Ollama (miễn phí) trên máy tính Windows, macOS hoặc Linux của bạn.

• Mở Terminal và chạy lệnh sau để khởi động DeepSeek R1 cục bộ:

  ollama run deepseek-r1:1.5b

  Đây là phiên bản rút gọn 1.5B của DeepSeek R1, được xây dựng dựa trên Qwen để hỗ trợ các máy cấu hình thấp. Nó chỉ sử dụng 1.1GB bộ nhớ.

• Nếu bạn có phần cứng mạnh hơn, bạn có thể chạy các mô hình 7B, 14B, 32B hoặc 70B được rút gọn từ DeepSeek R1. Dưới đây là lệnh để chạy mô hình 7B, sử dụng 4.7GB bộ nhớ:

  ollama run deepseek-r1:7b 

• Sau khi chạy lệnh, bạn có thể trò chuyện với DeepSeek R1 trực tiếp trên Terminal.

• Để dừng cuộc trò chuyện và thoát, sử dụng phím tắt “Ctrl + D”.

Lời kết

Đây là 2 cách đơn giản để cài đặt và chạy DeepSeek R1 cục bộ trên máy tính mà không cần kết nối internet. Trong quá trình thử nghiệm nhanh, các mô hình 1.5B và 7B có xu hướng tạo ra nhiều thông tin sai lệch và sai sót lịch sử.

Tuy nhiên, chúng vẫn rất hữu ích cho viết sáng tạo và lý luận toán học. Nếu bạn có phần cứng mạnh, Minh Tuấn Mobile khuyến khích thử mô hình DeepSeek R1 32B, vì nó hoạt động tốt hơn trong việc lập trình và đưa ra câu trả lời có căn cứ hơn.