Chạy ComfyUI trên đám mây khá đơn giản. Việc duy trì khả năng lặp lại, tính riêng tư và chi phí thấp mới là phần thực sự cần làm.
Một thiết lập GPU đám mây ComfyUI hữu ích sẽ tách bốn mối quan tâm: tài nguyên tính toán có thể loại bỏ, tệp bền vững, truy cập riêng tư và quy tắc dừng. Hãy coi phiên bản GPU là có thể thay thế; đặt mô hình, quy trình làm việc, dữ liệu đầu vào và đầu ra trên bộ nhớ vẫn tồn tại sau phiên bản đó. Điều này giúp bạn có một thiết lập có thể khởi động lại mà không cần tải lại toàn bộ bộ quy trình làm việc hoặc băn khoăn không biết ảnh của ngày hôm qua đã ở đâu.
Hướng dẫn này không phụ thuộc vào nhà cung cấp. Nội dung này trình bày cách thiết lập GPU đám mây ComfyUI cho công việc tương tác, cách lập kế hoạch lưu trữ và cách tính chi phí mà không giả vờ rằng một mức giá GPU theo giờ duy nhất có thể nói lên toàn bộ câu chuyện.
Phiên bản ngắn gọn
Đối với hầu hết nhà phát triển độc lập và nhóm AI nhỏ, hãy bắt đầu với mô hình triển khai này:
- Chọn một máy ảo GPU hoặc pod tương tác có đủ VRAM cho một quy trình làm việc thực tế — không phải một điểm chuẩn lý thuyết.
- Gắn bộ nhớ bền vững trước khi tải mô hình hoặc cài đặt các node tùy chỉnh.
- Giữ tiến trình web ComfyUI ở chế độ riêng tư theo mặc định; sử dụng máy tính để bàn có xác thực, tunnel hoặc proxy của nhà cung cấp thay vì một cổng công khai mở.
- Lưu từng đồ thị đang làm việc, phiên bản mô hình và đầu ra vào điểm gắn bền vững.
- Đo một lượt tạo đại diện, sau đó dừng GPU ngay khi phiên làm việc kết thúc.
Nguyên tắc then chốt rất đơn giản: một GPU đám mây ComfyUI phải dễ thay thế, còn trạng thái công việc của bạn thì không.
1. Chọn loại tài nguyên đám mây phù hợp trước khi cài đặt bất cứ thứ gì
Đối với một phiên ComfyUI thực hành, hãy chọn một máy ảo GPU, pod hoặc môi trường máy tính để bàn từ xa cung cấp trình duyệt, terminal và điểm gắn bền vững. Điều này thường dễ gỡ lỗi hơn một endpoint chỉ dành cho yêu cầu, vì bạn có thể kiểm tra nhật ký, thử một đồ thị, thêm mô hình và lặp lại trong cùng một phiên.
Chỉ sử dụng triển khai hướng yêu cầu sau khi một quy trình làm việc đã ổn định và bạn biết cách nó sẽ nhận đầu vào, trả đầu ra, xác thực bên gọi và khôi phục sau lỗi. Một dịch vụ GPU đám mây ComfyUI tương tác là điểm khởi đầu phù hợp khi mục tiêu là phát triển quy trình làm việc thay vì một API sản phẩm hoàn chỉnh.
Trước khi triển khai, hãy trả lời các câu hỏi dành riêng cho nhà cung cấp sau:
| Câu hỏi | Tại sao điều này quan trọng |
|---|---|
| Tôi có thể gắn bộ nhớ vẫn tồn tại sau khi khởi động lại hoặc thay thế không? | Mô hình và đầu ra tốn kém để tạo lại hoặc tải xuống. |
| Tôi có thể hạn chế quyền truy cập mạng đến không? | ComfyUI không nên trở thành bảng điều khiển công khai không có xác thực. |
| Tôi có thể dùng terminal và xem nhật ký không? | Hầu hết vấn đề cài đặt và node tùy chỉnh có thể được chẩn đoán nhanh hơn từ shell. |
| Những gì vẫn bị tính phí sau khi GPU dừng? | Tính toán, ổ đĩa, snapshot, IP và lưu lượng đi thường là các hạng mục tính phí riêng biệt. |
| Volume có bị ràng buộc với một vùng hoặc vùng sẵn sàng không? | Điều đó có thể hạn chế nơi GPU tiếp theo có thể khởi động. |
Đừng chọn GPU đám mây tốt nhất cho ComfyUI chỉ dựa trên tên model. Hãy bắt đầu từ nhu cầu bộ nhớ đỉnh của quy trình làm việc: checkpoint, bộ mã hóa văn bản, VAE, mô hình điều khiển, LoRA, kích thước batch, độ phân giải, cùng mọi giai đoạn video hoặc nâng cấp độ phân giải đều cạnh tranh VRAM. Chạy một đồ thị đại diện và ghi lại hành vi ở mức đỉnh trước khi cam kết dùng một máy lớn hơn hoặc chạy lâu hơn.
Để tìm hiểu các đánh đổi nền tảng rộng hơn, xem các hướng dẫn của Flatkey về các nền tảng thuê GPU đám mây, lựa chọn GPU và năng lực GPU serverless so với GPU chuyên dụng.
2. Gắn bộ nhớ bền vững trước
Sai lầm phổ biến nhất trên đám mây là tải mọi thứ vào hệ thống tệp tạm thời của phiên bản. Khi máy đó bị dừng, dựng lại hoặc thay thế, bộ nhớ đệm mô hình, đầu ra, quy trình làm việc và các thay đổi cục bộ có thể biến mất cùng với nó.
Hãy tạo và gắn volume bền vững trước lần cài đặt đầu tiên. Trên volume đó, duy trì một cấu trúc thư mục nhỏ gọn, đơn giản:
/workspace/comfy-data/
├── models/
│ ├── checkpoints/
│ ├── vae/
│ ├── loras/
│ ├── controlnet/
│ └── upscale_models/
├── input/
├── output/
├── workflows/
├── custom-node-notes/
└── run-notes/
Bạn không cần mọi thư mục ngay từ ngày đầu tiên. Mục tiêu là đặt các tài sản có thể tái sử dụng và thành quả cuối cùng trên điểm gắn bền vững, đồng thời để các tệp tạm và môi trường có thể dựng lại trên ổ đĩa của phiên bản khi cách đó thuận tiện hơn.
ComfyUI cung cấp các tùy chọn kiểm soát thư mục hữu ích thông qua cờ khởi động. --base-directory thay đổi vị trí cơ sở cho mô hình, node tùy chỉnh, đầu vào, đầu ra, tệp tạm thời và dữ liệu người dùng; --input-directory, --output-directory và --extra-model-paths-config cho phép bạn chỉ định cụ thể hơn. Hãy kiểm tra tài liệu tham chiếu cờ khởi động ComfyUI hiện tại trước khi đưa đường dẫn vào một mẫu.
Là một ví dụ cụ thể về lưu trữ đám mây, RunPod ghi nhận rằng hệ thống tệp container của họ là tạm thời, trong khi volume vẫn tồn tại ngoài vòng đời container. Các nhà cung cấp khác dùng thuật ngữ khác nhau, vì vậy hãy xác minh chính xác hành vi khi dừng, khởi động lại và chấm dứt trong tài liệu lưu trữ của chính nhà cung cấp trước khi dựa vào nó. hướng dẫn về tính bền vững của RunPod giải thích hữu ích về sự khác biệt này.
3. Cài đặt ComfyUI với nền tảng có thể tái lập
Hãy sử dụng dự án nguồn làm thẩm quyền cài đặt. Hướng dẫn cài đặt thủ công hiện tại của ComfyUI bao gồm các nền tảng được hỗ trợ, lựa chọn PyTorch theo từng GPU, cài đặt phần phụ thuộc, thư mục mô hình và tùy chọn comfy-cli. Hãy bắt đầu với README ComfyUI chính thức, sau đó ghi chú riêng mọi bổ sung dành riêng cho nhóm của bạn.
Đối với máy đám mây chạy Linux, trình tự cấp cao sẽ như sau:
git clone https://github.com/Comfy-Org/ComfyUI.git
cd ComfyUI
python -m venv .venv
source .venv/bin/activate
# Install the PyTorch build that matches this GPU/driver environment.
# Follow the current upstream ComfyUI and PyTorch instructions rather than
# copying a CUDA wheel command from an old image.
pip install -r requirements.txt
python main.py \
--base-directory /workspace/comfy-data \
--input-directory /workspace/comfy-data/input \
--output-directory /workspace/comfy-data/output \
--disable-auto-launch
Đây chủ ý là một cấu hình cơ sở, không phải trình cài đặt sao chép-dán dùng được cho mọi trường hợp. Ảnh đám mây khác nhau về driver, phiên bản Python, khả năng tương thích CUDA, điểm gắn kết và quyền truy cập. Hãy xác nhận python main.py --help trên máy đang chạy và ghi lệnh khởi chạy đã được xác nhận hoạt động vào run-notes/ sau khi thiết lập thành công.
Nếu bạn dùng chung thư viện mô hình với một giao diện người dùng khác hoặc đặt mô hình bên ngoài các thư mục mặc định của ComfyUI, hãy sử dụng cơ chế extra_model_paths.yaml từ dự án nguồn thay vì tạo symlink thư mục một cách tùy tiện. Điều đó giúp mối quan hệ được thể hiện rõ ràng và khiến việc dựng lại sau này ít gây bất ngờ hơn nhiều.
4. Thiết lập truy cập từ xa an toàn trước khi sử dụng --listen
Theo mặc định, ComfyUI lắng nghe trên 127.0.0.1 và sử dụng cổng 8188. Các tùy chọn khởi động của nó cũng hỗ trợ địa chỉ bind khác, cổng, tệp chứng chỉ/khóa TLS và tiêu đề CORS có thể cấu hình. Xem các đối số CLI hiện tại để biết hành vi chính xác.
Sự linh hoạt đó không phải là lời mời đưa một bảng điều khiển tạo ảnh không xác thực lên Internet công cộng. Mô hình máy tính để bàn GPU đám mây ComfyUI an toàn thường an toàn hơn cho công việc tương tác:
- Mở trình duyệt bên trong một phiên máy tính để bàn từ xa đã xác thực, giữ ComfyUI trên loopback; hoặc
- Sử dụng đường hầm SSH đã xác thực hoặc proxy do nhà cung cấp quản lý; hoặc
- Đặt reverse proxy có kiểm soát danh tính và TLS phía trước một dịch vụ ComfyUI được chủ ý công khai.
Chỉ bind tới 0.0.0.0 khi đường dẫn mạng được bảo vệ có chủ đích bằng tường lửa, lớp danh tính và TLS khi phù hợp. Không bật CORS cho phép quá mức chỉ để làm cho kết nối trình duyệt hoạt động. Nếu một node tùy chỉnh, tiện ích mở rộng hoặc proxy thay đổi ranh giới tin cậy, hãy ghi lại điều đó trong run-notes/ và kiểm tra từ một tài khoản hoặc thiết bị riêng biệt.
Điều này đặc biệt quan trọng nếu bạn tải lên ảnh tham chiếu riêng tư, sử dụng khóa API bên trong các node hoặc cho phép đồng đội cài đặt node tùy chỉnh. Hãy coi việc cài đặt node tùy chỉnh là một thay đổi phần phụ thuộc: xem xét mã nguồn, ghi lại phiên bản và kiểm tra trong môi trường có thể hủy bỏ trước khi thêm vào ổ lưu trữ production dùng chung.
5. Làm cho lần tạo ảnh ComfyUI trên GPU đám mây đầu tiên có thể tái lập
Phiên làm việc đầu tiên nên chứng minh mô hình triển khai, không phải theo đuổi một hình ảnh hoàn hảo. Hãy sử dụng một workflow nhỏ đã biết và hoàn thành vòng lặp này:
- Tải lên một ảnh thử nghiệm không nhạy cảm hoặc một prompt.
- Tải một mô hình từ thư mục mô hình lưu trữ bền vững.
- Chạy một lần tạo duy nhất ở độ phân giải và kích thước batch mục tiêu.
- Lưu JSON workflow vào
workflows/với tên mô tả và ngày tháng. - Giữ ảnh cuối cùng và mọi đầu ra so sánh trong
output/. - Ghi chú bản sửa đổi mô hình, các node tùy chỉnh liên quan, thời gian chạy và mọi giải pháp xử lý bộ nhớ trong
run-notes/.
Điều đó biến một lần tạo ảnh ComfyUI trên GPU đám mây đơn lẻ thành một thử nghiệm mà người khác có thể lặp lại. Nó cũng cho bạn biết liệu máy có cấu hình phù hợp hay không trước khi tải xuống nhiều mô hình lớn rồi phát hiện workflow không thể chạy với thiết lập dự kiến.
6. Sử dụng quy tắc ưu tiên khối lượng công việc khi chọn GPU
GPU đám mây tốt nhất cho ComfyUI là tùy chọn nhỏ nhất hiện có có thể chạy đồ thị thực tế của bạn một cách đáng tin cậy ở độ phân giải, kích thước batch và độ trễ bạn cần. “Tốt nhất” thay đổi theo đồ thị.
| Dấu hiệu khối lượng công việc | Điều cần ưu tiên | Điều cần kiểm tra trước khi cam kết |
|---|---|---|
| Workflow một ảnh | Đủ VRAM cho mọi thành phần đang hoạt động cộng thêm khoảng dự phòng | Một prompt đại diện ở độ phân giải thông thường của bạn |
| Nhiều mô hình điều khiển, batch lớn hoặc các giai đoạn upscale | Ưu tiên VRAM nhiều hơn trước khi chạy theo thông lượng tính toán thô | Hành vi bộ nhớ đỉnh và thời gian chạy đầu-cuối |
| Đồ thị video, nhiều giai đoạn hoặc nhiều mô hình | Lưu trữ bền vững, hành vi tải nhanh và kế hoạch khởi động lại | Thời gian tải mô hình, mức sử dụng đĩa tạm thời và cách xử lý đầu ra |
| Các phiên làm việc nhóm lặp lại | Một image/template có thể tái sử dụng và cơ chế kiểm soát truy cập rõ ràng | Thời gian dựng lại từ một instance sạch bằng cùng volume |
Đừng dựa vào con số VRAM của một người sáng tạo khác như một sự đảm bảo. Checkpoint, lượng tử hóa, phiên bản node, độ phân giải và thiết lập batch của họ có thể không giống bạn. Một bài kiểm tra đại diện trong 10 phút hữu ích hơn một khuyến nghị phần cứng đơn giản hóa quá mức.
7. Tính chi phí dựa trên công việc hoàn thành, không phải mức giá GPU theo giờ
Báo giá GPU đám mây chỉ là một phần của tổng chi phí. Hãy dùng bảng tính này cho mỗi quy trình làm việc hoặc dự án:
Session cost
= (GPU runtime × current provider compute rate)
+ retained storage for the billing period
+ applicable transfer, snapshot, or platform charges
Cost per accepted output
= session cost / number of outputs you actually keep
Con số thứ hai thường hữu ích hơn chi phí trên mỗi hình ảnh được tạo. Nếu bạn chạy 200 thử nghiệm nhanh và giữ lại năm đầu ra, chi phí trên mỗi đầu ra được chấp nhận sẽ cho bạn biết nhiều hơn về quy trình làm việc so với con số danh nghĩa trên mỗi hình ảnh.
Hãy sử dụng các biện pháp kiểm soát thực tế sau cho GPU đám mây chạy ComfyUI:
- Thiết lập thói quen tắt máy. Xác định ai sẽ dừng GPU và khi nào. Đừng để nó tiếp tục chạy chỉ vì một tab trình duyệt đang mở.
- Phân tách dữ liệu bền vững và dữ liệu dùng một lần. Lưu mô hình, quy trình làm việc, đầu vào và đầu ra trên bộ nhớ lưu trữ bền vững; tránh vô tình trả tiền để lưu các tệp tạm.
- Thử nghiệm quy mô nhỏ trước khi mở rộng. Xác thực một đồ thị ở độ phân giải và kích thước lô vừa phải trước khi cam kết chạy hình ảnh hoặc video dài.
- Duy trì danh mục mô hình. Ghi lại những gì đã cài đặt và lý do. Điều này ngăn tải xuống trùng lặp và giúp việc dọn dẹp an toàn hơn.
- Xem lại hóa đơn ở trạng thái đã dừng. Các quy tắc về lưu trữ, bản sao nhanh, IP công khai và truyền dữ liệu tùy thuộc vào từng nhà cung cấp; hãy xác nhận chúng trong giao diện thanh toán và tài liệu hiện hành.
- Ghi nhận dữ liệu thời gian chạy. Với một quy trình làm việc lặp lại, hãy ghi lại thời gian chạy, số lần thử lại, đầu ra được chấp nhận và kích thước đầu vào/đầu ra. Điều đó tạo ra cơ sở ngân sách thực tế.
Để có khung ra quyết định tổng quát hơn, hãy đọc Giải thích về giá thuê GPU. Bài viết trình bày sự khác biệt giữa mức giá theo giờ hấp dẫn và chi phí của công việc đã hoàn thành.
8. Khi GPU đám mây là lựa chọn không phù hợp
ComfyUI có giá trị khi bạn cần kiểm soát ở cấp độ nút, tệp mô hình cục bộ, xử lý tùy chỉnh, lặp trực quan hoặc một đồ thị cụ thể. Đây không tự động là cách đơn giản nhất để triển khai một tính năng AI.
Nếu nhu cầu sản phẩm là một lệnh gọi mô hình được lưu trữ thay vì kiểm soát ở cấp độ quy trình làm việc, hãy so sánh riêng phương án mô hình/API được quản lý. Flatkey cung cấp giao diện hợp nhất cho các lệnh gọi API của mô hình và công cụ; điều đó có thể giảm sự phân mảnh trong tích hợp và thanh toán, nhưng không thay thế ComfyUI khi yêu cầu của bạn là một đồ thị nút liên tục với các tài nguyên cục bộ tùy chỉnh. Hãy làm rõ ranh giới này trước khi tối ưu nhầm hệ thống.
Danh sách kiểm tra trước khi khởi chạy
Trước khi bắt đầu một phiên GPU đám mây chạy ComfyUI, hãy xác nhận tất cả các điều sau:
- [ ] Bộ nhớ lưu trữ bền vững đã được gắn và mount tại vị trí bạn mong đợi.
- [ ] Đường dẫn mô hình, quy trình làm việc, đầu vào và đầu ra trỏ đến bộ nhớ đó.
- [ ] Tổ hợp GPU/PyTorch hiện tại đã được xác thực bằng một đồ thị thực tế.
- [ ] Truy cập từ xa đã được xác thực; không có cổng công khai chưa xác thực nào bị lộ.
- [ ] JSON quy trình làm việc, phiên bản mô hình và các thay đổi ở nút tùy chỉnh sẽ được ghi lại.
- [ ] Bạn biết những khoản nào vẫn bị tính phí sau khi GPU dừng.
- [ ] Một người phụ trách được chỉ định sẽ dừng tài nguyên tính toán sau phiên làm việc.
Câu hỏi thường gặp
Làm thế nào để chạy ComfyUI trên GPU đám mây?
Triển khai một máy GPU tương tác có ổ đĩa liên tục, cài đặt ComfyUI theo hướng dẫn upstream hiện hành, chuyển các đường dẫn mô hình/đầu vào/đầu ra của ComfyUI đến bộ nhớ đã mount, giữ quyền truy cập qua trình duyệt ở chế độ riêng tư và kiểm tra một quy trình làm việc đại diện trước khi mở rộng quy mô.
Tôi nên lưu trữ liên tục những gì cho ComfyUI?
Lưu các mô hình có thể tái sử dụng, quy trình làm việc, tài nguyên đầu vào bạn cần dùng lại, đầu ra cuối cùng, ghi chú về nút tùy chỉnh và một nhật ký chạy ngắn. Xử lý riêng bộ nhớ đệm tạm thời và môi trường có thể dựng lại, trừ khi việc giữ chúng xứng đáng với chi phí lưu trữ.
Có cần một máy tính để bàn GPU đám mây bảo mật cho ComfyUI không?
Đây là lựa chọn thực tế khi bạn muốn có trình duyệt và terminal tương tác mà không xuất bản ComfyUI trực tiếp lên internet. Hãy dùng máy tính để bàn từ xa, đường hầm hoặc proxy có xác thực và mặc định giữ ứng dụng ở chế độ riêng tư.
GPU đám mây nào phù hợp nhất cho ComfyUI?
Hãy chọn dựa trên nhu cầu VRAM, mục tiêu thời gian chạy và nhu cầu lưu trữ/truy cập của quy trình làm việc thực tế. Hãy thử nghiệm đồ thị dự định trước; GPU phù hợp với checkpoint và độ phân giải của người khác có thể không phù hợp với bạn.
Một dịch vụ GPU đám mây cho ComfyUI nên bao gồm những gì?
Tối thiểu gồm: môi trường GPU tương thích, bộ nhớ lưu trữ liên tục, quyền truy cập mạng được kiểm soát, cách kiểm tra nhật ký và thông tin thanh toán rõ ràng cho cả tài nguyên đang chạy lẫn đã dừng.
Các tài liệu tham khảo chính thức được sử dụng trong hướng dẫn này
- Hướng dẫn cài đặt thủ công ComfyUI và thư mục mô hình
- Cờ khởi động ComfyUI
- Định nghĩa đối số CLI của ComfyUI
- Hướng dẫn RunPod về duy trì dữ liệu container — được dùng làm ví dụ cụ thể về lưu trữ, không phải để so sánh nền tảng
Thiết lập bền vững không phức tạp: giữ cho GPU có thể thay thế, giữ công việc được lưu trữ lâu dài, giữ quyền truy cập ở chế độ riêng tư và biến việc dừng tài nguyên tính toán thành một phần của quy trình làm việc.
