RTX 4090으로 ComfyUI 실행 시 최적의 성능을 위한 배치 파일 설정 방법

안녕하세요, 오늘은 NVIDIA GeForce RTX 4090을 사용하여 ComfyUI를 실행할 때, 어떻게 하면 성능을 최적화할 수 있을지에 대해 알아보려고 해요. 최근 AI 작업이 증가하면서 고성능 GPU를 최대한 활용하는 방법이 중요한 화두가 되고 있는데요, 특히 ComfyUI에서 Flux.1과 같은 고사양 모델을 사용할 때 RTX 4090의 성능을 최대한 끌어올리는 방법을 공유해드리려고 합니다.

최적화된 배치 파일

먼저, 제가 설정한 최적의 배치 파일을 보여드릴게요:

ComfyUI 실행을 위한 배치 파일은 설치된 폴더 루트에 run_cpu.bat 또는 run_nvida_gpu.bat 파일로 존재하는데요. 저는 run_nvidia_gpu를 편집해서 진행했습니다

 

.\python_embeded\python.exe -s ComfyUI\main.py --windows-standalone-build --auto-launch --use-pytorch-cross-attention --cuda-malloc --use-stream --highvram
pause

이 배치 파일을 참고해서  RTX 4090의 성능을 제대로 활용하는데 도움 되시기를 바랍니다. 각 옵션이 왜 중요한지 하나씩 설명해 드리겠습니다!

각 옵션의 설명 및 효과

• --windows-standalone-build: 이 옵션은 ComfyUI를 Windows에서 독립 실행형으로 실행하도록 설정해줘요.
  • 효과: Windows 환경에서 더 효율적으로 실행되도록 도와주고, 리소스를 최적화해서 성능을 끌어올릴 수 있어요.
• --auto-launch: 서버가 시작되면 자동으로 기본 웹 브라우저에서 ComfyUI가 실행되도록 해요.
  • 효과: 자동으로 UI가 실행되니 더 편리하게 사용할 수 있어요.
• --use-pytorch-cross-attention: PyTorch의 크로스 어텐션을 활성화해줘요.
  • 효과: 복잡한 모델도 더 효율적으로 처리할 수 있어서, 성능이 더 좋아진답니다.
• --cuda-malloc: CUDA 메모리 할당을 최적화하는 옵션이에요.
  • 효과: 메모리를 더 효율적으로 사용하게 되어, 대규모 작업에서도 성능 저하가 없어요.
• --use-stream: CUDA 스트림을 활성화해서 비동기 작업이 가능하도록 해줘요.
  • 효과: GPU의 병렬 처리 능력을 최대한 활용할 수 있어 작업 속도가 크게 향상돼요.
• --highvram: RTX 4090의 큰 VRAM 용량을 최대한 활용할 수 있도록 환경을 설정해줘요.
  • 효과: 대용량 데이터를 처리할 때도 안정적으로 작업을 수행할 수 있답니다.
• --fast: RTX 4000 or ADA GPU에서 'float8_e4m3fn'의 성능을 높일 수 있습니다. (PyTorch 2.1 이상의 버전 필요)
  • 효과: 해당 기능을 최적화하여 성능을 극대화할 수 있는 CUDA 기능을 지원합니다.
• --reserve-vram: 옵션은 GPU의 VRAM(비디오 메모리) 사용량을 제한하는 기능을 제공합니다. 
  • 효과: ComfyUI가 사용 가능한 모든 VRAM을 소모하지 않도록 하여, 이미지 생성 시 발생할 수 있는 성능 저하를 방지합니다. 특히, 다른 GPU 작업과 동시에 ComfyUI를 실행하려는 경우에 유용합니다.

추가 팁: GPU 활용도 모니터링

이 배치 파일을 사용해보시면서 GPU의 활용도를 모니터링하는 것도 추천드려요. nvidia-smi와 같은 도구를 사용하면 실시간으로 GPU 사용량과 메모리 상태를 확인할 수 있어요. (ComfyUI 확장노드에서 자원 모니터링 관련 확장을 설치해도 알 수 있습니다.) 이렇게 하면 필요한 경우 메모리 상황을 주시하고 추가 최적화를 적용할 수 있겠지요!

이 방법으로 여러분도 RTX 4090의 성능을 최대한 활용하면서 ComfyUI를 더 효율적으로 사용하시길 바랍니다. 특히, Flux 등 고사양 AI 작업을 자주 하시는 분들께 정말 유용한 팁이 될 거라고 생각합니다!

여러분, 이 글이 도움이 되셨다면 좋아요와 구독, 댓글로 여러분의 의견을 공유해 주세요! 궁금한 점이 있다면 언제든지 질문 남겨주세요. 다음 글에서도 더 유익한 정보로 찾아뵙겠습니다!

 

2024.08.26 - [[TIP] Stable Diffusion/ComfyUI] - RTX 4090 최적화 가이드: ComfyUI에서 Flux 모델을 최상의 성능으로 실행하기 위한 NVIDIA 제어판 설정

RTX 4090 최적화 가이드: ComfyUI에서 Flux 모델을 최상의 성능으로 실행하기 위한 NVIDIA 제어판 설정