Stable Diffusion 설치 완벽 가이드 2025: 모든 오류 해결 (파이썬, CUDA, VRAM)

Stable Diffusion 설치 완벽 가이드 2025

AI 이미지 생성의 세계에 입문하고 싶으신가요? '스테이블 디퓨전(Stable Diffusion)' 로컬 설치는 그 첫걸음입니다. 하지만 수많은 기술 용어와 오류 메시지는 초보자에게 큰 장벽이 될 수 있습니다.

무엇보다 Stable Diffusion의 가장 큰 매력은 바로 무료 오픈소스 프로그램이라는 점입니다. 누구나 자유롭게 다운로드하여 자신의 컴퓨터에 직접 설치해 사용할 수 있습니다. 

이는 매달 구독료를 지불해야 하는 Midjourney와 같은 서비스와는 근본적으로 다릅니다. 내 PC에 한번 설치해두면, 추가 비용 없이 무제한으로 이미지를 만들고 모든 결과물의 소유권을 가질 수 있다는 막강한 장점이 있습니다.

이 포스트는 AI 그림 그리기에 도전하는 여러분이 Stable Diffusion WebUI 설치부터 첫 이미지 생성까지, 마주할 수 있는 모든 문제를 해결할 수 있도록 돕는 종합 가이드입니다. 이 글 하나로 설치 과정을 마스터해 보세요.




1. 사전 준비: 성공적인 설치를 위한 체크리스트

Stable Diffusion 설치를 시작하기 전, 몇 가지 필수 요소를 확인해야 합니다. 이 준비 과정이 전체 설치의 성패를 좌우할 수 있습니다.

  • GPU: NVIDIA 그래픽카드가 필요합니다. VRAM은 최소 4GB, 권장 사양은 8GB 이상입니다. VRAM이 클수록 고해상도 이미지 생성이 용이합니다.

  • Python: 반드시 Python 3.10.6 버전을 사용해야 합니다. 다른 버전을 사용할 경우, 'torch' 관련 오류 등 호환성 문제로 설치에 실패할 확률이 매우 높습니다. 설치 시 'Add Python 3.10 to PATH' 옵션을 반드시 체크하세요.

  • Git: WebUI 소스 코드를 Github에서 다운로드하기 위한 프로그램입니다. 기본 옵션으로 설치하면 됩니다.

  • 저장 공간: SSD에 최소 50GB 이상의 여유 공간을 확보하는 것이 좋습니다. 모델 파일과 생성된 이미지가 많은 공간을 차지하게 됩니다.


2. Stable Diffusion 설치 단계별 가이드

준비가 완료되었다면, 아래의 5단계에 따라 설치를 진행합니다.

  1. 폴더 생성 및 소스코드 다운로드: 설치를 원하는 위치에 stable-diffusion과 같은 이름의 폴더를 만듭니다. 해당 폴더의 주소창에 cmd를 입력해 명령 프롬프트를 열고, git clone https://github.com/AUTOMATIC1111/stable-diffusion-webui.git 명령을 실행합니다.

  2. AI 모델 다운로드: WebUI는 뼈대이며, 실제 두뇌 역할을 하는 .safetensors 확장자의 AI 모델 파일이 필요합니다. 초심자에게는 'v1-5-pruned-emaonly.safetensors'와 같은 표준 SD 1.5 모델을 추천합니다.

  3. 모델 파일 배치: 다운로드한 모델을 stable-diffusion-webui\models\Stable-diffusion 폴더 안에 위치시킵니다.

  4. 최초 실행: webui-user.bat 파일을 더블클릭하여 실행합니다. 최초 실행 시에는 필요한 라이브러리를 자동으로 다운로드하므로 10분 이상 소요될 수 있습니다.

  5. 실행 확인: 설치가 완료되면 명령 프롬프트 창에 Running on local URL: http://127.0.0.1:7860 라는 주소가 표시됩니다. 이 주소를 웹 브라우저에 입력하면 Stable Diffusion WebUI가 실행됩니다.



3. 자주 발생하는 오류 및 해결 방법 (FAQ)

설치 과정에서 문제가 발생했나요? 아래의 FAQ에서 해결책을 찾아보세요.

  • Q1. exit code: 9009 또는 Couldn't launch python 오류

    • 원인: 파이썬 환경 변수(PATH)가 제대로 설정되지 않았습니다.

    • 해결: 제어판에서 모든 파이썬을 제거하고, Python 3.10.6을 재설치하세요. 설치 과정에서 Add Python 3.10 to PATH 옵션을 반드시 체크해야 합니다.

  • Q2. torch, torchvision 라이브러리 설치 실패 오류

    • 원인: 호환되지 않는 버전의 파이썬(3.11 이상)이 설치되어 있습니다.

    • 해결: 모든 파이썬 버전을 삭제하고, 오직 Python 3.10.6 버전만 설치하세요. 이후 stable-diffusion-webui 폴더의 venv 폴더를 삭제하고 webui-user.bat을 다시 실행하여 라이브러리를 새로 설치합니다.

  • Q3. OutOfMemoryError: CUDA out of memory (VRAM 부족)

    • 원인: 그래픽카드 메모리가 부족합니다. (주로 VRAM 4GB~6GB 환경)

    • 해결: webui-user.bat 파일을 편집하여 set COMMANDLINE_ARGS= 라인에 --lowvram 인자를 추가하여 VRAM 사용량을 줄이세요. 이미지 해상도를 512x512로 낮추는 것도 좋은 방법입니다.

  • Q4. NansException (NaN error) 발생

    • 원인: 구형 GPU(GTX 10 시리즈 등)에서 발생하는 연산 오류입니다.

    • 해결: webui-user.bat 파일의 COMMANDLINE_ARGS--no-half 인자를 추가하여 연산 정밀도를 높여 안정성을 확보하세요. VRAM이 부족하다면 --lowvram --no-half 와 같이 함께 사용할 수 있습니다.

  • Q5. Stable diffusion model failed to load 오류

    • 원인: 모델 파일을 불러오는 데 실패했으며, 원인은 다양합니다.

    • 해결: 모델 파일이 models\Stable-diffusion 폴더에 정확히 있는지, VRAM이 부족하지 않은지(Q3 참고), WebUI 상단에서 모델이 제대로 선택되었는지 확인하세요. 그래도 문제가 지속되면 모델 파일을 다시 다운로드하는 것이 좋습니다.


이 가이드를 통해 Stable Diffusion 설치의 장벽을 넘어, AI 아트 제작의 즐거움을 마음껏 누리시길 바랍니다.




다음 이전