[AI] Meta Llama 3 설치 및 Open WebUI 실행까지 (Windows)
2024. 4. 28. 10:29
★3. 삼런이의 [테크니컬]
서론 약 1주일 전, Meta에서 새로운 오픈소스 LLM 모델인 Llama 3을 공개 및 출시 했습니다. Llama 3의 8B와 70B가 공개된 상태이며, 최대 400B급 모델을 학습하고 있다고 합니다. 여기서 우리는 대부분의 PC에서 원활하게 사용해 볼 수 있는 Llama 3 8B 모델의 실행을 진행해보고자 합니다. 본 강좌는 아래의 순서대로 진행됩니다.Ollama 설치1-1. 언어 모델 다운로드 위치 변경Llama 3:8b 설치 및 구동Open WebUI 설치 및 연동3-1. Docker Desktop 설치 (재부팅 필수)3-2. Docker 이미지 설치 및 실행3-3. Open WebUI 실행 및 설정 Llama 3를 구동하는 제 PC의 사양은 아래와 같습니다.CPU : 인텔 i7-1370..