클라우드 환경 상에서 언어 모델의 경로 인식 오류

[candleboxyz]

👥Squad

NLP 스쿼드

✏️ Description

• 클라우드 환경에서 언어 모델을 인식하지 못한다.

❗ Situation

Given

1. 클라우드 환경에서 본 레포를 클론한 뒤 requirements.txt를 통한 파이썬 패키지 설치.
2. 모델을 다운받아 모델이 있어야 하는 위치로 이동시킴.

When

fastapi run 24UCD-NLP/app/services/main.py 실행.

Then

ValueError: Model path does not exist: app/ml_models/language_model/gemma-2-9b-it-Q4_K_M.gguf

❇️ Expected result

• API 로컬 호스팅 성공

➕ Etc