m3ss – messy but it works
m3ss는 IT 삽질 로그입니다.
RTX 4090 한 장으로 125B 모델 올려보다가 RAM 터져서 재부팅하고, vLLM 설치하다 CUDA 꼬여서 3시간 날린 경험을 기록합니다.
화려한 성공기보다 실패 로그가 더 도움이 된다고 믿습니다.
운영: m3ss (LLM 온디바이스, GPU, 개발환경)
문의: contact@m3ss.co.kr
모토: messy but it works
m3ss – messy but it works
m3ss는 IT 삽질 로그입니다.
RTX 4090 한 장으로 125B 모델 올려보다가 RAM 터져서 재부팅하고, vLLM 설치하다 CUDA 꼬여서 3시간 날린 경험을 기록합니다.
화려한 성공기보다 실패 로그가 더 도움이 된다고 믿습니다.
운영: m3ss (LLM 온디바이스, GPU, 개발환경)
문의: contact@m3ss.co.kr
모토: messy but it works