잡식냥이😼

챗지피티나 클로드, 딥시크와 같은 LLM을 자주 활용하다보면 오프라인 환경에서도 활용하고 싶다는 생각이 들 때가 있는데요.그런데 LLM 초보인 저는 HuggingFace에서 다운받아서 하기에는 환경 설정부터하기 막막할 때가 있더라구요. 이런 경우에 여러 오픈소스 모델들을 간단한 명령어들로 실행할 수 있게 하는 아주 간단한 플랫폼이 있습니다. Ollama란? Ollama는 다양한 LLM 모델을 로컬 환경에서 손쉽게 실행할 수 있게 해주는 오픈소스 플랫폼입니다.HuggingFace나 GitHub는 오픈소스 모델을 배포하고 커뮤니티 공유에 초점을 맞추고 있는 한편, Ollama는 로컬 기반의 효율적인 모델 실행에 초점을 맞추고 있습니다.  인터넷 연결 없이도 모델을 실행할 수 있어 데이터 보안성이 높으며, 복..

ollama run llama3.2Error: pull model manifest: 500: {"errors":[{"code":"INTERNAL_ERROR","message":"internal error"}]} 뭐라도 배워보겠다고 Ollama를 설치했는데 첫 실행부터 문제를 일으켰다.챗지피티가 하라는대로 했지만 에러가 해결되지 않아서 짜증이 났지만 결국의 원인은 뭐도 아니고 그냥 와이파이였다. 결론부터 말하자면 나는 핫스팟 연결을 해지하고 일반 와이파이 연결을 하니 바로 해결이 되었다. 500 INTERNAL_ERROR 오류500 오류는 서버에서 요청을 처리하는 도중 예상치 못한 오류가 발생했음을 의미한다. 핫스팟이 문제일 수 있는 이유핫스팟을 통해 인터넷에 연결할 때는 일반적인 Wi-Fi 또는 유선 연..