안녕하세요. AI 시대가 되면서, ChatGPT라는 용어는 많이 들어 봤을 겁니다. 그리고 조금 더 알고 있다면 LLM이라고 까지 들어보았을 거라 생각됩니다. 그런 인공지능 모델을 개인 PC에 작동시키는 것을 해보려고 합니다.모든 PC에서 가능하다는 것은 아니고, GPU를 별도로 가지고 VRAM도 어느 정도 되는 것을 확인해 보려고 합니다. 인공지능 모델을 실행하기 위해서는 LLM(Large Language Model, 대규모 언어 모델) 실행도구를 먼저 설치해야 합니다. 많은 것들 중에 메타에서 배포하고 있는 Ollama를 설치하고 llama3 모델을 올려 실습해 보겠습니다. 사실 최종 목적은 코딩하기 위한 도구로 사용해 보기 위함입니다. 1. LLM 실행 도구 (LLM Runner), Ol..