실무에서 시스템 아키텍처를 설계하고 C++ 기반의 코드를 작성하다 보면, 생산성 향상을 위해 자연스럽게 AI 코딩 어시스턴트의 도입을 고려하게 된다. 하지만 기업의 핵심 자산인 소스 코드, 특히 자동차 제어 및 보안과 직결된 민감한 데이터를 외부 클라우드 서버(OpenAI, Anthropic 등)로 전송하는 것은 엄격한 보안 규정상 허용되지 않는 경우가 많다. 이러한 제약을 극복하고 안전한 개발 환경을 구축하기 위해 외부 인터넷 연결 없이 오프라인으로 동작하는 로컬 LLM(Local Large Language Model) 을 고려하고 있다. 이 글에서는 개인적으로 사용 중인 두 가지 이질적인 컴퓨팅 환경, 즉 Apple MacBook M3 Max 36GB 모델과 AMD Threadripper Pro 79..
