Docker 실무 필수 명령어 — 컨테이너 생명주기 완전 정복
docker run, exec, stop, rm까지 — 실무에서 매일 쓰는 컨테이너 생명주기 명령어를 실전 예제와 함께 정리한다.
docker run, exec, stop, rm까지 — 실무에서 매일 쓰는 컨테이너 생명주기 명령어를 실전 예제와 함께 정리한다.
기나긴 로컬 LLM 생태계 탐험의 종착지. Ollama, LM Studio, llama.cpp, vLLM, EXO Labs까지 5개의 도구를 한눈에 비교하고 내 팀에 가장 알맞은 도구를 선택하기 위한 의사결정 가이드를 제공한다.
맥북 하나로는 절대 돌릴 수 없는 70B 파라미터 거대 모델. 하지만 집 안의 남는 맥북, 데스크탑, 심지어 아이폰까지 Wi-Fi로 묶어 거대한 GPU 클러스터로 만들어버리는 마법, EXO Labs를 소개한다.
내 컴퓨터에서 나 혼자 쓰는 AI가 아니라, 수천 명의 사용자를 동시에 처리해야 하는 진짜 '서비스'를 만들고 싶다면? 메모리 병목을 뚫어버린 PagedAttention 기술로 상용 서빙의 표준이 된 vLLM을 소개한다.
우리가 쓰는 거의 모든 로컬 LLM 도구의 껍데기를 벗겨보면 이 녀석이 나온다. C/C++로 작성되어 어떤 구형 기기에서든 억지로 AI를 구동시키는 마법의 엔진, llama.cpp의 구동 원리와 커스텀 세팅법을 파헤친다.
터미널의 검은 화면이 두려운 당신을 위한 완벽한 해답, LM Studio. 클릭 몇 번으로 Hugging Face의 최신 모델을 다운로드하고, 내 컴퓨터의 RAM/VRAM을 모니터링하며 모델을 테스트하는 방법을 소개한다.
로컬 LLM 셋업의 복잡함을 도커(Docker)처럼 깔끔하게 해결한 Ollama. 설치부터 CLI 명령어, REST API 연동, 그리고 Modelfile을 활용한 커스텀 모델 구축까지 완벽 가이드를 제공한다.
클라우드 API 비용과 데이터 유출 걱정 없이, 내 컴퓨터에서 오프라인으로 돌아가는 나만의 AI. 2026년 로컬 LLM 생태계의 트렌드와 목적에 맞는 5대 핵심 도구(Ollama, LM Studio, llama.cpp, vLLM, EXO)를 소개한다.
Ubuntu 24.04 서버의 디스크/메모리 모니터링 스크립트, logrotate 로그 관리, rsync를 이용한 자동 백업과 cron 스케줄링, 그리고 복원 테스트까지. 서버 운영의 마지막 안전망.
Ubuntu 24.04에 Nginx를 설치하고 가상 호스트(Server Block)를 설정한 뒤, Certbot으로 Let's Encrypt SSL 인증서를 발급받아 HTTPS와 HTTP/2를 활성화하는 전체 과정.