홈으로 돌아가기
공식 웹사이트 방문하기
Ollama 올라마 로컬 오픈소스 LLM 실행 프레임워크
공식 서비스 바로가기
서비스 상세 소개
Ollama 올라마 로컬 오픈소스 LLM 실행 프레임워크: 맥, 윈도우, 리눅스 로컬 PC 환경에서 DeepSeek, Llama 3.3, Mistral 등 최신 오픈소스 LLM을 단 한 줄의 명령어로 구동하는 표준 런타임입니다.
Ollama는 로컬 환경에서 대규모 언어 모델을 간편하게 다운로드하고 실행할 수 있도록 패키징된 도커 스타일의 오픈소스 CLI 도구입니다. CPU와 GPU 가속을 자동 감지하여 최적의 성능을 제공하며, 로컬 포트 11434를 통해 OpenAI 호환 REST API를 서빙하여 외부 클라우드 의존 없이 완전한 프라이버시가 보장되는 온프레미스 AI 환경을 구축할 수 있습니다.
핵심 기능 목록
단 한 줄의 터미널 명령어로 Llama 3.3 및 DeepSeek 모델 다운로드와 즉각 실행
CPU 및 애플 실리콘 Metal, 엔비디아 CUDA GPU 하드웨어 가속 자동 감지
OpenAI 규격 완벽 호환 REST API 엔드포인트 로컬 기본 서빙
Modelfile 기반 시스템 프롬프트 및 파라미터 커스텀 경량화 패키징
외부 데이터 유출 위험 없는 100% 오프라인 온디바이스 인공지능 구동
