홈으로 돌아가기
공식 웹사이트 방문하기
Groq Cloud 그록 클라우드
공식 서비스 바로가기
서비스 상세 소개
Groq Cloud 그록 클라우드: 자체 개발한 LPU 하드웨어를 통해 오픈소스 모델을 초당 500토큰 이상의 압도적 속도로 실시간 서빙하는 고속 AI 추론 클라우드.
Groq Cloud는 기존 GPU 기반 서빙의 지연 시간 병목을 극복하여 즉각적인 반응이 필요한 음성 AI 에이전트, 실시간 코드 완성, 인터랙티브 챗봇에 최적화된 고속 추론 API를 제공합니다.
핵심 기능 목록
초당 500토큰 이상의 초저지연 LLM 추론
OpenAI 호환 API 인터페이스
오픈소스 파운데이션 모델 즉시 서빙