LAGOS AI FAMILY · 성능 관측
AI APM · Ordic
AI 시스템의 상태를 한 화면에서 지켜보는 계기판
LLM·에이전트·가드레일 스택의 지연·처리량·이상을 관측·집계·경보합니다. 판정하지 않고, 지켜봅니다.
폐쇄망 · 외부전송 0
로컬 시계열 저장
NLI 이상탐지
OpenTelemetry
3형제 이벤트 통합
AI 시스템은 돌아가는 것만으로 충분하지 않습니다. 얼마나 빠른가, 어디가 느린가, 무엇이 이상한가를 알아야 운영이 됩니다. Ordic APM은 AI 스택 전반을 계측해 성능·품질·이상을 관측하고, 문제를 경보합니다. 차단·허용 같은 판정은 하지 않습니다 — 그것은 Guardrail·GateKeeper의 몫이며, 이 경계가 APM의 정체성입니다.
핵심 기능
실시간 성능 관측
LLM·에이전트 응답 지연(p50/p95/p99)·처리량·에러율을 시계열로 추적.
분산 트레이싱 (OTel)
OpenTelemetry로 검색·RAG 구간까지 요청 경로를 분해해 병목을 짚어냄.
로컬 시계열 저장소
VictoriaMetrics 기반 온프레미스 저장. 외부 전송 없이 장기 추세 보존.
NLI 기반 이상탐지
mDeBERTa NLI 엔진으로 응답 품질 저하·이상 패턴을 자동 감지.
지능형 경보
그룹핑·지속조건·해소 통지를 갖춘 알림 엔진으로 노이즈 없는 경보.
3형제 판정 이벤트 통합
Guardrail·GateKeeper의 차단/허용/경고 이벤트를 한 타임라인에 수신·표시.
제품 경계
APM은 판정하지 않습니다. 관측·집계·경보만 합니다. 이 명확한 경계 덕분에 보안 판정 제품(Guardrail·GateKeeper)과 역할이 겹치지 않고, 세 제품이 한 시스템 안에서 서로를 보완합니다.
왜 Ordic APM인가
◆폐쇄망 완전 대응 — 외부 전송 0. 로컬 저장. 국방·공공 폐쇄망에서 그대로 동작.
◆AI 특화 관측 — 범용 APM이 못 보는 LLM·RAG·에이전트 구간과 응답 품질까지 계측.
◆패밀리 통합 허브 — 세 제품의 보안 이벤트를 한 화면에 모으는 통합 관제.
◆독립 부가 도구 — 다른 제품의 인증 필요조건이 아닌, 있으면 좋은 관측 계층.
대상 · 배포
이런 곳에 필요합니다
AI 스택(LLM·에이전트·가드레일)을 운영하며 성능·안정성·이상을 관측해야 하는 조직. 특히 외부 관측 SaaS를 쓸 수 없는 폐쇄망 환경.
배포 형태
온프레미스 게이트웨이(Go) + 로컬 시계열 저장 + 웹 대시보드. 에어갭 설치 지원.