엔터프라이즈 AI 옵저버빌리티 플랫폼 — 아키텍처, 핵심 역량, 선정 가이드

본문

기업이 내부 프로토타입 단계를 지나 LLM 애플리케이션을 고객 대상 서비스로 배포하기 시작하면, HTTP 상태 코드나 CPU 사용률 같은 전통적인 소프트웨어 지표만으로는 품질을 보장할 수 없게 됩니다. 이 글은 비결정적(non-deterministic) LLM 앱과 멀티 에이전트 워크플로우를 운영 환경에서 감시·평가·거버넌스하기 위한 엔터프라이즈 AI 옵저버빌리티 플랫폼의 아키텍처와 선정 기준을 다룹니다.

왜 전통 APM으로는 부족한가

Dynatrace나 New Relic 같은 전통 APM은 코드 경로가 예측 가능하고 입력이 재현 가능한 출력으로 이어지는 결정적 시스템을 대상으로 설계됐습니다. 반면 LLM은 temperature를 낮게 설정해도 토큰 샘플링과 프로바이더 라우팅 때문에 출력이 달라지는 확률적 추론 엔진이며, Stanford AI Index Report의 연구에서도 이런 출력 변동성이 확인됩니다. 게다가 현대 AI 아키텍처는 RAG 파이프라인, 시맨틱 캐시, 벡터 데이터베이스, 다단계 도구 호출이 얽혀 있습니다. 이 환경에서 장애는 예외 핸들러를 트리거하지 않고 조용히 발생합니다. 벡터 DB가 무관한 청크를 검색해 하위 모델이 할루시네이션을 일으키는 '컨텍스트 품질 저하와 검색 드리프트', 에이전트가 잘못된 도구를 고르거나 파라미터를 잘못 넣어 추론이 교착되는 '연쇄 도구 실패', 정적 필터를 우회해 시스템 프롬프트를 조작하는 '프롬프트 인젝션', 재귀 루프로 비용을 폭증시키는 '토큰 낭비'가 대표적인 신종 장애 모드입니다. 글은 이에 따라 원격 측정의 기본 단위가 'HTTP 요청·서비스 스팬'에서 '멀티턴 세션·에이전트 스텝·LLM 생성'으로, 성공 기준이 '에러율·지연시간'에서 '의미적 정확성·충실성·안전성·관련성'으로 바뀐다고 지적합니다.

4계층 아키텍처와 OpenTelemetry GenAI 규약

견고한 배포는 계측(instrumentation), 수집 파이프라인(ingestion), 평가 엔진, 거버넌스 스토리지의 네 계층으로 구성됩니다. LangGraph, LlamaIndex, CrewAI, OpenAI SDK 같은 애플리케이션 계층에서 OpenTelemetry 또는 스테이트리스 SDK로보낸 데이터가 스트리밍 OTLP 컬렉터를 거치며 PII 마스킹과 토큰 카운팅이 이뤄지고, 이후 평가 엔진(통계 규칙, 시맨틱 분류기, LLM-as-a-judge)과 고처리량 OLAP 컬럼형 트레이스 저장소로 분기해 최종적으로 RBAC·인시던트 알림·컴플라이언스 감사를 담당하는 엔터프라이즈 컨트롤 플레인에 도달합니다. 벤더 락인을 피하기 위해 업계는 CNCF가 관리하는 OpenTelemetry GenAI Semantic Conventions으로 수렴하고 있으며, gen_ai.system, gen_ai.request.model, gen_ai.usage.input_tokens 같은 표준 스팬 속성을 규정합니다. 글은 LLM 호출 시 gen_ai.chat 스팬을 열어 모델명·temperature·프롬프트·토큰 사용량을 기록하고 예외 시 StatusCode.ERROR와 record_exception을 남기는 Python 예제를 제시합니다.

계층형 온라인 평가 전략

모든 프로덕션 트래픽에 LLM-as-a-judge를 적용하면 비용과 지연이 감당할 수 없게 되므로, 선도 플랫폼은 계층형 평가를 지원합니다. 결정론적(deterministic) 평가자는 정규식·PII 탐지·JSON 스키마 검증을 5ms 미만, 토큰 비용 0으로 매 트레이스에 실행합니다. 통계적 평가자는 코사인 유사도 기반 검색 관련성, 가독성 점수, 벡터 분포 드리프트를 10~50ms에 측정합니다. LLM-as-a-judge는 충실성(faithfulness), 지시 준수, 톤·브랜드 안전 같은 주관적 품질을 500~2,500ms, 건당 $0.001~0.05의 비용으로 샘플링된 트래픽에 적용하고, 애매한 트레이스는 human-in-the-loop 리뷰 큐로 보냅니다.

핵심 역량과 플랫폼 비교

플랫폼 선정 시 대시보드 이상을 봐야 한다고 글은 강조합니다. 에이전트 시스템에서는 8번째 스텝의 오답이 2번째 스텝의 잘못된 검색 쿼리에서 비롯되므로, 세션·계획 노드·도구 실행을 하나의 실행 그래프로 재구성하고 중간 스텝부터 시뮬레이션을 재실행할 수 있어야 합니다. 사용자 ID·사업부·모델 변형·피처 플래그 단위의 비용 귀속과 무한 재시도 감지용 실시간 이상 탐지, 그리고 프로덕션 실패 트레이스를 회귀 테스트로 전환하는 '데이터 큐레이션 루프'도 요건입니다. 비교표에서 이 글은 Maxim AI를 pre-production 시뮬레이션, 온라인 평가, 엔드투엔드 트레이싱을 하나로 묶은 전 생애주기 지원을 이유로 선두 플랫폼으로 꼽고, LangSmith(LangChain/LangGraph 생태계 전용 팀), Langfuse(MIT 라이선스·ClickHouse 기반 셀프호스팅), Arize AI(전통 ML과 LLM을 함께 운영하는 조직, OpenInference), Datadog LLM Observability(기존 Datadog 도입 기업의 인프라 통합 대시보드)를 각각의 적합 대상과 함께 정리합니다.

거버넌스와 도입 로드맵

관측 데이터에는 고객 기록과 사내 IP가 포함되므로 NIST AI RMF 1.0, SOC 2 Type II, HIPAA, GDPR 대응이 필요합니다. 금융·의료·방위처럼 원시 프롬프트의 외부 반출이 금지된 환경을 위한 In-VPC/프라이빗 클라우드 배포, 엣지 단계의 동적 PII 마스킹, 세분화된 RBAC, 변조 불가 감사 로그가 요건으로 제시됩니다. 도입은 4단계로 진행합니다. 1~2주차에 모델 지연·토큰 수의 기본 OTel 스팬을 계측하고, 3~4주차에 RAG 청크 검색·도구 호출·세션 ID를 포함한 전체 실행 체인을 포착하며, 5~6주차에 결정론적 안전 규칙과 샘플링 기반 비동기 평가자를 배포하고, 7주차 이후 실패 사례를 인간 검토 큐와 pre-release 테스트 스위트로 흘려보내는 폐쇄 루프를 완성합니다.

원문: dev.to / 번역·요약: Trawling