Stock CTO 다케다 슌이치, AI 보안 점검 기준을 ‘사람이 대응해야 하는가’로 바꿨다

Stock Tech Blog에 2026년 11월 6일 글을 올린 Stock CTO 다케다 슌이치는 AWS 운영 자료를 평일 아침마다 읽어 판정 보고서를 만드는 AI 에이전트의 운영 사례를 소개했습니다. 가동 후 일주일 동안 기준을 세 차례 바꿨습니다. 처음에는 어떤 변화든 적색으로 분류해 직원의 정상 작업까지 매주 적색 보고서에 쌓였습니다. 다케다는 무엇이 발생했는지보다 사람이 실제로 개입해야 하는지를 기준으로 삼았습니다.

알람 뒤에 필요한 맥락을 모읍니다

다케다는 점검 절차를 만들기 전 기존 대시보드와 알람이 어떤 상황을 보여 주는지 살폈습니다. 대시보드는 미리 작성한 쿼리에 맞는 공격을 포착합니다. 예상하지 못한 유형은 화면에 나타나지 않습니다. 알람은 발생 사실을 알리고, 실행자와 발신지, MFA 사용 여부는 이벤트를 별도로 조회해야 확인됩니다. 에이전트는 알람이 울린 뒤 담당자가 하던 조회를 맡습니다.

에이전트는 WAF와 로드밸런서의 차단 건수와 국가별 통신량, 애플리케이션의 로그인 실패와 계정 잠금, 클라우드 계정 탈취 징후인 CloudTrail 추적 중단·권한 변경·외부 공개 설정, 기존 알람의 상태 변화를 살핍니다. CloudWatch 지표와 알람 이력, Logs Insights 조회 결과, CloudTrail 이벤트 등은 허용목록에 등록한 읽기 전용 명령으로 확인합니다. 이 사례에서 에이전트의 역할은 이미 수집되는 자료와 알람을 모아 사건의 맥락을 확인하는 것입니다.

AWS 운영 환경에서 에이전트는 허용목록에 있는 읽기 전용 명령만 실행합니다. 생성·수정·삭제, 컨테이너나 데이터베이스 접속, 권한 변경은 허용되지 않으며 추가 판단이 필요한 작업은 보고서에 적습니다. 기술 보고서는 로컬에 저장하고 사내 공유 노트도 한 건 작성합니다. 공유 노트에는 식별자와 IP 주소 대신 건수와 판정만 담고, 세부 기록은 기술 보고서에 둡니다.

발생 여부보다 사람이 대응할 필요를 봅니다

처음에는 계정 변경 알람이 울리면 실행자와 접속 위치, MFA 사용 여부를 조회했습니다. 직원의 IAM 계정으로 사내 회선에서 MFA를 사용한 작업은 녹색, 그 밖의 작업은 적색으로 분류했습니다. 재택근무와 출장을 반영해 다음 주에는 사외 회선에서 이뤄진 릴리스, 조사 목적의 읽기, MFA를 거친 콘솔 로그인처럼 예상된 업무도 녹색에 포함했습니다.

사외에서 발생한 예상 밖의 권한 변경, 비밀정보 열람, 외부 공개 설정 변경이나 실행자·목적을 알 수 없는 작업은 MFA를 거쳤더라도 노란색으로 분류합니다. 즉시 대응이 필요한 적색에는 CloudTrail 추적 중단, 새로운 외부 공개, 사외에서 MFA 없이 성공한 로그인 등이 포함됩니다. 녹색은 차단됐거나 원인이 설명된 활동, 파란색은 평상 상태입니다. 권한이나 수집 구조 때문에 확인하지 못한 항목은 흰색으로 표시하고 기술 보고서에만 남깁니다.

차단된 통신이 급증하면 공격 시도가 있었더라도 입구에서 막혔으므로 녹색입니다. 반면 통신이 차단되지 않은 채 애플리케이션에 도달해 오류나 로그인 실패가 늘고, 발신지나 원인을 알 수 없으면 노란색입니다. 통신량보다 사람이 판단하거나 조치해야 하는 상태인지를 분류 기준으로 삼았습니다.

버킷 공개 알람에서는 API 이름만으로 설정이 어느 방향으로 바뀌었는지 알 수 없었습니다. PutBucketPublicAccessBlock은 공개 차단 설정을 켤 때와 끌 때 모두 쓰입니다. API 이름만 집계하면 새 버킷에 공개 차단을 적용한 정상 작업도 공개 허용 경보로 잡힙니다. 다케다는 요청 매개변수에서 차단 값이 false인 항목을 세고, 차단 설정을 삭제하는 이벤트도 살피도록 필터를 구성하는 예를 들었습니다.

실시간 경보와 하루 단위 점검을 나눕니다

에이전트는 평일 아침 예약 실행으로 동작하며, 관측 구간은 직전 실행 시각부터 이번 실행 시각까지입니다. 월요일에는 금요일 실행 뒤의 72시간을 살핍니다. 로컬 PC가 꺼져 있으면 실행되지 않고, 빠진 기간은 다음 실행의 관측 구간에 합쳐집니다. 이 점검은 직전 실행 이후의 기록을 정리하며 실시간 알림은 기존 알람이 맡습니다. 알람이 활성 상태인 동안 반복 사건이 하나로 묶여 추가 알림에 나타나지 않을 때도, 다음 실행에서 관측 구간의 기록을 다시 집계합니다.