SigNoz 글, AI 장애 자동화가 SRE 숙련 약화할 위험 제기

본문

SigNoz 뉴스레터의 Elizabeth는 AI가 SRE를 대체하는지보다, 익숙한 장애 대응을 자동화하면 드물고 복잡한 장애를 처리할 숙련과 신입의 학습 기회가 줄어드는지를 묻습니다. 글은 AI가 알려진 장애의 알림을 묶고 런북을 실행하거나 기본적인 원인 후보를 제시하는 상황을 출발점으로, 반복 업무가 줄면 사람이 예외 상황을 다룰 경험도 줄어들 가능성이 있다고 주장합니다. SRE의 대응 능력이 실제로 떨어졌다는 측정 결과는 제시하지 않습니다.

이 우려의 배경으로 글은 1983년 Lisanne Bainbridge의 자동화 연구를 들며, 자동화가 일상 업무를 맡으면 사람의 역할이 드물고 중요한 예외 대응에 집중되고 그 대응을 연습할 기회는 줄어든다고 설명합니다. SRE의 경우 AI가 로그를 요약하고 원인 후보를 제시하면 엔지니어가 원자료를 읽고 가설을 세우며 시스템 구조를 익히는 일이 줄 수 있다는 논리입니다. 글은 이미 익힌 능력이 약해지는 현상을 'deskilling', 신입이 능력을 충분히 익힐 기회 자체를 얻지 못하는 상황을 'never-skilling'이라고 부릅니다.

SigNoz 글은 알려진 원인과 해결책이 있는 장애는 자동화하고, 부분적으로 파악된 문제에는 AI 권고와 사람의 검토를 결합하며, 새롭고 복합적인 장애는 사람이 주도하는 단계 구분을 소개합니다. 이는 글에서 PagerDuty의 모델로 소개한 구분입니다. 저자는 AI가 처리할 수 있는 일부 사건도 사람이 직접 대응하는 연습 기회로 삼고, AI의 권고를 승인만 하는 대신 조사 과정에 함께 참여하게 하자고 제안합니다. 빠른 복구와 숙련 유지 사이에는 비용이 생길 수 있다고 설명합니다.

글이 든 항공 연구는 A340 조종사 20명이 비행 시뮬레이터에서 비행 지시 장치 사용 여부를 달리해 접근 비행을 수행한 실험입니다. 연구 자료는 장치 사용에 따라 조종 입력과 시선 이동 방식이 달라졌다고 보고합니다. 이 실험은 장기간의 숙련 저하를 직접 측정하지 않았으며, FAA가 수동 비행 시간을 의무화했다는 글의 설명도 이 자료에서 확인되지 않습니다. 의료 분야의 내시경 AI 수치도 글에 소개됐지만 연구 설계와 분모를 확인할 자료가 없어 기사에 인용하지 않습니다.

글의 자료는 SRE 역량 저하를 직접 측정한 결과가 아니라, 자동화 연구와 항공 시뮬레이션을 근거로 숙련 유지 위험을 제기합니다. SigNoz는 AI를 사람의 통제 아래 보조 기능부터 도입하고 신뢰에 따라 자율성을 높이겠다는 제품 방향도 밝혔습니다. 관측 데이터 계층을 보유해 더 맥락에 맞는 AI를 만들 수 있다는 설명 역시 회사가 밝힌 제품 구상입니다.

자료: SigNoz / 정리·해설: Trawling

참고 자료

• NOM DU PROJET - IASS_2019_Behrend_Lafargue.pdf — https://flightsafety.org/wp-content/uploads/2019/12/IASS_2019_Behrend_Lafargue.pdf