마이크로소프트 연구진, 휴면 뉴런 바꿔 AI 에이전트 백도어 시연
마이크로소프트 연구진은 평소 거의 작동하지 않는 뉴런의 가중치를 바꿔, 특정 문자열이 나타나면 AI 에이전트가 명령을 내놓게 하는 백도어 ‘Lazarus’를 시연했습니다. Nemotron-Terminal-8B에서는 1만2천 개가 넘는 뉴런 중 7개를 수정해 23개 실행 흐름으로 조정했고, 별도 테스트에서 트리거가 포함된 실행 흐름의 98.8% 이상에 정해둔 명령을 출력했습니다. 명령이 미치는 범위는 에이전트에 부여된 도구 권한에 따라 달라집니다.