AI가 자신 있게 망가진 코드를 배포하지 못하게 하는 방법 — 실제로 작동한 패턴
AI에게 작성한 코드를 스스로 검토하라고 시키면 같은 확신을 반복할 뿐입니다. 글쓴이는 30일간 AI가 모든 애플리케이션 로직을 작성하게 한 뒤, 별도 컨텍스트의 다른 검토자에게 실패 시나리오만 찾게 하는 ‘Refutation Gate’를 제안합니다.
AI에게 작성한 코드를 스스로 검토하라고 시키면 같은 확신을 반복할 뿐입니다. 글쓴이는 30일간 AI가 모든 애플리케이션 로직을 작성하게 한 뒤, 별도 컨텍스트의 다른 검토자에게 실패 시나리오만 찾게 하는 ‘Refutation Gate’를 제안합니다.