Patch the Planet: AI 에이전트가 취약점을 찾을 때 필요한 글로벌 대응 체계

OpenAI는 PHP 취약점 대응에 참여한 경험을 바탕으로 널리 쓰이는 소프트웨어의 중대 취약점을 처리하는 단계별 협력 체계를 제안합니다. 취약점 수정과 패치 검증부터 사전 통지, 정부·서비스 제공자와의 조율, 공개 후 배포 지원까지 다루며, Hacker News에서는 AI의 기여도와 공개 지연의 위험, 오래된 PHP 버전의 패치 공백을 두고 논쟁이 이어졌습니다.

주제: 보안 오픈소스 AI

에디터 노트

이번 대응의 실질적 가치는 AI가 취약점을 찾았다는 주장보다 패치 공개 전후에 유지보수자와 배포자, 호스팅 업체가 움직일 절차를 구체화한 데 있습니다. PHP 관리자가 수정과 릴리스를 주도했고 파트너들이 보호책 마련을 도왔다는 설명은 역할을 구분합니다. 반면 Calif 연구자가 공개한 설명은 모델이 단독으로 취약점을 찾아낸 것이 아니라 전문 지식과 가설을 바탕으로 모델을 보조 도구로 썼다는 점을 강조합니다. AI가 기여했더라도 그 기여의 크기와 성격은 더 세밀하게 드러나야 합니다. 공개 전에 일부 조직에 정보를 주는 방식은 패치 준비 시간을 벌지만 정보 유출 위험도 낳습니다. 제안은 공유 기준과 일정 재검토 조건을 말하지만, 실제로 누가 대상이 되고 공개를 얼마나 늦추는지에 관한 구체 기준은 제시하지 않습니다. 댓글에서 나온 PHP 7.x와 5.6 이용자의 패치 공백도 이 절차가 해결하지 못한 현실적인 문제입니다. 널리 쓰이는 소프트웨어를 조율해 고치는 계획은 의미가 있지만, 구버전 지원과 배포 권한 같은 문제까지 AI 접근권만으로 풀 수는 없습니다.

AI 요약

OpenAI는 Patch the Planet initiative의 일환으로 PHP에서 중대 취약점을 발견하고 대응하는 데 참여했다고 밝혔습니다. Calif는 GPT-5.6 Sol을 사용해 취약점 하나를 찾았고 Wiz도 두 취약점을 독립적으로 발견해 보고했습니다. PHP 관리자가 수정과 릴리스를 주도했으며 OpenAI와 Wiz, Cloudflare 등은 조사와 기술 지원, 공개 전 보호 조치 마련을 도왔습니다. OpenAI는 AI가 공격자보다 먼저 취약점을 찾았다고 주장하며, 이를 방어자가 패치와 보호책을 준비할 수 있는 Defender's Window라고 설명합니다. 방어 역량이 부족한 조직을 위해 Daybreak 이용권 10억 달러어치를 보조하겠다는 계획도 제시합니다.

제안한 취약점 대응 절차

OpenAI가 제안한 절차는 다섯 단계입니다. 먼저 유지보수자와 연구자, 기술 파트너가 취약점의 영향 범위를 확인하고 패치를 개발합니다. 프런티어 모델을 이용한 공격적 테스트로 패치 우회 방법과 유사 취약점도 살핍니다. 다음으로 유지보수자가 공개 전에 정보를 받을 조직을 정하고, OpenAI는 연락과 정보 공유 합의, 팀 간 조율을 지원합니다. 배포자는 구버전용 수정 사항을 준비할 수 있고 호스팅 업체는 완화책을 시험하며 보안 업체는 탐지 규칙이나 Web Application Firewall(WAF) 규칙을 마련할 수 있습니다.

세 번째 단계에서는 정부 기관과 협력해 중요 인프라와 필수 서비스를 운영하는 조직에 보안 지침을 전달합니다. PHP 대응에서는 미국 백악관의 Super Intelligence Force, Office of the National Cyber Director(ONCD), Cybersecurity and Infrastructure Security Agency(CISA) 및 해외 파트너와 접촉했다고 밝혔습니다. 네 번째 단계에서는 수정안과 공개 일정이 안정되면 배포자, 호스팅·서비스 업체, 대응팀과 운영자가 업데이트를 준비합니다. 마지막으로 패치가 공개되면 영향받는 시스템과 공식 업데이트, 임시 완화책을 안내하고 배포 상황과 추가 지원 필요를 확인합니다.

사전 공유 대상은 조직의 보호 역할, 대응에 필요한 시간, 민감한 정보를 다루는 능력을 기준으로 정하되 최종 참여자는 유지보수자가 결정한다는 구상입니다. 각 조직에는 맡은 보호 업무에 필요한 정보만 제공합니다. 침해 지표가 담긴 네트워크 기록보다 취약점 재현용 proof of concept exploit이 더 민감할 수 있어 공유 위험과 방어 효과를 함께 따진다고 설명합니다. 실제 악용, 정보 유출, 패치 내용으로 취약점이 드러나는 상황, 수정 지연으로 이용자 위험이 커지는 경우에는 공개 일정을 다시 검토합니다.

유지보수자 지원과 장기 보안

OpenAI는 보안 보고서 확인과 영향 평가, 지원 버전별 패치 테스트를 맡는 오픈소스 유지보수자를 지원하겠다고 밝혔습니다. 지원 방식으로 자금과 모델 이용, 엔지니어링 지원을 들었으며 Codex for OSS 구독과 Rust Foundation 후원도 언급했습니다. 오픈소스 프로젝트는 Patch the Planet에 실무 지원을 신청할 수 있습니다. Daybreak에는 오용을 줄이는 차단 분류기를 추가로 조정하고 있으며, 방어 연구를 막지 않으면서 악용을 줄이는 균형을 계속 다루겠다고 했습니다.

개별 취약점 대응 외에도 안전한 기본 코드 작성, 메모리 안전 언어로의 전환, 형식 검증, 샌드박스 격리를 장기 과제로 제시합니다. AI가 코드와 테스트 작성, 마이그레이션을 도울 수 있지만 유지보수자와 보안 전문가가 동작과 호환성을 확인해야 한다고 설명합니다. 또 공개 전 준비 기간, 조기 공개를 촉발할 조건, 사전 통지 대상, 지원이 끝난 버전과 하위 패키지의 수정 방법에 관해 보안 커뮤니티의 의견을 요청합니다.

Hacker News 반응

@nr378 — OpenAI는 AI가 모든 일을 한 것처럼 말하는 듯하지만 Calif의 설명은 다릅니다. 최초 발견에는 특별한 도구나 일반에 공개되지 않은 모델 접근 권한이 없었습니다. 연구자는 자신의 배경지식과 취약점 이력에 대한 이해를 바탕으로 특정 버그가 코드에 있을 것이라는 가설을 세웠습니다. LLM은 공개된 과거 취약점 자료를 학습했더라도 오래되고 덜 알려진 공격 기법부터 찾아내지는 못합니다.
@Ajedi32 — 취약점을 찾아 보고한 일은 좋은 일 아닌가요? 아무도 취약점을 찾지 않으면 존재를 모르는 동안 악용되지 않을 거라고 기대하는 편이 낫다는 말인가요? 보안 업계에서는 그런 논리가 오래전에 설득력을 잃었다고 생각했습니다.
@Banditoz — 취약점은 무엇이고 내가 영향을 받는지 알고 싶습니다. 홍보 문구와 군더더기 때문에 그 두 질문에 답하기가 매우 어렵습니다.
@SolarNet — Calif 보고에 따르면 최초 발견에는 특별한 도구나 누구나 쓸 수 없던 모델이 없었습니다. 연구자는 해당 프로젝트에 대한 전문 지식과 취약점 이력을 바탕으로 모델을 연구·코딩 보조 도구로 썼습니다. 간단한 프롬프트만으로 모든 버그를 찾는 모델은 없습니다.
@ptmkenny — PHP 수정 사항은 보안 지원을 받는 8.2부터 적용됩니다. PHP 7.x와 5.6을 쓰는 사이트도 여전히 많습니다. AI가 지원이 끝난 버전용으로 패치를 다시 작성하는 데 적합할 수 있는데, 그런 구버전 이용자도 패치를 받을 수 있었다면 좋았겠습니다.
@dist-epoch — 정부나 다른 운영자가 소유하지 않은 시스템에도 취약점 정보를 이용해 자동으로 패치할 수 있다고 제안하는 대목이 가장 놀랍습니다. 누가 그런 일을 하며 어떤 권한으로 하는 건가요?
@x187463 — OpenAI는 개발자와 보안 연구자에게 소프트웨어 취약점을 확인할 AI 모델을 제공하고 있습니다. 성공 사례에 홍보가 붙는 것은 사실이지만, AI가 취약점을 찾고 악용할 수 있다는 이유만으로 이 활동 자체가 문제라고 보는 주장은 설득력이 없습니다. 사람들은 수십 년 동안 취약점을 찾아왔고 악용 도구도 비공개로 만들어 왔습니다.
@12837615 — 방어자에게 토큰 10억 달러어치를 주는 것보다 오픈소스 프로젝트의 QA에 직접 10억 달러를 지원하는 편이 효과적입니다. 코드 커버리지를 높이고 AddressSanitizer(ASAN)와 퍼저를 돌리면 됩니다. 물론 그런 지원은 홍보 효과가 없겠지만요.

원문: OpenAI / 번역·요약: Trawling

원문 보기 ↗토론 보기 ↗