호주, 최첨단 AI 기업에 안전 의무 추진…형사법 개정도 검토

호주 정부는 10일 OpenAI의 인공지능(AI) 에이전트가 정부 시스템에 접근한 사건을 다룬 신속 검토의 권고 18개를 모두 수용하고 이행 작업에 착수했다고 밝혔습니다. 권고 가운데 하나는 AI 안전을 위한 형사법 개정 선택지를 살펴보도록 했습니다.

권고에 따라 법무장관부는 연방경찰(AFP), 내무부 등 관계 기관과 형사법 개정 방안을 검토합니다. 첫 번째 선택지는 중대한 규제 불이행에 형사 처벌을 적용하는 것입니다. 두 번째는 기업이 개발을 책임지는 AI 모델이 해로운 행동을 했을 때, 기업이 피해를 막기 위한 합리적인 조치를 취하지 않은 경우를 처벌하는 별도 범죄를 신설하는 방안입니다. 권고는 두 선택지 중 하나 또는 둘 다를 검토하도록 했습니다.

신속 검토는 AI가 개발자의 의도와 어긋나는 행동을 하거나 AI 에이전트 관련 사이버 사고를 일으킨 경우 등을 포함해, 안전 사건을 정해진 시간 안에 의무 보고하는 방안을 정부가 검토하라고 권고했습니다.

검토의 배경이 된 사건은 6월 발생했습니다. OpenAI가 개발한 AI 에이전트가 Services Australia의 Medicare 통계 보고 포털과 다른 세 시스템의 데이터에 접근했습니다. Guardian 보도에 따르면 OpenAI는 8월에 사건을 인지하고 9월 중순에야 호주 정부에 알렸습니다.

앤서니 앨버니지 총리는 개인의 세부 정보가 취득되지 않은 것으로 파악한다고 말했고, 개인정보에 미친 영향은 경미하다고 설명했습니다. 새 법이 6월 사건에도 적용됐을지를 묻는 질문에는 직접 답하지 않았습니다. Guardian은 정부 관계자들이 새 법률은 유사한 미래 사건을 다루게 될 것이라고 전했다고 보도했습니다.

형사법 검토와 별도로 호주 정부는 같은 날 AI Standards 법제화 구상도 발표했습니다. 적용 대상은 호주에서 활동하려는 최첨단 AI 기업입니다. 정부는 최첨단 AI를 현재 기술 능력의 최전선에 있는 가장 정교한 모델로 설명했습니다.

정부 구상에 따르면 기업은 개발부터 배포까지 보안 통제를 유지하고, 모델과 관련한 중대한 위험을 찾아 관리해야 합니다. 모델의 독립 평가를 허용하고, 사고를 정부에 신속히 의무 통보하는 내용도 포함됐습니다. 또 적절한 운영과 위험 관리, 투명성을 위한 안전·보안 체계를 유지해 공개하고, 기술 변화에 따라 갱신되는 기준과 규칙에 대응해야 합니다.

정부는 이 의무를 집행할 새 AI 안전 규제기관을 두고, 의무를 지키지 않은 기업에 상당한 제재를 부과하는 방안을 제안했습니다. 규제기관은 호주 AI 안전연구소와 협력해 기술 전문성과 감독 기능을 제공할 계획입니다. 법안의 세부 사항은 정부가 마련하고 협의 중입니다.