AI 모델은 임의의 기능을 암호학적으로 숨길 수 있습니다
연구진은 모델 가중치 안에 암호화된 신경망을 숨기고 비밀 트리거가 들어오면 복호화해 실행하는 백도어를 구현했습니다. 가중치에 접근해도 숨은 기능을 찾아내기 어렵다는 암호학적 보장과 소규모 실험을 제시하며, 기능 유도에 의존하는 안전성 평가의 한계를 보입니다.
보안·인프라 · 최신기사
취약점과 보안 사고, 운영체제와 클라우드·네트워크를 다룹니다.
취약점과 보안 사고, 운영체제와 클라우드·네트워크를 다룹니다.
연구진은 모델 가중치 안에 암호화된 신경망을 숨기고 비밀 트리거가 들어오면 복호화해 실행하는 백도어를 구현했습니다. 가중치에 접근해도 숨은 기능을 찾아내기 어렵다는 암호학적 보장과 소규모 실험을 제시하며, 기능 유도에 의존하는 안전성 평가의 한계를 보입니다.