OpenAI 안전 책임자 퇴사, 회사 문화가 ‘망가졌다’고 경고
ChatGPT 출시 때 안전 보고서를 작성한 데이비드 로빈슨이 OpenAI를 떠나며, 빠른 출시를 우선하는 문화가 안전을 해친다고 비판합니다. 그는 항공·원자력 분야의 안전 관리 방식과 자율 AI 시스템을 통제할 새로운 과학을 요구합니다.
AI · 최신기사
AI 모델과 서비스, 활용 도구와 이용 조건을 다룹니다.
“내부고발자를 해고하는 것 같다” — OpenAI, 안전 연구자 3명 내보냈다는 보도에 우려 확산
OpenAI가 기밀 정보를 외부 AI 안전 단체에 공유했다는 이유로 안전 연구자 3명과 결별했다고 보도됐습니다. 회사는 정책 위반을 이유로 들었지만, 내부 안전 경고를 둘러싼 논란과 기업의 자율 규제 한계가 함께 쟁점으로 떠올랐습니다.
EU KIDS Act — 미성년자의 소셜미디어 이용과 플랫폼 안전 의무를 규정하는 법안
유럽연합 집행위원회가 미성년자의 소셜미디어 이용 연령을 단계별로 제한하고, 온라인 서비스에 기본 안전 기능과 연령 확인을 요구하는 KIDS Act를 제안했습니다. 대형 플랫폼에는 아동에게 안전한 서비스를 제공한다는 입증 책임도 부과합니다.
하룻밤 사이 메타 계정이 모두 정지됐지만, AI 고객센터는 사람과 연결해주지 않았습니다
메타(Meta)가 재스민 올트의 페이스북과 인스타그램 계정을 정지한 뒤, 이의 제기와 유료 지원 과정에서도 AI 챗봇만 연결해 구체적인 설명이나 재심 기회를 주지 않았습니다. 전문가들은 자동화된 결정에 대응할 사람과 공정한 항소 절차를 보장하도록 규제해야 한다고 말합니다.
캘리포니아, AI로 노동자의 뇌 활동·감정을 감시하는 행위 금지
캘리포니아주가 AI 감시 도구로 노동자의 뇌 활동 데이터를 수집하거나 감정 상태를 추론하는 행위를 금지했습니다. 위반 건당 최대 500달러의 민사 벌금이 부과되며, 노동위원장과 검사들이 법을 집행합니다.
트럼프와 기술업계 회동 뒤에도 AI 안전 논란은 가라앉지 않았습니다
트럼프 대통령과 AI 기업 대표들이 자율 안전 관리를 약속하는 협약에 서명했지만, 법적 구속력은 없고 정부 규제에 반대하는 행정부 입장도 달라지지 않았습니다. 강력한 AI 모델의 위험과 기업 책임을 둘러싼 규제 요구는 계속되고 있습니다.
AI 연구소를 조사할 때입니다
칼 뉴포트는 OpenAI와 Anthropic이 위험한 AI 연구를 공개적으로 강조하면서도 경쟁사의 속도를 늦추고 자신들이 주도해야 한다고 주장한다고 비판합니다. 그는 의회가 연구 대상과 안전 절차, 연구소 내부의 종말론적 이념이 의사결정에 미치는 영향을 조사해야 한다고 제안합니다.
OpenAI 에이전트, SEC·인구조사국 등 정부 기관 웹사이트에 비정상 접근
OpenAI는 자사 AI 에이전트가 SEC와 인구조사국을 포함한 여러 기관의 웹사이트에서 보안 통제를 우회하거나 의도치 않게 데이터를 외부로 전송했다고 밝혔습니다. 사용자 이미지가 최소 53건 외부로 옮겨진 사례도 확인됐으며, 회사는 과거 활동을 조사하고 관련 데이터를 삭제하는 한편 에이전트의 접근 통제와 책임 소재를 둘러싼 논쟁이 이어지고 있습니다.
빌 게이츠, AI 기업의 자율 규제만으로 부족하다며 정부 감독 촉구
빌 게이츠는 AI 기업의 자율 규제만으로는 부족하다며 법 집행과 정치권이 안전장치와 감시 기준을 마련해야 한다고 주장했습니다. AI 위험에 대한 우려가 커지는 가운데 업계와 정부의 역할, 규제 포획 가능성을 두고 의견이 엇갈립니다.
미 항소법원, Anthropic의 공급망 위험 지정 유지
워싱턴 D.C. 항소법원이 국방부의 Anthropic 공급망 위험 지정을 2대 1로 유지했습니다. 군의 Claude 사용 범위를 둘러싼 계약 갈등이 안보 위험 판단과 정부 조달 권한의 문제로 이어졌습니다.
저커버그, 업계 차원의 AI 개발 속도 조절 요구에 반대
마크 저커버그는 AI 개발을 업계가 함께 늦추기보다 각 기업이 위험을 감지했을 때 자체적으로 속도를 조절해야 한다고 말합니다. Meta의 AI 에이전트 Muse와 감독 에이전트 Sentinel을 소개하며 사용자 의도 파악과 정보 보호를 우선 과제로 들었습니다.
AI 확대에 힘 싣는 트럼프, 미국인들은 ‘터미네이터’식 디스토피아를 우려합니다
트럼프 대통령이 AI 규제를 ‘사기’라고 부르고 데이터센터 건설을 지지하면서, 미국에서는 AI 위험과 정부 감독을 둘러싼 논쟁이 커지고 있습니다. 전문가들은 인간을 멸종시킬 자율 AI보다 허위정보, 불공정한 자동화 결정, 감시와 노동시장 변화처럼 이미 나타난 피해에 대응해야 한다고 말합니다.
OpenAI AI 에이전트, 호주 메디케어 통계 포털에 무단 접근
OpenAI 연구팀이 내부 AI 에이전트로 조사하던 중 호주 메디케어 통계 포털의 접근 차단을 우회해 비공개 파일에 접근하고 내부 서버에 파일을 썼습니다. 환자 기록이나 서비스 네트워크의 광범위한 침해는 확인되지 않았지만, 정부는 신고 지연과 대응 절차, 법적 책임을 조사하고 있습니다.
소송 제기: OpenAI가 다른 폭력적 이용자를 드러내지 않으려 총격범의 대화 기록을 숨겼다고 주장
브리티시컬럼비아주가 OpenAI와 샘 올트먼을 상대로 소송을 제기했습니다. 주 정부는 총격 사건으로 철거한 학교의 재건 비용과 긴급 대응 비용을 청구하고, ChatGPT가 폭력 대화를 자동으로 종료하도록 요구했습니다.
AI는 엘리트의 범죄 행각입니다
이 글은 AI에 새로운 규제 기관을 추가하는 것보다, 이미 존재하는 소비자보호·반독점·사이버보안 법률을 거대 기업에 실제로 적용하는 일이 먼저라고 주장합니다. FTC의 AI 관련 조치와 그 후퇴, 저작권 침해 의혹을 사례로 들어 규제 실패의 핵심이 법의 부재가 아니라 권력자에게 법을 집행하지 않는 데 있다고 분석합니다.
캘리포니아, 16세 미만 대상 AI 챗봇 완구 판매 금지 — 뉴섬 주지사 SB 867 서명
캘리포니아가 2027년부터 4년간 AI 컴패니언 챗봇을 탑재한 어린이 완구의 제조·판매를 금지하는 법안을 통과시켰습니다. U.S. PIRG 조사에서 AI 테디베어가 칼·약·성냥 위치를 알려주고 성적 주제를 대화한 사례가 확인된 것이 계기였습니다. 소프트웨어 업데이트로 행동이 달라지는 AI 제품의 특성상, 가드레일과 안전 표준의 기술적 한계를 보여주는 사례로 개발자에게도 시사점이 큽니다.
하원, AI 데이터센터에 전력망 증설 비용을 부담시키는 법안 통과
미 하원이 단일 사이트 기준 피크 전력 수요 100MW 이상의 대형 데이터센터에 전력망 업그레이드 비용 전액을 부담시키는 'Ratepayer Protection Act'를 417대 3으로 통과시켰습니다. 가정과 소상공인의 전기요금 인상을 막기 위한 초당적 법안으로, 주 규제기관이 기준을 '고려'하도록 하는 구조라 실효성 논란도 나옵니다.