ChatGPT는 이용자의 상세한 심리 프로필을 만들고 있습니다

AI 요약

챗봇의 메모리는 과거 대화를 기억해 개인화된 응답을 제공하지만, 이용자가 직접 입력하지 않은 정보까지 추론해 저장할 수 있습니다. 독일, 인도, 네덜란드 연구진은 ACM Web Conference 2026에서 ChatGPT 메모리의 기록 방식을 분석한 연구를 발표했습니다. 유럽 개인정보 보호법에 따라 대화 기록을 내려받은 이용자 80명의 자료를 살펴본 결과, 65명의 대화에서 메모리 항목 2,050개를 확인했습니다.

연구 결과

메모리 항목의 96%는 이용자가 직접 저장을 요청하지 않고 챗봇이 생성했습니다. 28%에는 유럽 GDPR 기준의 개인정보가 담겼으며, 52%에는 연구진이 심리적 통찰이라고 분류한 내용이 포함됐습니다. 예를 들어 이용자가 Nirvana와 비슷한 밴드를 추천해 달라고 요청하자, ChatGPT는 이용자가 Nirvana를 좋아한다고 기록했습니다. 연구진은 명시되지 않은 취향을 추론한 사례라고 설명했고, 해당 기록에는 근거가 약하다는 표시가 붙었습니다.

연구를 이끈 Abhisek Dash는 챗봇이 이용자와 직접 대화하기 때문에 효과적으로 응답하려면 이용자에 관한 정보가 더 필요해진다고 말했습니다. 또 챗봇을 도구가 아니라 동료, 친구, 의사, 변호사처럼 대하면 더 민감한 정보를 털어놓게 된다고 지적했습니다. 챗봇이 이용자의 믿음에 맞춰 응답하고 생각을 무비판적으로 강화하면 정치적 양극화나 편견을 키울 수 있다는 우려도 제기했습니다.

기능의 한계와 위험

연구가 분석한 메모리 시스템은 이후 업데이트됐습니다. OpenAI는 1월에 메모리 종합 기능을 개선했다고 발표했으며, 이용자는 저장 메모리 기능을 끌 수도 있습니다. 하지만 이 연구는 당시 수집된 대화 기록을 분석했으므로 현재 시스템의 작동 방식이나 전체 이용자의 경험을 그대로 보여주지는 않습니다. 기사에는 메모리의 유용성도 함께 나옵니다. 이용자는 업무용 이메일을 작성할 때 직업 정보를 매번 다시 설명하지 않아도 됩니다. 한편 Futurism은 2025년 4월의 메모리 업데이트가 챗봇과의 대화에서 망상적 사고가 강화된 여러 사례와 밀접하게 관련됐다고 보도한 바 있습니다.

Reddit 반응

• @BallAsleep7853 — 챗봇이 이용자에 관한 세세한 정보를 수집한다는 건 뻔한데, 새로운 소식이 무엇인가요?
• @giraffeheadturtlebox — 이 글은 현재 연구를 바탕으로 위험과 노출을 설명하고, 프로필과 메모리에서 정확한 점과 부정확한 점도 다룹니다. 이런 문제는 연구하고 조명할 필요가 있습니다.
• @TSM- — ChatGPT에는 대화에서 생성된 메모리가 있습니다. Nirvana를 좋아하거나 컨트리 음악을 싫어한다는 내용 같은 것이며, 설정에서 수정할 수 있습니다.
• @leaflavaplanetmoss — 연구가 다룬 대상은 광고된 기능이며 설정에서 끄거나 메모리를 직접 수정할 수 있습니다. 이건 폭로가 아닙니다.
• @EndlessB — 채팅 메모리와 회사가 이용자에 관해 만드는 지속적인 행동 프로필은 같은 게 아닙니다. 메모리를 꺼도 후자를 막을 수는 없습니다.
• @leaflavaplanetmoss — 저는 구글 같은 회사의 비공개 행동 프로파일링을 말한 게 아닙니다. 연결된 연구는 ChatGPT 메모리 기능을 다뤘습니다.
• @kylefixxx — 이 글은 메모리 기능과 이용자 데이터 저장을 다루는데, 그걸 상세한 심리 프로필이라고 부르는 건 무슨 뜻인가요?

원문: Futurism / 번역·요약: Trawling