AI가 세금을 신고할 때 — 정확성보다 먼저 따져야 할 책임과 검증 문제

AI 요약

2026년 세금 신고 시즌에는 납세자가 W-2, 1099, 증권 계좌 명세서 같은 자료를 회계사 대신 AI 시스템에 업로드하는 장면이 빠르게 늘고 있습니다. 금융 자료를 읽고, 세법을 대조하고, 신고서를 몇 분 안에 최적화해 준다는 약속은 매력적입니다. 실제로 Mike Todasco는 OpenAI의 Codex에 세금 관련 문서 폴더와 마스터 프롬프트를 제공해 신고서를 처리하는 실험을 진행했습니다. 약 3시간과 20달러가 들었고, 평소 회계사에게 맡겼다면 약 1만 달러가 들었을 작업이라는 결과가 알려지면서 AI 세금 신고가 저렴한 대안이 될 수 있다는 인상을 확산시켰습니다.

하지만 세금 신고에서 핵심은 처리 속도가 아니라 오류가 발생했을 때 누가 책임지는지입니다. 최근의 AI 세금 서비스는 단순한 세금 계산 소프트웨어를 넘어 AI agent를 지향합니다. 금융기관에서 자료를 가져오고, 흐릿한 1099-K 사진을 OCR(Optical Character Recognition)로 읽고, 수천 건의 Venmo 거래를 분류하고, 증권 명세서를 조정하며, 최근 세법 변경까지 반영하려고 합니다. Intuit의 TurboTax는 전통적인 AI와 생성형 AI를 함께 사용하는 Intuit Assist를 제공하고, 실시간 오류 탐지와 개인화된 추천을 내세웁니다. 주식 매각 자료의 보충 PDF를 읽고 정확한 cost basis를 추론하는 “1099 Cost Agent”도 선보였습니다. Intuit는 2026년 초 agentic AI와 1만3,000명의 인간 전문가 네트워크를 결합했다고 발표했습니다.

다만 기업의 마케팅이 말하는 자동화 수준과 실제 성능 사이에는 큰 차이가 있습니다. The New York Times는 2025년 TaxSlayer와 함께 만든 가상의 세금 상황 8개를 Google Gemini, OpenAI ChatGPT, Anthropic Claude, xAI Grok에 입력했습니다. 필요한 양식까지 모두 제공했지만, 네 모델은 평균적으로 환급액 또는 IRS 납부액을 2,000달러 이상 잘못 계산했습니다. 기술 분석가 Benedict Evans는 세금에서는 아주 작은 세부사항 하나하나가 중요하고, AI가 모든 세부사항을 정확히 처리하지 못한다고 설명했습니다. 모델이 6개월마다 크게 개선되더라도 세금 신고에 필요한 것은 “대략 맞는 답”이 아니라는 지적입니다.

이 문제는 대규모 언어 모델(LLM)의 작동 방식과 관련됩니다. LLM은 세법을 결정론적으로 실행하는 계산기가 아니라, 학습 데이터의 통계적 패턴을 바탕으로 출력을 생성하는 확률적 시스템입니다. 따라서 같은 입력에도 실행 시점에 따라 다른 답이 나올 수 있습니다. 전통적인 세금 소프트웨어는 각 계산이 특정 규칙과 코드로 추적되지만, 생성형 AI의 답변은 전체 추론 과정을 형식적으로 감사하기 어렵습니다. 세금처럼 여러 양식과 공제, 소득 유형, 자격 요건이 연결된 업무에서는 한 단계의 오류가 다음 계산에 누적될 수 있습니다.

독립 벤치마크인 TaxCalcBench는 이 문제를 수치로 보여줍니다. Column Tax가 만들고 2025년 7월 arXiv에 공개한 이 평가에는 다양한 개인 세금 상황을 대표하는 51개 테스트 사례가 포함됩니다. IRS 기준에 맞춰 평가 대상 필드가 하나라도 예상값과 다르면 전체 신고서는 오답으로 처리하는 엄격 정확도(strict accuracy)를 적용했습니다. 그 결과 Gemini 2.5 Pro는 단독 모델 가운데 가장 높은 32.4%를 기록했고, Claude Opus 4는 27.5%, GPT-5는 41.7%에 머물렀습니다. 반복적으로 나타난 실패 유형에는 세금표를 잘못 적용하는 문제, 세액 계산 오류, 공제나 자격 요건의 잘못된 판단이 포함됩니다. 여러 agent와 검증 계층을 사용하는 Filed도 완전한 연방 신고서 기준 엄격 정확도가 72.5%였으며, 항목별 정확도는 94%였습니다. Column Tax는 범용 언어 모델만으로는 2026년 말까지 세금 신고가 완전히 자동화되기 어렵고, 세무 전문지식과 독점 데이터셋이 필요하다고 결론 내렸습니다.

NerdWallet이 2026년 3월 ChatGPT, Gemini, Perplexity를 대상으로 세금 질문 7개를 시험한 결과도 비슷합니다. 5만 단어가 넘는 대화 기록을 분석한 결과, 명확한 정답이 있는 질문에는 비교적 잘 답했지만 같은 질문을 여러 번 하면 답변이 달라졌고, 사용자 상황에 대한 근거 없는 가정을 추가해 개인화된 오류를 만들었습니다. 투자·세금 담당 수석 작가 Sam Taube는 최신 모델의 산술 능력이 개선됐지만 법률 질문에 존재하지 않는 판례를 인용하는 hallucination이 2026년에도 나타난다고 설명했습니다. 세금은 수학과 법률을 동시에 요구하므로 AI가 아직 신뢰할 수 있는 진실의 원천이 아니라는 평가입니다. Intuit의 제품 관리 부사장 역시 생성형 AI가 아직 수학을 잘 처리하지 못하기 때문에 TurboTax의 실제 계산에는 AI를 사용하지 않는다고 공개적으로 밝혔습니다.

오류가 발생했을 때의 책임은 더욱 불리합니다. 납세자는 세금 신고서에 서명하면서 위증죄의 처벌을 받을 수 있는 상황에서 자신이 아는 범위 내에서 정보가 정확하다고 확인합니다. IRS에는 AI를 사용한 신고 오류를 별도로 면책하는 안전항이 없습니다. AI가 틀렸더라도 IRS가 책임을 묻는 대상은 신고서를 제출한 납세자입니다. 반면 소비자용 AI 서비스는 출력의 정확성에 대한 책임을 약관으로 제한하는 경우가 많고, AI를 상대로 전문직 배상 청구를 하거나 자격 심사를 진행할 제도도 없습니다. 회계사나 CPA를 고용하면 면허 요건, 윤리 규정, 전문직 배상책임, malpractice 청구, errors-and-omissions 보험 같은 구제 수단이 있지만, AI 세금 도구는 소프트웨어와 전문 서비스 사이의 규제 공백에 놓여 있습니다.

개인정보 위험도 함께 커집니다. George Mason University의 회계 강사 Laura Carrubba는 민감한 개인정보를 공개 포럼과 같은 곳에 절대로 업로드하지 말라고 경고했습니다. 2026년 2월 미국 뉴욕 남부지방법원의 United States v. Heppner 사건은 소비자용 생성형 AI에 입력한 정보가 법률상 비밀로 보호되지 않을 수 있음을 보여줬습니다. 피고인 Heppner는 변호사의 지시 없이 Anthropic의 Claude에 변호사에게서 들은 내용을 입력했고, 약 31개의 방어 전략 문서를 생성했습니다. 수사기관은 이를 압수했고, Jed Rakoff 판사는 Claude가 변호사가 아니며 해당 서비스의 개인정보 처리방침이 입력·출력 수집, 학습 활용, 정부기관을 포함한 제3자 공개를 허용한다는 점을 들어 attorney-client privilege와 work product doctrine을 모두 인정하지 않았습니다. 법원이 이 문제를 전국적으로 처음 다룬 사례라고 설명한 만큼, 기업 직원이 소비자용 AI에 고객의 세무 자료를 입력할 경우 해당 분석이 향후 공개·증거 제출 대상이 될 수 있다는 우려가 제기됩니다. 다만 변호사의 지시에 따른 Kovel 방식의 감독된 활용이라면 판단이 달라질 가능성은 열어뒀습니다.

IRS도 AI 사용을 주의 깊게 보고 있습니다. IRS는 2026년 연례 Dirty Dozen 세금 사기 목록에 AI를 처음 포함하고, AI를 이용한 IRS 사칭 전화, 생성형 피싱, 음성 복제, 납세자와 기업 정보 수집 뒤 상세한 허위 세금 양식을 제출하는 수법을 경고했습니다. 또한 복잡한 세금 질문에 AI가 생성한 답변을 의존하지 말고 계산과 정보를 검증하라고 안내했습니다. 그러나 AI 세금 신고에 적용할 종합적인 기준을 제시하지는 않았습니다. 동시에 IRS 내부에서는 AI 활용 사례가 2024년 54개에서 2026년 129개로 늘었고, 감사 대상 선정, 사기 탐지, 납세자 서비스 등에 사용되고 있습니다. 납세자는 자신의 신고서가 사람에 의해 선택됐는지 AI에 의해 선택됐는지 알 수 없다는 점에서, 정부는 AI로 신고를 심사하면서 납세자의 AI 사용 오류에는 책임을 묻는 비대칭이 발생합니다.

유럽연합의 AI Act는 금융 분야 AI를 보다 체계적으로 다루는 사례로 제시됩니다. 2024년 8월 1일 발효된 법은 위험도에 따라 의무를 구분하며, 신용평가, 사기 탐지, 서비스 접근에 영향을 주는 자동 의사결정 등 여러 금융 서비스 활용을 high-risk로 분류합니다. 이에 따라 위험 관리, 인간 감독, 투명성, 감사 가능성이 요구됩니다. 세무 자문 기업에는 직원의 AI literacy 확보, chatbot이 AI임을 명확히 알리는 조치, 익명화하지 않은 고객 데이터를 공개형 생성형 AI 모델에 입력하지 않는 조치가 요구됩니다. 고위험 시스템의 주요 의무는 당초 2026년 8월 2일부터 적용될 예정이었지만, 유럽연합 집행위원회가 2025년 11월 2027년 12월까지 연장하는 방안을 제안했습니다.

AI는 회계·세무 직업에도 변화를 가져오고 있습니다. 금융 서비스 종사자의 52%는 지난 1년 동안 AI 때문에 취업 전망이 나빠졌다고 답했고, 57%는 고용 불안 때문에 관리자에게 우려를 말하지 않는다고 답했습니다. 세계경제포럼(World Economic Forum)의 Future of Jobs 2025는 회계사, 감사인, 경리 직군을 빠르게 감소하는 직업으로 분류했습니다. 그러나 2020년 이후 30만 명이 넘는 회계사가 업계를 떠났고 CPA의 4분의 3이 은퇴 연령에 가까워지는 등 인력 부족도 심각합니다. 미국 노동통계국은 2034년까지 회계 분야가 5% 성장하고 매년 12만4,200개의 채용 수요가 발생할 것으로 전망합니다.

이 모순에 대한 업계의 대응은 반복적인 신고·장부 업무에서 자문 업무로 이동하는 것입니다. 일상적인 bookkeeping의 자동화 위험은 85%로 추정되지만, 자문 역할은 25% 미만으로 제시됩니다. 세무 전문가는 200달러짜리 신고서 작성 대신 5,000~2만5,000달러 규모의 다법인 구조, 국제 조세 계획, 감사 대응, 전략 자문으로 이동하고 있습니다. AICPA는 2026년 2월 2일 AI 환경에서 초기 경력 CPA에게 필요한 역량을 파악하는 Profession Ready Initiative를 시작했습니다. 깊은 전문성과 분석, 디지털 활용 능력, 전략적 사고를 함께 갖춘 “T-shaped professional”이 목표입니다. AI compliance officer, exceptions manager, AI audit reviewer 같은 직무도 등장하고 있습니다. 업계가 제시하는 구분은 AI가 “무엇을 할지” 처리하더라도, 훌륭한 회계사는 “그래서 무엇을 의미하는지”와 “이제 무엇을 해야 하는지”를 설명해야 한다는 것입니다.

소비자 태도도 단순한 낙관론과는 다릅니다. 2026년 1월 YouGov 조사에서 금융 서비스 분야 AI를 신뢰한다고 답한 미국인은 19%, AI가 금융 결정을 자동으로 내리도록 신뢰한다는 응답은 10%였습니다. 반면 IPX1031 조사에서는 46%가 세금 조언에 AI를 신뢰한다고 답했고, 21%는 올해 실제 신고서 작성에 AI를 사용하겠다고 답했습니다. 조언을 보조하는 도구로 사용하는 것과 결정을 완전히 위임하는 것은 다르며, 세금 신고에서는 이 차이가 재정적 안전을 좌우합니다. 2026년 세법에는 2025년 7월 통과된 One Big Beautiful Bill Act에 따른 공제와 세액공제 변화도 반영돼야 하므로, 과거 데이터에 의존한 모델이 최신 규정을 충분히 반영했는지 검증하는 절차가 특히 중요합니다.

결국 AI 세금 도구의 핵심 쟁점은 단순히 모델이 세법을 얼마나 많이 학습했는지가 아닙니다. 모든 계산을 재현하고 감사할 수 있는지, 입력한 금융·법률 정보가 보호되는지, 오류가 나면 누가 배상하는지, 인간 전문가가 어떤 단계에서 검증하는지, 그리고 규제기관이 어떤 기준으로 감독하는지가 함께 해결돼야 합니다. 현재 공개된 성능 수치와 법적 사례는 AI를 독립적인 세무 전문가라기보다 보조 도구로 취급해야 한다는 방향을 보여주며, 신고서 제출 전 계산·자격 요건·개인정보 처리·최종 책임 주체를 별도로 확인해야 한다는 점을 강조합니다.

원문: dev.to / 번역·요약: Trawling