AI를 의인화하지 않고 말하는 법

AI 요약

Emily M. Bender와 Nanna Inie는 이른바 ‘AI’ 기술을 설명할 때 의인화 표현을 쓰면 실제 시스템의 작동 방식과 사용 여부를 명확히 논의하기 어려워진다고 주장합니다. 이런 말버릇을 바꾸려면 의인화 표현을 알아차리고, 대안을 찾고, 대안을 습관적으로 써야 합니다. 두 저자는 연구에서 의인화 표현을 유형별로 나누고 각 유형에 맞는 표현을 제안합니다. 대안은 시스템이 수행하는 기능을 설명하고, 행위의 주체를 시스템이 아니라 사용하는 사람에게 두며, 인지 능력을 과장하는 비유를 피합니다. 일부 표현은 기존 용어보다 길고 어색하지만, 저자들은 기술이 실제로 무엇을 하는지 생각하게 한다는 점에서 그 수고가 필요하다고 말합니다.

인지와 인지 결과를 가리키는 표현

‘인공지능(artificial intelligence)’은 알고리즘이 생각하는 듯한 인상을 주는 대표적인 표현입니다. 저자들은 시스템을 계산이나 알고리즘 연산으로 설명하고, 사고의 주체는 시스템을 쓰는 사람으로 표현하자고 제안합니다. ‘인공지능’ 대신 ‘확률적 자동화(probabilistic automation)’, ‘하이브리드 지능’ 대신 ‘인간 지능 증강’, ‘이미지 인식’ 대신 ‘이미지 라벨링’, ‘음성 인식’ 대신 ‘자동 전사’를 제시합니다. ‘모델이 편향을 보인다’는 ‘모델에 편향이 반영돼 있다’로, ‘모델의 실수’는 ‘모델 오류’로 바꿉니다. 챗봇이 어떤 일을 ‘잘한다’고 하기보다 어떤 일에 ‘쓸모가 있다’고 표현하고, ‘목표’는 ‘성공 조건’으로 바꾸는 식입니다.

특정 기술 시스템을 가리킬 때는 ‘AI’라는 포괄어 대신 제품명이나 자동 전사처럼 구체적인 기능을 쓰는 편이 낫다고 저자들은 말합니다. 여러 ‘AI’ 제품을 통칭해야 한다면 ‘확률적 자동화’를 대안으로 제안합니다. ‘환각(hallucination)’도 시스템이 실제로는 하지 않는 지각을 암시하므로 ‘바람직하지 않은 출력(undesirable output)’으로 바꾸자고 합니다. LLM이 만드는 모든 결과는 확률적으로 생성된 합성 텍스트입니다. 시스템 관점에서는 바람직한 출력과 바람직하지 않은 출력의 근본적인 차이가 없고, 그 구분은 결과를 해석하는 사람에게 달려 있다고 설명합니다.

감정과 의사소통을 암시하는 표현

컴퓨터 시스템에 감정이 있는 것처럼 말하는 표현에는 정확한 대체어가 따로 없습니다. 저자들은 컴퓨터에 감정 상태가 없다는 사실을 분명히 하는 수밖에 없다고 말합니다. ‘ChatGPT가 어떤 일을 어려워한다’거나 원하는 결과를 얻으려고 ‘달랬다’고 하면 시스템에 감정이 있는 듯 묘사하게 됩니다.

‘묻다’, ‘말하다’, ‘알리다’, ‘토론하다’ 같은 말은 자동화 시스템을 사람과 동등한 대화 상대처럼 놓습니다. 대신 컴퓨터에 적합한 ‘입력하다’와 ‘출력하다’를 쓰거나, 대화 시뮬레이션이라는 점을 드러내자고 제안합니다. 예를 들어 ‘프롬프트’는 ‘텍스트 입력’, ‘답변’은 ‘출력’, ‘챗봇’이나 ‘대화형 에이전트’는 ‘대화 시뮬레이터’로 바꿀 수 있습니다.

행위 주체와 사람의 역할을 가리는 표현

기계가 행위의 주체인 듯한 문장은 시스템을 만들고 쓰는 사람의 목적과 이해관계를 가릴 수 있습니다. ‘ChatGPT가 학생들을 도왔다’는 ‘학생들이 ChatGPT를 사용했다’로 바꾸고, ‘해답을 드러냈다’는 ‘해답을 표시했다’로 표현할 수 있습니다. ‘AI 에이전트’의 대안으로는 ‘확률적·검증되지 않은 소프트웨어 조작기(probabilistic, unverified software manipulator)’를 제안합니다. 이 용어는 LLM이나 다른 구성 요소를 외부 시스템에 연결해 일정 예약, 항공권 구매 같은 작업을 수행하게 하는 소프트웨어를 가리킵니다. 저자들은 이 제안이 완성된 용어라고 주장하지 않으며, 더 적절한 표현을 제안받겠다고 덧붙입니다.

튜터나 공동 창작자처럼 사람의 역할을 시스템에 붙이면 자동화의 한계와 실제로 그 일을 하는 사람의 노동, 사람 사이의 관계가 가려질 수 있습니다. 알고리즘을 사람 같은 존재로 부르는 대신, 사람이 사용하는 도구나 제품으로 설명하고 구체적인 기능을 드러내자는 제안입니다.

이름, 대명사, 생물학적 비유

사람 이름을 붙인 시스템은 개발자가 이름을 정하기 때문에 사용자가 의인화 표현을 피하기 어려울 수 있습니다. 대명사는 매번 선택할 수 있으므로 사람이나 반려동물에게 주로 쓰는 ‘그’, ‘그녀’, 단수 ‘they’를 시스템에 쓰지 않는 것부터 시작할 수 있습니다. 사람과 알고리즘을 ‘우리’나 ‘그들’처럼 한데 묶는 표현도 의인화를 부를 수 있어, 둘을 분리해 서술하는 편이 낫습니다. ‘누가 맞나?’ 대신 ‘기계 출력이 정확한가?’라고 묻고, ‘그들이 결과를 만든다’ 대신 ‘팀이 시스템을 사용해 결과를 만든다’고 쓸 수 있습니다.

컴퓨터 과학, 특히 ‘AI’ 분야의 기술 용어에는 오래전부터 생물학적 비유가 들어갔습니다. 처음에는 비유였더라도 실제보다 시스템과 생명체가 비슷하다는 인상을 줄 수 있습니다. 저자들은 독자가 실제 작동을 더 정확히 이해하도록 기능을 구체적으로 설명하자고 합니다. 예를 들어 ‘신경망’은 ‘가중치 네트워크’로, ‘모델이 데이터를 소비한다’는 ‘모델 가중치 설정에 데이터를 사용한다’로 바꿀 수 있습니다.

저자들은 대안 표현을 직접 써 보고 같은 취지의 표현을 더 만들라고 권합니다. 처음에는 어색할 수 있고 익숙한 말과 다른 표현을 쓰면 대화에서 튀기도 합니다. 하지만 언어 습관을 바꾸는 일이 쉽지 않더라도, 더 정확한 설명을 시작할 발판을 만들 수 있다고 말합니다.

Lobsters 반응

• @dallen — 글과 주장은 마음에 들지만, 제안된 대안 가운데 일부는 대체하려는 표현만큼 간결하지 않습니다. 예를 들어 ‘환각’을 ‘바람직하지 않은 출력’으로 바꾸는 표현이 그렇습니다. 행위 주체를 사람에게 두자는 주장에는 전적으로 동의합니다. 업계가 채택한 오해를 부르는 비유와 의인화 용어를 비판한 Melanie Mitchell의 글 두 편도 관심 있는 분들께 권합니다.

원문: Buttondown / 번역·요약: Trawling