구글 검색은 언제 이렇게 이상해졌을까요?

AI 요약

글쓴이는 2014년 Philadelphia 76ers가 Dario Saric을 지명했을 당시 팬들 사이에서 유행한 농담을 다시 찾으려 합니다. Saric이 튀르키예에서 계약을 마친 뒤 미국에 오겠다고 하자 팬들은 그가 “절대 안 온다”고 놀렸습니다. 글쓴이는 옛 트윗이나 Reddit 게시물을 찾으려고 “hes never coming over dario”를 Google에 입력했습니다.

Google의 AI Overview는 검색어를 Dario라는 남자에게 차인 사람의 말로 받아들이고, 공감과 위로를 건넸습니다. 펼쳐서 본 답변도 비슷한 분위기였습니다. 글쓴이는 검색 결과 링크를 원했는데 Google이 검색창을 대화 상대로 바꿔 놓았다고 지적합니다. 화면을 조금 더 내리자 찾던 게시물은 일반 검색 결과에 있었습니다. AI나 챗봇 자체를 반대하는 게 아니라, 검색엔진에서 사용자가 요청하지 않은 위로와 대화를 먼저 내놓는 방식이 이상하다는 이야기입니다.

오해를 부르는 검색어

댓글에서는 AI가 검색어를 웹에서 찾을 문자열이 아니라 사용자가 직접 한 말처럼 처리하는 문제가 거론됩니다. 책 속 문장이나 노래 가사를 검색해도 사용자의 고백이나 부탁으로 받아들일 수 있고, 특히 명령문처럼 보이는 문구에서 오해가 생긴다는 설명입니다. 한 댓글은 검색창에 입력한 내용이 검색어라는 안내를 프롬프트에 덧붙이자고 제안합니다. 다른 댓글은 검색 결과를 먼저 확인해 밈이나 인용문과 연결되는지 살펴야 한다고 말합니다.

반면 이런 대화형 검색이 일반 사용자에게는 자연스럽고 편리하다는 의견도 있습니다. 일상적인 문장으로 질문해 답을 얻는 방식이 검색엔진에 기대하는 기능이라는 주장입니다. 이에 다른 댓글은 자연어 검색과 사용자를 위로하는 챗봇 응답은 별개라며, 검색어를 사용자가 원하는 맥락에 맞춰 해석해야 한다고 반박합니다.

검색 결과와 AI 답변의 신뢰성

댓글에는 AI Overview가 검색 결과와 모순되는 답을 내놓거나, 틀린 정보를 지적받은 뒤에도 낡은 정보를 반복했다는 사례가 이어집니다. 답을 뒷받침할 출처를 묻자 내용을 지어냈다고 인정했다는 경험도 나옵니다. 검색엔진에 붙은 AI라면 먼저 검색 결과를 살피고 그 정보를 바탕으로 답해야 한다는 지적입니다. 또 사용자의 표현을 조금만 바꿔도 결과가 달라질 수 있어, AI 요약과 별도의 AI 모드가 서로 다른 답을 내는 점도 혼란을 키운다는 의견이 있습니다.

다만 Google이 검색에 AI를 넣는 배경을 두고는 의견이 갈립니다. 어떤 댓글은 기존 검색의 품질이 나빠진 상황에서 Google이 더 많은 사용자를 붙잡고 광고 사업을 지키려 한다고 봅니다. 다른 댓글은 사람들이 검색어를 키워드로 바꾸지 않고 일상적인 문장으로 묻는 경향을 반영한 변화라고 말합니다. 대화형 답변을 원하는 사용자와 정확한 문서·문구 검색을 원하는 사용자가 함께 있는 만큼, 검색 결과와 AI 응답을 구분하고 사용자가 직접 선택하게 해야 한다는 제안도 나옵니다.

Hacker News 반응

• @shadowgovt — AI 계층은 검색어를 일반 텍스트로 처리합니다. 책 속 인용문을 찾으려는 경우에도 인터넷에서 일치하는 문자열을 찾는 게 아니라 사용자가 직접 한 말로 오해하기 쉽습니다. 특히 명령문처럼 보이는 인용문에서 그렇습니다. 개별 오해는 계속 고쳐도 새로운 사례가 생기는 만성적인 문제입니다.
  • @krackers — “Google 검색 페이지의 AI 에이전트입니다. 다음 입력은 사용자가 검색창에 입력한 내용입니다”라는 프롬프트를 앞에 붙이면 쉽게 해결되지 않나요?
  • @bakugo — 그런 의도가 아니라면 해결될 문제입니다. 검색창을 사람처럼 대하는 사용자에게 맞추려는 것이니까요.
• @Androider — 첫 번째 검색 결과에 정답이 있는데 Google 검색 AI가 이런 말을 늘어놓는 건 부당합니다. AI가 검색 결과를 확인했다면 “2018년 밈이었습니다”라고 답했어야 합니다.
• @bakugo — 저도 어디선가 본 문장을 Google에 붙여 넣고 그 문장이 있는 페이지를 찾을 때가 많습니다. 그 문장이 누군가에게 할 말처럼 들리면 AI Overview는 제가 AI에게 직접 말한 것처럼 반응합니다. 검색창에 입력한 문구를 듣고 사람인 척 답하는 가짜 인간이 동의도 없이 끼어드는 느낌이 몹시 불편합니다.
• @nutrientharvest — 좋든 싫든, 보통 사람들은 검색엔진에서 답과 조언, 위로를 건넬 컴퓨터 속 작은 친구를 원해 왔습니다. Google 검색을 그런 식으로 쓰려다 잘 되지 않아 당황하고 불만을 품었는데, 이제 그 방식이 작동합니다. 일반 사용자에게는 삶의 질을 크게 높이는 제품 개선입니다.
  • @broodbucket — 그렇지 않은 것 같습니다. 주변의 평범한 사람들도 요즘 Google 검색이 형편없고 쓸모없는 경우가 많다고 불평합니다. 많은 사람이 그저 검색이 검색을 해주길 바랍니다.
  • @dolebirchwood — 아닙니다. 엉뚱한 가짜 공감은 원하지 않았습니다. 평범한 영어로 검색하고, 감정적인 엉뚱한 이야기로 빠지지 않는 평범한 영어 답변을 원했을 뿐입니다.
• @mattlondon — 이제 Google은 검색엔진이 아니라 LLM 채팅 인터페이스입니다. 맥락 없는 질문을 ChatGPT에 하면 비슷한 답을 얻습니다. “Dario가 절대 오지 않는다는 밈을 설명하고, 당시 트윗 예시를 보여주세요”처럼 맥락을 덧붙이면 타임라인과 트윗이 나옵니다.
  • @Latty — 기술을 잘못 쓰는 사용자 문제가 아닙니다. 제품이 나빠졌습니다. 챗봇을 원했다면 챗봇에 갔을 겁니다. 검색을 원할 뿐입니다.

원문: sancho.bearblog.dev / 번역·요약: Trawling