AI가 외운 가짜 족보, 고객센터 번호가 사기꾼에게 걸렸다
챗GPT·제미나이·구글 AI 요약이 가짜 고객센터 번호를 진짜처럼 알려 주는 수법이 공개됐습니다. 연구자는 이름을 도용당한 기업을 최소 374곳, 가짜 연락처 페이지를 수만 개 찾았습니다. AI가 어떻게 속았는지, 전화를 걸기 전에 무엇을 확인하면 되는지 정리했습니다.
시험 전날이면 꼭 이런 친구가 한 명 있습니다. 선배들이 남긴 족보를 잔뜩 모아 온 친구입니다.
그 친구의 공부법은 단순합니다. 족보 열 장에 같은 답이 적혀 있으면 그걸 정답으로 외웁니다. 교무실 앞 게시판에 붙은 족보라면 더 믿습니다. 선생님 근처에 있던 종이니까요.
우리는 그 친구에게 “3번 답 뭐야?” 하고 묻습니다. 친구는 자신 있게 대답합니다. 우리는 족보를 직접 보지 않습니다. 답만 받아 적습니다.
그런데 누가 밤새 틀린 답이 적힌 가짜 족보를 수만 장 복사해서 여기저기 끼워 뒀다면 어떻게 될까요. 친구는 여전히 친절하고, 여전히 자신 있습니다. 대답만 틀릴 뿐입니다.
지난주 한 보안 연구자가 공개한 수법이 바로 이 모양입니다. 족보를 모아 답하는 친구 자리에 AI 챗봇이 앉아 있습니다. 틀린 답은 고객센터 전화번호입니다.
이런 장면에서 벌어집니다
비행기 일정이 바뀌었다고 해 봅시다. 예약이 꼬여서 항공사에 전화해야 합니다.
요즘은 검색창에 번호를 찾는 대신 챗GPT나 제미나이에 묻곤 합니다. 구글에 검색하면 결과 맨 위에 AI 요약이 먼저 뜨기도 합니다. AI 요약은 구글이 여러 웹페이지를 읽고 답을 한 문단으로 정리해 보여 주는 기능입니다. 거기에 “○○항공 고객센터” 번호가 굵은 글씨로 나옵니다.
그 번호로 전화를 겁니다. 상담원이 받습니다. 예약을 확인해야 하니 카드 번호와 유효기간을 불러 달라고 합니다.
문자 링크를 누른 것도 아닙니다. 수상한 앱을 깐 것도 아닙니다. 내가 먼저 전화를 걸었습니다. 그래서 의심할 틈이 잘 안 생깁니다.
사실 연구자가 이름을 도용당했다고 꼽은 곳에는 델타·루프트한자·유나이티드·에미레이트·카타르항공 같은 항공사가 있습니다. 뱅크오브아메리카·웰스파고·체이스·씨티 같은 은행도 있습니다. 에어비앤비·트립어드바이저 같은 여행 플랫폼도 들어 있습니다. 해외여행 때 한국 사람도 많이 쓰는 이름들입니다.
사실 노리는 건 전화번호만이 아닙니다. 가짜 이메일 주소와 가짜 로그인 페이지도 같은 방식으로 퍼뜨렸습니다.
추정 그러니 항공편 변경·환불, 카드 문제, 숙소 예약 문제로 AI에게 연락처를 묻는 사람은 누구나 이 장면에 들어갈 수 있습니다. 추석 연휴 직후라 여행 문의가 많은 때이기도 합니다.
이상하다고 느낄 수 있는 순간
신호는 두 군데서 옵니다.
하나, 번호가 다릅니다. AI가 알려 준 번호가 그 회사 공식 앱, 공식 홈페이지, 카드 뒷면에 적힌 번호와 다릅니다.
둘, 상담원이 먼저 달라고 합니다. 전화를 받자마자 카드 번호 전체를 불러 달라고 합니다. 문자로 온 인증번호를 알려 달라고 합니다. 수수료를 따로 결제하라고 합니다.
족보 비유로 말하면 이렇습니다. 친구가 알려 준 답이 교과서에 적힌 답과 다른 순간입니다.
왜 AI가 속을까
족보 친구 이야기로 돌아가 보겠습니다. 그 친구가 틀린 답을 외우게 하려면 세 가지가 필요합니다. 가짜 족보가 많아야 하고, 믿을 만한 곳에 붙어 있어야 하고, 선생님 검사를 통과해야 합니다. 이번 수법은 이 세 가지를 다 갖췄습니다.
사실 많이 뿌렸습니다. 공격자들은 가짜 연락처를 담은 게시물·PDF 문서·리뷰·가짜 고객지원 페이지를 인터넷에 대량으로 올렸습니다. 연구자가 찾은 악성 페이지만 수만 개입니다.
추정 AI는 여러 곳에서 같은 번호를 보면 맞는 정보라고 판단하기 쉽습니다. 족보 열 장에 같은 답이 있으면 믿는 친구와 같습니다. 브리프도 수만 개라는 규모를 이렇게 풀이합니다.
사실 믿을 만한 곳에 붙였습니다. 가짜 게시물은 인스타그램·텀블러·유튜브 같은 SNS에 올라갔습니다. 미디엄·워드프레스·구글 사이트·깃허브 페이지 같은 블로그·홈페이지 서비스에도 올라갔습니다. 옐프·애플 지도 같은 리뷰·지도 서비스에도 있었습니다. 파일을 올릴 수 있는 교육·정부 기관 사이트까지 썼습니다. 믿을 만한 곳에 걸려 있으면 AI가 더 믿는다는 점을 노렸다고 연구자는 설명합니다. 교무실 앞 게시판에 족보를 붙인 셈입니다.
사실 검사를 피했습니다. 가짜 번호 사이에 띄어쓰기를 넣었습니다. 이모지(그림 문자)를 끼우거나, 겉보기엔 숫자 같지만 컴퓨터에는 다른 글자로 읽히는 특수 문자를 섞었습니다. 이렇게 하면 스팸 필터, 곧 수상한 글을 자동으로 걸러내는 장치는 번호로 알아보지 못합니다. 그런데 AI는 이걸 전화번호로 읽어 냅니다. 선생님은 못 알아보게 흘려 쓰고, 친구는 읽을 수 있게 쓴 족보입니다.
사실 업계에서는 AI 답변에 자기 정보가 잘 나오도록 글을 다듬는 일을 **생성형 엔진 최적화(GEO)**라고 부릅니다. 원래는 기업들이 쓰는 마케팅 기법입니다. 이번 수법은 그걸 거꾸로 사기에 쓴 것입니다.
사실 연구자가 오염을 확인한 AI는 세 가지입니다. 챗GPT, 구글 제미나이, 구글 검색의 AI 요약입니다.
사실 그리고 결정적인 한 가지가 있습니다. GIGAZINE은 사용자가 AI 답변만 보기 때문에 그 정보가 나온 원래 악성 페이지를 볼 일이 없다고 보도했습니다. 우리가 족보를 직접 들여다보지 않고 친구 대답만 받아 적는 것과 같습니다. 가짜 족보를 눈으로 볼 기회가 아예 없는 겁니다.
숫자로 본 규모
| 숫자 | 무엇인가 | 나에게는 |
|---|---|---|
| 374곳 | 연구자가 확인한, 이름을 도용당한 기업 (최소) | 항공사·은행·여행 플랫폼·포천 100대 기업(미국 경제지가 매출로 매긴 상위 100개 회사)이 들어 있다. 내가 쓰는 곳이 목록에 있을 수 있다 |
| 수만 개 | 가짜 연락처가 들어간 악성 페이지 | 같은 가짜 번호가 여러 곳에 있어서 AI가 맞는 정보로 판단하게 된다 |
| 91% | AI 챗봇 답을 따로 확인하지 않는 사용자 비율 | 열 명 중 아홉 명이 넘는다. 나도 여기 들어갈 가능성이 높다 |
사실 374곳과 수만 개는 연구자 본인의 글에서 나온 숫자입니다. 연구자 한 사람이 찾아낸 것만 이 정도라는 뜻입니다. 전체 규모를 센 숫자는 아닙니다.
사실 91%는 Exploding Topics가 2026년 8월에 한 설문 결과입니다. GIGAZINE이 이 설문을 인용해 보도했습니다. 이번 사건의 피해자 수가 아닙니다. AI를 쓰는 사람들의 습관을 보여 주는 숫자입니다.
사실 Dark Reading은 AI가 알려 준 가짜 번호로 연락했다가 결제 정보나 카드 정보를 넘겼다는 피해 호소가 몇 건 있었다고 보도했습니다. 몇 건인지, 얼마를 잃었는지는 나오지 않았습니다.
사실 연구자는 구글과 OpenAI에 이 문제를 알렸습니다. 구글은 취약점 보상 제도 대상이 아니라고 답했습니다. 취약점 보상 제도는 보안 문제를 찾아 신고한 사람에게 회사가 보상을 주는 제도입니다. OpenAI는 재현되지 않는다며 신고를 닫았습니다.
추정 그러니 AI 회사가 알아서 고쳐 주기를 기다리기보다 내가 확인하는 편이 빠릅니다. 족보가 틀렸다고 알렸는데 “우리 책임은 아니다”라는 답이 돌아온 상황이니까요.
지금 할 일
족보 대신 교과서를 펴면 됩니다. 이번에 교과서는 회사가 직접 준 번호입니다.
- 고객센터 번호는 AI 답변이나 검색 요약에서 받아 적지 않습니다. 그 회사 공식 앱에서 찾습니다. 아니면 주소창에 직접 입력해 들어간 공식 홈페이지, 또는 카드 뒷면에서 확인합니다.
- 이미 AI가 알려 준 번호로 전화해 카드 정보를 불러 줬다면, 바로 카드사에 전화합니다. 카드를 정지하고 재발급을 요청합니다. 이때도 카드사 번호는 카드 뒷면에서 찾습니다.
AI에게 묻는 것 자체가 문제는 아닙니다. 다만 연락처와 로그인 주소만큼은 친구 대답이 아니라 교과서로 맞춰 봅니다.
우리가 모르는 것
이번 건은 아직 비어 있는 칸이 많습니다. 아는 것처럼 쓰지 않으려고 따로 모았습니다.
- 한국 기업이 374곳에 들어 있는지 공개되지 않았습니다. 국내 항공사·은행·카드사 번호도 오염됐다고 말할 근거는 없습니다.
- 한국어로 물어도 같은 가짜 번호가 나오는지 확인되지 않았습니다.
- 실제 피해 건수와 피해 금액은 나오지 않았습니다. 보도된 것은 “몇 건의 피해 호소”뿐입니다. 연구자 글에도 금전 피해로 이어졌다는 서술은 있지만 건수나 금액은 없습니다.
- 공격 주체가 누구인지, 한 조직인지 여러 조직인지 밝혀지지 않았습니다. 국적이나 소속은 추정하지 않습니다.
- 지금 이 순간에도 각 AI가 가짜 번호를 답하는지 모릅니다. OpenAI와 구글이 그 뒤에 조치를 했는지도 모릅니다.
- 기사들은 연구자를 ’Vigilance Security 연구 부사장’으로 소개합니다. 이 소속·직함은 회사 쪽 공개 자료로 확인하지 못했습니다. 연구자 본인의 글에는 ’보안 연구자이자 창업자’로만 나옵니다.
- 연구자의 미디엄 글은 직접 열면 접근이 막혀서, 작성자 RSS 피드(새 글을 모아 보내 주는 구독 주소)로 본문을 확인했습니다.
- Dark Reading 기사는 본문을 열지 못했습니다. 피해 호소 대목은 검색 요약으로만 봤습니다.
이 글은 연구자 본인의 글과 언론 보도를 바탕으로 정리했습니다. 한국 기업 포함 여부, 한국어 질문 시 재현 여부, 실제 피해 규모, 공격 주체는 확인되지 않았습니다.
출처
- Ariel Simon (Medium, 연구자 본인 글 · 1차 출처), “Dark Sourcery: How Hackers Manipulate AI to Scam You”, 2026-09-22 — https://medium.com/@arielsimon/dark-sourcery-how-hackers-manipulate-ai-to-scam-you-88df434d2073
- The Hacker News, “ThreatsDay: AI Search Poisoning, AI Coding Tool Leaking Repos, One-Click Code Execution and 13 More Stories”, 2026-09-24 — https://thehackernews.com/2026/09/threatsday-ai-search-poisoning-ai.html
- GIGAZINE, “‘Dark Sourcery’ is a cyberattack that uses AI such as ChatGPT to generate fake contact information for companies, leading users into fraud.”, 2026-09-25 — https://gigazine.net/gsc_news/en/20260925-dark-sourcery-hackers-manipulate-ai-scam/
- Dark Reading, “Attackers Manipulate AI Chatbots in Mass Disinformation, Phishing Campaign” — https://www.darkreading.com/threat-intelligence/attackers-manipulate-ai-chatbots-mass-disinformation-phishing-campaign
2026-09-29 기준으로 정리했습니다. 이 글은 우리 허니팟 관측이 아니라 공개된 연구와 보도를 옮긴 것이어서 IP·자격증명·공격 명령어는 싣지 않았습니다. 가짜 번호와 악성 페이지 주소도 따라 할 수 없도록 적지 않았습니다. 사실 배지는 1차 출처에서 확인했거나 보도된 내용에 붙였습니다. 보도만 된 내용은 본문에 “보도했습니다”로 따로 표시했습니다. 추정 배지는 우리가 이어붙인 해석입니다.