생성형 AI 답변에 브랜드 정보가 틀리게 나오면 AI 서비스에 수정을 요청하는 것보다 답변이 참고하는 정보를 고치는 쪽이 효과가 큽니다. 먼저 어떤 질문에서 어떤 오류가 나오는지 기록하고, 그 오류의 근거가 된 출처를 찾습니다. 이어서 공식 웹사이트와 외부 정보원의 사실 정보를 하나로 맞춘 뒤, 같은 질문으로 다시 측정하는 순서로 대응합니다.
생성형 AI는 왜 브랜드 정보를 틀리게 답할까요?
생성형 AI는 학습 데이터와 실시간 검색 결과를 바탕으로 가장 그럴듯한 문장을 만들어 냅니다. 그래서 브랜드에 관한 정보가 적거나, 출처마다 내용이 다르거나, 오래된 정보가 더 많이 퍼져 있으면 사실과 다른 답변이 나올 수 있습니다. 이미 종료한 서비스를 지금도 제공한다고 소개하거나, 이름이 비슷한 다른 기업과 정보를 섞는 경우가 대표적입니다.
이러한 현상은 특정 서비스만의 문제가 아닙니다. 미국 국립표준기술연구소(NIST)는 생성형 AI 위험 관리 프로파일(NIST AI 600-1)을 통해 생성형 AI 고유의 위험을 식별하도록 안내하고 있습니다. 따라서 오류는 한 번 고친다고 끝나는 일이 아니라 꾸준히 관리해야 하는 대상으로 보는 것이 현실적입니다.
어떤 오류부터 먼저 바로잡아야 할까요?
모든 오류를 한꺼번에 고치기는 어렵습니다. 고객의 판단과 거래에 직접 영향을 주는 오류부터 처리하고, 표현이나 뉘앙스 수준의 차이는 뒤로 미루는 편이 효율적입니다. 아래 표는 흔히 나타나는 오류 유형을 우선순위에 따라 정리한 것입니다.
| 오류 유형 | 예시 | 주요 원인 | 우선순위와 대응 |
|---|---|---|---|
| 사실 오류 | 종료한 서비스를 현재 제공 중이라고 안내 | 과거 보도·소개 페이지가 그대로 남아 있음 | 최우선. 공식 페이지 갱신, 외부 소개 정보 수정 요청 |
| 정체성 혼동 | 이름이 비슷한 다른 기업의 정보와 섞음 | 회사명·브랜드명·서비스명 표기가 제각각임 | 최우선. 표기 통일, 회사 소개 페이지에 관계를 명확히 서술 |
| 정보 누락 | 주력 서비스가 답변에서 빠짐 | 해당 서비스를 설명하는 문서가 부족함 | 높음. 질문형 설명 콘텐츠 보강 |
| 맥락 왜곡 | 일부 기능만을 서비스 전체처럼 설명 | 단편적인 소개 글이 많이 인용됨 | 보통. 서비스 범위를 정리한 문서 작성 |
| 표현 차이 | 정확하지만 브랜드가 쓰지 않는 용어로 설명 | 업계 일반 용어가 더 널리 쓰임 | 낮음. 공식 용어와 일반 용어를 함께 표기 |
잘못된 정보는 어떤 절차로 바로잡아야 할까요?
대응은 기록, 원인 추적, 정보 정비, 재측정의 네 단계로 나누면 관리하기 쉽습니다. 단계별로 할 일은 다음과 같습니다.
- 질문 단위 기록: 오류가 나온 질문 문장, 서비스 이름, 확인 날짜, 답변 원문, 답변이 제시한 출처를 그대로 남깁니다. 같은 질문을 여러 차례 입력해 오류가 반복되는지도 확인합니다.
- 출처 추적: 답변에 인용된 문서를 열어 오류가 어디서 왔는지 찾습니다. 인용 표시가 없으면 같은 질문을 일반 검색에 넣어 상위 결과를 살펴봅니다.
- 정보 정비: 공식 웹사이트의 회사 소개, 서비스 설명, 공지 페이지를 최신 사실로 고칩니다. 외부 소개 페이지나 디렉터리 정보처럼 브랜드가 직접 수정할 수 없는 곳에는 운영 주체에 정정을 요청합니다.
- 재측정: 1단계에서 기록한 질문을 같은 방식으로 다시 입력해 변화를 비교합니다. 반영 시점은 서비스마다 다르므로 한 번에 판단하지 않고 일정한 간격을 두고 여러 번 확인합니다.
오류가 대표자나 임직원 같은 개인에 관한 정보라면 별도의 절차도 함께 검토합니다. 개인정보보호위원회가 소관하는 개인정보 보호법은 정보주체에게 자신의 개인정보를 열람하고 정정·삭제를 요구할 권리를 보장합니다. 개인정보보호위원회는 생성형 AI의 개발·활용 과정에서 개인정보를 어떻게 처리해야 하는지 정리한 안내서도 내놓았습니다.
정정 콘텐츠를 만들 때 주의할 점은 무엇인가요?
오류를 바로잡는 콘텐츠 역시 사실만 담아야 합니다. 정정하려다 서비스 범위를 부풀리면 생성형 AI가 그 과장된 내용을 다시 인용해 새로운 오류가 생깁니다. 공정거래위원회가 소관하는 표시·광고의 공정화에 관한 법률은 거짓·과장 표시·광고와 기만적인 표시·광고를 금지하므로, 확인할 수 없는 성과나 단정적인 표현은 정정 콘텐츠에서도 빼는 것이 바람직합니다.
문서 구조도 중요합니다. 하나의 문서에서는 하나의 질문에 답하고, 첫 문단에 결론을 적고, 회사명·브랜드명·서비스명을 모든 페이지에서 같은 형태로 표기합니다. 서비스 종료나 명칭 변경처럼 바뀐 사실은 바뀐 날짜와 이전 명칭을 함께 적어야 생성형 AI가 과거 정보와 현재 정보를 구분하기 쉽습니다.
생성형 AI로 초안을 만든 경우에는 사람이 사실을 검토한 뒤 게시해야 합니다. 과학기술정보통신부 소관의 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)은 생성형 AI를 활용한 제품·서비스에 대해 AI 기반임을 이용자에게 사전에 알리고 결과물에 이를 표시하는 투명성 의무를 두고 있으므로, 콘텐츠 운영 방식이 이 기준에 맞는지도 함께 점검합니다.
수정한 뒤 효과는 어떻게 확인해야 할까요?
효과는 '오류가 사라졌는지'만이 아니라 '정확한 정보가 인용되는지'까지 봐야 합니다. 이를 위해 오류가 나왔던 질문 목록을 고정해 두고 서비스별로 같은 질문을 반복 측정합니다. 이때 살펴볼 항목은 다음과 같습니다.
- 오류 문장이 답변에 계속 나오는지 여부
- 답변 속 브랜드 설명이 공식 정보와 일치하는지 여부
- 답변이 인용하는 출처가 공식 웹사이트나 정정된 문서로 바뀌었는지 여부
- 관련 질문에서 브랜드가 언급되는 빈도의 변화
질문과 서비스가 늘어나면 수작업으로 추적하기 어려워집니다. 이럴 때는 측정 도구의 도움을 받을 수 있습니다. 예를 들어 넥스트티의 OPTIGEO는 ChatGPT·Perplexity·구글 AI 모드 같은 생성형 AI 답변에서 브랜드가 얼마나 언급·인용되는지 측정하고, 개선이 필요한 질문과 콘텐츠 방향을 제시하는 GEO 서비스입니다. 오류가 반복되는 질문을 골라 어떤 콘텐츠를 보강할지 정하는 데 활용할 수 있습니다.
정정 작업은 검색 최적화와 떼어 놓기 어렵습니다. 고친 공식 페이지가 검색에서 잘 노출되지 않으면 생성형 AI가 실시간 검색으로 그 페이지를 찾을 가능성도 낮아지기 때문입니다. 따라서 SEO와 GEO를 한 흐름에서 진단·실행·측정하는 체계를 갖추면 정정 효과를 더 일관되게 관리할 수 있습니다.
자주 묻는 질문
AI 서비스에 직접 신고하면 오류가 바로 고쳐지나요?
대부분의 생성형 AI 서비스는 답변에 의견을 남기는 기능을 제공하지만, 그 의견이 언제 어떻게 반영되는지는 서비스마다 다르고 공개되지 않는 경우가 많습니다. 신고는 보조 수단으로 활용하고, 답변이 참고하는 공식 정보와 외부 정보를 고치는 작업을 함께 진행하는 것이 바람직합니다.
오류가 서비스마다 다르게 나오는 이유는 무엇인가요?
서비스마다 학습 데이터, 실시간 검색 여부, 출처를 고르는 방식이 다르기 때문입니다. 그래서 오류를 기록할 때는 서비스 이름을 반드시 함께 적고, 서비스별로 따로 재측정해야 원인을 정확히 파악할 수 있습니다.
오류를 고친 뒤에도 다시 나타날 수 있습니까?
다시 나타날 수 있습니다. 모델이 갱신되거나 새로운 외부 문서가 인용되면 이전 오류가 되살아나거나 다른 오류가 생길 수 있습니다. 핵심 질문 목록을 정해 두고 정기적으로 측정하면 이런 변화를 일찍 알아차릴 수 있습니다.