AI 답변은 믿어도 될까? 잘못된 정보 구별하는 방법

인공지능의 편리함 뒤에 숨겨진 위험

요즘 우리는 질문을 던지면 단 몇 초 만에 척척 답을 내놓는 인공지능과 함께 살아가고 있습니다. 숙제를 돕거나 이메일을 작성하고 복잡한 프로그래밍 코드를 짜주는 등 인공지능은 이미 우리 삶의 필수적인 도구가 되었습니다. 하지만 인공지능이 내놓는 답변을 어디까지 믿어야 할까요.

인공지능 기술이 아무리 발전했어도 여전히 완벽하지 않습니다. 그럴듯한 거짓말을 진짜처럼 당당하게 늘어놓는 현상을 기술 용어로 환각 현상이라고 부릅니다. 이 문제를 제대로 이해하지 못하고 인공지능의 답변을 맹신했다가는 낭패를 보기 쉽습니다. 잘못된 정보 속에서 진실을 가려내는 방법을 알아보겠습니다.

인공지능이 거짓말을 하는 이유

많은 사람들이 인공지능을 모든 것을 아는 박사님처럼 생각하지만 실제 작동 원리는 전혀 다릅니다. 인공지능은 방대한 양의 텍스트 데이터를 학습한 뒤 다음에 올 가장 확률이 높은 단어를 순서대로 이어 붙여 문장을 만드는 확률 계산 모델입니다. 즉 진실을 검증하고 이해해서 말하는 것이 아니라 통계적으로 그럴듯한 문장을 만들어내는 것입니다.

이러한 특성 때문에 정확한 정보가 부족한 분야나 전문적인 내용에 대해 질문하면 인공지능은 모른다고 답하기보다 뻔뻔하게 거짓말을 지어내게 됩니다. 마치 인간이 잘 모르는 질문을 받았을 때 체면을 차리기 위해 아는 척하는 것과 비슷합니다.

가짜 정보를 걸러내는 실전 검증 기술

인공지능이 내놓은 답변이 진짜인지 가짜인지 판별하기 위해서는 몇 가지 검증 단계를 거쳐야 합니다. 일상에서 바로 써먹을 수 있는 유용한 확인 방법들을 정리했습니다.

출처와 근거를 반드시 요구하기

인공지능에게 질문할 때부터 근거가 되는 논문이나 뉴스 기사 공식 웹사이트의 링크를 함께 제시해달라고 요구하는 것이 좋습니다. 답변을 받은 후에도 제시된 출처가 실제로 존재하는지 직접 확인해봐야 합니다. 가짜 인공지능은 존재하지 않는 가위바위보 같은 가짜 논문 제목이나 URL을 진짜처럼 만들어내는 경우가 많기 때문입니다.

중요한 사실은 교차 검증하기

업무에 쓰이는 중요한 자료나 건강 금융과 관련된 민감한 정보를 인공지능으로부터 얻었다면 반드시 신뢰할 수 있는 다른 검색 엔진이나 전문 서적을 통해 크로스 체크를 해야 합니다. 하나의 인공지능 모델만 믿지 말고 서로 다른 회사의 인공지능 두세 곳에 같은 질문을 던져보고 답변을 비교해보는 것도 좋은 방법입니다.

구체적인 수치와 고유명사 의심하기

인공지능은 연도 통계 수치 인물 이름 등을 정확히 기억하는 데 약합니다. 답변에 구체적인 통계나 역사적 연도가 등장한다면 십중팔구 틀렸을 가능성을 열어두고 재확인해야 합니다. 특히 최근 일어난 사건이나 시시각각 변하는 정보에 대해서는 인공지능의 학습 데이터 시한을 고려하여 더욱 경계해야 합니다.

분야별로 나타나는 오류의 특징

인공지능이 자주 틀리는 영역은 따로 있습니다. 각 분야별 특성을 파악해두면 실수를 미리 예방하는 데 큰 도움이 됩니다.

• 법률 및 세무 분야는 국가마다 법조문이 다르고 수시로 개정되기 때문에 인공지능이 과거의 법이나 잘못된 해석을 제공할 위험이 매우 큽니다.

• 의학 및 건강 분야는 사람의 생명과 직결되므로 인공지능의 진단이나 처방을 절대 맹신해서는 안 되며 반드시 의사와 상담해야 합니다.
• 역사 및 인물 분야에서는 비슷한 이름을 가진 다른 사람의 업적을 섞어서 전혀 새로운 가상의 인물을 창조해내는 경우가 빈번합니다.
• 프로그래밍 및 기술 분야는 문법은 맞지만 보안에 취약하거나 이미 사장이 된 구닥다리 코드를 정답인 마냥 제시할 수 있습니다.

흔히 하는 오해와 진실

인공지능을 대할 때 사람들이 자주 빠지는 착각들이 있습니다. 잘못된 상식을 바로잡아 보겠습니다.

유료 버전의 인공지능은 절대 거짓말을 하지 않을 것이라는 믿음은 오해입니다. 유료 모델이 무료 모델보다 성능이 뛰어나고 환각 현상이 일어날 확률이 현저히 낮은 것은 사실이지만 오류가 아예 사라지는 것은 아닙니다. 질문이 모호하거나 정보가 부족한 영역에서는 유료 인공지능도 여전히 그럴듯한 거짓말을 만들어냅니다.

인공지능이 한국어로 유창하게 대답한다고 해서 한국 관련 정보를 정확히 알고 있다고 생각하는 것도 착각입니다. 인공지능은 기본적으로 영어를 중심으로 학습한 뒤 이를 번역하고 재조합하는 과정을 거치기 때문에 한국어 문화권의 특수한 맥락이나 최신 국내 이슈에 대해서는 영어권 정보보다 훨씬 취약하고 오류를 범할 확률이 높습니다.

현명하게 질문하는 대화의 기술

인공지능으로부터 정확한 답변을 이끌어내는 것은 결국 사용자의 질문 능력에 달려 있습니다. 대충 질문하면 대충 그럴듯한 거짓말이 돌아오고 구체적이고 날카롭게 질문하면 정확한 진실에 가까워질 수 있습니다.

• 역할을 구체적으로 부여하세요. 그냥 질문하는 대신 당신은 10년 차 베테랑 세무사라고 가정하고 답변해달라고 요청하면 정확도가 높아집니다.
• 답변의 기준과 제약 조건을 달아주세요. 예를 들어 초등학생도 이해할 수 있는 쉬운 단어로 설명하되 전문 용어는 괄호 안에 원문을 적어달라고 주문하는 것입니다.
• 비판적 사고를 유도하세요. 내 주장에 무조건 동의하게 만들지 말고 이 의견의 반대 입장에서 비판적인 근거를 세 가지 대어달라고 요구하는 것이 좋습니다.

비용을 아끼며 안전하게 활용하는 지혜

인공지능 서비스를 무조건 비싼 유료 구독으로 이용할 필요는 없습니다. 무료 버전만으로도 충분히 안전하고 효율적인 작업이 가능합니다. 중요한 것은 유료와 무료의 차이를 알고 적재적소에 배치하는 것입니다.

간단한 아이디어 회의 문법 검사 번역 단순 요약 등의 작업에는 무료 버전의 인공지능을 활용해도 충분합니다. 반면 복잡한 데이터 분석 코딩 디버깅 전문적인 문서 작성 등 오류가 발생했을 때 타격이 큰 작업에는 성능이 검증된 유료 서비스를 쓰거나 혹은 무료 버전을 여러 개 돌려 교차 검증하는 방식을 택하는 것이 현명합니다.

인공지능은 우리의 뇌를 대신해주는 완벽한 정답 자판기가 아니라 우리의 생각을 확장해주고 귀찮은 반복 작업을 도와주는 똑똑한 비서입니다. 비서의 말을 무조건 믿기보다는 최종 결정권자로서 검열하고 판단하는 주인의식을 가질 때 비로소 인공지능의 진정한 혜택을 누릴 수 있습니다.