소상공인을 위한 인공지능 검증 안내서

인공지능에게 「우리 동네에서 가장 장사가 잘되는 업종이 뭐냐」고 물으면 답이 나옵니다. 문장이 매끄럽고 근거처럼 보이는 숫자도 붙어 있습니다. 그래서 믿게 됩니다.

그런데 그 답은 어디서 왔을까요?

검색은 이미 있는 문서를 찾아 보여 줍니다. 그래서 출처가 있습니다. 인공지능은 다릅니다. 배운 것을 바탕으로 그럴듯한 다음 낱말을 이어 붙여 문장을 만듭니다. 찾은 것이 아니라 지어낸 것입니다.

지어냈다는 말이 「거짓말한다」는 뜻은 아닙니다. 많이 배웠으니 대체로 맞는 말을 만듭니다. 문제는 틀린 말도 똑같이 매끄럽게 만든다는 데 있습니다. 맞을 때와 틀릴 때의 말투가 구분되지 않습니다.

그럴듯함과 맞음은 다르다

사람은 자신 없는 말을 할 때 목소리가 흐려집니다. 인공지능은 그렇지 않습니다. 확실한 것과 지어낸 것을 같은 어조로 말합니다.

이것이 이 책의 출발점입니다. 인공지능을 쓰지 말라는 것이 아닙니다. 매끄러움을 근거로 착각하지 말라는 것입니다.

그러면 어디에 쓰나

만들어 내는 일에 씁니다. 안내문 초안, 답글 초안, 메뉴 설명 초안 — 틀려도 다시 하면 되는 일입니다.

반대로 「이 금액이 맞나」, 「이 계약이 문제 없나」처럼 틀리면 곤란한 일에는 그대로 쓰지 않습니다. 다음 장에서 이 경계를 정합니다.

인터넷에는 「이 질문만 넣으면 된다」는 글이 많습니다. 그대로 넣어 보면 답이 나옵니다. 그런데 내 가게에 맞지 않습니다.

이유는 간단합니다. 그 질문에는 그 사람의 사정이 들어 있고, 내 사정은 안 들어 있습니다.

같은 「손님이 줄었다」도 가게마다 뜻이 다릅니다. 자리가 바뀌었는지, 옆에 새 가게가 생겼는지, 값을 올렸는지에 따라 해야 할 일이 완전히 달라집니다. 사정을 적지 않으면 인공지능은 가장 흔한 답을 내놓습니다.

사정을 적는다는 것

어렵지 않습니다. 사람에게 상의할 때 말하는 것을 그대로 적으면 됩니다.

• 무엇을 하는 가게인지 · 어디인지 · 얼마나 됐는지
• 지금 무엇이 문제인지 · 언제부터인지
• 이미 해 본 것과 그 결과
• 쓸 수 있는 돈과 시간

사람에게 이만큼도 말하지 않고 좋은 조언을 기대하지는 않습니다. 인공지능도 같습니다.

인공지능에게 「이 문구 괜찮지?」라고 물으면 대개 괜찮다고 합니다. 이유까지 붙여 줍니다. 기분은 좋아지지만 도움은 되지 않습니다.

인공지능은 사람이 원하는 답 쪽으로 기웁니다. 「괜찮지?」라는 물음에는 이미 「괜찮다」는 기대가 들어 있고, 그 기대를 읽습니다.

물음을 뒤집는다

같은 것을 이렇게 묻습니다.

그러면 답이 달라집니다. 맞장구가 아니라 검토가 돌아옵니다. 나온 세 가지 가운데 하나라도 뜨끔하면 고칠 자리가 생깁니다.

세 가지 되묻기

• 반론 — 「이 판단에 반대하는 쪽은 어떻게 말하겠나」
• 근거 — 「이 말의 근거가 무엇인가. 확실한 것과 추측을 나눠 적어라」
• 모른다 — 「모르는 것은 모른다고 적어라. 지어내지 마라」

세 번째가 가장 중요합니다. 인공지능은 「모른다」를 좋아하지 않아 빈칸을 그럴듯한 말로 메웁니다. 미리 허락해 주어야 빈칸이 드러납니다.

인공지능이 지어내기 가장 쉬운 것이 숫자·이름·날짜입니다. 「지원 사업 신청 마감이 언제냐」고 물으면 날짜가 나옵니다. 그럴듯합니다. 그리고 틀릴 수 있습니다.

이런 것은 반드시 원래 자리에서 확인합니다. 기관 공고문, 공식 누리집, 법령 조문입니다.

세 갈래로 나눈다

한 문장으로 끝내는 검증

긴 답을 받았을 때 이 한 문장을 덧붙입니다.

그러면 무엇을 확인해야 하는지가 정리되어 나옵니다. 확인은 사람이 하지만 무엇을 확인해야 할지는 인공지능이 정리해 줄 수 있습니다.

인공지능이 쓴 한국어는 문법이 맞아도 어색할 때가 있습니다. 손님에게 보내는 글이라면 이 어색함이 그대로 전해집니다.

본사는 기관을 상대로 이 문제를 다룹니다. 소상공인에게도 같은 것을 볼 수 있습니다.

네 가지를 봅니다

• 높임 단계가 섞이지 않았나 — 한 글 안에서 「~습니다」와 「~해요」가 오가면 어색합니다
• 남의 말투가 아닌가 — 우리 가게가 평소 쓰지 않는 말이 들어가면 티가 납니다
• 과한 표현이 없나 — 「최고의」, 「완벽한」 같은 말은 믿음을 오히려 깎습니다
• 번역한 말투가 아닌가 — 「~에 대해」, 「~를 통해」가 잦으면 옮긴 글처럼 읽힙니다

고치는 법

다시 쓰라고 하지 말고 기준을 주고 고치라고 합니다.

「자연스럽게 고쳐라」는 통하지 않습니다. 무엇이 자연스러운지는 사람마다 다릅니다. 기준을 적어 주어야 결과가 일정합니다.

이 장이 이 책에서 가장 중요합니다.

인공지능을 쓰다 크게 다치는 자리는 대개 정해져 있습니다. 잘못을 알아차렸을 때 이미 되돌릴 수 없는 일입니다.

「참고만 한다」는 말의 함정

많은 분이 「참고만 한다」고 하십니다. 그런데 실제로는 그 답이 판단의 뿌리가 됩니다. 다른 근거가 없으면 참고가 결론이 됩니다.

그래서 이렇게 정합니다. 위 다섯 영역에서는 인공지능 답 말고 다른 근거가 하나라도 있어야 움직입니다. 공고문이든 전문가 한마디든 좋습니다. 근거가 하나뿐이면 멈춥니다.

2026년 1월부터 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」이 시행되었습니다. 소상공인에게 곧바로 무거운 의무가 지워지는 것은 아니지만, 알아 두어야 할 것이 있습니다.

생성물을 밝히는 일

인공지능으로 만든 것을 사람이 만든 것처럼 내보이면 문제가 될 수 있습니다. 특히 이런 것입니다.

• 사람 얼굴이나 목소리를 만들어 낸 것
• 실제로 없던 일을 있었던 것처럼 보이게 한 것
• 손님 후기처럼 보이게 만든 글

세 번째는 법 이전에 신뢰 문제입니다. 후기를 지어내는 것은 어느 나라에서든 문제가 됩니다.

안전한 쪽으로 두는 방법

어려운 판단을 하지 않아도 되는 길이 있습니다. 만든 것에 만들었다고 적는 것입니다.

이 한 줄이 손님의 신뢰를 깎지 않습니다. 오히려 숨기다 드러났을 때 잃는 것이 훨씬 큽니다.

이 책의 내용을 다 잊으셔도 됩니다. 세 줄만 남으면 충분합니다.

왜 이 세 줄인가

기능은 바뀝니다. 이름도 바뀌고 화면도 바뀝니다. 그런데 「이 답을 믿어도 되는가」라는 질문은 바뀌지 않습니다.

본사가 기관을 상대로 하는 일도 결국 이것입니다. 인공지능이 만든 한국어를 그대로 쓰지 않고, 기계적으로 걸러 내는 방법을 세우는 일입니다. 다루는 대상이 다를 뿐 원칙은 같습니다.

더 필요하시면

업종에 맞춘 교육이나 실무 지원이 필요하시면 문의로 알려 주시기 바랍니다. 이 책의 내용을 실제 업무를 재료로 함께 다루는 방식으로 진행합니다.