인공지능 용어 사전

생성형 인공지능 Generative AI

글·이미지·음성·영상 등 새로운 결과물을 만들어 내는 인공지능입니다. 기존의 분류·예측 중심 인공지능과 구분됩니다.

대규모 언어모델 Large Language Model, LLM

방대한 문서로 학습하여 문장을 이어 쓰는 방식으로 동작하는 모델입니다. 다음에 올 말을 확률로 고르는 구조이므로, 사실 여부를 판단하는 기능은 갖고 있지 않습니다.

이 특성이 환각이 발생하는 근본 원인입니다.

환각 Hallucination

모델이 사실이 아닌 내용을 사실처럼 만들어 내는 현상입니다. 문장을 그럴듯하게 잇는 것이 모델의 동작 원리이므로, 없는 통계·법령·인용을 지어내는 일이 발생합니다.

검증 절차 없이 결과물을 그대로 사용해서는 안 되는 가장 큰 이유입니다.

프롬프트 Prompt

인공지능에 주는 지시문입니다. 같은 모델이라도 지시문의 구성에 따라 결과물의 품질이 크게 달라집니다.

토큰 Token

모델이 글을 다루는 최소 단위입니다. 한국어는 영어보다 같은 내용을 표현하는 데 더 많은 토큰이 필요한 경우가 많아, 비용과 처리 한도에 영향을 줍니다.

한국어 처리 비용이 영어보다 높게 잡히는 이유 가운데 하나입니다.

인공지능 에이전트 AI Agent

지시를 받아 여러 단계를 스스로 수행하는 인공지능입니다. 한 번 답하고 끝나는 방식과 달리 도구를 사용하고 결과를 확인하며 작업을 이어 갑니다.

자동으로 수행되는 범위가 넓어질수록 승인 절차와 이력 관리가 중요해집니다.

온프레미스 On-premise

외부 클라우드가 아니라 기관이 보유한 설비에서 인공지능을 운용하는 방식입니다. 자료가 기관 밖으로 나가지 않으므로 개인정보·비밀정보를 다루는 업무에 적합합니다.