인공지능 용어 사전

검증 계층 Verification layer

생성된 결과물이 규범에 맞는지 판정하는 별도의 절차입니다. 생성 모델을 신뢰 가능한 구성요소로 전제하지 않고, 규칙 기반 검증기를 직렬로 배치하여 출력의 적합성을 확보하는 구조입니다.

본사 연구의 핵심 개념입니다.

규범 적합성 Norm compliance

생성물이 언어 규범과 문서 규정에 맞는지를 뜻합니다. 경어법 일관성, 조사 결합, 문체 유지, 표현 적절성이 판정 대상입니다.

임계값 Threshold

결과물을 통과시킬지 반려할지 가르는 기준선입니다. 기준이 없으면 검증은 의견에 그치고 자동 판정이 불가능합니다.

사람의 관리·감독 Human oversight

인공지능의 판단을 사람이 확인하고 개입할 수 있도록 하는 체계입니다. 인공지능 기본법은 고영향 인공지능 사업자에게 이 체계의 구축을 요구합니다.

누가 언제 무엇을 확인했는지가 기록으로 남아야 합니다.

처리 이력 Audit trail

어느 모델이 언제 무엇을 만들었고 누가 확인했는지를 남긴 기록입니다. 법이 요구하는 자료 보관과 사후 검증의 근거가 됩니다.

고영향 인공지능 관련 자료는 5년간 보관해야 합니다.

편향 Bias

학습 데이터에 담긴 치우침이 결과물에 그대로 나타나는 현상입니다. 영어 중심 데이터로 학습한 모델은 한국어 결과물에서 문화적 맥락이 어긋나는 형태로 편향을 드러내기도 합니다.