환각

Hallucination

AI가 사실이 아닌 내용을 그럴듯하게, 확신에 찬 말투로 만들어 내는 현상입니다. 고장이 아니라 생성형 AI의 알려진 특성이라, 끄는 스위치가 없습니다. 대응은 사용법 쪽에 있습니다 — 숫자·이름·날짜·링크는 원본과 대조하고, 되돌릴 수 없는 일에는 사람 확인을 끼워 넣습니다.