할루시네이션을 방지 방법1 할루시네이션(Hallucination)이란? 할루시네이션(Hallucination)은 원래 심리학에서 환각을 의미하는 용어지만, 소프트웨어 개발과 AI(인공지능) 분야에서도 유사한 개념으로 사용된다. 주로 AI 모델이나 소프트웨어 시스템이 잘못된 정보나 존재하지 않는 데이터를 생성하는 현상을 가리킨다. ㅇ할루시네이션(Hallucination): AI 또는 알고리즘이 신뢰할 수 없는 정보, 존재하지 않는 데이터 또는 논리적으로 틀린 출력을 생성하는 현상주로 AI 기반 시스템, 검색 알고리즘, 자동 생성 모델에서 발생한다AI 및 머신러닝 분야자연어 처리(NLP) 모델 (예: ChatGPT, Bard, Claude 등)AI가 존재하지 않는 정보를 만들어내거나, 근거 없이 새로운 사실을 생성하는 경우e.g. “A라는 사람이 2022년 노벨 물리학상을 받.. 2025. 2. 18. 이전 1 다음
