반응형 인공지능오류#할루시네이션#ai오류#파인튜닝#인공지능강화학습#ai할루시네이션1 인공지능(AI)의 할루시네이션 현상과 주요 용어 설명 1. 할루시네이션(Hallucination)이란?인공지능(AI)에서 ‘할루시네이션’이란, 모델이 실제로 존재하지 않는 정보나 틀린 내용을 마치 사실인 것처럼 생성하는 현상을 의미한다. 이는 AI가 데이터 기반으로 학습했지만, 주어진 정보만으로 답을 정확하게 생성할 수 없는 경우 종종 발생한다.1-1. 할루시네이션이 발생하는 이유데이터 부족: AI가 학습한 데이터에 없는 정보를 생성해야 할 때, 스스로 논리를 만들어내면서 오류가 발생할 수 있음.확률 기반 생성 방식: AI는 단어 또는 문장을 확률적으로 예측하여 생성하는데, 이 과정에서 신뢰할 수 없는 정보가 포함될 가능성이 높음.지식의 한계: 최신 정보가 없거나, 특정 분야의 전문적 지식이 부족할 경우 사실과 다른 내용을 생성할 가능성이 큼.프롬프트 모호.. 2025. 3. 18. 이전 1 다음 반응형
