채찍파티를 믿으면 안되는 이유

M

케투

2025.06.20

추천 0

조회수 292

댓글 0

요즘 챗GPT를 검증된 검색엔진처럼 사용하는 사람들이 많은데 챗GPT가 알려주는 정보는 정확하지 않을뿐만 아니라

절대 '잘 모르겠다' 라는 대답을 하지 않습니다.

이는 '할루시네이션'이라는 증상인데 이는 챗GPT의 알고리즘 때문입니다.

챗GPT와 같은 언어모델은 실제 지식을 검증하여 답을 주는것이 아니라 엄청난 양의 텍스트를 바탕으로

단어 간의 통계적 패턴과 확률을 학습 합니다.

쉽게 말해 특정 단어 다음에 어떤 단어가 나올 가능성이 높은지를 파악하고 질문이나 지시에 대해 가장 그럴듯한 응답을 생성합니다.

실제 지식이나 추론 능력에 기반한 답변이 아닌 확률에 기반한 문장을 출력하는것이죠.

때문에 '잘 모르겠다' 라거나 '정확하지 않다' 의 개념이 없습니다.

그래서 최악의 경우는 본문과 같은 시츄에이션이 생길수도 있는겁니다.

댓글

유머

진짜 반국가 세력은?

진짜 반국가 세력은?

집사 놀래키려고 숨어 있는 고양이

집사 놀래키려고 숨어 있는 고양이

멸종위기 맞음? 고라니의 냉혹한 진실을.araboja

멸종위기 맞음? 고라니의 냉혹한 진실을.araboja

영국, 안락사 법 통과.jpg

영국, 안락사 법 통과.jpg

"적폐몰이" "갑질" 비판에…"국민의힘, 지적할 자격 있나" ?

"적폐몰이" "갑질" 비판에…"국민의힘, 지적할 자격 있나" ?

이 대통령, 나토 정상회의 불참…국내 현안·중동 정세 고려

이 대통령, 나토 정상회의 불참…국내 현안·중동 정세 고려

넷플 글로벌 1위라는 케이팝 데몬 헌터스 디렉터가 들려주는 재밌는 제작 후일담

넷플 글로벌 1위라는 케이팝 데몬 헌터스 디렉터가 들려주는 재밌는 제작 후일담

정육업 하는 사람들도 돈 주고 버린다는 부위

정육업 하는 사람들도 돈 주고 버린다는 부위

후방)요즘 AI 기술력

후방)요즘 AI 기술력

나 오늘 진짜 이상한 날이었어...

나 오늘 진짜 이상한 날이었어...

이낙연.손학규 근황!

이낙연.손학규 근황!

아산 배방읍 루머

아산 배방읍 루머

'진짜..부패 천국이었네' 간병로봇 열어봤다가 '경악'

'진짜..부패 천국이었네' 간병로봇 열어봤다가 '경악'

할머니가 원수도 안아주라고 하셨어

할머니가 원수도 안아주라고 하셨어

결혼 그냥 포기했어요

작성

< 97 98 99 100 101 >