AI 할루시네이션보다 더 중요한 건, 내가 어떤 질문을 했는가였습니다

AI의 불안정함이 아니라 질문하는 인간의 관점과 사고 구조가 핵심임을 시각적으로 표현한 썸네일로, 인간과 AI의 사고 차이를 대비해 보여준다.

 

AI가 멍청해진 게 아닙니다.
멍청해 보이게 만드는 질문 구조가 있었을 뿐입니다.

 

대부분은 이렇게 생각합니다.

 

“AI가 요즘 불안정한가?”

“할루시네이션이 심해졌나?”

 

저도 처음에는 그렇게 믿었습니다.

 

그런데 일정 기간 동안 질문 방식, 대화 구조, 요청 목적을 의도적으로 바꿔보면서 한 가지 이상한 사실을 발견했습니다.

답이 흔들리는 날마다, 질문하는 쪽이 달라져 있었습니다.

 

이 글은 “AI가 왜 이상해졌는가”에 대한 글이 아닙니다.

AI를 쓰는 내가 어떤 사고 구조로 질문하고 있었는지에 대한 기록입니다.

 

 

 

이 글에서 얻게 되는 것

• AI 답변이 흔들리는 진짜 원인
• 할루시네이션과 질문 구조의 차이
• 답을 안정시키는 3가지 기준
• AI 성능보다 중요한 ‘사람 쪽 변수’

목차

1. AI 답변이 다르게 느껴졌던 순간들
2. 처음엔 할루시네이션이라고만 생각했다
3. 대화를 반복하며 느낀 미묘한 차이
4. 질문과 역할 인식 사이의 간극
5. 질문하는 나를 돌아보게 되다
6. AI 도구를 쓰며 생긴 가장 큰 변화

 

1. AI 답변이 다르게 느껴졌던 순간들

 

같은 주제였고, 표현도 크게 다르지 않았습니다.

그런데 결과는 매번 같지 않았습니다.

 

어떤 날은 다섯 줄로 끝났고,

어떤 날은 스크롤을 몇 번 내려도 끝이 없었습니다.

 

요약을 요청했는데 설명이 되었고, 정리를 원했는데 강의처럼 풀어 쓰여 있기도 했습니다.

 

처음에는 단순한 오차라고 생각했습니다.

그런데 이런 일이 반복되면서, 이상할 정도로 일정한 패턴이 보이기 시작했습니다.

 

답이 흔들리는 날에는, 항상 대화의 출발점이 조금씩 달라져 있었습니다.

 

저는 도구를 관찰하고 있다고 생각했습니다.

하지만 관찰되고 있던 쪽은, 제 사고 구조였습니다.

 

같은 질문에도 AI의 답변이 정리되어 보일 때와 혼란스럽게 느껴질 때의 차이를 시각적으로 표현한 이미지

 

 

 

2. 처음엔 할루시네이션이라고만 생각했다

그래서 그 이유를 전부 AI의 한계, 즉 ‘할루시네이션’이라는 말로 정리해버렸습니다.

 

"AI는 원래 모든 상황에서 완벽한 답을 내놓는 존재는 아니다. 적어도 그때의 나는 그렇게 이해하고 넘어갔다.
상황에 따라, 질문에 따라 결과가 달라질 수 있다. "

 

그렇게 생각하면 마음은 편해졌지만, 어딘가 설명되지 않는 찜찜함은 계속 남아 있었습니다.

 

 

 

3. 대화를 반복하며 느낀 미묘한 차이

그러다 문득 한 가지를 깨닫게 됐습니다.

답이 달라졌던 날들을 돌아보니, 질문의 의도와 맥락이 미묘하게 달라져 있었다는 점이었습니다.

표현은 비슷했지만, 그날그날 제가 기대했던 답의 방향은 같지 않았습니다.

그때 처음으로 이런 가설을 세웠습니다.

“AI가 불안정한 게 아니라, 내가 매번 다른 사람처럼 질문하고 있는 건 아닐까?”

 

4. 질문과 역할 인식 사이의 간극

AI는 질문을 받으면 먼저 그 질문이 요구하는 역할을 해석합니다.
설명자가 되어야 하는지, 정리자가 되어야 하는지, 혹은 판단을 내려야 하는지.

제가 그 역할을 명확히 하지 않았을 때,
AI는 가장 그럴듯한 방향을 스스로 선택하고 있었던 것 같습니다.

이 차이를 조금 더 분명하게 이해하고 나서야,
질문을 던질 때 단어보다 구조와 역할이 먼저라는 사실을 인식하게 됐습니다.

답을 안정시키는 3가지 기준

• 역할을 먼저 정한다 – 설명자 / 정리자 / 판단자
• 출력 형태를 정한다 – 목록 / 표 / 요약 / 단계별
• 목적을 한 문장으로 고정한다 – 왜 이 답이 필요한가

이 맥락을 더 구체적으로 정리한 글

질문 구조와 역할을 먼저 정리했을 때, 답이 왜 안정되기 시작했는지 실제 경험을 기준으로 정리했습니다.

👉 ChatGPT 프롬프트 추천, 글 구조로 답이 일정해지는 이유

 

5. 질문하는 나를 돌아보게 되다

 

이 지점에서 시선이 바뀌었습니다.

AI가 틀렸는지를 따지기보다, 내가 어떤 질문을 던지고 있었는지를 먼저 돌아보게 된 겁니다.

 

질문은 있었지만, 내가 원하는 답의 기준은 명확하지 않았다는 걸 그제야 인정하게 됐습니다.

이 깨달음 이후, 저는 질문을 이렇게 바꾸기 시작했습니다.

• 지금 나는 설명을 원하는가?
• 정리를 원하는가?
• 결론을 원하는가?

이 세 가지만 고정해도, 답의 품질이 눈에 띄게 안정됐습니다.

 

 

 

6. AI 도구를 쓰며 생긴 가장 큰 변화

AI는 생각하지 않습니다.

대신, 질문하는 사람의 사고 구조를 반사합니다.

 

그래서 어떤 날은 천재 같고,

어떤 날은 멍청한 답이 나오는 겁니다.

 

AI가 바뀐 게 아니라,

그날의 내가 달랐던 겁니다.

 

이 글을 읽고 나서,

다음 질문을 던질 때 단어보다 먼저 “역할”을 떠올리게 된다면,

이미 절반은 성공입니다.

이 변화가 실제로 어떻게 나타났는지

하나의 도구가 아니라, 역할에 따라 여러 도구를 조합했을 때 결과가 왜 달라졌는지 정리한 경험 글입니다.

👉 AI 이미지 생성, 여러 도구 써보고 결국 이 조합으로 정착한 이유

비슷한 경험이 있으셨나요?

AI 답변이 이상하게 느껴졌던 순간이 있다면 댓글로 남겨주세요.

 

함께 보면 좋은 글

 

ChatGPT 모드 차이, 답변이 매번 다른 이유

 

ChatGPT 활용법 정리, 결과가 일정한 3가지 기준

 

나노바나나 프롬프트 구조– 같은 프롬프트인데 결과가 다른 이유