요즘에는 AI와 관련하여 두 분류의 사람이 있는 것 같습니다.
한 쪽은 "AI가 곧 인간을 대체한다" 며 맹신하는 분들.
다른 한 쪽은 "결국 AI는 진짜 생각은 못 한다" 며 평가절하하는 분들.
저는 두 입장 모두 위험하다고 봅니다. 공통점이 있거든요. AI가 어떻게 동작하는지 모른다는 것.
AI강의, 특히 시니어분들 강의를 나갈 때마다 느끼는 거지만 우리나라의 AI 리터러시 문제는 생각보다 심각합니다. IT업계에 있는 분들은 잘 못느끼시겠지만 한 발만 넘어가도 여전히 기본적인 개념 조차 없는 경우가 많습니다. 아니 디지털 리터러시도 우리나라는 아직 해결되지 않았으니, 어찌보면 그 분들에게 AI리터러시는 뜬구름 같겠죠. 세상이 왜 이리 빨리 발전하는 건지 야속할 따름일 겁니다.
이처럼 이게 어떻게 돌아가는지에 대한 이해가 없는 상황에서 LLM이 사람처럼 유창하게 답을 내놓으니 "사람처럼 생각하고 느낀다"고 착각하는 분들이 너무 많습니다. 특히 AI 에이전트가 대중화되면서 각 에이전트를 의인화하고, 점점 더 이런 경향이 강해지고 있어요. 그렇다고 그런 분들에게 인공신경망이나 트랜스포머 등을 설명하기 시작한다면 애초에 듣지도 않으실 거고.
그러던 차에 최근 흥미로운 논문 한 편을 읽었습니다.
"Epistemological Fault Lines Between Human and Artificial Intelligence (Quattrociocchi, Capraro, Perc, 2025)"
명쾌하게 인간의 판단 과정과 LLM의 판단 과정이 어떻게 다른지 7단계로 분해해서 비교한 논문입니다.
여러분들이 직접 논문을 읽으실 필요 없이 핵심 내용만 정리해서 여기 옮겨 적으면,
이 논문에서는 인간의 판단 과정과 LLM의 판단 과정을 각각 7단계로 분해해서 비교합니다. 그리고 그 사이에 7가지 인식론적 단층선(epistemic fault lines)이 아래와 같이 존재한다고 말합니다.
Grounding: 인간은 감각·신체·사회적 경험에서 출발 / LLM은 텍스트에서 출발
Experience: 인간은 일화 기억과 직관적 물리·심리학에 의존 / LLM은 임베딩 공간의 통계적 연관성에만 의존
Motivation: 인간은 진화적으로 형성된 감정·동기·가치를 가짐 / LLM은 그런 게 아예 없음
Causality: 인간은 인과 모델로 추론 / LLM은 표면적 상관관계에 의존
Metacognition: 인간은 "모르겠다" 고 판단을 유보 가능 / LLM은 어떻게든 답을 내놓아야 함
Value: 인간의 판단에는 정체성·도덕·실제 결과에 대한 책임이 따름 / LLM에게는 그런 게 없음
여기서 중요한 개념이 "Epistemia" 입니다.
"Epistemia"를 한 마디로 정의하면, 언어적 그럴듯함(linguistic plausibility)이 인식론적 평가(epistemic evaluation)를 대체하는 구조적 상태입니다.
쉽게 말하면, 판단의 노동 없이 '안다는 느낌'만 갖게 되는 상황 이죠.
이게 우리가 보통 Chat GPT나 Claude 등을 사용하면서 갖게 되는 상황이죠.
그리고 또 하나 소개되는 개념이 "Illusion of Veracity(진실성의 환상)".
인간은 말이 유창하고, 자신감 있어 보이면, 그걸 ‘사실’로 믿는 경향이 있습니다.
이거 컨설팅 현장에서도 가끔 잊지 않나요? 컨설턴트가 확신에 찬 어조로 무언가를 얘기하면 그런가보다 하고 믿고 넘어가게 되는 거죠.
문제는 LLM은 항상 유창하고, 항상 확신에 찬 어조로 말한다는 겁니다. 제가 실제로 많이 겪는 일 중에, 내가 AI에게 답변 내용 중에 틀린 부분을 지적하면 그제서야 AI는 저의 지적을 칭찬하면서 답변을 수정해서 내놓거나 자료를 보완하죠.
LLM은 거대한 통계 머신입니다. 가지고 있는 데이터, 최근에는 여러 tool을 사용하여 이를 보완하지만, 기본 동작 원리는 여러분이 시킨 일이나 입력한 지시문에 대해 과거 학습 과정에서 가장 좋은 평가를 받았던 통계적으로 높은 수치의 답변 또는 행동을 찾아서 할 뿐입니다.
그래서 이 논문에서는 인간과 AI의 결정적 차이를 "Motivation"으로 얘기합니다.
인간은 감정, 경험에 기반하여 행동하지만, AI는 그러한 동기를 갖고 움직이지 않기 때문에 지키고 싶은 것도, 두려운 것도 없다는 겁니다.
AI에게는 지켜야 할 생명도, 잃을 몸도, 피하고 싶은 죽음도 없습니다. 공감하는 것처럼 말할 수는 있지만, 실제로 아파하거나 두려워하지 못합니다. 책임질 일도 없고, 틀려도 잃을 게 없습니다.
결국 변하지 않는 사실 하나.
판단의 주체는 여전히 인간입니다.
IT업계에서 원론적인 개념인 GIGO(Garbage In, Garbage Out)는 AI서비스를 사용할 때도 똑같이 적용됩니다.
어떤 입력을 넣을지 결정하는 것도, 그 결과를 신뢰할 만한지 판단하는 것도 — 모두 인간의 몫입니다. AI가 아무리 발전해도 이 구조는 바뀌지 않습니다.
그래서 진짜 AI를 잘 쓰는 사람은 AI를 맹신하는 사람도 아니고, AI를 무시하는 사람도 아닙니다.
AI의 작동 원리와 한계를 정확히 알고, 그 한계 안에서 최대한 활용하는 사람이죠.
AI 시대,
진짜 경쟁력은 판단하는 인간입니다.
혹시 논문 전체를 읽고 싶은 분은 아래 경로를 참조하세요.