AI 시대를 준비하는 20가지 이야기 #02-ChatGPT는 어떻게 사람처럼 대화할까?

---

ChatGPT를 처음 사용하는 사람들이 가장 놀라는 것은 대화의 자연스러움입니다.

질문하면 대답하고, 앞에서 이야기했던 내용을 이어가고, 긴 문서를 요약하며, 새로운 아이디어까지 제안합니다.

어떤 때는 정말 컴퓨터가 내 말을 ‘이해하고 있다’는 느낌까지 듭니다.

도대체 어떻게 가능한 것일까요?

---

1. ChatGPT의 핵심에는 LLM이 있습니다

ChatGPT와 같은 생성형 AI의 핵심에는 LLM(Large Language Model)이 있습니다.

우리말로 하면 대규모 언어 모델입니다.

아주 단순화해서 설명하면, 매우 많은 언어 데이터를 학습하면서 단어와 문장이 어떤 문맥에서 어떻게 연결되는지 그 패턴을 익힌 모델이라고 이해할 수 있습니다.

예를 들어 우리가

“오늘 날씨가 너무…”

라고 말하면 뒤에 어떤 표현이 이어질지 어느 정도 예상할 수 있습니다.

“덥다.”

“춥다.”

“좋다.”

“흐리다.”

같은 표현입니다.

LLM은 이런 언어의 관계와 패턴을 인간이 상상하기 어려울 만큼 방대한 규모로 학습합니다.

---

2. AI는 문장을 ‘토큰’이라는 작은 단위로 처리합니다

ChatGPT가 글을 처리할 때 중요한 개념이 하나 더 있습니다.

바로 토큰(Token)입니다.

AI는 우리가 입력한 글을 일정한 단위로 나누어 처리합니다.

그리고 앞에서 주어진 문맥을 고려하면서 다음에 어떤 토큰이 적절할지를 계산해 출력을 생성합니다.

이 과정이 반복되면서 한 문장, 한 문단, 긴 글까지 만들어집니다.

실제 기술은 훨씬 복잡하지만 처음 AI를 배우는 단계에서는 이렇게 이해해도 충분합니다.

“ChatGPT는 앞의 문맥을 바탕으로 다음에 적절한 표현을 매우 정교하게 생성한다.”

---

3. 그래서 AI에게는 ‘문맥’이 중요합니다

여기서 우리가 ChatGPT를 잘 사용하는 첫 번째 비밀이 나옵니다.

바로 문맥(Context)입니다.

예를 들어 이렇게 질문했다고 해보겠습니다.

“제주도 여행 계획 만들어 줘.”

ChatGPT는 여행 계획을 만들어 줄 수 있습니다.

하지만 다음과 같이 질문하면 어떨까요?

“70대 부모님과 함께 자동차로 제주도를 여행하려고 합니다. 걷는 거리를 최소화하고 하루 일정이 너무 빡빡하지 않은 2박 3일 여행 계획을 만들어 주세요.”

훨씬 구체적인 답을 얻을 수 있습니다.

왜 그럴까요?

AI가 사용할 수 있는 문맥이 많아졌기 때문입니다.

누구와 가는지,

며칠인지,

이동수단은 무엇인지,

무엇을 중요하게 생각하는지를 알려주었기 때문입니다.

---

4. 검색엔진과 생성형 AI는 무엇이 다를까요?

검색엔진과 ChatGPT를 같은 방식으로 사용하는 분들이 많습니다.

하지만 두 도구에는 중요한 차이가 있습니다.

검색엔진은 기본적으로 이미 존재하는 정보를 찾아주는 것에 강합니다.

반면 생성형 AI는 사용자가 제공한 질문과 문맥을 바탕으로 새로운 형태의 답변을 구성하는 것에 강합니다.

그래서 검색에서는

제주도 맛집

처럼 키워드 중심으로 입력하는 것이 자연스럽지만, 생성형 AI에서는 목적과 조건을 설명하는 것이 효과적입니다.

예를 들면,

“제주도에서 70대 부모님과 함께 가기 좋은 식당을 고르는 기준을 알려주고, 메뉴 선택 시 고려해야 할 점을 표로 정리해 주세요.”

처럼 말할 수 있습니다.

즉, 생성형 AI는 단순히 검색하는 도구라기보다 대화하며 결과물을 만들어 가는 도구에 가깝습니다.

---

5. 그러나 자연스러운 말투와 정확성은 별개입니다

여기서 매우 중요한 문제가 있습니다.

ChatGPT의 답변은 무척 자연스럽습니다.

그런데 바로 그 자연스러움 때문에 답변이 모두 사실처럼 느껴질 수 있습니다.

하지만 AI는 틀릴 수 있습니다.

존재하지 않는 자료를 있는 것처럼 제시하거나 숫자와 날짜를 잘못 말할 수도 있습니다.

따라서 다음과 같은 정보는 특히 검증이 중요합니다.

• 성경 구절과 원문
• 통계자료
• 논문과 연구결과
• 법률
• 의료정보
• 역사적 사실
• 최신 뉴스와 정책

AI는 훌륭한 연구 조력자가 될 수 있지만 최종적인 판단과 책임까지 대신할 수는 없습니다.

AI에게 질문하는 능력만큼 AI의 답을 검증하는 능력도 중요합니다.

---

오늘의 AI 실습

이번에는 #02에서도 간단한 실습을 해보겠습니다. 아래 질문을 그대로 복사해서 ChatGPT에 넣어 보세요.

---

나는 생성형 AI를 처음 배우고 있습니다.

LLM(Large Language Model)과 토큰(Token)이 무엇인지
컴퓨터를 잘 모르는 60대 성인도 이해할 수 있도록 설명해 주세요.

어려운 기술 용어는 최소화하고,
일상생활에서 쉽게 이해할 수 있는 비유를 각각 2개씩 사용해 주세요.

마지막에는
1. LLM
2. 토큰
3. 문맥(Context)
이 세 가지가 ChatGPT의 대화에서 어떤 관계가 있는지 표로 정리해 주세요.

 

---

 

한 번 실행해 보신 뒤,

“이번에는 초등학생에게 설명하듯 더 쉽게 설명해 줘.”

라고 다시 요청해 보세요.

같은 내용을 대상에 따라 다르게 설명하는 생성형 AI의 능력을 직접 확인할 수 있습니다.

---

검증 포인트

ChatGPT의 작동 원리를 설명하는 글이나 영상을 볼 때는 AI가 실제 사람처럼 생각하거나 의식을 가지고 있다고 단정하는 표현을 주의해서 볼 필요가 있습니다.

또한 AI 기술은 빠르게 발전하기 때문에 특정 모델의 기능이나 성능에 관한 내용은 최신 공식 자료를 확인하는 습관이 좋습니다.

---

핵심 정리

• LLM은 방대한 언어 패턴을 학습한 대규모 언어 모델입니다.
• AI는 입력된 문맥을 이용해 적절한 출력을 생성합니다.
• 충분한 배경정보를 제공할수록 결과가 구체화될 수 있습니다.
• 검색엔진과 생성형 AI는 사용하는 방식이 다릅니다.
• AI가 자연스럽게 말한다고 해서 그 답이 항상 정확한 것은 아닙니다.

다음 편 예고

그렇다면 같은 ChatGPT를 사용하는데 왜 어떤 사람은 놀라운 결과를 얻고 어떤 사람은 평범한 결과만 얻을까요?

그 차이를 만드는 중요한 요소 가운데 하나가 바로 프롬프트(Prompt)입니다.

다음 편에서는 처음으로 직접 AI를 다루면서 좋은 프롬프트를 만드는 기본 원리를 알아보겠습니다.