어제 AI가 '다음 단어 예측'으로 답변을 만든다는 원리를 배웠습니다. 오늘은 그 원리에서 비롯되는 AI의 한계를 짚어봅니다. AI를 잘 쓰려면 무엇을 믿고 무엇을 의심해야 하는지 알아야 하니까요.
AI의 대표적인 한계 세 가지
첫째, 최신 정보를 모릅니다
AI는 특정 시점까지의 데이터로 학습됩니다. 예를 들어 작년까지의 자료로 학습한 AI에게 "오늘 주요 뉴스 알려줘"라고 물으면 정확한 답을 줄 수 없어요. 마치 1년 전에 출판된 책에서 오늘 날씨를 찾는 것과 같습니다. 이 학습 데이터의 마감 시점을 '지식 컷오프(knowledge cutoff)' 라고 부릅니다.
둘째, 자신 있게 틀립니다 — 환각(Hallucination)
AI가 모르는 것을 물어보면 어떻게 할까요? "모릅니다"라고 솔직하게 말하면 좋겠지만, 그 대신 그럴듯하게 들리는 말을 만들어내는 경우가 있습니다. 실제로 존재하지 않는 책 제목, 없는 사람 이름, 틀린 수치를 아주 자신 있는 어조로 말하기도 해요. 이를 AI의 '환각(hallucination)' 이라고 부릅니다. 듣기 좋게 꾸며낸 말이 사실처럼 들리기 때문에 특히 위험합니다.
셋째, 수학 계산이 의외로 약합니다
"3 × 17이 얼마예요?"처럼 단순한 곱셈은 잘 맞추지만, 복잡한 계산이나 여러 단계를 거치는 수식에서는 실수가 잦습니다. AI는 숫자를 계산기처럼 '처리'하는 게 아니라 패턴으로 '예측'하기 때문입니다. 정확한 계산이 필요하다면 결과를 꼭 검산해야 합니다.
▶ 직접 해보기: 한계 직접 확인하기
챗봇을 열고 아래 두 가지를 직접 물어보세요.
- "오늘 서울 날씨 어때?" — AI가 어떻게 답하는지, 실제 날씨와 맞는지 비교해 보세요.
- "3 × 17은 얼마야?" — 정답은 51입니다. 맞게 답하나요? 이어서 좀 더 복잡한 계산을 넣어보세요.
챗봇이 "죄송합니다, 최신 날씨 정보는 알 수 없어요"처럼 한계를 인정하는지, 아니면 어떻게든 답을 만들어내려 하는지 살펴보는 것도 흥미롭습니다.
⚠ 흔한 오해: AI가 틀리면 다 쓸모없다
AI에 한계가 있다고 해서 쓸모없는 도구가 되는 건 아닙니다. 자동차에 네비게이션이 있어도 도로 상황에 따라 직접 판단해야 할 때가 있듯이, AI도 마찬가지예요. AI가 잘 하는 일에 쓰고, 사실 확인이 중요한 부분에서는 직접 검증하는 습관을 들이면 됩니다. 완벽하지 않아도 충분히 유용한 도구입니다.
오늘의 한 줄 정리
AI는 최신 정보 부재, 그럴듯한 오답 생성(환각), 복잡한 수식 오류라는 세 가지 대표적인 한계를 가지고 있습니다.
내일은 반대로 AI가 이미 우리 일상 어디에 숨어 있는지 찾아봅니다. 오늘도 잘 하셨어요!
댓글