학부모 AI 리터러시 교육 후기, AI가 알려주는 정보는 어디까지 믿어야 할까?
AI가 일상에 빠르게 들어오면서 이제는 아이들뿐 아니라 부모도 인공지능을 제대로 이해해야 하는 시대가 되었습니다. 궁금한 내용을 검색하고, 글을 작성하고, 공부에 필요한 정보를 찾는 일까지 AI가 도와주는 세상이 되었죠.
오늘은 학부모를 대상으로 진행된 AI에 대한 비판적 이해, AI 리터러시 교육을 듣고 왔습니다.
이번 교육에서 가장 인상 깊었던 점은 AI가 얼마나 많은 일을 할 수 있는지보다, AI가 알려주는 정보를 우리가 얼마나 신뢰해도 되는지에 대한 이야기였습니다.
특히 AI가 그럴듯하게 답변하더라도 그것이 반드시 사실은 아니라는 점, 그리고 잘못된 정보를 지적받았을 때도 AI의 답변을 근거로 자신의 생각을 굽히지 않는 사람들이 있다는 이야기가 기억에 남았습니다.
초등학생 자녀를 키우는 부모로서, 앞으로 아이들에게 무엇을 가르쳐야 할지 생각해 보는 시간이었습니다.
1. AI는 어디까지 발전하고 있을까?
이번 교육에서는 AI의 발전 방향을 여러 단계로 나누어 살펴보았습니다. 대화형 AI부터 추론형 AI, 에이전트형 AI, 혁신형 AI, 그리고 조직형 AI까지 이어지는 다섯 가지 개념이었습니다.
교육에서 소개된 구분을 바탕으로 각 개념을 간단히 정리해 보겠습니다.
① 대화형 AI
사람과 대화하면서 질문에 답하고, 글을 작성하거나 정보를 정리해 주는 AI입니다.
우리가 일상에서 사용하는 ChatGPT, Gemini, Claude 등이 대표적인 예입니다.
② 추론형 AI
주어진 문제를 여러 단계로 분석하고, 조건과 관계를 따져 답을 도출하는 데 초점을 맞춘 AI입니다. 단순히 답을 바로 제시하는 것을 넘어 복잡한 문제를 해결하는 데 활용됩니다.
③ 에이전트형 AI
이번 교육에서 특히 흥미로웠던 부분입니다.
에이전트형 AI는 사용자가 목표를 제시하면 필요한 작업을 계획하고, 도구를 활용해 여러 단계를 실행하도록 설계된 AI입니다.
예를 들어 자료를 검색하고, 내용을 정리하고, 파일을 만들거나 컴퓨터 화면에서 필요한 작업을 수행하는 방식입니다.
교육에서는 AI 에이전트를 활용한 업무 자동화뿐 아니라, 사용자의 취향과 예산에 맞는 상품을 검색하고 구매 절차까지 진행하는 사례도 소개했습니다.
다만 실제 결제나 투자 거래 등은 서비스의 권한 설정과 승인 절차에 따라 가능한 범위가 다릅니다. AI가 행동할 수 있는 능력이 커질수록 어떤 권한을 허용할지, 실행 결과를 누가 확인할지도 중요해집니다.
④ 혁신형 AI
과학, 기술, 의학 등 다양한 분야에서 새로운 아이디어와 해결책을 찾는 데 활용되는 AI를 의미합니다.
기존 자료를 정리하는 수준을 넘어 연구와 문제 해결을 돕는 방향으로 활용 범위가 넓어지고 있다는 점이 인상적이었습니다.
⑤ 조직형 AI와 AGI
교육에서는 조직형 AI를 AGI(범용 인공지능)라는 궁극적인 목표와 연결해 설명했습니다.
AGI는 다양한 영역에서 폭넓은 지적 과제를 수행할 수 있는 인공지능을 뜻합니다. 다만 조직형 AI라는 표현이 모든 분야에서 통일된 기술 분류로 쓰이는 것은 아니므로, 이번 부분은 교육에서 소개된 발전 방향에 대한 설명으로 이해하는 것이 좋겠습니다.
흥미로웠던 점은 이러한 발전 단계가 반드시 하나씩 완성된 다음 다음 단계로 넘어가는 것은 아니라는 설명이었습니다. 실제 AI 기술은 여러 방향의 발전이 동시에 진행되고 있습니다.
AI는 단순히 질문에 답하는 도구에서 벗어나 실제 업무를 수행하고, 복잡한 문제 해결을 돕는 방향으로 빠르게 확장되고 있습니다.
그렇다면 AI가 더 많은 일을 할 수 있게 될수록 우리는 AI를 얼마나 믿어도 되는 걸까요?
2. AI는 진실을 말하는 기계가 아니다
이번 교육에서 가장 기억에 남았던 내용입니다.
AI는 진실이나 올바름을 판단해서 말하는 기계라기보다, 학습한 데이터와 입력된 문맥을 바탕으로 답변을 생성하는 시스템입니다.
물론 최신 AI는 사실 확인과 추론을 돕는 여러 기능을 갖추고 있습니다. 하지만 답변이 자연스럽고 논리적으로 들린다고 해서 내용까지 정확하다는 보장은 없습니다.
AI는 잘못된 정보나 오래된 자료를 바탕으로 답할 수도 있고, 실제로 존재하지 않는 연구나 출처를 그럴듯하게 만들어 내기도 합니다. 이러한 현상을 흔히 ‘환각(Hallucination)’이라고 부릅니다.
예를 들어 다음과 같은 상황이 생길 수 있습니다.
- 실제로 존재하지 않는 책이나 논문을 추천하는 경우
- 과거의 정보를 현재의 사실처럼 설명하는 경우
- 잘못된 수치나 날짜를 자신 있게 제시하는 경우
- 질문에 포함된 잘못된 전제를 그대로 받아들여 답하는 경우
특히 최신 정보가 필요한 질문은 주의해야 합니다.
AI 모델이 학습한 시점 이후의 사건은 별도의 검색 기능 등을 사용하지 않으면 알지 못할 수 있습니다. 웹 검색이 가능한 AI라고 해도 검색 결과를 잘못 해석하거나 출처가 부정확한 자료를 참고할 가능성은 남아 있습니다.
따라서 ‘현재 대통령은 누구인가?’, ‘올해 바뀐 교육 정책은 무엇인가?’처럼 시점이 중요한 질문은 답변의 기준 날짜와 실제 출처를 확인해야 합니다.
AI가 답변을 제공했다는 사실과 그 답변이 사실이라는 것은 전혀 다른 문제입니다.
3. 같은 질문인데 AI마다 답이 다른 이유
교육에서는 ChatGPT, Gemini, Claude처럼 서로 다른 AI 서비스를 비교해 보는 방법도 소개했습니다.
같은 질문을 여러 AI에 입력했는데 답변이 다르게 나오는 경험, 한 번쯤 있으실 겁니다.
왜 이런 차이가 생길까요?
첫째, AI마다 학습에 사용한 데이터와 학습 방식이 다릅니다.
둘째, 모델을 설계하고 개선하는 과정에서 사용되는 알고리즘과 답변 생성 방식이 다를 수 있습니다.
셋째, 웹 검색이나 외부 도구를 사용하는지, 어떤 자료를 참고하는지에 따라서도 결과가 달라집니다.
넷째, 질문의 표현과 앞선 대화 내용에 따라서도 답변이 달라질 수 있습니다.
교육에서는 특정 AI가 상대적으로 강한 표현을 사용하거나, 사용자의 의견에 지나치게 동조하는 모습을 보일 수 있다는 점도 이야기했습니다.
다만 특정 서비스가 언제나 과격하거나 무조건 사용자에게 맞장구를 친다고 단정할 수는 없습니다. 모델 버전, 설정, 질문 방식에 따라 결과가 달라지기 때문입니다.
중요한 것은 AI의 답변이 서로 다르다는 사실 자체가 어느 한쪽이 반드시 틀렸거나 맞다는 증거는 아니라는 점입니다.
두 AI가 똑같이 답했다고 해서 반드시 사실인 것도 아닙니다. 두 모델이 비슷한 오류를 범할 수도 있기 때문입니다.
중요한 사실을 확인해야 할 때는 AI의 답변을 비교하는 것에서 끝내지 않고, 공신력 있는 원문 자료까지 확인해야 합니다.
4. AI는 왜 그럴듯하게 틀린 답을 할까?
AI가 답변을 만드는 원리를 조금 더 이해하면 이 문제를 받아들이기가 쉬워집니다.
예를 들어 ChatGPT라는 이름은 다음과 같이 풀어 볼 수 있습니다.
- Chat: 대화
- Generative: 생성하는
- Pre-trained: 사전 학습된
- Transformer: 언어 처리 등에 사용되는 신경망 구조
ChatGPT는 사전 학습된 언어 모델을 바탕으로 문맥에 맞는 답변을 생성하는 대화형 서비스입니다.
쉽게 말하면, AI는 질문을 이해하고 관련 정보를 처리한 뒤 학습한 패턴을 활용해 답변을 만들어 냅니다. 그렇다고 인간처럼 모든 사실의 진위를 직접 확인하고 답하는 것은 아닙니다.
데이터가 충분하지 않거나, 학습 자료에 오류가 있거나, 질문이 모호한 경우에는 잘못된 답변이 나올 수 있습니다.
또한 AI는 답변을 만들 때 입력 토큰과 출력 토큰을 사용합니다. 토큰은 텍스트를 처리하는 기본 단위로, 반드시 단어 하나와 일치하는 것은 아닙니다. 토큰 사용량은 모델과 서비스의 처리 비용 및 사용량 제한과도 관련이 있습니다.
이러한 기술적 특성을 모두 이해할 필요는 없더라도, AI가 답변을 생성하는 방식이 우리가 생각하는 ‘정답을 찾아서 알려주는 검색창’과는 다르다는 점은 알아둘 필요가 있습니다.
5. AI가 자신 있게 말한다고 해서 맞는 것은 아니다
이번 교육에서 특히 생각해 보게 된 부분은 AI의 답변을 대하는 사람들의 태도였습니다.
잘못된 내용을 지적받았을 때 “AI가 이렇게 말했는데요?”라고 반응하는 경우가 아이들에게만 나타나는 것은 아닙니다. 어른들도 AI가 제시한 답변을 근거로 자신의 판단을 확신할 수 있습니다.
예를 들어 건강과 관련된 문제를 생각해 볼 수 있습니다.
AI가 특정 증상을 설명하면서 특정 질환일 가능성이 높다고 답했다고 해서 실제로 그 질환이라고 단정할 수는 없습니다. 반대로 병원에서 받은 설명과 AI의 답변이 다르다고 해서 AI가 더 정확하다고 판단할 근거도 없습니다.
의료, 법률, 금융처럼 잘못된 판단이 큰 영향을 미칠 수 있는 분야에서는 더욱 신중해야 합니다. AI를 참고 자료로 활용하되, 관련 전문가의 판단과 공식 자료를 통해 확인하는 과정이 필요합니다.
교육과 관련된 정보도 마찬가지입니다. 입학 전형, 학교 규정, 지원 정책 등은 반드시 해당 기관의 공식 공지에서 확인하는 것이 좋습니다.
AI는 판단을 돕는 도구가 될 수 있지만, 사실 확인과 최종 판단까지 대신해 주는 것은 아닙니다.
6. AI의 알고리즘과 편향도 생각해 봐야 한다
교육에서는 사람들이 AI를 오래 사용하도록 만드는 설계와 알고리즘 편향에 대해서도 이야기를 나눴습니다.
우리는 대체로 내 의견을 이해해 주고, 내 말에 공감해 주는 상대를 편하게 느낍니다. AI 역시 대화 방식에 따라 사용자의 생각에 동조하거나, 사용자가 제시한 전제를 충분히 검토하지 않은 채 답변을 이어갈 수 있습니다.
이런 답변을 계속 접하다 보면 내가 원래 가지고 있던 생각이 더 강해질 수 있습니다.
예를 들어 어떤 사람에 대해 부정적인 생각을 가지고 AI에 질문했을 때, 질문 자체가 한쪽으로 치우쳐 있다면 답변 역시 그 관점을 중심으로 구성될 수 있습니다.
물론 모든 AI가 사용자의 체류 시간을 늘리기 위해 의도적으로 극단적인 답변만 생성한다고 일반화할 수는 없습니다. 다만 AI의 답변도 데이터와 설계, 사용자 입력의 영향을 받기 때문에 편향 가능성을 염두에 두어야 합니다.
이때 활용할 수 있는 방법은 질문을 조금 바꾸는 것입니다.
- 내 생각에 동의하는 근거뿐 아니라 반대 근거도 찾아줘.
- 이 답변에서 사실로 확인된 내용과 추측을 구분해 줘.
- 이 주제에 대해 다른 관점에서는 어떻게 설명하는지 알려줘.
- 내가 질문에서 잘못된 전제를 두고 있는지 검토해 줘.
이런 질문은 AI의 답변을 무조건 받아들이는 대신, 여러 관점에서 생각하도록 도와줄 수 있습니다.
7. AI 답변을 비교해 볼 수 있는 사이트, Arena AI
교육에서 소개받은 사이트 중 하나는 Arena AI였습니다.
AI 모델들의 답변을 비교해 볼 수 있는 서비스로, 같은 질문에 대한 여러 모델의 답변을 나란히 살펴보는 데 활용할 수 있습니다.
공식 사이트: https://arena.ai/
사이트의 Side by Side 기능을 이용하면 두 AI 모델의 답변을 비교할 수 있고, Battle 모드에서는 모델 이름을 공개하기 전에 두 답변을 비교하고 선호하는 답변을 선택할 수 있습니다. 제공되는 기능과 이용 조건은 사이트의 현재 설정에 따라 달라질 수 있습니다.
이 사이트를 활용할 때는 단순히 어느 답변이 더 마음에 드는지 비교하는 것에서 한 걸음 더 나아가면 좋겠습니다.
- 같은 질문을 입력하고 두 답변을 비교합니다.
- 두 답변에서 서로 다르게 설명한 내용을 찾아봅니다.
- 어떤 답변이 더 구체적인 근거와 출처를 제시하는지 확인합니다.
- 중요한 사실은 실제 출처를 열어 확인합니다.
여기서 주의할 점은 더 자연스럽고 자세한 답변이 반드시 더 정확한 답변은 아니라는 것입니다. 답변 비교는 검증의 출발점이지, 검증 그 자체는 아닙니다.
8. 아이와 함께 AI 리터러시를 연습하는 방법
이번 교육을 듣고 나니 아이들에게 AI 사용법만 알려주는 것으로는 충분하지 않겠다는 생각이 들었습니다.
앞으로는 AI를 활용하는 능력과 함께, AI의 답변을 의심하고 확인하는 능력도 중요해질 것입니다.
가정에서 실천할 수 있는 방법을 몇 가지 정리해 보았습니다.
첫째, AI의 답을 바로 정답으로 받아들이지 않기
아이에게 AI가 어떤 답을 알려주었다면 “정말 그럴까?”, “어디에서 확인할 수 있을까?”라고 물어볼 수 있습니다.
아이의 답변이 틀렸다고 바로 지적하기보다 스스로 근거를 찾아보도록 돕는 것입니다.
둘째, AI의 답변과 다른 자료를 비교하기
책이나 백과사전, 공공기관의 공식 자료 등 신뢰할 수 있는 자료와 AI의 설명을 비교해 봅니다.
특히 역사적 사실, 과학 지식, 수치와 날짜처럼 확인 가능한 정보부터 시작하면 좋습니다.
셋째, 질문을 바꾸어 보기
같은 주제를 다른 방식으로 질문했을 때 답변이 어떻게 달라지는지 살펴봅니다.
AI에게 찬성하는 근거와 반대하는 근거를 각각 요청해 보는 것도 좋은 연습입니다.
넷째, 개인정보를 함부로 입력하지 않기
이름, 주소, 전화번호, 학교와 같은 개인정보뿐 아니라 다른 사람의 사진이나 사적인 대화도 신중하게 다뤄야 합니다.
AI 서비스마다 데이터 처리 방식과 설정이 다를 수 있으므로 사용 전 관련 안내를 확인하는 습관도 필요합니다.
다섯째, AI가 만든 결과물을 그대로 자신의 생각이라고 여기지 않기
AI는 글쓰기나 공부를 도울 수 있습니다. 하지만 아이가 내용을 이해하지 못한 채 답변을 그대로 복사한다면 학습 효과는 제한적일 수밖에 없습니다.
AI가 제시한 내용을 읽고, 이해하고, 자신의 말로 다시 설명하는 과정이 필요합니다.
9. AI를 금지하는 것보다 제대로 판단하는 힘이 중요하다
이번 학부모 AI 리터러시 교육은 AI를 무조건 긍정하거나 부정하기보다, 우리가 어떤 태도로 AI를 사용해야 하는지 생각해 보는 시간이었습니다.
AI는 글을 작성하고 정보를 정리하며 복잡한 작업을 수행하는 데 큰 도움을 줄 수 있습니다. 하지만 AI가 제시하는 답변에는 오류가 있을 수 있고, 질문과 데이터에 따라 결과가 달라질 수 있습니다.
AI가 발전할수록 모든 정보를 외우는 능력만큼이나, 정보의 출처를 확인하고 여러 관점을 비교하며 근거를 바탕으로 판단하는 능력이 중요해질 것 같습니다.
아이들에게도 AI를 잘 사용하는 방법만 알려주는 것이 아니라, AI가 알려준 내용이 사실인지 스스로 확인하는 습관을 길러 주고 싶습니다.
AI가 정답처럼 말한다고 해서 그것이 반드시 정답인 것은 아닙니다.
AI의 답변을 활용하되 그대로 믿지는 않는 것. 어쩌면 지금 부모와 아이 모두에게 필요한 AI 리터러시의 출발점일지도 모르겠습니다.
여러분은 AI가 알려준 답변이 잘못되었다는 사실을 뒤늦게 알게 된 경험이 있으신가요? 아이들과 AI를 어떻게 사용하고 계신지도 궁금합니다.
