AI는 인간을 똑똑하게 만들까? 아니면 멍청하게 만들까? 귀찮고 번거로운 일은 AI가, 사람은 '더 본질적인 일'을 하자던 빅테크 기업의 주장을 무색하게 만드는 연구결과가 나왔다.

마이크로소프트와 카네기 멜론대학이 공동 연구한 <비판적 사고에 대한 생성형 AI의 영향: 지식 노동자 설문 조사에서 보고된 인지 노력 및 자신감 효과 감소> 연구에 의하면 생성형 AI가 업무 효율성은 높이지만 장기적으로는 사용자의 문제해결 능력을 저하시킬 수 있는 것으로 나타났다.

연구는 AI를 주 1회 이상 업무에 활용하는 319명의 지식 노동자를 대상으로 설문과 936건의 사례 조사로 진행되었다. 응답자들에게는 AI 생성 결과에 대한 신뢰도, AI 없이 작업을 수행할 수 있는지에 대한 자신감, AI 생성 결과에 대한 평가를 물었다. 연구진은 AI 생성 결과물을 그대로 사용하지 않고 추가로 검증하거나 수정했을 경우 비판적 사고력이 높은 것으로 정의했다.

조사 결과 전체의 72%에서 지식 습득, 이해력, 분석력, 종합력, 적용력, 평가력 등 모든 인지 영역에서 55% 의 노력 감소를 경험했다고 보고했다. 쉽게 말해 AI를 사용하면서 과거에 비해 머리를 절반 정도만 쓴다는 것이다.

또 단순한 '복사-붙여넣기와 약간의 수정 작업'을 '비판적 사고로 착각'하고 있으며, AI 결과물을 '검토 없이' 수용하는 경우가 많았다. AI에 대한 신뢰도가 높을수록 비판적 사고가 현저히 감소하는 현상도 발견되었다.

반면 자신의 업무력에 대한 자신감이 높을수록 AI 결과물을 더 철저하게 평가하고 수용과정에 비판적 사고를 더 많이 발휘했다. 예컨대 간호사의 경우 챗GPT가 작성한 당뇨병 환자 교육자료를 그대로 사용하지 않고 병원의 관리지침과 대조 검증을 거친 후 활용한다 거나 금융트레이더가 챗GPT가 제안한 트레이딩 기술과 자원이 현실에서 타당한지 논리적으로 평가하는 과정을 거치는 사례 등 이다. 비판적 사고를 가진 사용자는 자신이 가진 전문성으로 검증하든 학계나 조직의 지침을 통해 객관적으로 검증하든 외부 검증을 동원하든 반드시 AI 결과물을 재확인하는 과정을 거친다.

연구진은 AI 과의존 현상이 두드러지는 특정상황도 제시했다. 근로자가 업무를 부차적이거나 사소하게 인식하는 경우, 업무량이 과다해 시간적인 여유가 없을 때, 근로자가 막연하게 AI를 신뢰할 경우였다.

AI 사용이 창의성에 부정적인 영향을 미칠 수 있다는 사실도 발견됐다. AI 도구를 사용하는 작업자들이 자신의 인지 능력에 의존하는 사람들에 비해 '동일한 작업에 대해 덜 다양한 결과물'을 생성해낸다는 것이다.

연구진은 '베인브릿지의 자동화 아이러니'를 경계하라고 한다. 자동화가 의도치 않게 운영자의 능력을 저하시킬 수 있는 것처럼 AI에 의존하다 보면 판단력과 사고력을 꾸준히 연마할 기회를 빼앗길 수 있어 결국 독립적으로 문제를 해결하는 능력이 저하될 수 있다는 것이다.

연구진은 중요하다고 여겨지는 특정 상황뿐만 아니라 일상에서도 늘 비판적 사고를 활성화시켜야 예외적인 상황에서의 대처력이 유지된다며 AI 출력물에 대한 명확한 설명과 개선 가이드를 제공하여 사용자의 비판적 사고를 촉진할 것을 제안했다.

AI는 사람을 똑똑하게 만들어주지 않는다.

우리는 이미 기술의 편의성으로 인한 능력 저하를 익히 경험하고 있다. 내비게이션의 일상화로 표지판이나 도로 안내선을 읽지 않게 되고 방향 감각조차 저하되었다. 자동저장 기능 탓에 전화번호조차 쉽게 외우지 못하게 되었다. 의도치 않았지만 편의성과 학습된 능력을 야금야금 맞바꿔 먹어버린 셈이다.

AI로 인해 업무 패러다임도 크게 바뀌었다.

정보수집은 일일이 조사하고 확인하며 모았던 것에서 AI생성 정보를 검증하는 것으로 바뀌었다. 문제해결방식도 달라졌다. 수집된 정보를 토대로 구조화시키는 과정이 생략되고 AI의 맞춤형 제안을 수용하거나 수정하는 방식으로 변화되었다. 업무 실행 역시 직접 수행에서 AI 출력물 관리감독으로 변화했다. 향후 AI 에이전트가 보편화되면 인간의 업무는 한층 더 검토나 평가, 관리에 가까워질 것이다.

점점 더 간단하고 쉽게 얻는 '결과', 간략화 되는'과정'. 더 이상 과거와 같은 업무 과정에서의 시행착오와 인지적 훈련을 통해 '생각하는 힘'을 익히는 일은 기대하기 어려워질 듯싶다.

학계에서는 인지적 강제 기능 도입으로 AI 의존도를 관리할 필요가 있다고 주장한다. 틀린 말은 아니지만 실행이 쉽지 않다. 대개의 사용자들이 더 깊은 인지과정에 참여하기 보다 '신속하고 경제적으로' 정보를 기억하고 문제를 해결하고 결정을 내리기 위해 AI를 사용하기 때문이다.

그렇다면 어떻게 해야 자동화의 아이러니에 빠지지 않고 현명하게 AI를 사용할 수 있을까?

우선 AI 결과물이 항상 정확한 것도 옳은 것도 아니라는 AI의 한계를 확실하게 인식하는 것이 필요하다. AI의 답변을 무조건 신뢰하지 말고, 다른 자료를 참고하며 교차 검증하는 습관을 들여 비판적 사고를 활성화시켜야 한다.

AI 결과물을 그대로 수용하기보다는 '이것이 최선인가'를 고민하고 이를 바탕으로 추가적인 사고와 분석을 수행해 그 이상의 것을 시도해보는 것이 효과적이다.

AI를 효율성 향상의 도구로 활용하지만 모든 업무에 사용하는 과의존은 곤란하다. 충분히 할 수 있는 일은 스스로 해가며 업무 스킬을 키워가는 것이 바람직하다. 업무 능력이 뛰어날 수록 AI를 효과적으로 활용할 수 있다.

AI는 생각하는 도구가 아니다. AI를 효과적으로 사용하는 사람은 AI 에게 생각을 맡기지 않는다.
AI의 결과물을 능동적으로 검토하고 수정 개선하는 '생각'을 더하는 태도야 말로 AI를 똑똑하게 길들여 쓰는 최고의 방법이다.

◇하민회 이미지21대표(미래기술문화연구원장) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표 △경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등