AI시대: AI 에이전트와 인지부채, ‘딸깍’의 청구서

작성자:

최근 인터넷 커뮤니티에서 ‘딸깍’이라는 표현이 쓰입니다. AI 에이전트에게 요청 한 번, 클릭 한 번으로 산출물이 만들어지는 시대를 가리키는 자조 섞인 말입니다. 저는 이 표현이 가리키는 방향이 중요하다고 생각합니다. 결과물이 나쁘다는 조롱이 아닙니다. 어쩌면 결과물은 그럴듯하게 나올 수 있습니다. 핵심은 만든 사람 안에 남는 것이 없다는 데 있습니다.

이와 관련한 다양한 연구가 있었습니다. MIT의 에세이 작성 실험에서 시작해, 최근에는 소프트웨어 개발을 직접 다룬 실험 결과까지 나왔습니다. 결론을 먼저 말씀드리면, AI와의 협업 비용은 결과물이 아니라 작업자에게 청구된다는 것입니다. 연구자들은 이것을 인지부채(cognitive debt)라고 부릅니다.

이 글에서는 인지부채 개념을 제시한 MIT 연구를 요약하고, 이것이 AX(AI Transformation)와 AI 활용에서 어떤 문제로 나타나는지, 그리고 어떻게 대응해야 하는지 정리해 보았습니다.

목차

인지부채와 소유권

2025년 6월, MIT 미디어랩 연구팀이 「Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task」라는 제목의 연구를 공개했습니다. 실험을 통해서 LLM 사용이 뇌 활동에 끼치는 영향을 뇌파(EEG)측정으로 분석했고, 작성한 에세이를 기억하는 데 어떤 차이가 있는지를 정리했습니다.

실험 설계는 다음과 같습니다.

  • 참가자 54명을 세 그룹으로 나눔: ChatGPT 사용 그룹, 검색엔진 사용 그룹, 아무 도구 없이 쓰는 그룹
  • 각 그룹은 4개월에 걸쳐 세 차례 에세이를 작성했고, 작성 중 뇌파를 측정
  • 네 번째 세션에서는 조건을 교차 적용: LLM 그룹은 도구 없이, 도구 없던 그룹은 LLM을 사용하도록

결과는 세 가지로 요약됩니다.

  • 신경 연결성: 도구 없이 쓴 그룹이 가장 넓고 강한 신경 네트워크를 보였고, LLM 그룹이 가장 약함
  • 기억: LLM 그룹은 몇 분 전에 자신이 제출한 에세이에서 문장을 인용하는 데 실패하는 비율이 가장 높음
  • 소유권: “이 글이 내 글이다”라는 인식이 LLM 그룹에서 가장 낮음

연구팀은 이 결과를 인지부채라는 개념으로 정리했습니다. 인지 작업을 외부에 맡길 때, 즉 인지의 외주화를 하면 당장은 편해지지만, 그 비용이 사라지는 것이 아니라 작업자에게 누적된다는 것입니다. 기술부채와 같은 구조입니다. 지금 빌린 편리함의 대가가 나중에 청구됩니다.

물론 이 연구는 표본 수도 크지 않고, 연구 방법론 측면에서도 일부 논란이 있을 수 있지만, 중요한 것은 그룹 간에 일관된 차이를 보였다는 점입니다. 그리고 이 연구가 발표된 후 다른 도메인에서, 다른 연구진이, 다른 방법으로 비슷한 결과를 내놓기 시작했습니다.

생성한 산출물은 누구의 것인가?

인지부채가 실무에서 나타나는 문제점은 뇌파 그래프가 아닙니다. 훨씬 일상적인 장면에서 확인할 수 있습니다. 산출물은 작업자의 이름으로 나갔는데, 작업자가 그것을 설명하지 못하는 상태입니다.

MIT 실험에서 LLM 그룹이 몇 분 전 자기 글을 인용하지 못한 것이 정확히 이 상태입니다. 보고서를 제출한 사람에게 내용을 물었을 때 “AI가 그렇게 정리했습니다”라는 답이 돌아오는 장면과 같은 구조입니다. 이전 글 「엔지니어의 리더십: 실패한 보고는 없다」에서 저는 이것을 산출물에 대한 소유권 문제로 다뤘습니다. MIT 연구가 보여준 것은, 이 실패가 태도의 문제이기 전에 인지 차원에서 일어나는 현상이라는 점입니다. 소유권 인식이 낮아진 사람은 자기 산출물의 내용을 실제로 기억하지 못했습니다.

Microsoft와 카네기멜론 대학 연구진이 2025년에 발표한 연구에서도 이 문제를 정확하게 이야기하고 있습니다. 지식노동자 319명을 조사한 결과, 생성형 AI에 대한 확신이 높을수록 비판적 사고에 기울이는 노력을 덜 했고, 반대로 자기 능력에 대한 확신이 높을수록 그 노력을 더 했습니다. 문제는 도구 자체가 아니라 확신을 어디에 두는가입니다. 도구를 믿는 만큼 검토하지 않게 되고, 검토하지 않은 산출물은 내 지식으로 남지 않습니다.

AX 관점에서 이것은 측정의 함정을 만듭니다. 많은 기업에서 AI 도입 성과는 대부분 산출물 지표로 측정됩니다. 문서 작성 시간, 처리 건수, 코드 생성량 등 지표들은 도구 도입 직후 대부분 좋아집니다. 그러나 구성원 안에 축적되는 지식은 별개의 문제이고, 이는 산출물 지표에 잡히지 않습니다. 산출물은 늘어나지만 역설적으로 그것을 설명할 수 있는 사람이 줄어드는 것입니다. 그리고 이 조직은 지표상으로는 AX에 성공하고 있는 것으로 보입니다.

MIT 연구에는 조직 관점에서 눈여겨볼 결과가 하나 더 있습니다. LLM 그룹의 에세이들은 그룹 내에서 서로 비슷했습니다. 어휘, 구조, 논지가 수렴한 것입니다. 개별 산출물로 보면 품질에 문제가 없을 수 있지만, 조직 전체가 같은 도구를 이용해 산출물을 만들면 사고의 다양성이 줄어든다는 신호로 읽을 수 있습니다.

소프트웨어 개발의 인지부채

최근 코딩과 관련해서도 비슷한 연구가 발표되었고, 유사한 결과가 도출되었습니다.

Anthropic 연구진은 주니어 중심의 개발자 52명을 무작위로 나눠, 전원이 처음 접하는 Python 비동기 라이브러리 Trio로 두 개의 코딩 과제를 수행하게 했습니다. 절반은 AI 지원을 받았고 절반은 받지 않았습니다. 과제 후 디버깅, 코드 읽기, 코드 작성, 개념 이해를 묻는 퀴즈를 도구 없이 풀게 했습니다. 결과는 다음과 같습니다.

  • 정답률: AI 그룹의 퀴즈 평균은 50%, 비지원 그룹은 67%, 17%p 차이
  • 과제 완료 시간: AI 그룹이 단축한 시간은 약 2분으로, 통계적으로 유의미하지 않음
  • 점수 격차가 가장 컸던 영역은 디버깅

마지막 결과가 가장 중요한 지점입니다. AI가 코드를 생성하게 되면, 이때 가장 필요한 능력이 디버깅입니다. 그런데 AI에 의지할수록 약해지는 능력도 디버깅이었습니다. 연구진의 해석에 따르면, 비지원 그룹은 과제 중 더 많은 오류를 만났고, 그 오류를 스스로 해결하는 과정이 학습이 되었습니다. AI 그룹은 오류를 만날 기회 자체가 줄었고, 오류를 통해 이루어지던 교육도 함께 사라진 것입니다.

이 구조를 자율주행과 비교해 보면 이해하기 쉽습니다. 현재 대부분의 자동차에 적용 중인 반자율주행은 시스템이 처리하지 못하는 순간 운전자가 개입한다는 것을 가정하고 있습니다. 그런데 운전을 시스템에 맡기는 시간이 길어질수록 운전자의 개입 능력은 유지되기 어렵습니다. 가장 필요한 순간에 가장 준비되지 않은 사람이 핸들을 잡는 상황이 발생할 수 있습니다. 코딩 에이전트의 경우도, AI가 생성한 코드의 최종 검증자는 사람이지만, 그 검증 능력이 AI에 의지하는 동안 가장 빨리 약해질 수 있는 것입니다.

체감 효율도 믿기 어렵다는 결과가 있습니다. METR 연구진은 숙련된 오픈소스 개발자들을 대상으로 무작위 실험을 했는데, AI 도구를 사용한 경우 작업 완료가 오히려 19% 느려졌습니다. 흥미로운 것은 참가자들의 인식인데, 실험 전에는 24% 빨라질 것으로 예측했고, 실험이 끝난 뒤에도 20% 빨라졌다고 느꼈습니다. 하지만 실제로는 느려졌습니다. “딸깍”의 효율은 체감과 실제가 다를 수 있습니다.

그리고 소프트웨어 개발에는 에세이와 다른 결정적 조건이 하나 있습니다. 바로 코드는 틀려도 작동한다는 점입니다. 에세이에 결함이 있어도 글 안에서 머물게 되지만, 코드에 결함이 있어도 실행이 되고, 그 실행 결과가 의도와 다를 수 있습니다. 「바이브 코딩, 주식 거래 관리 앱 개발 ④」에서 다뤘던 것처럼, 작동하는 코드와 올바른 출력은 다르며, 모든 작업이 성공으로 표시되는 동안 실제 데이터가 조용히 손상될 수 있습니다. 문제는 이런 결함을 발견하는 데 필요한 것이 바로 소유권과 디버깅 능력이라는 점입니다. 코드를 자기 것으로 이해하고 있는 사람, 오류를 추적해 본 사람이 발견합니다. 인지부채는 바로 그 두 가지를 무너뜨립니다.

장애가 난 새벽에 “이 코드가 왜 이렇게 되어 있습니까”라는 질문에 팀의 누구도 답하지 못하는 상황, 인지부채의 청구서는 그런 형태로 도착합니다.

일하는 순서와 방식이 중요

이러한 연구가 가리키는 답은 사용 금지가 아닙니다. 중요한 것은 일하는 순서와 방식의 설계입니다.

앞의 자율주행 비교를 이어가 보겠습니다. 두 운전자가 있습니다. 한 사람은 면허를 딴 직후부터 자율주행을 썼습니다. 차간 거리 감각, 위험 예측, 미끄러운 노면 대처 같은 판단이 형성되기 전에 그 판단을 시스템에 맡긴 것입니다. 시간이 지나면 운전 경험은 쌓이지만 운전 능력은 쌓이기 어렵습니다. 다른 한 사람은 운전이 충분히 익숙해진 뒤에 자율주행을 썼습니다. 이미 형성된 능력 위에서 도구를 이용했으므로, 자율주행은 피로를 줄여 주는 수단이 됩니다. 가령 “지금 차선 유지가 이상하다”는 판단도 경험 있는 운전자만 가능합니다. 같은 도구인데, 언제 어떻게 만나느냐에 따라 성장을 막는 도구가 되기도 하고 부담을 덜어 주는 도구가 되기도 합니다.

이 비교는 근거 없는 상상이 아닙니다. 두 실험이 각각의 운전자에 해당하는 결과를 내놓았습니다.

첫 번째는 MIT 실험의 네 번째 세션입니다. 앞선 세 세션을 도구 없이 작업한 그룹이 네 번째 세션에서 LLM을 사용했을 때, 이 그룹은 기억 회상과 신경 활성을 유지했습니다. 도구 없이 먼저 작업하며 만들어진 이해 위에서 AI를 활용했을 때는 인지부채가 확인되지 않은 것입니다. 두 번째 운전자의 경우입니다. 문제는 AI 사용 여부가 아니라 순서였습니다.

두 번째는 Anthropic 실험입니다. 이 실험의 참가자 전원은 Trio를 처음 배우는 상태였습니다. 역량이 형성되기 전 단계에서 AI를 만난, 첫 번째 운전자의 조건입니다. 그 조건에서 코드 생성을 통째로 위임한 참가자들의 이해도는 40%를 밑돌았습니다. 반면 같은 조건에서도 AI에게 개념을 묻고 설명을 요청하며 학습 도구로 쓴 참가자들은 65% 이상을 유지했습니다. 같은 도구, 다른 사용 방식, 다른 결과입니다.

개인 차원에서 이것은 작업 순서의 원칙이 됩니다. 먼저 이해를 하고, 그 후 AI 에이전트를 활용하는 것입니다. 새로운 도메인이나 라이브러리를 다룰 때는 첫 구현을 스스로 해 보는 것이 가장 좋습니다. 최소한 필요한 지식을 이해하기 전에는 구현을 시작하면 안 됩니다. 그러고 나서 AI를 투입하는 방식이, 처음부터 AI에게 위임하는 방식보다 남는 것이 많습니다.

판단 기준은 “이 결과물을 도구 없이 설명할 수 있는가”입니다. 설명할 수 없다면 그 지식은 아직 내 것이 아닙니다.조직 차원에서는 세 가지를 생각해 볼 수 있을 것 같습니다.

교육을 설계할 때는 산출물 직접 생성을 먼저 경험하게 하는 것이 중요합니다. Anthropic 연구진이 인용한 선행 연구에 따르면, 이미 역량이 있는 영역에서 AI는 작업 시간을 크게 줄여 줍니다. 비용은 역량을 만드는 단계에서 발생합니다. 그렇다면 역량 형성 단계와 활용 단계를 구분해 설계하는 것이 자연스럽습니다.

산출물 리뷰의 기준은 소유권입니다. 코드 리뷰의 경우 “누가 짰는가”가 아니라 “작성자가 설명할 수 있는가”를 기준으로 삼는 것입니다. AI가 생성했더라도 작성자가 설명할 수 있으면 소유권이 있는 코드입니다.

AX의 효과를 측정할 때는 산출물과 별도로 소유권을 보아야 합니다. 산출량은 늘었는데 설명 가능성이 줄고 있다면, 그 조직은 생산성을 얻는 것이 아니라 부채를 쌓고 있는 것입니다.

맺음말

인지부채는 면제되지 않고 유예될 뿐입니다. 여러 연구가 말하는 것은 AI를 쓰지 말라는 것이 아닙니다. 이해하는 과정을 먼저 만들고 그 위에서 도구를 활용하는 순서, 위임이 아니라 질문으로 쓰는 방식, 그리고 무엇을 자기 안에 남길지에 대한 결정입니다.

사실, 엔지니어에게 부채는 익숙한 개념입니다. 기술부채가 늘 나쁜 것만은 아닙니다. 언제 얼마나 빌렸는지 알고 갚을 계획이 있다면, 부채는 속도를 위한 도구가 됩니다. 문제는 빌린 줄 모르고 쌓이는 부채입니다. 인지부채도 같습니다. AI에게 무엇을 맡기고 무엇을 자기 안에 남길지 스스로 결정하고 있다면, 그것은 관리되는 부채입니다. 결정한 적이 없다면, 청구서가 도착할 때까지 부채가 쌓이는 것을 모를 뿐입니다. 그리고 그 결정만은 외주화할 수 없습니다.

AI시대, 중요한 것은 산출물의 양과 속도가 아니라 소유권입니다.

ChulJoo Kim (김철주)

※ 참고문헌

ckarch.kr © 2026 is licensed under CC BY-NC-SA 4.0 CC BY NC SA

댓글 남기기