AI시대: AI-native 조직구조는? 더 낮고 더 넓게

작성자:

AI가 일하는 방식을 바꾸고 있다는 이야기는 이제 익숙합니다. 그런데 일하는 방식이 바뀌면, 그 일을 담는 그릇인 조직 구조도 같이 바뀔 수밖에 없습니다. AI 도입(AI Adoption)을 넘어 AI-native 조직으로 간다면, 그 형태는 어떤 모습일까요?

흔히 “중간 관리자가 사라진다”거나 “인력을 줄인다”는 식으로 단순화됩니다. 그러나 실제 변화는 그렇게 단순하지는 않을 것 같습니다. 제가 바라보는 관점에서는, 조직은 낮고 넓어지는 방향으로 움직일 것 같습니다. 낮아진다는 것이 관리자가 사라진다는 뜻은 아니고, 넓어진다는 것이 일이 더 많아진다는 뜻은 아닙니다.

이 글에서는 낮고 넓어진다는 두 단어의 의미와, 그 변화가 만들어내는 구조를 살펴봅니다.

목 차

조직 구조의 역사

현재의 조직 구조는 효율적으로 설계되었다기 보다는 인간의 한계를 전제로 만들어진 결과로 볼 수 있습니다.

한 사람이 동시에 파악하고 관리할 수 있는 범위에는 제약이 있습니다. 인류학자 로빈 던바는 한 사람이 안정적으로 관계를 유지할 수 있는 인원이 약 150명, 그 안에서 깊이 관리할 수 있는 인원은 5~15명이라는 것을 보였습니다. Amazon의 피자 두 판 팀(two-pizza team) 원칙이 6~10명에서 멈추는 것도, 일반 기업에서 가장 작은 단위의 조직이 보통 5~10명인 것도 우연이 아닙니다. 던바가 말한 친밀 관리의 인지 한계가 그대로 박혀 있습니다.

이 한계의 의미는 바로 커뮤니케이션 비용입니다. 조직이 관리 범위를 벗어나서 커지면, 커뮤니케이션 비용이 급격히 증가하게 됩니다. 그래서 조직은 자연스럽게 일을 쪼개고, 사람을 계층적으로 쌓는 방식으로 진화해왔습니다. 파트, 랩, 그룹, 팀, 담당, 본부로 이어지는 구조도 결국 관리와 인지의 한계를 나누기 위한 장치로 볼 수 있습니다. 깊은 조직은 선택이 아니라 어쩔 수 없는 타협이었습니다.

그런데 여기에는 다른 차원의 비용이 따랐습니다. 정보가 위로 올라가면서 정제되고, 다시 아래로 내려오면서 분배됩니다. 단계마다 시간이 걸리고, 단계마다 의미가 달라집니다. 의사결정은 느려지고, 현장의 신호는 위에 도달하기 전에 흐려집니다.

조직 구조의 효율화

앞서 언급한 의사결정과 정보전달의 비효율은 오래전부터 인식되어 왔습니다. 이를 해소하기 위해 보다 수평적 조직을 만들려는 시도는 다양한 형태로 진행되어 왔습니다.

1981년 GE의 CEO로 취임한 잭 웰치는, 당시 현장에서 CEO까지 무려 9개 계층이 존재하던 GE를 두고 “관료적 공룡(bureaucratic dinosaur)”이라고 표현했습니다. 그는 1980년대 내내 delayering이라는 이름으로 관리 계층을 통째로 제거하는 작업을 진행했습니다. 1981년부터 1988년 사이 약 12만 명을 감축하면서, 매니저의 관리 범위(span of control)를 키우고 의사결정을 빠르게 만들었습니다.

2023년 Meta의 마크 저커버그는 “Year of Efficiency”를 선언하며 “우리 조직을 더 수평적으로 만들겠다(make our organization flatter)”고 명시했습니다. 다수의 관리 계층을 제거하고, 많은 매니저를 다시 개인 기여자(individual contributor)로 전환시켰습니다. 그는 “Flatter is faster”라는 슬로건으로 이 방향을 정리했습니다.

2024년 말 Google의 순다르 피차이도 매니저, 디렉터, VP 직급을 10% 감축하면서 “계층을 제거해 실행을 단순화하고 속도를 높이기 위해(removing layers to simplify execution and drive velocity)”라고 설명했습니다. 2025년에는 직속 팀이 3명 미만인 매니저를 중심으로 35%를 추가 감축했습니다.

조직 단위에서도 시도들이 있었습니다. Spotify의 Squad 모델, 중국 Haier의 rendanheyi(소조직 자율경영)는 깊이를 줄이려는 실험이었습니다. 수평적 조직은 이미 보편적인 방향이었습니다.

그런데 이 시도들은 모두 한계가 있었습니다. 한 사람이 직접 관리할 수 있는 인원, 즉 던바의 5~15명이라는 한계입니다. GE Welch의 매니저당 직속 인원은 10~15명, Meta가 명시한 한도는 10명, Spotify Squad는 6~12명, Haier 마이크로기업은 10~15명이었습니다. 형태는 달랐지만 모두 던바의 한계 안이었습니다. 작은 단위로 쪼개든, 계층을 줄이든, 한계를 넘은 시도는 없었습니다. 사람의 인지 능력에서 나오는 한계는 도구나 의지로 넘을 수 없는 것이었기 때문입니다.

하지만 AI가 이 지점을 바꾸고 있습니다.

낮은 조직: 정보 전달 효율화

낮아진다는 말은 단순히 “관리자가 사라진다”는 뜻이 아니고, 정보를 압축하고 전달하는 계층이 단순화된다는 것입니다.

과거의 깊은 조직은 여러 단계를 거쳐 정보를 압축하는 구조였습니다. 실무자가 본 것을 파트장이 정리하고, 파트장이 정리한 것을 팀장이 다시 요약하고, 팀장이 요약한 것을 담당이 한 번 더 압축해서 본부장에게 올렸습니다. 위로 갈수록 자세한 정보는 줄어들고, 단계마다 요약되며, 핵심만 남아 올라가는 구조였습니다. 이는 “보고받는 사람의 주의력에는 한계가 있다”는 전제 위에서 만들어진 합리적인 설계였습니다.

이전 글 「AI시대: AI 친화적인 보고? 문제는 ‘보고받는 사람’」에서 이야기했듯이, AI를 활용하면 그 전제가 바뀝니다. 임원이 AI 도구를 통해 원자료를 직접 탐색하고, 정형화된 보고서가 필요한 시점에 자동으로 생성합니다. 표준 양식을 따르는 보고를 위해 시간을 들일 필요가 줄어듭니다. 위에서는 요약본을 기다리는 대신, 필요한 시점에 필요한 질문을 던지면 됩니다. 취합과 압축이 만들어내던 가치 자체가 줄어드는 것입니다. 보고서는 더 이상 정보를 압축해 전달하는 문서가 아닙니다.

중간 관리자의 일도 함께 바뀝니다. 정보를 모아 요약해서 위로 올리는 일에 쓰던 시간이 줄어들고, 그 시간은 조율과 판단에 쓰입니다. 일이 줄어드는 것이 아니라, 일의 구성이 바뀌는 것입니다.

넓은 조직: 책임의 확대

넓어진다는 말은 단순히 “일을 더 많이 한다”는 뜻이 아니고, 담당하는 일의 단위 자체가 커진다는 것입니다.

기존의 일하는 방식은 작업(task) 단위 분업이었습니다. 큰 문제를 잘게 쪼개서 여러 사람에게 나누고, 각자가 자기 부분만 처리한 뒤 다시 합치는 방식입니다. 이는 한 사람이 정보 수집부터 분석, 실행, 검증까지 모두 처리하기 어려웠기 때문에 만들어진 구조였습니다.

AI가 이 부담의 일부를 가져갑니다. 반복 작업, 1차 정리, 검증, 문서화 같은 일은 AI가 보조하면서, 사람은 더 큰 문제를 해결할 수 있게 되었습니다. 단위 작업 대신 워크플로우, 문제 전체 등 End-to-End 단위로 책임 범위가 확장됩니다. 과거 기획, 분석, 실행을 여러 부서가 나눠 처리했던 일을 한 사람이 처음부터 끝까지 들고 가는 슈퍼 실무자(Super Individual Contributor)의 등장이 가능해지는 것입니다. 이전 글 「AI시대: 똑똑한 AI, 왜 안 쓸까 — 일하는 방식의 문제」에서 이야기한 개인의 일감 크기를 조직 수준으로 확장하면 넓은 조직이 됩니다.

이는 관리자의 통제 범위에도 영향을 줍니다. 과거에는 리더 한 명이 직접 챙길 수 있는 인원이 물리적으로 제한되어 있었습니다. 이제는 AI 도구를 통해 더 많은 인원의 업무 상태를 실시간으로 파악하고 필요한 시점에 개입할 수 있습니다. 던바의 수가 정해놓은 한계가 아닌, 더 넓은 범위를 관리할 수 있는 환경이 만들어지고 있습니다.

다시 강조하면, 같은 사람이 같은 시간에, 더 큰 단위의 일을 책임지는 구조입니다. 같은 조직이 같은 시간에 더 많은 일을 책임지게 됩니다. 잘게 쪼개서 핸드오프(handoff)하던 비용이 사라지고, 처음부터 끝까지 들고 가는 방식으로 바뀝니다.

역할과 구조의 변화

여기서 자주 혼동되는 두 차원이 있습니다. 역할(role)의 변화와 조직 구조의 변화입니다.

중간 관리자의 역할은 더 중요해집니다. 이전 글 「AI시대: 낀 세대, 중간 관리자가 중요하다」에서 이야기했듯이 중간 관리자는 취합, 전달자에서 설계자, 오케스트레이터로 무게중심이 옮겨갑니다. 맥킨지 글로벌 인스티튜트는 2025년 보고서에서 관리자의 역할이 실행자(executor)에서 조율자(orchestrator)와 검증자(validator)로 전환되고 있다고 진단했습니다.

조직 구조는 다른 문제입니다. AI의 도움을 받아 관리자의 역할이 바뀌고, 개인의 책임도 넓어졌기 때문에, AI-native 조직 구조는 더 수평적으로 변하게 됩니다. 계층은 줄고, 중간 관리자의 관리 범위(span of control)도 넓어집니다. 어떤 자리는 줄고, 어떤 자리는 늘어납니다. 예를 들어 담당 계층이 사라지면 본부장이 직접 관리하는 팀장 수가 늘어나고, 그만큼 본부장 수도 늘어나는 식입니다.

두 차원은 다른 질문입니다. 역할은 강해지고, 구조는 수평화됩니다. 이 둘이 동시에 진행됩니다.

함께 고민할 문제들

낮고 넓어진 AI-native 조직은 그냥 되지 않습니다. 함께 바뀌어야 할 것들을 정리해 보았습니다.

첫째, 컨텍스트 공유입니다. 정보가 위에만 머무르면 아래에서 큰 단위의 일을 처리할 수 없습니다. 비즈니스 우선순위, 전략적 배경, 의사결정의 이유가 실무자에게도 흘러가야 합니다. 조직의 높이가 낮아졌기 때문에, 더 효과적인 컨텍스트 공유가 가능해졌습니다. 단, AI는 정보의 가공/검색/요약만을 도와줄 뿐, 어떤 정보를 공유할 것인가는 여전히 사람의 선택입니다.

둘째, AI 리터러시입니다. 특히 임원과 관리자의 AI 활용 역량이 중요합니다. 보고받는 사람이 AI를 못 쓰면 결국 누군가 기존 방식으로 보고를 만들어야 하고, 그 역할도 그대로 유지됩니다. 더 나아가 AI를 잘 쓰는 리더와 그렇지 못한 리더 사이의 격차가 벌어지면서 리더 역량의 양극화가 생길 수 있습니다. AI 리터러시는 실무자만의 문제가 아닙니다.

셋째, 모니터링과 가시성입니다. 개인의 담당 범위가 넓어지고, AI와의 1:1 상호작용이 늘어나면, 관리자 입장에서는 사각지대가 생길 수 있습니다. 일이 어디서 어떻게 흘러가는지, 품질이 어디서 떨어지는지 보이는 구조가 필요합니다.

넷째, 권한/평가/책임의 재설계입니다. 책임 범위가 넓어지면 그에 맞는 권한이 따라가야 하고, 평가 기준도 작업 단위가 아니라 결과나 문제 해결 단위로 바뀌어야 합니다. 조직이 지나치게 수평적으로 바뀌면 위기 상황에서 최종 책임을 지는 주체가 모호해질 수 있습니다. 권한과 책임의 경계를 명확히 설계하는 일이 함께 필요합니다.

다섯째, 관계와 피드백 설계입니다. 담당 범위가 넓어지고 AI와의 상호작용이 늘어나면, 사람 간의 직접적인 교류와 코칭의 기회는 줄어들게 됩니다. 관리자의 개입 빈도가 낮아지는 만큼, 실무자가 방향을 잃거나 고립감을 느끼지 않도록 정기적인 피드백과 팀 단위의 연결 구조를 의도적으로 설계해야 합니다.

결국 AI-native 조직은 도구를 더 많이 사서 만들어지는 것이 아닙니다. 역할과 책임(R&R), 정보 흐름, 평가 구조 자체를 다시 설계하는 일입니다.

맺음말

AI-native 조직은 단순히 AI 도구가 많은 조직이 아닙니다. 낮고 넓어진 조직입니다.

낮아진다는 것은 정보 전달이 효율화된다는 것입니다. 정보 압축 계층이 단순화 되고, 중간 관리자의 일의 구성이 바뀝니다. 넓어진다는 것은 책임이 확대된다는 것입니다. 같은 사람이 더 큰 단위의 문제를 들고, 처음부터 끝까지 책임집니다. 그리고 그 안에서 관리자의 역할은 더 중요해지고, 조직 구조는 수평화됩니다.

수평적 조직은 새로운 흐름이 아닙니다. GE의 delayering부터 Meta의 “Flatter is faster”, Google의 “removing layers” 까지 수십 년 동안 진행되어 온 방향입니다. 다만 사람의 인지 한계 안에서 멈춰 있었습니다. AI로 그 한계를 밀어내고 있습니다.

문제는 기술이 아닙니다. AI를 깊은 조직 위에 그대로 얹으면, 같은 보고가 더 빠르게 만들어지고 같은 계층이 더 정교하게 유지될 뿐입니다. 이전 글 「AI시대: 더 좋은 도구를 줬는데, 왜 결과는 그대로일까」에서 말했듯이, 도구가 바뀌면 각 작업은 빨라지지만, 구조의 비효율은 변하지 않습니다.

AI 시대에 필요한 것은 더 많은 도입이 아니라, 구조 자체를 바꾸는 일입니다.

ChulJoo Kim (김철주).

※ 참고문헌

ckarch.kr © 2026 is licensed under CC BY-NC-SA 4.0 CC BY NC SA

댓글 남기기