AI를 기반으로 구성된 팀들은 마치 미래의 모습을 예상하는 듯한 방식으로 작동합니다. 에이전트들은 코드 작성, 출시 준비, 연구 수행, 업무 조율 등을 도와줍니다. 이러한 관점에서 회사가 사람들과 소프트웨어 에이전트로 구성된 네트워크가 되고, 모든 직원이 훨씬 더 많은 업무를 관리하게 될 것이라고 상상하기 쉽습니다.

저는 이런 방향이 가능하다고 생각합니다. 다만 AI 중심의 작은 팀에서 기존 대기업으로 시선을 옮기면 문제의 성격이 달라집니다. 핵심은 기술의 능력만이 아니라, 운영을 계속하고 약속을 지키며 결정에 책임져야 하는 조직에 기술을 어떻게 도입하느냐입니다.

그래서 전사적인 조직 재설계에는 낙관적인 시연이 암시하는 것보다 더 긴 시간이 필요하다고 봅니다. 그 속도를 결정하는 제약을 살펴보겠습니다.

1. 시연이 끝나는 지점에서 통합이 시작된다

에이전트는 회사의 실제 시스템, 즉 제품 데이터, 고객 기록, 재무, 조달, 물류 및 승인 프로세스와 협력할 수 있을 때 지속적인 가치를 창출할 수 있습니다. 이러한 시스템들을 연결하는 것은 접근 권한과 의존성 문제도 처리해야 한다는 의미도 됩니다.

작아 보이는 조치 하나가 청구서, 배송, 고객과의 약속에 영향을 줄 수 있습니다. 시연은 작업이 가능하다는 사실을 보여 주지만, 기업 안에서 안정적으로 수행할 수 있다는 점까지 입증하지는 않습니다.

2. 데이터에는 회사의 역사가 담겨 있다

상반된 기록, 수동 수정 및 스프레드시트는 분명한 이유가 있습니다. 이는 수년간 비즈니스를 유지해온 예외와 대안을 보존하기 때문입니다.

AI는 이런 불일치를 자동으로 해결하지 못합니다. 데이터 책임자, 공통된 정의, 품질 점검이 없으면 일관되지 않은 자료에서 그럴듯하지만 믿기 어려운 답을 만들어 낼 수 있습니다. 데이터 정비는 번거로운 사전 작업이 아니라 변화 자체의 일부입니다.

3. 실행이 자동화되더라도 책임은 사라지지 않는다

에이전트가 조치를 권장하는 것에서 실제 실행으로 넘어가는 순간, 여러 가지 문제가 불가피해집니다. 가격 변동을 승인하는 사람은 누구인가? 계약에 대한 책임은 누구에게 있는가? 결정 기록은 어디에 있는가? 이를 어떻게 설명하고, 필요하다면 어떻게 취소할 수 있는가?

이러한 제어 장치는 설계에 시간이 걸립니다. 그 목적은 오류의 결과를 제한하는 것입니다. 책임이 명확할 때만 더 빠른 실행이 유용합니다.

4. 접근 권한은 조직의 문제이기도 하다

정보 보안은 단순한 기술적 장치가 아닙니다. 접근 권한은 기밀성, 지적재산권, 개인 데이터 관련 의무 및 각 팀의 책임을 반영합니다.

유능한 에이전트는 여러 부서에 흩어진 정보가 필요할 수 있습니다. 접근을 허용하려면 더 좋은 프롬프트뿐 아니라 감수할 위험에 대한 판단이 필요합니다. 모델의 성능이 좋아도 보안 검토가 실제 도입 속도를 제한할 수 있습니다.

5. 프로세스는 부서 간의 합의다

프로세스 도표만으로는 그 이면의 합의를 알기 어렵습니다. 예산, 성과 지표, 책임 소재, 문제 보고 체계, 보고 의무가 모두 얽혀 있기 때문입니다.

프로세스를 바꾸는 것은 그 조건들을 다시 협상하는 것을 의미합니다. AI는 불필요한 단계를 드러낼 수 있지만, 비용을 부담하고 결과에 대한 책임을 지는 사람을 스스로 결정할 수는 없습니다.

6. 저항은 합리적일 수 있다

자동화는 업무량만 바꾸지 않습니다. 누가 결정하는지, 누구의 판단이 드러나는지, 문제가 생겼을 때 누가 위험을 부담하는지도 바꿀 수 있습니다.

일부 저항은 기술에 대한 일반적인 두려움이 아니라 그러한 우려를 반영합니다. 신뢰할 수 있는 변화 프로그램은 도구뿐만 아니라 역할, 인센티브, 책임도 함께 고려해야 합니다.

7. 성공적인 시범 사업은 시작일 뿐이다

시범 사업은 대개 작은 팀의 집중적인 관리 아래 제한된 범위에서 진행됩니다. 이를 확대하려면 교육, 지원, 품질 관리, 사고 대응, 비용과 모델 성능에 대한 지속적인 점검이 필요합니다.

덜 눈에 띄는 작업이 초기 개선이 지속될 수 있는지 결정합니다. 또한 첫 번째 유용한 프로토타입을 만드는 것보다 확장을 진행하는 데 더 많은 시간이 걸리는 이유도 설명합니다.

8. 속도에는 한계가 필요하다

AI는 많은 실행 과정을 단축할 수 있습니다. 또한 누구도 알아차리기 전에 가격, 물류, 보고 관련 오류가 여러 거래에 걸쳐 반복될 수도 있습니다.

적절한 자율성 수준은 행동의 결과에 따라 결정되어야 합니다. 승인 게이트, 모니터링 및 되돌리기 절차는 그 위험을 반영해야 합니다. 이는 실행 가능한 시스템의 일부일 뿐, 변혁이 실패했다는 증거는 아닙니다.

9. 조직 구조보다 책임의 변화가 먼저다

기존의 역할들은 한 번에 사라질 가능성은 낮습니다. 사람들이 AI 운영, 훈련, 맥락, 평가 및 감독에 대한 책임을 지는 중간 단계가 나타날 것으로 예상됩니다.

이런 작업이 더 넓은 조직 재설계를 가능하게 합니다. 에이전트를 믿을 수 있는 영역과 사람의 판단이 필요한 영역을 파악해야 구조를 더 자신 있게 바꿀 수 있습니다.

현실적인 변화의 순서

제가 기대하는 것은 점진적인 과정입니다: 실험, 공동의 기준, 명확한 감독, 통제된 자율성, 그리고 더 넓은 조직 구조 재설계가 이어집니다. 기업들은 각기 다른 속도로 이 과정을 거칠 것입니다.

AI가 개별 업무를 빠르게 만드는 속도는 기업이 그 업무를 둘러싼 합의를 바꾸는 속도보다 빠를 수 있습니다. 이 차이는 목표를 포기할 이유가 아니라 전환 과정을 현실적으로 계획할 이유입니다.

저는 다른 형태의 관리 모델을 믿습니다. 단 한 분기 내에 그 모델이 등장할 것이라고는 기대하지 않습니다. 그 속도는 조직들이 새로운 작업 방식을 안정적이고 책임감 있게 적용할 수 있는 속도에 달려 있습니다.