시스코 직원 9만 명 AI 에이전트 배포, 어떻게 굴리나

회사에서 AI 도구를 쓰라고는 하는데 정작 뭘 어떻게 쓰라는 안내는 없는 경우가 많습니다. 계정만 열어 주고 알아서 활용하라는 식이죠. 시스코가 7월 말 새 회계연도부터 전 직원 9만 명에게 개인 AI 에이전트를 지급합니다. 계정 배포가 아니라 사람마다 하나씩 붙는 구조라 규모도 방식도 다릅니다. 회사가 AI를 전사에 깔 때 실제로 무엇을 결정해야 하는지 이 사례로 짚어보겠습니다.

어떤 방식으로 배포하나요

직원마다 개인 비서 형태의 에이전트가 하나씩 붙습니다. 질문에 답하고 작업을 처리하며 요청 성격에 따라 가장 적합한 모델로 넘겨주는 역할을 합니다. 마크 패터슨 최고재무책임자는 작업마다 모델을 동적으로 고르는 구조라고 설명했습니다.

주목할 부분은 인프라입니다. 상당 부분을 자체 설비에 올렸는데 이유로 비용과 데이터 통제를 들었어요. 외부 서비스에 전부 의존하면 사용량이 늘수록 비용이 선형으로 따라 오르고 사내 자료가 어디까지 나가는지도 통제가 어려워집니다.

모델을 하나로 정하지 않은 이유

작업 성격에 따라 필요한 능력이 다르기 때문입니다. 문서 요약과 코드 리뷰와 사내 규정 검색은 요구하는 수준이 제각각인데, 전부 최상위 모델로 처리하면 비용이 감당이 안 됩니다. 반대로 전부 가벼운 모델로 처리하면 어려운 요청에서 품질이 떨어지고요.

그래서 요청을 받아 어디로 보낼지 정하는 층을 따로 두는 구성이 기업에서 늘고 있습니다. 사용자는 모델 이름을 몰라도 되고 관리자는 비용을 통제할 수 있어서요. 이 구조에서 중요한 건 분배 규칙을 누가 어떤 기준으로 관리하느냐입니다.

결정 항목	시스코의 선택	왜 중요한가
배포 범위	전 직원 9만 명	일부 부서만 쓰면 업무 흐름이 갈라짐
모델 구성	요청별 자동 분배	비용과 품질을 동시에 잡는 지점
인프라	상당 부분 자체 구축	비용 예측과 데이터 통제
교육	전사 역량 강화 병행	도구만 주면 사용률이 안 오름

이미 쓰고 있던 곳은 어디인가요

재무 부서가 먼저였습니다. 규제 기관에 내는 필수 제출 서류의 초안 80~90%를 AI가 만들고 있고 투자자 대상 발표 준비에도 쓰고 있다고 밝혔습니다. 형식이 정해져 있고 근거 자료가 사내에 다 있는 문서라 자동화가 잘 붙는 영역이에요.

여기서 읽을 점이 하나 있습니다. 창의적인 일보다 형식이 고정된 일에서 먼저 성과가 났다는 것입니다. 사내 도입을 검토한다면 부서에서 가장 반복적인 문서 작업부터 찾는 게 순서에 맞습니다.

자체 인프라를 택한 판단도 눈여겨볼 만합니다. 사용량이 적을 때는 외부 서비스가 압도적으로 싸지만, 9만 명이 매일 쓰는 규모가 되면 계산이 뒤집히는 구간이 옵니다. 도입 규모가 커질 회사라면 그 손익분기가 어디쯤인지 미리 따져 보는 편이 좋습니다. 데이터를 밖으로 내보내지 않아도 된다는 점은 규제 산업에서 특히 무게가 큽니다.

배포 규모가 크면 초기 몇 주의 사용 데이터가 곧 자산이 됩니다. 어떤 요청이 많이 들어오는지 보면 다음에 무엇을 자동화할지가 드러나거든요.

감원과 같은 시기라는 점

같은 기간에 4,000명 규모의 인력 조정이 있었던 탓에 두 사안을 묶어 보는 시선이 있습니다. 회사는 에이전트 배포를 생산성 향상과 역량 강화 관점에서 설명했고, 감원과의 인과관계를 공식적으로 연결하지는 않았습니다.

비슷한 논쟁이 반복되고 있습니다. MS가 4,800명을 감원하면서 AI가 대체한 게 아니라고 밝혔던 사례도 같은 구도였어요. 발표만으로는 인과를 확정하기 어렵고 실제로는 조직 개편과 사업 재편이 함께 얽혀 있는 경우가 많습니다.

패터슨은 이번 전환을 26년 근무 기간 중 가장 큰 기술 변화라고 표현했습니다. 회계연도 시작에 맞춰 배포 시점을 잡은 것도 예산과 목표를 함께 묶으려는 계산으로 읽힙니다.

회사에 도입한다면 무엇부터

계정을 나눠 주는 것보다 앞서야 할 게 두 가지 있습니다. 하나는 어떤 자료에 접근하게 할지 정하는 일이고 다른 하나는 잘 쓴 사례를 사내에 돌리는 통로를 만드는 일입니다. 시스코도 배포와 함께 사내 지식 공유와 교육을 붙였습니다.

작게 시작해도 됩니다. 부서 하나에서 반복 문서 작업 한 가지를 골라 한 달 돌려 보고, 걸린 시간과 손이 간 횟수를 기록하면 확대 여부를 판단할 근거가 생깁니다. 도구를 먼저 정하고 쓸 곳을 찾는 순서로 가면 대개 사용률이 안 오릅니다. 에이전트가 답변형보다 전력을 훨씬 많이 쓴다는 조사처럼 규모가 커질수록 비용 구조도 함께 봐야 하고요.

개인적으로는 모델 선택을 사용자에게 떠넘기지 않은 점이 인상적이었습니다. 대부분의 직원은 어떤 모델이 어떤 작업에 맞는지 알 이유가 없으니까요. 그 판단을 시스템이 대신하면 도입 장벽이 확실히 낮아집니다.