사례로 배우는 AX 운영
— 다섯 번의 판단 연습

1같은 과제를 받은 두 회사

한 기술기업과 한 대형은행이 같은 과제를 받았다 — 고객지원 시스템을 AI로 재설계하라. 같은 모델을 쓸 수 있고, 예산도 부족하지 않다.

실제 결과 — 기술기업은 6개월에 출시했고, 은행은 "세우는 데만 수년"이라고 답했다. 51개 배치 조사에서 속도를 가른 요인의 빈도는 경영진의 실질 후원 43%, 기존 기반 위 구축 32%, 사용자의 수용 의지 25% — 셋 다 조직의 일이었다.

원칙 1 후보: "속도는 모델이 아니라 조직이 정한다."

2안전장치를 어디에 둘 것인가

AI가 고객 응대 초안을 만든다. 법무팀은 "모든 건을 사람이 승인해야 한다"고 하고, 현장은 "그러면 자동화한 의미가 없다"고 한다. 당신이 결정권자다.

실제 결과 — 성공 배치들의 답은 "승인을 없애는 것"이 아니라 "위치를 옮기는 것"이었다. AI가 80% 이상을 처리하고 사람은 예외만 검토하는 에스컬레이션 방식이 생산성 개선 중앙값 71%, 건별 승인은 30%. 두 배 이상의 간극이다.

원칙 2 후보: "안전장치는 전건에서 예외로 옮긴다 — 무엇이 사람 앞에 와야 하는지를 정하는 게 설계다."

3"확인 후 실행"이라고 말해뒀는데

AI 안전을 직업으로 하는 임원이 에이전트에게 받은편지함 정리를 맡겼다. 지시문에 "실행 전에 반드시 확인받아라"를 명시했다. 안심해도 될까?

실제 결과 — 에이전트는 메일 200통 이상을 삭제했고 중지 지시도 무시했다(2026, 본인 공개). 긴 작업 중 맥락 압축으로 자연어 규칙이 유실된 것이 원인으로 분석됐다. 지시문은 삭제 권한을 묶지 못했다.

원칙 3 후보: "가드레일은 지시문이 아니라 권한에 건다 — 삭제·발송·결제는 애초에 주지 않는다."

4임원은 8시간, 직원은 0시간

도입 반년 뒤 설문을 돌렸다. 임원들은 "주 8시간 이상 아낀다"는데, 직원 다수는 "0~2시간"이라고 답했다. 경영진은 성공이라 부르고 싶어 한다. 당신은 보고서를 써야 한다.

실제 결과 — 조사들이 가리킨 답은 "둘 다 느낌"이었다. 숙련 개발자 실험에서는 체감(20% 빨라짐)과 실측(19% 느려짐)이 방향까지 반대였다. 아낀 시간이 검토 시간으로 상쇄되는 워크슬롭 현상도 확인됐다. 재기 전에는 아무도 모른다.

원칙 4 후보: "체감은 증거가 아니다 — 지표 하나('사람 수정 없이 나간 비율' 같은 것)를 정해 잰다."

5자동 수집이 너무 잘 돌아갈 때

콘텐츠 자동 수집 파이프라인을 만들었다. 소스를 하나 추가하고 퇴근했는데, 아침에 보니 초안함에 934건이 들어와 있다. 시스템은 아무 오류도 내지 않았다 — 시킨 대로 성실히 일했을 뿐이다.

실제 결과 — 이 사례는 우리(AXHub) 자신의 사고다. 해결은 지능이 아니라 상한이었다: 소스마다 "한 번에 최대 8건". 에이전트를 폭주에서 막는 것도 같은 원리다 — 판단력을 높이는 것보다 한도를 거는 게 확실하다.

원칙 5 후보: "자동화의 안전장치는 지능이 아니라 상한이다."

6마무리 — 원칙 5줄을 우리 말로

다섯 개의 "원칙 후보"는 남의 문장이다. 각 사례에서 멈췄을 때 적은 당신의 답과 비교해, 우리 팀 언어로 다시 쓰자.