Hebbia의 창업자이자 CEO인 George Sivulka가 최근 링크드인에 올린 글인데, AX전환에 있어서는 Fast follower인 대표님들이나, 각 기업에 AX전환을 리드하고 계신 분들이 보시면 좋은 내용이라 주요 내용을 정리해서 공유 드립니다.
글의 제목은 "Man vs. Token", 첫 문장부터 도발적입니다. "역사상 처음으로 인간이 소프트웨어보다 저렴해졌다."
AI가 인간의 일자리를 대체할 거라고들 했지만 현실은 정반대라는 겁니다. 상위 1% 기업에서 직원 한 명당 쓰는 AI 비용이 지금 속도(월 14.1% 증가)로 늘면, 머지않아 소프트웨어 엔지니어 연봉($192K)은 물론 평균 임금($98K)마저 넘어섭니다. 그런데 정작 AI를 적극적으로 도입한 기업일수록 채용은 오히려 늘었습니다(+10.2%). AI가 일자리를 없애기는커녕 더 만들어내고 있는 셈이죠.
저자가 이 상황을 풀어내는 방식이 흥미롭습니다. 1830년대 철도에 빗대거든요. 철도가 빠르게 확산되던 시기에 열차 운행을 제대로 조율하지 못해 대형 충돌 사고가 났고, 이를 수습하는 과정에서 지역별 관리자와 명확한 보고 체계가 생겨났습니다. 지금 우리가 아는 '경영(management)'이라는 개념이 그때 태어난 겁니다. 새로운 기술이 등장하면 처음엔 기술 자체에 열광하지만, 결국 그것을 안정적으로 돌아가게 만드는 건 체계적인 관리였다는 거죠. AI 에이전트도 지금 똑같은 길목에 서 있습니다.
그가 던지는 핵심은 이겁니다. AI 에이전트도 사람이 일을 그르치는 것과 똑같은 방식으로 실패한다. 그러니 우리가 오랫동안 조직을 관리해온 방식 안에 이미 답이 들어 있다는 거죠. 그 닮은꼴을 일곱 가지로 풀어냅니다.
1. 토큰 쏟아붓기 = 사람만 늘려서 밀어붙이기
토큰을 많이 쓰는 게 문제가 아닙니다. AI에 제대로 맥락을 줄 줄 아는 사람이 100명 중 1명뿐이라는 게 문제죠. 나머지 99명이 에이전트를 손에 쥐면 결국 헛도는 반복 작업(루프)만 잔뜩 만들어냅니다.
2. 루프 = 회의를 위한 회의
루프는 결국 프롬프트를 제대로 못 쓰는 사람의 빈틈을, 될 때까지 무작정 돌리는 방식으로 메우는 겁니다. 잘 정의된 작업과 비교하면, 애매하게 던진 작업은 같은 일을 최대 100배까지 비싸게 만듭니다($4면 될 일이 $310이 되는 식이죠). 토큰을 아끼려다 토큰을 더 쓰는 꼴입니다.
3. 낭비되는 토큰 = 불어난 인원
직원의 80%가 실질적인 기여를 못 하는 것처럼, 오늘날 토큰의 80%도 아무 일도 하지 않습니다. AI마저 중간관리 구조를 그대로 닮아버린 셈이죠. 실제로 쓸모 있게 일하는 토큰은 10%뿐입니다.
4. 100배 토큰 = 10배 엔지니어
"토큰이 더 정확하다, 더 빠르다, 그만두지 않는다"는 말은 전부 단서가 붙습니다. 정확하긴 하지만 프롬프트가 정확할 때만 그렇고, 심지어 완벽한 형식을 갖춘 채 당당하게 틀리기도 하죠. AI의 진짜 강점은 '확장성'입니다. 그래서 잘못 다루면 오히려 더 비싸집니다. 결국 성과를 100배로 키워주는 토큰을 찾아내 확장하는 게 관건입니다.
5. 노하우 감추기 = 새로운 밥그릇 지키기
가장 미묘하고 정치적인 대목입니다. 직원들은 자기 노하우를 AI에게 순순히 넘겨주려 하지 않습니다. 메타에서는 회사 주식을 가진 직원들조차, 회사가 자신들의 업무 맥락을 AI 학습에 쓴다는 사실에 분노했다고 합니다. 나만 아는 지식은 중세 길드 시절부터 수백 년간 밥그릇을 지키는 수단이었고, AI는 그걸 한 번에 다 내놓으라고 요구하는 첫 번째 기술입니다. 누구도 공짜로 자기 후임을 키워주진 않으니까요. 그래서 기업은 정작 가장 중요한 기술을 밀어내도록 구조적으로 짜여 있다는 겁니다.
6. 평가 기준(Evals) = OKR
AI를 잘 부리는 방법은 사람을 잘 부리는 방법과 똑같습니다. '무엇이 잘한 것인지'를 먼저 정의하는 것. 코딩이 유일하게 정치 논리에서 벗어나 폭발적으로 성장한 이유는 "코드는 돌아가거나 안 돌아가거나" 둘 중 하나라는 명확한 평가 기준이 내장돼 있기 때문입니다(그래서 AI 매출의 99%가 코딩입니다). 앞으로는 각 기업이 가진 평가 기준 체계가 가장 값진 자산이자 경쟁력의 핵심이 될 거라는 거죠. 남들 다 쓰는 평가 기준, 남들 다 쓰는 에이전트로는 차별화가 안 됩니다.
7. 다음 1조 달러 기회 = '전환(transformation) 기업'
저자는 잘라 말합니다. 아직 아무도 AI를 안정적으로 돌리지 못하고 있다. 실리콘밸리는 이 실패를 확신한 나머지 기존 기업 대신 'AI 네이티브 신생기업(네오펌)'에 베팅하고 있지만, 저자 생각은 다릅니다. 오히려 AI 전환을 이뤄낸 기업이 어떤 신생기업보다 10배는 커질 거라는 겁니다. 하나를 도입하면 새로운 활용처가 열 개씩 딸려 나오니(제번스 역설), 전환은 한 번 하고 끝나는 프로젝트가 아니라 계속 이어지는 과제가 되기 때문이죠. 팔란티어를 예로 듭니다. SaaS를 보는 잣대로 따지면 진작 무너졌어야 할 회사인데, 팔란티어는 소프트웨어가 아니라 '전환' 자체를 팔았기에 ChatGPT 출시 이후 오히려 79% 올랐습니다(같은 기간 SaaS 종목들은 -2.9%). 다만 전환의 의미도 달라졌습니다. 맞춤 소프트웨어를 만들어주는 걸 넘어, 평가 기준을 세우고, 토큰을 아끼고, 프로그래밍할 수 있을 만큼 그 비즈니스를 깊이 이해하는 일이 됐죠. 각 기업만의 고유한 맥락을 에이전트에 녹여내는 일이 앞으로 10년간 가장 큰 경제적 과제가 될 것이라는 게 그의 결론입니다.
그리고 마무리 메시지가 인상적입니다. "이제는 관리할 시간이다."
이 글의 핵심은 결국 철도가 그랬듯 AI 에이전트 역시 '도구를 들여오는 일'이 아니라 '체계적인 경영을 다시 세우는 일'이라는 점입니다. 새 기술이 열어준 가능성만큼이나, 그것을 통제하고 예측할 수 있게 굴리는 관리 역량이 성패를 가른다는 거죠. 비용 통제든 성과 정의든, 결국 '관리의 문제'로 모인다는 것을 다시금 생각해보시면 좋을 듯 합니다.