세계 최초의 'AI 장관'이 임명된 지 1년이 지났습니다. 그동안 그 장관이 결정한 입찰은 0건입니다.
2025년 9월, 알바니아 정부는 공공입찰 부패를 끊겠다며 AI 아바타 '디엘라'에게 조달 담당 장관 직함을 줬습니다. 외신이 일제히 받아썼고, 국내에서도 "공무원 대신 AI가 입찰을 심사한다"는 기사가 돌았죠. 그런데 올해 8월 발칸 지역 탐사보도 매체가 확인한 현실은 이렇습니다. 조달청은 이제 막 "AI 조달 시스템을 만들 업체를 뽑기 위한 입찰 요구사항서"의 초안을 끝냈습니다. 그러니까 AI 장관은 아직 입찰을 심사하는 게 아니라, 자기를 만들어 줄 입찰을 기다리는 중입니다. 최종 결정은 지금도 사람 공무원이 합니다.
저는 이 장면을 비웃을 생각이 없습니다. 30년 가까이 대기업 IT 전략과 컨설팅 현장에서 봐 온 AI 도입의 실패가, 국가 단위로 압축돼 있을 뿐이니까요. 디엘라 1년은 AX를 준비하는 기업에 세 가지를 보여줍니다.
1. 발표가 빨라질수록 설계는 뒤로 밀립니다
디엘라는 원래 정부 민원 포털의 챗봇이었습니다. 서류 발급 상담을 수십만 건 처리하며 성과를 냈죠. 여기까지는 좋은 도입입니다. 문제는 그다음입니다. 잘 되는 챗봇에 '장관'이라는 이름을 붙이는 순간, 입찰 심사라는 전혀 다른 과업이 따라붙었습니다. 민원 안내와 수백억 원짜리 계약 판단은 데이터도, 책임도, 실패했을 때의 대가도 다릅니다. 그런데 발표가 먼저 나갔고, 법적 근거와 감독 체계는 1년이 지난 지금도 "공청회 단계"입니다.
기업에서도 똑같은 일이 벌어집니다. 고객센터 챗봇이 성공하면 곧바로 "그럼 이걸로 견적 승인까지 하자"는 지시가 내려옵니다. 저는 이걸 '직함 인플레이션'이라고 부릅니다. 도구의 역할을 넓힐 때는 이름을 먼저 바꾸는 게 아니라, 새 과업에 필요한 데이터·권한·책임을 먼저 설계해야 합니다. 이름은 맨 마지막입니다.
2. 책임자가 없는 자동화는 자동화가 아닙니다
알바니아 전문가들이 1년 내내 던진 질문은 하나였습니다. "법적 지위가 정의되지 않은 시스템이 내린 결정에 누가 책임지는가?" 이 질문에 답이 없으니, 조달청도 AI에게 실제 결정을 넘길 수 없었습니다. 담당자 입장에서 책임은 그대로인데 판단 근거만 블랙박스가 된다면, 누가 그 버튼을 누르겠습니까?
국내 기업의 AI 도입 프로젝트가 PoC에서 멈추는 이유도 대부분 여기 있습니다. 모델 성능이 아니라, "이 AI의 판단이 틀렸을 때 누구의 실수인가"를 정해 두지 않은 겁니다. 제가 자문하는 기업에는 AI 과업마다 세 줄을 먼저 쓰게 합니다. 어떤 기준으로 판단하는지, 사람이 어느 단계에서 최종 서명하는지, 틀렸을 때 누가 책임지는지. 이 세 줄이 없는 자동화는 결재선만 하나 더 늘린 것과 같습니다.
3. 부패는 알고리즘이 아니라 데이터와 권한에 숨습니다
가장 뼈아픈 대목은 따로 있습니다. 디엘라를 개발한 정부 정보화청의 청장과 부청장이 올해 입찰 몰아주기 혐의로 특별검찰 수사를 받았고, 4월에는 약 4천만 유로 상당의 자산이 압류됐습니다. 부패를 없애겠다는 AI를 만든 기관이, 자기 입찰에서 부패 혐의를 받은 겁니다.
이게 알바니아만의 이야기일까요? AI는 주어진 데이터와 권한 안에서만 공정합니다. 누가 학습 데이터를 고르고, 누가 평가 기준을 설정하고, 누가 시스템 구축 업체를 뽑는지가 그대로 남아 있다면, 결정의 주체를 AI로 바꿔도 이해관계는 한 칸 뒤로 물러날 뿐 사라지지 않습니다. 저는 AI 도입 실사를 할 때 모델보다 이 '한 칸 뒤'를 먼저 봅니다. 데이터 입력권과 기준 설정권을 누가 쥐고 있는지, 그 사람이 결과로 이익을 보는 위치는 아닌지.
덧붙이자면, 디엘라의 얼굴과 목소리를 제공한 배우는 "민원 챗봇에만 동의했다"며 100만 유로 소송을 냈습니다. 쓰임새를 넓힐 때 데이터 제공자의 동의 범위를 다시 받지 않은 겁니다. 국내 기업이 사내 자료로 AI를 학습시킬 때 가장 자주 빠뜨리는 절차이기도 합니다.
'상징'을 사기 전에 '설계'를 사십시오
디엘라는 실패한 프로젝트가 아닙니다. 아직 시작도 하지 못한 프로젝트입니다. 그리고 시작을 못 하게 만든 건 기술이 아니라 순서였습니다. 발표보다 설계, 직함보다 책임, 모델보다 데이터 권한. 이 순서만 지켜도 AI 도입의 절반은 성공합니다. 우리 회사의 'AI 장관'은 지금 어느 단계에 있는지, 한 번쯤 점검해 보셔도 좋겠습니다.
AI 도입 과업의 책임 구조와 데이터 권한을 점검하고 싶은 기업은 노우버스의 AI 도입·활용 전략 컨설팅으로 문의 주시면, 현장에서 쓰는 점검 틀로 도와드리겠습니다.