Business[모아야 보입니다 #1/4] AI ROI, 도입했다면 이제 증명할 차례입니다
AI 도입 이후, 성과를 숫자로 설명할 수 있나요? 커지는 ROI 증명 요구와 부족한 측정 체계를 짚고, 세 가지 자가 진단을 통해 우리 회사 AI 투자와 운영을 돌아봅니다.
안녕하세요 인포유앤컴퍼니입니다.
2026년, AI는 '써봤느냐'가 아니라 '얼마나 벌어줬느냐'로 평가받기 시작했습니다. 그런데 정작 그 성과를 증명할 채점표를 가진 기업은 많지 않습니다.
"그래서, AI로 얼마나 나아졌죠?"
요즘 기업 회의실에서 가장 자주 들리는 질문입니다. 2~3년 전만 해도 AI는 '도입했느냐'가 관심사였습니다. 사내 챗봇을 열고, 생성형 AI 계정을 나눠주고, 업무 자동화 에이전트 몇 개를 만들면 혁신으로 인정받았습니다. 2026년의 분위기는 완전히 다릅니다. AI가 드디어 성적표를 받기 시작했습니다.
CIO의 커리어가 AI 성과에 걸렸다
올해 7월, 글로벌 조사기관 해리스 폴(The Harris Poll)이 데이터·AI 플랫폼 기업 Dataiku의 의뢰로 8개국 대기업 CIO 685명을 조사했습니다. 결과는 꽤 직설적입니다.
✔️88%는 자신의 평판과 커리어가 AI 성공 여부로 결정될 것이라고 답했습니다.
✔️76%는 2027년 말까지 AI로 측정 가능한 성과를 내지 못하면 CIO 자리가 위험해질 것이라고 했습니다.
압박은 위에서 내려옵니다. CIO의 87%가 CEO로부터 자신의 자리가 AI 성과에 달렸다는 말을 들었고, 97%는 작년보다 이사회의 ROI 증명 요구가 커졌다고 답했습니다. 성과 목표를 놓치면 AI 예산이 삭감되거나 동결될 것이라는 응답도 72%에 달합니다
한국은 더 뜨겁습니다
이 조사에는 한국 CIO 100명도 참여했습니다. 그리고 한국은 압박의 강도에서 눈에 띄는 숫자를 남겼습니다.
같은 시리즈의 CEO 조사에서한국 CEO의 93%가 2026년 말까지 AI로 측정 가능한 성과를 내지 못하면 자신의 자리도 위험하다고 답했습니다. 조사 대상국 중 가장 높은 수치입니다(글로벌 평균 80%).
한국 CIO의 80%는 측정 가능한 AI 성과에 자신의 자리를 걸 수 있다고 했고, 76%는 2027년 말까지 성과를 내지 못하면 자리가 위험해질 것이라고 봤습니다
경영진과 IT 리더 모두가 “AI가 효과가 있다는 걸 숫자로 보여줘야 한다”는 같은 배를 탄 셈입니다.
문제는 '증명할 도구'가 없다는 것
그런데 여기서 반전이 있습니다. 책임은 이렇게 커졌는데, 성과를 증명할 체계는 따라오지 못하고 있습니다.
AI 이니셔티브 전반에 성숙한 ROI 측정 체계를 갖췄다는 CIO는 24%에 불과합니다.
한국은 이 수치가 15%로 더 낮습니다.
한국 CIO의 79%는 모든 AI 에이전트의 운영 성능과 비즈니스 성과를 일관되게 측정하지 못한다고 답했습니다(글로벌 72%)
쉽게 말해, 시험은 이미 시작됐는데 채점표가 없는 상황입니다.
분명 AI를 열심히 도입했고 뭔가 나아진 것 같은데, 이사회가 "그래서 얼마나요?"라고 물으면 숫자로 답하기 어렵습니다.
성과를 보여주지 못한 AI 프로젝트는 예산 조정 1순위가 되고, 잘하고 있던 프로젝트까지 함께 휩쓸릴 수 있습니다.
비용 쪽 사정도 녹록지 않습니다.
CIO의 39%는 AI 에이전트를 돌리는 데 드는 토큰·컴퓨팅 비용 때문에 AI 전략을 계획하고 승인하는 방식 자체가 크게 바뀌었다고 답했습니다. 33%는 예측하기 어려운 AI 사용량이 계획을 흔들었다고 답했습니다.
성과는 증명해야 하는데 비용은 예측이 안 되는, 양쪽에서 조여 오는 구조입니다.
우리 회사는 어떨까? 3가지 자가 진단
이 문제가 남의 이야기인지 궁금하다면, 아래 세 가지 질문에 답해 보세요.
✅지난 분기 AI에 쓴 비용(모델 사용료, 인프라, 외부 솔루션)을 부서별·용도별로 바로 뽑을 수 있나요?
✅사내에서 운영 중인 AI 에이전트 가운데 '가장 성과가 좋은 것'과 '가장 아쉬운 것'을 근거와 함께 꼽을 수 있나요?
✅경영진이 “AI 예산을 20% 줄이면 무엇을 포기해야 하죠?”라고 묻는다면, 데이터로 답할 수 있나요?
하나라도 망설여졌다면, 앞으로 4주간 이어질 이 시리즈가 실마리가 될 것입니다.
더 많이 쓰기보다, 먼저 보이게
그렇다면 무엇부터 해야 할까요? 많은 기업이 더 좋은 모델, 더 많은 에이전트를 통해 답을 찾으려 합니다.
하지만 인포유앤컴퍼니가 제시하는 방향은 조금 다릅니다.지금 필요한 것은 AI를 더 많이 쓰는 능력이 아니라, 이미 쓰고 있는 AI가 무엇을 하고 있는지보이게 만드는 능력입니다.
마케팅을 떠올려 보면 이해가 쉽습니다. 마케팅 조직은 캠페인을 시작하기 전에 KPI부터 정합니다.
전환율, 고객 한 명을 얻는 데 든 비용(CPA), 광고비 대비 매출(ROAS)처럼 숫자로 확인할 수 있는 기준이 있기에,
어떤 캠페인에 예산을 더 싣고 어떤 캠페인을 접을지 근거를 갖고 판단합니다.
AI 에이전트는 사정이 다릅니다. 대부분 '전사 AI 예산'이라는 한 덩어리로 관리될 뿐,
에이전트마다 KPI가 정해져 있는 경우는 드뭅니다. 어떤 에이전트가 제 몫을 하고 어떤 에이전트가 비용만 쓰고 있는지 구분할 기준이 없으니, 투자 판단도 감에 기댈 수밖에 없습니다.
측정이 되어야 개선할 수 있고, 개선이 증명되어야 다음 투자가 이어집니다. 이 선순환의 출발점은 측정입니다.
다만측정에도 전제가 있습니다. 무엇을 재든, 잴 대상이 먼저 한자리에 보여야 한다는 것입니다.
다음 편 예고
그런데 왜 이렇게 측정이 어려울까요? 기업들이 게을러서가 아닙니다. 지금 기업 안의 AI는 생각보다 훨씬 넓고 빠르게 흩어지고 있기 때문입니다. 다음 주 2편에서는 "우리 회사에서 AI 에이전트가 몇 개나 돌아가고 있나요?"라는 질문에 선뜻 답하기 어려운 이유를 짚어보겠습니다.
출처: Dataiku·The Harris Poll, Global AI Confessions Report: CIO Edition 2026(2026년 7월 9~29일, 8개국 연 매출 5억 달러 이상 기업 CIO 685명 온라인 조사, 한국 100명). 한국 CEO 수치는 같은 시리즈의 CEO Edition 2026(2026년 2월 2일~3월 2일, 8개국 CEO 900명 온라인 조사) 인용.
12월 2일 무료 웨비나 사전 신청
- 첨부파일
- AI 도입, 이제 증명할 차례.png
