미국 기업들이 지난 2년 동안 생성형 인공지능(AI) 도입 경쟁에 속도를 냈지만, 실제 성과는 기업별로 크게 엇갈린 것으로 나타났다.

최근 발표된 다수의 경영진 대상 조사에 따르면 상당수 기업은 AI 투자 비용을 실질적인 사업 성과로 연결하는 데 어려움을 겪고 있었다.

반면 일부 기업은 명확한 업무 과제를 중심으로 AI를 도입하고 투자 대비 수익(ROI)을 측정할 수 있는 성과 지표를 구축하면서 가시적인 성과를 만들어내고 있었다.

▲ AI 도입은 급속히 확산…기업 절반 이상 연간 100만 달러 이상 투자

26일(현지 시각) 인터내셔널 비즈니스 타임즈(IBT)에 따르면 생성형 AI 기업 라이터(Writer)는 독립 리서치 기관 워크플레이스 인텔리전스와 함께 AI를 업무에 활용하는 비기술직 직원 1,200명과 최고경영진(C-레벨) 1,200명을 대상으로 설문조사를 실시했다.

조사 결과 응답 기업의 59%는 AI에 연간 100만 달러 이상을 투자하고 있다고 답했다. AI 활용 역시 빠르게 확산되고 있었다.

응답한 경영진의 97%는 지난 1년 동안 AI 에이전트를 도입했다고 밝혔으며, 직원의 52%는 이미 이를 업무에 활용하고 있었다. 또한 최고경영진의 94%와 직원의 70%는 하루 최소 30분 이상 AI 도구를 사용하고 있었고, 경영진의 64%는 하루 2시간 이상 AI를 활용한다고 답했다.

▲ AI 활용 증가에도 투자 성과는 기대 이하

AI 사용이 빠르게 늘어났지만 기업들이 기대한 사업 성과로 이어지지는 못한 것으로 조사됐다.

최고경영진의 75%는 자사 AI 전략이 "실질적인 운영 지침이라기보다 보여주기식"이라고 평가했다. 경영진의 48%는 AI 도입 결과에 실망했다고 답했으며, 기업의 39%는 AI 투자 수익화를 위한 공식 전략조차 마련하지 못한 상태였다.

실제로 생성형 AI를 통해 의미 있는 투자 성과를 거두고 있다고 응답한 기업은 전체의 29%에 그쳤다.

▲ 보안 사고와 직원 반발 등 부작용도 심각

조사에서는 AI 확산에 따른 다양한 부작용도 확인됐다.

경영진의 67%는 승인되지 않은 AI 도구 사용으로 인해 이미 데이터 유출이나 보안 사고가 발생했을 가능성이 있다고 답했다. 직원의 35%는 사내 기밀 정보를 공개형 AI 서비스에 입력한 경험이 있다고 밝혔다.

또한 응답자의 55%는 자사의 AI 활용 환경을 '통제되지 않는 혼란 상태'라고 평가했다. 기업의 36%는 AI 에이전트를 관리·감독하기 위한 공식 체계를 갖추지 못했으며, 35%는 오작동하는 AI 에이전트를 즉시 중단시킬 수 있는 대응 체계도 마련하지 못한 것으로 나타났다.

AI 도입은 조직 내부의 불안감도 키우고 있었다. 최고경영자(CEO)의 73%는 AI와 관련한 스트레스나 불안을 경험하고 있다고 답했고, 64%는 AI 전환 실패로 자신의 직위를 잃을 수 있다는 우려를 나타냈다.

기업의 69%는 AI를 활용한 인력 감축을 계획하고 있었지만, 정작 39%는 AI를 통해 새로운 매출을 창출할 전략을 마련하지 못한 상태였다. 직원의 29%, 특히 Z세대의 경우 44%가 회사의 AI 전략을 의도적으로 방해한 경험이 있다고 응답했다.

▲ '도입 실적' 중심 평가가 부작용 키워

이번 조사 결과는 많은 기업이 투자자와 이사회, 그리고 산업 전반의 AI 확산 압박 속에서 AI 도입 자체를 성과로 평가해왔음을 시사했다.

실제 일부 기업은 발급한 AI 라이선스 수나 직원들의 AI 사용량 등을 핵심 성과지표(KPI)로 삼아왔다. 그러나 이러한 접근 방식은 승인되지 않은 AI 도구 사용 증가, 보안 사고, 직원들의 저항 등 예상하지 못한 부작용을 초래한 것으로 분석됐다.

▲ 기업 AI 시장은 성장 지속…실전형 솔루션으로 수요 집중

다만 기업들의 AI 도입이 둔화되는 것은 아니라는 분석도 나왔다.

벤처캐피털 안드리센 호로위츠(a16z)의 조사에 따르면 포춘 500대 기업의 29%, 글로벌 2000대 기업의 19%는 이미 주요 AI 스타트업의 유료 고객으로 전환한 것으로 나타났다.

이는 기업들이 단순한 시험 프로젝트보다 실제 업무에 적용 가능한 상용 AI 소프트웨어에 투자를 집중하고 있음을 보여주는 결과로 해석됐다.

인공지능[로이터/연합뉴스 제공]

▲ 성과 내는 기업의 공통점 '명확한 업무'와 '측정 가능한 목표'

a16z는 AI 스타트업의 매출 데이터를 분석한 결과, 성공적인 기업 AI 도입은 성과 측정이 쉬운 특정 업무와 산업에 집중되는 경향을 보였다고 분석했다.

가장 대표적인 활용 분야는 소프트웨어 코딩이었으며, 고객지원과 기업 검색 서비스가 그 뒤를 이었다. 산업별로는 정보기술(IT), 법률, 의료 분야가 AI 도입에 가장 적극적인 것으로 나타났다.

이들 업무는 대부분 텍스트 중심이며 반복성이 높고 결과를 쉽게 검증할 수 있다는 공통점을 갖고 있어 AI 활용 효과를 측정하기에 적합했다고 분석했다.

▲ 전사적 혁신보다 단계적 접근이 투자 성과 높여

조사 결과 성공적인 AI 도입 기업들은 처음부터 전사적인 혁신을 추진하기보다 명확하게 정의된 업무 프로세스를 중심으로 프로젝트를 시작하고 성과 측정 지표를 함께 구축하는 전략을 선택했다.

반면 AI 거버넌스와 업무 범위, 성공 기준을 마련하기 전에 조직 전체의 AI 전환을 추진한 기업들은 투자 성과가 낮고 운영 혼란이 커졌다고 보고하는 사례가 많았다.

▲ AI 투자 확대 속 '보여주기식 도입' 한계 직면

AI 투자 규모가 계속 증가하는 가운데 단순히 AI를 도입했다는 사실만을 내세우는 '보여주기식 AI 전략'의 비용은 점차 커질 것으로 전망됐다.

전문가들은 AI가 실제로 측정 가능한 사업 가치를 창출할 수 있는 영역을 먼저 규명하지 않은 채 도입을 서두른 기업들이 결국 AI 혁신 초기부터 외면했던 근본적인 질문, 즉 'AI가 실제로 어디에서 투자 대비 수익을 창출할 수 있는가'에 답해야 하는 상황에 직면하게 될 것이라고 분석했다.