거품 이후의 인공지능, AI의 ROI 달성은 가능할까?

이 글을 쓰는 23일, 한국의 종합 AI 기업을 표방한 마인즈랩이 코스닥 상장 첫날 거래에서 다소 애매한 성적을 거뒀습니다. 마인즈랩은 장중 한때 공모가 대비 약 6% 낮은 주당 28,300원까지 하락했다가 주당 38,000원에 첫 날 거래를 마쳤는데요. 종가기준으로 공모가대비 27% 가량 상승하기는 했으나 '따상'(공모가 대비 두 배로 시초가가 형성된 뒤 가격제한폭까지 올라 마감하는 것을 일컷는 속어)도 흔한 요즘 시장에서 이 정도를 성공적인 데뷔라고 하기엔 좀 무리가 있을 듯 합니다. (그리고 이 글을 마무리하는 26일, 주가는 한층 더 떨어져 30,700원에서 장을 마쳤습니다.)



기대와 실제의 괴리, "AI에 대한 과대평가" 우려 

 

이름 좀 알려진 AI 기업이라고 하면 적자 규모는 물론이거니와 아직 매출조차 발생하지 않더라도 투자금을 수십억 달러 단위로 쓸어모으던 몇 년 전을 생각하면, 아무리 적자 규모가 매출의 두 배(2020년 기준 마인즈랩의 연결재무제표 기준 매출은 112억 9,200만원, 순손실은 203억 8,500만 원입니다)에 가깝다고는 하지만 고객사 레퍼런스도 상당하고 누적으로 263억 원의 투자를 유치해 1,000억 원에 육박하는 기업가치를 인정받았던 마인즈랩이 공개시장에서 이처럼 박한 평가를 받고 있는 상황이 생소하게 느껴지실 수 있는데요. 사실 AI가 지나치가 과대평가(Over Hyped)되었다는 지적은 꽤 오래 전부터 꾸준히 제기되어왔습니다.  


이를 대표적으로 보여주는 사례가 자율주행이라고 할 수 있는데요. 한때 자율주행트럭 업계의 기대주였으나 지난해 초 자금조달 실패로 폐업을 선언한 스타스키 로보틱스(Starsky Robotics)의 경우, CEO가 자율주행 기술의 실제 발전 수준과 AI에 대한 대중적 기대감의 괴리에서 발생하는 투자자들의 실망감으로 인해 후속투자 유치에 어려움을 겪었다고 토로하기도 했습니다. 비단 스타스키 로보틱스 뿐만 아니라, 한때 토요타(Toyota)와 소프트뱅크(Softbank)로부터 외부투자를 유치하며 72억 5,000만 달러의 기업가치를 인정받았던 우버(Uber)의 자율주행 사업부 ATG가 그에 한참 못미치는 기업가치인 40억 달러로 오로라(Aurora)에 매각되는 등, 지난해는 유난히 자율주행 업계에 있어 혹독했던 한 해었습니다. 


머신러닝 시스템에 대한 기대와 현실 사이의 괴리

출처: 스타스키 로보틱트 CEO Stefan Seltz-Axmacher의 미디엄 블로그



'AI'에서 '자동화'로, 이름 바뀌었어도 메가트렌드는 여전


그렇다면 이같은 현상은 AI가 한때의 열풍에 불과하였음을 반증하는 것일까요? 매년 머신러닝, AI, 데어터 업계 동향을 정리하여 연례 MAD 지형도(Machine learning, AI, and Data landscape) 형태로 발간하는 벤쳐비트에 의하면 그 답은 '아니다'입니다. 벤쳐비트는 지난달 공개된 2021년 MAD 지형도에서 자율주행 등, 초현실적 애플리케이션에 대한 관심은 다소 수그러들었으나, 올해에도 엔터프라이즈 애플리케이션 중심으로 AI 적용과 관련한 투자는 매우 활발하게 추진되었다고 분석했는데요. 한때 'AI'라는 용어로 표현되었던 혁신이 이제는 올해에는 '자동화'라는 용어로 표현되어 AI에 대한 논의가 축소되었다고 여겨질 뿐, 사실 두 용어 모두 동일한 메가트렌트를 기술의 성숙도나 업계 확산 정도, 시장 상황 등에 맞추어 다르게  표현한 것이라는 분석으로 벤쳐비트는 이를 아래와 같이 설명합니다. 


동일한 메가트렌드의 세 가지 다른 이름 

출처: 벤처비트 MAD 랜드스케이프 2021 기반으로 로아인텔리전스 재가공


이같은 설명에 의하면, '모든 기업은 AI/데이터 기업이 된다'라는 명제의 의미는 자율주행차나 로봇, 휴머노이드같은 공상과학적 비즈니스를 하는 기업들만 융성하리라는 것이 아니라, 모든 기업들이 AI를 각자의 업무 프로세스에 적용하여 업무의 일부를 자동화하고, 실시간 데이터 기반으로 인텔리전스한 의사결정을 할 수 있게 되리라는 것이 됩니다. 실제로도 많은 기업들이 이를 위해 투자하는 중으로, AI 학습데이터 전문업체 아펜(Appen)이 1,200개 이상 기업을 대상으로 진행한 설문조사에 의하면, 이들 기업들은 이미 평균 연 3,800만 달러를 AI 도입에 투자하고 있는 것으로 나타났습니다. 포츈 1,000대 기업 중 70개 사 이상을 대상으로 진행된 뉴벤쳐스파트너스(NewVantage Partners) 설문조사에서도, 응답기업 중 무려 91.5%가 AI에 투자하고 있는 것으로 확인되었으며, 응답기업 중 2/3 이상은 연 투자 금액이 5,000만 달러 이상이라고 응답했습니다.



 투자는 활발하지만 성과는 '글쎄', AI의 ROI를 저해하는 세 가지 문제 


그러나 여기서도 문제는 문제는 과연 AI가 기대한 만큼의 성과를 가져다 주느냐인데요. 조사 결과를 보면 엔터프라이즈 애플리케이션 영역에서도 AI에 대한 투자가 만족스러운만한 성과로 이어지지는 못하고 있는 것으로 보입니다. 위의 뉴벤쳐스파트너스 조사를 보면, 절대다수의 기업이 AI에 투자하고 있다고 응답했음에도 AI를 실제 프로덕션 레벨에서 광범위하게 배포했다고 응답한 기업의 비율은 14.6%에 그쳤습니다. 이에 따라 AI에 대한 투자의사 역시 감소하는 듯한 모습으로, AI에 대한 투자를 늘리겠다고 응답한 기업의 비율은 2019년 91.6%에서 2020년 51.9%로 금감했으며, AI를 가장 영향력이 큰(disruptive) 기술로 꼽은 응답 기업 비율도 2019년 80%에서 2020년 69.5%로 감소했습니다. 


이처럼 AI가 사이저블한 성과로 이어지지 않는 경우가 많다는 것은 AI 등 혁신기술의 잠재력에 대해 매우 낙관적인 입장을 지속적으로 피력해 온 안드레센 호로위츠(Andreessen Horowitz) 또한 인정하는 부분으로, 안드레센 호로위츠는 AI가 기존 방식의 소프트웨어처럼 빠르게 적용이 확산될 수 없는 이유를 아래와 같이 세 가지로 정리합니다. 


  • 총마진(Gross margins)의 문제: AI에는 두 가지의 숨겨진 비용(막대한 클라우드 사용료, 정확도 향상을 위해 필수적으로 투입되어야 하는 인력의 인건비)가 있으며, 이로 인해 총마진(gross margin)이 낮음 (SaaS의 경우 60~80% 이상인 데 비해, AI기업의 경우 50~60% 범위) 
  • 확장성(Scaling)의 문제: AI 애플리케이션의 대부분은 노이즈가 많은 비정형데이터를 다루며, 개방형 인터페이스(open-ended interfaces)로 고객이 입력 가능한 범위가 지나치게 넓기 때문에 신규 고객에게 AI를 배포할 때마다 완전히 새로운 종류의 데이터를 핸들링해야 하는 상황에 놓이게 됨(같은 자동차 제조업 영역 고객이라도, 조립라인의 배치 등 매우 사소한 차만으로도 AI 학습에 필요한 데이터가 완전히 달라질 수 있음)
  • 시장방어력(Defensibility)의 문제: AI 모델 아키텍쳐는 주로 개방적/학술적인 환경에서 개발되며, 사전 학습된 모델을 오픈소스 라이브러리에서 누구나 가져와 사용할 수 있기 때문에 전통적 소프트웨어 기업이 가지는 강력한 네트워크 효과와 높은 전환비용, 규모의 경제 등 방어적 경쟁력을 AI 기업에서는 찾아보기 어려움 

실제로도 이같은 문제로 인해 C3.ai나 팔란티어(Palantir), 센스타임(Sensetime) 등 이미 업력이 상당하고 일정수준 이상의 성과를 달성하여 상장까지 마친 대표 AI 기업들조차 여전히 적자에서 벗어나지 못하고 있는 상황으로, 이 중 상당수는 적자의 규모가 매출 규모와 비등하거나 오히려 더 큰 수준입니다. CB 인사이츠의 AI 100 리스트 중 투자금액 기준 상위 업체들이나 소프트뱅크의 AI 포트폴리오 업체 등, 업계에서 유망한 것으로 손꼽히는 업체들을 뒤져봐도 이 중 흑자전환하여 실제 수익을 거두고 있는 업체들은 거의 없다시피하며, 적자 규모가 매출의 두 배 이상이거나 아예 매출이 존재하지 않은 경우도 허다한데요. 전문적인 AI 업체들의 사정이 이러하니, AI를 자사 비즈니스에 도입하고자 투자 중인 업체들의 ROI가 시원찮은 것도 어찌보면 당연한 일이라고 할 수 있겠습니다. 



AI 모델 중심 접근에서 프로덕션 중심 접근으로, "AI는 이제 인프라의 문제" 


그렇다면 이제 물어야 할 질문은 어떻게 하면 이같은 문제를 해결하고, AI 투자의 ROI를 거둘수 있는가가 될 것입니다. 이에 대해 엔터프라이즈용 AI 플랫폼 비온드마인즈의 공동창업자인 로이 맥케즈(Roey Mechrez)는 안드레센 호로위츠와 유사하게 가치 실현 시간(Time to value), 수익성과 비용(Profitability & costs), 확장성 등 기업들의 AI 성과 도출을 어렵게 하는 이유로 꼽으며 이같은 문제가 발생하는 근본적인 원인이 AI 모델 중심의 접근에 있다고 분석합니다. 


그에 따르면, AI에 대한 고전적인 접근방식은 해결하려는 문제에 적합한 오픈소스 모델을 찾은 뒤, 이를 학습시키기 위한 데이터를 수집하는 것에서 시작하는데, 베스트케이스 시나리오를 전제해도 완벽히 통제된 실험실 상황에서 모델이 정확한 값을 도출할 수 있게 학습시키는데만 6~8주가 걸리며 이후 보안 및 데이터 통합 레이어 추가, 스몰데이터 처리, 성능가속화, 동적 데이터 조건에서의 모델 안정성 확보 등 실제 프로덕션 단계에 도달하기까지 무수히 많은 난제를 해결해야하기 때문에 평균적으로 AI가 프로덕션 단계에 이르는데 1.5년 가량의 시간과 막대한 비용이 소모됩니다. 문제는 이렇게 해서 만들어진 것이 매우 특수한 유즈케이스에 특화된 단일 AI 솔루션으로, 이것을 구축하는데 투입되었던 요소들이 다른 엔터프라이즈 AI 솔루션의 제작에 재사용될 수도 없으며 전사적인 AI 적용에 기여할 수도 없다는 점인데요. 그는 많은 기업들이 연 5,000만 달러에 이르는 막대한 투자에도 불구하고 AI 도입 후 몇 년이 경과한 지금까지도 ROI 달성을 하지 못하는 이유가 여기에 있다고 평가하며, 고전적인 모델 중심 접근 대신 프로덕션 중심의 접근으로 전환할 것을 주장합니다. 


이는 특정 AI 모델을 중심으로 개발 노력을 집중시키는 대신, 동일한 프레임워크를 기반으로 여러 개의 AI 모델을 지원할 수 있는 전사적 시스템 혹은 인프라를 개발하는데 중점을 두어야한다는 것으로, 그는 특정 유즈케이스에 특화된 솔루션을 개발하는 대신, 확장 가능한 범용적 구성요소들을 구축하는 쪽으로 개발의 방향성을 전환함으로써 전사적 AI 적용의 발판을 놓을 수 있다고 주장합니다. 물론 잘 훈련된 AI 모델은 여전히 성공적인 AI 구현을 위한 출발점이 맞기는 하지만, AI 모델 및 ML 코드의 발전이 오픈소스에 의해 주도됨에 따라 좋은 모델을 보다 쉽고 저렴하게 구할 수 있는 환경으로 변화하고 있음을 고려하면, AI 구축은 이제 모델의 문제라기보다는 인프라의 문제에 가까워 졌다는 것인데요. 이 인프라의 개발에 집중하는 방향의 전환을 통해 기업들이 AI 도입의 ROI를 달성할 수 있다는 것이 그의 주장입니다. 



스노우플레이크·데이터브릭스 등 인프라 업체들의 강세, "2021년 트렌드는 인프라"


기업들의 AI 전환을 가능하게 하는 인프라의 중요성이 커지고 있음은 비단 이 글 뿐 아니라, 스노우플레이크(Snowflake), 데이터브릭스(Databricks), 데이터이쿠(Dataiku), 데이터로봇(DataRobot) 등의 강세를 통해서도 확인할 수 있는 부분인데요. 데이터브릭스는 올 한 해에만 26억 달러(누적 35억 달러)라는 눈돌아가는 금액의 투자를 유치했으며 데이터이쿠와 데이터로봇 모두 올해 메가라운드급 투자(데이터이쿠 4억 달러, 누적 6억 4,680만 달러/데이터로봇 2억 5,000만 달러, 누적 10억 달러)의 투자를 유치했습니다. 지난해 9월 상장한 스노우플레이크의 경우, 상장 첫 날부터 공모가의 두 배가 넘는 가격으로 장을 마감한 데 이어 최근에도 상장시점 대비 50% 가량 상승한 가격으로 거래되는 중으로, 올해 9월 기준 기업가치/NTM(Next Twelve Monthes) 매출 배수 1위를 기록하는 등 높은 가치를 인정받고 있습니다. 


기업가치/NTM(Next Twelve Monthes) 매출 배수 순위 

출처: 벤쳐비트 기사에서 재인용(원본: Jamin Ball, Clouded Judgement, September 24, 2021)


MAD 랜드스케이프에서도 2021년의 가장 중요한 트렌드 중 하나로 MAD 시장의 성숙과 함께 마켓 리더 그룹이 막대한 규모로 성장하여 시장을 장악해 나가고 있다는 점을 꼽으며 스노우플레이크, 데이터브릭스, 데이터이쿠, 데이터로봇 등을 그 사례로 꼽았는데요. 또 하나의 핵심 트렌드로 데이터/ML 인프라 영역 내 신규 카테고리의 등장 및 관련 기업들의 급격한 성장을 꼽는 등, AI 개발 및 운용에 필요한 데이터 인프라에 대해 매우 중요하게 다루고 있습니다. 


2021년 MAD 핵심 트렌드 

출처: 벤처비트 MAD 랜드스케이프 2021 기반으로 로아인텔리전스 재가공



마치며...

이상의 내용은 대략 이렇게 정리할 수 있을 듯 한데요. 첫째, AI를 둘러싼 논의는 자율주행이나 휴머노이드 등 AI를 이용한 완전히 새로운 유즈케이스를 만들어내는 것보다는 AI를 기업들의 기존 업무에 적용하여 자동화하고 효율화하는 쪽으로 집중되고 있다는 것. 그리고 둘째, AI 모델의 오픈소스화 및 민주화(democratization)으로 인해 점점 AI 모델보다는 그러한 모델의 동적인 적용 및 배포를 가능하게 하는 인프라의 중요성이 커지고 있다는 것입니다. 이 두 가지는 사실 연동되어있는 문제로, AI가 R&D 랩이나 이미 인프라가 어느정도 균질화되어있는 웹에서 벗어나 제각기 상이한 데이터와 프로세스가 혼재하는 실제 비즈니스의 세계로 옮겨옴에 따라 이에 맞는 접근방식의 전환이 필요해진 것이라 할 수 있습니다. 이에 맞춰 AI를 보는 시각 역시 'AI'라는 것 자체에 초점을 맞추기보다는, 그것을 실제 환경에 도입하고 운용할 수 있도록 하는 인프라와 생태계, 산업환경 등으로 넓어져야 하는 시점입니다. 

함께보면 좋은 기사

거품 이후의 인공지능, AI의 ROI 달성은 가능할까?

이 글을 쓰는 23일, 한국의 종합 AI 기업을 표방한 마인즈랩이 코스닥 상장 첫날 거래에서 다소 애매한 성적을 거뒀습니다. 마인즈랩은 장중 한때 공모가 대비 약 6% 낮은 주당 28,300원까지 하락했다가 주당 38,000원에 첫 날 거래를 마쳤는데요. 종가기준으로 공모가대비 27% 가량 상승하기는 했으나 '따상'(공모가 대비 두 배로 시초가가 형성된 뒤 가격제한폭까지 올라 마감하는 것을 일컷는 속어)도 흔한 요즘 시장에서 이 정도를 성공적인 데뷔라고 하기엔 좀 무리가 있을 듯 합니다. (그리고 이 글을 마무리하는 26일, 주가는 한층 더 떨어져 30,700원에서 장을 마쳤습니다.)



기대와 실제의 괴리, "AI에 대한 과대평가" 우려 

 

이름 좀 알려진 AI 기업이라고 하면 적자 규모는 물론이거니와 아직 매출조차 발생하지 않더라도 투자금을 수십억 달러 단위로 쓸어모으던 몇 년 전을 생각하면, 아무리 적자 규모가 매출의 두 배(2020년 기준 마인즈랩의 연결재무제표 기준 매출은 112억 9,200만원, 순손실은 203억 8,500만 원입니다)에 가깝다고는 하지만 고객사 레퍼런스도 상당하고 누적으로 263억 원의 투자를 유치해 1,000억 원에 육박하는 기업가치를 인정받았던 마인즈랩이 공개시장에서 이처럼 박한 평가를 받고 있는 상황이 생소하게 느껴지실 수 있는데요. 사실 AI가 지나치가 과대평가(Over Hyped)되었다는 지적은 꽤 오래 전부터 꾸준히 제기되어왔습니다.  


이를 대표적으로 보여주는 사례가 자율주행이라고 할 수 있는데요. 한때 자율주행트럭 업계의 기대주였으나 지난해 초 자금조달 실패로 폐업을 선언한 스타스키 로보틱스(Starsky Robotics)의 경우, CEO가 자율주행 기술의 실제 발전 수준과 AI에 대한 대중적 기대감의 괴리에서 발생하는 투자자들의 실망감으로 인해 후속투자 유치에 어려움을 겪었다고 토로하기도 했습니다. 비단 스타스키 로보틱스 뿐만 아니라, 한때 토요타(Toyota)와 소프트뱅크(Softbank)로부터 외부투자를 유치하며 72억 5,000만 달러의 기업가치를 인정받았던 우버(Uber)의 자율주행 사업부 ATG가 그에 한참 못미치는 기업가치인 40억 달러로 오로라(Aurora)에 매각되는 등, 지난해는 유난히 자율주행 업계에 있어 혹독했던 한 해었습니다. 


머신러닝 시스템에 대한 기대와 현실 사이의 괴리

출처: 스타스키 로보틱트 CEO Stefan Seltz-Axmacher의 미디엄 블로그



'AI'에서 '자동화'로, 이름 바뀌었어도 메가트렌드는 여전


그렇다면 이같은 현상은 AI가 한때의 열풍에 불과하였음을 반증하는 것일까요? 매년 머신러닝, AI, 데어터 업계 동향을 정리하여 연례 MAD 지형도(Machine learning, AI, and Data landscape) 형태로 발간하는 벤쳐비트에 의하면 그 답은 '아니다'입니다. 벤쳐비트는 지난달 공개된 2021년 MAD 지형도에서 자율주행 등, 초현실적 애플리케이션에 대한 관심은 다소 수그러들었으나, 올해에도 엔터프라이즈 애플리케이션 중심으로 AI 적용과 관련한 투자는 매우 활발하게 추진되었다고 분석했는데요. 한때 'AI'라는 용어로 표현되었던 혁신이 이제는 올해에는 '자동화'라는 용어로 표현되어 AI에 대한 논의가 축소되었다고 여겨질 뿐, 사실 두 용어 모두 동일한 메가트렌트를 기술의 성숙도나 업계 확산 정도, 시장 상황 등에 맞추어 다르게  표현한 것이라는 분석으로 벤쳐비트는 이를 아래와 같이 설명합니다. 


동일한 메가트렌드의 세 가지 다른 이름 

출처: 벤처비트 MAD 랜드스케이프 2021 기반으로 로아인텔리전스 재가공


이같은 설명에 의하면, '모든 기업은 AI/데이터 기업이 된다'라는 명제의 의미는 자율주행차나 로봇, 휴머노이드같은 공상과학적 비즈니스를 하는 기업들만 융성하리라는 것이 아니라, 모든 기업들이 AI를 각자의 업무 프로세스에 적용하여 업무의 일부를 자동화하고, 실시간 데이터 기반으로 인텔리전스한 의사결정을 할 수 있게 되리라는 것이 됩니다. 실제로도 많은 기업들이 이를 위해 투자하는 중으로, AI 학습데이터 전문업체 아펜(Appen)이 1,200개 이상 기업을 대상으로 진행한 설문조사에 의하면, 이들 기업들은 이미 평균 연 3,800만 달러를 AI 도입에 투자하고 있는 것으로 나타났습니다. 포츈 1,000대 기업 중 70개 사 이상을 대상으로 진행된 뉴벤쳐스파트너스(NewVantage Partners) 설문조사에서도, 응답기업 중 무려 91.5%가 AI에 투자하고 있는 것으로 확인되었으며, 응답기업 중 2/3 이상은 연 투자 금액이 5,000만 달러 이상이라고 응답했습니다.



 투자는 활발하지만 성과는 '글쎄', AI의 ROI를 저해하는 세 가지 문제 


그러나 여기서도 문제는 문제는 과연 AI가 기대한 만큼의 성과를 가져다 주느냐인데요. 조사 결과를 보면 엔터프라이즈 애플리케이션 영역에서도 AI에 대한 투자가 만족스러운만한 성과로 이어지지는 못하고 있는 것으로 보입니다. 위의 뉴벤쳐스파트너스 조사를 보면, 절대다수의 기업이 AI에 투자하고 있다고 응답했음에도 AI를 실제 프로덕션 레벨에서 광범위하게 배포했다고 응답한 기업의 비율은 14.6%에 그쳤습니다. 이에 따라 AI에 대한 투자의사 역시 감소하는 듯한 모습으로, AI에 대한 투자를 늘리겠다고 응답한 기업의 비율은 2019년 91.6%에서 2020년 51.9%로 금감했으며, AI를 가장 영향력이 큰(disruptive) 기술로 꼽은 응답 기업 비율도 2019년 80%에서 2020년 69.5%로 감소했습니다. 


이처럼 AI가 사이저블한 성과로 이어지지 않는 경우가 많다는 것은 AI 등 혁신기술의 잠재력에 대해 매우 낙관적인 입장을 지속적으로 피력해 온 안드레센 호로위츠(Andreessen Horowitz) 또한 인정하는 부분으로, 안드레센 호로위츠는 AI가 기존 방식의 소프트웨어처럼 빠르게 적용이 확산될 수 없는 이유를 아래와 같이 세 가지로 정리합니다. 


  • 총마진(Gross margins)의 문제: AI에는 두 가지의 숨겨진 비용(막대한 클라우드 사용료, 정확도 향상을 위해 필수적으로 투입되어야 하는 인력의 인건비)가 있으며, 이로 인해 총마진(gross margin)이 낮음 (SaaS의 경우 60~80% 이상인 데 비해, AI기업의 경우 50~60% 범위) 
  • 확장성(Scaling)의 문제: AI 애플리케이션의 대부분은 노이즈가 많은 비정형데이터를 다루며, 개방형 인터페이스(open-ended interfaces)로 고객이 입력 가능한 범위가 지나치게 넓기 때문에 신규 고객에게 AI를 배포할 때마다 완전히 새로운 종류의 데이터를 핸들링해야 하는 상황에 놓이게 됨(같은 자동차 제조업 영역 고객이라도, 조립라인의 배치 등 매우 사소한 차만으로도 AI 학습에 필요한 데이터가 완전히 달라질 수 있음)
  • 시장방어력(Defensibility)의 문제: AI 모델 아키텍쳐는 주로 개방적/학술적인 환경에서 개발되며, 사전 학습된 모델을 오픈소스 라이브러리에서 누구나 가져와 사용할 수 있기 때문에 전통적 소프트웨어 기업이 가지는 강력한 네트워크 효과와 높은 전환비용, 규모의 경제 등 방어적 경쟁력을 AI 기업에서는 찾아보기 어려움 

실제로도 이같은 문제로 인해 C3.ai나 팔란티어(Palantir), 센스타임(Sensetime) 등 이미 업력이 상당하고 일정수준 이상의 성과를 달성하여 상장까지 마친 대표 AI 기업들조차 여전히 적자에서 벗어나지 못하고 있는 상황으로, 이 중 상당수는 적자의 규모가 매출 규모와 비등하거나 오히려 더 큰 수준입니다. CB 인사이츠의 AI 100 리스트 중 투자금액 기준 상위 업체들이나 소프트뱅크의 AI 포트폴리오 업체 등, 업계에서 유망한 것으로 손꼽히는 업체들을 뒤져봐도 이 중 흑자전환하여 실제 수익을 거두고 있는 업체들은 거의 없다시피하며, 적자 규모가 매출의 두 배 이상이거나 아예 매출이 존재하지 않은 경우도 허다한데요. 전문적인 AI 업체들의 사정이 이러하니, AI를 자사 비즈니스에 도입하고자 투자 중인 업체들의 ROI가 시원찮은 것도 어찌보면 당연한 일이라고 할 수 있겠습니다. 



AI 모델 중심 접근에서 프로덕션 중심 접근으로, "AI는 이제 인프라의 문제" 


그렇다면 이제 물어야 할 질문은 어떻게 하면 이같은 문제를 해결하고, AI 투자의 ROI를 거둘수 있는가가 될 것입니다. 이에 대해 엔터프라이즈용 AI 플랫폼 비온드마인즈의 공동창업자인 로이 맥케즈(Roey Mechrez)는 안드레센 호로위츠와 유사하게 가치 실현 시간(Time to value), 수익성과 비용(Profitability & costs), 확장성 등 기업들의 AI 성과 도출을 어렵게 하는 이유로 꼽으며 이같은 문제가 발생하는 근본적인 원인이 AI 모델 중심의 접근에 있다고 분석합니다. 


그에 따르면, AI에 대한 고전적인 접근방식은 해결하려는 문제에 적합한 오픈소스 모델을 찾은 뒤, 이를 학습시키기 위한 데이터를 수집하는 것에서 시작하는데, 베스트케이스 시나리오를 전제해도 완벽히 통제된 실험실 상황에서 모델이 정확한 값을 도출할 수 있게 학습시키는데만 6~8주가 걸리며 이후 보안 및 데이터 통합 레이어 추가, 스몰데이터 처리, 성능가속화, 동적 데이터 조건에서의 모델 안정성 확보 등 실제 프로덕션 단계에 도달하기까지 무수히 많은 난제를 해결해야하기 때문에 평균적으로 AI가 프로덕션 단계에 이르는데 1.5년 가량의 시간과 막대한 비용이 소모됩니다. 문제는 이렇게 해서 만들어진 것이 매우 특수한 유즈케이스에 특화된 단일 AI 솔루션으로, 이것을 구축하는데 투입되었던 요소들이 다른 엔터프라이즈 AI 솔루션의 제작에 재사용될 수도 없으며 전사적인 AI 적용에 기여할 수도 없다는 점인데요. 그는 많은 기업들이 연 5,000만 달러에 이르는 막대한 투자에도 불구하고 AI 도입 후 몇 년이 경과한 지금까지도 ROI 달성을 하지 못하는 이유가 여기에 있다고 평가하며, 고전적인 모델 중심 접근 대신 프로덕션 중심의 접근으로 전환할 것을 주장합니다. 


이는 특정 AI 모델을 중심으로 개발 노력을 집중시키는 대신, 동일한 프레임워크를 기반으로 여러 개의 AI 모델을 지원할 수 있는 전사적 시스템 혹은 인프라를 개발하는데 중점을 두어야한다는 것으로, 그는 특정 유즈케이스에 특화된 솔루션을 개발하는 대신, 확장 가능한 범용적 구성요소들을 구축하는 쪽으로 개발의 방향성을 전환함으로써 전사적 AI 적용의 발판을 놓을 수 있다고 주장합니다. 물론 잘 훈련된 AI 모델은 여전히 성공적인 AI 구현을 위한 출발점이 맞기는 하지만, AI 모델 및 ML 코드의 발전이 오픈소스에 의해 주도됨에 따라 좋은 모델을 보다 쉽고 저렴하게 구할 수 있는 환경으로 변화하고 있음을 고려하면, AI 구축은 이제 모델의 문제라기보다는 인프라의 문제에 가까워 졌다는 것인데요. 이 인프라의 개발에 집중하는 방향의 전환을 통해 기업들이 AI 도입의 ROI를 달성할 수 있다는 것이 그의 주장입니다. 



스노우플레이크·데이터브릭스 등 인프라 업체들의 강세, "2021년 트렌드는 인프라"


기업들의 AI 전환을 가능하게 하는 인프라의 중요성이 커지고 있음은 비단 이 글 뿐 아니라, 스노우플레이크(Snowflake), 데이터브릭스(Databricks), 데이터이쿠(Dataiku), 데이터로봇(DataRobot) 등의 강세를 통해서도 확인할 수 있는 부분인데요. 데이터브릭스는 올 한 해에만 26억 달러(누적 35억 달러)라는 눈돌아가는 금액의 투자를 유치했으며 데이터이쿠와 데이터로봇 모두 올해 메가라운드급 투자(데이터이쿠 4억 달러, 누적 6억 4,680만 달러/데이터로봇 2억 5,000만 달러, 누적 10억 달러)의 투자를 유치했습니다. 지난해 9월 상장한 스노우플레이크의 경우, 상장 첫 날부터 공모가의 두 배가 넘는 가격으로 장을 마감한 데 이어 최근에도 상장시점 대비 50% 가량 상승한 가격으로 거래되는 중으로, 올해 9월 기준 기업가치/NTM(Next Twelve Monthes) 매출 배수 1위를 기록하는 등 높은 가치를 인정받고 있습니다. 


기업가치/NTM(Next Twelve Monthes) 매출 배수 순위 

출처: 벤쳐비트 기사에서 재인용(원본: Jamin Ball, Clouded Judgement, September 24, 2021)


MAD 랜드스케이프에서도 2021년의 가장 중요한 트렌드 중 하나로 MAD 시장의 성숙과 함께 마켓 리더 그룹이 막대한 규모로 성장하여 시장을 장악해 나가고 있다는 점을 꼽으며 스노우플레이크, 데이터브릭스, 데이터이쿠, 데이터로봇 등을 그 사례로 꼽았는데요. 또 하나의 핵심 트렌드로 데이터/ML 인프라 영역 내 신규 카테고리의 등장 및 관련 기업들의 급격한 성장을 꼽는 등, AI 개발 및 운용에 필요한 데이터 인프라에 대해 매우 중요하게 다루고 있습니다. 


2021년 MAD 핵심 트렌드 

출처: 벤처비트 MAD 랜드스케이프 2021 기반으로 로아인텔리전스 재가공



마치며...

이상의 내용은 대략 이렇게 정리할 수 있을 듯 한데요. 첫째, AI를 둘러싼 논의는 자율주행이나 휴머노이드 등 AI를 이용한 완전히 새로운 유즈케이스를 만들어내는 것보다는 AI를 기업들의 기존 업무에 적용하여 자동화하고 효율화하는 쪽으로 집중되고 있다는 것. 그리고 둘째, AI 모델의 오픈소스화 및 민주화(democratization)으로 인해 점점 AI 모델보다는 그러한 모델의 동적인 적용 및 배포를 가능하게 하는 인프라의 중요성이 커지고 있다는 것입니다. 이 두 가지는 사실 연동되어있는 문제로, AI가 R&D 랩이나 이미 인프라가 어느정도 균질화되어있는 웹에서 벗어나 제각기 상이한 데이터와 프로세스가 혼재하는 실제 비즈니스의 세계로 옮겨옴에 따라 이에 맞는 접근방식의 전환이 필요해진 것이라 할 수 있습니다. 이에 맞춰 AI를 보는 시각 역시 'AI'라는 것 자체에 초점을 맞추기보다는, 그것을 실제 환경에 도입하고 운용할 수 있도록 하는 인프라와 생태계, 산업환경 등으로 넓어져야 하는 시점입니다. 

함께보면 좋은 기사