우리는 전환점을 맞이하고 있습니다. 저는 2027년이 되면 AI가 더 이상 모델의 정교함으로 평가받지 않고, 실질적인 고객 가치와 운영 효율성, 수익성 있는 성장을 실현하는지 여부에 따라 평가될 것이라고 믿습니다. 이러한 전환을 이루지 못하는 기업들은 AI에 대한 과대광고가 매우 짧은 기간 동안만 지속되었음을 깨닫게 될 것이며, AI를 측정 가능한 성과로 전환하지 못한 기업들은 상당한 시장 조정 국면에 직면할 가능성이 높습니다.
Medallia 수년 동안 이러한 미래를 염두에 두고 제품을 설계해 왔습니다. 모델에 프롬프트가 입력되기 훨씬 전에 기업용 AI의 성패가 결정된다고 믿기 때문입니다. 제 동료들은 우리가 대규모로 서비스를 제공할 수 있는 입지를 갖춘 이유, 고객 경험(CX) 성숙도의 진정한 기회가 어디에 있는지, 그리고 왜 인간과 AI 에이전트 모두를 위해 시스템을 구축하고 있는지에 이르기까지, 이러한 변화를 다양한 각도에서 조명해 왔습니다.
하지만 기업용 AI에 관한 대화는 여전히 거의 예외 없이 모델 이야기부터 시작됩니다. 저는 이것이 순서가 뒤바뀐 것이라고 생각합니다. 기업용 AI의 성패는 모델에 명령을 내리기 훨씬 전에 이미 결정되기 때문입니다.
모든 것은 아키텍처에서 시작됩니다. 바로 이것이, 경험의 미래를 진정으로 주도하는 기업들과 단순히 그 경험을 보고하는 데 그치는 기업들을 궁극적으로 구분 짓는 기준이 될 것입니다.
파운데이션 모델이 지속적으로 발전하고 점점 더 대중화됨에 따라, AI 그 자체는 더 이상 경쟁 우위의 차별화 요소가 아닙니다. 지속적인 경쟁 우위는 파운데이션 모델을 기반으로 구축된 플랫폼에서 비롯될 것이며, 이러한 플랫폼은 신뢰할 수 있는 지능을 제공하고, 행동을 안전하게 조정하며, 아키텍처를 재설계할 필요 없이 지속적으로 진화할 수 있도록 설계되어야 합니다. 미래는 고립된 AI 기반 기능이 아닌, 재사용 가능한 AI 플랫폼 서비스를 구축하는 조직의 몫입니다.
저는 미래가 다음 네 가지 건축적 약속에 달려 있다고 믿습니다:
“그라운드 트루스(Ground truth)”란 모든 의사결정이 올바른 행동을 취하는 데 필요한 비즈니스 맥락이 반영된, 신뢰할 수 있고 실시간이며 추적 가능한 데이터를 기반으로 한다는 것을 의미합니다. AI는 자신이 수신한 정보에 의해서만 의사결정을 내릴 수 있습니다. 그 정보가 불완전하거나, 오래된 것이거나, 비즈니스 맥락과 동떨어져 있을 때, AI는 단순히 실수를 하는 것이 아니라 기계의 속도로 확신에 찬 실수를 저지르게 됩니다. AI 에이전트의 추론은 행동 순간에 컨텍스트 윈도우에 포함된 내용에 국한되는 반면, 인간 분석가는 모든 의사결정에 조직의 축적된 지식을 반영합니다. 해당 컨텍스트가 누락되어도 에이전트는 어쨌든 자신 있게 대규모로 행동을 취합니다.
Medallia에서는 고객 인사이트가 원본 데이터를 기반으로 합니다. 모든 추론은 검증 가능하며, 모든 서비스는 해당 서비스의 대상 사업에 대한 이해를 지속적으로 향상시키도록 설계되었습니다. 예를 들어, 저희는 인사이트 에 출시 초기부터 이러한 추적 기능을 구축하여, 모든 응답이 이를 생성한 원본 자료로 연결되도록 했습니다. 이는 단순히 사람이 답변을 확인할 수 있도록 하기 위함일 뿐만 아니라, 후속 단계의 상담원들이 추측이 아닌 확실한 정보를 바탕으로 당사의 인사이트를 바탕으로 자신 있게 대응할 수 있도록 하기 위함입니다.
‘그라운드 트루스’는 혁신에 대한 제약이 아니라, 혁신을 안전하게 확대할 수 있게 해주는 요소입니다.
자율 AI 에이전트는 경고 배너나 정책 문서를 읽기 위해 멈춰 서지 않습니다. 그저 실행할 뿐입니다. 이는 우리가 거버넌스를 바라보는 방식을 근본적으로 바꿔 놓습니다. 더 이상 UI 안내 메시지, 사용자 권한, 또는 직원들이 문서화된 절차를 따르는 것에만 의존할 수 없습니다. 기업들이 수천 개의 내부 및 외부 AI 에이전트를 배포하기 시작함에 따라, 거버넌스는 플랫폼 자체의 일부가 되어야 합니다. 보안, 권한 부여, 데이터 상주, 데이터 계보, 감사, 속도 제한 등은 사후에 덧씌우는 방식이 아니라, 기반 아키텍처에 내장되어 기본적으로 적용되어야 합니다.
이는 저희에게 있어 단순한 이론상의 약속이 아닙니다. Medallia플랫폼은 이미 금융 서비스, 의료, 정부 기관 등 규제가 매우 엄격한 산업 분야에 서비스를 제공할 수 있도록 하는 동일한 보안 표준, 즉 SOC 2 Type II, ISO 27001, 27017, 27018, 27701, HITRUST, GDPR, CCPA 및 HIPAA에 따라 운영되고 있습니다.
저희는 이러한 엄격한 기준을 AI 분야에도 적용하고 있습니다. Medallia AI 관리 시스템에 대한 국제 표준인 ISO/IEC 42001 인증을Medallia , 모델의 구축, 배포 및 모니터링 방식을 규율하는 공식적인 ‘책임 있는 AI(Responsible AI)’ 프레임워크를 운영하고 있습니다.
이것이 바로 우리가 에이전트 거버넌스를 구축하기 위해 마련하고 있는 견고한 기반이며, 이미 기업 규모에서 그 효과가 입증된 인프라의 확장판입니다. 조직들이 수천 개의 자율 에이전트를 배포함에 따라, 거버넌스도 이에 발맞춰 확장되어야 하며, 기업 데이터를 보호하면서도 AI가 빠른 속도로 작동할 수 있도록 해야 합니다.
AI 혁신의 속도는 사실 모델이 얼마나 똑똑하느냐에 의해 제한되는 것이 아니라, 조직이 자사의 AI가 무엇을 하고 있는지 파악하고, 오류가 확산되기 전에 이를 포착하며, AI에 의존하는 다른 모든 시스템을 망가뜨리지 않고 문제를 해결할 수 있느냐에 달려 있습니다.
이러한 가시성이 없다면, 위험을 완전히 파악할 수 없기 때문에 새로운 AI 기능 하나하나를 신중하게 다뤄야 합니다. 반면, 가시성이 확보된다면 속도와 안전성 중 하나를 선택해야 하는 대신, 두 가지를 동시에 확보하며 신속하고 안전하게 나아갈 수 있습니다.
AI 모델은 계속해서 발전할 것이며, 이를 뒷받침하는 도구와 기술 역시 끊임없이 진화할 것입니다. 잘 구축된 플랫폼이라면 새로운 기술이 등장할 때마다 이를 적용할 수 있는 반면, 제대로 구축되지 않은 플랫폼은 무언가 변경될 때마다 모든 것을 처음부터 다시 만들어야만 합니다.
당사의 플랫폼은 지속적으로 자체 상태를 모니터링하며, 실행 중인 모델과 별개로 자율적으로 진화할 수 있기 때문에, 고객이 배포 환경을 재설계할 필요 없이 41억 건 이상의 피드백 신호를 처리하는 동시에 문맥 이해도를 5배나 높일 수 있었습니다.
이것은 성능 벤치마크에 관한 것이 아닙니다. 조직의 규모나 복잡성에 상관없이 모든 고객이, 이를 가능하게 하는 배후의 방대한 인프라에 대해 전혀 신경 쓸 필요 없이 빠르고 안정적이며 신뢰할 수 있는 AI를 이용할 수 있도록 하는 것이 핵심입니다.
대부분의 기업용 소프트웨어는 여전히 비즈니스 맥락을 별도의 독립된 요소로 취급하기보다는 소프트웨어 자체 내에 묻어두는 경향이 있습니다. 예를 들어, 누가 어떤 고객을 담당하는지, 어떤 팀이 어떤 지역을 책임지는지, 누가 무엇을 승인해야 하는지, 어떤 규칙이 어디에 적용되는지 등과 같은 정보들이 그렇습니다.
현재 이러한 정보는 여기저기 흩어져 있는데, 어떤 워크플로에는 일부가 있고, 또 다른 맞춤형 시스템에는 또 다른 일부가 있습니다. 기업이 새로운 제품을 개발하거나 새로운 AI 도구를 도입할 때마다, 해당 도구는 이 모든 것을 처음부터 다시 학습해야 합니다. 저는 이것이 ‘AI 우선’ 기업을 위한 올바른 개발 방식이 아니라고 생각합니다.
데이터는 AI에게 무슨 일이 일어났는지를 알려줍니다. 비즈니스 맥락은 AI에게 그 의미가 무엇인지 알려줍니다. 이러한 맥락이 없다면, 모든 애플리케이션과 AI 에이전트는 우연히 근처에 있는 데이터를 바탕으로 비즈니스 운영 방식을 재구성해야만 합니다. 이는 소프트웨어 측면에서 비효율적일 뿐만 아니라 자율 AI의 경우 용납될 수 없는 일입니다. 비즈니스 맥락은 공유 플랫폼 서비스로 한 번 모델링되어 어디서나 재사용되어야 합니다.
이것이 실무에서 중요한 이유는 다음과 같습니다. AI 에이전트가 ‘이 고객 관계의 담당자는 누구인가? ’, ‘이 사안을 어느 팀이 승인해야 하는가? ’, ‘이 지역에는 어떤 규칙이 적용되는가? ’와 같은 정보를 알아야 할 때, 여러 곳에서 흩어진 단편적인 데이터를 조합해 추측할 필요가 없어야 합니다. AI가 간단히 확인할 수 있는 하나의 신뢰할 수 있는 정보원에 그 답이 이미 존재하기 때문에, AI는 이미 그 답을 알고 있어야 합니다.
이 분야는 Medallia 확실한 선두를 Medallia 분야입니다. 저희는 수십 년에 걸쳐 고객들의 의견뿐만 아니라, 모든 산업 분야의 세계 최고 브랜드들이 실제로 어떻게 운영되는지, 그들의 조직 구조, 팀 구성, 승인 절차, 그리고 일상적인 업무 운영 방식까지 깊이 있게 파악해 왔습니다.
경험 관리 대한 이러한 축적된 이해는 그 어떤 단일 데이터 세트보다 더 큰 가치를 경험 관리 . 이는 AI가 단순히 눈앞에 놓인 데이터를 무작정 패턴 매칭하는 데 그치지 않고, 진정한 확신을 가지고 추론할 수 있게 해주는 비즈니스 지식입니다.
비즈니스 맥락을 공유 플랫폼 서비스 형태로 한 번만 모델링하면, 모든 새로운 AI 애플리케이션이 해당 맥락을 자동으로 상속받게 됩니다. 어떤 팀도 이를 처음부터 다시 구축할 필요가 없습니다. 맥락이 중복되지 않고 공유되기 시작하기 때문에 혁신의 속도가 더욱 빨라집니다.
이제 이 글의 핵심이자, 현재 AI 투자를 주도하고 있는 모든 기술 리더에게 가장 중요하다고 생각하는 점으로 넘어가겠습니다. 바로 지속 가능한 AI 혁신의 속도는 그 기반이 되는 아키텍처의 품질에 의해 결정된다는 사실입니다. 보안, 거버넌스, 데이터 완전성, 가시성은 혁신을 저해하는 제약 요소가 아닙니다. 오히려 이러한 요소들이야말로 AI를 신속하고 반복적으로, 그리고 비즈니스에 실질적인 변화를 가져올 수 있는 규모로 운영 환경에 배포할 수 있게 해주는 원동력입니다.
그리고 그 목록에 한 가지 원칙을 더 덧붙이고 싶습니다. 바로 ‘아직 예측할 수 없는 미래를 대비해 구축하라’는 것입니다. 오늘날 우리가 구축하는 플랫폼은 현재 상상할 수 있는 AI 기능만을 지원해서는 안 됩니다. 아직 상상조차 하지 못한 기능까지 지원할 수 있을 만큼 유연해야 합니다.
엔터프라이즈 소프트웨어는 이제 지능이 개별 제품에 덧씌워진 기능이 아닌, 상시 가동되는 플랫폼 서비스가 되는 시대로 접어들고 있습니다. 제품별로 기능을 일일이 재구축하는 대신, 새로운 기능을 기업 전체에서 조합하고 재사용할 수 있도록 만드는 조직이 승자가 될 것입니다.
20년 전만 해도 모든 기업은 데이터 플랫폼을 구축해야 했습니다. 오늘날에는 그 투자에 대해 의문을 제기하는 사람은 아무도 없습니다. 저는 우리가 AI 분야에서도 비슷한 시점에 다다르고 있다고 생각합니다. 성공할 기업들은 단순히 더 나은 모델을 도입하는 데 그치지 않을 것입니다. 그들은 지능, 거버넌스, 비즈니스 맥락이 모든 애플리케이션, 워크플로우, 에이전트가 의존할 수 있는 기반 인프라가 되는 플랫폼을 구축할 것입니다.
기업들이 이러한 요소들을 나중에 해결해야 할 문제가 아니라, 지금 당장 최우선으로 다뤄야 할 아키텍처적 과제로 간주하는 플랫폼을 선택할 때, 그 이점은 기하급수적으로 커집니다 . 취약한 인프라 위에서 고립된 AI 기능을 계속해서 구축하는 기업들은 당장은 빠르게 나아갈 수 있을지 모르지만, 향후 10년 동안은 시스템을 재구축하는 데 시간을 허비하게 될 것이며, 그 사이 다른 기업들은 계속해서 그들을 앞지르며 가속해 나갈 것입니다.
모델은 지능을 창출합니다. 아키텍처는 지속적인 경쟁 우위를 창출합니다.
자세한 내용은 당사 전문가와 상담하세요.
