비즈니스용 생성형 AI 배포 시 고려해야 할 5가지 질문

CX 전문가로서 제너레이티브 인공 지능의 도입을 고려하고 있나요? 시작하기 전에 스스로에게 물어봐야 할 질문은 다음과 같습니다.

비즈니스 업계에서는 누구나 생성형 인공지능(AI)에 대해 이야기하고 있습니다. 두 회사가 기존 데이터에서 패턴을 마이닝하여 개인화된 서면 콘텐츠를 생성할 수 있는 AI 모델을 개발하면서 최근 몇 달 동안 OpenAI의 ChatGPT와 Google의 Bard에 대한 헤드라인을 수없이 많이 보셨을 것입니다.

제너레이티브 AI는 빠르게 성장하고 있습니다. ChatGPT의 월간 활성 사용자만 1억 명이 넘고, 웹사이트의 페이지뷰는 매달 10억 건이 넘습니다.

개인과 기업 모두 시를 짓는 것부터 제안요청서(RFP) 작성, 동영상 광고 제작에 이르기까지 다양한 사용 사례에 제너레이티브 AI를 활용하고 있습니다. 모든 사용 사례에서 한 가지 공통점이 있는데, 바로 사람처럼 보인다는 점입니다. 이러한 모델은 생성된 연구 논문에서 참고 문헌을 작성하는 데에도 점점 더 능숙해지고 있습니다.

무궁무진하고 위험 부담이 없는 것처럼 보이지만, 제너레이티브 AI에 무턱대고 올인해서는 안 됩니다. 모든 기술, 특히 신기술이 그렇듯이 장단점을 잘 따져봐야 합니다. 제너레이티브 AI가 표면적으로는 매력적으로 보일 수 있지만, 이를 구현하는 데 필요한 리소스가 부족할 수 있습니다. 또는 그 효과를 극대화할 수 있는 정확한 사용 사례를 모를 수도 있습니다. 특히 AI는 효과만큼이나 책임감을 유지하기 위한 보호 장치가 필요하다는 점을 염두에 두어야 합니다.

비즈니스에 제너레이티브 AI를 활용할 때 스스로에게 물어봐야 할 것들

생성형 AI는 급속히 성장하고 있으며, 향후 몇 년 내에 다양한 산업 분야의 기업들이 이 기술에 크게 의존하게 될 것으로 예상됩니다. 실제로 이미 많은 기업들이 이 기술을 도입하고 활용하기 위해 시간과 자원을 투자하고 있습니다. 특히고객 경험 CX)이나직원 경험 EX)전문가라면, 업무 운영에 생성형 AI를 도입하는 방안을 고려하게 될 수도 있습니다.

다음은 CX 전문가로서 제너레이티브 AI 모델이 효과적이고 윤리적이며 조직의 가치와 목표에 부합하는지 확인하기 위해 스스로에게 물어봐야 할 5가지 주요 질문입니다.

#1. 데이터를 안전하게 보호하고 개인정보 보호 기준에 맞게 유지하려면 어떻게 해야 하나요?

AI 모델을 배포하기 전에 학습 데이터, 특히 개인 식별 정보(PII)가 포함된 데이터의 개인정보 보호 및 보안을 고려하는 것이 중요합니다. 오픈 소스 AI 모델은 데이터 개인정보 보호 및 보안에 특별한 위험을 내포하고 있습니다. 이러한 위험은 소스 코드에 대한 오픈 액세스, 타사 라이브러리 사용, 공유 및 배포에 대한 통제 부족으로 인해 발생하는 취약성 때문입니다.

위험을 완화하기 위해 민감한 데이터에 AI 모델을 배포하는 기업은 코드베이스, 라이브러리 및 데이터 저장소에 대한 강력한 액세스 제어 및 조치를 마련해야 합니다.

#2. 모델에서 편견을 제거하기 위해 어떤 조치를 취했나요?

생성형 AI 모델은 대규모 데이터 세트에서 학습하고 해당 데이터를 기반으로 예측 또는 추천을 생성하도록 설계되었기 때문에 특히 편향에 취약합니다.

모델은 다양하고 대표성 있는 데이터 세트를 기반으로 훈련되어야 합니다. 고객 및 직원 경험 맥락에서 이는 기업의 고객 및 직원 기반의 인구통계학적 특성, 문화적 배경, 기타 세분화된 그룹을 충분히 반영하는 데이터가 있어야 함을 의미합니다. 오픈 소스 라이브러리를 활용할 때는 원본 자료의 사실적 정확성이나 윤리적 타당성에 대한 검증 절차가 없기 때문에, 데이터에 내재된 편향이 발생할 가능성이 더 높다는 점을 명심해야 합니다. 

모델의 잠재적인 알고리즘 편향도 인식하고 조사하는 것이 중요합니다. 모델이 무엇을 최적화하도록 학습되었나요? 예를 들어, 소셜 미디어에 특화된 결과물을 생성하도록 학습된 많은 생성형 AI 모델이 있는데, 이러한 플랫폼에서는 해당 콘텐츠가 일반적이고 효과적이며 증폭되기 때문에 양극화되거나 선정적인 콘텐츠가 더 많이 생성될 수 있습니다.

고려 중인 AI 모델이 CX 및 EX 사용 사례에 맞게 어떻게 학습되고 최적화되었는지, 그리고 편향성에 대해 모델이 어떻게 감사되고 모니터링되고 있는지 물어보세요. 

#3. 확장과 관련된 비용은 얼마인가요?

빠른 답변을 원하는 개인이 일회성 질문을 ChatGPT로 가져오는 것은 별개의 문제입니다. 하지만 기업 전체에 걸쳐 수천, 수억 개의 레코드에 걸쳐 생성형 AI를 확장하는 것은 또 다른 문제입니다.

제너레이티브 AI가 대규모로 성공하려면 대량의 다양하고 안전한 데이터, 고성능 컴퓨팅 클러스터의 인프라, 모델을 모니터링, 유지 관리 및 성장시키기 위한 연구 개발 리소스가 필요합니다.

비용은 구축 대 구매의 대화에서 가장 중요한 고려 사항이므로 조직이 확장 비용을 감당할 수 있는 준비가 되어 있는지 파악하세요. 또한 스스로에게 물어봐야 합니다: 자체 개발한 생성 AI를 비즈니스 프로세스와 워크플로에 통합하는 데 어느 정도의 노력이 필요할까요?

비용 대비 가치가 있으려면 AI가 측정 가능한 성과와 연결되어야 합니다. 생성 AI 모델의 필요성을 정당화하는 것이 가장 중요한 문제이므로 관련 비용을 평가하고 모델 사용에 대한 강력한 비즈니스 사례가 존재하는지 여부를 결정해야 합니다.

#4. CX 및 EX 프로그램에 제너레이티브 AI를 도입할 때 가장 영향력 있는 시작점은 무엇인가요?

생성형 AI를 활용해 비용을 절감할 수 있는 다양한 활용 방안을 구상하는 데 너무 휩쓸리지 마세요. 그 전에 먼저 실용성과 파급 효과를 고려해야 합니다. 컨택 센터 상담원을챗봇으로 전환해 수백만 달러를 절감할 수 있다면 정말 좋겠지만, 소비자와 사회 전반은 데이터 개인정보 보호 및 민감한 사안 처리 측면에서 AI를 완전히 신뢰하지 못하고 있습니다.

CX/EX에서 제너레이티브 AI 전략의 효과적인 출발점은 긍정적인 비즈니스 성과와 연결되고, 최고 경험 책임자(CXO) 와 다른 최고 경영진에게 설명하기 쉬우며, 기존 워크플로에 통합할 수 있는 전략입니다.

• 효율성 향상: 제너레이티브 AI는 상담원이 모든 고객 서비스 통화 후 수행해야 하는 통화 요약 및 처리 작업과 같이 시간이 많이 소요되는 작업을 자동화합니다.
• 인사이트를 얻는 시간 단축: AI를 사용하여 자연어 처리(NLP) 및 자연어 이해(NLU) 애플리케이션에서 규칙 기반 모델 생성 개발 및 유지 관리를 간소화함으로써 분석가가 결과와 조치를 도출하는 데 더 많은 시간을 할애할 수 있도록 해야 합니다.
• 개인화: 대량의 데이터를 분석하여 고객 개인별 또는 세그먼트별로 개인화된 추천을 생성해야 합니다. 예를 들어, 고객의 이력을 파악하여 고객 여정에서 고객이 선호하는 채널을 통해 보다 쉽게 고객을 유도할 수 있도록 지원하는 것이 그 예입니다.
• 직원 충성도 및 이직:생성형 AI는 직원 경험 더 잘 이해하고 직원 경험 번아웃,이직,직원 몰입도 문제를 해결하기 위한 의사결정을 내리는 데에도 활용될 수 있습니다.

#5. 비즈니스 전반에 걸쳐 제너레이티브 AI 전략의 도입을 추진하려면 어떻게 해야 하나요?

기술 솔루션은 대규모로 도입할 때 가장 큰 영향력을 발휘합니다. 하지만 AI는 대규모로 도입하기 어려운 기술입니다.

고객과 직원은 기술을 신뢰하지 못하거나 개인정보가 존중되지 않는다고 느끼면 AI 기반 시스템이나 추천과의 상호 작용을 주저할 수 있습니다. 

특히 직원의 성과 측정, 보상, 일상 업무에 영향을 미칠 수 있는 AI 전략은 투명하고 정직하게 소통하는 것이 중요합니다. 모델링 방법론을 공유하고, 질문을 장려하며, 정기적인 감사 또는 편향성 테스트 결과를 공개하세요. 보상이나 직원 리뷰에 직접적인 영향을 미치지 않는 사용 사례부터 시작하여 업무 자동화 및 워크플로 최적화와 같이 삶의 질을 높이는 사용 사례에 집중하세요.

마지막으로, 행동을 통해 채택과 의미 있는 비즈니스 성과를 모두 이끌어내려면 생성 AI 모델에 정확하고 실행 가능한 관련성 있는 결과물이 있어야 합니다.

제너레이티브 AI를 사용하여 업계를 선도할 준비를 하세요.

여러분과 경쟁사들은 이미 어느 정도 AI를 사용하고 있을 가능성이 높습니다. 이제 제너레이티브 AI의 유행 단계에서 벗어나 이 기술을 직원과 수익에 도움이 되는 실질적인 사용 사례에 집중해야 할 때입니다. 눈 깜짝할 사이에 콘텐츠를 제작하는 것부터 직원을 위한 프로세스 간소화에 이르기까지 제너레이티브 AI가 비즈니스에 가져다주는 이점에 대한 관심이 높아지고 있습니다. 그 가능성을 활용하세요.