Data + AI의 3박자: 사람, 프로세스 그리고 플랫폼

비즈니스 리더들은 모두 같은 질문을 합니다: 데이터와 AI에 대한 회사의 계획을 어떻게 가속화할 수 있을까요? 비즈니스를 위험에 빠뜨리지 않고 대규모 언어 모델(LLM)을 활용하려면 어떻게 해야 할까요? 그리고 어떻게 하면 이러한 시스템에서 최대한 빨리 가치를 창출할 수 있을까요?

누구나 과대광고를 피하고 자신의 데이터로 수익을 창출하고 전례 없는 기술 속도를 활용할 수 있는 방법을 찾고 싶어 합니다. 더 많은 비즈니스를 자동화하여 직원들이 더 높은 부가가치에 집중할 수 있도록 하고 싶어 합니다. 오래된 데이터를 쿼리하는 것에서 더 나아가 미래를 더 잘 파악하기를 원합니다. 보안 위험을 최소화하면서 가능한 한 비용을 절감하기를 원합니다. 물론 이들 모두는 지금 바로 결과를 얻고 싶어 합니다.

하지만 데이터와 AI에 관한 한 성공 전략은 회사마다 다를 것입니다. 데이터브릭스의 현장 CTO로서 우리는 수천 개의 기업이 데이터 스택을 현대화하고 AI를 사용하여 효율성을 높이고 재무적 성과를 창출하며 고객에게 더 나은 서비스를 제공할 수 있도록 코칭해 왔습니다.

경험상 기술 및 비즈니스 리더는 데이터와 AI를 실제로 활용하기 위해 필요한 변화의 범위를 과소평가하는 경우가 많습니다. 이는 단순히 몇 가지 새로운 IT 도구를 도입하거나, AI 애플리케이션을 테스트하거나, 클라우드로 이전하는 것 이상의 의미를 갖습니다.

그렇다면 성공적인 데이터 및 AI 전략을 위한 공식은 무엇일까요? 다른 많은 것들과 마찬가지로 이 모든 것은 적합한 인력, 프로세스, 플랫폼으로 귀결됩니다.

사람: 사용자 역량 강화 및 혁신 추진

궁극적으로 데이터 및 AI 전략의 성공 여부는 직원들이 제공된 인사이트와 효율성을 얼마나 수용하고 활용하며, 업무 완수를 위해 스스로의 행동을 변화시키는지에 달려 있습니다.

즉, 일선 직원부터 최고 경영진에 이르기까지 데이터 및 AI 사용 권한을 부여하고, 재교육하고, 지원해야 합니다. 목표는 데이터 액세스를 민주화하여 모든 책임 있는 직원이 정확하고 시기적절한 정보를 쉽게 확보하여 성과를 창출할 수 있도록 하는 것입니다. 그러나 데이터를 비즈니스의 기초로 삼고, 그 기초가 되는 데이터를 기반으로 문화를 구축하면 조직의 구조가 바뀔 수 있습니다. 그리고 머신러닝과 AI가 가져올 수 있는 장점과 혁신을 활성화하면 모든 부서에 새로운 업무 프로세스가 만들어질 것입니다. 많은 팀에서 이러한 변화를 이끌어줄 AI 부조종사 또는 신뢰할 수 있는 조언자가 필요할 것입니다.

생성형 AI와 같은 분야에서 빠른 발전이 이루어지고 있는 지금, 기업은 다음과 같은 주요 질문을 스스로에게 던지기 시작해야 합니다:

• 직원들이 데이터에 액세스하고 지능적인 인사이트를 활용할 수 있도록 역할과 전문성에 따라 직원의 위치에서 어떻게 지원할 것인가? 이는 일률적인 해결책이 있을 수 없으며, 글로벌 변화의 속도를 수용하여 경쟁사보다 앞서가는 혁신, 지원 및 피드백의 주기를 만들어야 합니다.
• 경쟁사보다 앞서기 위해 혁신, 지원, 피드백의 주기를 어떻게 만들 수 있을까요? 어떤 것이 효과가 없는 이유를 이해하는 것은 성공 요인을 파악하는 것만큼이나 중요합니다. 그리고 지속적인 개선을 유도하는 피드백 루프가 있는지 확인하는 것은 업계 리더로 남기 위해 필수적입니다.
• 새로운 데이터 중심 패러다임에서 통제와 자율성의 균형을 맞추기 위한 올바른 구조는 무엇일까요? 일관성과 역량을 강화하기 위해 조직 구조를 진화시켜야 할 수 있으며, 비즈니스 라인별로 명확한 책임을 부여하고 새로운 책임에 대한 내부 저항을 극복할 준비를 해야 합니다.
• 새로운 데이터 및 AI 기술에 대한 지속적인 학습 문화를 조성하기 위해 어떻게 재교육하고 문화 혁신을 추진해야 할까요? 여기에는 새로운 교육 경로, 내부 저항에 대응하기 위한 고도의 변화 관리, 직원들이 새로운 기술과 업무 방식을 배우는 데 안전하다고 느끼도록 하는 실질적인 문화적 강화가 포함될 것입니다. 직원들이 이러한 기술을 채택하고 변화에 개방적인 태도를 취함으로써 얻을 수 있는 개인적 이점을 명확하게 인식하지 못하면 저항이 커지고 계획이 좌절될 수 있습니다.

프로세스: 최종 목표를 염두에 두고 시작하세요.

모든 비즈니스의 첫 번째 단계는 데이터와 AI에 투자하기로 선택한 이유를 파악하는 것입니다. 너무나 당연해 보이지만 많은 기업이 이 단계를 건너뛰기 때문에 여정에서 실패합니다. 가능한 한 빨리 현대화를 서두르다 보면 장기적으로 도움이 되지 않는 지름길을 택하기 쉽습니다. 속도는 중요합니다. 하지만 장기적인 목표를 중심으로 강력한 기반을 구축하는 것이 중요합니다.

기업은 '데이터 및 AI 북극성' 전략을 수립하고 비즈니스 전략과 연계해야 하며, 수익, 비용, 위험 또는 지속 가능성 트레이드오프에 따라 스택의 우선순위를 정하는 방법을 알아야 합니다. 수익 창출에 초점을 맞추면 비용이나 위험 감소라는 목표와는 완전히 다른 IT 스택이 필요할 수 있습니다.

데이터 전략이 회사의 성과를 적극적으로 이끌어내지 못하거나 모든 것이 중요한 우선순위가 되는(즉, 우선순위가 없는) 사례를 종종 볼 수 있습니다. 데이터 액세스와 관련된 정책을 형성하고, 업무 수행 방식을 혁신하고, 생산 및 확장 계획을 세우고, 플랫폼 아키텍처 결정을 알리는 기본 원칙은 모두 데이터 및 AI 노스 스타 전략을 반영해야 합니다.

예를 들어 모든 직원에게 모든 고객 데이터에 대한 액세스 권한을 부여하는 경우 고려해야 할 사항이 매우 다양합니다: 어떤 보안 제어가 필요한가? 올바른 거버넌스가 마련되어 있는가? 새로운 규정 준수 정책이나 교육이 필요한가? 또한 조직 설계나 기술 선택에도 영향을 미칠 수 있습니다. 프로세스 변경 관리를 구현하거나 성공의 척도를 관리하는 방법은 말할 것도 없습니다.

장기적인 비전이 수립되면 진정한 혁신을 시작할 수 있습니다:

• 부서별로 임시방편적으로 진행되던 AI 도입 노력이 전사적으로 구조화된 여정이 됩니다.
• 이제 조직 설계를 변경하든 새로운 LLM을 채택하든 관계없이 기업은 공통 벤치마크에 따라 결과를 정렬하여 무엇이 효과가 있고 왜 효과가 있는지 더 빠르게 파악할 수 있습니다.
• 마찬가지로 중요한 것은 무엇이 효과가 없는지, 왜 효과가 없는지 파악하여 민첩하게 조정하는 것입니다. 변화 저항이나 피로에 직면하거나 다른 아젠다 및 우선순위와 경쟁하고 있을 수 있으므로 새로운 접근 방식을 시도할 준비를 하세요.
• 이러한 빠른 성과를 정확히 찾아내면 더 깊이 투자할 수 있는 자신감을 쌓을 수 있습니다. 또한 문제가 있는 영역을 더 빨리 파악하면 더욱 민첩한 환경을 조성하는 데 도움이 됩니다.

플랫폼: 데이터 + AI 기술의 미래 보장

기술은 무시하기에는 너무 빠르게 발전하고 있습니다. 그리고 앞으로 어떤 일이 일어날지 아무도 모릅니다.

생각해 보세요: 불과 몇 달 전만 해도 ChatGPT나 Dolly와 같은 LLM을 어떻게 활용할 수 있을지 고민하는 기업 리더는 거의 없었습니다. 이제 경영진은 자체 데이터를 기반으로 사내 챗봇을 구축하는 방법을 찾기 위해 서두르고 있습니다. 그리고 많은 기업에게 가장 큰 장애물은 자체 IT 환경일 것입니다.

기업이 개방형 인터페이스와 데이터 형식을 채택해야 하는 이유가 바로 여기에 있습니다:

• 향후 10년 동안 기업이 경쟁력을 유지하려면 빠르게 대응할 준비가 되어 있어야 하는 혼란이 반드시 있을 것입니다.
• 혁신의 속도가 매우 빠르기 때문에 기업은 새로운 도구가 나올 때마다 플랫폼을 교체할 여유가 없습니다.
• 독점 솔루션에 비해 개방형 접근 방식은 현재의 목표를 달성하는 동시에 미래를 위한 충분한 기술적 유연성을 확보할 수 있는 최고의 능력을 제공합니다.
• 오픈소스는 기업이 차세대 기술을 선도할 수 있도록 지원하는 기반입니다. 방대한 기여자 커뮤니티가 있는 오픈 소스 제품은 독점 도구와 같은 혁신 가뭄이나 레거시 기술 기반의 어려움을 겪지 않습니다.

앞으로 몇 달 동안 다양한 산업 분야의 조직이 AI 전략을 추진하고 데이터에서 더 많은 것을 얻을 수 있도록 더 많은 인사이트를 공유할 수 있게 되어 기대가 큽니다.

그 동안에는 데이터브릭스의 CTO인 Robin Sutara와 Dael Williamson이 소개하는 월간 시리즈 '데이터와 AI를 활용한 이그제큐티브 엣지'에서 더 많은 모범 사례를 살펴볼 수 있습니다.