엔터프라이즈 AI를 위한 운영 모델

AI가 핵심 비즈니스 프로세스에 내재화되면서 경영진의 논의는 내구성을 지향하는 방향으로 전환되고 있습니다. 기술 리더들에게 이제 문제는 AI가 가치를 창출할 수 있느냐가 아니라, 조직이 장기적으로 AI를 지원할 수 있는 구조를 갖추고 있느냐입니다.

EMEA의 최고 기술 책임자인 Dael Williamson과 함께 AI에 진심인 기업과 단순히 실험만 하는 기업을 실제로 구분하는 것이 무엇인지 알아보았습니다.

드러난 것은 기술 선택보다 구조와 소유권이 더 중요한 부분을 강조하는 엔터프라이즈 AI의 운영 모델 관점이었습니다.

조직이 AI에 진지하다는 것을 나타내는 신호들

캐서린 브라운: AI에 본격적으로 투자하는 조직에 들어가시면 운영 모델과 플랫폼 선택에서 무엇을 가장 먼저 보시나요?

데일 윌리엄슨: 오늘날 대부분의 조직은 AI가 실재하며 중요하다는 것을 인식하고 있습니다. 차이가 나는 부분은 운영 모델에 그러한 노력이 얼마나 명확하게 나타나는가입니다.

제가 가장 먼저 보는 것은 소유권입니다. 누가 데이터와 AI를 소유하고 있으며, 그 소유권이 CEO와 얼마나 가까운가 하는 것입니다. 데이터와 AI를 CEO가 직접 소유하거나 CEO와 가까운 위치에 있다면 이는 높은 수준의 전략적 중요성을 의미합니다. 더 흔하게는 소유권이 여러 단계 아래에 있으며, 많은 경우 데이터와 AI는 완전히 다른 그룹에서 소유합니다.

AI가 데이터와 구조적으로 분리되어 있으면 정적인 사용 사례와 단편적인 경험으로 이어지는 경향이 있습니다. 그러나 조직이 운영되는 세상은 역동적입니다. 트래픽은 변합니다. 시장은 변동합니다. 공급망은 변동합니다. 데이터와 AI가 분리되면 이러한 현실에 실시간으로 대응하기가 매우 어려워집니다.

제가 두 번째로 살펴보는 것은 조직이 데이터 자산의 인벤토리를 보유하고 있는지 여부입니다. 재무 및 물리적 자산은 잘 문서화되어 있지만, 많은 조직에서는 여전히 데이터 자산을 카탈로그화하고 이해하는 방법을 발전시키는 과정에 있습니다. 많은 경우, 조직은 자신이 어떤 데이터를 가지고 있는지, 어디에 있는지, 또는 얼마나 가치가 있을 수 있는지 완전히 알지 못합니다.

세 번째 신호는 조직이 데이터를 얼마나 광범위하게 정의하는지입니다. 많은 조직이 여전히 데이터를 주로 구조화된 테이블이나 로그로 생각합니다. 그러나 이미지, 이메일, 협업 도구(문서, 스프레드시트), 코드 모두 풍부한 운영 인사이트를 담고 있습니다. 데이터에 대한 정의를 확장하는 조직은 시간이 지남에 따라 훨씬 더 많은 가치를 창출하는 경향이 있습니다.

데이터와 AI 간의 근접성이 중요한 이유

캐서린: 설명하신 내용의 상당 부분은 데이터와 AI가 얼마나 긴밀하게 연결되어 있는지와 관련이 있습니다. 실제 업무에서 그 근접성이 왜 그렇게 중요한가요?

Dael: 데이터와 AI가 동일한 기반에서 운영될 때 조직은 더 역동적인 사용 사례를 지원할 수 있습니다. 분리되어 있으면 AI는 더 느리고 정적인 입력에 의존하는 경향이 있습니다.

기존의 거버넌스 및 카탈로그 도구는 정형 데이터를 관리하는 데 매우 효과적이지만, 비정형의 빠르게 변화하는 소스를 처리하는 데는 어려움을 겪습니다. 이것이 데이터 거버넌스의 범위를 확장하기 어려운 이유 중 하나이며, 포괄적인 데이터 인벤토리가 여전히 드문 이유이기도 합니다.

유동성 모델링, 신용 위험 또는 공급망 복원력과 같은 문제를 해결하려면 시기적절하고 지속적으로 업데이트되는 데이터와 직접 작동하는 AI가 필요합니다. 그렇지 않으면 의사 결정은 항상 지연되고, 인사이트는 가장 유용한 순간이 지난 후에야 얻게 됩니다.

Catherine: 선도 기업들은 중앙 팀과 비즈니스 부서 간의 관계를 어떻게 구축하고 있나요?

데일: 데이터 및 AI 책임자는 경영진 회의에 참여해야 하며, 이러한 시스템이 실제로 어떻게 작동하는지에 대해 깊이 이해해야 합니다. AI는 기존 소프트웨어와 다르게 작동하며, 리더십이 이러한 현실을 반영할 때 조직에 도움이 됩니다.

도구와 관련하여 선도적인 기업들은 수십 개의 SaaS 도구에 내장된 AI 기능에만 의존하려는 유혹에 저항합니다. 이러한 도구는 개인의 생산성을 향상시킬 수는 있지만, 팀이 여러 기능에 걸쳐 응집력 있게 작업하는 데는 거의 도움이 되지 않습니다. 시간이 지남에 따라 이러한 접근 방식은 정의, 지표, 프로세스에 존재하는 불일치를 강화하는 경향이 있습니다.

동시에 이러한 조직들은 빌드 대 구매 방정식을 재고하고 있습니다. 모든 것을 내부적으로 구축하는 것을 목표로 하지는 않지만, 과도한 종속성도 피합니다. 데이터 및 AI 자산에 대한 이식성, 투명성, 제어 기능이 점점 더 중요해지고 있습니다.

성공하는 조직은 AI 이니셔티브를 포트폴리오로 관리합니다. 모든 프로젝트가 성공하는 것은 아닙니다. 일부는 일시 중지해야 합니다. 다른 프로젝트는 추가 투자가 필요합니다. AI를 선형적인 로드맵이 아닌 베팅 포트폴리오로 다루면 조직은 기술과 비즈니스 환경이 발전함에 따라 적응할 수 있습니다.

3년 후 엔터프라이즈 AI 운영 모델의 모습

캐서린: 앞으로 3년 동안 엔터프라이즈 AI 운영 모델이 어떻게 변화할 것으로 예상하시나요?

Dael: 대부분의 조직은 여전히 어떤 형태의 변환 단계에 있겠지만, 가장 큰 변화 중 하나는 IT와 비즈니스 간의 전통적인 격차가 좁혀지는 것입니다. 비즈니스팀은 기술에 더 능숙해지고, 기술팀은 비즈니스 결과와 더 긴밀하게 연계될 것입니다. 이러한 변화는 이미 진행 중이며, 앞으로도 계속될 것입니다.

결과적으로 IT 조직의 규모와 형태가 바뀔 가능성이 높습니다. 역사적으로 IT는 위험 관리, 거버넌스 및 운영 복잡성에 중점을 두어 왔습니다. AI는 이러한 분야, 특히 사이버 보안, IT 지원, 규정 준수 분야에서 점점 더 효과적으로 사용되고 있습니다.

조직이 레거시 복잡성을 줄이고 사일로화된 공급업체 에코시스템에서 벗어나면 운영 모델이 더욱 근본적으로 변화하기 시작합니다. 팀은 더 이상 사용하는 시스템이 아닌, 달성하는 성과로 정의됩니다.

시간이 지나면서 조직이 더 간소화되거나 새로운 형태의 가치 창출에 초점을 맞춘 완전히 새로운 부서가 생겨날 수 있습니다. 그것이 정확히 어떻게 전개될지는 회사마다 다를 것입니다.

AI 기반 기업에서 기술과 역할이 발전하는 방식

캐서린: 그러한 운영 모델의 변화는 인재에게 큰 영향을 미칩니다. 마지막 질문입니다. 기술과 역할이 어떻게 발전할 것이라고 보시나요?

데일: 많은 IT 조직은 계속해서 축소될 것입니다. 이는 상당수의 엔터프라이즈 기술이 여전히 유지 관리 비용이 많이 드는 수십 년 된 시스템을 기반으로 구축되었기 때문입니다. 동시에 소프트웨어 개발 수명 주기도 변화하고 있습니다. 수동 코딩과 같이 한때 대부분의 노력을 소비했던 작업들이 점점 더 AI의 지원을 받게 됩니다. 이제는 평가, 행동 테스트, 가드레일, 지속적인 모니터링에 더 많은 시간이 소요됩니다.

이러한 변화는 비즈니스팀과 기술팀을 더 가깝게 만듭니다. 비즈니스팀은 행동을 정의하고 검증하는 데 더 많이 관여하게 됩니다. 기술팀은 결과, 안정성, 거버넌스에 더 중점을 둡니다. 관측 가능성, 오케스트레이션, 시스템 감독과 관련하여 새로운 역할이 등장하고 있습니다. 이러한 역할은 종종 기술, 운영, 조직 기술을 혼합하며, 항상 전통적인 엔지니어링 배경을 가진 사람들로부터 나오는 것은 아닙니다.

관리 자체도 발전하고 있습니다. AI가 더 많은 관리 업무를 맡게 되면서, 관리는 분석, 판단, 그리고 업무 흐름 개선 쪽으로 다시 초점이 맞춰집니다. 비판적 사고가 필수적이 됩니다. 실험하고, 배우고, 적응하는 데 익숙한 사람들은 성공할 것입니다. 그리고 조직이 이러한 전환기를 헤쳐나감에 따라 분석적이고 과학적인 사고방식은 점점 더 가치가 높아질 것입니다.

마무리하며

기업의 AI 준비 상태는 궁극적으로 운영 모델에 따라 결정됩니다. 지속적인 발전을 이루고 있는 리더들은 데이터와 AI에 대한 명확한 경영진의 주인의식을 가지고 있으며, 데이터를 알려지고 관리되는 자산으로 취급하고, 단편적인 핸드오프 대신 시기적절하게 공유된 데이터로 AI가 직접 작업하도록 보장합니다. 이들은 AI 이니셔티브를 파이프라인이 아닌 포트폴리오로 관리하며, 어디에 투자하고, 일시 중지하고, 중단할지에 대한 원칙을 가지고 있습니다. 그리고 이들은 도구나 프로젝트보다는 평가, 감독, 결과를 중심으로 팀을 구성합니다. 성공하는 조직은 AI의 미래를 가장 정확하게 예측하는 조직이 아니라 AI의 변화에 맞춰 적응하도록 구축된 조직일 것입니다.

효과적인 운영 모델 구축에 대해 자세히 알아보려면 Databricks AI 성숙도 모델을 다운로드하세요.

(이 글은 AI의 도움을 받아 번역되었습니다. 원문이 궁금하시다면 여기를 클릭해 주세요)