AI 기반 분석: 자연어 vs. SQL을 활용한 데이터 시각화 구축

Databricks의 비즈니스 인텔리전스 및 애널리틱스 제품 마케팅을 총괄하는 Richard Tomlinson은 데이터를 체계화하여 사람들이 더 나은 결정을 내리고 혁신을 추진할 수 있도록 돕는 기술을 제공하는 데 평생을 바쳐 왔습니다. 이번 대담에서 그는 시각화를 위한 자연어 질의가 어떻게 마침내 SQL 이상의 가치를 제공할 수 있는지, AI 기반 애널리틱스의 신뢰성을 확보하는 방법, 그리고 왜 비즈니스 맥락이 핵심인지를 이야기합니다.

시각화를 위한 자연어 질의가 그동안 기대에 미치지 못했던 이유

시각화를 위한 자연어 질의가 등장한 지 10년이 지났습니다. 왜 지금까지 그 약속을 이행하지 못했을까요?

Richard Tomlinson: 검색 기반 애널리틱스의 초창기부터 그러한 기대는 존재했지만, 시스템이 질문을 구문 분석할 수는 있어도 비즈니스를 이해하지는 못했기 때문에 기대에 지속적으로 미치지 못했습니다.

이전 세대의 NL-to-SQL은 이 문제를 단순히 언어를 스키마로 번역하는 과제, 즉 단어를 컬럼에 매핑하고 쿼리를 생성하여 차트를 반환하는 작업으로 다루었습니다. 이는 단순한 조회에는 효과적이지만 엔터프라이즈 데이터의 복잡성 앞에서는 무너집니다. 실제 비즈니스 현장에서는 팀마다 동일한 지표에 대한 정의가 서로 다를 수 있고, 테이블 간 조인(join)이 모호하거나, 메타데이터가 아닌 사람의 머릿속에만 존재하는 비즈니스 규칙이 있을 수 있으며, 두 숫자가 충돌할 때 어떤 출처가 공인된 버전인지 판단할 방법이 없습니다.

병목 현상은 LLM이 아니라 맥락(context)이었습니다. 모델이 비약적으로 발전했음에도 불구하고, 모델은 여전히 정제되지 않은 테이블 이름과 컬럼 헤더만으로 의미를 추측해야 했습니다. 그래서 동일한 질문을 두 번 던져도 서로 다른 두 가지 답변이 나오는 일이 발생했던 것입니다.

변화된 것은 단순히 더 나은 모델의 등장뿐만이 아닙니다. 언어 모델 하단에 거버넌스가 적용된 시맨틱 레이어(semantic layer)가 필요하다는 사실을 인식하게 된 것입니다. 이 시맨틱 레이어는 에이전트에게 해당 팀에서 "매출"이 무엇을 의미하는지, 어떤 테이블이 인증된 출처인지, 회계연도가 어떻게 정의되는지, 그리고 항상 적용해야 하는 필터가 무엇인지 알려줍니다. 이것이 없었다면 자연어 질의는 회의실 데모에서는 인상적이지만 실제 엔터프라이즈 데이터에서는 제 기능을 못 하는 기술에 머물렀을 것입니다.

모든 사용자를 위한 신뢰할 수 있는 답변 생성

자연어 덕분에 모든 사람이 AI 기반 애널리틱스를 사용할 수 있게 되었습니다. 그렇다면 비전문가가 신뢰할 수 있는 답변을 얻도록 하려면 어떻게 해야 할까요?

Richard Tomlinson: 더 많은 사람이 질문을 던질 수 있도록 돕는 것은 쉬운 부분입니다. 어려운 것은 답변을 행동에 옮길 수 있을 만큼 신뢰할 수 있게 만드는 것입니다. 이를 위해 밑바탕에 세 가지 조건이 갖춰져야 합니다.

첫째, 데이터 자체에 거버넌스가 적용되어야 합니다. 비즈니스의 실제 운영 방식에 맞게 구축된 깨끗하고 잘 정리된 데이터가 필요하며, 카테고리가 비즈니스 전반에서 일관되고, 각 레코드가 명확히 정의되어 있으며, 중복된 고객이나 제품이 없어야 합니다. 또한 이 모든 데이터는 세밀한 권한 제어를 통해 보호되어 모든 사용자가 승인된 정보만 볼 수 있도록 해야 합니다.

둘째, 해당 데이터의 의미가 암묵적 지식이나 누군가의 스프레드시트에 묻혀 있지 않고 명시적이며 기계가 읽을 수 있는(machine-readable) 형태여야 합니다. 거버넌스가 적용된 지표 정의, 문서화된 비즈니스 용어, 명확하게 정의된 기본 키(primary key) 및 외래 키(foreign key) 관계, 인증된 출처가 필요하며, 이 모든 것이 Unity Catalog와 같은 시스템에 등록되어 AI 에이전트가 쿼리 시점에 이를 활용할 수 있어야 합니다.

셋째, AI가 생성한 모든 답변을 이를 도출해 낸 정의, 출처, 권한까지 거꾸로 추적할 수 있는 신뢰 및 검증 레이어가 있어야 합니다. 이를 통해 비즈니스 사용자는 시스템이 출력한 결과뿐만 아니라 시스템이 왜 그러한 답변을 냈는지 검토할 수 있습니다. 이것이 바로 Genie One의 토대인 거버넌스 적용 데이터, 명시적 시맨틱, 검사 가능한 출처 추적성(provenance)입니다. 이것이 없다면 잘못된 답변을 더 빠르게 얻는 방법만 모두에게 제공하는 셈입니다.

시맨틱 그라운딩이 판도를 바꾸는 이유

시맨틱 그라운딩이란 무엇이며, 이것이 효과적인 자연어 기반 데이터 시각화에 어떻게 기여하나요?

Richard Tomlinson: 시맨틱 그라운딩은 모델이 컬럼 이름에서 의미를 추측하여 막연히 좋은 결과를 기대하게 하는 대신, 질문에 대한 AI 에이전트의 해석을 조직의 실제 비즈니스 정의, 관계, 규칙에 맞추어 결합(anchor)하는 프로세스입니다.

실제로 이는 단 한 줄의 SQL이 생성되기도 전에 에이전트가 이미 예를 들어 "순매출"이 승인된 특정 계산식을 사용한다는 점, 마케팅 요약 테이블이 아닌 인증된 재무 테이블에서 추출해야 한다는 점, 회계 분기가 2월에 시작한다는 점, 무료 체험 사용자는 고객 유지(retention) 지표에서 제외된다는 점을 파악하고 있음을 의미합니다.

Databricks의 Genie Ontology는 지표 뷰, 거버넌스 페이지, 도메인, 인증된 출처와 같이 명시적으로 모델링된 지식과 조직의 실제 운영 방식에서 자동으로 학습된 맥락을 결합하는 통합 맥락 레이어를 제공합니다. 이러한 맥락은 대시보드, 쿼리, 전자노트북 및 기타 엔터프라이즈 자산에서 직접 추출됩니다.

Ontology Snippet이라 불리는 학습된 각 맥락 요소는 출처, 사용 빈도, 최신성 및 인증 상태를 기반으로 한 신뢰도 점수를 보유합니다. 쿼리 시점에 랭킹 시스템이 상충하는 스니펫들의 관련성과 신뢰도를 모두 평가하여 충돌을 해결하고, 사용자가 볼 수 있도록 승인된 맥락만 제공합니다.

이 프로세스를 통해 생성된 시각화는 단순히 보기 좋은 차트에 그치지 않습니다. 조직의 도메인 전문가가 사용하는 것과 동일한 정의와 로직에 기반을 두고 있으므로, 그럴듯한 답변과 신뢰할 수 있는 답변 간의 격차를 줄여 줍니다.

올바른 거버넌스가 이 모든 것을 가능하게 합니다

SQL 대신 자연어를 사용하여 데이터 시각화를 성공적으로 구축하는 데 있어 거버넌스의 역할은 무엇인가요?

Richard Tomlinson: 거버넌스는 나중에 덧붙이는 단순한 준수(compliance) 체크박스가 아니라, 엔터프라이즈 규모에서 자연어 애널리틱스를 가능하게 하는 핵심 하중 지지 인프라입니다.

비즈니스 사용자가 자연어로 질문할 때, 시스템은 쿼리할 테이블, 사용할 조인, 적용할 지표 정의, 특정 사용자가 볼 수 있도록 허용된 행과 열 등을 포함하여 답변을 형성하는 일련의 결정을 내려야 합니다. SQL 환경에서는 숙련된 분석가가 이러한 결정을 내립니다. 하지만 자연어 환경에서는 AI 에이전트가 결정을 내리므로, 거버넌스는 사후에 적용되는 것이 아니라 에이전트가 내리는 모든 결정을 가이드해야 합니다.

Unity Catalog은 세밀한 권한 제어, 사용자별로 적용되는 행 필터 및 열 마스크, 조직이 보증하는 자산이 무엇인지 에이전트에 알려주는 인증 신호, 오래된 출처를 에이전트가 피하도록 안내하는 폐기(deprecation) 플래그를 통해 이러한 토대를 제공합니다.

거버넌스는 시맨틱 레이어 자체로도 확장됩니다. Ontology Snippets는 설명 대상 데이터와 동일한 Unity Catalog 권한을 따르므로 에이전트는 사용자가 볼 수 있도록 승인된 비즈니스 맥락만 사용합니다. 올바른 거버넌스가 구축되면 시스템이 가드레일을 적용하므로 조직은 훨씬 더 많은 사용자에게 확신을 가지고 셀프서비스 애널리틱스를 제공할 수 있습니다.

대화의 흐름을 일탈 없이 유지하기

AI 기반 애널리틱스는 후속 질문을 포함해 지속적인 대화에서 어떻게 맥락을 기억하고 유지하나요?

Richard Tomlinson: 이것은 대화형 애널리틱스에서 가장 과소평가된 기술적 과제 중 하나이자, 대부분의 NL-to-SQL 시스템이 실패하는 지점입니다. 예를 들어 사용자가 "지난 분기 매출이 얼마였지?"라고 물은 뒤 "지역별로 세부 분류해 줘"라고 후속 질문을 할 때, 시스템은 "지역별로 세부 분류해 줘"의 대상이 이전 쿼리의 지표, 시간 범위, 필터를 가리킨다는 점을 이해하고 답변에 그 맥락을 활용해야 합니다.

Genie는 대화 상태를 유지함으로써 쓰레드 내에서 대화 맥락을 보존합니다. 테이블 및 컬럼 메타데이터, 에이전트 편집자가 제공한 지침, 이전 대화 턴(turn)의 맥락이 모두 다음 질문 해석 방식에 반영됩니다. 후속 질문이 모호한 경우, Genie는 추측하는 대신 명확한 설명을 요구하는 질문을 던질 수 있습니다.

또한 Genie는 과거 대화를 참조하여 답변을 구성할 수 있습니다. 사용자가 이전 작업("지난 분기에 ARR에 대해 이야기했던 것 기억해? 거기서 지역별로 더 자세히 파고들어 보자")을 언급하면, 사용자가 다른 페이지로 이동할 필요 없이 시스템이 해당 맥락을 현재 대화로 끌어옵니다.

시맨틱 그라운딩과 대화 필터링의 조합은 대화가 길어져도 답변의 일관성을 유지해 줍니다. 온톨로지는 대화 턴이 바뀌어도 지속되는 안정적인 정의를 제공하므로, 첫 번째 턴에서의 "매출"과 다섯 번째 턴에서의 "매출"은 동일한 의미를 갖습니다. 한편 대화 관리는 모든 것을 단순히 덧붙이는 대신 관련 맥락만 선택하므로, 문맥 창(context window)이 포화되어 초래되는 정교함이 떨어지는 시스템에서의 답변 이탈(drift) 현상을 방지합니다.

거버넌스가 내장된 Genie를 일상적인 툴에 도입하기

조직은 팀에서 이미 사용 중인 앱과 AI 툴에 Genie를 어떻게 도입할 수 있으며, 데이터 접근 권한은 어떻게 강제 적용되나요?

Richard Tomlinson: Databricks는 다양한 통합 방법을 제공합니다. Genie Conversation API를 통해 개발자는 자연어 데이터 쿼리 기능을 자신의 애플리케이션, 챗봇 및 에이전트 프레임워크에 직접 임베드할 수 있습니다. 사용자는 이 API를 통해 질문을 하고, 생성된 SQL 및 쿼리 결과를 가져오며, 이전 컨텍스트를 기억하는 멀티턴 대화로 답변을 얻을 수 있습니다.

또한 조직은 Genie One MCP 서버를 통해 Claude, ChatGPT, Microsoft Copilot, Cursor 등 이미 사용 중인 AI 어시스턴트에서 Genie를 이용할 수 있습니다. 답변은 Databricks 내에서와 동일한 비즈니스 정의 및 데이터 권한을 사용합니다.

Genie 에이전트는 권한을 유지한 채 다른 애플리케이션에 임베드될 수도 있습니다. 쿼리는 에이전트 작성자가 설정한 자격 증명을 사용하여 SQL 웨어하우스에서 실행되지만, Unity Catalog가 각 최종 사용자의 접근 권한에 따라 볼 수 있는 항목을 결정합니다. 행 필터, 열 마스크, 테이블 수준 권한이 모두 사용자별로 적용됩니다.

외부 통합 시 권장되는 인증 패턴은 OBO(On-Behalf-Of) OAuth로, 외부 어시스턴트가 사용자를 대신하여 동작하고 Genie가 모든 요청에 해당 사용자의 권한을 적용합니다. 따라서 두 사람이 동일한 챗봇에 같은 질문을 하더라도 사용자별 특별한 설정 없이 각자 볼 수 있는 권한이 있는 데이터만을 기반으로 적절한 답변을 받을 수 있습니다.

단순한 데이터베이스 연결은 데이터를 전달할 뿐입니다. 하지만 거버넌스가 적용된 분석 통합은 누가 어떤 지표를 볼 수 있는지, 그리고 지표가 어떻게 계산되는지를 제어합니다.

자연어 분석의 약속 실현

자연어 분석은 누구나 질문을 하고 데이터 시각화 결과를 얻을 수 있다는 기대를 오래전부터 제시해 왔습니다. 하지만 실제로는 그 결과가 행동에 옮길 만큼 충분히 신뢰할 만하지 못한 경우가 많았습니다. 기존에 분석가가 내리던 결정을 AI가 대신함에 따라 바탕이 되는 컨텍스트가 매우 중요해지고 있습니다. 신뢰할 수 있는 답변은 거버넌스가 적용된 데이터, 공유된 정의, 명확한 권한, 그리고 각 답변이 어떻게 생성되었는지 검증할 수 있는 방법에 달려 있습니다. 또한 시스템은 대화가 이어짐에 따라 컨텍스트를 지속적으로 추적하고, 임직원이 이미 사용하는 도구에 AI 기반 분석을 도입할 수 있어야 합니다. 이러한 기반이 마련되면 조직은 어디서 일하든 전사의 임직원에게 신뢰할 수 있는 분석에 대한 접근 권한을 안심하고 부여하여 현명한 의사결정을 내리도록 지원할 수 있습니다.

Genie가 어떻게 비즈니스 질문을 거버넌스가 적용된 답변 및 행동으로 변환하는지 확인해 보세요.

(이 글은 AI의 도움을 받아 번역되었습니다. 원문이 궁금하시다면 여기를 클릭해 주세요)