FDA가 전체 직원의 85%가 매일 사용하는 AI 플랫폼을 구축한 방법

“우리는 기반 데이터 플랫폼을 갖추는 것의 가치를 입증했고, 그 성공 사례는 빠르게 확산되었습니다.”—Venu Boppana, 미국 FDA 디지털 트랜스포메이션 사무국 전략 및 혁신 리더 (AI)

거의 모든 미국인은 아침 식사를 하기 전에 FDA와 접촉합니다. 이 기관은 우리가 먹는 식품, 복용하는 의약품, 의존하는 의료 기기를 규제합니다. 미국 소비자가 지출하는 20센트 중 1센트꼴로 FDA가 감독하는 제품에 쓰입니다. 이러한 신뢰의 이면에는 엄청난 양의 데이터가 존재합니다. 의약품, 생물학적 제제, 의료 기기, 동물용 의약품, 담배 제품, 식품 안전 및 검사를 담당하는 8개 센터에 걸쳐 매달 수천 건의 규제 제출 문서가 접수되며, 매일 수백 기가바이트씩 쌓여 총 페타바이트 규모의 문서에 달합니다. 이러한 수요에 발맞추기 위해 FDA의 디지털 트랜스포메이션 사무국은 16,000명의 모든 FDA 직원이 사용할 수 있는 생성형 AI 플랫폼인 ELSA와 그 기반이 되는 거버넌스가 확보된 데이터 토대이자 Databricks에서 실행되는 Halo를 구축했습니다.

8개 센터, 8개의 사일로

FDA의 조직 구조는 광범위한 권한을 반영합니다. CDER은 의약품을 담당합니다. CBER은 생물학적 제제를 다룹니다. CDRH는 의료 기기를 감독합니다. 동물용 의약품, 담배, 검사, 식품 안전을 담당하는 다른 센터들과 마찬가지로, 각 센터는 독립적으로 자체 AI 역량을 구축해 왔습니다. 이로 인해 챗봇과 데이터 저장소가 제각각 분리되어 상당한 비용 중복이 발생했으며, AI를 효과적으로 구동하는 데 필요한 데이터를 통합적으로 파악할 수 없었습니다.

IT 리더십은 이러한 파편화를 인지하고 통합 작업을 시작했습니다. 3~4개월 만에 팀은 8개 센터 전체에서 50~60개의 데이터 소스를 단일 Databricks 플랫폼으로 가져왔습니다. 통합을 가능하게 만든 성공 사례는 이미 Databricks에서 데이터 플랫폼을 구축하는 데 5년을 투자한 CDER이었습니다. 이전에는 4~5일이 걸리던 센터 간 데이터 공유 속도가 획기적으로 빨라졌습니다. 실시간 데이터 스트리밍이 배치 처리를 대체했습니다. 다른 센터들이 이러한 결과를 확인하자 도입이 빠르게 확산되었습니다.

Unity Catalog은 처음에 일부 센터가 주저하게 만들었던 보안 우려를 해결했습니다. FDA는 엄격한 액세스 제어가 필요한 영업 비밀과 민감한 규제 데이터를 다룹니다. Unity Catalog은 데이터를 안전하게 격리할 수 있고, 적절한 승인 없이 자산이 공유되지 않으며, 전체 플랫폼에서 세부적인 테이블 수준의 액세스 제어를 적용할 수 있음을 입증하는 거버넌스 레이어를 제공했습니다.

챗봇에서 에이전트형 AI로

거버넌스가 확보된 데이터 토대가 마련되자, FDA는 16,000명의 모든 직원에게 ELSA를 배포했습니다. 사용자들은 여러 모델 중에서 선택하고 단일 인터페이스를 통해 업무를 수행할 수 있습니다. 출시 후 약 2개월 만에 도입률은 FDA 직원의 1% 미만에서 85%로 급증했습니다.

팀을 놀라게 한 것은 사용자들이 단순한 질의응답을 넘어 얼마나 빠르게 다음 단계로 나아갔는가였습니다. 의사, 과학자, 행정 직원들은 현재 매주 수백 개의 새로운 에이전트를 대규모로 직접 제작하고 있습니다. 직원들은 표준 운영 절차, 규제 가이드라인, 센터별 문서를 ELSA 내의 워크스페이스에 로드하고, 근거가 확실한 FDA 맞춤형 질문에 즉각적으로 답변할 수 있는 에이전트를 구축합니다.

이를 가능하게 하는 아키텍처는 Unity Catalog 위에 MCP 서버를 계층화하는 것입니다. 구조화되고 거버넌스가 확보된 데이터와 접근하기 쉬운 도구의 결합 덕분에, 데이터 과학자뿐만 아니라 모든 직원이 에이전트를 직접 만들 수 있게 되었습니다.

며칠씩 걸리던 답변을 단 3분 만에

그 효과는 구체적입니다. 한 가지 예로, 의약품 허가 신청을 평가하는 FDA 심사관은 제조에 사용되는 원료 물질인 출발 물질(starting materials)을 파악해야 합니다. 이 정보는 300만~400만 페이지에 달하는 규제 제출 문서에 묻혀 있습니다. 이전에는 심사관들이 개별 문서를 일일이 열고 키워드 검색을 수행하며 수동으로 답변을 찾아내야 했습니다.

MLflow를 통해 Databricks ML 및 NLP 기능을 활용하여, 팀은 수백만 페이지에서 핵심 데이터 자산(출발 물질, 제품-공급업체-제조업체 관계)을 추출하고 이를 ELSA를 통해 제공했습니다. 이제 심사관은 신청 번호를 입력하고 출발 물질을 요청하면 약 3분 만에 근거가 확실한 답변을 얻을 수 있습니다. 이전에는 동일한 작업에 며칠이 걸렸습니다.

모든 센터로 확장

FDA는 이제 이 모델을 조직 전체로 확장하는 데 집중하고 있습니다. CDER을 위해 구축된 MCP 도구는 각기 다른 데이터 컨텍스트와 규제 요구사항을 가진 다른 센터에 맞게 조정되고 있습니다. 목표는 심사 직원들이 정보를 찾는 번거로움에서 벗어나 의약품, 의료 기기, 생물학적 제제가 안전하고 효과적인지 평가하는 본연의 전문 업무에 집중할 수 있도록 돕는 것입니다.

이 모든 것을 가능하게 한 토대는 AI 자체뿐만 아니라 그 아래에 있는 거버넌스가 확보된 데이터 플랫폼, 사일로를 허문 통합 작업, 그리고 8개의 독립된 센터 전체에서 신뢰를 얻을 수 있었던 액세스 제어 덕분이었습니다.

“심사 직원들이 정보를 검색하는 데 시간을 허비하지 않고 본연의 업무에 집중할 수 있도록 지원하는 것, 그것이 바로 우리가 진정으로 바라는 성공입니다.”—Venu Boppana

(이 글은 AI의 도움을 받아 번역되었습니다. 원문이 궁금하시다면 여기를 클릭해 주세요)