지난 한 해 동안 산업 등급의 LLM 기술 세계를 지켜보셨다면 프로덕션에서 수많은 프레임워크와 도구가 사용되고 있는 것을 보셨을 것입니다. 스타트업들은 검색 증강 생성...

Databricks Assistant 자동 완성 기능을 공개 미리보기(Public Preview)로 소개합니다! 이 기능은 AI 기반 어시스턴트가 실시간으로 사용자에게 제공되어 사용자가 입력하는 대로 맞춤화된 코드 제안을...

프롬프트와 미세 조정을 통해 Llama3 8B를 사용한 Spider 개발 데이터셋에서 79.9%를 달성한 방법

저희는 최근 개방형 최첨단 범용 DBRX (LLM)를 도입했습니다. DBRX는 Mosaic AI 트레이닝을 사용하여 훈련, 미세 조정 및 평가되었으며, 3072개의 NVIDIA H100으로 훈련을 확장하고...

AI는 휴대폰, 컴퓨터, 그리고 종종 헤드라인을 장식하는 등 어디에나 존재합니다. 그러나 모든 헤드라인의 이면에 비즈니스에서 AI의 사용은 대체할 수 없는 것이 되었으며 앞으로도...

정량화는 머신 러닝 모델을 더 작고 빠르게 만드는 기술입니다. 저희는 Llama2-70B-Chat을 정량화하여 초당 2.2배 더 많은 토큰을 생성하는 동등한 품질의 모델을 생성합니다. 언어...

(번역: Youngkyong Ko) Original Post 저는 데이터브릭스에서 수석 과학자(신경망)로서, 누구나 자신의 데이터로 AI 모델을 구축하고 미세 조정할 수 있는 능력을 제공하는 것을 목표로...

(번역: Youngkyong Ko) Original Blog Post 이 블로그에서 MosaicML 엔지니어링 팀은 프로덕션용으로 널리 사용되는 오픈 소스 대규모 언어 모델(LLM)을 활용하는 방법에 대한 모범...