์์ฑ์: Sri Ghattamaneni
Translated by HaUn Kim - Original Blog Post
'์ํ ๊ด๋ฆฌ'๋ผ๋ ๊ฐ๋ ๊ณผ ๊ด๋ จํด ๊ธ์ต ์๋น์ค ๊ธฐ๊ด(FSI)์ ์ค๋ซ๋์ ๋ฐ์ ค ํ์ฝ์ ์๋ณธ ์๊ฑด ์ง์นจ๊ณผ ํ๋ ์์ํฌ๋ฅผ ์ฐธ๊ณ ํด์์ต๋๋ค. ๊ทธ๋ฌ๋ ์ด ์ง์นจ๋ค์ ํํ ์ํ์ ๋ํด ์ธ๊ธํ์ง ์์ผ๋ฉฐ, ์กฐ์ง๋ค์ ์๋ ๋์ ํํ ์ํ ๊ฐ์ ๋น์ฌ๋ฌด์ ์ํ์ ๊ด๋ฆฌํ๊ณ ์ธก์ ํ๋ ๋ฐ ๋ช ํํ ๋ฐฉ๋ฒ๋ก ์ด ๋ถ์กฑํ์ต๋๋ค. ์ต๊ทผ ํ๊ฒฝ, ์ฌํ, ๊ฑฐ๋ฒ๋์ค(ESG)์ ์ค์์ฑ์ด ๋ถ๊ฐ๋๋ฉด์ ๊ธฐ์ ๋ค์ ํํ๊ณผ ํ์ค ์ฌ์ด์ ๊ฐ๊ทน์ ์ขํ๊ณ ์ดํด๊ด๊ณ์ ๋ฐ ๊ณ ๊ฐ์ ๋ณํํ๋ ์ ๋ ๊ณผ ๊ธฐ๋์ ๋ถ์ํ ์ ์๋ ์ ์ฐจ๋ฅผ ๋ง๋ จํด์ผ ํ ํ์์ฑ์ด ์ปค์ก์ต๋๋ค.
ย

ย
FSI์ ์์ด ํํ์ ๊ฐ์ฅ ์ค์ํ ์์ฐ ์ค ํ๋์ ๋๋ค.
์๋ฅผ ๋ค์ด, ๊ณจ๋๋ง์ญ์ค๋ ๊ทธ๋ค์ ์ ๋ช ํ ๊ฒฝ์ ์์น ์ค "์ฐ๋ฆฌ์ ์์ฐ์ ์ฌ๋, ์๋ณธ, ๊ทธ๋ฆฌ๊ณ ํํ์ด๋ค. ์ด ์ค ์ด๋ ํ๋๋ผ๋ ์์๋๋ฉด ๊ฐ์ฅ ํ๋ณตํ๊ธฐ ์ด๋ ค์ด ๊ฒ์ ๋ฐ๋ก ํํ์ด๋ค"๋ผ๊ณ ๋ช ์ํ๊ณ ์์ต๋๋ค. ์์ ์ํ์ ๊ฒฝ์ฐ, ์๋น์ ๋ถ๋ง๊ณผ ํผ๋๋ฐฑ์ ์ ๊ทน์ ์ผ๋ก ๋์ํ๋ ๋ธ๋๋๋ ๊ฒฝ์์ฌ๋ณด๋ค ๋ฒ์ , ์์ ์ , ํํ ์ํ์ ๋ ํจ๊ณผ์ ์ผ๋ก ๊ด๋ฆฌํ ์ ์์ต๋๋ค. American Banker๋ ์ด ๊ธฐ์ฌ๋ฅผ ํตํด ๊ธ๋ณํ๋ ์์ฅ ํ๊ฒฝ์์ ๊ธ์ต๊ธฐ๊ด์ด ์ง๋ฉดํ ๋น์ฌ๋ฌด์ ์ํ, ํนํ ํํ ์ํ์ ์ค์์ฑ์ ์ฌํ ์ธํ์ต๋๋ค.
๊ณ ๊ฐ ์ ๋ขฐ๋ฅผ ์ป๊ธฐ ์ํ ๊ณผ์ ์์๋ ๋ธ๋๋ ํํ์ ๋ถ์ ์ ์ํฅ์ ๋ฏธ์น ์ ์๋ ๋ฌธ์ ์ ๋ํ ์ธ์ฌ์ดํธ๋ฅผ ์ฐพ๊ธฐ ์ํด ๋ค์ํ ์ฑ๋์ ํตํด ๋ฐฉ๋ํ ์์ ๋ฐ์ดํฐ๋ฅผ ํ์ฉํ๋ ๊ฒ์ด ํฌํจ๋ฉ๋๋ค. ๊ณ ๊ฐ ๋ง์กฑ์ ๋์ด๋ ๋ฐ ์์ด ๋ฐ์ดํฐ์ ์ค์์ฑ์๋ ๋ถ๊ตฌํ๊ณ , ๋๋ค์ ์กฐ์ง์ ๋ฐ์ดํฐ ๊ฐ์ธ์ ๋ณด ๋ณดํธ, ๊ท๋ชจ ๋ฐ ๋ชจ๋ธ ๊ฑฐ๋ฒ๋์ค์ ๊ฐ์ ๊ธ์ต ์๋น์ค ์ ๊ณ์์ ํํ ๋ฐ์ํ๋ ๊ทผ๋ณธ์ ์ธ ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๋ ํ๋ซํผ ๊ตฌ์ถ์ ์ด๋ ค์์ ๊ฒช๊ณ ์์ต๋๋ค.
์ด ๋ธ๋ก๊ทธ ํฌ์คํธ์์๋ ๋ฐ์ดํฐ๋ธ๋ฆญ์ค์ ํตํฉ ๋ฐ์ดํฐ ๋ถ์ ํ๋ซํผ์ ๊ฐ๋ ฅํ ๊ธฐ๋ฅ์ ํ์ฉํ์ฌ ์ด๋ฌํ ๋์ ์ ๊ทน๋ณตํ๊ณ ์ธ์ฌ์ดํธ๋ฅผ ์ป์ผ๋ฉฐ ๊ฐ์ ์กฐ์น๋ฅผ ์ทจํ๋ ๋ฐฉ๋ฒ์ ์๊ฐํ๊ฒ ์ต๋๋ค. GDPR ๋ฐ CCPA ๊ท์ ์ ์ฝ๊ฒ ์ค์ํ ์ ์๋๋ก ์ค๊ณ๋ ์คํ ์์ค ์คํ ๋ฆฌ์ง ๊ณ์ธต์ธ Delta Lake์ ํตํด ๋ฐ์ดํฐ ๋ ์ดํฌ์ ์์ ์ฑ๊ณผ ์ฑ๋ฅ์ ์ ๊ณตํ๊ณ , ๋จธ์ ๋ฌ๋ ๋ฐํ์๊ณผ ๊ด๋ฆฌํ MLflow๋ ๋ฐ์ดํฐ ์ฌ์ด์ธํฐ์คํธ์ ๋น์ฆ๋์ค ๋ถ์๊ฐ๊ฐ ์ธ๊ธฐ ์๋ ์คํ ์์ค ๋จธ์ ๋ฌ๋ ๋ฐ ๊ฑฐ๋ฒ๋์ค ํ๋ ์์ํฌ๋ฅผ ํ์ฉํด ์ต์ฒจ๋จ ๋จธ์ ๋ฌ๋ ๋ชจ๋ธ์ ๊ตฌ์ถํ๊ณ ๋ฐฐํฌํ ์ ์๋๋ก ์ง์ํ๋ ๋ฐ์ดํฐ๋ธ๋ฆญ์ค ํตํฉ ๋ถ์ ํ๋ซํผ์ ์ผ๋ถ์ ๋๋ค. ์ด ๋ธ๋ก๊ทธ ํฌ์คํธ์์๋ ํํ ๋ฆฌ์คํฌ์ ๋์ํ๋ ์ ๊ทผ ๋ฐฉ์์ ํตํด ๊ธ์ต ๊ธฐ๊ด์ด ๋ธ๋๋ ์ธ์์ ์ธก์ ํ๊ณ ์ฌ๋ฌ ์ดํด๊ด๊ณ์์ ํ๋ ฅํ์ฌ ๊ณ ๊ฐ ๋ง์กฑ๋์ ์ ๋ขฐ๋๋ฅผ ๋์ผ ์ ์๋ ๋ฐฉ๋ฒ์ ๋ค๋ฃน๋๋ค.

๋ฐ์ดํฐ๋ธ๋ฆญ์ค๋ ํํ ๋ฆฌ์คํฌ๋ฅผ ํ๊ฐํ๊ธฐ ์ํ ํตํฉ ๋ฆฌ์คํฌ ์ํคํ ์ฒ๋ฅผ ์ ๊ณตํฉ๋๋ค.
์ด ๋ธ๋ก๊ทธ ๊ฒ์๋ฌผ์ ํํ ์ํ ๊ด๋ฆฌ๋ฅผ ํ๋ํํ๊ธฐ ์ํด ํด๊ฒฐํด์ผ ํ ์ฌ๋ฌ ๋ฐ์ดํฐ ์์ง๋์ด๋ง ๋ฐ ๋ฐ์ดํฐ ์ฌ์ด์ธ์ค ๊ณผ์ ๋ฅผ ๋ค๋ฃจ๋ ๋ ธํธ๋ถ์ ์๊ฐํฉ๋๋ค:
์ค๋ธ์ ํธ ์คํ ๋ฆฌ์ง๋ ๊ธฐ์กด ๋ฐ์ดํฐ ์จ์ดํ์ฐ์ค์ ๋นํด ์ ๋ ดํ ๋น์ฉ์ผ๋ก ๋ฐฉ๋ํ ์์ ๋ฐ์ดํฐ๋ฅผ ์ ์ฅํ ์ ์๋ ํฐ ์ด์ ์ ์กฐ์ง์ ์ ๊ณตํ์ต๋๋ค. ๊ทธ๋ฌ๋ ์ด ๊ณผ์ ์์ ์ด์ ์ค๋ฒํค๋๊ฐ ๋ฐ์ํฉ๋๋ค. ๋ฐ์ดํฐ๊ฐ ๊ธ์ฆํจ์ ๋ฐ๋ผ ์์๋๊ฑฐ๋ ์ ๋ขฐํ ์ ์๋ ๋ฐ์ดํฐ ํฌ์ธํธ๋ก ์ธํด ๋ฐ์ํ๋ ๋ถ์ผ์น๋ฅผ ๋์ค์ ์์ ํ๊ธฐ ์ด๋ ค์ธ ์ ์๊ธฐ ๋๋ฌธ์ ๋ฐ์ดํฐ ๊ด๋ฆฌ๊ฐ ํฐ ๋์ ์ด ๋๊ณค ํฉ๋๋ค.
์ด๋ ๋ง์ ๊ธ์ต ๊ธฐ๊ด๋ค์ด AI ์ฌ์ ์ ์์ํ๋ฉด์ ๋ ๋น ๋ฅธ ์ธ์ฌ์ดํธ๋ฅผ ์ป๊ณ ์์ง๋ ๋ฐ์ดํฐ๋ฅผ ์ต๋ํ ํ์ฉํ๊ธฐ ์ํด ์ง๋ฉดํ๋ ์ฃผ์ ๋ฌธ์ ์ ๋๋ค. ํํ ๋ฆฌ์คํฌ๋ฅผ ๊ด๋ฆฌํ๊ธฐ ์ํด์๋ ์กฐ์ง์ด ๊ณ ๊ฐ ๋ง์กฑ๋์ ๋ธ๋๋ ์ธ ์์ ์ธก์ ํ๊ธฐ ์ํด ๋ง์ ๋ ธ๋ ฅ์ ๊ธฐ์ธ์ฌ์ผ ํ๋ฉฐ, ๊ณ ๊ฐ ์ ๋ขฐ๋ฅผ ์ ์งํ๊ธฐ ์ํด์๋ ๋ฐ์ดํฐ์ AI ์ ๊ทผ ๋ฐฉ์์ ์ทจํ๋ฉฐ, ๋ฐฉ๋ํ ์์ ๊ณ ๊ฐ ๋ฐ์ดํฐ๋ฅผ ์์ ํ๊ฒ ์ ์ฅํ๊ณ ๊ฐ์ธ ์๋ณ ์ ๋ณด(PII)๊ฐ ์ ์ฉ๋์ง ์๋๋ก ๋ณด์ฅํ๋ฉฐ, PCI-DSS ๊ท์ ์ ์๋ฒฝํ๊ฒ ์ค์ํ ์ ์๋ ์ธํ๋ผ๊ฐ ํ์ํฉ๋๋ค. ๋ฐ์ดํฐ๋ฅผ ์์ ํ๊ฒ ๋ณดํธํ๊ณ ์ ์ฅํ๋ ๊ฒ์ ์์์ ๋ถ๊ณผํ์ง๋ง, ์๋ฐฑ๋ง ๊ฑด์ ๋ถ๋ง ์ฌํญ์ ๋๊ท๋ชจ๋ก ์ฒ๋ฆฌํ๊ณ ์ฒ๋ฐฉ์ ์ธ์ฌ์ดํธ๋ฅผ ์ ๊ณตํ๋ ๋ชจ๋ธ์ ๊ตฌ์ถํ๋ ๊ฒ์ด ์ฑ๊ณต์ ์ธ ๊ตฌํ์ ํต์ฌ์ ๋๋ค.
ย
ํตํฉ ๋ฐ์ดํฐ ๋ถ์ ํ๋ซํผ์ธ ๋ฐ์ดํฐ๋ธ๋ฆญ์ค๋ ๋๋์ ๋ฐ์ดํฐ๋ฅผ ์์งํ๊ณ ์ฒ๋ฆฌํ๋ ๊ฒ์ ๋ฌผ๋ก ์ฌ์ฉ์๊ฐ ๋๊ท๋ชจ๋ก AI๋ฅผ ํ์ฉํ์ฌ ํํ๊ณผ ๊ณ ๊ฐ ์ธ์์ ๋ํ ์ธ์ฌ์ดํธ๋ฅผ ์ป์ ์ ์๋๋ก ์ง์ํฉ๋๋ค. ์ด ๋ธ๋ก๊ทธ ๊ฒ์๊ธ์์๋ ์๋น์๊ธ์ต๋ณดํธ๊ตญ(CFPB)์ ๋ฐ์ดํฐ๋ฅผ ์์งํ๊ณ ๋ฐ์ดํฐ ํ์ดํ๋ผ์ธ์ ๊ตฌ์ถํด์ ๋ธํ ๋ ์ดํฌ์ ์ฝ์๋ผ API๋ฅผ ํ์ฉํด ์๋น์์ ์ ํ ํผ๋๋ฐฑ์ ๋ ํจ๊ณผ์ ์ผ๋ก ํ์ํ๋ ๋ฐฉ๋ฒ์ ์๊ฐํ ๊ฒ์ ๋๋ค. ์คํ ์์ค ๋ผ์ด๋ธ๋ฌ๋ฆฌ๋ฅผ ์ด์ฉํ์ฌ ๋ค์ํ ์ ํ๊ณผ ์๋น์ค์ ๋ํ ๊ณ ๊ฐ ๋ถ๋ง์ ์ฌ๊ฐ๋๋ฅผ ๋ถ๋ฅํ๊ณ ์ธก์ ํ๋ ML ๋ชจ๋ธ์ ๊ตฌ์ถํ๊ณ ๋ฐฐํฌํ ์์ ์ ๋๋ค. ์ผ๊ด ์ฒ๋ฆฌ์ ์คํธ๋ฆฌ๋ฐ์ ๊ฒฐํฉํด ๋ถ๋ง ์ฌํญ์ ๋ถ๋ฅํ๊ณ ์ค์๊ฐ์ผ๋ก ์ ํฉํ ๊ณ ๊ฐ ์ง์ ํ์ผ๋ก ์ ๋ฌํจ์ผ๋ก์จ ์ ์๋๋ ๋ถ๋ง์ ๋ ์ ๊ด๋ฆฌํ๊ณ ๊ณ ๊ฐ ๋ง์กฑ๋๋ฅผ ํฅ์์ํฌ ์ ์์ต๋๋ค.
๋ฐ์ดํฐ๋ธ๋ฆญ์ค๋ ์ด๋ฏธ ํด๋ผ์ฐ๋ ๊ณต๊ธ์ ์ฒด๊ฐ ์ ๊ณตํ๋ ๋ชจ๋ ๋ณด์ ๋๊ตฌ๋ฅผ ํ์ฉํ๊ณ ์์ผ๋ฉฐ, Apache SparkTM์ Delta Lake๋ ๋ฐ์ดํฐ ๊ฒฉ๋ฆฌ ๋ฐ ์คํค๋ง ์ ์ฉ๊ณผ ๊ฐ์ ์ถ๊ฐ์ ์ธ ๊ฐ์ ๊ธฐ๋ฅ์ ํตํด ๋ฐ์ดํฐ์ ํ์ง์ ์๊ธฐ์ ์ ํ๊ฒ ์ ์งํ๊ณ ๋ณดํธํ ์ ์์ต๋๋ค. ์ฐ๋ฆฌ๋ ์คํค๋ง๋ฅผ ํ์ฉํด ๋ถ๋ง ๋ฐ์ดํฐ๋ฅผ ์ฝ๊ณ Delta Lake์ ์ ์ฅํ๊ธฐ ์ํด Spark๋ฅผ ์ฌ์ฉํ ์์ ์ ๋๋ค. ์ด ๊ณผ์ ์์ ์คํค๋ง ๋ถ์ผ์น, ๋ฐ์ดํฐ ์์ ๋๋ ๊ตฌ๋ฌธ ์ค๋ฅ๋ก ์ธํด ๋ฐ์ํ ์ ์๋ ๋ฌธ์ ๋ ์ฝ๋๋ฅผ ๋ณ๋ ์์น์ ์ ์ฅํด ๋์ค์ ์ผ๊ด์ฑ ๊ฒ์ฌ๋ฅผ ์ํด ์กฐ์ฌํ ์ ์๋๋ก ํ ๊ฒ์ ๋๋ค.
PII์ ๊ฐ์ ๋ฏผ๊ฐํ ๋ฐ์ดํฐ๊ฐ ์ฃผ์ ์ํ์ด๊ณ ๋ชจ๋ ๊ธฐ์ ์ ๊ณต๊ฒฉ ํ๋ฉด์ ํ๋ํ๋ค๋ ๊ฒ์ ๋๋ฆฌ ์๋ ค์ง ์ฌ์ค์ ๋๋ค. ๊ฐ๋ช ์ฒ๋ฆฌ์ ํจ๊ป ACID ํธ๋์ญ์ ๊ธฐ๋ฅ ๋ฐ ์๊ฐ์ ๋ฐ๋ฅธ ๋ฐ์ดํฐ ๋ณด์กด ์ ์ฑ ์ ์ํํจ์ผ๋ก์จ, Delta Lake๋ฅผ ์ฌ์ฉํ ๋ ๋ฐ์ดํฐ ์ปดํ๋ผ์ด์ธ์ค๋ฅผ ์ ์งํ๋ ๋ฐ ๋์์ด ๋ฉ๋๋ค. ๊ทธ๋ฌ๋ ๊ฐ ๋ถ๋ง ์ฌํญ์ด ์์ฑ ํตํ, ์น ์ฑํ , ์ด๋ฉ์ผ์ ๋ น์ทจ๋ก์ธ ๊ฒฝ์ฐ ๊ณ ๊ฐ์ ์ด๋ฆ๊ณผ ์ฑ ๋ฑ ๊ฐ์ธ ์ ๋ณด๊ฐ ํฌํจ๋ ์ ์์ผ๋ฉฐ, ์๋น์์ '์ํ์ง ๊ถ๋ฆฌ'(์: GDPR ์ค์)์ ๊ฐ์ ๋น์ ํ ๋ฐ์ดํฐ์์๋ ์ด๊ฒ์ด ์ง์ ํ ๋์ ์ด ๋ฉ๋๋ค. ์๋ ์์์๋ ์กฐ์ง์ด ์์ฐ์ด ์ฒ๋ฆฌ(NLP) ๊ธฐ์ ์ ํ์ฉํด ๊ณ ๋๋ก ๊ตฌ์กฐํ๋์ง ์์ ๊ธฐ๋ก์ ์ต๋ช ํํ๋ฉด์๋ ์๋ฏธ๋ฅผ ๋ณด์กดํ๋ ๋ฐฉ๋ฒ(์ฆ, ์ด๋ฆ ์ธ๊ธ์ ๋์ฒดํด๋ ์๋น์ ๋ถ๋ง์ ๋ณธ์ง์ ์ ์งํด์ผ ํจ)์ ๋ณด์ฌ์ค๋๋ค.
์กฐ์ง์ spaCy์ ๊ฐ์ ์คํ ์์ค ๋ผ์ด๋ธ๋ฌ๋ฆฌ๋ฅผ ์ฌ์ฉํ์ฌ ๊ณ ๊ฐ ๋ฐ ์๋ด์์ ์ด๋ฆ๋ฟ๋ง ์๋๋ผ ์ฌํ๋ณด์ฅ๋ฒํธ(SSN), ๊ณ์ข ๋ฒํธ ๋ฐ ๊ธฐํ PII(์์์์์ ๊ฐ์ด ์ด๋ฆ ๋ฑ)์ ๊ฐ์ ํน์ ์ํฐํฐ๋ฅผ ์ถ์ถํ ์ ์์ต๋๋ค.

๋ฐ์ดํฐ๋ธ๋ฆญ์ค ํํ ์ํ ํ๋ ์์ํฌ์์ Spacy๋ฅผ ์ฌ์ฉํ์ฌ ์ํฐํฐ๋ฅผ ๊ฐ์กฐ ํ์ํ๋ ๋ฐฉ๋ฒ์ ์์์ ๋๋ค.
์๋ ์ฝ๋์์๋ ์์ฐ์ด ์ฒ๋ฆฌ ๊ธฐ์ ์ ๊ธฐ๋ฐ์ผ๋ก ํ๋ ๊ฐ๋จํ ์ต๋ช ํ ์ ๋ต์ด ์ฌ์ฉ์ ์ ์ ํจ์(UDF)๋ก ์ด๋ป๊ฒ ํ์ฑํ๋๋์ง ๋ณด์ฌ ์ค๋๋ค.
NLP๋ฅผ ํตํด ๊ฐ ๋จ์ด(์: ์ด๋ฆ)์ ์๋ฏธ์ ๊ฐ์น๋ฅผ ์ดํดํจ์ผ๋ก์จ ์กฐ์ง์ ์๋ ์์์ ๊ฐ์ด ๋น์ ํ ๋ฐ์ดํฐ์์ ๋ฏผ๊ฐํ ์ ๋ณด๋ฅผ ์ฝ๊ฒ ๋๋ ํํ ์ ์์ต๋๋ค.

Databricks์ ํํ ์ํ ํ๊ฐ ์ ๊ทผ ๋ฐฉ์์ ์ฌ์ฉํ๋ฉด ๊ณ ๊ธ ์ํฐํฐ ์ธ์ ๋ชจ๋ธ์ ์ ์ฉํ์ฌ ๋น์ ํ ๋ฐ์ดํฐ ์ธํธ์์ ๋ฏผ๊ฐํ ์ ๋ณด๋ฅผ ๋๋ ํํ ์ ์์ต๋๋ค.
์ด ๋ฐฉ๋ฒ์ ๋ฐ์ดํฐ ์ฌ์ด์ธํฐ์คํธ์ ๋น์ฆ๋์ค ๋ถ์๊ฐ๊ฐ ์ถ๊ฐ ๋ถ์์ ์ํด ์ฌ์ฉํ ๋์ ๋ธํ ํ ์ด๋ธ์ ์ต์ ์ ๋ณด ์ํ๋ฅผ ์ง์์ ์ผ๋ก ์ ๋ฐ์ดํธํ๊ณ ์ ์งํ ์ ์๋๋ก, ์ผ๊ด ์ฒ๋ฆฌ๋ฟ๋ง ์๋๋ผ ์ฌ๋ฌ ๋ฐ์ดํฐ ์คํธ๋ฆผ์ ์ค์๊ฐ์ผ๋ก ์ฒ๋ฆฌํ ์ ์๋ ํ์ฅ์ฑ์ ์ ๊ณตํฉ๋๋ค.

Databricks๋ ๋ฐ์ดํฐ ์์ง๋์ด, ๋ฐ์ดํฐ ์ฌ์ด์ธํฐ์คํธ, ๋น์ฆ๋์ค ๋ถ์๊ฐ๊ฐ ํตํฉ ๋ฐ์ดํฐ ๋ถ์ ํ๋ซํผ์์ ํ์ ํ ์ ์๋๋ก ์ค์๊ฐ์ผ๋ก ๋ฐ์ดํฐ ์ ์ด ๋ฐ ํ์ง์ ํฅ์์ํต๋๋ค.
๋ฐ์ดํฐ ์ฌ์ด์ธ์ค์ ๋ํ ์ด๋ฌํ ์ค์ฉ์ ์ธ ์ ๊ทผ ๋ฐฉ์์ ์กฐ์ง์ด ๊ธฐ์กด์ ๋ฐ์ดํฐ ์ฌ์ด์ธ์ค ํ๋๊ณผ ์ผ์์ ์ธ ๋ฐ์ดํฐ ์ด์ ์ฌ์ด์ ์กด์ฌํ๋ ๋ถ๋ฆฌ๋ฅผ ์์ ๊ณ ๋ชจ๋ ์ธ๋ฌผ์ ๋์ผํ ๋ฐ์ดํฐ ๋ฐ ๋ถ์ ํ๋ซํผ์ผ๋ก ํตํฉํด์ผ ํ ํ์์ฑ์ ๋ณด์ฌ์ค๋๋ค.
๋ ๋์ ํํ ๊ด๋ฆฌ ์์คํ ์ ํตํด ๊ธ์ต๊ธฐ๊ด์ ๊ธฐ๊ด์์ ์ ๊ณตํ๋ ํน์ ์ํ๊ณผ ์๋น์ค์ ๋ํ ๊ณ ๊ฐ ํผ๋๋ฐฑ์ ์ถ์ ํ๊ณ ๋ถ๋ฆฌํ์ฌ ์ฐ์ํ ๊ณ ๊ฐ ๊ฒฝํ์ ๊ตฌ์ถํ ์ ์์ต๋๋ค. ์ด๋ ๋ฌธ์ ์์ญ์ ๋ฐ๊ฒฌํ๋ ๋ฐ ๋์์ด ๋ ๋ฟ๋ง ์๋๋ผ ๋ด๋ถ ํ์ด ๋ณด๋ค ์ ๊ทน์ ์ผ๋ก ๋ฌธ์ ๋ฅผ ๊ฒช๊ณ ์๋ ๊ณ ๊ฐ์๊ฒ ์ ๊ทผํ๋ ๋ฐ๋ ๋์์ด ๋ฉ๋๋ค.
๋ฐ์ดํฐ๋ฅผ ๋ ์ ์ดํดํ๊ธฐ ์ํด ๋ฐ์ดํฐ ์ฌ์ด์ธํฐ์คํธ๋ค์ ์ ํต์ ์ผ๋ก ๋๊ท๋ชจ ๋ฐ์ดํฐ ์ธํธ๋ฅผ ์ํ๋งํด ๋ ์์ ์ธํธ๋ฅผ ์์ฑํ๊ณ , ์ด๋ฅผ Pandas ๋ฐ์ดํฐ ํ๋ ์์ด๋ Matplotlib ์๊ฐํ์ ๊ฐ์ ์น์ํ ๋๊ตฌ๋ฅผ ์ฌ์ฉํด ๊น์ด ์๊ฒ ํ์ํฉ๋๋ค(๊ฐ๋์ ๋ฉํฑ์์ ์ด๋ฅผ ์ํํ๊ธฐ๋ ํฉ๋๋ค). ๋ฐ์ดํฐ ์ด๋์ ์ต์ํ ํ๊ณ (๊ทธ์ ๋ฐ๋ผ ๋ฐ์ดํฐ ์ด๋๊ณผ ๊ด๋ จ๋ ์ํ๋ ์ค์ด๋ฉด์) ๋๊ท๋ชจ ํ์ ๋ฐ์ดํฐ ๋ถ์์ ํจ์จ์ฑ๊ณผ ํจ๊ณผ๋ฅผ ๊ทน๋ํํ๊ธฐ ์ํด, ๋ฐ์ดํฐ ์ฌ์ด์ธํฐ์คํธ๋ค์ ์์ ๋ค์ด ๊ฐ์ฅ ์ต์ํ ๊ตฌ๋ฌธ(Pandas์ ์ ์ฌํ)์ ์ฌ์ฉํด ๋ชจ๋ ๋ฐ์ดํฐ๋ฅผ ํ์ํ ์ ์๋ Koalas๋ฅผ ํ์ฉํ ์ ์์ต๋๋ค.
์๋ ์์์์๋ ๋ถ์ฐ๋ Spark ์์ง์ ๋ด๋ถ์ ์ผ๋ก ํ์ฉํ๋ฉด์ ๊ฐ๋จํ Pandas์ ์ ์ฌํ ๊ตฌ๋ฌธ์ ์ฌ์ฉํด J.P Morgan Chase์ ๋ชจ๋ ๋ถ๋ง ์ฌํญ์ ํ์ํฉ๋๋ค.

Koalas API๋ฅผ ์ฌ์ฉํด ์ฌ๋ฌ ์ ํ์ ๋ถ๋ง ๊ฑด์๋ฅผ ์๊ฐํํ ์์ ์ฐจํธ์ ๋๋ค.
๊ณ ๊ฐ ๋ถ๋ง์ ๋ํ ์ฉ์ด ๋น๋ ๋ถ์์ ์คํํด ํน์ ๊ธ์ต ์๋น์ค ์ฐ์ ์์ ๊ณ ๊ฐ์ด ๊ฐ์ฅ ๋ง์ด ์ ๊ธฐํ ๋ฌธ์ ๋ฅผ ํ์ ํจ์ผ๋ก์จ ๋ถ์์ ํ ๋จ๊ณ ๋ฐ์ ์ํฌ ์ ์์ต๋๋ค. ์ด๋ฅผ ํตํด ํผํด์ ์ ์ ๋์ฉ ๋ฐ ๋ถ๋นํ ์ฑ๊ถ ์ถ์ฌ๊ณผ ๊ด๋ จ๋ ๋ฌธ์ ๋ฅผ ํ๋์ ์ฝ๊ฒ ํ์ ํ ์ ์์ต๋๋ค.

๋ฐ์ดํฐ๋ธ๋ฆญ์ค์ ํํ ์ํ ๋ถ์ ์ ๊ทผ ๋ฐฉ์์ ํตํด ์์ฑ๋ ์๋น์ ๋ถ๋ง์์ ์ธ๊ธ๋ ๊ฐ์ฅ ์ค๋ช ์ ์ธ n-๊ทธ๋จ์ ์๊ฐํํ ์์ ์ฉ์ด ๋น๋ ๋ถ์ ์ฐจํธ์ ๋๋ค.
์๋ ํด๋ผ์ฐ๋๋ฅผ ์ฌ์ฉํด ์๋น์ ๋์ถ ๋ฐ ์ ์ฉ์นด๋์ ๊ฐ์ ๊ฐ๋ณ ์ํ์ ๋ ์์ธํ ๋ถ์ํด ๊ณ ๊ฐ์ ๋ถ๋ง ์ฌํญ์ ๋ ์ ์ดํดํ ์ ์์ต๋๋ค.

๋ฐ์ดํฐ๋ธ๋ฆญ์ค์ ํํ ์ํ ๋ถ์ ์ ๊ทผ ๋ฐฉ์์ ํตํด ์์ฑ๋ ์๋ ํด๋ผ์ฐ๋ ์๊ฐํ๋ฅผ ํตํด ์๋น์ ๋ถ๋ง์ ์ดํดํฉ๋๋ค.
ํ์์ ๋ฐ์ดํฐ ๋ถ์์ ๋น์ฆ๋์ค ์ธํ ๋ฆฌ์ ์ค(BI) ๋ฐ ๋ฐ์ํ ๋ถ์์ ์ ์ฉํ์ง๋ง, ์ ๋ขฐ๋ฅผ ๊ตฌ์ถํ๊ณ ํจ๊ณผ์ ์ธ ๊ณ ๊ฐ ์๋น์ค๋ฅผ ์ ๊ณตํ๋ฉฐ ๊ฐ๋ณ ์ ํ์ ์ฑ๊ณผ๋ฅผ ์ธก์ ํ๊ธฐ ์ํด์๋ ์ง์ ์ ์ธ ๊ณ ๊ฐ ํผ๋๋ฐฑ, ๊ณต๊ฐ ๋ฆฌ๋ทฐ ๋ฐ ๊ธฐํ ์์ ๋ฏธ๋์ด ์ํธ์์ฉ์ ์ค์๊ฐ์ผ๋ก ์ดํดํ๊ณ ์์ธกํ๋ฉฐ ๋ถ๋ฅํ๋ ๊ฒ์ด ์ค์ํฉ๋๋ค. ๋ง์ ์๋ฃจ์ ์ ํตํด ๋ฐ์ดํฐ๋ฅผ ์์งํ๊ณ ์ ์ฅํ ์ ์์ง๋ง, ํํ ๊ด๋ฆฌ ์์คํ ์ ๊ตฌ์ถํ ๋๋ ํตํฉ ํ๋ซํผ ๋ด์์ ๋ฐ์ดํฐ๋ฅผ ์ํํ๊ฒ ๋ถ์ํ๊ณ ์กฐ์นํ์ฌ ํต์ฌ ์ธ์ฌ์ดํธ๋ฅผ ์ป์ ์ ์๋ ๊ธฐ๋ฅ์ด ํ์์ ์ ๋๋ค.
์๋น์ ๋ฐ์ดํฐ์ ์์ธก ๊ฐ๋ฅ์ฑ์ ๊ฒ์ฆํ๊ณ ๋ฐ์ดํฐ ์ธํธ๊ฐ ๋จธ์ ๋ฌ๋์ ์ ํฉํ์ง ํ์ธํ๊ธฐ ์ํด, ์๋ ์์์ฒ๋ผ t-SNE(๋ถ์ฐ ํ๋ฅ ์ด์ ์๋ฒ ๋ฉ)๋ฅผ ํ์ฉํ์ฌ ๋ถ๋ง ์ฌํญ ๊ฐ์ ์ ์ฌ์ฑ์ ์๋ณํ ์ ์์ต๋๋ค. ์ผ๋ถ ์๋น์ ๋ถ๋ง์ ๊ฐ๋ฅํ ์นดํ ๊ณ ๋ฆฌ ์ธก๋ฉด์์ ๊ฒน์น ์ ์์ต๋๋ค(์: ๋ด๋ณด ๋์ถ๊ณผ ๋ฌด๋ด๋ณด ๋์ถ์ด ์ ์ฌํ ํค์๋๋ฅผ ๋ํ๋ผ ์ ์์), ํ์ง๋ง ๊ธฐ๊ณ๊ฐ ์ฝ๊ฒ ํ์ตํ ์ ์๋ ๋ช ํํ ๊ตฐ์ง์ ๊ด์ฐฐํ ์ ์์ต๋๋ค.

t-SNE ์๊ฐํ๋ฅผ ํตํด ์๋น์ ๋ถ๋ง์ ์์ธก ๊ฐ๋ฅ์ฑ์ ๊ฒ์ฆํ๋ ๊ณผ์ ์ ๋๋ค.
์์ ๋ํ๋ ๋ถ๋ง์ ๋ถ๋ฅํ ์ ์๋ ํจํด์ ๋ค์ ํ๋ฒ ๊ฐ์กฐํด ์ค๋๋ค. ๋ํ, ์ ์ฌ์ ์ธ ์ค๋ณต์ ์ต์ข ์ฌ์ฉ์๋ ์๋ด์์ด ์ผ๋ถ ๋ถ๋ง์ ์๋ชป ๋ถ๋ฅํ ์ ์์์ ์์ฌํ๋ฉฐ, ์ด๋ ๋ถ๋ง ๊ด๋ฆฌ ์์คํ ์ ์ต์ ํ๊ฐ ์ด๋ฃจ์ด์ง์ง ์๊ณ ๊ณ ๊ฐ ๊ฒฝํ์ด ์ ํ๋ ์ ์๋ค๋ ๊ฒ์ ์๋ฏธํฉ๋๋ค.
๋ฐ์ดํฐ๋ธ๋ฆญ์ค์ ML ๋ฐํ์ ํจํค์ง๋ scikit-learn, XGboost, Tensorflow, Jon Snow Labs NLP์ ๊ฐ์ ์์ ์ ์ด๊ณ ์ฑ๋ฅ์ด ๋ฐ์ด๋ ์คํ ์์ค ํ๋ ์์ํฌ์ ๋ํ ์ก์ธ์ค๋ฅผ ์ ๊ณตํฉ๋๋ค. ์ด๋ ๋ฐ์ดํฐ ์ฌ์ด์ธํฐ์คํธ๊ฐ ์ธํ๋ผ, ํจํค์ง ๋ฐ ์ข ์์ฑ ๊ด๋ฆฌ์ ๋๋ ์๊ฐ๊ณผ ๋ ธ๋ ฅ์ ์ค์ด๊ณ ๋ฐ์ดํฐ๋ฅผ ํตํด ๊ฐ์น๋ฅผ ์ฐฝ์ถํ๋ ๋ฐ ๋ ์ง์คํ ์ ์๋๋ก ๋์ต๋๋ค.
์ด ์์์์๋ ๊ฐ๋จํ scikit-learn ํ์ดํ๋ผ์ธ์ ๊ตฌ์ถํ์ฌ ๋ถ๋ง ์ฌํญ์ t-SNE ํ๋กฏ์์ ๋ณผ ์ ์๋ ๋ค ๊ฐ์ง ์ฃผ์ ์ ํ ๋ฒ์ฃผ๋ก ๋ถ๋ฅํ๊ณ , ์ด์ ์ ๋ถ์์ด ์์๋ ํด๋ ์์ ํ์ตํ์ฌ ๋ถ๋ง ์ฌํญ์ ์ฌ๊ฐ๋๋ฅผ ์์ธกํฉ๋๋ค. ๋ธํ ๋ ์ดํฌ๋ ๋ฐ์ดํฐ์ ์ ๋ขฐ์ฑ๊ณผ ์ฑ๋ฅ์ ์ ๊ณตํ๋ ๋ฐ๋ฉด, MLFlow๋ ์ธ์ฌ์ดํธ์ ํจ์จ์ฑ๊ณผ ํฌ๋ช ์ฑ์ ์ ๊ณตํฉ๋๋ค. ๋ชจ๋ ML ์คํ์ ์ถ์ ํ๊ณ ํ์ดํผํ๋ผ๋ฏธํฐ๋ฅผ ํ ๊ณณ์ ์๋์ผ๋ก ๊ธฐ๋กํจ์ผ๋ก์จ ์ ๋ขฐํ ์ ์๋ ๊ณ ํ์ง์ ์ํฐํฉํธ๋ฅผ ์์ฑํ ์ ์์ต๋๋ค.
๋ชจ๋ ์คํ์ด ํ ๊ณณ์ ๊ธฐ๋ก๋๊ธฐ ๋๋ฌธ์, ๋ฐ์ดํฐ ์ฌ์ด์ธํฐ์คํธ๋ ๊ฐ์ฅ ์ ํฉํ ๋ชจ๋ธ์ ์ฝ๊ฒ ์ฐพ์ ์ ์์ผ๋ฉฐ, ์ด์ํ์ ๋ชจ๋ธ ์ํ ๊ด๋ฆฌ ํ๋ก์ธ์ค์ ์ผํ์ผ๋ก ์น์ธ๋ ๋ชจ๋ธ์ ๊ฒ์ํ๊ณ ์ต์ข ์ฌ์ฉ์๋ ๋ค์ด์คํธ๋ฆผ ํ๋ก์ธ์ค์ ์ด๋ฌํ ์ธ์ฌ์ดํธ๋ฅผ ์ ๊ณตํ์ฌ ๋ชจ๋ธ ์๋ช ์ฃผ๊ธฐ ํ๋ก์ธ์ค๋ฅผ ์๊ฐ์์์ ์์ฃผ๋ก ๋จ์ถํ ์ ์์ต๋๋ค.
์ด์ ML์ ์ ์ฉํ์ฌ ์๋ก์ด ๋ถ๋ง์ด ๋ฐ์ํ๋ฉด ์ค์๊ฐ์ผ๋ก ์๋์ผ๋ก ๋ถ๋ฅํ๊ณ ๊ฒฝ๋ก๋ฅผ ์ฌ์ง์ ํ ์ ์์ผ๋ฉฐ, SQL ์ฝ๋์์ UDF๋ฅผ ํ์ฉํ ์ ์๊ฒ ๋๋ฉด์ ๋น์ฆ๋์ค ๋ถ์๊ฐ๊ฐ ์๊ฐํ๋ฅผ ์ํด ๋ฐ์ดํฐ๋ฅผ ์ฟผ๋ฆฌํ๋ฉด์ ๋ชจ๋ธ๊ณผ ์ง์ ์ํธ ์์ฉํ ์ ์๊ฒ ๋์์ต๋๋ค.

๋ฐ์ดํฐ๋ธ๋ฆญ์ค์ ํํ ์ํ ํ๊ฐ ๋ฐฉ์์ ์ธ๊ณต ์ง๋ฅ์ ํ์ฉํ์ฌ BI๋ฅผ ๊ฐํํจ์ผ๋ก์จ, ํํ ์ํ ๊ด๋ฆฌ๋ฅผ ์ํ ๋ถ๋ง ๋ฐ ๋ถ์ ๋ถ์์ ๋ณด๋ค ์ค๋ช ์ ์ธ ์ ๊ทผ์ ์ ๊ณตํฉ๋๋ค.
์ด๋ฅผ ํตํด ์ฌ์ฉ์๋ ๋ฐ์ดํฐ๋ธ๋ฆญ์ค ๋ด์์ ๋ฐ์ดํฐ๋ธ๋ฆญ์ค ๋ ธํธ๋ถ ์๊ฐํ๋ SQL ๋ถ์๊ณผ ๊ฐ์ ์ฌ์ฉํ๊ธฐ ์ฌ์ด ์น ๊ธฐ๋ฐ ์๊ฐํ ๋ฐ ๋์๋ณด๋ ๋๊ตฌ๋ฅผ ํ์ฉํ์ฌ ๋ฐ์ดํฐ๋ฅผ ํ์, ์ฟผ๋ฆฌ, ์๊ฐํ ๋ฐ ๊ณต์ ํจ์ผ๋ก์จ ๋ณด๋ค ์คํ ๊ฐ๋ฅํ ์ธ์ฌ์ดํธ๋ฅผ ๋์ถํ ์ ์์ต๋๋ค. ๊ฐ๋จํ SQL ๊ตฌ๋ฌธ์ ํตํด ํน์ ์์น์์ ์ผ์ ๊ธฐ๊ฐ ๋์ ๋ค์ํ ์ ํ์ ๋ํ ๋ถ๋ง ์ฌํญ์ ์ฝ๊ฒ ๊ฒํ ํ ์ ์์ผ๋ฉฐ, ์ด๋ฅผ ์คํธ๋ฆฌ๋ฐ์ผ๋ก ๊ตฌํํ๋ฉด ๊ณ ๊ฐ ์ง์ ํ์ด ์ ์ํ ์กฐ์น๋ฅผ ์ทจํ๊ณ ๊ณ ๊ฐ์๊ฒ ๋์ํ ์ ์๋ ์ธ์ฌ์ดํธ๋ฅผ ์ ๊ณตํ ์ ์์ต๋๋ค. ์๋ฅผ ๋ค์ด, ์ ์ ๋์ฉ ๋ฐ ๋ฐ์ดํฐ ๋ณด์๊ณผ ๊ฐ์ ์ผ๋ฐ์ ์ธ ๊ณ ๊ฐ ๋ถ๋ง์ ๋ธ๋๋ ํํ์ ํฐ ์ํฅ์ ๋ฏธ์น๊ณ ๊ท์ ๊ธฐ๊ด์ผ๋ก๋ถํฐ ๊ฑฐ์ก์ ๋ฒ๊ธ์ ๋ถ๊ณผ๋ฐ์ ์ ์์ต๋๋ค. ์ด๋ฌํ ์ ํ์ ์ฌ๊ณ ๋ ๋ณธ ๋ธ๋ก๊ทธ ๊ฒ์๋ฌผ์์ ์ค๋ช ํ ํ์ดํ๋ผ์ธ์ ํตํด ์ฝ๊ฒ ๊ด๋ฆฌํ ์ ์์ผ๋ฉฐ, ์ด๋ ๊ธฐ์ ์ด ํ๋ณตํ ๊ณ ๊ฐ๊ณผ ๋ณํํ๋ ๋์งํธ ํ๊ฒฝ์ ์ํ ์ ๋ต์ ์ผํ์ผ๋ก ํํ ๋ฆฌ์คํฌ๋ฅผ ๊ด๋ฆฌํ๋ ๋ฐ ๋์์ด ๋ฉ๋๋ค.
์ด ๋ธ๋ก๊ทธ์์๋ ๊ธฐ์ ์ด ๋ฐ์ดํฐ๋ธ๋ฆญ์ค์ ํตํฉ ๋ถ์ ํ๋ซํผ์ ํ์ฉํ์ฌ ๊ณ ๊ฐ ํผ๋๋ฐฑ์ ์์ ํ๊ฒ ์ค์๊ฐ์ผ๋ก ๋ถ์ํ ์ ์๋ ๋ฆฌ์คํฌ ์์ง์ ๊ตฌ์ถํจ์ผ๋ก์จ ํํ ๋ฆฌ์คํฌ๋ฅผ ์กฐ๊ธฐ์ ํ๊ฐํ ์ ์๋ ๋ฐฉ๋ฒ์ ์๊ฐํ์ต๋๋ค. CFPB์์ ๊ฐ์ ธ์จ ๋ฐ์ดํฐ๋ฅผ ์ค์ฌ์ผ๋ก ์ค๋ช ํ์ง๋ง, ์ด ๋ฐฉ๋ฒ์ ์์ ๋ฏธ๋์ด, ์ง์ ์ ์ธ ๊ณ ๊ฐ ํผ๋๋ฐฑ, ๊ธฐํ ๋น์ ํ ๋ฐ์ดํฐ ์์ค์๋ ์ ์ฉ๋ ์ ์์ต๋๋ค. ์ด๋ฅผ ํตํด ๋ฐ์ดํฐ ํ์ ๋ฐ์ดํฐ ๋ณผ๋ฅจ์ด ์ฆ๊ฐํจ์ ๋ฐ๋ผ ํ์ฅ ๊ฐ๋ฅํ ํํ ์ํ ๊ด๋ฆฌ ํ๋ซํผ์ ๋น ๋ฅด๊ฒ ๊ตฌ์ถํ๊ณ ๋ฐ๋ณตํ๋ฉฐ, ์ ๊ณ ์ต๊ณ ์ ์คํ ์์ค AI ๋๊ตฌ๋ฅผ ํ์ฉํ ์ ์์ต๋๋ค.
AI๋ฅผ ํ์ฉํ์ฌ ํํ ๋ฆฌ์คํฌ๋ฅผ ์ํํ๋ ๋ฐฉ๋ฒ๊ณผ ๋น์ท ํ ์ฌ์ฉ ์ฌ๋ก๋ฅผ ๊ฐ์ง ๊ธ์ต๊ธฐ๊ด์ ์ด๋ป๊ฒ ์ง์ํ๋์ง ์์ธํ ์์๋ณด๊ณ ์ถ๋ค๋ฉด, ์๋์ ๋ฐ์ดํฐ๋ธ๋ฆญ์ค ๋ ธํธ๋ถ์ ํตํด ๋ฌธ์ํด ์ฃผ์ธ์.
๋ธ๋ก๊ทธ๋ฅผ ๊ตฌ๋ ํ๊ณ ์ต์ ๊ฒ์๋ฌผ์ ์ด๋ฉ์ผ๋ก ๋ฐ์๋ณด์ธ์.