[IT๋์ X SBA๊ณต๋๊ธฐํ] IT๋์๊ฐ ์์ธ๊ฒฝ์ ์งํฅ์(SBA)๊ณผ ํจ๊ป ์ด๊ฒฉ์ฐจ ์คํํธ์
ํ๋ก์ ํธ๋ฅผ ์๋ฆฝ๋๋ค. ์ฐ๋ฆฌ๋๋ผ์ ๋ฏธ๋๋ฅผ ์ด๋ ์ด๊ฒฉ์ฐจ 6๋ ์ ๋ต์ฐ์
๋ฐ 12๋ ์ ์ฐ์
๊ธฐ์ ๋ถ์ผ์์ ๋๊ฐ์ ๋ํ๋ด๋ ์ ๋ง ์คํํธ์
, ์ด๋ค๊ณผ ์์ ๊ธฐ์
์ด ๋๋ฐ ์ฑ์ฅํ๋ฉฐ ์ฑ๊ณผ๋ฅผ ๋ง๋๋ ๋ชจ์ต์ ์์ํ๊ฒ ์ ๋ฌํฉ๋๋ค. [IT๋์ ๊น๋์ง ๊ธฐ์] LLMยท์์ฑํ AI ์คํํธ์
์ด ์ฃผ์ AI ๊ธฐ์
๊ณผ ํจ๊ป ๊ธฐ์ ์ ๊ฒ์ฆํ๊ณ ์ฌ์
ํ๋ฅผ ์ถ์งํ ์ ์๋ ๊ธธ์ด ์ด๋ฆฐ๋ค. ๋ชจ๋์ ์ฑ๋ฆฐ์ง AX LLM ๋ถ์ผ ์ฐธ์ฌ ๊ธฐ์
๋ชจ์ง ํฌ์คํฐ / ์ถ์ฒ=SBA ์์ธ๊ฒฝ์ ์งํฅ์(SBA)์ด ์ค์๋ฒค์ฒ๊ธฐ์
๋ถ ์ด๊ฒฉ์ฐจ ์คํํธ์
ํ๋ก์ ํธ(์ถ๊ฒฝ)์ ์ผํ์ผ๋ก ์ถ์งํ๋ โ๋ชจ๋์ ์ฑ๋ฆฐ์ง AXโ LLM ๋ถ์ผ ์ฐธ์ฌ๊ธฐ์
์ ๋ชจ์งํ๋ค. ์ด๋ฒ ํ๋ก๊ทธ๋จ์ AI ๋ถ์ผ ์คํํธ์
์ด ์ฃผ์ ๊ธฐ์
๊ณผ ํ์
ํด LLMยท์์ฑํ AI ๊ธฐ์ ์ ์ฐ์
ํ์ฅ๊ณผ ๋๋ฐ์ด์ค, ํ๋ซํผ์ ์ ์ฉํ๊ณ ๋ณด์ ๊ธฐ์ ์ ๊ณ ๋ํํ๋๋ก ์ง์ํ๊ธฐ ์ํด ๋ง๋ จํ๋ค. LLM ๋ถ์ผ ๋ชจ์ง ๊ท๋ชจ๋ ์ด 33๊ฐ์ฌ ๋ด์ธ๋ค. ์์๊ธฐ์
๋ณ๋ก๋ โฒLG AI์ฐ๊ตฌ์ 10๊ฐ์ฌ โฒ์ค๋ผํด 9๊ฐ์ฌ โฒ๋ค์ด๋ฒํด๋ผ์ฐ๋ 8๊ฐ์ฌ โฒKT 4๊ฐ์ฌ โฒ์
์คํ
์ด์ง 2๊ฐ์ฌ๋ฅผ ์ ๋ฐํ ์์ ์ด๋ค. LG AI์ฐ๊ตฌ์๊ณผ KT, ์
์คํ
์ด์ง๋ ์์๊ธฐ์
์ง์ ํ์
ํ์ผ๋ก ์ฐธ์ฌํ๋ฉฐ, ์ค๋ผํด๊ณผ ๋ค์ด๋ฒํด๋ผ์ฐ๋๋ ํํธ๋์ฌ ํ์ฅํ ๋ชจ๋ธ๋ก ํ์
๊ณผ์ ๋ฅผ ์ด์ํ๋ค. LG AI์ฐ๊ตฌ์์ ์ฐ์
๋ฐ ์ํฐํ๋ผ์ด์ฆ ํ๊ฒฝ์ ํนํ๋ AI ์์ด์ ํธ ๊ฐ๋ฐ ๊ณผ์ ๋ฅผ ์ ์ํ๋ค. ์ฃผ์ ๊ณผ์ ๋ก๋ โฒ์คํ์์ค ํ๊ฒฝ ๊ธฐ๋ฐ ๋คํ์ ์์ฑ์ธ์(STT) ํ์ต๋ฐ์ดํฐ ๊ตฌ์ถ โฒ์ ๋ ฅ๋ง ์ต์ ํ๋ฅผ ์ํ ์์ด์ ํธ ๊ฐ๋ฐ โฒERP NL2SQL ์ฑ๋ฅ ๊ณ ๋ํ โฒ์ด์๊ฑฐ๋ยท๋ถ์ ํ์ ํ์ง ์๋น์ค ๊ฐ๋ฐ โฒ์ฐ์
๋๋ฉ์ธ ํนํ Tool Learning ๋ฐ Agentic AI ์ค์ฆ ๋ฑ์ด ์๋ค. ๋ํ โฒ์์ฐ์ด ๋ฐ ์๋ฎฌ๋ ์ด์
๊ธฐ๋ฐ ํ์ต ํ๋ซํผ ๊ตฌ์ถ โฒ์ฌ์ด๋ฒ ๋ณด์ ํ๊ฒฝ ๊ธฐ๋ฐ ์์ด์ ํธ ํ๋ ๋ฐ์ดํฐ ๊ตฌ์ถ โฒ์คํ๊ฒฝ ์ค์ฌ VLM ๋ฐ์ดํฐ ๊ตฌ์ถ โฒRoboticsยทEmbodied AI ๋ฒค์น๋งํฌ ๋์ ๋ฐ์ดํฐ ๊ตฌ์ถ ๊ณผ์ ๋ ์ด์ํ๋ค. ์ค๋ผํด์ ์ฐ์
๋ณ ํนํ LLM ์์ด์ ํธ ๊ฐ๋ฐ ๊ณผ์ ๋ฅผ ์ด์ํ๋ค. โฒ๊ธฐ์
์ฝํ
์ธ ๋ฐ ๋ง์ผํ
์๋ํ ํ๋ซํผ์ ๋น๋กฏํด โฒ๊ธ์ต ๋ฆฌ์คํฌ ๋ถ์ ๋ฐ ๊ท์ ๋์ ํ๋ซํผ โฒ์ค๋งํธํฉํ ๋ฆฌ ํ์ง ์์ธก ๋ฐ ์ ์กฐ ์ด์ ์ต์ ํ ํ๋ซํผ โฒํฌ์ค์ผ์ด ๋ฐ์ดํฐ ๋ถ์ ๋ฐ ์ง๋ฃ ์ง์ ํ๋ซํผ โฒ๊ฐ์ธํ ์ถ์ฒ ํ๋ซํผ โฒ๊ณต๊ธ๋ง ๊ด๋ฆฌ ํ๋ซํผ โฒ๊ต์กยท๋ณด์ยทHR ํนํ LLM ์์ด์ ํธ ๋ฑ์ ์ ์ํ๋ค. ๋ค์ด๋ฒํด๋ผ์ฐ๋๋ ์ ์กฐ ์ฐ์
ํนํ AI ์์ด์ ํธ ๊ฐ๋ฐ ๊ณผ์ ๋ฅผ ๋ง๋ จํ๋ค. โฒ์์ฝํ๋ก์์ด์น์ค๊ณผ ํ๋ ฅํ๋ ์ ์กฐ ํนํ ์์ฑํ AI ์์ด์ ํธ RAG ๊ฐ๋ฐ โฒ์ผ๋ณด๋ชจํฐ์ค์ ํ๋ ฅํ๋ ์๋์ฐจ ๋ถํ ์ ์กฐ ์ฐ์
ํนํ AI ์์ด์ ํธ ๊ตฌ์ถ โฒ๋ํ์ฝ์คํ
๊ณผ ํ๋ ฅํ๋ ์ ์กฐ ๋ฐ์ดํฐ ๋ถ์ยท๊ฒ์ ์์ฑํ AI ์์ด์ ํธ ๊ตฌ์ถ โฒ ๋๋น์ฐ์
๊ณผ ํ๋ ฅํ๋ ํ๋ค์ค ์์ง๋์ด๋ง ๊ธฐ๋ฐ AI ์์ด์ ํธ ๋์
๊ณผ์ ๋ฑ์ด ํฌํจ๋๋ค. ์ด ๋ฐ์๋ โฒ์ ์กฐ ํ์ฅ ๋ถ์ ๋ฐ ์์ ๊ด๋ฆฌ ์์คํ
โฒ์ ์กฐ ๊ฐ์น์ฌ์ฌ ๋ฐ์ดํฐ ๋ถ์ AI ์์ด์ ํธ โฒBOM ๊ธฐ๋ฐ ๋๋ฉด ๊ฒ์ฆ ์์ด์ ํธ โฒ์ฌ๋ฌ์ง ์์ง๊ธฐ ์ด์ ์ํ ๊ฐ์ง ๋ฐ ์ด์ ์์ธก ์์ด์ ํธ ๊ฐ๋ฐ ๊ณผ์ ๋ฅผ ์ด์ํ๋ค. KT๋ ์์ฒด AI ๋ชจ๋ธ โ๋ฏฟ:์โ์ ๊ธฐ๋ฐ์ผ๋ก ํต์ , ๊ต์ก, ๋ฒ๋ฅ , ํนํ ๋ถ์ผ AI ์์ด์ ํธ ๊ฐ๋ฐ ๊ณผ์ ๋ฅผ ์ด์ํ๋ค. ํต์ ์๋น์ค ์์ด์ ํธ ๊ณผ์ ๋ ๊ณ ๊ฐ ๋ง์ถคํ ์๊ธ ์ค๊ณ๋ฅผ ์ง์ํ๋ AI ์์ด์ ํธ ๊ฐ๋ฐ์ ๋ชฉํ๋ก ํ๋ฉฐ, ๊ต์ก ์์ด์ ํธ ๊ณผ์ ๋ ๊ณต๊ต์ก ํ์ ๋ง์ถคํ ํ์ต ๋์ฐ๋ฏธ ์๋น์ค ๊ฐ๋ฐ์ ์ด์ ์ ๋ง์ท๋ค. ๋ฒ๋ฅ ์์ด์ ํธ ๊ณผ์ ๋ ์ ๋ฌธ ๋ฒ๋ฅ ๋ต๋ณ ์์ด์ ํธ ๊ฐ๋ฐ, ํนํ ์
๋ฌด ์์ด์ ํธ ๊ณผ์ ๋ ํนํ ๋ฐ๋ช
์
๋ฌด ์ง์ AI ์์ด์ ํธ ๊ฐ๋ฐ์ ์ถ์งํ๋ค. ์
์คํ
์ด์ง๋ ๊ต์ก ํนํ LLM ์์ด์ ํธ ๋ถ์ผ์์ ๋ ๊ฐ ๊ณผ์ ๋ฅผ ์ด์ํ๋ค. Solar LLM ๊ธฐ๋ฐ ์ํฌ๋ผํฑ ํ์ต AI ํํฐ ์์ด์ ํธ ๊ฐ๋ฐ๊ณผ Solar ๋ฐ Document Parse ๊ธฐ๋ฐ RAG ์๋ ์ฑ์ ยทํผ๋๋ฐฑ ์์ด์ ํธ ๊ฐ๋ฐ ๊ณผ์ ๋ค. ์ ์ ๊ธฐ์
์๋ ์ต๋ 1์ต ์ ๊ท๋ชจ์ PoC ์๊ธ์ด ์ง์๋๋ค. ํ์
๊ณผ์ ์ํ์ ์ํ GPU(B200) ์ง์๊ณผ ํจ๊ป ๋ฐ์ดํฐ, ์ธํ๋ผ, ๊ธฐ์ ๊ฐ๋ฐ, ํ
์คํธ ํ๊ฒฝ ๋ฑ PoC ์ง์๋ ์ ๊ณตํ๋ค. ๋ํ ์์ฅ ์ถ์, ๋งค์ถ ์ฐฝ์ถ, ํฌ์์ ์น, ๊ธ๋ก๋ฒ ์ง์ถ ๋ฑ ์ฌ์
ํ ์ฑ๊ณผ ์ฐ๊ณ๋ฅผ ์ํ ์ง์๋ ๋ฐ์ ์ ์๋ค. ์ฐธ์ฌ๋ฅผ ํฌ๋งํ๋ ๊ธฐ์
์ 6์ 24์ผ ์คํ 3์๊น์ง K-์คํํธ์
๋๋ฆฌ์ง์ ํตํด ์ ์ฒญํ๋ฉด ๋๋ค. ์ ์ฒญ ๋์์ ๋ชจ์ง๊ณต๊ณ ์ผ ๊ธฐ์ค ์ฐฝ์
10๋
์ด๋ด ์คํํธ์
์ด๋ฉฐ, ์๋ฅํ๊ฐ์ ๋ฐํํ๊ฐ๋ฅผ ๊ฑฐ์ณ ์ต์ข
์ ์ ํ๋ค. ์ ์ฒญ์ ๋ฐ๋์ ์ฐฝ์
๊ธฐ์
๋ํ์๊ฐ ์ง์ ํด์ผ ํ๋ฉฐ, ๊ธฐ์
๋น ํ๋์ ํ์
๊ณผ์ ๋ง ์ ํํด ์ง์ํ ์ ์๋ค. ์ ์ ๊ธฐ์
์ ์ฌํด 7์๋ถํฐ 12์๊น์ง ์ฝ 6๊ฐ์ ๋์ ์์๊ธฐ์
๊ณผ ํ์
๊ณผ์ ๋ฅผ ์ํํด์ผ ํ๋ฉฐ, ํ์ฝ ์ข
๋ฃ ์์ ์ธ 12์ ๋ง๊น์ง ํด๋น ๊ณผ์ ๊ฐ๋ฐ์ ์๋ฃํด์ผ ํ๋ค. IT๋์ ๊น๋์ง ๊ธฐ์ (kdj@itdonga.com)