[IT๋์ ๋จ์ํ ๊ธฐ์] โGPU๊ฐ AI ์ธํ๋ผ์ ์ค์ฌ์ด๋ ์์ ์ผ ๋ AI-NIC(๋คํธ์ํฌ ์ธํฐํ์ด์ค ์นด๋), DPU(๋ฐ์ดํฐ ์ฒ๋ฆฌ ์ฅ์น)์ ํต์ฌ ์ญ๋์ ์ฌ๋ฌ GPU๊ฐ ๋์์ ํ์ต์ ์ํํ ๋ ๋ฐ์ํ๋ ์ ์ฒด ๋ฐ์ดํฐ ๋ณํฉ(All-Reduce)๊ณผ ๊ฒฐ๊ณผ ๋ฐฐํฌ(Broadcast), ์ง๊ณ ํต์ (Collective Communication)์ ์ผ๋ง๋ ๊ฐ์ํํ๋๊ฐ์ ๋ฌ๋ ค์์๋ค. ํ์ง๋ง ์ฅ๋ฌธ๋งฅ๊ณผ ๋ค๋จ๊ณ ์ถ๋ก ์ ๋ฐ๋ณตํ๋ ์์ด์ ํฑ AI๊ฐ ํ์ฐํ๋ฉด์ ์ง๊ธ์ GPU, ๋คํธ์ํฌ๋ก ์ฐ๊ฒฐ๋ ๋๊ท๋ชจ ๊ณต์ ์ ์ฅ์ฅ์น๋ฅผ ์ผ๋ง๋ ๊ฐ์ํ ์ ์๋์ง, CPU์ ๊ฐํด์ง๋ ๋ถ๋ด์ ์ผ๋ง๋ DPU๋ก ์ ๋ถ์ฐ, ์ ์ฌํ๋์ง๊ฐ ์๋ก์ด ๊ฒฝ์์ ์ถ์ผ๋ก ๋ถ์ํ๊ณ ์๋คโ ์์ด์ ํฑ AI์ ์ฅ๋ฌธ๋งฅ ์ถ๋ก ์ AI ์ธํ๋ผ ์์ฅ์์ ์๋ก์ด ์ธํฐํ์ด์ค ์์๋ฅผ ๋ง๋ค์ด๋ด๊ณ ์๋ค. ๋ํ์ธ์ด๋ชจ๋ธ(LLM) ์ถ๋ก ์์
์ ๋จ์ํ ์์ฒญ ๋ฐ ์๋ต ์ค์ฌ์ด๋ผ๋ฉด AI ์์ด์ ํธ๋ ์ฌ๋ฌ ์ฐจ๋ก ๋ชจ๋ธ์ ํธ์ถํ๊ณ , ๋๊ตฌ๋ฅผ ์ฌ์ฉํ๋ฉฐ ๊ณผ๊ฑฐ ๋ฌธ๋งฅ์ ๋ค์ ์ฐธ์กฐํ๋ค. ์ด์ ๋ฐ๋ผ KV์บ์(Key Value)๊ฐ GPU ๋ฉ๋ชจ๋ฆฌ ๋ด์๋ง ์ ์ฅ๋์ด ์๊ธฐ ์ด๋ ต๊ณ ์์คํ
๋ฉ๋ชจ๋ฆฌ์ ์ ์ฅ ์ฅ์น, ๋ ๋์๊ฐ ๋คํธ์ํฌ๋ก ์ฐ๊ฒฐ๋ ๋๊ท๋ชจ ๊ณต์ ์ ์ฅ์ฅ์น๊น์ง ๋์ด๋ค ์จ์ผ ํ๋ ํ๊ตญ์ด๋ค. ๊ถ๋์
๋ง๊ณ ๋ถ์คํธ ์ต๊ณ ๊ธฐ์ ์ฑ
์์๋ฅผ ์์ธ์ ๊ด์
๊ตฌ ์์ฌ์ ๋ณธ์ฌ ์ฌ๋ฌด์ค์์ ๋ง๋ฌ๋ค. ๊ทธ๊ฐ ์์ ๋ค๊ณ ์๋ ํ๋์จ์ด๊ฐ ๋ง๊ณ ๋ถ์คํธ์ ๋ถ์คํธX(BoostX) AI-NIC์ด๋ค / ์ถ์ฒ=IT๋์ ์ด์ ๋ฐ๋ผ ์๋น๋์๋ ์ ์ฅ์ฅ์น ๊ณ์ธต์ GPU์ ์ง์ ์ฐ๊ฒฐ๋๋ HBM ๋ฑ์ G1, ์์คํ
๋ฉ๋ชจ๋ฆฌ๋ฅผ G2, SSD ๋ฑ ์ ์ฅ ์ฅ์น๋ฅผ G3, ์ด๋๋ท ์ฐ๊ฒฐ ํ๋์ ๊ธฐ๋ฐ ์ฝํ
์คํธ, KV ์บ์ ๊ณ์ธต์ G3.5, ๊ณต์ ์ ์ฅ์ฅ์น๋ฅผ G4๋ก ๊ณต์์ ์ผ๋ก ๊ตฌ๋ถํด์ ๋ถ๋ฅํ๊ธฐ ์์ํ๊ณ , AI ์ธํ๋ผ ๊ด๋ จ ์์ฅ๋ ์ด์ ๋ง์ถฐ ์ฌํธ๋๊ณ ์๋ค. ๋ง๊ณ ๋ถ์คํธ ์
์ฅ์์ ์ด๋ฐ ์์ฅ ํ๋ฆ์ ์๋ก์ด ๊ธฐํ๊ฐ ๋๊ณ ์๋ค. ๋ง๊ณ ๋ถ์คํธ๋ 2022๋
DPU ๊ธฐ๋ฐ์ AI ์ธํ๋ผ ์๋ฃจ์
๊ธฐ์
์ผ๋ก ์์ํด ์ต๊ทผ์๋ GPU ์๋ฒ, ์คํ ๋ฆฌ์ง, ์ํํธ์จ์ด ๋ฑ AI ์ธํ๋ผ ์ ๋ฐ์ ๊ด์ฌํ๊ณ ์์ผ๋ฉฐ, ํนํ AMD์ ์ฃผ์ ๊ธฐ์ ํํธ๋๋ก์ ์์ฅ์ ์ฑ์ฅ์ ๋ฐ๋ง์ถ๊ณ ์๋ค. ๊ถ๋์
๋ง๊ณ ๋ถ์คํธ ์ต๊ณ ๊ธฐ์ ์ฑ
์์(CTO)๋ฅผ ๋ง๋ AI ์ธํ๋ผ ์์ฅ ์ ๋ฐ์ ๋ํ ์๊ฐ๊ณผ ํ์ฌ์ ์ ๋ต์ ๋ํ ์๊ฒฌ์ ๋ค์ด๋ณด์๋ค. โ์ธํฐํ์ด์ค๊ฐ AI ๋ณ๋ชฉ ๋ ๊ฑฐ๋ผ๋ ์๊ฐ์์ ๋ง๊ณ ๋ถ์คํธ ์์๋๋คโ ๊ถ๋์
๋ง๊ณ ๋ถ์คํธ CTO๋ ๊ณผ๊ฑฐ ํฌํญ๊ณต๊ณผ๋ํ๊ต ์ฌํ ์์ ๋ถํฐ ๊น์ฅ์ฐ ์์ธ๋ ์ ๊ธฐ์ ๋ณด๊ณตํ๋ถ ๊ต์์ ์ธ์ฐ์ ๋งบ์๊ณ , ์ดํ ๊ณ ์ฑ๋ฅ ์ปดํจํฐ ์์คํ
์ฐ๊ตฌ์ค(HPCS Lab)์์ ์ฐ๊ตฌ๊ฐ๋ฐ์ ์งํํ๋ค. ๊ถ๋์
CTO๋ โDPU ์ฐ๊ตฌ๋ ํ๋ถ ์์ ๋ถํฐ ์งํํด์๋ค. ํฅํ ์ธํฐํ์ด์ค๊ฐ ๊ณ ์ํ๋์ด ์ฌ๋ฌ ์๋ฒ๊ฐ ์ฐ๊ฒฐ๋๋ฉด CPU์ ์ธํฐํ์ด์ค ์๋๊ฐ ํ๊ณ์ ์์ธ์ด ๋ ๊ฒ์ด๋ผ ์๊ฐํ๋ค. ๊ทธ๋์ ์ธํฐํ์ด์ค ์์ค์์ ๊ฐ ์ฅ์น๋ฅผ ์ง์ ์ฐ๊ฒฐํ๋ ํ๋์จ์ด๊ฐ ํ์ํด์ง ๊ฒ์ด๋ผ๊ณ ์๊ฐ๋ผ ์๋ก์ด ์๋ฒ ๊ตฌ์กฐ๋ฅผ ์ ์ํ๋ค. ๋น์์๋ DPU ๊ฐ๋
์ ์๊ณ ์ฅ๋น ์ค์ฌ ์๋ฒ ์ํคํ
์ฒ(Device-Centric Server Architecture)๋ฅผ ํตํด ์ง๊ธ์ DPU ๊ฐ๋
์ ๋ง๋ค์๋คโ๋ผ๋ฉด์ โ์ด ๊ฐ๋
์ด ๋จ์ํ ์ฐ๊ตฌ์ค์์ ๋จธ๋ฌด๋ฅด์ง ์๊ณ ์ ํํํ ์ ์๋๋ก ๊น์ฅ์ฐ ๊ต์์ ๋ช๋ช ์ฐ๊ตฌ์ค ์ธ์๋ค์ด ํ์ ํฉ์ณ ๋ง๊ณ ๋ถ์คํธ๋ฅผ ์ฐฝ์
ํ๋คโ๋ผ๊ณ ์ค๋ช
ํ๋ค. ๊ถ๋์
CTO์ ๊น์ฅ์ฐ ๋ํ์์ ์ธ์ฐ์ 15๋
์ ์ผ๋ก ๊ฑฐ์ฌ๋ฌ ์ฌ๋ผ๊ฐ๋ฉฐ, ์ด๋ฏธ ๊ทธ๋ ๋น์๋ถํฐ DPU์ ๋ํ ๊ธฐ๋ณธ์ ์ธ ๊ฐ๋
์ ๊ตฌ์ ์ค์ด์๋ค๊ณ ๋งํ๋ค / ์ถ์ฒ=IT๋์ ์ด์ ๋ฐ๋ผ ์ฌ์
์ด๊ธฐ์๋ DPU์ ์ง์คํ์ง๋ง ์ง๊ธ ์์ ์์๋ โํ์คํ AIโ๋ผ๊ณ ๋ถ๋ฅผ ๋งํผ AI ์ธํ๋ผ ์ ๋ฐ์ ๊ด์ฌํ๋ ์ค์ด๋ค. ๊ถ๋์
CTO๋ โ์ต๊ทผ AI ํฉํ ๋ฆฌ ๋จ์์ ๊ธฐ๋ณธ ์์๋ ๋์ด๋ฉฐ, ๊ทธ ์์ GPU ์๋ฒ, ์คํ ๋ฆฌ์ง, ํ ์ค๋ธ ๋ ์ค์์น, ํจ๋ธ๋ฆญ, ์ถ๋ก ์ํํธ์จ์ด ๋ฑ์ด ํฌํจ๋๋ค. ์ด๊ธฐ์๋ FPGA(ํ๋ก๊ทธ๋๋ฐ ๊ฐ๋ฅํ ๋ฐ๋์ฒด)๋ฅผ ๋ฐํ์ผ๋ก DPU, ํน์ ์ฌ์ฉ์์ฉ ์ ํ๋ฆฌ์ผ์ด์
์ง์ ๋ฑ์ ์ง์คํ์ง๋ง ์ต์ข
์ฌ์ฉ์๋ฅผ ์ดํดํด์ผ ์ฐ๋ฆฌ ๊ฒฝ์๋ ฅ์ผ๋ก ๊ฐ์ ธ์ฌ ์ ์๋ค๊ณ ์๊ฐํ๋ค. ๊ทธ๋์ ์
๊ณ์์ AI ์ธํ๋ผ๊ฐ ์ด๋ป๊ฒ ๊ฐ๋ฐ๋๊ณ ํ์ฉ๋๋์ง๋ฅผ ๊ตฌ์ฑํ๊ณ ์ ํ์ฌ ์ธํ๋ผ ์ ๋ฐ์ ๋ค๋ฃจ๊ฒ ๋๋คโ๋ผ๊ณ ๋งํ๋ค. AI ์ธํ๋ผ ์ ๋ฐ์ ๋ค๋ฃจ๋ค๋ณด๋ ์กฐ์ง ๊ตฌ์ฑ๋ ํ๋์จ์ด์ ์ํํธ์จ์ด๋ฅผ ์ ๋ฐ์ ์ผ๋ก ์ฑ์ฉํ๋ค. ๊ถ๋์
CTO๋ โํ ์ธก๋ฉด์์๋ ํ๋์จ์ด ๊ฐ๋ฐ ๊ทธ๋ฃน์ด HW IP ๊ฐ๋ฐ ํ, ์นด๋ ๋ฐ ๋ณด๋ ๊ฐ๋ฐ, ์นฉ ๊ฐ๋ฐ ๋ฑ๋ฑ ๋ฌผ๋ฆฌ์ ์ธ ์์ญ์ ๋ด๋นํ๊ณ , ์นด๋์ ์๋ฒ ์ ํ๊ตฐ, ์ํํธ์จ์ด ๊ฐ๋ฐ ๋๊ตฌ, LLM ๊ด๋ จ ์ถ๋ก ์ํํธ์จ์ด ๋ฑ์ ๊ฐ๋ฐํ๋ ์ํํธ์จ์ด ์์ง๋์ด๋ง ํ์ผ๋ก ๋๋๋ค. ๋ํ ํ๋์จ์ด์ ์ํํธ์จ์ด๊ฐ ์ ์ฎ์ด๋๋ก ์ปดํจํธ ์ํคํ
ํธ ๊ทธ๋ฃน์ด ์ค๊ฐ์์ ์กฐ์จํ๋ ์ญํ ์ ํ๋คโ๋ผ๊ณ ์ ๋ฆฌํ๋ค. ์ธ ๊ฐ ํ์ ์
๊ณ ์ต๊ณ ์์ค์ ๊ฒฝ๋ ฅ์ ๊ฐ์ง ์์ง๋์ด๋ค์ด ์ด๊ดํ๊ณ ์๊ณ , ๊ถ๋์
CTO๋ ํ๋์จ์ด, ์ํํธ์จ์ด, ์ํคํ
ํธ ์ธ ํ์ ์ค์ฌ์์ ๋ชจ๋ ์์
์ ์กฐ์จํ๊ณ ์๋ค. ๋ํ ๋ผ์ฐจํ ์์ฐ์ฌ๋ฐ๋ฃฝ๋๋ฃฌ(Rachata Ausavarungnirun) ๋ฐ์ฌ๊ฐ ๋ง๊ณ ๋ถ์คํธ AI ์ํคํ
์ฒ ์ด๊ด๋ก์ ๊ถ๋์
CTO์ ํจ๊ป ์ ํ ๊ฐ ์๋์ง, AI ์์ด์ ํธ ํฉํ ๋ฆฌ ๋ฑ์ ๊ณต๋ ์ฐ๊ตฌ๊ฐ๋ฐํ๊ณ ์๋ค. CPU ์ค์์ฑ ๋์์ง ์์ด์ ํฑ AI ์๋, ๋ง๊ณ ๋ถ์คํธ์ ๊ฒฝ์๋ ฅ์? ์๋น๋์์ GPU ๋ค์ด๋ ํธ ์คํ ๋ฆฌ์ง, ๊ทธ๋ฆฌ๊ณ ์ธ๋๋ณ ์ํคํ
์ฒ๋ AI ์ธํ๋ผ ์
๊ณ ์ ๋ฐ์ ๊ตฌ์กฐ๋ฅผ ๋ค์๊ณ ์๋ค. ์ ์ฅ์ฅ์น๊ฐ ๋ฐ์ดํฐ ๋ณด๊ด ์ฉ๋์์ ์ด๊ณ ์ ๋ฐ์ดํฐ ๊ณต๊ธ ์ฅ์น๋ก ๋ณํํ๊ณ , AI ์ ์ฉ ์ ์ฅ์ฅ์น๊ฐ ์๋กญ๊ฒ ๋๋๋๊ณ ์๋ค. ํนํ AI ํ์ต ๋ฐ ์ถ๋ก ๊ณผ์ ์์ ๋ฐ์ดํฐ ์ด๋ ์ CPU ์ฌ์ฉ๋์ด ๊ธ๊ฐํด ์ง์ฐ ์๊ฐ์ด ์ค์๊ณ , CPU ์์์ ์์ด์ ํธ ์คํ๊ณผ ์ค์ผ์คํธ๋ ์ด์
๋ฑ ๋ค๋ฅธ ์์
์ ๋ ํ์ฉํ ์ฌ์ง๊ฐ ์๊ฒผ๋ค. ์์ฐ์ค๋ ๋ฐ์ดํฐ ์ด๋์ ๋ถํ๋ PCIe ์ค์์น, ๊ทธ๋ฆฌ๊ณ DPU๊ฐ ๋ด๋นํ๊ฒ ๋๋ค. ๋ง๊ณ ๋ถ์คํธ๊ฐ ์ฐจ์งํ๋ ์
๊ณ์ ์ค์์ฑ๋ ํจ๊ป ๋์์ก๋ค. ๋ง๊ณ ๋ถ์คํธ ๋ถ์คํธX ํ๋ก DPU์ ๋ถ์คํธX AI-NIC์ด ํ
์คํธ ๋ฒค์น์ ์ฅ์ฐฉ๋ผ์๋ค / ์ถ์ฒ=IT๋์ ๊ถ๋์
CTO๋ โCPU์ ๋ถ๋ด์ DPU๊ฐ ์ผ๋ง๋ ์ค์ฌ์ฃผ๋๊ฐ๊ฐ ์๋ก์ด ๋ฉ๋ชจ๋ฆฌ ๊ณ์ธต์์์ ํต์ฌ ๊ฒฝ์๋ ฅ์ด๋ค. ํนํ 3.5ํฐ์ด์ ํด๋นํ๋ ์ด๋๋ท ์ฐ๊ฒฐ ๋ฉ๋ชจ๋ฆฌ๋ ํธ์คํธ CPU ์์ด DPU๊ฐ ์ฃผ๋ ฅ์ผ๋ก ์์ฉํด ๊ทธ ์ค์์ฑ์ด ๋ ๋์์ก๋คโ๋ผ๊ณ ๋งํ๋ค. ๋ํ โ์์ฅ์์ ๊ฐ์ฅ ์์๊ฐ ๋์ DPU๋ ์๋น๋์ ๋ธ๋ฃจํ๋์ง๋ง, ์์ด์ ํฑ AI ์๋์๋ DPU๊ฐ ๋ด๋นํด์ผ ํ ์ญํ ์์ฒด๊ฐ ๋ฌ๋ผ์ง๊ณ ์๋ค. ๋ถ์คํธX(BoostX) ์์ด์ ํธ ํฉํ ๋ฆฌ, ์ฆ ๋๊ท๋ชจ ์ถ๋ก ยท์๋น ํ๊ฒฝ์ผ๋ก ์ด์ฉํ ๋ ํ์์ ์ธ KV ์บ์ ๊ณ์ธต(G3.5ยทG4) ๊ฐ์๊ณผ ์ด๊ธฐ์ข
GPU ํ๋ง์ ํ ๋ฒ์ ์ฒ๋ฆฌํ๋ ๋ฐ ๋ง์ถฐ์ ธ ์๋ค. ํ์ฌ ๋ถ์คํธX(BoostX)๋ LP ์นด๋ ํํ๊ณ , ๋ด๋
์๋ฐ๊ธฐ์๋ x86 CPU๋ฅผ ํ์ฌํ ์คํ ๋๋ ํผํฉํฐ DPU๋ฅผ ์ถ์ํ ์์ ์ด๋ฉฐ, 2028๋
์๋ฐ๊ธฐ์๋ 800G ๋์ผ ํฌํธ DPU๊น์ง ํ์ฅํ ๊ณํโ ์ด๋ผ๊ณ ๋งํ๋ค. ๋ค๋ง ๋ถ์คํธX ๋ฒ ์ด์ค ๋ฑ ํต์ฌ DPU๋ AMD ๋ฒ์ค ๊ธฐ๋ฐ์ FPGA๋ก ๊ตฌ์ฑ๋์ด ์๊ณ , ๋๊ท๋ชจ ์์ฐ์ด๋ ์ ๋ ฅ ํจ์จ ๋ฉด์์๋ ์ฃผ๋ฌธํ ๋ฐ๋์ฒด(ASIC)๋ณด๋ค ๋ถ๋ฆฌํ ๊ฒ์ด ์ฌ์ค์ด๋ค. ์ด์ ๊ด๋ จํด FPGA๋ฅผ ์ ์งํ๋์ง, ASIC์ ์์ํ๋๊ฐ์ ๋ํด์๋ โ๋ด๋ถ์ ์ผ๋ก๋ ASIC์ ๋ํ ํ์์ฑ์ ๋๋ผ๊ณ ์์ผ๋ฉฐ, FPGA ์ญ์ ๊ณ์ ํ์ํ ๊ฒ์ด๋ค. ํฅํ์ ๋์ญํญ ๊ฒฝ์์ด๋ ๋๋ ๋์
์ด ์๊ตฌ๋๋ค๋ฉด FPGA์ ASIC์ ํผ์ฉํ์ง ์์๊น ํ๋ค. ๋น์ฅ ์ค๊ตญ์์๋ FPGA ๊ธฐ๋ฐ DPU๊ฐ ์ ๊ท ๋ฑ์ฅํ๊ณ ์๊ณ , ๋คํธ์ํฌ ํจ๋ธ๋ฆญ์ ๋ํ ํ์ ๋ ์ด์ด์ง๊ณ ์์ด์ ์ฅ๊ธฐ์ ์ผ๋ก๋ ๋ ๊ตฌ์ฑ์ ๋ณตํฉํ ๊ฒ์ผ๋ก ์๊ฐํ๋คโ๋ผ๊ณ ๋ตํ๋ค. ๋ง๊ณ ๋ถ์คํธ์ ๊ณ ์ฑ๋ฅ AI ์คํ ๋ฆฌ์ง ์ผ์ฌ๋ฅด(Kesar, ์ฌ์ง์ ์ข์ธก)์ AMD GPU ํ๋์จ์ด ๊ธฐ๋ฐ์ ์ํฐ์(Alphonso, ์ฌ์ง ์ ์ฐ์ธก) ์๋ฒ / ์ถ์ฒ=IT๋์ ์์ฒด๊ฐ๋ฐ DPU์ฌ์
์ ๊ธฐ๋ฐ์ผ๋ก ์์ด์ ํธ AI ์๋์ ์ฃผ์ ํ๋์จ์ด ์ค ํ๋๋ก ์ธ์๋๋ฉด์ ๋ง๊ณ ๋ถ์คํธ ์ญ์ ์ํฐ์(Alphonso) GPU ์๋ฒ์ ์ผ์ฌ๋ฅด(Kesar) ์คํ ๋ฆฌ์ง ์๋ฒ, ์ค์ผ์คํธ๋ ์ด์
, GPU, ์คํ ๋ฆฌ์ง๊น์ง ๋ชจ๋ ์ธํ๋ผ๋ฅผ ์ข
ํฉํด์ ๋ค๋ฃจ๊ธฐ ์์ํ๋ค. ๊ถ๋์
CTO๋ โDPU ํ๋๋ง ๋ฐ๋ผ๋ณด๋ ๊ฒ์ ํํธํ๋ ์ ๊ทผ ๋ฒ์ด๊ณ , ๊ถ๊ทน์ ์ผ๋ก ํจ์จ์ ๋์ด์ฌ๋ฆฌ๊ธฐ ์ํด์๋ ์์ด์ ํฑ AI์ ๊ด๊ณ๋ ๋ชจ๋ ๊ตฌ์ฑ ์์๋ฅผ ๋ค ๋ค๋ฃฐ ์ ์์ด์ผ ํ๋ค๊ณ ๋ณธ๋ค. ํนํ ์ํํธ์จ์ด๋ง์ผ๋ก๋ ๊ฒฝ์ ๊ธฐ์
์ด ๋ง๊ณ , ๊ธฐ์ ์ ์ฅ๋ฒฝ๋ ๋ฎ์์ง๊ณ ์์ด์ ํ๋์จ์ด๋ฅผ ๊ธฐ๋ฐ์ผ๋ก ์ํํธ์จ์ด๊น์ง ๋ค๋ฃจ๋ ๋ฐฉ์์ด ๊ธฐ์ ์ ์ธ ํด์๋ก ์์ฉํ ๊ฒโ์ด๋ผ๊ณ ์ค๋ช
ํ๋ค. ํํธ ๋ง๊ณ ๋ถ์คํธ๋ ์ค๋ 11์ 2์ผ ๊ทธ๋ฆฌ์ค ์ํ
๋ค์์ ์ด๋ฆฌ๋ ์ปดํจํฐ ์ํคํ
์ฒ ํํ IEEE/ACM ์ธํฐ๋ด์
๋ ์ฌํฌ์ง์ ์จ ๋ง์ดํฌ๋ก์ํคํ
์ฒ์ ๋ง์ดํฌ๋ก 2026 ์ธ๋์คํธ๋ฆฌ ์ธ์
์์ โโBoostXโข-RNIC: Fast, Scalable and Flexible AI RNICโ๋ฅผ ์ฃผ์ ๋ก ๋ฐํํ๋ค. ํด๋น ๋ฐํ์์๋ ๋ง๊ณ ๋ถ์คํธ๊ฐ GPU์ ์ ์ฅ์ฅ์น, KV ์บ์ ๋ฐ ์คํ ์ํ๊ณ ๋ฑ์ ๊ธฐ๋ฅ์ ์ด๋ป๊ฒ AI์ถ๋ก ๊ฐ์ DPU๋ก ํด๊ฒฐํ๊ณ ์๋์ง ์์ธํ ์๊ฐํ ์์ ์ด๋ค. LLM ํจ์จ์ฑ์ ์ง์คยทยทยท โ๋๋ฅ๊ฐ ์ถ๋ก ํ๊ฒฝโ ๊ตฌ์ถ๋ ์ฑ๊ณต ๋ง๊ณ ๋ถ์คํธ๋ ์ฌํด 1์ โLLM๋ถ์คํธ(LLMBoost)โ๋ฅผ ์ถ์ํ๊ณ AI ์ต์ ํ ์๋ฃจ์
์์ฅ๊ณต๋ต์ ๋์ ์ํฉ์ด๋ค. ํ์ง๋ง ๊ตญ๋ด์๋ ํ๋ ๋ค๋ฆฌAI, ๋๋ธ์
, ์์ํ ๊ธฐ์ ๊ธฐ์
์ธ ๋
ธํ ๋ฑ ๋ค์ํ ์คํํธ์
๋ค์ด LLM ์ต์ ํ ๊ธฐ์ ์ ๊ฐ๋ฐ ์ค์ด๋ค. ๋ค๋ง ์ด๋ค ๊ธฐ์
์ด ์ํํธ์จ์ด ์ค์ฌ์ด๋ผ๋ฉด ๋ง๊ณ ๋ถ์คํธ๋ DPU๋ผ๋ ๋ช
ํํ ํ๋์จ์ด๋ฅผ ์ค์ฌ์ผ๋ก LLM ํจ์จ์ฑ ๊ฐ์ ์ ๋์๊ณ ์๋ค. ๊ตฌ์ฒด์ ์ธ ์ง์ ๋ฒ์์ ์ฐจ์ด์ ์๊ฐ๋ฅผ ๋ถํํ๋ค. ๊ถ๋์
CTO๋ โ์ฐ๋ฆฌ๊ฐ ๋ค๋ฃจ๋ ์์ญ์ ๋๋ค. ์ปค๋ ์ต์ ํ ๋ ์ด์ด์์๋ถํฐ vLLM, SGLang ๊ธฐ๋ฐ์ ์๋น ๋ ์ด์ด๋ ๋ค๋ฃจ๊ณ ์์ผ๋ฉฐ, LLM ์์ฒญ ๋ถ์ฐ ๋ฐ ์ค์ผ์ค๋ง ๋ฑ ์ฃผ์ ์์ญ๊น์ง ๋ค๋ฃจ๊ณ ์๋ค. KV ์บ์ ํ์ฅ์ ์ํ G3.5G, G4 ๊ณ์ธต์ ์ํ ์ถ๋ก ์ํํธ์จ์ด, ์์ฒด ์ต์ ํ ๋ฐฉ๋ฒ๊น์ง ๋ชจ๋ ๋ค๋ฃจ๊ณ ์๋คโ๋ผ๋ฉด์ โ๊ฐ์ฅ ์ต์ ํ๊ฐ ์๋ผ์๋ ํ๋์จ์ด๋ AMD ์ธ์คํ
ํธ MI ์๋ฆฌ์ฆ๊ณ , ํจ์จ์ ์ธ ๋ฐฉ์์ ์ฐพ๋๋ค๋ฉด ๋ง๊ณ ๋ถ์คํธ๊ฐ ์ ๋ต์ด๋ค. ์ง๋ 2๋
๊ฐ AMD์์ ์ ์ถํ MLPerf ๊ฒฐ๊ณผ๋ฌผ ์ค ์ต๊ณ ์ฑ๋ฅ์ด ์ฐ๋ฆฌ๊ฐ ์ ์ถํ ๊ฒฐ๊ณผ์๊ณ , ๊ทธ๋งํผ AMD GPU์ ๋ํ ์ดํด๊ฐ ๊น์ ํธโ์ด๋ผ๊ณ ์ค๋ช
ํ๋ค. ๋ง๊ณ ๋ถ์คํธ๊ฐ ์ ์ถํ MLPerf ์ถ๋ก v6.0 ํ
์คํธ ๊ฒฐ๊ณผ, ์ด์ค 8์ฅ์ MI300X์ 8์ฅ์ MI325X, 8์ฅ์ MI355X๊ฐ ๋์์ ํ์ฉ๋ ์ฌ๋ก๊ฐ ๋ฏธ๊ตญ-ํ๊ตญ ๊ฐ ์ฅ์น๋ฅผ ์ฎ์ด์ ์ถ๋ก ํ ๊ฒฐ๊ณผ๋ค / ์ถ์ฒ=ML์ปค๋จผ์ค ์์ ๋ง๊ณ ๋ถ์คํธ๋ 2025๋
MLPerf ์ถ๋ก v5.1 ํ
์คํธ์์ MI300X์ MI325X๋ฅผ ํ๋์ ์ถ๋ก ์์คํ
์ผ๋ก ์ด์ํ๋ ์ด๊ธฐ์ข
GPU ๋ฐฐ์น๋ฅผ ๊ณต๊ฐํ๊ณ , ์ฌํด MLPerf ์ถ๋ก v6.0์์๋ ๋ฏธ๊ตญ์ ๋ฐฐ์น๋ MI355X์ ๊ตญ๋ด์ ์๋ MI325X, MI300X๋ฅผ ํ๋์ ์ถ๋ก ์ผ๋ก ์ฎ์ด ๋์์ ์ด์ฉํ๋ค. ์ง๋ 8์ ์ ์ถํ MLPerf ์ถ๋ก v6.1์ ๋ง๊ณ ๋ถ์คํธ์ ๋ฐ์ดํฐ์ผํฐ์ ๋ฏธ๊ตญ์ ์์นํ ๋ง์ดํฌ๋ก์ํํธ ์ ์ , ํ
์์จ์ด๋ธ, ๋ธ ํ
ํฌ๋๋ก์ง์ค๊น์ง 4๊ฐ์ ์ฌ์
์์ 4๊ฐ์ ํด๋ฌ์คํฐ์ ๋ฐฐ์น๋ 32๊ฐ์ GPU๋ฅผ ํ๋์ LLM ๋ถ์คํธ ์๋น ํ๋ก ๊ตฌ์ถํ ๊ฒฐ๊ณผ๋ฅผ ๋ด๊ธฐ๋ ํ๋ค. ๊ถ๋์
CTO๋ โ์ด๋ฐ ๋ณตํฉ์ ์ธ ์ถ๋ก ํ๊ฒฝ ๊ตฌ์ถ ์ฌ๋ก๋ ์์ผ๋ก๋ ๋์ด๋ ๊ฒ์ด๋ค. ๊ฐ ์ง์ญ๊ณผ ๋ฐ์ดํฐ์ผํฐ๋ง๋ค ์๋ก ๋ค๋ฅธ GPU๋ค์ด ์์ฌ์๊ณ , ์์ ๊ณต๊ธ์ด ์ผ์นํ์ง ๋ชปํ๋ค. ์ด๋ฐ ์กฐ๊ฑด์์ ๋ฉํฐ๋ฆฌ์ , ์ด๊ธฐ์ข
GPU ํ์ด ํ์ค์ ์ธ ๋์์ด ๋ ๊ฒ์ด๋ค. ํนํ ์ฐ๋ฆฌ๋๋ผ์์๋ ๊ธฐ๊ฐ์ํธ ๊ธ ๋ฐ์ดํฐ์ผํฐ๋ฅผ ๊ตฌ์ถํ๊ธฐ ์ด๋ ค์ด๋ฐ, ์์ญ ๋ฉ๊ฐ์ํธ ์์ค์ ๋ฐ์ดํฐ์ผํฐ๋ฅผ ํ๋๋ก ์ฎ๊ฑฐ๋ ์๋ก ๋ค๋ฅธ ์ ์กฐ์ฌ, ์ฌ์
์๊ฐ์ GPU๋ฅผ ์ฎ์ด์ ์๋น์คํ๋ ๋ฐฉ์๋ ๊ฐ๋ฅํด์ง ๊ฒโ์ด๋ผ๊ณ ๋ตํ๋ค. AMD์๋ 2๋
์ด์ ๊ธฐ์ ํ์
, NPU ๊ธฐ์
๊ณผ๋ ํ์
์ด๋ ค์์ด ๋ง๊ณ ๋ถ์คํธ๋ ์ต๊ทผ ๋ช๋
๊ฐ AMD์ ๊ธฐ์ ์ ํ๋ ฅ ๊ด๊ณ๋ฅผ ์ด์ด์๊ณ , ์ง๋ 7์ AMD์ ์ฐ๋ก ์ฝํผ๋ฐ์ค์ธ ์ด๋๋ฐด์ฑ AI๋ฅผ ๊ณ๊ธฐ๋ก ๊ด๊ณ๊ฐ ๊ธ์ง์ ๋๊ณ ์๋ค. ๊ณผํ๊ธฐ์ ์ ๋ณดํต์ ๋ถ๋ ๋น์ ํ์ฌ์์ ์ด๊ธฐ์ข
์ปดํจํ
์ํคํ
์ฒ, ๊ตญ๋ด AI ์ฐ๊ตฌ์ผํฐ ์ค๋ฆฝ ๋ฑ๊ณผ ๊ด๋ จํด AMD์ ์ํด๊ฐ์๋ฅผ ์ฒด๊ฒฐํ์ผ๋ฉฐ ๋ด๋
์ ๋ณธ๊ฒฉ์ ์ผ๋ก ์ฌ์
์ ๊ตฌ์ฒดํํ ์์ ์ด๋ค. AMD ์ญ์ ๊ทธ๊ฐ ๊ด๊ณ๋ฅผ ์ด์ด์จ ๋ง๊ณ ๋ถ์คํธ, ๋ชจ๋ (Moreh)๋ฅผ ํตํด ๊ตญ๋ด ์ฌ์
ํ์ฅ์ ๋์ค ๊ฒ์ผ๋ก ๋ณด์ธ๋ค. ์๋ฆฌ์ฝ ๋๋ฅด๋นํ๋(Eriko Nurvitadhi) ๋ง๊ณ ๋ถ์คํธ ๊ณต๋์ฐฝ์
์ ๊ฒธ ๋ฏธ๊ตญ ๋ฒ์ธ ์ต๊ณ ๊ฒฝ์์๊ฐ ๋ฐฐ๊ฒฝํ ๋ถ์ด๋ฆฌ ๋ฐ ๋ฆฌ์ฌ ์ CEO๋ฅผ ๋์์ผ๋ก ๋ง๊ณ ๋ถ์คํธ ์๋ฃจ์
์ ์ค๋ช
์ค์ด๋ค / ์ถ์ฒ=IT๋์ ๊ถ๋์
CTO๋ โAMD ๋ณธ์ฌ ๊ธฐ์ ํ๊ณผ ํ์
ํ ๊ฒ์ 3๋
์ ๋ ๋๊ณ , ์ฑ๋ฅ ์ต์ ํ์ ๊ณต๋ ์์ง๋์ด๋ง ๋ฑ์ ์งํํ๋ค. ์์ MLPerf์ ๊ด๋ จํ ํ๋ ฅ๋ ๊ธฐ์ ํ์
์ ์ผํ์ผ๋ก ์งํ๋๊ณ , AMD ์์ง๋์ด๋ง ํ์ผ๋ก๋ถํฐ ๋์ฌํ MI300 ์๋ฆฌ์ฆ๋ก ์๋น๋์ H100 ๋๋น ์ ๋ฐฐ ๋์ ์ถ๋ก ๊ฒฐ๊ณผ๋ฌผ์ ๋ฐํํด ์ด๋๋ฐด์ฑ AI์์ ๋ฐํํ๊ธฐ๋ ํ๋คโ๋ผ๋ฉด์ โ์ ์กฐ์ฌ ์ค๋ฆฝ์ ์ถ๊ตฌํ๊ธด ํ๋ ์๋น๋์์ ๋์์ผ๋ก์ ์์ฅ์ ์ ํ์ง๋ฅผ ๋๋ฆฐ๋ค๋ ๋ฐฉ์์์ AMD์ ์ ๊ทน ํ๋ ฅํ๊ณ ์๋คโ๋ผ๊ณ ๋งํ๋ค. ๋ํ โ๋น์์๋ AMD๊ฐ ์๋น๋์์ ์ ์ผํ ๋์์ด์ด์ ํจ๊ปํ๊ณ , ํ์ฌ๋ AMD์ ํ์
์ค์ธ ์ธ๋ ๋ธ๋ผ์ค์๋ ์ ์ด ์ค์ด๋ค. 2026๋
ํ์ฌ๋ ๊ตญ๊ฐ ์ค์ฆ ํ๋ก์ ํธ๋ฅผ ๋ฐํ์ผ๋ก ํจ๋ฆฌ์ค์ฌAI์ NPU, ํ์ดํผ์์
LPU ๋ฑ ๋ค์ํ ํ๋์จ์ด์๋ ํฉ์ ๋ง์ถฐ๋ณด๊ณ ์์ผ๋ฉฐ ๊ตญ๋ด ์๋ฒ๋ฆฐ AI ๊ธฐ์
๋ค๊ณผ๋ ๊ฐ์ ์ก์๋ณด๊ณ ์๋ค. ๋ง๊ณ ๋ถ์คํธ๊ฐ ์ํํธ์จ์ด์ ๋คํธ์ํฌ, ์ด๊ธฐ์ข
์ปดํจํ
์ ๋ฐ์ ์ฎ๋ ๊ธฐ์ ์ ๋ณด์ ํ์ผ๋ฏ๋ก ๊ธฐ์ฌํ ์ ์๋ ๋ถ๋ถ์ด ๋ง์ ๊ฒโ์ด๋ผ๊ณ ๋งํ๋ค. ### DPU๋ DPU๋ก ๋จ์ ์ ์์๊น? ๊ถ๋์
CTO์ ์๊ฐ์ CPU์ ์ฑ๋ฅ์ ๊พธ์คํ ๋์์ง๊ณ , ์ค๋งํธNIC๊ณผ GPU ๋ฑ์ ์์ฒด ๋คํธ์ํฌ ์ฑ๋ฅ, ์ธํฐํ์ด์ค ๊ธฐ์ ๋ ๊ฐ์๋ก ์งํํ๊ณ ์๋ค. ๊ฒฐ๊ตญ์๋ DPU๊ฐ ๋
๋ฆฝ์ ์ธ ํ๋ก์ธ์ ํํ๋ก ์กด์ฌํ์ง ์์์ง๋ ๋ชจ๋ฅด๊ณ , ๋ง๊ณ ๋ถ์คํธ๋ ๊ทธ ํ์์ฑ์ ๊พธ์คํ ์ฆ๋ช
ํด์ผ ํ๋ ์ํฉ์ด๋ค. ๊ถ๋์
CTO๊ฐ ๋ฐ๋ผ๋ณด๋ ์์ผ๋ก DPU์ ์
์ง๋ ์ด๋จ๊น? ๊ถ๋์
CTO๋ โ๋คํธ์ํฌ ๊ธฐ์ ์ด ๋ฐ์ ํ ์๋ก ๋ค์์ ์ ์กฐ์ฌ๊ฐ ๋ค์ํ ์ธ๋์ ์ฅ์น๋ฅผ ๋ณตํฉ์ ์ผ๋ก ์ฐ๊ฒฐํ๋ ํ๊ฒฝ์ด ๋์ธ๊ฐ ๋ ๊ฒ์ด๋ค. ์ฐ๊ฒฐ์ฑ์ ๋ฐํ์ผ๋ก ์ฅ์น๊ฐ ์ฐ๊ฒฐ๋๋ค๋ฉด ์ค์์์ ๊ด์ ๋ฅผ ํ๋๋ผ๋ ๋ณด์ ๋ชฉ์ ์ผ๋ก ๊ด๋ฆฌํ ํ์์ฑ์ ๋์ฑ ์ค์ํด์ง ๊ฒ์ด๊ณ , DPU๊ฐ ์ด๋ฅผ ์งํค๋ ์๋ฌธ์ฅ ์ญํ ์ ํ๊ฒ ๋ ๊ฒ์ด๋ค. ์ต๊ทผ์๋ AI ๊ฒ์ดํธ์จ์ด, ์์ด์ ํธ ๊ฒ์ดํธ์จ์ด๋ผ๊ณ ๋ ๋ถ๋ฆฌ๋ ์๋น์ค์ธ๋ฐ ์ฅ๊ธฐ์ ์ผ๋ก DPU๊ฐ ์ค๋งํธ ์ค์์น, ํ๋์จ์ด ๊ธฐ๋ฐ์ ๋ณด์ ์ฅ์น๋ก ์ด ์
์ง๋ฅผ ๊ฐ์ ธ๊ฐ ๊ฒ์ด๋ค. ์ด๋ฏธ ์์์ธํ
๋ฆฌ์ ์ค์๋ ๊ด๋ จํ์ฌ ํ์
์ค์ ์๊ธฐ๋ ํ๋คโ๋ผ๊ณ ๋งํ๋ค. ๋ง๊ณ ๋ถ์คํธ๋ ๋ง๊ณ ์ธํผ๋ฐ์ค๋ฅผ ์์์ผ๋ก AI ์ธํ๋ผ ์ฌ์
์ ๋ฐ์ผ๋ก ์ฌ์
๊ท๋ชจ๋ฅผ ํ์ฅํ ์๊ฐ์ด๋ค / ์ถ์ฒ=IT๋์ ๋ง๊ณ ๋ถ์คํธ๊ฐ ๊ทธ๋ฆฌ๊ณ ์๋ ํฐ ๊ทธ๋ฆผ์ ๊ฒฐ๊ตญ DPU ๊ทธ ๋๋จธ์ ์๋ค. AMD ์ด๋๋ฐด์ฑ AI์์ ์ฒ์ ์ ๋ณด์ธ โ๋ง๊ณ ์ธํผ๋ฐ์คโ ์๋น์ค๋ ๋ง๊ณ ๋ถ์คํธ๊ฐ ์์ผ๋ก ๊ฐ ๋ฐฉํฅ์ฑ์ ์ฟ๋ณผ ์ ์๋ ๋๋ชฉ์ด๋ค. ๋ง๊ณ ๋ถ์คํธ๋ ๋ด๋
1์ ์ค 1MW ๋ฐ์ดํฐ์ผํฐ ๊ฐ์๋ฅผ ๊ณํ ์ค์ด๊ณ , ๋ด๋
ํ๋ฐ๊ธฐ์๋ ์ต๋ 5MW ๋ฐ์ดํฐ์ผํฐ ๊ตฌ์ถ์ ๋ชฉํ๋ก ์์
์ค์ด๋ค. ๊ถ๋์
CTO๋ โ์ ๋ฝ์๋ ์์ค์ผ์ผ, ๋ฏธ๊ตญ์๋ ์ฝ์ด์๋ธ๊ฐ ์์ง๋ง ์์์ ๋ฐ ๋๋จ์ ์ง์ญ์๋ ๋๋ ทํ ๋ค์คํด๋ผ์ฐ๋, ํ ํฐํฉํ ๋ฆฌ ์ฌ์
์๊ฐ ์๋ค. ๋ด๋
1์ 1MW ๋ฐ์ดํฐ์ผํฐ๋ฅผ ์ค๋ฆฝํ๋ฉด ์๋ฒ๋ฆฐ AI๋ฅผ ์ํ ์ง์, ๋ค์คํด๋ผ์ฐ๋ ์๋น์ค๋ฅผ ๋ณธ๊ฒฉ ์์ํ ์์ ์ด๋คโ๋ผ๊ณ ๋งํ๋ค. ์ด์ด์ โ๋ด๋
ํ๋ฐ๊ธฐ ์ค์๋ 5MW ์์ค์ผ๋ก ํ๋ํ๊ณ , AMD ํฌ๋ฆฌ์ค์ค๋ ์๋น๋์ NVL72๋ฅผ ํฌํจํ ํ์ด์๋ ์ฅ๋น๋ถํฐ ๋ฏธ๋๋ ์ธ์ง GPU, ๊ตญ์ฐ AI ๊ฐ์๊ธฐ๊น์ง ๋ณตํฉ์ ์ผ๋ก ์ด์ํ ๊ณํ๋ ๊ฐ์ง๊ณ ์๋ค. ๋ง๊ณ ์ธํผ๋ฐ์ค๋ผ๋ ๋ธ๋๋๋ฅผ ๋ฐํ์ผ๋ก ๋ง๊ณ ๋ถ์คํธ์ AI ์ธํ๋ผ ์ฌ์
์ ๋ฐ์ ํ๋ํด๋๊ฐ๊ฒ ๋คโ๋ ๋ป์ ๋ฐํ๋ค. ๋ง๊ณ ๋ถ์คํธ๋ 1MW ๋ฐ์ดํฐ์ผํฐ๋ฅผ ํตํด AI ์ธํ๋ผ ์ฌ์
์ ๋ํ ๊ธฐ์ ์ ์คํ์ด ๊ฐ๋ฅํจ์ ์ฆ๋ช
ํ ์ํฉ์ด๋ค. ์ด์ ๋ ์ด๋ฌํ ๊ฒฐ๊ณผ๋ฌผ๋ค์ ๋ฐํ์ผ๋ก ์ฌ์
๊ฒฝ์๋ ฅ์ ๋ง๋ค์ด ๋๊ฐ๋ ๋จ๊ณ์ ์ ์ด๋ค์๋ค. IT๋์ ๋จ์ํ ๊ธฐ์ (sh@itdonga.com)
AIํ์ ์ธ์ฌ์์ฑ์ฌ์
์ ์ โฆ2031๋
๊น์ง ์ง์ ํฌ์ค์ฝDXยท๋
ธํ์ ํ๋ ฅโฆ์ ์กฐยท์ฃ์ง ์ฐ์
AI ๋ ๊ฐ ํธ๋ ์ด์ ์๊ฐ๋ํ๊ต๊ฐ ์ ๋ถ ์ง์...
[IT๋์ ๋จ์ํ ๊ธฐ์] AI ์ธํ๋ผ ๊ด๋ฆฌยท์ด์ ์ํํธ์จ์ด ๊ธฐ์
๋๋ธ์
(Lablup)์ด 9์ 29์ผ ์ฐ๋ก ๊ธฐ์ ์ฝํผ๋ฐ์ค โlab | up > /conf 6โ๋ฅผ ๊ฐ์ตํ๋ค. ์ฝํผ๋ฐ์ค๋ ์ ์ ๊ท ๋๋ธ์
์ต๊ณ ๊ฒฝ์์๊ฐ โAI ์ฐ์
์๋์ ์๋ํฌ์๋์ ๋ํ์ฌโ๋ฅผ ์ฃผ์ ๋ก ํ๋ ๊ธฐ์กฐ์ฐ์ค๋ก ์์ํ์ผ๋ฉฐ, ๋
ธํ, ํ์ดํผ์์
, ์
์คํ
์ด์ง, ํจ๋ฆฌ์ค์ฌAI, KTํด๋ผ์ฐ๋, ๋ฆฌ์ผ์๋(RLWRLD), ์์์ธํ
๋ฆฌ์ ์ค ๋ฑ ๊ตญ๋ด ์ฃผ์ AI ํ๋์จ์ด ๋ฐ ์ํํธ์จ์ด ํํธ๋ ๊ธฐ์
๋ค๋ ์ฐธ์ฌํด ์
๊ณ ํํฉ ๋ฐ ๊ธฐ์ ๋ฑ์ ๊ณต์ ํ๋ค. ์ ์ ๊ท ๋๋ธ์
๋ํ๊ฐ ์ฝํผ๋ฐ์ค ๊ธฐ์กฐ์ฐ์ค์ ํตํด ์ง๋ 1๋
๊ฐ์ ์ฑ๊ณผ์ ์์ผ๋ก์ ๊ณํ ๋ฑ์ ๋ฐํํ๋ค / ์ถ์ฒ=IT๋์ ์ ์ ๊ท ๋ํ๋ โ3๋
์ ์๋ ๋์ LLM ๊ฐ๋ฐ ๋น์ฉ์ ๊ฐ๋นํ๊ธฐ ์ํด ๋๊ท๋ชจ ๊ฐ๋ฐ์ ํ๋ฐ ์ฃผ์๋ก ๋ฐ๋ผ๊ฐ๋ ์ฌ๋ฆฝ์คํธ๋ฆผ ์ ๋ต์ ์ ์ํ๊ณ , 2๋
์ ์๋ ์ ์ฒ ์์ด ๋ ๋๋ AI ๋ํญํด์๋๊ฐ ๋๋๊ณ ์ฐ์
ํ์ฅ์ผ๋ก ๋์๊ฐ๋ ๋ฐฉํฅ์ ์ค๋ช
ํ๋ค. ์๋
์๋ ์ธก์ ๋ฐ ๊ณ๋ ๊ฐ๋ฅํ ์ง๋ฅ์ ๋ํด ์๊ธฐํ๊ณ ์ด๋ป๊ฒ ์ง๋ฅ์ ์ธก์ ํ ์ง์ ๋ํด ์๊ธฐํ๋ค. 1๋
์ด ์ง๋ ์ง๊ธ๋ ์ด ์ ๋ต์ ์ฌ์ ํ ์ ํจํ๋คโ๋ผ๋ฉฐ ๋ฐํ๋ฅผ ์์ํ๋ค. ๋๋ธ์
, ์ธก์ ๊ฐ๋ฅํ ์ง๋ฅ ์๋์ ๋ง๋ ์ต์ ์ ์ ๊ทผ๋ฒ ์ฐพ๋ ์ค ๋๋ธ์
์ ์ฃผ์ ๋ชฉํ๋ โAI ์๋์์ ์ง๋ฅ์ ๋ฏผ์ฃผํโ์ด๋ฉฐ ์ง๋ํด๋ถํฐ ์ธก์ ๊ฐ๋ฅํ ์ง๋ฅ๊ณผ ๊ด๋ จํ ๋ฐฉํฅ์ฑ๊ณผ ๋ฐฉ๋ฒ๋ก ์ด ๋ฑ์ฅํ๊ณ ์๋ค. ๋ํ์ ์ธ ๊ฒ์ด ํ ํฐ, ์ ๋ ฅ์ด๋ค. ์ ์ ๊ท ๋ํ๋ โ๋ํ์ ์ผ๋ก ๋ฑ์ฅํ ๋จ์๊ฐ ํ ํฐ์ด๋ค. ํ ํฐ์ ํ
์คํธ๋ฅผ ๋์งํธํํ๋ ๊ณผ์ ์์ ๋ถ๋ ์ด๋ฆ์ด์์ง๋ง ์ด์ ๋ชจ๋ AI ์์ฑ ๋ฐ ์ถ๋ ฅ ์ ๋ฐ์์ ๊ณ๋ ๋จ์๋ก ์ฐ์ธ๋ค. ์ ๋ ฅ ์๋ชจ๋๋ ์ค์ํ๋ค. ๋ฐ๋์ฒด๋ฅผ ๊ทน๋จ์ ์ผ๋ก ์ต์ ํํ๋ฉด ๋ช
ํํ ์ฑ๋ฅ ์ํ์ ์ด ์๊ณ , ๊ฒฐ๊ตญ ์ ๋ ฅ์ ์ผ๋ง๋ ์๋นํ๋์ง๋ฅผ ๋ฐ์ง๊ฒ ๋๋คโ๋ผ๋ฉด์ โ์ธ ๋ฒ์งธ๋ ์ง๋ฅ ๊ทธ ์์ฒด๋ค. AI ์ง๋ฅ์ด ๋์์ผ ๋์ผํ ํ ํฐ์ผ๋ก ๋ ๋ง์ ์์
์ ์ฒ๋ฆฌํ๋์ง๋ฅผ ๋ฐ์ง๊ฒ ๋๋ค. ํ ํฐ๊ณผ ์ ๋ ฅ๋, ์ง๋ฅ์ ๋ชจ๋ ์ข
ํฉํด์ผ ํ๋คโ๋ผ๊ณ ๋งํ๋ค. ๋๋ธ์
์ ๋๊ท๋ชจ ์๋ฒ ์ธํ๋ผ ํ๊ฒฝ๋ถํฐ ๊ฐ์ธ ์์ค์ ์๊ท๋ชจ ์์
ํ๊ฒฝ์ ์์ฐ๋ฅด๋ ๋ชจ๋ ๋ถ๋ถ์ ์ํํธ์จ์ด๋ก ๋์์ ๋์๊ณ ์๋ค. ์ฐ์ ์ธํ๋ผ์คํธ๋ญ์ณ ์์ค์์๋ ๋ฐฑ์๋๋ท์์ด์์ด๊ฐ ๋ฐํ์ด ๋๋ฉฐ, ์ด์ ํ๊ฒฝ ์์ค์์๋ ์ปจํฐ๋ ๋ผ์ฐํฐ, ์ปจํฐ๋ ํ๋ธ๊ฐ ๋์ํ๋ค. ์ผ๋ฐ ๊ฐ๋ฐ์ ์์ค์ ์ ํ๋ฆฌ์ผ์ด์
๋ ๋ฒจ์์๋ ๋ฐฑ์๋๋ท์์ด์์ด:๊ณ , ์์ด์์ด:๋(AI:DOL)์ด ๋์ํ๋ค. ์ ์ ๊ท ๋ํ๊ฐ ๋๋ธ์
์ ํฌํธํด๋ฆฌ์ค ์ ๋ฐ์ ์๊ฐ ์ค์ด๋ค / ์ถ์ฒ=IT๋์ ํต์ฌ ์๋น์ค์ธ ๋ฐฑ์๋๋ท์์ด์์ด๋ โฒ ์๋น๋์ ๊ทธ๋ ์ด์ค ๋ธ๋์ฐ ์ง์์ ํฌํจํด AI ๊ฐ์๊ธฐ ๊ฐ์ํ ์ง์ ๋์์ ์๋น๋์, AMD, ์ธํ
, ํจ๋ฆฌ์ค์ฌAI, ๋ฆฌ๋ฒจ๋ฆฌ์จ์ผ๋ก ํ๋ โฒ์ฟ ๋ฒ๋คํฐ์ค ๋ฐ ์ฌ๋ผ์ ํ๋ซํผ ๋ด ํตํฉ โฒ๋ชจ๋ธ ์ฝํ
์คํธ ํ๋กํ ์ฝ(MCP) ๋ฐ ์์ด์ ํธ ํฌ ์์ด์ ํธ(A2A)๋ฅผ ํตํ ํด๋ฌ์คํฐ ์ด์ ์๋ํ ๋ฑ์ ๊ธฐ๋ฅ์ด ์๋กญ๊ฒ ์ถ๊ฐ๋๋ค. ์ต์ด ํ ํฐ ์์ฑ ์๊ฐ, ์ด๋น ํ ํฐ ์์ฑ๋ ๋ฑ์ ๋ฐํ์ผ๋ก ์ ํจ ์์ฒญ ํ ํฐ ์ฒ๋ฆฌ๋์ ๋ํ๋ด๋ ๊ตฟํ(Goodput) ์งํ๋ฅผ ์ปจํฐ๋์์ ์ง์ํ๊ณ , ๋ฐฑ์๋๋ท์์ด์์ด๊ฐ ์ด์ ๋ง๋ ์๋น์ค ์กฐ๊ฑด์ ์กฐ์ ํ๋ ์ฒด๊ณ๋ ๊ตฌ์ถํ๋ค. ๋๋ธ์
์ ์ง๋ํด ์๊ฐํ โ์ปจํฐ๋โ ์ํํธ์จ์ด๋ฅผ ์ปจํฐ๋ ๋ผ์ฐํฐ, ํ๋ธ๋ผ๋ ์ํฐํ๋ผ์ด์ฆ์ฉ ์์คํ
์ผ๋ก ํ์ฅํ๋ค / ์ถ์ฒ=IT๋์ ์ง๋ํด ๋ด๊ฒฐํจ์ฑ(์ค๋ฅ๊ฐ ์์ด๋ ์ ์ ๋์ํ๋ ๋ฐ ์ด์ ์ ๋ง์ถ ์์คํ
) ๊ธฐ๋ฐ์ LLM ๋ฐ ๋ฉํฐ๋ชจ๋ฌ ๋ชจ๋ธ ์ด์ ์๋ํ๋ก ์์ํ โ์ปจํฐ๋(Continuum)โ์ ์ง๋ฅํ ๊ด๋ฆฌ ๊ณ์ธต์ ์ค์ฌ ์ํํธ์จ์ด๋ก ๊ฐํ๋๋ค. ์ ์ ๊ท ๋ํ๋ โ์๋น๋์ GTC 2025์์ ์ปจํฐ๋์ ์ฒ์ ์๊ฐํ์ ๋๋ง ํด๋ ๋ก์ปฌ ์์์ ๊ด๋ฆฌํ๋ ์ค๋ฃจ์
์ด์์ง๋ง ์ด์ ๋ ํ ํฐ ํฉํ ๋ฆฌ ์ ๋ฐ์ ์ํฅ์ ๋ฏธ์น๋ ์ง๋ฅํ ๊ด๋ฆฌ ๊ณ์ธต์ ์ค์ฌ์ด ๋๋ค. ์ง์ ํ๋์จ์ด๋ ์๋น๋์๋ฟ๋ง ์๋๋ผ ์ธํ
, ๋ฆฌ๋ฒจ๋ฆฌ์จ, ํจ๋ฆฌ์ค์ฌAI ๋ฑ์ ์ด ๋๊ท๋ชจ ํด๋ฌ์คํฐ๋ก ์ด๋ป๊ฒ ์ด์ฉํ ์ง, ์นฉ๊ณผ ๋
ธ๋ ๋ ๋ฒจ์์ ์ด๋ป๊ฒ ์ด์ฉ๋๋์ง๋ฅผ ํตํฉ ๊ด๋ฆฌํ ์ ์๋คโ๋ผ๊ณ ๋งํ๋ค. ํนํ โ์ปจํฐ๋ ์ด๊ธฐ ์ ํ๊ตฐ์ ์ฅ์ ๋์์ฉ ๋ผ์ฐํฐ๋ก ์์ํ์ง๋ง ๋ชจ๋ ์์ฒญ์ ํตํฉํ๊ณ ๊ด๋ฆฌํ๋ ์ฒด๊ณ๋ฅผ ๊ฐ์ถ๋ฉด์ ํ ์ ์๋ ๊ฒ ๋ง๋ค๋ ๊ฒ์ ์๊ฒ ๋๊ณ , ์ด๋ฅผ ์ปจํฐ๋ ๋ผ์ฐํฐ์ ํ๋ธ๋ผ๋ ์ํฐํ๋ผ์ด์ฆ ์ ํ๊ตฐ์ผ๋ก ๋ฐ์ ์์ผฐ๋ค. ์ปจํฐ๋ ๋ผ์ฐํฐ๋ ์คํAI ํธํ ์ค๋งํธ ๋ผ์ฐํฐ๋ก ์คํธ๋กํฝ, ๋ฒ ๋๋ก, ์ ๋ฏธ๋์ด๋ ๋ฌผ๋ก vLLM, SGLang ๋ฑ์ ํญ๋๊ฒ ์ง์ํ๋คโ๋ผ๊ณ ๋งํ๋ค. ๋ฐฑ์๋๋ท์์ด์์ด:๊ณ ๋ ๋งฅOS, ์๋์ฐ, ๋ฆฌ๋
์ค ๊ธฐ๋ฐ์ผ๋ก ์ ๊ณต๋๋ฉฐ ๊ฐ์ธ ์ฉ๋๋ก๋ ๋ฌด๋ฃ๋ก ์ด์ฉํ ์ ์๋ค / ์ถ์ฒ=๋๋ธ์
AI ์์ด์ ํธ๊ฐ ์ผ๋ฐ ์ฌ์ฉ์ ์์ค์ผ๋ก ํ์ฐํ๊ธฐ ์์ํ๋ฉด์ ์ฌํด 1์, ์ผ๋ฐ ์ฌ์ฉ์๋ฅผ ์ํ PC์ฉ ์๋น์ค โ๋ฐฑ์๋๋ท์์ด์์ด:๊ณ โ๋ ์ถ์ํ๋ค ์ ์ ๊ท ๋ํ๋ โ์ฌํด 1์ ์ถ์ ๋ฐฑ์๋๋ท์์ด์์ด:๊ณ ๋ ๋๊ตฌ๋ ์ง ์์ด์ ํธ AI๋ฅผ ์ฝ๊ฒ ์ฌ์ฉํ ์ ์๊ฒ ๋๊ณ , ๋์์ ์๋ฒ๋ ์ธ๋ถ ์๋น์ค์ ๊ธฐ๋์ง ์๊ณ ๋ด PC์ ์ฌ๋ฌด์ค PC ๋ฑ์ ์กฐํฉํด์ AI ์ด์ ํ๊ฒฝ์ ๋ง๋ค ์ ์๋๋ก ํ๋ค. ํ์ผ๋ง ๋ฃ์ผ๋ฉด ๋ฐ์ดํฐ๋ฒ ์ด์ค๋ฅผ ๋ง๋ค๊ณ , ์ํ๋ ์์ด์ ํธ๋ฅผ ๋ชจ์ ํ์ ์ํ ์์
์ ๋งก๊ธฐ๊ณ ํ๋ ์โ์ด๋ผ๊ณ ์๊ฐํ๋ค. ์ฌํด ์ค ์ ํ ์ค๋ฆฌ์ฝ์ฉ ์๋น์ค, ์ค์๊ท๋ชจ์ฉ LLM ์ต์ ํ๋ ์ ๋ต์ด ๋๋ธ์
์ ๋ค์ ๊ณ๋จ์ ์์ ์ต์ ํ๋ก ํฅํ๋ค. ์ ์ ๊ท ๋ํ๋ โAI ์์ด์ ํธ ์๋๊ฐ ์ค๋ฉด์ CPU์ ์ค์์ฑ์ด ๋์์ก์ง๋ง ํ์ฌ ๊ธฐ์ ๋ก๋ ์ฝ์ด ํ๋์ ์ฃผ์ด์ง๋ ๋์ญํญ์ ๋ถ์กฑํ๋ค. ์ฟ ๋ฒ๋คํฐ์ค, ์์ฝ๋ฐ (๋๋ธ์
์ ์์ฒด ์ค์ผ์คํธ๋ ์ดํฐ) ๋ฑ์ ํ๋ก์ธ์ค ๊ฒฉ๋ฆฌ๋ ์ด๋ค์ง๋ CPU, ๋ฉ๋ชจ๋ฆฌ๊น์ง๋ง ์งํํ๊ณ ๋์คํฌ์ ๋คํธ์ํฌ ๋์ญํญ์ ์ ์ฝ์ด ์ด๋ ต๋ค. ๊ทธ๋์ ํน์ ์์ด์ ํธ ์ฐ์ฐ์ด ๋ง์ผ๋ฉด ์ ์ฒด ๋์ญํญ์ด ์ค์ด๋ ๋ค. ๊ทธ๋ ๋ค๊ณ ๊ฐ์ํ ํ๊ฒฝ์ ๊ตฌ์ถํ๋ฉด ์๋ฒ์ ๊ฐํด์ง๋ ๋ถ๋ด์ด ํฌ๋ค. ๋๋ธ์
์ ๋ง์ดํฌ๋ก ๊ฐ์ํ ๋จธ์ ๊ณผ ์ปจํ
์ด๋์ 2๋จ ๊ตฌ์กฐ, ๋์ปค ํธํ API๋ฅผ ํ์ฉํด CPU๋ณ ์์์ ํจ์จ์ ์ผ๋ก ์ด์ฉํ๋ ๋๋น(Neuvm) ์๋น์ค๋ฅผ ๊ฐ๋ฐ ์คโ์ด๋ผ๊ณ ์๊ฐํ๋ค. โ๋๋นโ ์ํํธ์จ์ด๋ ์์ด์์ด:๊ณ ์์ ์์๋ ํ๋ก์ ํธ๋ก ์์ด์ ํฑ AI ์๋์์ CPU๋ฅผ ๋์ฑ ํจ์จ์ ์ผ๋ก ์ด์ฉํ๊ธฐ ์ํ ์ค๋ฃจ์
์ด๋ค / ์ถ์ฒ=IT๋์ ์ด์ด์ โ๊ฐ์ ๋จธ์ ์ ์์ด์ ํธ๋ณ ์์ ์์ฝ์, ์ปจํ
์ด๋๋ ํ๋ก์ธ์ค ๊ฒฉ๋ฆฌ ๋ฐ ์ด๋ ์ ์ฝ ๋ฑ์ ๊ด๋ฆฌํ๋ฉฐ ์์ด์ ํธ ๋ด์์ ์๋ธ ์์ด์ ํธ๋ฅผ ๋ง๋๋ ์์ผ๋ก ์ฌ๋ฌ ์์
์ ์ ์ฝํ ์ ์๋ค. ๊ฐ์ ๋จธ์ ์๋ ํฌ๊ฒ ๋๋ฆฌ์ง ์์ผ๋ฉด์ ์ปจํ
์ด๋์ ์ ์ฐ์ฑ์ ์งํค๋ ๊ธฐ์ ์ด๋ค. ์ง๋ 4์ ๊ณต๊ฐํ ์์ด์์ด:๊ณ ์ ์ ํ์ค๋ฆฌ์ฝ์ฉ์ผ๋ก ์๋น์ค๋ฅผ ๊ฐ๋ฐํ๋๋ฐ ์ดํ ๋
์ ํ๋ก์ ํธ๋ก ๊ฐ๋ฐํด ์ฌํด ์ฐ๋ง์๋ ๋ฒ ํ ๋ฐ ๋ฐฑ์๋๋ท์์ด์์ด ์ํฐํ๋ผ์ด์ฆ์ ์์ด์ ํธ ๊ฒฉ๋ฆฌ ์์คํ
์ผ๋ก ๋์
ํ ์์ โ์ด๋ผ๊ณ ๋งํ๋ค. ๋ํ ๋ค์ํ ์ข
๋ฅ์ ์์ด์ ํธ์ ๋๊ตฌ์ ํ๋ ์์ํฌ, ๋๊ตฌ ํธ์ถ, ์๊ฒฉ ์ฆ๋ช
, ๋ค์ค ์์ด์ ํธ ํธ์ถ ๋ฑ์ ํตํฉ ๊ด๋ฆฌํ๋ API ์๋น์ค์ธ โ์คํ์ด์คโ๋ ๊ฐ๋ฐ ์ค์ด๋ฉฐ, ์ ๋ถ ์ง์ GPU์ ์์ฒด ๋ณด์ GPU๋ฅผ ๋ฐํ์ผ๋ก ํ ํ์ฐ ์ธ์ด๋ชจ๋ธ(๋ํจ์ LLM)์ ์ง์ ๊ฐ๋ฐํ๋ค. ๋๋ธ์
์ ์ด๋ฏธ ์๋น๋์ B200 ๋ฐ B300, ์ ๊ฒฝ๋ง ์ฒ๋ฆฌ ์ฅ์น๊ฐ ํฌํจ๋ โ์ ์์ค ์น(James Webb)โ AI ๋ฐ์ดํฐ์ผํฐ ์ด์์ ์์ํ์ผ๋ฉฐ, ํ๊น
ํ์ด์ค๋ฅผ ํตํด ํ๊ตญ์ด ๋ง์ถค ๋๋ํํธ ๋ชจ๋ธ์ธ GLM-5.2-NVFP4-DFlash-Ko์ ์ ๋ณด์ผ ์์ ์ด๋ค. โAI ์ธํ๋ผ๋ฅผ ๋ ์ฝ๊ฒ ๋ฐ๊พธ๊ณ , ์ง๋ฅ์ ๊ณ๋ํ๊ณ ๋ฐฐ๋ฌํ๋ ๊ฒ์ด ๋ชฉํโ ๋๋ธ์
์ ์ฌํด 7์ 30์ผ ํ๊ตญ๊ฑฐ๋์๋ก๋ถํฐ ์ฝ์ค๋ฅ ์์ฅ์ ์ํ ์๋น ์ฌ์ฌ๋ฅผ ์น์ธ๋ฐ์๊ณ , ์ง๋ 28์ผ๋ถํฐ ๊ธฐ๊ดํฌ์์๋ฅผ ๋์์ผ๋ก ์์์์ธก์ ๋ค์ด๊ฐ๋ค. ํ์ง๋ง ๋๋ธ์
์ ๋ชจ๋ ์ฌ๋๋ค์ด ๋ ์ฝ๊ฒ AI๋ฅผ ํ์ฉํ ์ ์๋ ๋ฐํ์ ๋ง๋ค๊ฒ ๋ค๋ ๋ณธ์ง์ ๋ฒ์ด๋์ง ์๋๋ค. ์ ์ ๊ท ๋ํ๋ โAI ์
๊ณ์์ ๊ฐ๋ฐ ๋จ์๋ ์ผ์ฃผ์ผ ๋จ์๋ก ์งง์์ก๊ณ , ์ฐ์ด์ ์์ํ ์์ด์์ด:๊ณ ๋ ์ด์ ์ฝ๋ 400๋ง ์ค์ ๋ํ ํ๋ก์ ํธ๊ฐ ๋๋ค. ์ธ์์ ๋๋ฌด๋ ๋นจ๋ฆฌ ๋ฐ์ ํ๊ณ AI์ ์ธํ๋ผ๋ ๊ฐ์๋ก ๋ณต์กํด์ง๊ณ ์๋คโ๋ผ๋ฉด์ โ๋๋ธ์
์ AI ์ธํ๋ผ๋ฅผ ๋ ๊ฐ๋จํ๊ฒ ๋ฐ๊พธ๊ณ , ์ง๋ฅ์ ๊ณ๋ํ๊ณ ๋ฐฐ๋ฌํ๋ ๊ฒ์ด ๋ชฉํ๋ค. ์ง๋ฅ์ ๋ฏผ์ฃผํ๋ฅผ ๋ฌ์ฑํ๊ธฐ ์ํด AI์ ์๋ฉด ์๋์์ ๋ฒ์ด์ง๋ ์ผ๋ค์ ๋ ์ง๊ด์ ์ผ๋ก ๋ฐ๊พธ๊ณ , ๋ชจ๋๊ฐ ์ํ ๋ AI๋ฅผ ํ์ฉํ ์ ์๋๋ก ์ถ์งํด ๋๊ฐ๊ฒ ๋คโ๋ผ๊ณ ๋งํ๋ค. ๋ฐํ ์ดํ์๋ ๋
ธ์ ์ ๋นํฉํ ๋ฆฌ ๋ํ์ ์ฌํ๋ก ๊น์ค๊ธฐ ๋๋ธ์
CTO, ๊นํํธ ๋
ธํ CTO, ์ด์ง์ ํ์ดํผ์์
CTO, ์ดํ์ ์
์คํ
์ด์ง CTO๊ฐ ์ฐธ์ฌํ๋ โAI ๋ณ๋ชฉ์ ํด๊ฒฐํ๋ ์ธํผ๋ฐ์ค(์ถ๋ก ) ์ต์ ํโ ํจ๋ ํ ํฌ๊ฐ ์งํ๋๋ค / ์ถ์ฒ=IT๋์ ๋๋ธ์
์ด ๋งํ๋ โ์ง๋ฅ์ ๋ฏผ์ฃผํโ๋ ๋ง๋ํ ์ฐ์ฐ ์์๊ณผ AI๋ฅผ ํตํ ์์ฐ์ฑ ํฅ์์ด ์์์๊ฒ ์ง์ค๋์ง ์๊ณ ๊ฐ๋ฅํ ๋ง์ ์ฌ๋์๊ฒ ๋์๊ฐ๋๋ก ํ๊ฒ ๋ค๋ ๊ฐ๋
์ด๋ค. ๊ณ ๊ฐ์ GPU๋ฅผ ์ง์ ํ๋ณดํ๊ฑฐ๋ ๋ณต์กํ AI ์ธํ๋ผ๋ฅผ ์ดํดํ ํ์๊ฐ ์๋๋ก ๊ธฐ์ ์ ์ฅ๋ฒฝ์ ๋ฎ์ถ๊ณ , ์ง๋ฅ์ ์ธก์ ๊ฐ๋ฅํ ํํ๋ก ๊ณ๋ํด ํ์ํ ๊ณณ์ ์ ํฉํ ๋ฐฉ์์ผ๋ก ์ ๋ฌํ๊ฒ ๋ค๋ ๊ฒ์ด๋ค. 19์ธ๊ธฐ ํ๋ฐ ์ ๊ธฐ์ ์์ฉํ์ ๋ณด๊ธ์ด ์ 2์ฐจ ์ฐ์
ํ๋ช
์ ํต์ฌ ๋๋ ฅ ๊ฐ์ด๋ฐ ํ๋๊ฐ ๋๋ ๊ฒ์ฒ๋ผ, ๋๋ธ์
์ ๊ฑฐ๋ํ ์ฐ์ฐ ์์์์ ๋ง๋ค์ด์ง๋ AI์ ์ง๋ฅ์ด ๋ชจ๋์๊ฒ ๋์๊ฐ๋๋ก ํ๊ฒ ๋ค๋ ์๊ฐ์ ๊ฐ๊ณ ์๋ค. ์ง๊ธ AI ์ธํ๋ผ ์์ฅ์์ ์งํ๋๊ณ ์๋ ๋ค์ํ ํจ์จํ ์๋๊ฐ ํฅํ AI๊ฐ ๋ณดํธ์ ์ธ ์์์ผ๋ก ํ์ฐํ๋ ๋ณํ์ ์ถ๋ฐ์ ์ด ๋ ์ ์๋ค. IT๋์ ๋จ์ํ ๊ธฐ์ (sh@itdonga.com)
[IT๋์ ๊ฐํ์ ๊ธฐ์] ์์ฑํ ์ธ๊ณต์ง๋ฅ(AI)์ด ์ธ์์ ๋ฐ๊ฟจ๋ค๋ฉด, ํผ์ง์ปฌ AI(์ค๋ฌผ ์ธ๊ณต์ง๋ฅ)๋ ์ธ์์ ๋คํ๋ค ๊ฒ์ผ๋ก ์ ๋ง๋๋ค. ์์ฑํ AI๋ ์จ๋ผ์ธ์์์ ์ํ๋ ๊ฒฐ๊ณผ๋ฌผ์ ์ป๊ณ ์ฐฝ์์ ์ธ ํ๋์ ๊ฐ๋ฅ์ผ ํ์ง๋ง, ํผ์ง์ปฌ AI๋ ์ฐ์
ํ์ฅ๋ถํฐ ์ผ์ํ๊ฒฝ, ์ฌํด๊ทน๋ณต๊น์ง ์ฌ๋์ด ํ๊ธฐ ์ด๋ ค์ด ์์ญ์ ํญ๋๊ฒ ํ์ด๋ผ ์ ์ฌ๋ ฅ์ ์ง๋
๊ธฐ ๋๋ฌธ์ด๋ค. ํ์ฌ ์ ์ธ๊ณ ๊ธฐ์ ๊ธฐ์
๋ค์ด ํผ์ง์ปฌ AI ๊ฒฝ์์ ๋ฐ์ด๋ค์๊ณ , ๊ธฐ์ ๊ฐ๋ฐ๋ ํ๋ฐํ๊ฒ ์ด์ด์ง๋ค. [์ํด๋ฆฌ_ํผ์ง์ปฌAI]๋ ์ง๋ ํ ์ฃผ๊ฐ ์ฃผ๋ชฉ๋ฐ์ ๊ธฐ์ ๊ธฐ์
์์๊ณผ ์ฐ๊ตฌ ์ฑ๊ณผ๋ฅผ ๋ค๋ฃจ๊ณ ์ ํ๋ค. โ๋ก๋ดํ ์์
์๋ 3๋ฐฐ ๊ฐ์โ ๋
ธํ, ํ์ปด NPU๋ก ํผ์ง์ปฌ AI ์ต์ ํ ์ค์ฆ ํผ์ง์ปฌ AI ๊ธฐ์ ์ ํต์ฌ ์ค ํ๋๋ ์ฃผ๋ณ์ ์ดํผ๊ณ ์ธ์ด ์ง์๋ฅผ ๋ถ์ํ ๋ค ๊ด์ ์ ์ด๋ป๊ฒ ํ์ ์ํฌ์ง ์ค์๊ฐ์ผ๋ก ํ๋จํ๋ ๋น์ ยท์ธ์ดยทํ๋(VLA) ๋ชจ๋ธ์ด๋ค. VLA ๋ชจ๋ธ์ด ์งํํ๋ฉด์ ํด๋จธ๋
ธ์ด๋์ ์ฐ์
์ฉ ๋ก๋ด ๊ธฐ์ ๋ ๋น ๋ฅด๊ฒ ๋ฐ์ ํ์ง๋ง, ๊ฑธ๋ฆผ๋์ ์ค์๊ฐ ์ฒ๋ฆฌ์ ํ์ํ ์ฐ์ฐ๋์ด๋ค. ์์ญ์ต ๊ฐ๊ฐ ๋๋ ๋งค๊ฐ๋ณ์๋ฅผ ์ผ ์์ด ์ฒ๋ฆฌํ๋ ค๋ฉด ๊ณ ์ฑ๋ฅ ์ฃ์ง ๋จ๋ง๊ธฐ๊ฐ ํ์ํ๊ณ , ๊ทธ๋งํผ ๋น์ฉ๋ ๋ถ์ด๋๋ค. ์ด ๋์ ๋ฅผ ์ต์ ํ ๊ธฐ์ ๋ก ํ์ด๋ธ ์ฌ๋ก๊ฐ ๋์ ๋๊ธธ์ ๋๋ค. ์ธ๊ณต์ง๋ฅ ๋ชจ๋ธ ๊ฒฝ๋ํยท์ต์ ํ ์ ๋ฌธ ๊ธฐ์
๋
ธํ(Nota AI)๋ 2026๋
9์ 22์ผ ํ์ปด(Qualcomm) ๋๋๊ณค์ IQ-9075์ ์ ๊ฒฝ๋ง ์ฒ๋ฆฌ์ฅ์น(NPU)๋ฅผ ํ์ฉ, ์ธ๋ถ ์๋ฒ๋ ๊ทธ๋ํฝ ์ฒ๋ฆฌ์ฅ์น(GPU)์ ๋์ ์์ด ๋ก๋ดํ์ ์์
์๋๋ฅผ ๋์ด์ฌ๋ฆฐ ์ค์ฆ ๊ฒฐ๊ณผ๋ฅผ ๋ฐํํ๋ค. ๋
ธํ๊ฐ ํ์ปด ๋๋๊ณค์ ํ๋ก์ธ์์ NPU๋ฅผ ์ต์ ํํด ํผ์ง์ปฌ AI ์ฒ๋ฆฌ ์ฑ๋ฅ์ ๊ฐ์ ํ๋ค / ์ถ์ฒ=๋
ธํ ๋
ธํ๋ NPU๊ฐ VLA ๋ชจ๋ธ์ ์ง์ ๊ตฌ๋ํ๊ณ , ๋ก๋ด์ ์ฅ์ฐฉ๋ ์ฃ์ง AI ๋ณด๋ ์์์ ์ถ๋ก ์ฐ์ฐ์ด ๋ชจ๋ ๋๋๋๋ก ์ฒด๊ณ๋ฅผ ๊ตฌ์ถํ๋ค. ํด๋ผ์ฐ๋ ์๋ฒ๋ฅผ ๊ฑฐ์น์ง ์๊ณ ์นฉ์
์ ์ ์ ๋ ฅ ์ฐ์ฐ ์ฑ๋ฅ๋ง์ผ๋ก ์ง์๋ฅผ ํด์ํด ๊ด์ ์ ์ ์ดํ๋ ์จ-๋๋ฐ์ด์ค(On-Device) ๋ก๋ณดํฑ์ค๋ฅผ ๊ตฌํํ ์
์ด๋ค. ์ค์ฆ์ ์ธ์ด ๋ช
๋ น์ ๋ฐ์ ๋ก๋ดํ์ด ํ๋ธ๋ฅผ ์ง์ด ์ฌ๋ ค ๋ฐ๋ํธ ๋งคํธ๋ก ์ฎ๊ธฐ๋ ๋ฐฉ์์ผ๋ก ์งํ๋๋ค. ๋
ธํ ๋ฐํ ์๋ฃ์ ๋ฐ๋ฅด๋ฉด ์นด๋ฉ๋ผ ์์๊ณผ ๋ช
๋ น์ด๋ฅผ ์
๋ ฅ๋ฐ์ ๋ค์ ๋์ ๊ถค์ ์ ๊ณ์ฐํ๋ ์ถ๋ก ์๋๋ ์ต์ ํ ์ ๋ณด๋ค ์ต๋ 7๋ฐฐ ๋นจ๋ผ์ก๋ค. ์ถ๋ก ์ง์ฐ์ด ์ค์ด๋ ๋์ ๋ก๋ดํ์ด ๋ชฉํ๋ฅผ ์์ํ๊ธฐ๊น์ง ๊ฑธ๋ฆฌ๋ ์๊ฐ๋ 36์ด์์ 12์ด๋ก ๋จ์ถ๋ผ ์์
์๋๊ฐ 3๋ฐฐ ํฅ์๋๋ค. ์์
์ฑ๊ณต๋ฅ ์ 92%๋ก ์๋ณธ ๋ชจ๋ธ์ 93%์ ๋น๊ตํด 1% ๋ฎ์ ์์ค์ ๊ทธ์ณค๋ค. ํผ์ง์ปฌ AI์์ ์ถ๋ก ์๋๋ ์์
ํจ์จ์ ๋์ด ์์คํ
์ ์์ ์ฑ๊น์ง ์ข์ฐํ๋ ์์๋ก ์๊ผฝํ๋ค. ํ๋จ์ด ๋ช ์ด๋ง ๋ฆ์ด์ ธ๋ ์ค์๋์ผ๋ก ์ง๊ฒฐ๋๊ธฐ ๋๋ฌธ์ด๋ค. ์๋ฒ ์ฐ๊ฒฐ์ด ๋๊ฒจ๋ ํ์ฅ์์ ์ฆ๊ฐ ํ๋จํ๊ณ ํ๋ํ๋ ๊ฒฝ๋ํ ์ํํธ์จ์ด ์ญ๋์ ์์ผ๋ก ์ฐ์
์ฉ ํ๋๋ก๋ด๊ณผ ์๋น์คยท๋ฌผ๋ฅ ๋ก๋ด์ ๊ฒฝ์ ์ฑ์ ๊ฐ๋ฅด๋ ๊ฒฝ์๋ ฅ์ผ๋ก ๋ถ๊ฐ๋ ์ ๋ง์ด๋ค. ํ๋์ฐจ๊ทธ๋ฃนยท๋ณด์คํด ๋ค์ด๋ด๋ฏน์ค, ๋ฏธ๊ตญ์ ๋ก๋ณดํฑ์ค ์ ์กฐ ํ๋ จ ๊ฑฐ์ ๊ฐ์ 2026๋
9์ 21์ผ, ํ๋์๋์ฐจ๊ทธ๋ฃน๊ณผ ๋ณด์คํด ๋ค์ด๋ด๋ฏน์ค(Boston Dynamics)๋ ๋ฏธ๊ตญ ์กฐ์ง์์ฃผ ์๋ฐฐ๋์ ๋ฉํํ๋ํธ ์๋ฉ๋ฆฌ์นด(HMGMA) ๋ถ์ง ์์ ์ฐจ์ธ๋ ๋ก๋ด ์ ์กฐ ํ๋ จ ๊ฑฐ์ โ๋ก๋ณดํฑ์ค ๋ฉํํ๋ํธ ์ ํ๋ฆฌ์ผ์ด์
์ผํฐ(RMAC)โ๋ฅผ ์ ์ ๊ฐ์ํ๋ค. ํ์ฅ ์ค์ฆ ํ์ต์ ๊ฑฐ์น๋ฉด ๋ณด์คํด ๋ค์ด๋ด๋ฏน์ค์ ํด๋จธ๋
ธ์ด๋ ๋ก๋ด โ์ํ๋ผ์คโ์ ์์ฑ๋๊ฐ ํ์ธต ๋์์ง ๊ฒ์ผ๋ก ์ ๋ง๋๋ค. RMAC์์ ์ํ๋ผ์ค ๋ก๋ด๋ค์ ๋ถํ ๋ฌผ๋ฅ ๊ด๋ฆฌ์ ์ค์๊ฐ ์์ดํ(Sequencing) ๊ณต์ ์ ํฌ์
๋ผ ์์จ ์์
ํ๋ จ์ ์ํํ๋ค. ์์ดํ ์์
์ ํผ๋ฅ ์์ฐ ๋ฐฉ์์ผ๋ก ์กฐ๋ฆฝ๋๋ ์์ฑ์ฐจ ๋ผ์ธ์ ๋ง์ถฐ ์๋ง ๊ฐ์ง ๋ถํ์ ์ ํํ ์์์ ์์น๋ก ๋ถ๋ฅํด ์ด๋ฐํ๋ ๋ณต์กํ ๋ฌผ๋ฆฌ ๊ณต์ ์ด๋ค. ๋ณด์คํด ๋ค์ด๋ด๋ฏน์ค๊ฐ ํด๋จธ๋
ธ์ด๋ ์ํ๋ผ์ค์ ํผ์ง์ปฌ AI ํ์ต ์ญ๋์ ํ์ฅํ๋ค / ์ถ์ฒ=๋ณด์คํด ๋ค์ด๋ด๋ฏน์ค ๊ธฐ์กด ์ฐ์
์ฉ ๋ก๋ดํ์ ๋ผ์ธ์ ์ฌ๋ฐฐ์นํ ๋ ๋น์ฉ ๋ถ๋ด์ด ํฌ๋ค. ๋ฐ๋ฉด ์ด๋์ฑ๊ณผ ์์ ์กฐ์ ๋ฅ๋ ฅ์ ๊ฒธ๋นํ ํด๋จธ๋
ธ์ด๋๋ ๊ณต์ฅ ์ค๋น๋ฅผ ํฌ๊ฒ ์๋ณด์ง ์๊ณ ๋ ์์
์ ๋์ ์ ๋ง์ถฐ ํฌ์
ํ ์ ์๋ค๋ ์ ์ด ์ฐจ๋ณ์ ์ผ๋ก ๊ผฝํ๋ค. ๋ณด์คํด ๋ค์ด๋ด๋ฏน์ค๋ ๋ถํ ๋ฌผ๋ฅ ์ต์ ํ๋ฅผ ์์์ผ๋ก ํ๋ จ ์์ญ์ ๋จ๊ณ์ ์ผ๋ก ๋ํ, ์ค๋ 2030๋
๊น์ง ๊ณ ๋๋ ๋ถํ ์ง์ ์กฐ๋ฆฝ ๊ณต์ ์๋ ์ํ๋ผ์ค๋ฅผ ํฌ์
ํ ๊ณํ์ด๋ค. ๋ณด์คํด ๋ค์ด๋ด๋ฏน์ค๋ 2027๋
ํํ RMAC๋ณด๋ค 10๋ฐฐ ํฐ ๊ท๋ชจ์ ์ ์์ค๋ก ์ด์ ํ๋ค. ์ ์์ค์๋ ๋ค์ํ ๋ก๋ด ํ์ต ํ๊ฒฝ์ด ๊ตฌ์ถ๋ ๊ฒ์ผ๋ก ์์๋๋ค. ์ฐ์
ํ๊ฒฝ๋ณ ํ๋ ํ์ต์ด ๋ท๋ฐ์นจ๋ผ์ผ ํญ๋์ ํผ์ง์ปฌ AI ์ ์ด ์๊ณ ๋ฆฌ๋ฌ๊ณผ ์์
๋ฐ์ดํฐ์
์ ํ๋ณดํ ์ ์๊ธฐ ๋๋ฌธ์ด๋ค. ๋ณด์คํด ๋ค์ด๋ด๋ฏน์ค๋ ์ด๋ฅผ ํ ๋๋ก ์ ์กฐ์
์ ๋น๋กฏํด ํญ๊ณต์ฐ์ฃผ, ๋ฐ๋์ฒด, ๋ฌผ๋ฅ ํ๋ธ, ์์๋ฃ, ๋ฐ์ด์คยท์ ์ฝ ๋ฑ ์ ๋ฐ ์กฐ์์ด ํ์ํ ์ฐ์
์ ๋ฐ์์ ํผ์ง์ปฌ AI ๋ชจ๋ธ ๊ฒฝ์๋ ฅ์ ๊ฐ์ถ๊ฒ ๋ค๋ ๊ตฌ์์ด๋ค. ์ฒดํ๋ ์ธ์ง์ ์์ด์ ํธ ๋ฅ๋ ฅ์ ํตํฉํ โME-VLMโ ์์จ์ฃผํ ์ฐจ๋์ด๋ ๋ก๋ด์ ํ์ฌ๋๋ ์ธ๊ณต์ง๋ฅ ์์คํ
์ ์์์ โ์์ด์ ํธ ํ๋๋(์์ฌ๊ฒฐ์ ์์ ์กฐ์จ)โ์ ํ์์ โ์ฒดํ ์ธ์ง ์ปจํธ๋กค๋ฌ(๋ก๋ด ์ ์ด ์ฅ์น)โ๋ก ๋๋์ด ์์ฐจ์ ์ผ๋ก ๋์ํ๋ ์ง๋ ฌ ์ฒ๋ฆฌ ๊ตฌ์กฐ์๋ค. ์ด๋ฐ ๋ถ๋ฆฌํ ๊ตฌ์กฐ๋ ํ์ค์์ ์น๋ช
์ ์ธ ๊ฒฐํจ์ ๋๋ฌ๋ด๊ณค ํ๋ค. ๋์งํธ ํ๊ฒฝ์์ ์ธ์ด๋ก ๊ณํ์ ์ธ์ฐ๋ ์์ ํ๋๋๋ ์ธ์ด์ ๋งฅ๋ฝ์ ๊ทธ๋ด๋ฏํด ๋ณด์ฌ๋ ํ์ค ๊ณต๊ฐ์์๋ ๋ถ๊ฐ๋ฅํ ๋ช
๋ น์ ๋จ๋ฐํ๋ค. ๋ฐ๋๋ก ํ์ ์ปจํธ๋กค๋ฌ๋ ๋ฌผ์ฒด๋ฅผ ์ก์ผ๋ ค๋ค ๋ฏธ๋๋ฌ์ง๋ ๋ฌผ๋ฆฌ์ ์คํจ๊ฐ ๋ฒ์ด์ ธ๋ ์ด ์ํ๋ฅผ ์์ ํ๋๋์ ์ค์๊ฐ์ผ๋ก ๊ณต์ ํ์ง ๋ชปํ๋ค. ๊ฒฐ๊ตญ ๋์์ด ๊ทธ๋๋ก ๋ฉ์ถ๋ โ๋ฌผ๋ฆฌ์ ํ๊ฐ(Physical Hallucination)โ ํ์์ ๊ฒช๋๋ค. ์ค๊ตญ ์๋์ฐจ ๊ธฐ์
๋ฆฌ์คํ (Li Auto)์ ๊ธฐ์ด๋ชจ๋ธ ์ฐ๊ตฌํ์ ์ด ๋ฌธ์ ๋ฅผ ํ๊ธฐ ์ํด โ๊ณ ์์ฒดํ๋ ์๊ฐยท์ธ์ด๋ชจ๋ธ(MachEmbodied-VLM, ์ดํ ME-VLM)โ์ ์ ์ํ๋ค. ์๊ฐยท๊ณต๊ฐ ๊ฐ๊ฐ๊ณผ ๋ฌผ๋ฆฌ ๋ฒ์น์ ์ดํดํ๋ โ์ฒดํ ์ธ์งโ ๋ฅ๋ ฅ, ์ฅ๊ธฐ ๊ณํ๊ณผ ๋๊ตฌ ํธ์ถ์ ์ํํ๋ โ๋ฉํฐ๋ชจ๋ฌ ์์ด์ ํธโ ์ญ๋์ ํ๋์ ๋น์ ยท์ธ์ด ๋ชจ๋ธ๋ก ํตํฉํ ๊ตฌ์กฐ๋ค. ME-VLM์ ํ์ต ๊ตฌ์กฐ / ์ถ์ฒ=ME-VLM ๋
ผ๋ฌธ ME-VLM์ ์ฃผ๋ณ ํ๊ฒฝ์ ์ธ์ํด ๋์ํ๋ ์ ๊ณผ์ ์ โฒ์ธ์ง โฒ์ถ๋ก โฒํ๋ โฒ๊ฒ์ฆ โฒ์ฌ๊ณํ์ ๋ค์ฏ ๋จ๊ณ๋ก ๋๋ ๋จ์ผ ํ๋ฃจํ(Closed Loop) ์ฒด๊ณ๋ก ๊ตฌ์ถํ๋ค. ์ธ์ง๋ ํ๊ฒฝ์ ๊ด์ธกํ๋ ์ฒซ ๋จ๊ณ๋ค. ๊ฐ์ฒด ๋ผ๋ฒจ๋ง์ ๋น๋กฏํด ์ฃผ๋ณ ์ฌ๋ฌผ์ 3์ฐจ์ ์์น ๊ด๊ณ์ ํ๋ฉด ์ฌ์ง, ๋ก๋ด์ด ์ ์ดํ์ ๋ ์ผ์ด๋ ์ ์๋ ๋ฌผ๋ฆฌ์ ์ํธ์์ฉ์ ๋ปํ๋ ํ๋ ์ ๋์ฑ(Affordance)๊น์ง ํ์
ํ๋ค. ์ด์ด ๋ชฉํ ๋ฌ์ฑ์ ํ์ํ ์ธ๋ถ ๊ณผ์ ๋ฅผ ๋์ถํ๋ ์ถ๋ก ์ ๊ฑฐ์ณ, ๊ตฌ์ฒด์ ์ธ ํ์ ์คํฌ ํจ์๋ ์ธ๋ถ ๋๊ตฌ๋ฅผ ํธ์ถํด ์์ง์์ ๊ตฌํํ๋ค. ํ๋์ ๋ง์น๋ฉด ๊ฒ์ฆ์ ๋ค์ด๊ฐ๋ค. ์ผ์๋ก ์์งํ ์ ์์๊ณผ ๋ฌผ๋ฆฌ ์ ํธ๋ฅผ ๋์กฐํด ๋ช
๋ น์ด ์ ๋๋ก ์คํ๋๋์ง ํ์ธํ๋ ๊ณผ์ ์ด๋ค. ๊ฒฐ๊ณผ๊ฐ ์๋์ ์ด๊ธ๋๊ฑฐ๋ ๋ฌผ์ฒด๊ฐ ๋ฏธ๋๋ฌ์ก์ ๋๋ ์ฌ๊ณํ์ผ๋ก ๋์ด๊ฐ ์ฆ์ ๋์ ๊ฒฝ๋ก๋ฅผ ์ค์ ํ๋ค. ์ฐ๊ตฌ์ง์ ME-VLM์ ๊ตฌํํ๊ธฐ ์ํด ์ฒดํ ์ง๋ ๋ฏธ์ธ์กฐ์ (Embodied SFT), ๋ถ๋ฆฌํ ์ ๋ฌธ๊ฐ ๊ฐํํ์ต(Separate Expert RL), ๋ค์ค ๊ต์ฌ ์จํด๋ฆฌ์ ์ฆ๋ฅ(Multi-teacher On-policy Distillation)๋ก ์ด๋ค์ง ์ธ ๊ฐ์ง ํ์ต ๊ณผ์ ์ ์ค๊ณํ๋ค. ์ฒดํ ์ง๋ ๋ฏธ์ธ์กฐ์ ์ ์๋ฐฑ๋ง ๊ฑด์ ๊ณ ์ ๋ฐ ๋ฐ์ดํฐ๋ก ๋ฌผ๋ฆฌ ์ํ์ ๊ณต๊ฐ ๊ด๊ณ, ํ๋์ ์คํ ๊ฐ๋ฅ์ฑ์ ํ์ต์ํค๋ ๊ณผ์ ์ด๋ค. ๋ถ๋ฆฌํ ์ ๋ฌธ๊ฐ ๊ฐํํ์ต์ ๋ชจ๋ธ์ ์์ด์ ํธ ์ ๋ฌธ๊ฐ์ ์ฒดํ ์ธ์ง ์ ๋ฌธ๊ฐ๋ก ๋๋ , ์ ์์๋ ๊ณํ ์๋ฆฝ๊ณผ ๋๊ตฌ ํ์ฉ, ํ์์๋ ๋ฌผ๋ฆฌ ์ ์ด์ ์คํจ ๋ณต๊ตฌ ๋ฅ๋ ฅ์ ๊ฐ๊ฐ ๊ฐํํ๋ค. ๋ค์ค ๊ต์ฌ ์จํด๋ฆฌ์ ์ฆ๋ฅ๋ ํ์ ๋ชจ๋ธ์ด ๊ฐ ์ํฉ์ ๋ง์ฃผํ ๋๋ง๋ค ๋ ๊ต์ฌ์ ํ๋จ์ ์๋ก ๋ค๋ฅธ ๊ฐ์ค์น๋ฅผ ๋ถ์ฌํด ์ง์์ ์ ๋ฌํ๋ ๋ฐฉ์์ด๋ค. ๋๋ถ์ ์ถ๋ก ๋จ๊ณ์์๋ ๋จ์ผ ๋ชจ๋ธ๋ง์ผ๋ก ์ ๋ฌธ์ฑ๊ณผ ๋ฌผ๋ฆฌ ์ ์ด ๋ฅ๋ ฅ์ ๋์์ ๊ตฌํํ๋ค. ME-VLM์ ๋ฒค์น๋งํฌ ์ ์๋ฅผ ๋น๊ตํ ์๋ฃ / ์ถ์ฒ=ME-VLM ๋
ผ๋ฌธ ์ฐ๊ตฌ์ง์ ME-VLM์ 40์ต ๋งค๊ฐ๋ณ์(4B) ๋ชจ๋ธ๊ณผ 350์ต ๋งค๊ฐ๋ณ์ ๊ธฐ๋ฐ ํผํฉ ์ ๋ฌธ๊ฐ(35B-A3B) ๋ชจ๋ธ๋ก ๋๋ ๊ฐ๋ฐํ๊ณ ๊ฒ์ฆ์ ๋ง์ณค๋ค๊ณ ๋ฐํ๋ค. ๋ฌผ๋ฆฌ ์ธ์ง์ ์์
๊ณํ, ๋์ ์คํ, ์ค๋ฅ ๋ณต๊ตฌ ์ญ๋์ ์์ฐ๋ฅด๋ 26๊ฐ ์ฒดํ ๋ฒค์น๋งํฌ์์ 4B ๋ชจ๋ธ์ ํ๊ท 63.4์ , 35B ๋ชจ๋ธ์ ํ๊ท 70.9์ ์ ๊ธฐ๋กํ๋ค๋ ์ฃผ์ฅ์ด๋ค. ์ด ์ธ์ ME-VLM์ ์์ ํ๋๋์ ํ์ ์ปจํธ๋กค๋ฌ๋ฅผ ์ค๊ฐ๋ ์ง๋ ฌ ๊ตฌ์กฐ ๋์ ๋จ์ผ ๋ชจ๋ธ์ด ์ถ๋ก ์ ๋๋ด๋ ๋งํผ, ์๋ต ์ง์ฐ์๊ฐ๋ ์ค์ด๋ค ๊ฒ์ผ๋ก ๊ธฐ๋๋๋ค. IT๋์ ๊ฐํ์ ๊ธฐ์ (redbk@itdonga.com)
[์ด ๊ธฐ์ฌ์ ๋์จ ์คํํธ์
์ ๋ํ ๋ณด๋ค ๋ค์ํ ๊ธฐ์
์ ๋ณด๋ ์ ๋์ฝํฉํ ๋ฆฌ ๋น
๋ฐ์ดํฐ ํ๋ซํผ '๋ฐ์ดํฐ๋ฉ'์์ ๋ณผ ์ ์์ต๋๋ค.] AI (์ธ๊ณต์ง๋ฅ) ๋ชจ๋ธ ๊ฒฝ๋ํยท์ต์ ํ ๊ธฐ์
๋
ธํ๊ฐ ์์ฒด ํ๋ซํผ '๋ท์ธ ํ๋ ์'๋ฅผ ํ์ฉํด ๋ก๋ด AI ๋ชจ๋ธ์ ์์
์ํ ๋ฅ๋ ฅ์ ๊ฑฐ์ ๊ทธ๋๋ก ์ ์งํ๋ฉด์ ์ถ๋ก ์๋๋ฅผ ์ต๋ 7๋ฐฐ ๋์๋ค. ๋ก๋ดํ์ ์ค์ ์์
์๋๋ ์ต๋ 3๋ฐฐ ๋นจ๋ผ์ก๋ค. ๋
ธํ๋ 23์ผ ์์ธ ์ฝ์์ค์์ ์ด๋ฆฐ 'ํด๋จธ๋
ธ์ด๋ ์๋ฐ ์์ธ 2026'์์ ํ์ปด ์ ๊ฒฝ๋ง์ฒ๋ฆฌ์ฅ์น(NPU)์ ์๋น๋์ ๊ทธ๋ํฝ์ฒ๋ฆฌ์ฅ์น(GPU) ๊ธฐ๋ฐ ํ๊ฒฝ์์ ๋ก๋ด AI ๋ชจ๋ธ 7์ข
์ ์ต์ ํํ ๊ฒฐ๊ณผ๋ฅผ ๊ณต๊ฐํ๋ค. ๊น๊ฑด๋ฏผ ๋
ธํ AI ์ฐ๊ตฌ์์ ์ด๋ '๋ท์ธ ํ๋ ์๋ฅผ ํ์ฉํ ๋ค์ํ ํ๋์จ์ด ํ๊ฒฝ์์์ ๋ก๋ด ํ์ด๋ฐ์ด์
๋ชจ๋ธ ๊ตฌ๋ ์ต์ ํ'๋ฅผ ์ฃผ์ ๋ก ๋ก๋ด AI ๋ชจ๋ธ์ ๋ค์ํ ์ฃ์ง ํ๊ฒฝ์ ์ ์ฉํ๊ธฐ ์ํ ์ต์ ํ ๋ฐฉ๋ฒ๊ณผ ์ฑ๋ฅ ๊ฒ์ฆ ๊ฒฐ๊ณผ๋ฅผ ๋ฐํํ๋ค....