[λ°κΈ°μμ λ°Έλ₯체ν¬] [λ°Έλ₯체ν¬]λ μ¦μ μμ₯μ μλ λ²€μ²Β·μ€ννΈμ
μ κΈ°μ
κ°μΉλ₯Ό λΆμνκ³ , λ―Έλκ°μΉλ₯Ό μ λ§ν΄λ³΄λ μ½λμ
λλ€. [μ΄ κΈ°μ¬μ λμ¨ μ€ννΈμ
μ λν λ³΄λ€ λ€μν κΈ°μ
μ 보λ μ λμ½ν©ν 리 λΉ
λ°μ΄ν° νλ«νΌ 'λ°μ΄ν°λ©'μμ λ³Ό μ μμ΅λλ€.] λ²ν°μ»¬ AI(μΈκ³΅μ§λ₯) μ€ννΈμ
λ§ν€λλ½μ€κ° AI μ λ¬ΈκΈ°μ
μ€ μ¬ν΄ μ²μμΌλ‘ μ½μ€λ₯ μμ₯μ μμ₯νλ€. μ§λν΄ μ μ¬κΈ°μ
μΈ λ
Ένκ° μμ₯ ν μμ₯μ λ§μ κ΄μ¬μ λ°μ λ§νΌ AI μ΄νμ μ΄μ΄κ° μ μμμ§ μ£Όλͺ©λλ€. βμ°μ
λ³ νΉν AIλ‘ λκΈ°μ
Β·μ λΆ 'λ¬λΈμ½'β1μΌ κΈμ΅κ°λ
μ λ° κ΄λ ¨μ
κ³μ λ°λ₯΄λ©΄ λ§ν€λλ½μ€λ μ§λλ¬ μ¦κΆμ κ³ μλ₯Ό μ μΆνκ³ μ½μ€λ₯ μμ₯ μ μ°¨μ 본격 λμ
νλ€. μμ νμ¬λ μ λ¬Ένκ°κΈ°κ΄ λ κ³³μΌλ‘λΆν° κΈ°μ νκ° 'A' λ±κΈμ νλν΄ κΈ°μ νΉλ‘μμ₯μ μ μ²νλ€. λ§ν€λλ½μ€λ κ΅λ°©, λ°λ체·λμ€νλ μ΄, μ€κ³΅μ
Β·μ‘°μ , μλμ§Β·νν, μλμ°¨ λ± λ€μν λΆμΌμ νΉνλ κ³ μ±λ₯ AI μ루μ
μ 곡κΈνλ κΈ°μ
μ΄λ€....
[ν©λ³] νλ¦Ό, μ¨μμ΄ν
ν¬, μΌμΌλΌ, μμ λ°μ΄μ€ [μνΈλ³κ²½] μΈν°νλΈ [μ£Όμ£Όμ΄ν] ν°λΉμμ΄μΉκΈλ‘λ², μΈμ€μ½λΉ, SKμ€μ
νλνΈ, ...
[ITλμ λ¨μν κΈ°μ] AI λͺ¨λΈ κ²½λν λ° μ΅μ ν κΈ°μ κΈ°μ
λ
Ένκ° κΈλ‘λ² AI λ°λ체 μ€ννΈμ
μλ§AI(SiMa.ai)μ μ λ΅μ ννΈλμμ 체결νλ€. λ
Ένλ νλμ¨μ΄ νΉμ±μ λ°μν AI λͺ¨λΈ μ΅μ ν νλ«νΌ βλ·μΈ νλ μβλ₯Ό λ°νμΌλ‘ μΈκ³΅μ§λ₯ λͺ¨λΈμ ν¬κΈ°μ νμ© μμμ μ€μ΄λ©΄μ μ±λ₯μ μ΅λν μ μ§νλ λͺ¨λΈ μμν κΈ°μ μ μ 보μΈλ€. μλ§AIλ 2018λ
μμΌλ§μ€ μμλΆμ¬μ₯ μΆμ μΈ ν¬λ¦¬μλ λκ°μ¬μ(Krishna Rangasaayee)κ° μ€λ¦½ν λ°λ체 κΈ°μ
μΌλ‘, μ μ λ ₯ κΈ°κ³νμ΅ μμ€ν
μ¨μΉ©(MLSoC)μ μ£Όλ ₯νλ€. μ΄κΈ°μλ μ£μ§AI μ»΄ν¨ν
μΌλ‘ μμ₯μ μ§μΆνμ§λ§ 2μΈλ μΉ© μΆμ μ΄νμλ νΌμ§μ»¬AI λΆμΌμμ λκ°μ λλ¬λ΄κ³ μλ€. ν¬λ¦¬μλ λκ°μ¬μ μλ§AI μ°½μ
μ κ²Έ CEOμ κΉννΈ λ
Έν μ΅κ³ κΈ°μ μ±
μμ / μΆμ²=λ
Έν μ΄λ² νλ ₯μ ν΅μ¬μ μ£μ§ AI νκ²½μ μ΅μ νλ€. λ κΈ°μ
μ νλ ₯μ ν΅ν΄ β² μ¨λλ°μ΄μ€ AI μ€λ£¨μ
곡λ κ°λ° λ° μ¬μ
ν β² κΈ°μ ννΈλμ νλ ₯ β² κ³ κ°μ¬ 곡λ λ°κ΅΄ λ° μλ² νλ‘μ νΈ κ³΅λ μν λ±μ λμ λ€. μλ§AIκ° μ μνλ μ£μ§ AIλ μν μ»΄ν¨ν
νΉμ±μ μ±λ₯μ νκ³κ° μλ€. μ¬κΈ°μ AIλ₯Ό μ¨λλ°μ΄μ€λ‘ ꡬλνλ €λ©΄ μμ λͺ¨λΈμ νμ¬ν΄μΌ νλλ°, λ
Ένμ κΈ°μ λ ₯μ λ°νμΌλ‘ λͺ¨λΈμ μμνν΄ μ μ©νλ©΄ μ νλ λ°λ체 μ±λ₯μμ μ΅λν ν¨μ¨, μ±λ₯μ λμΌ μ μλ€. AI μ λ°λκ° μ‘°κΈ λ¨μ΄μ§ μ μμ§λ§ μ΄λ₯Ό μ΅λν μ μ§νλ κΈ°μ λ ₯μ΄ ν΅μ¬μ΄λ©°, μ±λ₯μ λ λμ΄λ λ° λ°λ₯Έ μ΄μ μ΄ ν¨μ¬ ν¬λ€. λͺ¨λΈμμν κΈ°μ μ μμ©νλ©΄ μ±λ₯μ΄ μ νλ μ¨λλ°μ΄μ€ AI κΈ°κΈ°μ μ‘°κΈμ΄λΌλ λ ν° λͺ¨λΈμ λ£μ μ μκ³ , κ·Έλ§νΌ μ°μ
κ²½μλ ₯μ λ λμ΄μ¬λ¦΄ μ μλ€ / μΆμ²=μλ§AI μ£μ§ AIμμ λ μ’μ AI μ±λ₯μ ν보νλ κ²μ μ¨λλ°μ΄μ€ AI, νΌμ§μ»¬ AIμ μ§κ²°λλ€. μλ₯Ό λ€μ΄ μλ²μ μ νμ μΌλ‘ μ°κ²°λμ΄ νμ₯μμ λ
립μ μΌλ‘ ꡬλλλ λ‘λ΄μ΄ μλ€. νμ¬λ μ΄ λ‘λ΄μ μλ²μ μ°κ²°ν΄ λ°μ΄ν°λ₯Ό μ²λ¦¬νκ³ λ€μ 보λ΄λ μμΌλ‘ μ²λ¦¬νλλ°, μλ§AIμ MLSoCκ°μ μ¨λλ°μ΄μ€AI λ°λ체λ₯Ό μ₯μ°©νλ©΄ λ‘λ΄ μ체μμ λΉμ μΈμ λ±μ μ²λ¦¬νλ€. μ¬κΈ°μ νμ¬λλ AI λͺ¨λΈμ λ
Ένμ λ·μΈ νλ μλ‘ μ΅μ ννλ©΄ λ‘λ΄μ λΉμ μΈμ ν¨μ¨μ΄λ μ±λ₯μ΄ νμΈ΅ λ λμμ§λ€. μ΄λ₯Ό ν΅ν΄ μλ² λΆνλ μ€μ΄κ³ μ
λ ₯ μ§μ°μΌλ‘ μΈν ν¨μ¨ μ ν, μ μ λ ₯ νκ²½ λ±μ λ§λ€ μ μλ€. μλ§AIλ λ
Ένμ μμ±ν AI κΈ°λ° μμ κ΄μ μ€λ£¨μ
μΈ βNVA(λ
Έν λΉμ μμ΄μ νΈ)βμ μ체 λ°λ체λ₯Ό μ΅μ νν΄ μ§λ₯ν κ΅ν΅ μμ€ν
(ITS), μμ , 보μ λ± λ€μν μ°μ
νμ₯μ μ μ©ν μμ μ΄λ€. λ νμ¬κ°μ νλ ₯μ ν΅ν΄ λ
Ένλ μλ§AIμ λ€μν κ³ κ°μ¬μκ² νλμ¨μ΄ μ΅μ ν κΈ°μ μ μ 곡νκ² λκ³ , μλ§AIλ λ‘보ν±μ€, μμ¨μ£Όν μ°¨λ, μ°μ
μλν λ± λ€μν λΆμΌμμ λ λμ μ±λ₯κ³Ό ν¨μ¨μ μ 곡ν μ μκ² λλ€. 1μΈλ λ°λ체 κΈ°μ
, μ΄μλ¨κ±°λ μ§ννκ±°λ μλ§AIμ λ
Ένμ νλ ₯ꡬλλ λΉ λ₯΄κ² λ³νκ³ μλ AI μμ₯μμ μμ‘΄ κ°λ₯μ±μ λμ΄κΈ° μν μ λ΅μ΄λ€. ν¬λ¦¬μλ λκ°μ¬μκ° μμΌλ§μ€μμ λμ μλ§AIλ₯Ό μ€λ¦½ν λΉμ μμ₯μ κΈ°λλ μ΄λ§μ΄λ§νλ€. κ·Έκ° μμΌλ§μ€μ μ¬μ§ν 18λ
κ° μμΌλ§μ€λ μ°μ
μ© λ°λ체μ ν΅μ¬ κΈ°μ
μΌλ‘ κ±°λλ¬κ³ , κ·Έλ° κ·Έκ° νΉλ¦¬μ€ μ€ννΈμ
μ μ°¨λ¦°λ€λ κ² μ체λ§μΌλ‘ μ£μ§ AI μμ₯μ΄ μμΌλ‘ μ λ§ν κ²μ΄λ νκ°κ° λμ¬ μ λμλ€. 2023λ
μΆμλ 1μΈλ μΉ©μ MLPerfμμ μλΉλμ μ ―μ¨ μ€λ¦°μ μνΈλΉ μ±λ₯μμ μλνκ³ , μ€ννΈμ
μ΄ μ²« μλλ‘ μλΉλμλ₯Ό κΊΎμ κΈ°λ‘μΌλ‘ λ¨μΌλ©° μ±κ³΅μ μΌλ‘ λ°λ·νλ€. μλ§AIμ MLSoC λ°λ체 / μΆμ²=μλμμ€ νμ§λ§ λΉμ AIμ μ§μ€νλ€ λ³΄λ μ΄λ―Έ μμ₯μ΄ νΈλμ€ν¬λ¨Έ μ€μ¬μ LLMμΌλ‘ λ³ννκ³ , 1μΈλ μΉ©μ μμ±ν AIλ₯Ό λ리기μ ꡬ쑰μ νκ³κ° μμλ€. λν νλμ¨μ΄μ ν¨μ¨μ΄ λμ κ²μ λͺ¨λκ° μΈμ νλ μ£μ§AI νΉμ±μ μΏ λ€ μνκ³μ μ μν λ€μμ κ°λ°μλ€μ νλνλ μ€λν μ μμλ€. νΉν μ½λ© μμ΄ λ§μ°μ€ ν΄λ¦μΌλ‘ λ°°ν¬νλ λ
Έμ½λ ν΄ βμ£μ§λ§€ν±βμΌλ‘ κ°λ°μλ€μ μ μ
μ κΈ°λνμ§λ§ μ£μ§AI κ°λ°μλ€μ μ§μ μ΅μ νν μ μλ μ μ΄κΆμ μν΄ ν° λ°μμ μ΄λμ΄λ΄μ§ λͺ»νλ€. κ²°κ΅ 2023λ
μΆμ μ§ν μμ₯μ΄ λΉμ μΈμμμ GPT λ± λνμΈμ΄λͺ¨λΈλ‘ μ νλμμΌλ©°, μλ§AI μμ 2μΈλ μΉ©λΆν°λ CNNμ λ¬Όλ‘ νΈλμ€ν¬λ¨Έ, λνμΈμ΄λͺ¨λΈ, μμ±ν AIλ₯Ό λͺ¨λ μ§μνλ κ²μΌλ‘ λ°κΏ¨λ€. λν μ£μ§AIμ νμ νκΈ° 보λ€λ λ©ν°λͺ¨λ¬, νΌμ§μ»¬ AIλ‘ μ λ΅μ λ³κ²½νκ³ μ£μ§ κΈ°κΈ°κ° νμ₯μμ νλ¨νκ³ λνν μ μλ AI μλλ₯Ό λ§λλ λ° μ¬μ
μ μ΄μ μ λ§μ·λ€. λ
Ένμμ νλ ₯μ νμ μ μΈ λ°λ체 μμμμ λ μ±λ₯μ λμ΄κΈ° μν μ λ΅μΈ μ
μ΄λ€. λ·μΈ νλ μλ₯Ό νμ©ν΄ μ€ν
μ΄λΈλν¨μ λͺ¨λΈμ μμΆν μμ, μ€λ¦¬μ§λ λͺ¨λΈ(SDM-v1)μ΄ μΌμͺ½μ΄κ³ Baseλ νμ€, Smallμ λ μμ λͺ¨λΈ, Tinyλ κ·Ήν λͺ¨λΈμ΄λ€. μλ³Έκ³Ό λΉκ΅ν΄ νμ§μ μ°¨μ΄λ μμ§λ§ μ λΉν μ±λ₯μ μ μ§νλ©΄μ κ²°κ³Όλ¬Όμ λ΄λ κ²μ΄ λͺ¨λΈμμνμ λͺ©μ μ΄λ€ / μΆμ²=λ
Έν AI λ°λ체 κΈ°μ
κ³Ό μμν κΈ°μ
κ°μ νλ ₯ ꡬλλ κ°μλ‘ λκ³ μλ€. λ
Ένλ μλ§AI μ΄μΈμλ μΌμ±μ μ, νμ»΄, μλΉλμ λ±μ AI λ°λ체 κΈ°μ
λ€κ³Όλ νλ ₯ μ€μ΄λ€. μ λ½μ λ°λ체 μ μ‘°μ¬ STλ§μ΄ν¬λ‘μΌλ νΈλ‘λμ€λ μ§λν΄ μΊλλ€μ AI μμν μ€ννΈμ
λ₯λΌμ΄νΈλ₯Ό μΈμν΄ μμ¬ MCU λ° MPU λ‘λλ§΅μ μ΄μνκ³ , μλΉλμ μμ μ§λ 2024λ
μ λ°μ AIλ₯Ό μΈμν΄ λ₯λ¬λ λͺ¨λΈ μμν λ° μ΅μ νλ₯Ό μ μ©ν λ° μλ€. Arm μμ κ΅λ΄ AI μμν μ€ννΈμ
μλμμ΄μ μΈκ³΅μ§λ₯ ννΈλ νλ‘κ·Έλ¨ ννΈλμμ λ§Ίκ³ κΈ°μ νλ ₯μ μ§ν μ€μ΄λ€. μ¨λλ°μ΄μ€ AI λ°λ체, μμ§λ§ λ κ°νκ² λ ν¨μ¨μ μΌλ‘ μ§λ 3μ μ΄, λ§μ΄ν¬λ‘μννΈκ° κΈ°μ‘΄ 1.58λΉνΈ λΉνΈλ· κΈ°μ μ ν¬μμ± κ°λ
μ λν μ€νμ€-λΉνΈλ·(Sparse-BitNet)μ μ€νμμ€λ‘ 곡κ°νλ€. 2024λ
10μ λΉνΈλ· νλ μμν¬λ₯Ό μ€νμμ€λ‘ 곡κ°ν μ΄ν λ€μ νλ² κ³΅κ°ν μ€ν μμ€λ€. μ§κΈμ λ€νΈμν¬ μ°κ²°μ΄ μμ΄μΌ AIλ₯Ό ꡬλνμ§λ§, λͺ¨λΈμμν κΈ°μ μ΄ λ°μ νλ©΄μ λ
ΈνΈλΆ, μ€λ§νΈν°, μ£μ§ AI κΈ°κΈ° λ±μμλ AIλ₯Ό μμ μ μΌλ‘ ꡬλν μ μλ μλκ° μ¬ μ μλ€ / μΆμ²=λ
Έν κΈ°μ‘΄μ λΉνΈλ·μ΄ μμμ κ³±μ
μ μ μ λ§μ
μΌλ‘ λ°κΎΌ κ²μ΄λΌλ©΄ μ€νμ€-λΉνΈλ·μ κ·Έ λ§μ
λ§μ λ κΌ νμν κ²λ§ νλ λ°©μμ΄λ€. 32λΉνΈ λλΉ κ·Ήλ¨μ μΈ 1.58λΉνΈ μμνμ μ°μ° νμκΉμ§ μ€μ¬ λ³λͺ© νμμ μ€μ΄κ³ , μ λ ₯ ν¨μ¨μ μ΅μ ννκ² λ€λ κ²μ΄ λͺ©μ μ΄λ€. μ΄λ‘ μ 100B(1000μ΅ κ°) μ΄μμ λ§€κ°λ³μλ₯Ό κ°μΆ AIλ₯Ό μΌλ° κ³ μ¬μ λ
ΈνΈλΆμμ μ€μκ°μΌλ‘ μ¬μ©ν μ μμ μ λλ€. MSκ° μ€νμ€-λΉνΈλ·μ λμ€μκ² λ¬΄λ£λ‘ 곡κ°ν¨μΌλ‘μ¨ μ£μ§ AI λ°λ체 μμ₯μμμ μ
λ²λ 볡μ‘ν΄μ‘λ€. μ΄ κΈ°μ μ μ νμ©νλ©΄ μ€λ§νΈν° μμ€μ κΈ°κΈ°μμ 30B λͺ¨λΈμ μ체μ μΌλ‘ μ΄μ©ν μ μκ³ , λ μμ μΉ©μμλ 7~10B λͺ¨λΈμ μ΄μ©ν μ μλ€. μλ§AIλ λ¬Όλ‘ νμ»΄, μΈν
, AMD, ν€μΌλ‘ λ± CPU/NPU κΈ°λ° AI λ°λ체 κΈ°μ
λ€μ΄ μ΄λ₯Ό νμ©νμ§ μμΌλ©΄ μμ₯μμ λ€μ²μ§ μν©μ΄ λ κ²μ΄λ€. κ²°κ΅ μ΄λ² νλ ₯μ λ
Ένμ μλ§AI μμͺ½μκ² λμμ΄ λλ κ²μ΄κΈ°λ νμ§λ§, AI λ°λ체 κΈ°μ
μ
μ₯μμλ λΉ λ₯Έ AI μμ₯μ μ μνκ³ μμ‘΄νκΈ° μν μ νμ κ°κΉλ€. ITλμ λ¨μν κΈ°μ (sh@itdonga.com)