์ธ๋ผ๋ธ๋ผ์ค ์นฉ์ ์ธ๊ณต์ง๋ฅ ๋ฐ ๋จธ์ ๋ฌ๋ ๋ถ์ผ์์ ํฐ ์ฃผ๋ชฉ์ ๋ฐ๊ณ ์๋ ํ์ ์ ์ธ ๊ธฐ์ ๋ก, ์ด ์นฉ์ ์จ์ดํผ๋ฅผ ํต์งธ๋ก ํ๋์ ์นฉ์ผ๋ก ์ฌ์ฉํ๋ ๋ ํนํ ๊ตฌ์กฐ๋ฅผ ๊ฐ์ง๊ณ ์๋ค. ๋งค์ฐ ๋ฎ์ ์ ํญ์ธ 5nm๋ฅผ ์ด์ฉํ์ฌ, ๊ณ ์ ์ฐ์ฐ๊ณผ ๋๋์ ๋ฐ์ดํฐ๋ฅผ ์ฒ๋ฆฌํ ์ ์๋ ์์คํ ์ ๊ตฌํํ๋ ๋ฐ ์ค์ํ ์ญํ ์ ํ๋ค. ์ด ์์คํ ์ ์์ญ์กฐ ๊ฐ์ ํ๋ผ๋ฏธํฐ๋ฅผ ๊ฐ์ง ๋ํ ์ธ์ด ๋ชจ๋ธ(LLM)์ ํจ์จ์ ์ผ๋ก ์ด์ํ ์ ์๋ ์ฑ๋ฅ์ ์๋ํ๋ค.
์ธ๋ผ๋ธ๋ผ์ค ์นฉ์ 44GB์ SRAM์ ํ์ฌํ๊ณ ์์ผ๋ฉฐ, ์ด๋ฌํ ์คํ์ ๊ธฐ์กด์ ๋ฉ๋ชจ๋ฆฌ ๊ธฐ์ ๊ณผ ๋น๊ตํ์ฌ ์๋ฑํ ์ฑ๋ฅ์ ๋ํ๋ธ๋ค. ์ด ์นฉ ํ๋์ ํฌ๊ธฐ๋ ์จ์ดํผ ํ๋์ ๊ฐ๊ณ , ๊ฐ๊ฒฉ์ ์์ญ์ต์์ ์ด๋ฅผ ๊ฒ์ผ๋ก ์์๋๊ณ ์๋ค. ์ด๋ฐ ๋์ ์ฌ์์ ์นฉ์ด ์์ฅ์ ์ถ์๋๋ฉด์ AI ๋ฐ ๋ฐ์ดํฐ ์ฒ๋ฆฌ ๊ธฐ์ ์ ๋ฏธ์น๋ ์ํฅ์ด ํฌ๊ฒ ์ฆ๊ฐํ ๊ฒ์ผ๋ก ๋ณด์ธ๋ค.
์ธ๋ผ๋ธ๋ผ์ค ์นฉ์ ๊ตฌ์กฐ์ ์ฑ๋ฅ์ ์ธ๊ณต์ง๋ฅ ๋ชจ๋ธ์ ํ์ต ๋ฐ ์ถ๋ก ์๋๋ฅผ ํฌ๊ฒ ํฅ์์ํฌ ์ ์๋ค. ํนํ, OSS 120B ๋ชจ๋ธ๊ณผ ๊ฐ์ ๋๊ท๋ชจ ์ธ์ด ๋ชจ๋ธ์ ์ธ๋ผ๋ธ๋ผ์ค ์นฉ์์ ๋๋ฆด ๊ฒฝ์ฐ, ๊ทธ ์๋๋ ์๋นํ ๋นจ๋ผ์ง ๊ฒ์ผ๋ก ์์๋๋ค. ์ด๋ ํนํ ๋น์ฆ๋์ค ๋ฐ ๊ธฐ์ ํ์ ์ ๊ธ์ ์ ์ธ ์ํฅ์ ๋ฏธ์น ๊ฒ์ด๋ค.
๊ณ ๊ธ ๋ฐ์ดํฐ ์ฒ๋ฆฌ ๋ฅ๋ ฅ๊ณผ ๋๋์ ๋ฉ๋ชจ๋ฆฌ๋ก ์ธํด ์ธ๋ผ๋ธ๋ผ์ค ์นฉ์ ๋ค์ํ ์ดํ๋ฆฌ์ผ์ด์ ์ ํ์ฉ๋ ์ ์๋ค. ์๋ฅผ ๋ค์ด, ์์ฐ์ด ์ฒ๋ฆฌ(NLP) ๋ถ์ผ์์๋ ํ ์คํธ ์์ฑ, ๊ธฐ๊ณ ๋ฒ์ญ, ๊ฐ์ ๋ถ์ ๋ฑ ์ฌ๋ฌ ์ ๋ฌด์์ ััะตะฑะพะฒะฐะฝะธะน๋ฅผ ์ถฉ์กฑ์ํฌ ์ ์๋ค. ์์๋๋ ์๋๋ฆฌ์ค๋ก๋, ๊ธฐ์ ๋ค์ด ์ธ๋ผ๋ธ๋ผ์ค ์นฉ์ ๊ธฐ๋ฐ์ผ๋ก ํ ์๋ฃจ์ ์ ๊ตฌ์ถํ์ฌ ํจ์จ์ฑ์ ๋์ด๊ณ , ์ค์๊ฐ ๋ฐ์ดํฐ ์ฒ๋ฆฌ ๋ฅ๋ ฅ์ ๊ทน๋ํํ๋ ํํ๊ฐ ์์ ๊ฒ์ด๋ค.
๊ธฐ์กด ๊ธฐ์ ๋ฐ ๋ฐฉ๋ฒ๋ก ๊ณผ์ ๋น๊ต์์, ์ธ๋ผ๋ธ๋ผ์ค ์นฉ์ HBM(High Bandwidth Memory) ๋ฐ ์ ํต์ ์ธ GPU์ ๋นํด ๋ฉ๋ชจ๋ฆฌ ๋์ญํญ๊ณผ ์ฒ๋ฆฌ ๋ฅ๋ ฅ์์ ์ฐ์๋ฅผ ์ ํ๊ณ ์๋ค. ํนํ, ๊ณ ์ฉ๋์ SRAM์ ํตํด ๋ฐ์ดํฐ ์ ์ก ์ง์ฐ์ ์ต์ํํ๊ณ , ๋๋์ ํ๋ผ๋ฏธํฐ๋ฅผ ํ ๋ฒ์ ์ฒ๋ฆฌํ ์ ์๋ ์ ์ด ๋งค๋ ฅ์ ์ด๋ค.
์ฅ์ ์ผ๋ก๋ ๋์ ์ฑ๋ฅ ๋ฐ ์ฒ๋ฆฌ ์๋๊ฐ ์์ผ๋ฉฐ, ๋๋์ ๋ฐ์ดํฐ๋ฅผ ์ค์๊ฐ์ผ๋ก ์ฒ๋ฆฌํ ์ ์๋ค๋ ์ ์ด๋ค. ๋ฐ๋ฉด, ๋จ์ ์ผ๋ก๋ ๊ฐ๊ฒฉ์ด ๋์ ์ , ๊ทธ๋ฆฌ๊ณ ์ด๊ธฐ ํฌ์ ๋น์ฉ์ด ํด ์ ์๋ค๋ ์ ์ด ์๋ค. ๋ํ, ์ธ๋ผ๋ธ๋ผ์ค ์นฉ์ด ์์ฅ์์ ์ฑ๊ณต์ ์ผ๋ก ์๋ฆฌ ์ก๊ธฐ ์ํด์๋ ๊ธฐ์ ๋ค์ด ์ด ๊ธฐ์ ์ ์ด๋ป๊ฒ ํ์ฉํ๋์ง์ ๋ํ ์ฐ๊ตฌ์ ํ์์ฑ์ด ํ๋๋์ด์ผ ํ ๊ฒ์ด๋ค.
AI ๊ธฐ์ ์ ๋ฐ์ ์ ๋จ์ํ ๊ณ์ฐ ๋ฅ๋ ฅ์ ํฅ์์ ๊ทธ์น์ง ์๋๋ค. ์ด๋ ์ธ๊ฐ์ ์ถ์ ์ง์ ํฅ์์ํค๊ณ , ์ฌ๋ฌ ์ฐ์ ๋ถ๋ฌธ์์์ ํ์ ์ ๊ฐ์ ธ์ค๋ ์ค์ํ ์ญํ ์ ํ ๊ฒ์ด๋ค. ํฅํ ์ ๋ง์ผ๋ก๋ AI์ ๋ฐ์ ์ด ๋์ฑ ๊ฐ์ํ๋๊ณ , ์ธ๋ผ๋ธ๋ผ์ค ์นฉ๊ณผ ๊ฐ์ ํ์ ๊ธฐ์ ์ด ๋ค์ํ ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๋ ๋ฐ ๋์์ ์ค ๊ฒ์ผ๋ก ๊ธฐ๋๋๋ค. ๊ฒฐ๊ตญ, ์ธ๋ผ๋ธ๋ผ์ค ์นฉ์ AI ํ์ ์ ํต์ฌ ์ฑ๊ณต ์์๊ฐ ๋ ๊ฒ์ด๋ผ๊ณ ํ ์ ์๋ค.
์ด๋ฌํ ๊ธฐ์ ๋ฐ์ ์ ๊ณ ๋ คํ ๋, ์ธ๋ผ๋ธ๋ผ์ค ์นฉ์ AI ๋ฐ ๋จธ์ ๋ฌ๋ ๋ถ์ผ์์ ์๋ก์ด ์งํ์ ์ด์ด์ค ๊ฒ์ผ๋ก ๊ธฐ๋๋๋ฉฐ, ๊ธฐ์ ๋ค์ ์ด๋ฅผ ํตํด ๊ฒฝ์๋ ฅ์ ํฅ์์ํฌ ์ ์๋ ๊ธฐํ๋ฅผ ๊ฐ์ง๊ฒ ๋ ๊ฒ์ด๋ค. AI์ ๊ตญ์ ์ ๊ฒฝ์์ด ๋์ฑ ์น์ดํด์ง๋ ๊ฐ์ด๋ฐ, ์ธ๋ผ๋ธ๋ผ์ค ์นฉ๊ณผ ๊ฐ์ ์ฐจ์ธ๋ ๊ธฐ์ ์ ๋์ ๊ณผ ํ์ฉ์ ํ์๊ฐ ๋ ๊ฒ์ด๋ค. ์ด๋ฅผ ํตํด ๊ธฐ์ ๋ฐ์ ๊ณผ ํจ๊ป ์ฌํ ๋ณํ๊ฐ ๋๋ฐ๋ ๊ฒ์ ๋๋ค.