2026๋…„ 1์›” 19์ผ ์›”์š”์ผ

์„ธ๋ผ๋ธŒ๋ผ์Šค ์นฉ์˜ ํ˜์‹ ์„ฑ๊ณผ ๊ทธ ํ™œ์šฉ ๊ฐ€๋Šฅ์„ฑ

์„ธ๋ผ๋ธŒ๋ผ์Šค ์นฉ์€ ์ธ๊ณต์ง€๋Šฅ ๋ฐ ๋จธ์‹ ๋Ÿฌ๋‹ ๋ถ„์•ผ์—์„œ ํฐ ์ฃผ๋ชฉ์„ ๋ฐ›๊ณ  ์žˆ๋Š” ํ˜์‹ ์ ์ธ ๊ธฐ์ˆ ๋กœ, ์ด ์นฉ์€ ์›จ์ดํผ๋ฅผ ํ†ต์งธ๋กœ ํ•˜๋‚˜์˜ ์นฉ์œผ๋กœ ์‚ฌ์šฉํ•˜๋Š” ๋…ํŠนํ•œ ๊ตฌ์กฐ๋ฅผ ๊ฐ€์ง€๊ณ  ์žˆ๋‹ค. ๋งค์šฐ ๋‚ฎ์€ ์„ ํญ์ธ 5nm๋ฅผ ์ด์šฉํ•˜์—ฌ, ๊ณ ์† ์—ฐ์‚ฐ๊ณผ ๋Œ€๋Ÿ‰์˜ ๋ฐ์ดํ„ฐ๋ฅผ ์ฒ˜๋ฆฌํ•  ์ˆ˜ ์žˆ๋Š” ์‹œ์Šคํ…œ์„ ๊ตฌํ˜„ํ•˜๋Š” ๋ฐ ์ค‘์š”ํ•œ ์—ญํ• ์„ ํ•œ๋‹ค. ์ด ์‹œ์Šคํ…œ์€ ์ˆ˜์‹ญ์กฐ ๊ฐœ์˜ ํŒŒ๋ผ๋ฏธํ„ฐ๋ฅผ ๊ฐ€์ง„ ๋Œ€ํ˜• ์–ธ์–ด ๋ชจ๋ธ(LLM)์„ ํšจ์œจ์ ์œผ๋กœ ์šด์˜ํ•  ์ˆ˜ ์žˆ๋Š” ์„ฑ๋Šฅ์„ ์ž๋ž‘ํ•œ๋‹ค.

์„ธ๋ผ๋ธŒ๋ผ์Šค ์นฉ์€ 44GB์˜ SRAM์„ ํƒ‘์žฌํ•˜๊ณ  ์žˆ์œผ๋ฉฐ, ์ด๋Ÿฌํ•œ ์ŠคํŽ™์€ ๊ธฐ์กด์˜ ๋ฉ”๋ชจ๋ฆฌ ๊ธฐ์ˆ ๊ณผ ๋น„๊ตํ•˜์—ฌ ์›”๋“ฑํ•œ ์„ฑ๋Šฅ์„ ๋‚˜ํƒ€๋‚ธ๋‹ค. ์ด ์นฉ ํ•˜๋‚˜์˜ ํฌ๊ธฐ๋Š” ์›จ์ดํผ ํ•˜๋‚˜์™€ ๊ฐ™๊ณ , ๊ฐ€๊ฒฉ์€ ์ˆ˜์‹ญ์–ต์›์— ์ด๋ฅผ ๊ฒƒ์œผ๋กœ ์˜ˆ์ƒ๋˜๊ณ  ์žˆ๋‹ค. ์ด๋Ÿฐ ๋†’์€ ์‚ฌ์–‘์˜ ์นฉ์ด ์‹œ์žฅ์— ์ถœ์‹œ๋˜๋ฉด์„œ AI ๋ฐ ๋ฐ์ดํ„ฐ ์ฒ˜๋ฆฌ ๊ธฐ์ˆ ์— ๋ฏธ์น˜๋Š” ์˜ํ–ฅ์ด ํฌ๊ฒŒ ์ฆ๊ฐ€ํ•  ๊ฒƒ์œผ๋กœ ๋ณด์ธ๋‹ค.

์„ธ๋ผ๋ธŒ๋ผ์Šค ์นฉ์˜ ๊ตฌ์กฐ์™€ ์„ฑ๋Šฅ์€ ์ธ๊ณต์ง€๋Šฅ ๋ชจ๋ธ์˜ ํ•™์Šต ๋ฐ ์ถ”๋ก  ์†๋„๋ฅผ ํฌ๊ฒŒ ํ–ฅ์ƒ์‹œํ‚ฌ ์ˆ˜ ์žˆ๋‹ค. ํŠนํžˆ, OSS 120B ๋ชจ๋ธ๊ณผ ๊ฐ™์€ ๋Œ€๊ทœ๋ชจ ์–ธ์–ด ๋ชจ๋ธ์„ ์„ธ๋ผ๋ธŒ๋ผ์Šค ์นฉ์—์„œ ๋Œ๋ฆด ๊ฒฝ์šฐ, ๊ทธ ์†๋„๋Š” ์ƒ๋‹นํžˆ ๋นจ๋ผ์งˆ ๊ฒƒ์œผ๋กœ ์˜ˆ์ƒ๋œ๋‹ค. ์ด๋Š” ํŠนํžˆ ๋น„์ฆˆ๋‹ˆ์Šค ๋ฐ ๊ธฐ์ˆ  ํ˜์‹ ์— ๊ธ์ •์ ์ธ ์˜ํ–ฅ์„ ๋ฏธ์น  ๊ฒƒ์ด๋‹ค.

๊ณ ๊ธ‰ ๋ฐ์ดํ„ฐ ์ฒ˜๋ฆฌ ๋Šฅ๋ ฅ๊ณผ ๋Œ€๋Ÿ‰์˜ ๋ฉ”๋ชจ๋ฆฌ๋กœ ์ธํ•ด ์„ธ๋ผ๋ธŒ๋ผ์Šค ์นฉ์€ ๋‹ค์–‘ํ•œ ์–ดํ”Œ๋ฆฌ์ผ€์ด์…˜์— ํ™œ์šฉ๋  ์ˆ˜ ์žˆ๋‹ค. ์˜ˆ๋ฅผ ๋“ค์–ด, ์ž์—ฐ์–ด ์ฒ˜๋ฆฌ(NLP) ๋ถ„์•ผ์—์„œ๋Š” ํ…์ŠคํŠธ ์ƒ์„ฑ, ๊ธฐ๊ณ„ ๋ฒˆ์—ญ, ๊ฐ์ • ๋ถ„์„ ๋“ฑ ์—ฌ๋Ÿฌ ์—…๋ฌด์—์„œ ั‚ั€ะตะฑะพะฒะฐะฝะธะน๋ฅผ ์ถฉ์กฑ์‹œํ‚ฌ ์ˆ˜ ์žˆ๋‹ค. ์˜ˆ์ƒ๋˜๋Š” ์‹œ๋‚˜๋ฆฌ์˜ค๋กœ๋Š”, ๊ธฐ์—…๋“ค์ด ์„ธ๋ผ๋ธŒ๋ผ์Šค ์นฉ์„ ๊ธฐ๋ฐ˜์œผ๋กœ ํ•œ ์†”๋ฃจ์…˜์„ ๊ตฌ์ถ•ํ•˜์—ฌ ํšจ์œจ์„ฑ์„ ๋†’์ด๊ณ , ์‹ค์‹œ๊ฐ„ ๋ฐ์ดํ„ฐ ์ฒ˜๋ฆฌ ๋Šฅ๋ ฅ์„ ๊ทน๋Œ€ํ™”ํ•˜๋Š” ํ˜•ํƒœ๊ฐ€ ์žˆ์„ ๊ฒƒ์ด๋‹ค.

๊ธฐ์กด ๊ธฐ์ˆ  ๋ฐ ๋ฐฉ๋ฒ•๋ก ๊ณผ์˜ ๋น„๊ต์—์„œ, ์„ธ๋ผ๋ธŒ๋ผ์Šค ์นฉ์€ HBM(High Bandwidth Memory) ๋ฐ ์ „ํ†ต์ ์ธ GPU์— ๋น„ํ•ด ๋ฉ”๋ชจ๋ฆฌ ๋Œ€์—ญํญ๊ณผ ์ฒ˜๋ฆฌ ๋Šฅ๋ ฅ์—์„œ ์šฐ์œ„๋ฅผ ์ ํ•˜๊ณ  ์žˆ๋‹ค. ํŠนํžˆ, ๊ณ ์šฉ๋Ÿ‰์˜ SRAM์„ ํ†ตํ•ด ๋ฐ์ดํ„ฐ ์ „์†ก ์ง€์—ฐ์„ ์ตœ์†Œํ™”ํ•˜๊ณ , ๋Œ€๋Ÿ‰์˜ ํŒŒ๋ผ๋ฏธํ„ฐ๋ฅผ ํ•œ ๋ฒˆ์— ์ฒ˜๋ฆฌํ•  ์ˆ˜ ์žˆ๋Š” ์ ์ด ๋งค๋ ฅ์ ์ด๋‹ค.

์žฅ์ ์œผ๋กœ๋Š” ๋†’์€ ์„ฑ๋Šฅ ๋ฐ ์ฒ˜๋ฆฌ ์†๋„๊ฐ€ ์žˆ์œผ๋ฉฐ, ๋Œ€๋Ÿ‰์˜ ๋ฐ์ดํ„ฐ๋ฅผ ์‹ค์‹œ๊ฐ„์œผ๋กœ ์ฒ˜๋ฆฌํ•  ์ˆ˜ ์žˆ๋‹ค๋Š” ์ ์ด๋‹ค. ๋ฐ˜๋ฉด, ๋‹จ์ ์œผ๋กœ๋Š” ๊ฐ€๊ฒฉ์ด ๋†’์€ ์ , ๊ทธ๋ฆฌ๊ณ  ์ดˆ๊ธฐ ํˆฌ์ž ๋น„์šฉ์ด ํด ์ˆ˜ ์žˆ๋‹ค๋Š” ์ ์ด ์žˆ๋‹ค. ๋˜ํ•œ, ์„ธ๋ผ๋ธŒ๋ผ์Šค ์นฉ์ด ์‹œ์žฅ์—์„œ ์„ฑ๊ณต์ ์œผ๋กœ ์ž๋ฆฌ ์žก๊ธฐ ์œ„ํ•ด์„œ๋Š” ๊ธฐ์—…๋“ค์ด ์ด ๊ธฐ์ˆ ์„ ์–ด๋–ป๊ฒŒ ํ™œ์šฉํ•˜๋Š”์ง€์— ๋Œ€ํ•œ ์—ฐ๊ตฌ์™€ ํ•„์š”์„ฑ์ด ํ™•๋Œ€๋˜์–ด์•ผ ํ•  ๊ฒƒ์ด๋‹ค.

AI ๊ธฐ์ˆ ์˜ ๋ฐœ์ „์€ ๋‹จ์ˆœํ•œ ๊ณ„์‚ฐ ๋Šฅ๋ ฅ์˜ ํ–ฅ์ƒ์— ๊ทธ์น˜์ง€ ์•Š๋Š”๋‹ค. ์ด๋Š” ์ธ๊ฐ„์˜ ์‚ถ์˜ ์งˆ์„ ํ–ฅ์ƒ์‹œํ‚ค๊ณ , ์—ฌ๋Ÿฌ ์‚ฐ์—… ๋ถ€๋ฌธ์—์„œ์˜ ํ˜์‹ ์„ ๊ฐ€์ ธ์˜ค๋Š” ์ค‘์š”ํ•œ ์—ญํ• ์„ ํ•  ๊ฒƒ์ด๋‹ค. ํ–ฅํ›„ ์ „๋ง์œผ๋กœ๋Š” AI์˜ ๋ฐœ์ „์ด ๋”์šฑ ๊ฐ€์†ํ™”๋˜๊ณ , ์„ธ๋ผ๋ธŒ๋ผ์Šค ์นฉ๊ณผ ๊ฐ™์€ ํ˜์‹  ๊ธฐ์ˆ ์ด ๋‹ค์–‘ํ•œ ๋ฌธ์ œ๋ฅผ ํ•ด๊ฒฐํ•˜๋Š” ๋ฐ ๋„์›€์„ ์ค„ ๊ฒƒ์œผ๋กœ ๊ธฐ๋Œ€๋œ๋‹ค. ๊ฒฐ๊ตญ, ์„ธ๋ผ๋ธŒ๋ผ์Šค ์นฉ์€ AI ํ˜์‹ ์˜ ํ•ต์‹ฌ ์„ฑ๊ณต ์š”์†Œ๊ฐ€ ๋  ๊ฒƒ์ด๋ผ๊ณ  ํ•  ์ˆ˜ ์žˆ๋‹ค.

์ด๋Ÿฌํ•œ ๊ธฐ์ˆ  ๋ฐœ์ „์„ ๊ณ ๋ คํ•  ๋•Œ, ์„ธ๋ผ๋ธŒ๋ผ์Šค ์นฉ์€ AI ๋ฐ ๋จธ์‹ ๋Ÿฌ๋‹ ๋ถ„์•ผ์—์„œ ์ƒˆ๋กœ์šด ์ง€ํ‰์„ ์—ด์–ด์ค„ ๊ฒƒ์œผ๋กœ ๊ธฐ๋Œ€๋˜๋ฉฐ, ๊ธฐ์—…๋“ค์€ ์ด๋ฅผ ํ†ตํ•ด ๊ฒฝ์Ÿ๋ ฅ์„ ํ–ฅ์ƒ์‹œํ‚ฌ ์ˆ˜ ์žˆ๋Š” ๊ธฐํšŒ๋ฅผ ๊ฐ€์ง€๊ฒŒ ๋  ๊ฒƒ์ด๋‹ค. AI์˜ ๊ตญ์ œ์  ๊ฒฝ์Ÿ์ด ๋”์šฑ ์น˜์—ดํ•ด์ง€๋Š” ๊ฐ€์šด๋ฐ, ์„ธ๋ผ๋ธŒ๋ผ์Šค ์นฉ๊ณผ ๊ฐ™์€ ์ฐจ์„ธ๋Œ€ ๊ธฐ์ˆ ์˜ ๋„์ž…๊ณผ ํ™œ์šฉ์€ ํ•„์ˆ˜๊ฐ€ ๋  ๊ฒƒ์ด๋‹ค. ์ด๋ฅผ ํ†ตํ•ด ๊ธฐ์ˆ  ๋ฐœ์ „๊ณผ ํ•จ๊ป˜ ์‚ฌํšŒ ๋ณ€ํ™”๊ฐ€ ๋™๋ฐ˜๋  ๊ฒƒ์ž…๋‹ˆ๋‹ค.

์ œ๋ชฉ: ์ธ๊ณต์ง€๋Šฅ์˜ ๋ฐœ์ „: ๋ฏธ๋ž˜ ๊ธฐ์ˆ ์ด ๊ฐ€์ ธ์˜ฌ ๋ณ€ํ™”

์ตœ๊ทผ ์ธ๊ณต์ง€๋Šฅ(AI)์˜ ๋ฐœ์ „์€ ์šฐ๋ฆฌ ์‚ฌํšŒ ์ „๋ฐ˜์— ๊ฑธ์ณ ํฐ ๋ณ€ํ™”๋ฅผ ์˜ˆ๊ณ ํ•˜๊ณ  ์žˆ๋‹ค. ํŠนํžˆ GPT-3์™€ ๊ฐ™์€ ๋Œ€ํ˜• ์–ธ์–ด ๋ชจ๋ธ์ด ๋‹ค์–‘ํ•œ ์‚ฐ์—…์—์„œ ํ™œ์šฉ๋˜๊ธฐ ์‹œ์ž‘ํ•˜๋ฉด์„œ ํ•œ์ธต ๋” ์ฃผ๋ชฉ๋ฐ›๊ณ  ์žˆ๋‹ค. ๋ณธ ๋ณด๊ณ ์„œ์—์„œ๋Š” ์ธ๊ณต์ง€๋Šฅ์˜ ํ˜„ํ™ฉ๊ณผ ํ–ฅํ›„ ๋ฐœ์ „ ๋ฐฉํ–ฅ, ๊ทธ๋ฆฌ๊ณ  ์ด์™€ ๊ด€๋ จ...