์• ํ”Œ ์ธํ…”๋ฆฌ์ „์Šค AI ๊ธฐ๋Šฅ ํ™œ์„ฑํ™”๋กœ ๋งค์ผ ์ฒ˜๋ฆฌํ•˜๋Š” ์ด๋ฉ”์ผ ์š”์•ฝ ์‹œ๊ฐ„ 30๋ถ„ ์ค„์ด๊ธฐ ๐Ÿค–

๐Ÿ“‹ ๋ชฉ์ฐจ ๐Ÿค– ์• ํ”Œ ์ธํ…”๋ฆฌ์ „์Šค ์ด๋ฉ”์ผ ์š”์•ฝ์˜ ์ •์˜์™€ ๋ฐฐ๊ฒฝ ๐Ÿ“ฉ ํ•ต์‹ฌ ๊ธฐ๋Šฅ: ์ž๋™ ๋ฏธ๋ฆฌ๋ณด๊ธฐ์™€ ์ƒ์‚ฐ์„ฑ ํ˜์‹  ๐Ÿš€ 2024-2026 ์ตœ์‹  ๋™ํ–ฅ ๋ฐ ๋ฏธ๋ž˜ ์ „๋ง ⚙️ ์‹ค์ „ ํ™œ์šฉ๋ฒ•: ๊ธฐ๊ธฐ๋ณ„ ์„ค์ • ๋ฐ ์ฃผ์˜์‚ฌํ•ญ ๐Ÿง ์ „๋ฌธ๊ฐ€ ์˜๊ฒฌ์œผ๋กœ ๋ณธ ์ด๋ฉ”์ผ ์š”์•ฝ์˜ ๊ฐ€์น˜ ❓ ์ž์ฃผ ๋ฌป๋Š” ์งˆ๋ฌธ (FAQ) ๋งค์ผ ์•„์นจ ์Ÿ์•„์ง€๋Š” ์ˆ˜์‹ญ ํ†ต์˜ ์ด๋ฉ”์ผ ๋•Œ๋ฌธ์— ์—…๋ฌด ์‹œ์ž‘ ์ „๋ถ€ํ„ฐ ํ”ผ๋กœ๊ฐ์„ ๋А๋ผ์‹  ์ ์ด ๋งŽ์œผ์‹œ์ฃ ? ์ด์ œ ์• ํ”Œ ์ธํ…”๋ฆฌ์ „์Šค์˜ ํ˜์‹ ์ ์ธ ์ด๋ฉ”์ผ ์š”์•ฝ ๊ธฐ๋Šฅ์„ ํ†ตํ•ด ๊ทธ ๊ณ ๋ฏผ์„ ๋ง๋”ํžˆ ํ•ด๊ฒฐํ•  ์ˆ˜ ์žˆ์–ด์š”. ๋ณต์žกํ•œ ๋‚ด์šฉ์„ ๋‹จ ๋ช‡ ์ดˆ ๋งŒ์— ์••์ถ•ํ•˜์—ฌ ํ•ต์‹ฌ๋งŒ ์ „๋‹ฌํ•ด ์ฃผ๋Š” ์ด ๊ธฐ๋Šฅ์€ ์—ฌ๋Ÿฌ๋ถ„์˜ ์†Œ์ค‘ํ•œ ์‹œ๊ฐ„์„ ๋งค์ผ 30๋ถ„ ์ด์ƒ ์•„๊ปด์ค„ ์ค€๋น„๊ฐ€ ๋˜์–ด ์žˆ๋‹ต๋‹ˆ๋‹ค. ์ง€๊ธˆ ๋ฐ”๋กœ ํ™•์ธํ•ด ๋ณด์„ธ์š”!

๐Ÿšจ ์—”๋น„๋””์•„ ๋ธ”๋ž™์›ฐ ์•„ํ‚คํ…์ฒ˜ ๋ถ„์„๊ณผ AI ์—ฐ์‚ฐ ์„ฑ๋Šฅ 30๋ฐฐ ํ–ฅ์ƒ ๋ฐ์ดํ„ฐ ์นฉ์˜ ๋น„๋ฐ€ ๐Ÿง 

์ธ๊ณต์ง€๋Šฅ ์‹œ๋Œ€์˜ ํ•ต์‹ฌ ๋™๋ ฅ, ๋ฐ์ดํ„ฐ ์—ฐ์‚ฐ ๋Šฅ๋ ฅ์ด ๋‚˜๋‚ ์ด ์ค‘์š”ํ•ด์ง€๊ณ  ์žˆ์–ด์š”. ์ด๋Ÿฌํ•œ ํ๋ฆ„ ์†์—์„œ ์—”๋น„๋””์•„(NVIDIA)๋Š” ์–ธ์ œ๋‚˜ ํ˜์‹ ์˜ ์„ ๋‘์— ์„œ ์žˆ์—ˆ์ฃ . ํŠนํžˆ ์—”๋น„๋””์•„์˜ ์ตœ์‹  ์•„ํ‚คํ…์ฒ˜์ธ ๋ธ”๋ž™์›ฐ์€ AI ์—ฐ์‚ฐ ์„ฑ๋Šฅ์„ ๋ฌด๋ ค 30๋ฐฐ๋‚˜ ํ–ฅ์ƒ์‹œํ‚ฌ ์ˆ˜ ์žˆ๋Š” ์ž ์žฌ๋ ฅ์„ ๊ฐ€์กŒ๋‹ค๊ณ  ์•Œ๋ ค์ ธ ๋งŽ์€ ์ด๋“ค์˜ ๊ธฐ๋Œ€๋ฅผ ๋ชจ์œผ๊ณ  ์žˆ์–ด์š”.

๐Ÿšจ ์—”๋น„๋””์•„ ๋ธ”๋ž™์›ฐ ์•„ํ‚คํ…์ฒ˜ ๋ถ„์„๊ณผ AI ์—ฐ์‚ฐ ์„ฑ๋Šฅ 30๋ฐฐ ํ–ฅ์ƒ ๋ฐ์ดํ„ฐ ์นฉ์˜ ๋น„๋ฐ€ ๐Ÿง 
๐Ÿšจ ์—”๋น„๋””์•„ ๋ธ”๋ž™์›ฐ ์•„ํ‚คํ…์ฒ˜ ๋ถ„์„๊ณผ AI ์—ฐ์‚ฐ ์„ฑ๋Šฅ 30๋ฐฐ ํ–ฅ์ƒ ๋ฐ์ดํ„ฐ ์นฉ์˜ ๋น„๋ฐ€ ๐Ÿง 

 

์ด ๊ฒฝ์ด๋กœ์šด ์„ฑ๋Šฅ ํ–ฅ์ƒ ๋’ค์—๋Š” ๊ณผ์—ฐ ์–ด๋–ค ๊ธฐ์ˆ ์  ๋น„๋ฐ€์ด ์ˆจ์–ด ์žˆ์„๊นŒ์š”? ๋ธ”๋ž™์›ฐ ์•„ํ‚คํ…์ฒ˜๊ฐ€ ์–ด๋–ป๊ฒŒ ์ฐจ์„ธ๋Œ€ AI ์‹œ๋Œ€๋ฅผ ์ด๋Œ์–ด๊ฐˆ์ง€, ๊ทธ๋ฆฌ๊ณ  ์ด '๋ฐ์ดํ„ฐ ์นฉ'์ด ๊ฐ€์ง„ ์ง„์ •ํ•œ ์˜๋ฏธ๋Š” ๋ฌด์—‡์ธ์ง€ ์ง€๊ธˆ๋ถ€ํ„ฐ ์ž์„ธํžˆ ํŒŒํ—ค์ณ ๋ณผ๊ฒŒ์š”. ์—”๋น„๋””์•„์˜ ๋ธ”๋ž™์›ฐ์ด ์—ด์–ด๊ฐˆ ๋ฏธ๋ž˜ AI์˜ ์„ธ๊ณ„๋กœ ํ•จ๊ป˜ ๋– ๋‚˜๋ด์š”.

 

์—”๋น„๋””์•„ ๋ธ”๋ž™์›ฐ, AI ํ˜๋ช…์˜ ์ƒˆ๋กœ์šด ์‹ฌ์žฅ

์—”๋น„๋””์•„ ๋ธ”๋ž™์›ฐ ์•„ํ‚คํ…์ฒ˜๋Š” ์ธ๊ณต์ง€๋Šฅ ๋ถ„์•ผ์— ์ƒˆ๋กœ์šด ์ง€ํ‰์„ ์—ด ๊ฒƒ์œผ๋กœ ๊ธฐ๋Œ€๋˜๋Š” ํ˜์‹ ์ ์ธ ๊ธฐ์ˆ ์ด์—์š”. ๊ธฐ์กด ํ˜ธํผ(Hopper) ์•„ํ‚คํ…์ฒ˜์˜ ํ›„์†์ž‘์œผ๋กœ, AI ๋ชจ๋ธ์˜ ๊ทœ๋ชจ์™€ ๋ณต์žก์„ฑ์ด ๊ธฐํ•˜๊ธ‰์ˆ˜์ ์œผ๋กœ ์ฆ๊ฐ€ํ•˜๋Š” ํ˜„ ์‹œ์ ์—์„œ ๊ทธ ์ค‘์š”์„ฑ์€ ๋”์šฑ ์ปค์ง€๊ณ  ์žˆ์ฃ . ์—”๋น„๋””์•„๋Š” ์˜ค๋žซ๋™์•ˆ GPU(๊ทธ๋ž˜ํ”ฝ ์ฒ˜๋ฆฌ ์žฅ์น˜)๋ฅผ ๋‹จ์ˆœํ•œ ๊ทธ๋ž˜ํ”ฝ ์ฒ˜๋ฆฌ ์žฅ์น˜๋ฅผ ๋„˜์–ด AI ์—ฐ์‚ฐ์˜ ํ•ต์‹ฌ ๋™๋ ฅ์œผ๋กœ ๋ฐœ์ „์‹œ์ผœ ์™”์–ด์š”. ์ด๋Š” ๋”ฅ๋Ÿฌ๋‹๊ณผ ๋Œ€๊ทœ๋ชจ ์–ธ์–ด ๋ชจ๋ธ(LLM)์˜ ๋“ฑ์žฅ๊ณผ ํ•จ๊ป˜ ์—”๋น„๋””์•„๊ฐ€ AI ์‹œ๋Œ€๋ฅผ ์„ ๋„ํ•˜๋Š” ๊ธฐ์—…์œผ๋กœ ์ž๋ฆฌ๋งค๊น€ํ•˜๊ฒŒ ๋œ ๊ฒฐ์ •์ ์ธ ์ด์œ ์ด๊ธฐ๋„ ํ•ด์š”.

 

๋ธ”๋ž™์›ฐ์€ ์ด๋Ÿฌํ•œ ์—”๋น„๋””์•„์˜ AI ๋ฆฌ๋”์‹ญ์„ ๋”์šฑ ๊ณต๊ณ ํžˆ ํ•  ์ตœ์‹  ๋ฌด๊ธฐ๋ผ๊ณ  ํ•  ์ˆ˜ ์žˆ์–ด์š”. ํŠนํžˆ, AI ์—ฐ์‚ฐ ์ฒ˜๋ฆฌ ์„ฑ๋Šฅ์„ ์ตœ๋Œ€ 30๋ฐฐ๊นŒ์ง€ ํ–ฅ์ƒ์‹œํ‚จ๋‹ค๋Š” ๋ฐœํ‘œ๋Š” ์ „ ์„ธ๊ณ„ ๊ธฐ์ˆ  ์ปค๋ฎค๋‹ˆํ‹ฐ๋ฅผ ๋†€๋ผ๊ฒŒ ํ–ˆ์–ด์š”. ์ด๋Š” ๋‹จ์ˆœํžˆ ๋” ๋น ๋ฅธ ์†๋„๋ฅผ ์˜๋ฏธํ•˜๋Š” ๊ฒƒ์„ ๋„˜์–ด, ๊ธฐ์กด์—๋Š” ์ƒ์ƒํ•˜๊ธฐ ์–ด๋ ค์› ๋˜ ๊ทœ๋ชจ์˜ AI ๋ชจ๋ธ์„ ํ›ˆ๋ จํ•˜๊ณ  ๋ฐฐํฌํ•  ์ˆ˜ ์žˆ๊ฒŒ ํ•ด ์ค„ ์ž ์žฌ๋ ฅ์„ ๊ฐ€์กŒ๋‹ค๋Š” ๋œป์ด๊ธฐ๋„ ํ•˜์ฃ . ๋ธ”๋ž™์›ฐ ์•„ํ‚คํ…์ฒ˜๋Š” ๋ฐ์ดํ„ฐ ์„ผํ„ฐ์˜ ํšจ์œจ์„ฑ์„ ๊ทน๋Œ€ํ™”ํ•˜๊ณ , ๋”์šฑ ๋ณต์žกํ•˜๊ณ  ์ •๊ตํ•œ AI ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜ ๊ฐœ๋ฐœ์˜ ๋ฌธ์„ ์—ด์–ด์ค„ ์ค‘์š”ํ•œ ์ „ํ™˜์ ์ด ๋  ๊ฑฐ์˜ˆ์š”.

 

๊ณผ๊ฑฐ ์—”๋น„๋””์•„ H200 GPU๊ฐ€ AI ์—ฐ์‚ฐ ์ฒ˜๋ฆฌ ์„ฑ๋Šฅ์„ 5๋ฐฐ ํ–ฅ์ƒ์‹œ์ผฐ๋‹ค๋Š” ์†Œ์‹๋งŒ์œผ๋กœ๋„ ํฐ ๋ฐ˜ํ–ฅ์„ ์ผ์œผ์ผฐ๋˜ ๊ฒƒ์„ ์ƒ๊ฐํ•˜๋ฉด, ๋ธ”๋ž™์›ฐ์˜ 30๋ฐฐ ํ–ฅ์ƒ์ด๋ผ๋Š” ์ˆ˜์น˜๋Š” AI ์‚ฐ์—… ์ „์ฒด์— ๋ฏธ์น  ํŒŒ๊ธ‰๋ ฅ์ด ์–ผ๋งˆ๋‚˜ ์—„์ฒญ๋‚ ์ง€ ์ง์ž‘ํ•˜๊ฒŒ ํ•ด์š”. ์ด๋Š” ์ธ๊ณต์ง€๋Šฅ ๊ธฐ์ˆ ์˜ ๋ฐœ์ „ ์†๋„๋ฅผ ํ•œ ๋‹จ๊ณ„ ๋Œ์–ด์˜ฌ๋ฆด ์ด‰๋งค์ œ๊ฐ€ ๋  ๊ฒƒ์ด๋ฉฐ, ์ž์œจ์ฃผํ–‰, ์‹ ์•ฝ ๊ฐœ๋ฐœ, ๊ธฐํ›„ ๋ชจ๋ธ๋ง ๋“ฑ ๋‹ค์–‘ํ•œ ๋ถ„์•ผ์—์„œ ํ˜์‹ ์ ์ธ ๋ณ€ํ™”๋ฅผ ์ด๋Œ์–ด๋‚ผ ๊ฑฐ์˜ˆ์š”. ์—”๋น„๋””์•„์˜ ์„ฑ์žฅ์ด AI์˜ ์‹ฌ์žฅ์ธ GPU์— ๋‹ฌ๋ ค์žˆ๋‹ค๋Š” ๋ง์ด ๋ธ”๋ž™์›ฐ ์‹œ๋Œ€์—๋Š” ๋”์šฑ ๋ช…ํ™•ํ•ด์งˆ ๊ฒƒ์œผ๋กœ ๋ณด์—ฌ์š”. ๋ธ”๋ž™์›ฐ์€ ๋‹จ์ˆœํ•œ ์นฉ์ด ์•„๋‹ˆ๋ผ, ๋ฏธ๋ž˜ AI์˜ ๊ฐ€๋Šฅ์„ฑ์„ ํ™•์žฅ์‹œํ‚ค๋Š” ์ƒˆ๋กœ์šด ์‹ฌ์žฅ์ด๋ผ๊ณ  ๋งํ•  ์ˆ˜ ์žˆ์–ด์š”.

 

์ด๋Ÿฌํ•œ ๊ธฐ์ˆ ์  ์ง„๋ณด๋Š” AI ๋ชจ๋ธ์ด ์ฒ˜๋ฆฌํ•ด์•ผ ํ•  ๋ฐ์ดํ„ฐ์˜ ์–‘๊ณผ ๋ณต์žก๋„๊ฐ€ ๊พธ์ค€ํžˆ ์ฆ๊ฐ€ํ•˜๋Š” ์ถ”์„ธ์™€ ๋งž๋ฌผ๋ ค ๋”์šฑ ๋น›์„ ๋ฐœํ•˜๊ณ  ์žˆ์–ด์š”. ์˜ˆ๋ฅผ ๋“ค์–ด, GPT-3์™€ ๊ฐ™์€ ๊ฑฐ๋Œ€ ์–ธ์–ด ๋ชจ๋ธ์˜ ํ›ˆ๋ จ์—๋Š” ์ˆ˜์ฒœ ๊ฐœ์˜ GPU์™€ ์—„์ฒญ๋‚œ ์ „๋ ฅ์ด ํ•„์š”ํ–ˆ์ฃ . ๋ธ”๋ž™์›ฐ์€ ์ด๋Ÿฌํ•œ ํ›ˆ๋ จ ์‹œ๊ฐ„์„ ๋Œ€ํญ ๋‹จ์ถ•ํ•˜๊ณ , ํ›จ์”ฌ ๋” ํฐ ๊ทœ๋ชจ์˜ ๋ชจ๋ธ์„ ํšจ์œจ์ ์œผ๋กœ ๋‹ค๋ฃฐ ์ˆ˜ ์žˆ๊ฒŒ ํ•ด์ค„ ๊ฑฐ์˜ˆ์š”. ์ด๋Š” AI ์—ฐ๊ตฌ ๊ฐœ๋ฐœ ๋น„์šฉ์„ ์ ˆ๊ฐํ•˜๊ณ , ๋” ๋งŽ์€ ์—ฐ๊ตฌ์ž๋“ค์ด ์ฒจ๋‹จ AI ๊ธฐ์ˆ ์— ์ ‘๊ทผํ•  ์ˆ˜ ์žˆ๋„๋ก ๋•๋Š”๋‹ค๋Š” ์ ์—์„œ ์‚ฌํšŒ์ , ๊ฒฝ์ œ์ ์œผ๋กœ๋„ ํฐ ์˜๋ฏธ๋ฅผ ๊ฐ€์ ธ์š”. ๊ถ๊ทน์ ์œผ๋กœ ๋ธ”๋ž™์›ฐ์€ AI๋ฅผ ๋”์šฑ ๋ณดํŽธ์ ์ด๊ณ  ๊ฐ•๋ ฅํ•œ ๋„๊ตฌ๋กœ ๋งŒ๋“ค ์ค‘์š”ํ•œ ์—ญํ• ์„ ํ•  ๊ฑฐ์˜ˆ์š”.

 

๋ธ”๋ž™์›ฐ ์•„ํ‚คํ…์ฒ˜์˜ ๋“ฑ์žฅ์€ ๋งˆ์น˜ ์‚ฐ์—…ํ˜๋ช… ์‹œ๋Œ€์— ์ฆ๊ธฐ๊ธฐ๊ด€์ด ๋“ฑ์žฅํ–ˆ๋˜ ๊ฒƒ๊ณผ ์œ ์‚ฌํ•œ ์ž„ํŒฉํŠธ๋ฅผ ๊ฐ€์งˆ ์ˆ˜๋„ ์žˆ๋‹ค๊ณ  ์ƒ๊ฐํ•ด์š”. ํŠน์ • ์‚ฐ์—…์— ๊ตญํ•œ๋˜์ง€ ์•Š๊ณ , ์ธ๊ณต์ง€๋Šฅ์ด ํ™œ์šฉ๋˜๋Š” ๋ชจ๋“  ์˜์—ญ์— ๊ฑธ์ณ ์ƒ์‚ฐ์„ฑ๊ณผ ํšจ์œจ์„ฑ์„ ํ˜์‹ ์ ์œผ๋กœ ๋Œ์–ด์˜ฌ๋ฆด ๊ฒƒ์ด๊ธฐ ๋•Œ๋ฌธ์ด์—์š”. ์ปดํ“จํŒ… ํŒŒ์›Œ์˜ ํ•œ๊ณ„๋ฅผ ๋ŒํŒŒํ•˜๋ฉฐ ์ƒˆ๋กœ์šด AI ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜์˜ ๋“ฑ์žฅ์„ ์ด‰์ง„ํ•˜๊ณ , ์ด๋Š” ๋‹ค์‹œ๊ธˆ GPU ์ˆ˜์š”๋ฅผ ๋Š˜๋ฆฌ๋Š” ์„ ์ˆœํ™˜ ๊ตฌ์กฐ๋ฅผ ๋งŒ๋“ค ๊ฑฐ์˜ˆ์š”. ์šฐ๋ฆฌ๋Š” ์ง€๊ธˆ ์—”๋น„๋””์•„ ๋ธ”๋ž™์›ฐ์ด ์ฃผ๋„ํ•  ์ƒˆ๋กœ์šด AI ์‹œ๋Œ€์˜ ๋ฌธํ„ฑ์— ์„œ ์žˆ๋Š” ์…ˆ์ด์—์š”.

 

๋ธ”๋ž™์›ฐ๊ณผ ํ˜ธํผ GPU ๋น„๊ต

ํŠน์ง• ํ˜ธํผ ์•„ํ‚คํ…์ฒ˜ (์˜ˆ: H100) ๋ธ”๋ž™์›ฐ ์•„ํ‚คํ…์ฒ˜ (์˜ˆ: GB200)
AI ์—ฐ์‚ฐ ์„ฑ๋Šฅ ํ–ฅ์ƒ (์„ธ๋Œ€ ๋Œ€๋น„) ์•ฝ 3~5๋ฐฐ (A100 ๋Œ€๋น„) ์ตœ๋Œ€ 30๋ฐฐ (ํ›ˆ๋ จ/์ถ”๋ก  ํŠน์ • ์›Œํฌ๋กœ๋“œ)
์ฃผ์š” ํ˜์‹  ํŠธ๋žœ์Šคํฌ๋จธ ์—”์ง„ (1์„ธ๋Œ€), NVLink (4์„ธ๋Œ€) ํŠธ๋žœ์Šคํฌ๋จธ ์—”์ง„ (2์„ธ๋Œ€), NVLink (5์„ธ๋Œ€), ์นฉ๋ › ์„ค๊ณ„
๋ฉ”๋ชจ๋ฆฌ ๊ธฐ์ˆ  HBM3 HBM3e
๋ฉ€ํ‹ฐ GPU ์—ฐ๊ฒฐ ๋‹จ์ผ GPU ๊ฐ„ ์ƒํ˜ธ ์—ฐ๊ฒฐ ๋‘ ๊ฐœ์˜ GPU ๋‹ค์ด ๊ฒฐํ•ฉ (GB200 Superchip)

 

๋ธ”๋ž™์›ฐ ์•„ํ‚คํ…์ฒ˜ ํ•ต์‹ฌ ๊ธฐ์ˆ  ๋ถ„์„

์—”๋น„๋””์•„ ๋ธ”๋ž™์›ฐ ์•„ํ‚คํ…์ฒ˜์˜ ํ•ต์‹ฌ์€ ๋‹จ์ˆœํžˆ ์นฉ ํ•˜๋‚˜์˜ ์„ฑ๋Šฅ ํ–ฅ์ƒ์— ๊ทธ์น˜์ง€ ์•Š์•„์š”. ์ด๋Š” ๋ณตํ•ฉ์ ์ธ ๊ธฐ์ˆ  ํ˜์‹ ์ด ์œ ๊ธฐ์ ์œผ๋กœ ๊ฒฐํ•ฉ๋˜์–ด ์ „๋ก€ ์—†๋Š” AI ์—ฐ์‚ฐ ๋Šฅ๋ ฅ์„ ๊ฐ€๋Šฅํ•˜๊ฒŒ ํ•˜๋Š” ์ด์ฒด์ ์ธ ์„ค๊ณ„๋ผ๊ณ  ํ•  ์ˆ˜ ์žˆ์–ด์š”. ๋ธ”๋ž™์›ฐ์˜ ๊ฐ€์žฅ ๋ˆˆ์— ๋„๋Š” ํŠน์ง• ์ค‘ ํ•˜๋‚˜๋Š” ์นฉ๋ ›(Chiplet) ๋””์ž์ธ์˜ ๋„์ž…์ด์—์š”. ๊ธฐ์กด์—๋Š” ํ•˜๋‚˜์˜ ๊ฑฐ๋Œ€ํ•œ ์‹ค๋ฆฌ์ฝ˜ ๋‹ค์ด์— ๋ชจ๋“  ๊ธฐ๋Šฅ์„ ์ง‘์ ํ•˜๋ ค ํ–ˆ์ง€๋งŒ, ๋ธ”๋ž™์›ฐ์€ ๋‘ ๊ฐœ์˜ GPU ๋‹ค์ด๋ฅผ ํ•˜๋‚˜์˜ ๊ฐ•๋ ฅํ•œ ์Šˆํผ์นฉ์œผ๋กœ ์—ฐ๊ฒฐํ•˜์—ฌ ํšจ์œจ์„ฑ๊ณผ ์ƒ์‚ฐ์„ฑ์„ ๊ทน๋Œ€ํ™”ํ–ˆ์–ด์š”. ์ด GB200 ์Šˆํผ์นฉ์€ ์—”๋น„๋””์•„์˜ ๊ณ ๊ธ‰ ํŒจํ‚ค์ง• ๊ธฐ์ˆ ์ธ CoWoS(Chip-on-Wafer-on-Substrate)์™€ ํ•จ๊ป˜ ์ž‘๋™ํ•˜๋ฉฐ, ์ดˆ๊ณ ์† ํ†ต์‹  ๋Œ€์—ญํญ์„ ์ œ๊ณตํ•˜์ฃ .

 

๋ธ”๋ž™์›ฐ์˜ ์„ฑ๋Šฅ์„ ์ขŒ์šฐํ•˜๋Š” ๋˜ ๋‹ค๋ฅธ ํ•ต์‹ฌ ์š”์†Œ๋Š” 5์„ธ๋Œ€ NVLink ๊ธฐ์ˆ ์ด์—์š”. NVLink๋Š” GPU ๊ฐ„์˜ ์ดˆ๊ณ ์† ํ†ต์‹ ์„ ๊ฐ€๋Šฅํ•˜๊ฒŒ ํ•˜๋Š” ์—”๋น„๋””์•„์˜ ๋…์  ์ธํ„ฐ์ปค๋„ฅํŠธ ๊ธฐ์ˆ ์ธ๋ฐ, 5์„ธ๋Œ€ NVLink๋Š” ์ด์ „ ์„ธ๋Œ€๋ณด๋‹ค ํ›จ์”ฌ ๋” ๋น ๋ฅธ ๋ฐ์ดํ„ฐ ์ „์†ก ์†๋„๋ฅผ ์ž๋ž‘ํ•ด์š”. ์ด ๊ธฐ์ˆ  ๋•๋ถ„์— ์ˆ˜๋ฐฑ, ์ˆ˜์ฒœ ๊ฐœ์˜ GPU๋ฅผ ๋งˆ์น˜ ํ•˜๋‚˜์˜ ๊ฑฐ๋Œ€ํ•œ GPU์ฒ˜๋Ÿผ ์ž‘๋™์‹œํ‚ฌ ์ˆ˜ ์žˆ๊ฒŒ ๋˜์–ด, ๊ฑฐ๋Œ€ AI ๋ชจ๋ธ ํ›ˆ๋ จ์— ํ•„์ˆ˜์ ์ธ ๋ณ‘๋ ฌ ์ฒ˜๋ฆฌ ๋Šฅ๋ ฅ์„ ๊ทน๋Œ€ํ™”ํ•  ์ˆ˜ ์žˆ์–ด์š”. ์ด๋Š” ๋ฐ์ดํ„ฐ ๋ณ‘๋ชฉ ํ˜„์ƒ์„ ์ตœ์†Œํ™”ํ•˜๊ณ , AI ๋ชจ๋ธ์ด ํ•„์š”ํ•œ ๋ฐ์ดํ„ฐ๋ฅผ ์‹ ์†ํ•˜๊ฒŒ ์ฃผ๊ณ ๋ฐ›์„ ์ˆ˜ ์žˆ๋„๋ก ๋„์™€ ๊ถ๊ทน์ ์œผ๋กœ ์—ฐ์‚ฐ ํšจ์œจ์„ฑ์„ ๋†’์ด๋Š” ๋ฐ ๊ธฐ์—ฌํ•ด์š”.

 

๋˜ํ•œ ๋ธ”๋ž™์›ฐ์€ 2์„ธ๋Œ€ ํŠธ๋žœ์Šคํฌ๋จธ ์—”์ง„(Transformer Engine)์„ ํƒ‘์žฌํ•˜๊ณ  ์žˆ์–ด์š”. ํŠธ๋žœ์Šคํฌ๋จธ ์•„ํ‚คํ…์ฒ˜๋Š” ์ตœ๊ทผ ๋Œ€๊ทœ๋ชจ ์–ธ์–ด ๋ชจ๋ธ์„ ๋น„๋กฏํ•œ ์—ฌ๋Ÿฌ AI ๋ถ„์•ผ์—์„œ ํ‘œ์ค€์œผ๋กœ ์ž๋ฆฌ ์žก์•˜๋Š”๋ฐ, ์—”๋น„๋””์•„์˜ ํŠธ๋žœ์Šคํฌ๋จธ ์—”์ง„์€ ์ด๋Ÿฌํ•œ ๋ชจ๋ธ์˜ ํ›ˆ๋ จ๊ณผ ์ถ”๋ก ์„ ๊ฐ€์†ํ™”ํ•˜๊ธฐ ์œ„ํ•ด ํŠน๋ณ„ํžˆ ์„ค๊ณ„๋œ ๋ถ€๋ถ„์ด์—์š”. 2์„ธ๋Œ€ ์—”์ง„์€ ์ •๋ฐ€๋„๋ฅผ ์ž๋™์œผ๋กœ ์กฐ์ ˆํ•˜๋Š” ์ƒˆ๋กœ์šด ๊ธฐ์ˆ ์„ ํฌํ•จํ•˜์—ฌ, FP8 ๋ฐ FP4์™€ ๊ฐ™์€ ์ €์ •๋ฐ€๋„ ์—ฐ์‚ฐ์„ ๋”์šฑ ํšจ์œจ์ ์œผ๋กœ ์ฒ˜๋ฆฌํ•˜๋ฉด์„œ๋„ ๋ชจ๋ธ์˜ ์ •ํ™•๋„๋ฅผ ์œ ์ง€ํ•  ์ˆ˜ ์žˆ๊ฒŒ ํ•ด์š”. ์ด๋Š” ๋ฉ”๋ชจ๋ฆฌ ์‚ฌ์šฉ๋Ÿ‰์„ ์ค„์ด๊ณ , ์ „๋ ฅ ํšจ์œจ์„ ๋†’์—ฌ ๋Œ€๊ทœ๋ชจ AI ์›Œํฌ๋กœ๋“œ๋ฅผ ๊ฒฝ์ œ์ ์œผ๋กœ ์šด์˜ํ•  ์ˆ˜ ์žˆ๋„๋ก ๋•๋Š” ์•„์ฃผ ์ค‘์š”ํ•œ ๋ฐœ์ „์ด์—์š”.

 

๋ธ”๋ž™์›ฐ ์•„ํ‚คํ…์ฒ˜๋Š” ์ƒˆ๋กœ์šด Tensor Cores๋„ ํฌํ•จํ•˜๊ณ  ์žˆ์–ด์š”. Tensor Cores๋Š” AI ์—ฐ์‚ฐ์— ํŠนํ™”๋œ ํ”„๋กœ์„ธ์‹ฑ ์œ ๋‹›์œผ๋กœ, ํ–‰๋ ฌ ๊ณฑ์…ˆ๊ณผ ๊ฐ™์€ ํ•ต์‹ฌ ๋”ฅ๋Ÿฌ๋‹ ์—ฐ์‚ฐ์„ ๋งค์šฐ ๋น ๋ฅด๊ฒŒ ์ˆ˜ํ–‰ํ•˜์ฃ . ๋ธ”๋ž™์›ฐ์— ์ ์šฉ๋œ ์ตœ์‹  Tensor Cores๋Š” ์ด์ „ ์„ธ๋Œ€๋ณด๋‹ค ๋”์šฑ ๊ฐœ์„ ๋œ ์„ฑ๋Šฅ๊ณผ ์œ ์—ฐ์„ฑ์„ ์ œ๊ณตํ•˜๋ฉฐ, ๋‹ค์–‘ํ•œ ๋ฐ์ดํ„ฐ ํƒ€์ž…์— ๋Œ€ํ•œ ์ง€์›์„ ๊ฐ•ํ™”ํ•˜์—ฌ ๊ด‘๋ฒ”์œ„ํ•œ AI ๋ชจ๋ธ์— ์ตœ์ ํ™”๋œ ์—ฐ์‚ฐ ํ™˜๊ฒฝ์„ ์ œ๊ณตํ•ด์š”. ์ด๋Ÿฌํ•œ ํ•˜๋“œ์›จ์–ด์  ์ตœ์ ํ™”๋Š” AI ๋ชจ๋ธ์˜ ํ›ˆ๋ จ ์†๋„๋ฅผ ํš๊ธฐ์ ์œผ๋กœ ๋‹จ์ถ•์‹œํ‚ค๊ณ , ๋ณต์žกํ•œ ์ถ”๋ก  ์ž‘์—…์„ ์‹ค์‹œ๊ฐ„์œผ๋กœ ์ฒ˜๋ฆฌํ•  ์ˆ˜ ์žˆ๋„๋ก ํ•ด ์ค„ ๊ฑฐ์˜ˆ์š”.

 

๋งˆ์ง€๋ง‰์œผ๋กœ, ๋ธ”๋ž™์›ฐ์€ ๋ฐ์ดํ„ฐ ์ฒ˜๋ฆฌ ์ „์šฉ ๋ช…๋ น์–ด(DPX instructions)์™€ ๊ฐ•ํ™”๋œ ์‹ ๋ขฐ์„ฑ ๊ธฐ๋Šฅ์„ ๊ฐ–์ถ”๊ณ  ์žˆ์–ด์š”. AI ์›Œํฌ๋กœ๋“œ๋Š” ๋‹จ์ˆœํžˆ ์—ฐ์‚ฐ๋ฟ๋งŒ ์•„๋‹ˆ๋ผ ๋Œ€๋Ÿ‰์˜ ๋ฐ์ดํ„ฐ๋ฅผ ํšจ์œจ์ ์œผ๋กœ ์ด๋™ํ•˜๊ณ  ๊ด€๋ฆฌํ•˜๋Š” ๊ฒƒ์ด ์ค‘์š”ํ•ด์š”. DPX ๋ช…๋ น์–ด๋Š” ์ด๋Ÿฌํ•œ ๋ฐ์ดํ„ฐ ์ „์ฒ˜๋ฆฌ ๋ฐ ํ›„์ฒ˜๋ฆฌ ๊ณผ์ •์„ ๊ฐ€์†ํ™”ํ•˜์—ฌ ์ „์ฒด AI ํŒŒ์ดํ”„๋ผ์ธ์˜ ๋ณ‘๋ชฉ ํ˜„์ƒ์„ ์ค„์—ฌ์ค˜์š”. ๋˜ํ•œ, AI ๋ชจ๋ธ์˜ ๊ทœ๋ชจ๊ฐ€ ์ปค์งˆ์ˆ˜๋ก ์นฉ์˜ ์˜ค๋ฅ˜๊ฐ€ ์ „์ฒด ์‹œ์Šคํ…œ์— ๋ฏธ์น˜๋Š” ์˜ํ–ฅ์ด ์ปค์ง€๋Š”๋ฐ, ๋ธ”๋ž™์›ฐ์€ ๊ฐ•๋ ฅํ•œ ์˜ค๋ฅ˜ ๊ฐ์ง€ ๋ฐ ๋ณต๊ตฌ ๊ธฐ๋Šฅ์„ ํ†ตํ•ด ์žฅ์‹œ๊ฐ„ ๊ณ ๋ถ€ํ•˜ AI ํ›ˆ๋ จ ์ž‘์—…์—์„œ๋„ ๋†’์€ ์•ˆ์ •์„ฑ์„ ์œ ์ง€ํ•˜๋„๋ก ์„ค๊ณ„๋˜์—ˆ์–ด์š”. ์ด๋Ÿฌํ•œ ๊ธฐ์ˆ ์  ์š”์†Œ๋“ค์ด ๋ณตํ•ฉ์ ์œผ๋กœ ์ž‘์šฉํ•˜์—ฌ ๋ธ”๋ž™์›ฐ์€ AI ์—ฐ์‚ฐ ์„ฑ๋Šฅ์—์„œ ๋…๋ณด์ ์ธ ์œ„์น˜๋ฅผ ์ฐจ์ง€ํ•˜๊ฒŒ ๋˜๋Š” ๊ฒƒ์ด์ฃ .

 

๋ธ”๋ž™์›ฐ ์•„ํ‚คํ…์ฒ˜ ์ฃผ์š” ๊ธฐ์ˆ 

๊ธฐ์ˆ  ์š”์†Œ ํŠน์ง• ๋ฐ ์—ญํ• 
์นฉ๋ › ๋””์ž์ธ & CoWoS ๋‘ ๊ฐœ์˜ GPU ๋‹ค์ด๋ฅผ ํ•˜๋‚˜์˜ ์Šˆํผ์นฉ์œผ๋กœ ๊ฒฐํ•ฉ, ํšจ์œจ์„ฑ ๋ฐ ์„ฑ๋Šฅ ๊ทน๋Œ€ํ™”
5์„ธ๋Œ€ NVLink ์ดˆ๊ณ ์† GPU ๊ฐ„ ํ†ต์‹ , ๋Œ€๊ทœ๋ชจ AI ๋ชจ๋ธ ๋ณ‘๋ ฌ ์ฒ˜๋ฆฌ ๊ฐ€์†ํ™”
2์„ธ๋Œ€ ํŠธ๋žœ์Šคํฌ๋จธ ์—”์ง„ LLM ํ›ˆ๋ จ/์ถ”๋ก  ๊ฐ€์†, ์ €์ •๋ฐ€๋„ ์—ฐ์‚ฐ ํšจ์œจ์„ฑ ํ–ฅ์ƒ ๋ฐ ์ •ํ™•๋„ ์œ ์ง€
ํ–ฅ์ƒ๋œ Tensor Cores AI ์—ฐ์‚ฐ ํŠนํ™” ์œ ๋‹›, ๋”ฅ๋Ÿฌ๋‹ ์—ฐ์‚ฐ ๊ณ ์† ์ฒ˜๋ฆฌ ๋ฐ ์œ ์—ฐ์„ฑ ์ฆ๋Œ€
HBM3e ๋ฉ”๋ชจ๋ฆฌ ์ดˆ๊ณ ๋Œ€์—ญํญ ๋ฉ”๋ชจ๋ฆฌ, ๋Œ€๊ทœ๋ชจ ๋ฐ์ดํ„ฐ์…‹ ์ฒ˜๋ฆฌ ์†๋„ ํ–ฅ์ƒ

 

30๋ฐฐ ์„ฑ๋Šฅ ํ–ฅ์ƒ์˜ ๋น„๋ฐ€: ๋ฐ์ดํ„ฐ ์นฉ ํ˜์‹ 

๋ธ”๋ž™์›ฐ ์•„ํ‚คํ…์ฒ˜๊ฐ€ ์ž๋ž‘ํ•˜๋Š” ์ตœ๋Œ€ 30๋ฐฐ์˜ AI ์—ฐ์‚ฐ ์„ฑ๋Šฅ ํ–ฅ์ƒ์€ ๋‹จ์ˆœํžˆ CPU์˜ ํด๋Ÿญ ์†๋„๋ฅผ ๋†’์ด๊ฑฐ๋‚˜ ์ฝ”์–ด ์ˆ˜๋ฅผ ๋Š˜๋ฆฌ๋Š” ๊ฒƒ๋งŒ์œผ๋กœ๋Š” ์„ค๋ช…ํ•˜๊ธฐ ์–ด๋ ค์›Œ์š”. ์ด ๋†€๋ผ์šด ์ˆ˜์น˜ ๋’ค์—๋Š” ‘๋ฐ์ดํ„ฐ ์นฉ’์ด๋ผ๋Š” ๊ฐœ๋…์œผ๋กœ ํ†ต์นญ๋˜๋Š” ์—”๋น„๋””์•„์˜ ๊ทผ๋ณธ์ ์ธ ์ ‘๊ทผ ๋ฐฉ์‹ ๋ณ€ํ™”์™€ ํ˜์‹ ์ ์ธ ํ†ตํ•ฉ ์„ค๊ณ„๊ฐ€ ์ˆจ์–ด ์žˆ์–ด์š”. ์—ฌ๊ธฐ์„œ ๋ฐ์ดํ„ฐ ์นฉ์€ ๋‹จ์ˆœํ•œ GPU๋ฅผ ๋„˜์–ด, ๋ฐ์ดํ„ฐ์˜ ์ƒ์„ฑ๋ถ€ํ„ฐ ์ฒ˜๋ฆฌ, ์ €์žฅ, ์ด๋™์— ์ด๋ฅด๋Š” ๋ชจ๋“  ๊ณผ์ •์„ ์ตœ์ ํ™”ํ•˜๋Š” ํ†ตํ•ฉ ์ปดํ“จํŒ… ํ”Œ๋žซํผ์˜ ์ผํ™˜์œผ๋กœ ๋ด์•ผ ํ•ด์š”. ์ฆ‰, ๋ธ”๋ž™์›ฐ์€ ์—ฐ์‚ฐ ์œ ๋‹› ์ž์ฒด์˜ ๊ฐ•ํ™”๋ฟ๋งŒ ์•„๋‹ˆ๋ผ ๋ฐ์ดํ„ฐ๊ฐ€ ํ˜๋Ÿฌ๊ฐ€๋Š” ๋ชจ๋“  ๊ฒฝ๋กœ๋ฅผ ํ˜์‹ ์ ์œผ๋กœ ๊ฐœ์„ ํ•œ ๊ฒฐ๊ณผ๋ฌผ์ด๋ผ๊ณ  ํ•  ์ˆ˜ ์žˆ์–ด์š”.

 

๊ฐ€์žฅ ์ค‘์š”ํ•œ ๋น„๋ฐ€ ์ค‘ ํ•˜๋‚˜๋Š” ๋ฐ”๋กœ HBM3e (High Bandwidth Memory 3e) ๋ฉ”๋ชจ๋ฆฌ์˜ ํƒ‘์žฌ์˜ˆ์š”. HBM3e๋Š” ๊ธฐ์กด HBM3๋ณด๋‹ค ํ›จ์”ฌ ๋” ๋†’์€ ๋Œ€์—ญํญ์„ ์ œ๊ณตํ•˜์—ฌ, GPU ์ฝ”์–ด๊ฐ€ ๋ฐ์ดํ„ฐ๋ฅผ ๊ธฐ๋‹ค๋ฆฌ๋Š” ์‹œ๊ฐ„์„ ์ตœ์†Œํ™”ํ•ด์š”. ๋Œ€๊ทœ๋ชจ AI ๋ชจ๋ธ์€ ์ˆ˜๋ฐฑ ๊ธฐ๊ฐ€๋ฐ”์ดํŠธ์—์„œ ์ˆ˜ ํ…Œ๋ผ๋ฐ”์ดํŠธ์— ์ด๋ฅด๋Š” ๋ฐฉ๋Œ€ํ•œ ํŒŒ๋ผ๋ฏธํ„ฐ์™€ ํ™œ์„ฑํ™” ๋ฐ์ดํ„ฐ๋ฅผ ๊ฐ€์ง€๊ณ  ์žˆ๋Š”๋ฐ, ์ด๋Ÿฌํ•œ ๋ฐ์ดํ„ฐ๋ฅผ CPU์—์„œ GPU๋กœ, ํ˜น์€ GPU ๋‚ด๋ถ€์—์„œ ๋น ๋ฅด๊ฒŒ ์ด๋™์‹œํ‚ค๋Š” ๊ฒƒ์ด ์ „์ฒด ์—ฐ์‚ฐ ์†๋„์— ๊ฒฐ์ •์ ์ธ ์˜ํ–ฅ์„ ๋ฏธ์น˜์ฃ . HBM3e๋Š” ์ด ๊ณผ์ •์—์„œ์˜ ๋ณ‘๋ชฉ ํ˜„์ƒ์„ ๋Œ€ํญ ์ค„์—ฌ์ฃผ์–ด, AI ๋ชจ๋ธ ํ›ˆ๋ จ ๋ฐ ์ถ”๋ก  ์‹œ ๋ฐ์ดํ„ฐ ์ ‘๊ทผ ์†๋„๋ฅผ ๊ทน์ ์œผ๋กœ ํ–ฅ์ƒ์‹œํ‚ค๋Š” ๋ฐ ๊ธฐ์—ฌํ•ด์š”.

 

๋˜ํ•œ, 5์„ธ๋Œ€ NVLink์™€ NVLink Switch ๊ธฐ์ˆ ์€ ์—ฌ๋Ÿฌ ๊ฐœ์˜ ๋ธ”๋ž™์›ฐ GPU๋ฅผ ํ•˜๋‚˜์˜ ๊ฑฐ๋Œ€ํ•œ ์‹œ์Šคํ…œ์œผ๋กœ ๋ฌถ์–ด์ฃผ๋Š” ํ•ต์‹ฌ์ด์—์š”. ์ตœ๋Œ€ 576๊ฐœ์˜ GPU๋ฅผ ์—ฎ์–ด ์ดˆ๋‹น 1.8ํ…Œ๋ผ๋ฐ”์ดํŠธ(TB/s)์˜ ์–‘๋ฐฉํ–ฅ ๋Œ€์—ญํญ์œผ๋กœ ํ†ต์‹ ํ•  ์ˆ˜ ์žˆ๊ฒŒ ์„ค๊ณ„๋˜์—ˆ์–ด์š”. ์ด๋Š” ๋ฐ์ดํ„ฐ ์ด๋™์˜ ํšจ์œจ์„ฑ์„ ๊ทน๋Œ€ํ™”ํ•˜์—ฌ, ์ˆ˜์‹ญ์–ต, ์ˆ˜์กฐ ๊ฐœ์˜ ํŒŒ๋ผ๋ฏธํ„ฐ๋ฅผ ๊ฐ€์ง„ ์ดˆ๋Œ€๊ทœ๋ชจ AI ๋ชจ๋ธ์„ ํ›ˆ๋ จํ•  ๋•Œ ๋ฐœ์ƒํ•˜๋Š” ํ†ต์‹  ์˜ค๋ฒ„ํ—ค๋“œ๋ฅผ ์ค„์ด๋Š” ๋ฐ ๊ฒฐ์ •์ ์ธ ์—ญํ• ์„ ํ•ด์š”. ๊ธฐ์กด์˜ ๋„คํŠธ์›Œํฌ ๋ฐฉ์‹์œผ๋กœ๋Š” ๋ถˆ๊ฐ€๋Šฅํ–ˆ๋˜ ๊ทœ๋ชจ์˜ ๋ชจ๋ธ ๋ณ‘๋ ฌ ์ฒ˜๋ฆฌ๊ฐ€ ๊ฐ€๋Šฅํ•ด์ง„ ๊ฒƒ์ด์ฃ . ์ด๋Ÿฌํ•œ ํ†ตํ•ฉ ์‹œ์Šคํ…œ ์•„ํ‚คํ…์ฒ˜๋Š” ๋ธ”๋ž™์›ฐ์˜ '๋ฐ์ดํ„ฐ ์นฉ'์œผ๋กœ์„œ์˜ ๋ฉด๋ชจ๋ฅผ ๊ฐ€์žฅ ์ž˜ ๋ณด์—ฌ์ฃผ๋Š” ๋ถ€๋ถ„์ด์—์š”.

 

๋ธ”๋ž™์›ฐ์€ ๋˜ํ•œ ๋ฐ์ดํ„ฐ ์••์ถ• ๋ฐ ์••์ถ• ํ•ด์ œ์— ํŠนํ™”๋œ ๊ธฐ๋Šฅ์„ ํฌํ•จํ•˜์—ฌ, ๋ฐ์ดํ„ฐ๋ฅผ ์ฃผ๊ณ ๋ฐ›๋Š” ๊ณผ์ •์—์„œ ๋ฐœ์ƒํ•˜๋Š” ๋ถ€๋‹ด์„ ์ค„์—ฌ์ค˜์š”. AI ํ›ˆ๋ จ ๋ฐ์ดํ„ฐ๋Š” ์ข…์ข… ๋งค์šฐ ํฌ๊ณ  ๋ฐ˜๋ณต์ ์ธ ํŒจํ„ด์„ ๊ฐ€์ง€๋Š”๋ฐ, ์ด๋ฅผ ํšจ์œจ์ ์œผ๋กœ ์••์ถ•ํ•˜์—ฌ ์ „์†กํ•˜๊ณ  ํ•„์š”ํ•  ๋•Œ ๋น ๋ฅด๊ฒŒ ์••์ถ• ํ•ด์ œํ•˜๋ฉด ๋ฉ”๋ชจ๋ฆฌ์™€ ๋„คํŠธ์›Œํฌ ๋Œ€์—ญํญ ์‚ฌ์šฉ์„ ์ตœ์ ํ™”ํ•  ์ˆ˜ ์žˆ์–ด์š”. ์ด๋Š” ํŠนํžˆ ๋Œ€๊ทœ๋ชจ ๋ฐ์ดํ„ฐ์…‹์„ ๋‹ค๋ฃจ๋Š” AI ๋ชจ๋ธ์—์„œ ์—ฐ์‚ฐ ์‹œ๊ฐ„์„ ๋‹จ์ถ•ํ•˜๊ณ  ์—๋„ˆ์ง€ ํšจ์œจ์„ ๋†’์ด๋Š” ๋ฐ ํฌ๊ฒŒ ๊ธฐ์—ฌํ•ด์š”. ์ด๋Ÿฌํ•œ ๋ฐ์ดํ„ฐ ๊ด€๋ฆฌ ์ตœ์ ํ™”๋Š” ๊ฒ‰์œผ๋กœ ๋“œ๋Ÿฌ๋‚˜๋Š” ์—ฐ์‚ฐ ์„ฑ๋Šฅ ์ˆ˜์น˜๋งŒํผ์ด๋‚˜ ์ค‘์š”ํ•œ ์ˆจ๊ฒจ์ง„ ๋น„๋ฐ€์ด๋ผ๊ณ  ํ•  ์ˆ˜ ์žˆ์–ด์š”.

 

๊ฒŒ๋‹ค๊ฐ€ ๋ธ”๋ž™์›ฐ์€ AI ๋ชจ๋ธ์˜ ์‹ ๋ขฐ์„ฑ๊ณผ ์ •ํ™•์„ฑ์„ ๋†’์ด๊ธฐ ์œ„ํ•œ RAS(Reliability, Availability, Serviceability) ๊ธฐ๋Šฅ์„ ํฌ๊ฒŒ ๊ฐ•ํ™”ํ–ˆ์–ด์š”. AI ๋ชจ๋ธ์˜ ํ›ˆ๋ จ์€ ์ˆ˜์ผ ๋˜๋Š” ์ˆ˜๊ฐœ์›”์ด ๊ฑธ๋ฆด ์ˆ˜ ์žˆ๊ธฐ ๋•Œ๋ฌธ์—, ์ด ๊ณผ์ •์—์„œ ๋ฐœ์ƒํ•˜๋Š” ์ž‘์€ ์˜ค๋ฅ˜๋„ ์ „์ฒด ํ›ˆ๋ จ์„ ๋ฌดํšจํ™”ํ•  ์ˆ˜ ์žˆ์–ด์š”. ๋ธ”๋ž™์›ฐ์€ ์นฉ ์ˆ˜์ค€์—์„œ ์˜ค๋ฅ˜๋ฅผ ๊ฐ์ง€ํ•˜๊ณ  ๋ณต๊ตฌํ•˜๋Š” ๋ฉ”์ปค๋‹ˆ์ฆ˜์„ ๋‚ด์žฅํ•˜์—ฌ, ์žฅ์‹œ๊ฐ„์˜ ๊ณ ๋ถ€ํ•˜ ์ž‘์—…์—์„œ๋„ ์‹œ์Šคํ…œ์˜ ์•ˆ์ •์„ฑ์„ ์œ ์ง€ํ•˜๊ณ  ๋ฐ์ดํ„ฐ ์†์‹ค์„ ๋ฐฉ์ง€ํ•ด์š”. ์ด๋Š” ๊ฐœ๋ฐœ์ž๋“ค์ด ๋”์šฑ ์•ˆ์‹ฌํ•˜๊ณ  ์ดˆ๋Œ€๊ทœ๋ชจ AI ๋ชจ๋ธ์„ ๋‹ค๋ฃฐ ์ˆ˜ ์žˆ๋„๋ก ๋•๋Š” ์‹ค์งˆ์ ์ธ ์ด์ ์„ ์ œ๊ณตํ•˜๋ฉฐ, 30๋ฐฐ ์„ฑ๋Šฅ ํ–ฅ์ƒ์ด ๋‹จ์ˆœํ•œ ์ด๋ก ์  ์ˆ˜์น˜๊ฐ€ ์•„๋‹ˆ๋ผ ์‹ค์ œ ์šด์˜ ํ™˜๊ฒฝ์—์„œ๋„ ์œ ์˜๋ฏธํ•˜๊ฒŒ ๋ฐœํœ˜๋  ์ˆ˜ ์žˆ๋„๋ก ๋’ท๋ฐ›์นจํ•˜๋Š” ๊ธฐ์ˆ ์  ๊ธฐ๋ฐ˜์ด ๋˜์–ด์š”.

 

๋ธ”๋ž™์›ฐ 30๋ฐฐ ์„ฑ๋Šฅ ํ–ฅ์ƒ ํ•ต์‹ฌ ๊ธฐ์ˆ 

ํ•ต์‹ฌ ์š”์†Œ ์„ฑ๋Šฅ ํ–ฅ์ƒ ๊ธฐ์—ฌ ๋ฐฉ์‹
HBM3e ๋ฉ”๋ชจ๋ฆฌ ์ดˆ๊ณ ์† ๋ฐ์ดํ„ฐ ์ ‘๊ทผ ๋ฐ ์ „์†ก, ๋ฉ”๋ชจ๋ฆฌ ๋ณ‘๋ชฉ ํ˜„์ƒ ํ•ด์†Œ
5์„ธ๋Œ€ NVLink & Switch GPU ๊ฐ„ ์ดˆ๊ณ ์†, ์ €์ง€์—ฐ ํ†ต์‹ , ๋Œ€๊ทœ๋ชจ ๋ถ„์‚ฐ ํ›ˆ๋ จ ํšจ์œจ ๊ทน๋Œ€ํ™”
2์„ธ๋Œ€ ํŠธ๋žœ์Šคํฌ๋จธ ์—”์ง„ LLM ํ›ˆ๋ จ/์ถ”๋ก  ํŠนํ™” ๊ฐ€์†, ํšจ์œจ์ ์ธ ์ €์ •๋ฐ€๋„ ์—ฐ์‚ฐ ์ฒ˜๋ฆฌ
๋ฐ์ดํ„ฐ ์••์ถ•/ํ•ด์ œ ๊ธฐ๋Šฅ ๋„คํŠธ์›Œํฌ ๋ฐ ๋ฉ”๋ชจ๋ฆฌ ๋Œ€์—ญํญ ํšจ์œจ ์ฆ๋Œ€, ๋ฐ์ดํ„ฐ ์ „์†ก ์‹œ๊ฐ„ ๋‹จ์ถ•
RAS (์‹ ๋ขฐ์„ฑ, ๊ฐ€์šฉ์„ฑ, ์„œ๋น„์Šค์„ฑ) ์žฅ์‹œ๊ฐ„ ๊ณ ๋ถ€ํ•˜ AI ์ž‘์—… ์•ˆ์ •์„ฑ ํ™•๋ณด, ์˜ค๋ฅ˜ ๊ฐ์ง€ ๋ฐ ๋ณต๊ตฌ ๊ธฐ๋Šฅ

 

๋ธ”๋ž™์›ฐ์ด ๊ฐ€์ ธ์˜ฌ AI ์‚ฐ์—…์˜ ๋ณ€ํ™”

์—”๋น„๋””์•„ ๋ธ”๋ž™์›ฐ ์•„ํ‚คํ…์ฒ˜์˜ ๋“ฑ์žฅ์€ AI ์‚ฐ์—… ์ „๋ฐ˜์— ๊ฑธ์ณ ํ˜๋ช…์ ์ธ ๋ณ€ํ™”๋ฅผ ๊ฐ€์ ธ์˜ฌ ๊ฑฐ์˜ˆ์š”. ๊ฐ€์žฅ ์ง์ ‘์ ์ธ ์˜ํ–ฅ์€ ๋Œ€๊ทœ๋ชจ ์–ธ์–ด ๋ชจ๋ธ(LLM)๊ณผ ์ƒ์„ฑํ˜• AI ๋ถ„์•ผ์—์„œ ๋‚˜ํƒ€๋‚  ๊ฒƒ์œผ๋กœ ์˜ˆ์ƒ๋ผ์š”. ๋ธ”๋ž™์›ฐ์˜ ์••๋„์ ์ธ ์„ฑ๋Šฅ์€ LLM ํ›ˆ๋ จ ์‹œ๊ฐ„์„ ํš๊ธฐ์ ์œผ๋กœ ๋‹จ์ถ•์‹œํ‚ค๊ณ , ๊ธฐ์กด์—๋Š” ๋ถˆ๊ฐ€๋Šฅํ–ˆ๋˜ ๊ทœ๋ชจ์˜ ๋ชจ๋ธ์„ ๋งŒ๋“ค ์ˆ˜ ์žˆ๊ฒŒ ํ•ด ์ค„ ๊ฑฐ์˜ˆ์š”. ์˜ˆ๋ฅผ ๋“ค์–ด, ์ˆ˜์กฐ ๊ฐœ์˜ ํŒŒ๋ผ๋ฏธํ„ฐ๋ฅผ ๊ฐ€์ง„ ๋ชจ๋ธ์„ ๋”์šฑ ๋น ๋ฅด๊ฒŒ ํ›ˆ๋ จํ•˜๊ณ , ์‹ค์‹œ๊ฐ„์œผ๋กœ ๋ณต์žกํ•œ ์ถ”๋ก ์„ ์ˆ˜ํ–‰ํ•˜์—ฌ ์‚ฌ์šฉ์ž ๊ฒฝํ—˜์„ ๋Œ€ํญ ๊ฐœ์„ ํ•  ์ˆ˜ ์žˆ์ฃ . ์ด๋Š” AI ์ฑ—๋ด‡, ์ฝ˜ํ…์ธ  ์ƒ์„ฑ ๋„๊ตฌ, ๊ทธ๋ฆฌ๊ณ  ๊ฐœ์ธํ™”๋œ AI ๋น„์„œ์˜ ์„ฑ๋Šฅ์„ ํ•œ ๋‹จ๊ณ„ ๋Œ์–ด์˜ฌ๋ฆด ๊ฑฐ์˜ˆ์š”.

 

๋ฐ์ดํ„ฐ ์„ผํ„ฐ ์‚ฐ์—…์—๋„ ํฐ ๋ณ€ํ™”๋ฅผ ๊ฐ€์ ธ์˜ฌ ๊ฒƒ์œผ๋กœ ๋ณด์—ฌ์š”. ๋ธ”๋ž™์›ฐ ๊ธฐ๋ฐ˜์˜ ์‹œ์Šคํ…œ์€ ๊ธฐ์กด๋ณด๋‹ค ํ›จ์”ฌ ์ ์€ ์ˆ˜์˜ GPU๋กœ๋„ ๋™์ผํ•˜๊ฑฐ๋‚˜ ๋” ๋†’์€ ์„ฑ๋Šฅ์„ ์ œ๊ณตํ•  ์ˆ˜ ์žˆ๊ธฐ ๋•Œ๋ฌธ์—, ๋ฐ์ดํ„ฐ ์„ผํ„ฐ์˜ ์ „๋ ฅ ์†Œ๋น„๋Ÿ‰๊ณผ ๊ณต๊ฐ„ ์ ์œ ์œจ์„ ํฌ๊ฒŒ ์ค„์ผ ์ˆ˜ ์žˆ์–ด์š”. ์ด๋Š” AI ์ธํ”„๋ผ ๊ตฌ์ถ• ๋น„์šฉ์„ ์ ˆ๊ฐํ•˜๊ณ , ๋”์šฑ ์ง€์† ๊ฐ€๋Šฅํ•œ AI ์šด์˜ ํ™˜๊ฒฝ์„ ์กฐ์„ฑํ•˜๋Š” ๋ฐ ๊ธฐ์—ฌํ•  ๊ฑฐ์˜ˆ์š”. ํŠนํžˆ, ๊ณ ๋ฐ€๋„ ์ปดํ“จํŒ…์„ ์š”๊ตฌํ•˜๋Š” ํด๋ผ์šฐ๋“œ ์„œ๋น„์Šค ์ œ๊ณต์—…์ฒด๋“ค์—๊ฒŒ๋Š” ๋ธ”๋ž™์›ฐ์ด ๋งค๋ ฅ์ ์ธ ์†”๋ฃจ์…˜์ด ๋  ๊ฒƒ์ด๋ฉฐ, AI ์„œ๋น„์Šค๋ฅผ ๋”์šฑ ๊ด‘๋ฒ”์œ„ํ•˜๊ฒŒ ๋ฐฐํฌํ•  ์ˆ˜ ์žˆ๋Š” ๊ธฐ๋ฐ˜์„ ๋งˆ๋ จํ•ด ์ค„ ๊ฑฐ์˜ˆ์š”.

 

๊ณผํ•™ ์—ฐ๊ตฌ ๋ฐ ๊ฐœ๋ฐœ ๋ถ„์•ผ์—์„œ๋„ ๋ธ”๋ž™์›ฐ์˜ ์˜ํ–ฅ์€ ๋ง‰๋Œ€ํ•  ๊ฑฐ์˜ˆ์š”. ์‹ ์•ฝ ๊ฐœ๋ฐœ, ์žฌ๋ฃŒ ๊ณผํ•™, ๊ธฐํ›„ ๋ณ€ํ™” ๋ชจ๋ธ๋ง๊ณผ ๊ฐ™์€ ๋ถ„์•ผ์—์„œ๋Š” ๋ณต์žกํ•œ ์‹œ๋ฎฌ๋ ˆ์ด์…˜๊ณผ ๋ฐฉ๋Œ€ํ•œ ๋ฐ์ดํ„ฐ ๋ถ„์„์ด ํ•„์ˆ˜์ ์ธ๋ฐ, ๋ธ”๋ž™์›ฐ์€ ์ด๋Ÿฌํ•œ ๊ณ ์„ฑ๋Šฅ ์ปดํ“จํŒ…(HPC) ์›Œํฌ๋กœ๋“œ๋ฅผ ์ „๋ก€ ์—†๋Š” ์†๋„๋กœ ์ฒ˜๋ฆฌํ•  ์ˆ˜ ์žˆ๊ฒŒ ํ•ด ์ค„ ๊ฑฐ์˜ˆ์š”. ์˜ˆ๋ฅผ ๋“ค์–ด, ๋‹จ๋ฐฑ์งˆ ํด๋”ฉ ๋ฌธ์ œ๋ฅผ ํ•ด๊ฒฐํ•˜๊ฑฐ๋‚˜, ์ƒˆ๋กœ์šด ๋ฌผ์งˆ์˜ ํŠน์„ฑ์„ ์˜ˆ์ธกํ•˜๋Š” ๋ฐ ํ•„์š”ํ•œ ๊ณ„์‚ฐ ์‹œ๊ฐ„์„ ๋Œ€ํญ ๋‹จ์ถ•ํ•˜์—ฌ ๊ณผํ•™์  ๋ฐœ๊ฒฌ์„ ๊ฐ€์†ํ™”ํ•  ์ˆ˜ ์žˆ์–ด์š”. ์ด๋Š” ์ธ๋ฅ˜๊ฐ€ ์ง๋ฉดํ•œ ๋‚œ์ œ๋ฅผ ํ•ด๊ฒฐํ•˜๋Š” ๋ฐ AI๊ฐ€ ๋”์šฑ ํ•ต์‹ฌ์ ์ธ ์—ญํ• ์„ ํ•  ์ˆ˜ ์žˆ๋„๋ก ๋•๋Š” ์ค‘์š”ํ•œ ๋ฐœ์ „์ด์—์š”.

 

๋˜ํ•œ, ๋ธ”๋ž™์›ฐ์€ ์ž์œจ์ฃผํ–‰, ๋กœ๋ด‡ ๊ณตํ•™, ์‚ฐ์—… ์ž๋™ํ™”์™€ ๊ฐ™์€ ์—ฃ์ง€(Edge) AI ๋ถ„์•ผ์—๋„ ๊ฐ„์ ‘์ ์ธ ์˜ํ–ฅ์„ ๋ฏธ์น  ๊ฑฐ์˜ˆ์š”. ๋ธ”๋ž™์›ฐ๋กœ ํ›ˆ๋ จ๋œ ๋”์šฑ ์ •๊ตํ•˜๊ณ  ํšจ์œจ์ ์ธ AI ๋ชจ๋ธ์€ ์—ฃ์ง€ ๋””๋ฐ”์ด์Šค์— ์ตœ์ ํ™”๋œ ํ˜•ํƒœ๋กœ ๋ฐฐํฌ๋  ์ˆ˜ ์žˆ์–ด์š”. ์ด๋Š” ์ž์œจ์ฃผํ–‰ ์ฐจ๋Ÿ‰์ด ์ฃผ๋ณ€ ํ™˜๊ฒฝ์„ ๋”์šฑ ์ •ํ™•ํ•˜๊ฒŒ ์ธ์‹ํ•˜๊ณ  ํŒ๋‹จํ•˜๊ฑฐ๋‚˜, ๋กœ๋ด‡์ด ๋ณต์žกํ•œ ์ž‘์—…์„ ๋ณด๋‹ค ๋Šฅ์ˆ™ํ•˜๊ฒŒ ์ˆ˜ํ–‰ํ•˜๋Š” ๋ฐ ํ•„์ˆ˜์ ์ธ ๊ธฐ๋ฐ˜ ๊ธฐ์ˆ ์„ ์ œ๊ณตํ•˜์ฃ . ๋ธ”๋ž™์›ฐ์€ ๊ฐ•๋ ฅํ•œ AI ๋ชจ๋ธ์„ ๊ฐœ๋ฐœํ•˜๋Š” ๋ฐ ํ•„์š”ํ•œ ‘๋‘๋‡Œ’ ์—ญํ• ์„ ํ•˜๋ฉฐ, ์ด ๋‘๋‡Œ๋กœ ํ•™์Šต๋œ ์ง€์‹์ด ์—ฃ์ง€ ํ™˜๊ฒฝ์—์„œ ํ˜„์‹ค ์„ธ๊ณ„์˜ ๋ฌธ์ œ๋ฅผ ํ•ด๊ฒฐํ•˜๋Š” ๋ฐ ์ ์šฉ๋  ๊ฑฐ์˜ˆ์š”.

 

๊ฒฐ๊ณผ์ ์œผ๋กœ ๋ธ”๋ž™์›ฐ์€ AI ๊ธฐ์ˆ ์˜ ๋ฏผ์ฃผํ™”๋ฅผ ๊ฐ€์†ํ™”ํ•  ์ž ์žฌ๋ ฅ์„ ๊ฐ€์ง€๊ณ  ์žˆ์–ด์š”. ๋” ์ ์€ ์ž์›์œผ๋กœ๋„ ๊ฐ•๋ ฅํ•œ AI ๋ชจ๋ธ์„ ํ›ˆ๋ จํ•˜๊ณ  ์šด์˜ํ•  ์ˆ˜ ์žˆ๊ฒŒ ๋˜๋ฉด์„œ, ์ค‘์†Œ๊ธฐ์—…์ด๋‚˜ ์Šคํƒ€ํŠธ์—…๋„ ์ฒจ๋‹จ AI ๊ธฐ์ˆ ์— ๋” ์‰ฝ๊ฒŒ ์ ‘๊ทผํ•  ์ˆ˜ ์žˆ๊ฒŒ ๋  ๊ฑฐ์˜ˆ์š”. ์ด๋Š” AI ์‚ฐ์—…์˜ ๊ฒฝ์Ÿ์„ ์ด‰์ง„ํ•˜๊ณ , ๋”์šฑ ๋‹ค์–‘ํ•˜๊ณ  ํ˜์‹ ์ ์ธ AI ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜์˜ ๋“ฑ์žฅ์„ ์œ ๋„ํ•  ๊ฒƒ์ด๋ฉฐ, ๊ถ๊ทน์ ์œผ๋กœ AI๊ฐ€ ์‚ฌํšŒ ์ „๋ฐ˜์— ๊ฑธ์ณ ๋”์šฑ ํญ๋„“๊ฒŒ ํ™œ์šฉ๋˜๋Š” ๋ฏธ๋ž˜๋ฅผ ์•ž๋‹น๊ธธ ๊ฑฐ์˜ˆ์š”. ๋ธ”๋ž™์›ฐ์€ ๋‹จ์ˆœํ•œ ํ•˜๋“œ์›จ์–ด ์—…๊ทธ๋ ˆ์ด๋“œ๊ฐ€ ์•„๋‹Œ, AI ์‹œ๋Œ€์˜ ํŒจ๋Ÿฌ๋‹ค์ž„์„ ๋ฐ”๊ฟ€ ์ „๋žต์  ์ „ํ™˜์ ์ด ๋  ๊ฒƒ์ด๋ผ๊ณ  ์˜ˆ์ƒํ•ด์š”.

 

๋ธ”๋ž™์›ฐ์ด ๊ฐ€์ ธ์˜ฌ AI ์‚ฐ์—… ๋ณ€ํ™”

์˜ํ–ฅ ๋ถ„์•ผ ์ฃผ์š” ๋ณ€ํ™” ๋‚ด์šฉ
๊ฑฐ๋Œ€ ์–ธ์–ด ๋ชจ๋ธ (LLM) ํ›ˆ๋ จ ์‹œ๊ฐ„ ๋‹จ์ถ•, ๋ชจ๋ธ ๊ทœ๋ชจ ํ™•์žฅ, ์‹ค์‹œ๊ฐ„ ์ถ”๋ก  ์„ฑ๋Šฅ ํ–ฅ์ƒ
๋ฐ์ดํ„ฐ ์„ผํ„ฐ & ํด๋ผ์šฐ๋“œ ์ „๋ ฅ ํšจ์œจ์„ฑ ์ฆ๋Œ€, ๊ณต๊ฐ„ ์ ˆ์•ฝ, AI ์ธํ”„๋ผ ๋น„์šฉ ์ ˆ๊ฐ
๊ณผํ•™ ์—ฐ๊ตฌ (HPC) ๋ณต์žกํ•œ ์‹œ๋ฎฌ๋ ˆ์ด์…˜ ๊ฐ€์†, ์‹ ์•ฝ ๊ฐœ๋ฐœ, ๊ธฐํ›„ ๋ชจ๋ธ๋ง ํ˜์‹ 
์—ฃ์ง€ AI & ์ž์œจ ์‹œ์Šคํ…œ ๊ณ ์„ฑ๋Šฅ ๋ชจ๋ธ ํ•™์Šต ๊ธฐ๋ฐ˜, ์ •๊ตํ•œ ์ž์œจ์ฃผํ–‰ ๋ฐ ๋กœ๋ด‡ ์‹œ์Šคํ…œ ๊ตฌํ˜„
AI ์‚ฐ์—… ์ „๋ฐ˜ AI ๋ฏผ์ฃผํ™” ๊ฐ€์†, ์‹ ๊ทœ ๋น„์ฆˆ๋‹ˆ์Šค ๋ชจ๋ธ ์ฐฝ์ถœ, ๊ฒฝ์Ÿ ์ด‰์ง„

 

๊ฒฝ์Ÿ์‚ฌ ๋Œ€๋น„ ๋ธ”๋ž™์›ฐ์˜ ์ฐจ๋ณ„์ 

AI ์นฉ ์‹œ์žฅ์€ ์—”๋น„๋””์•„๋ฟ๋งŒ ์•„๋‹ˆ๋ผ AMD, ์ธํ…”, ๊ทธ๋ฆฌ๊ณ  ์—ฌ๋Ÿฌ ์Šคํƒ€ํŠธ์—…๋“ค์ด ์น˜์—ดํ•˜๊ฒŒ ๊ฒฝ์Ÿํ•˜๊ณ  ์žˆ๋Š” ๋ถ„์•ผ์˜ˆ์š”. ํ•˜์ง€๋งŒ ์—”๋น„๋””์•„ ๋ธ”๋ž™์›ฐ์€ ๋ช‡ ๊ฐ€์ง€ ํ•ต์‹ฌ์ ์ธ ์ฐจ๋ณ„์ ์„ ํ†ตํ•ด ์ด๋Ÿฌํ•œ ๊ฒฝ์Ÿ ์†์—์„œ๋„ ๋…๋ณด์ ์ธ ์œ„์น˜๋ฅผ ์ฐจ์ง€ํ•˜๊ณ  ์žˆ์–ด์š”. ๊ฐ€์žฅ ํฐ ์ฐจ์ด์ ์€ ๋‹จ์ˆœํžˆ ํ•˜๋“œ์›จ์–ด ์„ฑ๋Šฅ์„ ๋„˜์–ด์„  ์—”๋น„๋””์•„์˜ ํ†ตํ•ฉ์ ์ธ ์ƒํƒœ๊ณ„ ๊ตฌ์ถ• ๋Šฅ๋ ฅ์ด์—์š”. ๋ธ”๋ž™์›ฐ์€ ๊ฐ•๋ ฅํ•œ ํ•˜๋“œ์›จ์–ด๋ฟ๋งŒ ์•„๋‹ˆ๋ผ, CUDA(Compute Unified Device Architecture) ํ”Œ๋žซํผ์„ ์ค‘์‹ฌ์œผ๋กœ ํ•œ ๋ฐฉ๋Œ€ํ•œ ์†Œํ”„ํŠธ์›จ์–ด ์Šคํƒ๊ณผ ๊ฐœ๋ฐœ ๋„๊ตฌ๋“ค์„ ๊ธฐ๋ฐ˜์œผ๋กœ ํ•ด์š”. CUDA๋Š” ์ง€๋‚œ 15๋…„ ์ด์ƒ AI ๊ฐœ๋ฐœ์ž๋“ค์—๊ฒŒ ํ‘œ์ค€์œผ๋กœ ์ž๋ฆฌ ์žก์•„ ์™”์œผ๋ฉฐ, ์ˆ˜๋งŽ์€ ํ”„๋ ˆ์ž„์›Œํฌ์™€ ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ๊ฐ€ ์ด ์œ„์— ๊ตฌ์ถ•๋˜์–ด ์žˆ์ฃ .

 

AMD์˜ Instinct ์‹œ๋ฆฌ์ฆˆ(์˜ˆ: MI300X)๋‚˜ ์ธํ…”์˜ Gaudi ์‹œ๋ฆฌ์ฆˆ(์˜ˆ: Gaudi 3)๋„ AI ์—ฐ์‚ฐ์— ํŠนํ™”๋œ ๊ฐ•๋ ฅํ•œ ์นฉ๋“ค์„ ์ถœ์‹œํ•˜๋ฉฐ ์—”๋น„๋””์•„๋ฅผ ์ถ”๊ฒฉํ•˜๊ณ  ์žˆ์–ด์š”. ์ด๋“ค ์นฉ์€ ํŠน์ • ๋ฒค์น˜๋งˆํฌ์—์„œ๋Š” ์—”๋น„๋””์•„ GPU์™€ ์œ ์‚ฌํ•˜๊ฑฐ๋‚˜ ๋•Œ๋กœ๋Š” ์šฐ์œ„๋ฅผ ๋ณด์ด๋Š” ๊ฒฝ์šฐ๋„ ์žˆ์ง€๋งŒ, ์†Œํ”„ํŠธ์›จ์–ด ํ˜ธํ™˜์„ฑ๊ณผ ๊ฐœ๋ฐœ์ž ์ปค๋ฎค๋‹ˆํ‹ฐ ์ธก๋ฉด์—์„œ๋Š” ์—ฌ์ „ํžˆ ์—”๋น„๋””์•„๊ฐ€ ์••๋„์ ์ธ ์šฐ์œ„๋ฅผ ์ ํ•˜๊ณ  ์žˆ์–ด์š”. ์ƒˆ๋กœ์šด ์•„ํ‚คํ…์ฒ˜๋ฅผ ๊ฐœ๋ฐœํ•˜๋Š” ๊ฒƒ๋„ ์ค‘์š”ํ•˜์ง€๋งŒ, ๊ฐœ๋ฐœ์ž๋“ค์ด ์ต์ˆ™ํ•˜๊ฒŒ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ๋Š” ํ™˜๊ฒฝ์„ ์ œ๊ณตํ•˜๋Š” ๊ฒƒ์€ AI ์ƒํƒœ๊ณ„์—์„œ ๋งค์šฐ ์ค‘์š”ํ•œ ์š”์†Œ์˜ˆ์š”. ๋ธ”๋ž™์›ฐ์€ ์ด๋Ÿฌํ•œ ์—”๋น„๋””์•„์˜ ๊ฐ•๋ ฅํ•œ ์†Œํ”„ํŠธ์›จ์–ด ์šฐ์œ„๋ฅผ ๋”์šฑ ๊ฐ•ํ™”ํ•˜๋ฉฐ, ๊ฐœ๋ฐœ์ž๋“ค์ด ๋น ๋ฅด๊ฒŒ ์ƒˆ๋กœ์šด ํ•˜๋“œ์›จ์–ด์˜ ์„ฑ๋Šฅ์„ ํ™œ์šฉํ•  ์ˆ˜ ์žˆ๋„๋ก ๋•๋Š” ์—ญํ• ์„ ํ•  ๊ฑฐ์˜ˆ์š”.

 

๋˜ ๋‹ค๋ฅธ ์ค‘์š”ํ•œ ์ฐจ๋ณ„์ ์€ ์—”๋น„๋””์•„์˜ ์‹œ์Šคํ…œ ์ˆ˜์ค€ ์ ‘๊ทผ ๋ฐฉ์‹์ด์—์š”. ๋ธ”๋ž™์›ฐ์€ ๋‹จ์ˆœํžˆ GPU ์นฉ์„ ๋„˜์–ด, GB200 NVL72์™€ ๊ฐ™์€ ์Šˆํผ์ปดํ“จํŒ… ํ”Œ๋žซํผ์˜ ํ•ต์‹ฌ ๊ตฌ์„ฑ ์š”์†Œ๋กœ ์„ค๊ณ„๋˜์—ˆ์–ด์š”. ์ด๋Š” ์ˆ˜์‹ญ ๊ฐœ์˜ GPU๋ฅผ ํ•˜๋‚˜์˜ ๊ฑฐ๋Œ€ํ•œ ์‹œ์Šคํ…œ์œผ๋กœ ํ†ตํ•ฉํ•˜์—ฌ, ๋‹จ์ผ ์นฉ์˜ ์„ฑ๋Šฅ์„ ๋›ฐ์–ด๋„˜๋Š” ์ดˆ๊ฑฐ๋Œ€ AI ๋ชจ๋ธ ํ›ˆ๋ จ์„ ๊ฐ€๋Šฅํ•˜๊ฒŒ ํ•˜์ฃ . ๊ฒฝ์Ÿ์‚ฌ๋“ค๋„ ๋ฉ€ํ‹ฐ ์นฉ ์†”๋ฃจ์…˜์„ ์ œ๊ณตํ•˜์ง€๋งŒ, ์—”๋น„๋””์•„๋งŒํผ ๊ธด๋ฐ€ํ•˜๊ฒŒ ํ†ตํ•ฉ๋˜๊ณ  ์ตœ์ ํ™”๋œ ํ•˜๋“œ์›จ์–ด์™€ ์†Œํ”„ํŠธ์›จ์–ด ์Šคํƒ์„ ์ œ๊ณตํ•˜๋Š” ๊ฒฝ์šฐ๋Š” ๋“œ๋ฌผ์–ด์š”. ์ด๋Ÿฌํ•œ ์‹œ์Šคํ…œ ํ†ตํ•ฉ ๋Šฅ๋ ฅ์€ ๋ธ”๋ž™์›ฐ์ด ์ œ๊ณตํ•˜๋Š” 30๋ฐฐ ์„ฑ๋Šฅ ํ–ฅ์ƒ์ด ์ด๋ก ์ ์ธ ์ˆ˜์น˜๊ฐ€ ์•„๋‹ˆ๋ผ ์‹ค์ œ ๋ฐ์ดํ„ฐ ์„ผํ„ฐ ํ™˜๊ฒฝ์—์„œ ๊ตฌํ˜„๋  ์ˆ˜ ์žˆ๋„๋ก ํ•˜๋Š” ์ค‘์š”ํ•œ ๊ธฐ๋ฐ˜์ด ๋˜์–ด์š”.

 

์—”๋น„๋””์•„๋Š” ๋˜ํ•œ AI ์นฉ ์„ค๊ณ„์—์„œ ์„ ๋‹จ ๊ณต์ • ๊ธฐ์ˆ ๊ณผ ๊ณ ๊ธ‰ ํŒจํ‚ค์ง• ๊ธฐ์ˆ ์„ ์ ๊ทน์ ์œผ๋กœ ํ™œ์šฉํ•ด์š”. ๋ธ”๋ž™์›ฐ์— ์ ์šฉ๋œ ์ตœ์‹  ๊ณต์ •๊ณผ CoWoS ๊ฐ™์€ ์นฉ ํŒจํ‚ค์ง• ๊ธฐ์ˆ ์€ ์นฉ ๋‹น ๋” ๋งŽ์€ ํŠธ๋žœ์ง€์Šคํ„ฐ๋ฅผ ์ง‘์ ํ•˜๊ณ , ์นฉ๋ › ๊ฐ„์˜ ํ†ต์‹  ํšจ์œจ์„ ๊ทน๋Œ€ํ™”ํ•˜๋ฉฐ, ์ „๋ ฅ ํšจ์œจ์„ฑ์„ ๋†’์ด๋Š” ๋ฐ ๊ธฐ์—ฌํ•ด์š”. ์ด๋Ÿฌํ•œ ๊ธฐ์ˆ ๋ ฅ์€ ๊ฒฝ์Ÿ์‚ฌ๋“ค์ด ๋‹จ๊ธฐ๊ฐ„์— ๋”ฐ๋ผ์žก๊ธฐ ์–ด๋ ค์šด ์ง„์ž… ์žฅ๋ฒฝ์œผ๋กœ ์ž‘์šฉํ•˜๊ณ  ์žˆ์–ด์š”. ์นฉ ์ƒ์‚ฐ๊ณผ์ •์—์„œ์˜ ๋…ธํ•˜์šฐ, ๊ณต๊ธ‰๋ง ๊ด€๋ฆฌ ๋Šฅ๋ ฅ ๋˜ํ•œ ์—”๋น„๋””์•„๊ฐ€ ์‹œ์žฅ ๋ฆฌ๋”์‹ญ์„ ์œ ์ง€ํ•˜๋Š” ๋ฐ ์ค‘์š”ํ•œ ์—ญํ• ์„ ํ•ด์š”.

 

๋งˆ์ง€๋ง‰์œผ๋กœ, ์—”๋น„๋””์•„๋Š” AI ์นฉ ์‹œ์žฅ์—์„œ ์˜ค๋žœ ๊ธฐ๊ฐ„ ์Œ“์•„์˜จ ๊ฒฝํ—˜๊ณผ ์„ ๋ก€๋ฅผ ๊ฐ€์ง€๊ณ  ์žˆ์–ด์š”. ๋”ฅ๋Ÿฌ๋‹ ์ดˆ๊ธฐ๋ถ€ํ„ฐ GPU๋ฅผ AI ์—ฐ์‚ฐ์— ์ตœ์ ํ™”ํ•˜๋Š” ๋ฐ ์ง‘์ค‘ํ•ด ์™”์œผ๋ฉฐ, ์ด ๊ณผ์ •์—์„œ ์–ป์€ ๊นŠ์€ ์ดํ•ด์™€ ํ†ต์ฐฐ๋ ฅ์ด ๋ธ”๋ž™์›ฐ๊ณผ ๊ฐ™์€ ํ˜์‹ ์ ์ธ ์•„ํ‚คํ…์ฒ˜๋ฅผ ํƒ„์ƒ์‹œํ‚ค๋Š” ๋ฐ‘๊ฑฐ๋ฆ„์ด ๋˜์—ˆ์–ด์š”. ๋‹จ์ˆœํžˆ ํ•˜๋“œ์›จ์–ด ์ŠคํŽ™ ๊ฒฝ์Ÿ์„ ๋„˜์–ด, ์‹ค์ œ AI ์›Œํฌ๋กœ๋“œ์—์„œ ์ตœ์ ์˜ ์„ฑ๋Šฅ์„ ๋Œ์–ด๋‚ด๊ธฐ ์œ„ํ•œ ๋ฏธ์„ธํ•œ ์กฐ์ •๊ณผ ์„ค๊ณ„ ์ตœ์ ํ™”๋Š” ์—”๋น„๋””์•„๊ฐ€ ๊ฐ€์ง„ ๋…๋ณด์ ์ธ ๊ฒฝ์Ÿ๋ ฅ์ด๋ผ๊ณ  ํ•  ์ˆ˜ ์žˆ์–ด์š”. ๋ธ”๋ž™์›ฐ์€ ์ด๋Ÿฌํ•œ ๋ชจ๋“  ์š”์†Œ๊ฐ€ ๊ฒฐํ•ฉ๋œ ์—”๋น„๋””์•„์˜ ๊ฒฐ์ •์ฒด์ด๋ฉฐ, AI ์‹œ๋Œ€๋ฅผ ๋”์šฑ ๊ฐ€์†ํ™”ํ•  ์ฃผ์š” ๋™๋ ฅ์œผ๋กœ ์ž๋ฆฌ๋งค๊น€ํ•  ๊ฑฐ์˜ˆ์š”.

 

๊ฒฝ์Ÿ์‚ฌ ๋Œ€๋น„ ๋ธ”๋ž™์›ฐ์˜ ์ฐจ๋ณ„์ 

์ฐจ๋ณ„์  ์„ธ๋ถ€ ๋‚ด์šฉ
ํ†ตํ•ฉ ์†Œํ”„ํŠธ์›จ์–ด ์ƒํƒœ๊ณ„ CUDA ํ”Œ๋žซํผ ๊ธฐ๋ฐ˜์˜ ๋ฐฉ๋Œ€ํ•œ ๊ฐœ๋ฐœ ๋„๊ตฌ, ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ, ํ”„๋ ˆ์ž„์›Œํฌ ์ง€์›
์‹œ์Šคํ…œ ์ˆ˜์ค€ ํ†ตํ•ฉ GB200 NVL72์™€ ๊ฐ™์€ ์Šˆํผ์ปดํ“จํŒ… ํ”Œ๋žซํผ์œผ๋กœ์˜ ๊ธด๋ฐ€ํ•œ ํ•˜๋“œ์›จ์–ด-์†Œํ”„ํŠธ์›จ์–ด ํ†ตํ•ฉ
์„ ๋‹จ ๊ณต์ • ๋ฐ ํŒจํ‚ค์ง• ๊ธฐ์ˆ  ์ตœ์‹  ์นฉ ์ œ์กฐ ๊ณต์ •๊ณผ CoWoS ๋“ฑ ๊ณ ๊ธ‰ ํŒจํ‚ค์ง• ๊ธฐ์ˆ ๋กœ ์„ฑ๋Šฅ ๋ฐ ํšจ์œจ ๊ทน๋Œ€ํ™”
AI ์›Œํฌ๋กœ๋“œ ์ตœ์ ํ™” ์˜ค๋žœ ๊ฒฝํ—˜๊ณผ ํ†ต์ฐฐ๋ ฅ ๊ธฐ๋ฐ˜์˜ ์‹ค์ œ AI ์›Œํฌ๋กœ๋“œ์— ๋Œ€ํ•œ ์‹ฌ์ธต์  ์ตœ์ ํ™” ์„ค๊ณ„
๊ธ€๋กœ๋ฒŒ ๊ณต๊ธ‰๋ง ๋ฆฌ๋”์‹ญ ์•ˆ์ •์ ์ธ ์นฉ ์ƒ์‚ฐ ๋ฐ ๊ณต๊ธ‰๋ง ๊ด€๋ฆฌ ๋Šฅ๋ ฅ์œผ๋กœ ์‹œ์žฅ ์ˆ˜์š”์— ๋Œ€์‘

 

๋ธ”๋ž™์›ฐ ์‹œ๋Œ€, ๋ฏธ๋ž˜ AI ์ƒํƒœ๊ณ„ ์ „๋ง

์—”๋น„๋””์•„ ๋ธ”๋ž™์›ฐ ์•„ํ‚คํ…์ฒ˜์˜ ๋“ฑ์žฅ์€ ๋ฏธ๋ž˜ AI ์ƒํƒœ๊ณ„์˜ ๋ฐฉํ–ฅ์„ ๊ฒฐ์ •ํ•˜๋Š” ์ค‘์š”ํ•œ ์ด์ •ํ‘œ๊ฐ€ ๋  ๊ฑฐ์˜ˆ์š”. ๋ธ”๋ž™์›ฐ์€ ๋‹จ์ˆœํ•œ GPU๋ฅผ ๋„˜์–ด, ์ฐจ์„ธ๋Œ€ AI๋ฅผ ์œ„ํ•œ ํ†ตํ•ฉ ์ปดํ“จํŒ… ํ”Œ๋žซํผ์˜ ์ฒญ์‚ฌ์ง„์„ ์ œ์‹œํ•˜๊ณ  ์žˆ๋‹ค๊ณ  ์ƒ๊ฐํ•ด์š”. ์•ž์œผ๋กœ AI ๊ธฐ์ˆ ์€ ๋”์šฑ ๋น ๋ฅด๊ฒŒ ๋ฐœ์ „ํ•  ๊ฒƒ์ด๊ณ , ์ด๋ฅผ ๋’ท๋ฐ›์นจํ•  ํ•˜๋“œ์›จ์–ด์™€ ์†Œํ”„ํŠธ์›จ์–ด์˜ ๊ธด๋ฐ€ํ•œ ํ†ตํ•ฉ์€ ๋”์šฑ ์ค‘์š”ํ•ด์งˆ ๊ฑฐ์˜ˆ์š”. ๋ธ”๋ž™์›ฐ์€ ์ด๋Ÿฌํ•œ ์š”๊ตฌ์— ๋ถ€์‘ํ•˜๋ฉฐ AI ๋ชจ๋ธ์˜ ๋ณต์žก์„ฑ๊ณผ ๊ทœ๋ชจ๋ฅผ ํ•œ ์ฐจ์› ๋” ๋Œ์–ด์˜ฌ๋ฆฌ๋Š” ์—ญํ• ์„ ํ•  ๊ฑฐ์˜ˆ์š”.

 

๋ธ”๋ž™์›ฐ ์‹œ๋Œ€์—๋Š” AI ๋ชจ๋ธ์˜ '๊ทœ๋ชจ์˜ ๊ฒฝ์ œ'๊ฐ€ ๋”์šฑ ๊ทน๋Œ€ํ™”๋  ๊ฑฐ์˜ˆ์š”. ์ ์€ ์ˆ˜์˜ ๊ฐ•๋ ฅํ•œ ๋ธ”๋ž™์›ฐ GPU ํด๋Ÿฌ์Šคํ„ฐ๋กœ๋„ ๊ธฐ์กด๋ณด๋‹ค ํ›จ์”ฌ ํฐ ๋ชจ๋ธ์„ ํšจ์œจ์ ์œผ๋กœ ํ›ˆ๋ จํ•  ์ˆ˜ ์žˆ๊ฒŒ ๋˜๋ฉด์„œ, ์—ฐ๊ตฌ์ž๋“ค์€ ๋”์šฑ ๊ณผ๊ฐํ•œ ์‹œ๋„๋ฅผ ํ•  ์ˆ˜ ์žˆ์„ ๊ฒƒ์ด๊ณ , ์ด๋Š” ์ƒˆ๋กœ์šด AI ์•Œ๊ณ ๋ฆฌ์ฆ˜๊ณผ ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜์˜ ๋“ฑ์žฅ์„ ์ด‰์ง„ํ•  ๊ฑฐ์˜ˆ์š”. ์˜ˆ๋ฅผ ๋“ค์–ด, ํ˜„์žฌ GPT-4์™€ ๊ฐ™์€ ๋ชจ๋ธ์˜ ํ•œ๊ณ„๋ฅผ ๋›ฐ์–ด๋„˜๋Š” ๋ฉ€ํ‹ฐ๋ชจ๋‹ฌ(Multimodal) AI, ์ฆ‰ ํ…์ŠคํŠธ, ์ด๋ฏธ์ง€, ์˜ค๋””์˜ค, ๋น„๋””์˜ค ๋“ฑ ๋‹ค์–‘ํ•œ ๋ฐ์ดํ„ฐ๋ฅผ ๋™์‹œ์— ์ดํ•ดํ•˜๊ณ  ์ƒ์„ฑํ•˜๋Š” AI์˜ ๊ฐœ๋ฐœ์ด ๊ฐ€์†ํ™”๋  ๊ฒƒ์œผ๋กœ ์˜ˆ์ƒ๋ผ์š”. ๋ธ”๋ž™์›ฐ์€ ์ด๋Ÿฌํ•œ ๋ณตํ•ฉ์ ์ธ AI ๋ชจ๋ธ์ด ์š”๊ตฌํ•˜๋Š” ๋ฐฉ๋Œ€ํ•œ ์—ฐ์‚ฐ๊ณผ ๋ฐ์ดํ„ฐ ์ฒ˜๋ฆฌ ๋Šฅ๋ ฅ์„ ์ œ๊ณตํ•  ๊ฑฐ์˜ˆ์š”.

 

๋˜ํ•œ, ๋ธ”๋ž™์›ฐ์€ AI ๋ชจ๋ธ์˜ '์ ‘๊ทผ์„ฑ'์„ ๋†’์ด๋Š” ๋ฐ ๊ธฐ์—ฌํ•  ๊ฑฐ์˜ˆ์š”. ํ˜„์žฌ ์ตœ์ฒจ๋‹จ AI ๋ชจ๋ธ์„ ํ›ˆ๋ จํ•˜๊ณ  ์šด์˜ํ•˜๋Š” ๊ฒƒ์€ ์—„์ฒญ๋‚œ ๋น„์šฉ๊ณผ ๊ธฐ์ˆ ์  ๋…ธํ•˜์šฐ๋ฅผ ์š”๊ตฌํ•˜์ฃ . ํ•˜์ง€๋งŒ ๋ธ”๋ž™์›ฐ์ด ์ œ๊ณตํ•˜๋Š” ์—๋„ˆ์ง€ ํšจ์œจ์„ฑ๊ณผ ์„ฑ๋Šฅ ํ–ฅ์ƒ์€ ์ด๋Ÿฌํ•œ ์žฅ๋ฒฝ์„ ๋‚ฎ์ถ”๋Š” ๋ฐ ๋„์›€์ด ๋  ๊ฑฐ์˜ˆ์š”. ํด๋ผ์šฐ๋“œ ์„œ๋น„์Šค ์ œ๊ณต์—…์ฒด๋“ค์ด ๋ธ”๋ž™์›ฐ ๊ธฐ๋ฐ˜์˜ ์ธํ”„๋ผ๋ฅผ ๋„์ž…ํ•˜๋ฉด์„œ, ๋” ๋งŽ์€ ๊ฐœ๋ฐœ์ž์™€ ๊ธฐ์—…๋“ค์ด ํ•ฉ๋ฆฌ์ ์ธ ๋น„์šฉ์œผ๋กœ ๊ณ ์„ฑ๋Šฅ AI ์ปดํ“จํŒ…์— ์ ‘๊ทผํ•  ์ˆ˜ ์žˆ๊ฒŒ ๋  ๊ฑฐ์˜ˆ์š”. ์ด๋Š” AI ์‚ฐ์—…์˜ '๋ฏผ์ฃผํ™”'๋ฅผ ๊ฐ€์†ํ™”ํ•˜๊ณ , AI ๊ธฐ์ˆ ์ด ํŠน์ • ๋Œ€๊ธฐ์—…์— ๊ตญํ•œ๋˜์ง€ ์•Š๊ณ  ์‚ฌํšŒ ์ „๋ฐ˜์— ๊ฑธ์ณ ํ™•์‚ฐ๋˜๋Š” ๋ฐ ์ค‘์š”ํ•œ ์—ญํ• ์„ ํ•  ๊ฒƒ์œผ๋กœ ๋ณด์—ฌ์š”.

 

๋ฏธ๋ž˜ AI ์ƒํƒœ๊ณ„์—์„œ ์—”๋น„๋””์•„์˜ ์—ญํ• ์€ ๋”์šฑ ํ™•๋Œ€๋  ๊ฒƒ์œผ๋กœ ์ „๋ง๋ผ์š”. ํ•˜๋“œ์›จ์–ด ํŒ๋งค๋ฅผ ๋„˜์–ด, CUDA์™€ ๊ฐ™์€ ์†Œํ”„ํŠธ์›จ์–ด ํ”Œ๋žซํผ, ๊ทธ๋ฆฌ๊ณ  AI ์—”์ง€๋‹ˆ์–ด๋ง ์„œ๋น„์Šค ์ œ๊ณต๊นŒ์ง€ ์•„์šฐ๋ฅด๋Š” ํฌ๊ด„์ ์ธ AI ์†”๋ฃจ์…˜ ์ œ๊ณต์ž๋กœ ์ง„ํ™”ํ•  ๊ฐ€๋Šฅ์„ฑ์ด ์ปค์š”. ๋ธ”๋ž™์›ฐ์€ ์ด๋Ÿฌํ•œ ์—”๋น„๋””์•„์˜ ๋น„์ „์„ ์‹คํ˜„ํ•˜๊ธฐ ์œ„ํ•œ ํ•ต์‹ฌ ๋™๋ ฅ์ด ๋  ๊ฑฐ์˜ˆ์š”. ๋˜ํ•œ, AI ์นฉ ์„ค๊ณ„์˜ ๋ณต์žก์„ฑ์ด ์ฆ๊ฐ€ํ•จ์— ๋”ฐ๋ผ, ์นฉ ์„ค๊ณ„์‚ฌ์™€ ํŒŒ์šด๋“œ๋ฆฌ, ๊ทธ๋ฆฌ๊ณ  ์ตœ์ข… ์‚ฌ์šฉ์ž ๊ฐ„์˜ ๊ธด๋ฐ€ํ•œ ํ˜‘๋ ฅ ๊ด€๊ณ„๋„ ๋”์šฑ ์ค‘์š”ํ•ด์งˆ ๊ฑฐ์˜ˆ์š”. ์—”๋น„๋””์•„๋Š” ์ด ์ƒํƒœ๊ณ„์˜ ์ค‘์‹ฌ์—์„œ ๋‹ค์–‘ํ•œ ํŒŒํŠธ๋„ˆ๋“ค๊ณผ ํ•จ๊ป˜ AI์˜ ๋ฏธ๋ž˜๋ฅผ ๋งŒ๋“ค์–ด๋‚˜๊ฐˆ ๊ฒƒ์œผ๋กœ ์˜ˆ์ƒ๋ผ์š”.

 

๋ฌผ๋ก , ๋ธ”๋ž™์›ฐ ์‹œ๋Œ€์—๋„ ๋„์ „ ๊ณผ์ œ๋Š” ์กด์žฌํ•ด์š”. AI ๊ธฐ์ˆ ์˜ ๊ธ‰์†ํ•œ ๋ฐœ์ „์€ ์œค๋ฆฌ์  ๋ฌธ์ œ, ๋ฐ์ดํ„ฐ ํ”„๋ผ์ด๋ฒ„์‹œ, ๊ทธ๋ฆฌ๊ณ  ์—๋„ˆ์ง€ ์†Œ๋น„ ์ฆ๊ฐ€์™€ ๊ฐ™์€ ์ƒˆ๋กœ์šด ์‚ฌํšŒ์  ๋…ผ์˜๋ฅผ ์ด‰๋ฐœํ•  ์ˆ˜ ์žˆ์–ด์š”. ์—”๋น„๋””์•„๋Š” ๊ธฐ์ˆ  ํ˜์‹ ๊ณผ ํ•จ๊ป˜ ์ด๋Ÿฌํ•œ ์‚ฌํšŒ์  ์ฑ…์ž„์—๋„ ๊ท€๋ฅผ ๊ธฐ์šธ์—ฌ์•ผ ํ•  ๊ฑฐ์˜ˆ์š”. ํ•˜์ง€๋งŒ ๋ถ„๋ช…ํ•œ ๊ฒƒ์€, ๋ธ”๋ž™์›ฐ์ด ์ธ๊ณต์ง€๋Šฅ์ด ์ธ๊ฐ„ ์‚ฌํšŒ์— ๋ฏธ์น˜๋Š” ์˜ํ–ฅ๋ ฅ์„ ๋”์šฑ ํ™•๋Œ€ํ•˜๊ณ , ์šฐ๋ฆฌ๊ฐ€ ์ƒ์ƒํ•  ์ˆ˜ ์—†์—ˆ๋˜ ์ƒˆ๋กœ์šด ๊ฐ€๋Šฅ์„ฑ์„ ์—ด์–ด์ค„ ๊ฒƒ์ด๋ผ๋Š” ์ ์ด์—์š”. ์šฐ๋ฆฌ๋Š” ์ง€๊ธˆ ๋ธ”๋ž™์›ฐ๊ณผ ํ•จ๊ป˜ AI์˜ ๋‹ค์Œ ์‹œ๋Œ€๋ฅผ ๋งž์ดํ•˜๊ณ  ์žˆ๋Š” ์ค‘์š”ํ•œ ์ „ํ™˜์ ์— ์„œ ์žˆ๋Š” ์…ˆ์ด์—์š”.

 

๋ธ”๋ž™์›ฐ ์‹œ๋Œ€ ๋ฏธ๋ž˜ AI ์ƒํƒœ๊ณ„ ์ „๋ง

์ „๋ง ์˜์—ญ ์ฃผ์š” ๋ณ€ํ™” ๋ฐ ๋ฐœ์ „
AI ๋ชจ๋ธ ๋ฐœ์ „ ์ดˆ๋Œ€๊ทœ๋ชจ ๋ฉ€ํ‹ฐ๋ชจ๋‹ฌ AI, ๋”์šฑ ๋ณต์žกํ•˜๊ณ  ์ •๊ตํ•œ ๋ชจ๋ธ ๊ฐœ๋ฐœ ๊ฐ€์†ํ™”
AI ์ปดํ“จํŒ… ์ ‘๊ทผ์„ฑ ๊ณ ์„ฑ๋Šฅ AI ์ธํ”„๋ผ ๋น„์šฉ ํšจ์œจํ™”, AI ๊ธฐ์ˆ  ๋ฏผ์ฃผํ™” ๊ฐ€์†
์—”๋น„๋””์•„์˜ ์—ญํ•  ํ•˜๋“œ์›จ์–ด, ์†Œํ”„ํŠธ์›จ์–ด, ์„œ๋น„์Šค ์•„์šฐ๋ฅด๋Š” ํ†ตํ•ฉ AI ์†”๋ฃจ์…˜ ์ œ๊ณต์ž๋กœ ์ง„ํ™”
์‚ฐ์—… ๊ฐ„ ํ˜‘๋ ฅ ์นฉ ์„ค๊ณ„์‚ฌ, ํŒŒ์šด๋“œ๋ฆฌ, ํด๋ผ์šฐ๋“œ ๊ธฐ์—…, ๊ฐœ๋ฐœ์ž ๊ฐ„ ๊ธด๋ฐ€ํ•œ ํ˜‘์—… ์ฆ๋Œ€
์‚ฌํšŒ์  ์˜ํ–ฅ AI ์œค๋ฆฌ, ๋ฐ์ดํ„ฐ ํ”„๋ผ์ด๋ฒ„์‹œ ๋“ฑ ์ƒˆ๋กœ์šด ์‚ฌํšŒ์  ๋…ผ์˜ ์‹ฌํ™” ๋ฐ ์ค‘์š”์„ฑ ์ฆ๋Œ€

 

❓ ์ž์ฃผ ๋ฌป๋Š” ์งˆ๋ฌธ (FAQ)

Q1. ์—”๋น„๋””์•„ ๋ธ”๋ž™์›ฐ ์•„ํ‚คํ…์ฒ˜๋Š” ๋ฌด์—‡์ด์—์š”?

 

A1. ๋ธ”๋ž™์›ฐ ์•„ํ‚คํ…์ฒ˜๋Š” ์—”๋น„๋””์•„๊ฐ€ ์ธ๊ณต์ง€๋Šฅ ๋ฐ ๊ณ ์„ฑ๋Šฅ ์ปดํ“จํŒ…(HPC) ์›Œํฌ๋กœ๋“œ๋ฅผ ์œ„ํ•ด ๊ฐœ๋ฐœํ•œ ์ตœ์‹  GPU ์•„ํ‚คํ…์ฒ˜์˜ˆ์š”. ํ˜ธํผ ์•„ํ‚คํ…์ฒ˜์˜ ํ›„์†์ž‘์œผ๋กœ, ์ „๋ก€ ์—†๋Š” AI ์—ฐ์‚ฐ ์„ฑ๋Šฅ๊ณผ ํšจ์œจ์„ฑ์„ ์ œ๊ณตํ•˜๋„๋ก ์„ค๊ณ„๋˜์—ˆ์–ด์š”.

 

Q2. ๋ธ”๋ž™์›ฐ์ด AI ์—ฐ์‚ฐ ์„ฑ๋Šฅ์„ ์–ผ๋งˆ๋‚˜ ํ–ฅ์ƒ์‹œ์ผœ์š”?

 

A2. ํŠน์ • AI ์›Œํฌ๋กœ๋“œ(์˜ˆ: ๋Œ€๊ทœ๋ชจ ์–ธ์–ด ๋ชจ๋ธ ํ›ˆ๋ จ ๋ฐ ์ถ”๋ก )์—์„œ ์ด์ „ ์„ธ๋Œ€ ๋Œ€๋น„ ์ตœ๋Œ€ 30๋ฐฐ์˜ ์„ฑ๋Šฅ ํ–ฅ์ƒ์„ ์ œ๊ณตํ•œ๋‹ค๊ณ  ์—”๋น„๋””์•„๋Š” ๋ฐœํ‘œํ–ˆ์–ด์š”.

 

Q3. ๋ธ”๋ž™์›ฐ ์•„ํ‚คํ…์ฒ˜์˜ ํ•ต์‹ฌ์ ์ธ ๊ธฐ์ˆ  ํ˜์‹ ์€ ๋ฌด์—‡์ด์—์š”?

 

A3. ์ฃผ์š” ํ˜์‹ ์œผ๋กœ๋Š” ์นฉ๋ › ๋””์ž์ธ (๋‘ ๊ฐœ์˜ GPU ๋‹ค์ด ํ†ตํ•ฉ), 5์„ธ๋Œ€ NVLink, 2์„ธ๋Œ€ ํŠธ๋žœ์Šคํฌ๋จธ ์—”์ง„, HBM3e ๋ฉ”๋ชจ๋ฆฌ, ๊ทธ๋ฆฌ๊ณ  ํ–ฅ์ƒ๋œ Tensor Cores ๋“ฑ์ด ์žˆ์–ด์š”.

 

Q4. ๋ธ”๋ž™์›ฐ์˜ '๋ฐ์ดํ„ฐ ์นฉ'์ด๋ผ๋Š” ํ‘œํ˜„์€ ๋ฌด์—‡์„ ์˜๋ฏธํ•ด์š”?

 

A4. '๋ฐ์ดํ„ฐ ์นฉ'์€ ๋‹จ์ˆœํ•œ ์—ฐ์‚ฐ ์žฅ์น˜๋ฅผ ๋„˜์–ด, ๋ฐ์ดํ„ฐ์˜ ์ƒ์„ฑ, ์ฒ˜๋ฆฌ, ์ €์žฅ, ์ด๋™ ๋“ฑ AI ์›Œํฌ๋กœ๋“œ์˜ ๋ชจ๋“  ๋ฐ์ดํ„ฐ ํ๋ฆ„์„ ์ตœ์ ํ™”ํ•˜๋„๋ก ์„ค๊ณ„๋œ ํ†ตํ•ฉ ์ปดํ“จํŒ… ์†”๋ฃจ์…˜์„ ์˜๋ฏธํ•ด์š”.

 

Q5. HBM3e ๋ฉ”๋ชจ๋ฆฌ๊ฐ€ ๋ธ”๋ž™์›ฐ ์„ฑ๋Šฅ์— ์–ด๋–ป๊ฒŒ ๊ธฐ์—ฌํ•ด์š”?

 

A5. HBM3e๋Š” ์ดˆ๊ณ ๋Œ€์—ญํญ ๋ฉ”๋ชจ๋ฆฌ๋กœ, GPU ์ฝ”์–ด๊ฐ€ ๋ฐ์ดํ„ฐ๋ฅผ ๊ธฐ๋‹ค๋ฆฌ๋Š” ์‹œ๊ฐ„์„ ์ตœ์†Œํ™”ํ•˜๊ณ  ๋Œ€๊ทœ๋ชจ AI ๋ชจ๋ธ์˜ ๋ฐฉ๋Œ€ํ•œ ๋ฐ์ดํ„ฐ๋ฅผ ๋น ๋ฅด๊ฒŒ ์ฒ˜๋ฆฌํ•  ์ˆ˜ ์žˆ๋„๋ก ๋„์™€์ค˜์š”.

 

Q6. NVLink๋Š” ๋ธ”๋ž™์›ฐ์—์„œ ์–ด๋–ค ์—ญํ• ์„ ํ•ด์š”?

 

A6. 5์„ธ๋Œ€ NVLink๋Š” ์—ฌ๋Ÿฌ ๋ธ”๋ž™์›ฐ GPU ๊ฐ„์˜ ์ดˆ๊ณ ์† ํ†ต์‹ ์„ ๊ฐ€๋Šฅํ•˜๊ฒŒ ํ•˜์—ฌ, ์ˆ˜๋ฐฑ ๊ฐœ์˜ GPU๋ฅผ ๋งˆ์น˜ ํ•˜๋‚˜์˜ ๊ฑฐ๋Œ€ํ•œ GPU์ฒ˜๋Ÿผ ์ž‘๋™์‹œ์ผœ ๋Œ€๊ทœ๋ชจ AI ๋ชจ๋ธ์˜ ๋ณ‘๋ ฌ ์ฒ˜๋ฆฌ๋ฅผ ๊ทน๋Œ€ํ™”ํ•ด์š”.

 

์—”๋น„๋””์•„ ๋ธ”๋ž™์›ฐ, AI ํ˜๋ช…์˜ ์ƒˆ๋กœ์šด ์‹ฌ์žฅ
์—”๋น„๋””์•„ ๋ธ”๋ž™์›ฐ, AI ํ˜๋ช…์˜ ์ƒˆ๋กœ์šด ์‹ฌ์žฅ

Q7. 2์„ธ๋Œ€ ํŠธ๋žœ์Šคํฌ๋จธ ์—”์ง„์€ ๋ฌด์—‡์ด ๊ฐœ์„ ๋˜์—ˆ์–ด์š”?

 

A7. 2์„ธ๋Œ€ ํŠธ๋žœ์Šคํฌ๋จธ ์—”์ง„์€ ์ •๋ฐ€๋„๋ฅผ ์ž๋™์œผ๋กœ ์กฐ์ ˆํ•˜๋Š” ๊ธฐ๋Šฅ์„ ํฌํ•จํ•˜์—ฌ, FP8 ๋ฐ FP4์™€ ๊ฐ™์€ ์ €์ •๋ฐ€๋„ ์—ฐ์‚ฐ์„ ๋”์šฑ ํšจ์œจ์ ์œผ๋กœ ์ฒ˜๋ฆฌํ•˜๋ฉด์„œ๋„ ๋ชจ๋ธ์˜ ์ •ํ™•๋„๋ฅผ ์œ ์ง€ํ•  ์ˆ˜ ์žˆ๋„๋ก ๊ฐœ์„ ๋˜์—ˆ์–ด์š”.

 

Q8. ๋ธ”๋ž™์›ฐ ์•„ํ‚คํ…์ฒ˜๋Š” ์–ธ์ œ ์ถœ์‹œ๋  ์˜ˆ์ •์ด์—์š”?

 

A8. ์—”๋น„๋””์•„๋Š” ๋ธ”๋ž™์›ฐ ๊ธฐ๋ฐ˜ ์ œํ’ˆ๋“ค์„ 2024๋…„ ํ›„๋ฐ˜๋ถ€ํ„ฐ ์ˆœ์ฐจ์ ์œผ๋กœ ์‹œ์žฅ์— ์„ ๋ณด์ผ ๊ฒƒ์œผ๋กœ ์˜ˆ์ƒ๋ผ์š”.

 

Q9. ๋ธ”๋ž™์›ฐ์ด ๊ฐ€์žฅ ํฐ ์˜ํ–ฅ์„ ๋ฏธ์น  AI ๋ถ„์•ผ๋Š” ์–ด๋””๋ผ๊ณ  ์ƒ๊ฐํ•ด์š”?

 

A9. ๋Œ€๊ทœ๋ชจ ์–ธ์–ด ๋ชจ๋ธ(LLM) ๋ฐ ์ƒ์„ฑํ˜• AI ๋ถ„์•ผ์— ๊ฐ€์žฅ ํฐ ์˜ํ–ฅ์„ ๋ฏธ์ณ, ํ›ˆ๋ จ ์‹œ๊ฐ„ ๋‹จ์ถ•, ๋ชจ๋ธ ๊ทœ๋ชจ ํ™•์žฅ, ์‹ค์‹œ๊ฐ„ ์ถ”๋ก  ์„ฑ๋Šฅ ํ–ฅ์ƒ์„ ์ด๋Œ์–ด๋‚ผ ๊ฒƒ์œผ๋กœ ์˜ˆ์ƒํ•ด์š”.

 

Q10. ๋ฐ์ดํ„ฐ ์„ผํ„ฐ์˜ ์—๋„ˆ์ง€ ํšจ์œจ์„ฑ์— ์–ด๋–ค ๊ธฐ์—ฌ๋ฅผ ํ•ด์š”?

 

A10. ๋ธ”๋ž™์›ฐ์€ ๊ธฐ์กด๋ณด๋‹ค ์ ์€ ์ˆ˜์˜ GPU๋กœ๋„ ๋” ๋†’์€ ์„ฑ๋Šฅ์„ ์ œ๊ณตํ•˜์—ฌ, ๋ฐ์ดํ„ฐ ์„ผํ„ฐ์˜ ์ „๋ ฅ ์†Œ๋น„๋Ÿ‰๊ณผ ๊ณต๊ฐ„ ์ ์œ ์œจ์„ ์ค„์ด๋Š” ๋ฐ ๊ธฐ์—ฌํ•ด ์—๋„ˆ์ง€ ํšจ์œจ์„ฑ์„ ๋†’์ผ ๊ฑฐ์˜ˆ์š”.

 

Q11. ๋ธ”๋ž™์›ฐ์€ ์ž์œจ์ฃผํ–‰ ๊ธฐ์ˆ  ๋ฐœ์ „์— ์–ด๋–ค ๋„์›€์„ ์ค„ ์ˆ˜ ์žˆ์–ด์š”?

 

A11. ๋ธ”๋ž™์›ฐ๋กœ ํ›ˆ๋ จ๋œ ๋”์šฑ ์ •๊ตํ•˜๊ณ  ํšจ์œจ์ ์ธ AI ๋ชจ๋ธ์€ ์ž์œจ์ฃผํ–‰ ์ฐจ๋Ÿ‰์ด ์ฃผ๋ณ€ ํ™˜๊ฒฝ์„ ์ •ํ™•ํ•˜๊ฒŒ ์ธ์‹ํ•˜๊ณ  ํŒ๋‹จํ•˜๋Š” ๋ฐ ํ•„์š”ํ•œ ๊ธฐ๋ฐ˜ ๊ธฐ์ˆ ์„ ์ œ๊ณตํ•  ๊ฑฐ์˜ˆ์š”.

 

Q12. ์—”๋น„๋””์•„์˜ CUDA ํ”Œ๋žซํผ์ด ๋ธ”๋ž™์›ฐ์—๊ฒŒ ์ค‘์š”ํ•œ ์ด์œ ๋Š” ๋ฌด์—‡์ด์—์š”?

 

A12. CUDA๋Š” ์—”๋น„๋””์•„์˜ ๊ฐ•๋ ฅํ•œ ์†Œํ”„ํŠธ์›จ์–ด ์ƒํƒœ๊ณ„๋กœ, ๋ธ”๋ž™์›ฐ ํ•˜๋“œ์›จ์–ด์˜ ์„ฑ๋Šฅ์„ ์ตœ๋Œ€ํ•œ ๋Œ์–ด๋‚ด๊ณ  ๊ฐœ๋ฐœ์ž๋“ค์ด ์‰ฝ๊ฒŒ AI ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜์„ ๊ฐœ๋ฐœํ•˜๊ณ  ๋ฐฐํฌํ•  ์ˆ˜ ์žˆ๋„๋ก ์ง€์›ํ•˜๋Š” ํ•ต์‹ฌ์ ์ธ ์—ญํ• ์„ ํ•ด์š”.

 

Q13. ๋ธ”๋ž™์›ฐ์ด AI ์—ฐ๊ตฌ ๊ฐœ๋ฐœ ๋น„์šฉ์„ ์ค„์ด๋Š” ๋ฐ ๋„์›€์ด ๋˜๋‚˜์š”?

 

A13. ๋„ค, ํ›ˆ๋ จ ์‹œ๊ฐ„ ๋‹จ์ถ•๊ณผ ์—๋„ˆ์ง€ ํšจ์œจ์„ฑ ์ฆ๊ฐ€๋Š” AI ์ธํ”„๋ผ ๋ฐ ์šด์˜ ๋น„์šฉ์„ ์ ˆ๊ฐํ•˜์—ฌ, ๊ฒฐ๊ณผ์ ์œผ๋กœ AI ์—ฐ๊ตฌ ๊ฐœ๋ฐœ ๋น„์šฉ์„ ์ค„์ด๋Š” ๋ฐ ๋„์›€์ด ๋  ๊ฑฐ์˜ˆ์š”.

 

Q14. ๊ฒฝ์Ÿ์‚ฌ(AMD, ์ธํ…” ๋“ฑ) ์นฉ ๋Œ€๋น„ ๋ธ”๋ž™์›ฐ์˜ ์ฃผ์š” ๊ฐ•์ ์€ ๋ฌด์—‡์ด์—์š”?

 

A14. ๋ธ”๋ž™์›ฐ์€ ์••๋„์ ์ธ ํ•˜๋“œ์›จ์–ด ์„ฑ๋Šฅ๊ณผ ๋”๋ถˆ์–ด, ์—”๋น„๋””์•„์˜ ๊ฐ•๋ ฅํ•œ ์†Œํ”„ํŠธ์›จ์–ด ์ƒํƒœ๊ณ„(CUDA), ์‹œ์Šคํ…œ ์ˆ˜์ค€์˜ ํ†ตํ•ฉ ์†”๋ฃจ์…˜, ์„ ๋‹จ ๊ณต์ • ๊ธฐ์ˆ , ๊ทธ๋ฆฌ๊ณ  ์˜ค๋žœ AI ์นฉ ๊ฐœ๋ฐœ ๊ฒฝํ—˜์„ ํ†ตํ•ด ์ฐจ๋ณ„์ ์„ ๊ฐ€์ ธ์š”.

 

Q15. ๋ธ”๋ž™์›ฐ์€ ๋ฉ€ํ‹ฐ๋ชจ๋‹ฌ AI ๊ฐœ๋ฐœ์— ์–ด๋–ค ์˜ํ–ฅ์„ ์ค„๊นŒ์š”?

 

A15. ๋ฉ€ํ‹ฐ๋ชจ๋‹ฌ AI๋Š” ํ…์ŠคํŠธ, ์ด๋ฏธ์ง€ ๋“ฑ ๋‹ค์–‘ํ•œ ๋ฐ์ดํ„ฐ๋ฅผ ์ฒ˜๋ฆฌํ•˜๋ฏ€๋กœ ๋ฐฉ๋Œ€ํ•œ ์—ฐ์‚ฐ ๋Šฅ๋ ฅ์ด ํ•„์š”ํ•œ๋ฐ, ๋ธ”๋ž™์›ฐ์€ ์ด๋Ÿฌํ•œ ์š”๊ตฌ๋ฅผ ์ถฉ์กฑ์‹œ์ผœ ๋ฉ€ํ‹ฐ๋ชจ๋‹ฌ AI์˜ ๊ฐœ๋ฐœ๊ณผ ๊ณ ๋„ํ™”๋ฅผ ๊ฐ€์†ํ™”ํ•  ๊ฑฐ์˜ˆ์š”.

 

Q16. GB200 ์Šˆํผ์นฉ์€ ๋ฌด์—‡์ด๋ฉฐ, ์™œ ์ค‘์š”ํ•œ๊ฐ€์š”?

 

A16. GB200 ์Šˆํผ์นฉ์€ ๋‘ ๊ฐœ์˜ ๋ธ”๋ž™์›ฐ GPU ๋‹ค์ด๋ฅผ ํ•˜๋‚˜์˜ ํŒจํ‚ค์ง€๋กœ ํ†ตํ•ฉํ•œ ๊ฒƒ์œผ๋กœ, ์นฉ๋ › ๋””์ž์ธ๊ณผ CoWoS ํŒจํ‚ค์ง• ๊ธฐ์ˆ ์„ ํ†ตํ•ด ๋‹จ์ผ ์นฉ์˜ ํ•œ๊ณ„๋ฅผ ๋„˜์–ด์„  ์„ฑ๋Šฅ๊ณผ ํšจ์œจ์„ฑ์„ ์ œ๊ณตํ•ด์š”.

 

Q17. ๋ธ”๋ž™์›ฐ์ด ์ง€์›ํ•˜๋Š” ์ฃผ์š” ๋ฐ์ดํ„ฐ ํƒ€์ž…์€ ๋ฌด์—‡์ด์—์š”?

 

A17. ๋ธ”๋ž™์›ฐ์€ FP64, TF32, FP16, BF16, FP8, FP4 ๋“ฑ ๋‹ค์–‘ํ•œ ๋ถ€๋™ ์†Œ์ˆ˜์  ๋ฐ ์ •์ˆ˜ ๋ฐ์ดํ„ฐ ํƒ€์ž…์„ ์ง€์›ํ•˜์—ฌ ํญ๋„“์€ AI ์›Œํฌ๋กœ๋“œ์— ์ตœ์ ํ™”๋˜์–ด ์žˆ์–ด์š”.

 

Q18. ๋ธ”๋ž™์›ฐ ์•„ํ‚คํ…์ฒ˜๊ฐ€ ์ „๋ ฅ ์†Œ๋ชจ๋ฅผ ์ค„์ด๋Š” ๋ฐ ๋„์›€์ด ๋˜๋‚˜์š”?

 

A18. ๋„ค, 2์„ธ๋Œ€ ํŠธ๋žœ์Šคํฌ๋จธ ์—”์ง„์˜ ์ €์ •๋ฐ€๋„ ์—ฐ์‚ฐ ํšจ์œจ์„ฑ ๊ฐœ์„ ๊ณผ ์ „๋ฐ˜์ ์ธ ์•„ํ‚คํ…์ฒ˜ ์ตœ์ ํ™”๋ฅผ ํ†ตํ•ด ํŠน์ • ์„ฑ๋Šฅ๋‹น ์ „๋ ฅ ์†Œ๋ชจ๋ฅผ ์ค„์ด๋Š” ๋ฐ ๊ธฐ์—ฌํ•  ๊ฑฐ์˜ˆ์š”.

 

Q19. ๋ธ”๋ž™์›ฐ์€ ์–ด๋–ค ์‚ฐ์—… ๋ถ„์•ผ์— ํŠนํžˆ ์œ ์šฉํ• ๊นŒ์š”?

 

A19. ํด๋ผ์šฐ๋“œ ์ปดํ“จํŒ…, ๋ฐ์ดํ„ฐ ์„ผํ„ฐ, ๊ณผํ•™ ์—ฐ๊ตฌ(HPC), ๊ธˆ์œต ์„œ๋น„์Šค, ํ—ฌ์Šค์ผ€์–ด, ์ œ์กฐ ๋“ฑ ๊ณ ์„ฑ๋Šฅ AI ์—ฐ์‚ฐ์ด ํ•„์š”ํ•œ ๋ชจ๋“  ์‚ฐ์—… ๋ถ„์•ผ์— ์œ ์šฉํ•ด์š”.

 

Q20. ๋ธ”๋ž™์›ฐ ๊ธฐ๋ฐ˜ ์‹œ์Šคํ…œ ๊ตฌ์ถ• ์‹œ ๊ณ ๋ คํ•ด์•ผ ํ•  ์ ์€ ๋ฌด์—‡์ด์—์š”?

 

A20. ์ดˆ๊ธฐ ํˆฌ์ž ๋น„์šฉ, ๊ธฐ์กด ์ธํ”„๋ผ์™€์˜ ํ˜ธํ™˜์„ฑ, ์ „๋ ฅ ๋ฐ ๋ƒ‰๊ฐ ์„ค๋น„ ์—…๊ทธ๋ ˆ์ด๋“œ ์—ฌ๋ถ€, ๊ทธ๋ฆฌ๊ณ  ํ•„์š”ํ•œ AI ์›Œํฌ๋กœ๋“œ์— ๋งž๋Š” ์‹œ์Šคํ…œ ๊ตฌ์„ฑ ๋“ฑ์„ ๊ณ ๋ คํ•ด์•ผ ํ•ด์š”.

 

Q21. ๋ธ”๋ž™์›ฐ์€ ์†Œ๊ทœ๋ชจ AI ๊ฐœ๋ฐœํŒ€์—๊ฒŒ๋„ ๋„์›€์ด ๋ ๊นŒ์š”?

 

A21. ์ง์ ‘์ ์ธ ํ•˜๋“œ์›จ์–ด ๊ตฌ๋งค๋Š” ๋ถ€๋‹ด์Šค๋Ÿฌ์šธ ์ˆ˜ ์žˆ์ง€๋งŒ, ๋ธ”๋ž™์›ฐ ๊ธฐ๋ฐ˜์˜ ํด๋ผ์šฐ๋“œ ์„œ๋น„์Šค๊ฐ€ ํ™•์‚ฐ๋˜๋ฉด ์†Œ๊ทœ๋ชจ ํŒ€๋„ ๊ณ ์„ฑ๋Šฅ AI ์ปดํ“จํŒ…์— ๋” ์‰ฝ๊ฒŒ ์ ‘๊ทผํ•  ์ˆ˜ ์žˆ๊ฒŒ ๋  ๊ฑฐ์˜ˆ์š”.

 

Q22. ๋ธ”๋ž™์›ฐ์ด AI ๋ชจ๋ธ ํ›ˆ๋ จ ์‹œ ๋ฐœ์ƒํ•  ์ˆ˜ ์žˆ๋Š” ์˜ค๋ฅ˜๋ฅผ ์–ด๋–ป๊ฒŒ ๊ด€๋ฆฌํ•ด์š”?

 

A22. ๋ธ”๋ž™์›ฐ์€ ๊ฐ•ํ™”๋œ RAS(Reliability, Availability, Serviceability) ๊ธฐ๋Šฅ์„ ํ†ตํ•ด ์นฉ ์ˆ˜์ค€์—์„œ ์˜ค๋ฅ˜๋ฅผ ๊ฐ์ง€ํ•˜๊ณ  ๋ณต๊ตฌํ•˜์—ฌ, ์žฅ์‹œ๊ฐ„์˜ ๊ณ ๋ถ€ํ•˜ AI ํ›ˆ๋ จ ์ž‘์—…์—์„œ๋„ ๋†’์€ ์•ˆ์ •์„ฑ์„ ์œ ์ง€ํ•˜๋„๋ก ์„ค๊ณ„๋˜์—ˆ์–ด์š”.

 

Q23. ์—”๋น„๋””์•„์˜ ์ฐจ์„ธ๋Œ€ GPU ๋„ค์ด๋ฐ ๊ทœ์น™์€ ๋ฌด์—‡์ธ๊ฐ€์š”?

 

A23. ์—”๋น„๋””์•„๋Š” ์—ญ์‚ฌ์ ์œผ๋กœ ์œ ๋ช…ํ•œ ๊ณผํ•™์ž๋“ค์˜ ์ด๋ฆ„์„ ๋”ฐ์„œ GPU ์•„ํ‚คํ…์ฒ˜ ์ด๋ฆ„์„ ์ง“๋Š” ์ „ํ†ต์„ ๊ฐ€์ง€๊ณ  ์žˆ์–ด์š”. '๋ธ”๋ž™์›ฐ'์€ ์ˆ˜ํ•™์ž์ด์ž ํ†ต๊ณ„ํ•™์ž์ธ ๋ฐ์ด๋น„๋“œ ๋ธ”๋ž™์›ฐ์˜ ์ด๋ฆ„์—์„œ ๋”ฐ์˜จ ๊ฑฐ์˜ˆ์š”.

 

Q24. ๋ธ”๋ž™์›ฐ์ด ๊ธฐ์กด ํ˜ธํผ GPU์™€ ์™„๋ฒฝํ•˜๊ฒŒ ํ˜ธํ™˜๋˜๋‚˜์š”?

 

A24. ์—”๋น„๋””์•„ GPU๋Š” ๋ณดํ†ต ํ•˜์œ„ ํ˜ธํ™˜์„ฑ์„ ์ž˜ ์œ ์ง€ํ•˜๋Š” ํŽธ์ด์—์š”. ํ•˜์ง€๋งŒ ๋ธ”๋ž™์›ฐ์˜ ์ƒˆ๋กœ์šด ๊ธฐ๋Šฅ๊ณผ ์ตœ์ ํ™”๋œ ์„ฑ๋Šฅ์„ ์™„์ „ํžˆ ํ™œ์šฉํ•˜๋ ค๋ฉด, ์†Œํ”„ํŠธ์›จ์–ด ์Šคํƒ ์—…๋ฐ์ดํŠธ์™€ ์ผ๋ถ€ ์ฝ”๋“œ ์ˆ˜์ •์ด ํ•„์š”ํ•  ์ˆ˜๋„ ์žˆ์–ด์š”.

 

Q25. ๋ธ”๋ž™์›ฐ์ด AI ์ถ”๋ก  ์„ฑ๋Šฅ์—๋„ ์˜ํ–ฅ์„ ๋ฏธ์น˜๋‚˜์š”?

 

A25. ๋„ค, 30๋ฐฐ ์„ฑ๋Šฅ ํ–ฅ์ƒ์€ ์ฃผ๋กœ ํ›ˆ๋ จ ์„ฑ๋Šฅ์„ ์˜๋ฏธํ•˜์ง€๋งŒ, ์ถ”๋ก  ์„ฑ๋Šฅ ์—ญ์‹œ ํฌ๊ฒŒ ํ–ฅ์ƒ๋˜์–ด ์‹ค์‹œ๊ฐ„ AI ์„œ๋น„์Šค ์ œ๊ณต์— ํ•„์ˆ˜์ ์ธ ์—ญํ• ์„ ํ•  ๊ฑฐ์˜ˆ์š”.

 

Q26. ๋ธ”๋ž™์›ฐ์˜ ๋†’์€ ์„ฑ๋Šฅ์ด AI ์œค๋ฆฌ ๋ฌธ์ œ ํ•ด๊ฒฐ์— ๋„์›€์ด ๋ ๊นŒ์š”?

 

A26. ์ง์ ‘์ ์ธ ํ•ด๊ฒฐ์ฑ…์€ ์•„๋‹ˆ์ง€๋งŒ, ๋” ๊ฐ•๋ ฅํ•œ ์—ฐ์‚ฐ ๋Šฅ๋ ฅ์œผ๋กœ AI ๋ชจ๋ธ์˜ ํŽธํ–ฅ์„ฑ ๊ฒ€์ฆ, ์„ค๋ช… ๊ฐ€๋Šฅ AI(XAI) ์—ฐ๊ตฌ ๋“ฑ ์œค๋ฆฌ์  AI ๊ฐœ๋ฐœ์„ ์œ„ํ•œ ๋ณต์žกํ•œ ๋ถ„์„ ์ž‘์—…๋“ค์„ ๊ฐ€์†ํ™”ํ•  ์ˆ˜ ์žˆ์–ด์š”.

 

Q27. ๋ธ”๋ž™์›ฐ์€ ๋ฐ์ดํ„ฐ ์ฒ˜๋ฆฌ ์ „์šฉ ๋ช…๋ น์–ด(DPX)๋ฅผ ์ง€์›ํ•˜๋‚˜์š”?

 

A27. ๋„ค, ๋ธ”๋ž™์›ฐ์€ DPX ๋ช…๋ น์–ด๋ฅผ ํฌํ•จํ•˜์—ฌ ๋ฐ์ดํ„ฐ ์ „์ฒ˜๋ฆฌ ๋ฐ ํ›„์ฒ˜๋ฆฌ ๊ณผ์ •์„ ๊ฐ€์†ํ™”ํ•˜๊ณ , ์ „์ฒด AI ํŒŒ์ดํ”„๋ผ์ธ์˜ ๋ณ‘๋ชฉ ํ˜„์ƒ์„ ์ค„์ด๋Š” ๋ฐ ๊ธฐ์—ฌํ•ด์š”.

 

Q28. ๋ธ”๋ž™์›ฐ ์•„ํ‚คํ…์ฒ˜์˜ ์ด๋ฆ„์€ ์–ด๋–ป๊ฒŒ ๊ฒฐ์ •๋˜์—ˆ๋‚˜์š”?

 

A28. ์—”๋น„๋””์•„๋Š” GPU ์•„ํ‚คํ…์ฒ˜์˜ ์ด๋ฆ„์„ ์ง“๋Š” ๋ฐ ์žˆ์–ด ํ˜์‹ ์ ์ธ ๊ณผํ•™์ž์™€ ์ˆ˜ํ•™์ž์˜ ์ด๋ฆ„์„ ๋นŒ๋ ค์™€์š”. ๋ธ”๋ž™์›ฐ์€ 20์„ธ๊ธฐ์˜ ์ €๋ช…ํ•œ ํ†ต๊ณ„ํ•™์ž์ด์ž ์ˆ˜ํ•™์ž์ธ ๋ฐ์ด๋น„๋“œ ๋ธ”๋ž™์›ฐ ๊ต์ˆ˜๋ฅผ ๊ธฐ๋ฆฌ๊ธฐ ์œ„ํ•ด ๋ช…๋ช…๋˜์—ˆ์–ด์š”.

 

Q29. ๋ธ”๋ž™์›ฐ์˜ ๋Œ€๋Ÿ‰ ์ถœํ•˜๋Š” ์–ธ์ œ ์‹œ์ž‘๋  ๊ฒƒ์œผ๋กœ ์˜ˆ์ƒ๋ผ์š”?

 

A29. ๊ณต์‹์ ์ธ ๋Œ€๋Ÿ‰ ์ถœํ•˜ ์ผ์ •์€ ์—”๋น„๋””์•„์˜ ๋ฐœํ‘œ์— ๋”ฐ๋ผ ๋‹ฌ๋ผ์งˆ ์ˆ˜ ์žˆ์ง€๋งŒ, 2024๋…„ ๋ง๋ถ€ํ„ฐ ์ฃผ์š” ๊ณ ๊ฐ์‚ฌ๋ฅผ ์ค‘์‹ฌ์œผ๋กœ ์ ์ง„์ ์ธ ์ถœํ•˜๊ฐ€ ์ด๋ฃจ์–ด์งˆ ๊ฒƒ์œผ๋กœ ์ „๋ง๋ผ์š”. (์ฐธ๊ณ : H200 ๋Œ€๋Ÿ‰ ์ถœํ•˜ ๊ฐœ์‹œ์™€ ๊ฐ™์€ ์ด์ „ ์‚ฌ๋ก€๋ฅผ ํ†ตํ•ด ์˜ˆ์ธก)

 

Q30. ๋ธ”๋ž™์›ฐ์ด AI ์‹œ๋Œ€์— ๋ฏธ์น˜๋Š” ๊ถ๊ทน์ ์ธ ์˜๋ฏธ๋Š” ๋ฌด์—‡์ด๋ผ๊ณ  ์ƒ๊ฐํ•ด์š”?

 

A30. ๋ธ”๋ž™์›ฐ์€ AI ์—ฐ์‚ฐ์˜ ํ•œ๊ณ„๋ฅผ ํ—ˆ๋ฌผ๊ณ , ์ธ๋ฅ˜๊ฐ€ ์ƒ์ƒํ•˜๋Š” ๋ณต์žกํ•˜๊ณ  ๋ฐฉ๋Œ€ํ•œ AI ๋ชจ๋ธ์˜ ํ˜„์‹คํ™”๋ฅผ ์•ž๋‹น๊ธฐ๋Š” ๊ธฐ์ˆ ์  ๊ธฐ๋ฐ˜์„ ์ œ๊ณตํ•˜์—ฌ AI ์‹œ๋Œ€์˜ ์ƒˆ๋กœ์šด ํŒจ๋Ÿฌ๋‹ค์ž„์„ ์—ด์–ด์ฃผ๋Š” ์—ญํ• ์„ ํ•  ๊ฒƒ์ด๋ผ๊ณ  ์ƒ๊ฐํ•ด์š”.

 

⚠️ ๋ฉด์ฑ… ๋ฌธ๊ตฌ

์ด ๊ธ€์— ํฌํ•จ๋œ ๋ชจ๋“  ์ •๋ณด๋Š” ๊ณต๊ฐœ๋œ ์ž๋ฃŒ๋ฅผ ๊ธฐ๋ฐ˜์œผ๋กœ ์ž‘์„ฑ๋˜์—ˆ์œผ๋ฉฐ, ํˆฌ์ž ๊ถŒ์œ ๋‚˜ ํŠน์ • ๊ธฐ์ˆ  ๊ตฌ๋งค๋ฅผ ์œ ๋„ํ•˜๋Š” ๋ชฉ์ ์ด ์•„๋‹ˆ์—์š”. ๊ธฐ์ˆ  ๋ฐœํ‘œ ์ž๋ฃŒ์™€ ์‹œ์žฅ ์˜ˆ์ธก์€ ๋ณ€๊ฒฝ๋  ์ˆ˜ ์žˆ์œผ๋‹ˆ, ์ค‘์š”ํ•œ ์˜์‚ฌ ๊ฒฐ์ •์„ ๋‚ด๋ฆฌ๊ธฐ ์ „์—๋Š” ๋ฐ˜๋“œ์‹œ ์ตœ์‹  ๊ณต์‹ ์ •๋ณด๋ฅผ ํ™•์ธํ•˜์‹œ๊ณ  ์ „๋ฌธ๊ฐ€์˜ ์กฐ์–ธ์„ ๊ตฌํ•˜์‹œ๊ธฐ๋ฅผ ๋ฐ”๋ผ์š”. ์—”๋น„๋””์•„ ๋ธ”๋ž™์›ฐ์˜ ์‹ค์ œ ์„ฑ๋Šฅ๊ณผ ์‹œ์žฅ ์˜ํ–ฅ์€ ์ถœ์‹œ ํ›„ ์‹ค์ œ ์‚ฌ์šฉ ํ™˜๊ฒฝ์— ๋”ฐ๋ผ ๋‹ค๋ฅผ ์ˆ˜ ์žˆ๋‹ค๋Š” ์ ์„ ์•Œ๋ ค๋“œ๋ ค์š”.

 

๐Ÿ“ ์š”์•ฝ

์—”๋น„๋””์•„ ๋ธ”๋ž™์›ฐ ์•„ํ‚คํ…์ฒ˜๋Š” ์ธ๊ณต์ง€๋Šฅ ์—ฐ์‚ฐ ์„ฑ๋Šฅ์„ ์ตœ๋Œ€ 30๋ฐฐ ํ–ฅ์ƒ์‹œํ‚ค๋Š” ํ˜์‹ ์ ์ธ '๋ฐ์ดํ„ฐ ์นฉ'์ด์—์š”. ์นฉ๋ › ๋””์ž์ธ, 5์„ธ๋Œ€ NVLink, 2์„ธ๋Œ€ ํŠธ๋žœ์Šคํฌ๋จธ ์—”์ง„, HBM3e ๋ฉ”๋ชจ๋ฆฌ์™€ ๊ฐ™์€ ํ•ต์‹ฌ ๊ธฐ์ˆ ๋“ค์ด ์œ ๊ธฐ์ ์œผ๋กœ ๊ฒฐํ•ฉ๋˜์–ด ์ด ๋†€๋ผ์šด ์„ฑ๋Šฅ์„ ๊ฐ€๋Šฅํ•˜๊ฒŒ ํ•˜์ฃ . ๋ธ”๋ž™์›ฐ์€ ๋Œ€๊ทœ๋ชจ ์–ธ์–ด ๋ชจ๋ธ(LLM) ํ›ˆ๋ จ ๊ฐ€์†ํ™”, ๋ฐ์ดํ„ฐ ์„ผํ„ฐ ํšจ์œจ์„ฑ ์ฆ๋Œ€, ๊ณผํ•™ ์—ฐ๊ตฌ ๋ฐœ์ „ ๋“ฑ AI ์‚ฐ์—… ์ „๋ฐ˜์— ๊ฑธ์ณ ํŒจ๋Ÿฌ๋‹ค์ž„ ๋ณ€ํ™”๋ฅผ ๊ฐ€์ ธ์˜ฌ ๊ฒƒ์œผ๋กœ ์ „๋ง๋ผ์š”. ์—”๋น„๋””์•„๋Š” ๊ฐ•๋ ฅํ•œ ํ•˜๋“œ์›จ์–ด์™€ ๋…๋ณด์ ์ธ ์†Œํ”„ํŠธ์›จ์–ด ์ƒํƒœ๊ณ„(CUDA)๋ฅผ ํ†ตํ•ด ๊ฒฝ์Ÿ์‚ฌ ๋Œ€๋น„ ์ฐจ๋ณ„ํ™”๋œ ์ž…์ง€๋ฅผ ๋”์šฑ ๊ณต๊ณ ํžˆ ํ•  ๊ฑฐ์˜ˆ์š”. ๋ธ”๋ž™์›ฐ ์‹œ๋Œ€๋Š” ๋”์šฑ ๊ฐ•๋ ฅํ•˜๊ณ  ์ ‘๊ทผ์„ฑ ๋†’์€ AI ๊ธฐ์ˆ ์„ ํ†ตํ•ด ๋ฏธ๋ž˜ AI ์ƒํƒœ๊ณ„๋ฅผ ์žฌํŽธํ•˜๊ณ , ์ƒˆ๋กœ์šด ๊ฐ€๋Šฅ์„ฑ์„ ์—ด์–ด์ค„ ์ค‘์š”ํ•œ ์ „ํ™˜์ ์ด ๋  ๊ฒƒ์œผ๋กœ ๊ธฐ๋Œ€ํ•˜๊ณ  ์žˆ์–ด์š”.

๋Œ“๊ธ€