์ธ๊ณต์ง๋ฅ ์๋์ ํต์ฌ ๋๋ ฅ, ๋ฐ์ดํฐ ์ฐ์ฐ ๋ฅ๋ ฅ์ด ๋๋ ์ด ์ค์ํด์ง๊ณ ์์ด์. ์ด๋ฌํ ํ๋ฆ ์์์ ์๋น๋์(NVIDIA)๋ ์ธ์ ๋ ํ์ ์ ์ ๋์ ์ ์์์ฃ . ํนํ ์๋น๋์์ ์ต์ ์ํคํ
์ฒ์ธ ๋ธ๋์ฐ์ AI ์ฐ์ฐ ์ฑ๋ฅ์ ๋ฌด๋ ค 30๋ฐฐ๋ ํฅ์์ํฌ ์ ์๋ ์ ์ฌ๋ ฅ์ ๊ฐ์ก๋ค๊ณ ์๋ ค์ ธ ๋ง์ ์ด๋ค์ ๊ธฐ๋๋ฅผ ๋ชจ์ผ๊ณ ์์ด์.
๐จ ์๋น๋์ ๋ธ๋์ฐ ์ํคํ
์ฒ ๋ถ์๊ณผ AI ์ฐ์ฐ ์ฑ๋ฅ 30๋ฐฐ ํฅ์ ๋ฐ์ดํฐ ์นฉ์ ๋น๋ฐ ๐ง
์ด ๊ฒฝ์ด๋ก์ด ์ฑ๋ฅ ํฅ์ ๋ค์๋ ๊ณผ์ฐ ์ด๋ค ๊ธฐ์ ์ ๋น๋ฐ์ด ์จ์ด ์์๊น์? ๋ธ๋์ฐ ์ํคํ
์ฒ๊ฐ ์ด๋ป๊ฒ ์ฐจ์ธ๋ AI ์๋๋ฅผ ์ด๋์ด๊ฐ์ง, ๊ทธ๋ฆฌ๊ณ ์ด '๋ฐ์ดํฐ ์นฉ'์ด ๊ฐ์ง ์ง์ ํ ์๋ฏธ๋ ๋ฌด์์ธ์ง ์ง๊ธ๋ถํฐ ์์ธํ ํํค์ณ ๋ณผ๊ฒ์. ์๋น๋์์ ๋ธ๋์ฐ์ด ์ด์ด๊ฐ ๋ฏธ๋ AI์ ์ธ๊ณ๋ก ํจ๊ป ๋ ๋๋ด์.
์๋น๋์ ๋ธ๋์ฐ, AI ํ๋ช
์ ์๋ก์ด ์ฌ์ฅ
์๋น๋์ ๋ธ๋์ฐ ์ํคํ
์ฒ๋ ์ธ๊ณต์ง๋ฅ ๋ถ์ผ์ ์๋ก์ด ์งํ์ ์ด ๊ฒ์ผ๋ก ๊ธฐ๋๋๋ ํ์ ์ ์ธ ๊ธฐ์ ์ด์์. ๊ธฐ์กด ํธํผ(Hopper) ์ํคํ
์ฒ์ ํ์์์ผ๋ก, AI ๋ชจ๋ธ์ ๊ท๋ชจ์ ๋ณต์ก์ฑ์ด ๊ธฐํ๊ธ์์ ์ผ๋ก ์ฆ๊ฐํ๋ ํ ์์ ์์ ๊ทธ ์ค์์ฑ์ ๋์ฑ ์ปค์ง๊ณ ์์ฃ . ์๋น๋์๋ ์ค๋ซ๋์ GPU(๊ทธ๋ํฝ ์ฒ๋ฆฌ ์ฅ์น)๋ฅผ ๋จ์ํ ๊ทธ๋ํฝ ์ฒ๋ฆฌ ์ฅ์น๋ฅผ ๋์ด AI ์ฐ์ฐ์ ํต์ฌ ๋๋ ฅ์ผ๋ก ๋ฐ์ ์์ผ ์์ด์. ์ด๋ ๋ฅ๋ฌ๋๊ณผ ๋๊ท๋ชจ ์ธ์ด ๋ชจ๋ธ(LLM)์ ๋ฑ์ฅ๊ณผ ํจ๊ป ์๋น๋์๊ฐ AI ์๋๋ฅผ ์ ๋ํ๋ ๊ธฐ์
์ผ๋ก ์๋ฆฌ๋งค๊นํ๊ฒ ๋ ๊ฒฐ์ ์ ์ธ ์ด์ ์ด๊ธฐ๋ ํด์.
๋ธ๋์ฐ์ ์ด๋ฌํ ์๋น๋์์ AI ๋ฆฌ๋์ญ์ ๋์ฑ ๊ณต๊ณ ํ ํ ์ต์ ๋ฌด๊ธฐ๋ผ๊ณ ํ ์ ์์ด์. ํนํ, AI ์ฐ์ฐ ์ฒ๋ฆฌ ์ฑ๋ฅ์ ์ต๋ 30๋ฐฐ๊น์ง ํฅ์์ํจ๋ค๋ ๋ฐํ๋ ์ ์ธ๊ณ ๊ธฐ์ ์ปค๋ฎค๋ํฐ๋ฅผ ๋๋ผ๊ฒ ํ์ด์. ์ด๋ ๋จ์ํ ๋ ๋น ๋ฅธ ์๋๋ฅผ ์๋ฏธํ๋ ๊ฒ์ ๋์ด, ๊ธฐ์กด์๋ ์์ํ๊ธฐ ์ด๋ ค์ ๋ ๊ท๋ชจ์ AI ๋ชจ๋ธ์ ํ๋ จํ๊ณ ๋ฐฐํฌํ ์ ์๊ฒ ํด ์ค ์ ์ฌ๋ ฅ์ ๊ฐ์ก๋ค๋ ๋ป์ด๊ธฐ๋ ํ์ฃ . ๋ธ๋์ฐ ์ํคํ
์ฒ๋ ๋ฐ์ดํฐ ์ผํฐ์ ํจ์จ์ฑ์ ๊ทน๋ํํ๊ณ , ๋์ฑ ๋ณต์กํ๊ณ ์ ๊ตํ AI ์ ํ๋ฆฌ์ผ์ด์
๊ฐ๋ฐ์ ๋ฌธ์ ์ด์ด์ค ์ค์ํ ์ ํ์ ์ด ๋ ๊ฑฐ์์.
๊ณผ๊ฑฐ ์๋น๋์ H200 GPU๊ฐ AI ์ฐ์ฐ ์ฒ๋ฆฌ ์ฑ๋ฅ์ 5๋ฐฐ ํฅ์์์ผฐ๋ค๋ ์์๋ง์ผ๋ก๋ ํฐ ๋ฐํฅ์ ์ผ์ผ์ผฐ๋ ๊ฒ์ ์๊ฐํ๋ฉด, ๋ธ๋์ฐ์ 30๋ฐฐ ํฅ์์ด๋ผ๋ ์์น๋ AI ์ฐ์
์ ์ฒด์ ๋ฏธ์น ํ๊ธ๋ ฅ์ด ์ผ๋ง๋ ์์ฒญ๋ ์ง ์ง์ํ๊ฒ ํด์. ์ด๋ ์ธ๊ณต์ง๋ฅ ๊ธฐ์ ์ ๋ฐ์ ์๋๋ฅผ ํ ๋จ๊ณ ๋์ด์ฌ๋ฆด ์ด๋งค์ ๊ฐ ๋ ๊ฒ์ด๋ฉฐ, ์์จ์ฃผํ, ์ ์ฝ ๊ฐ๋ฐ, ๊ธฐํ ๋ชจ๋ธ๋ง ๋ฑ ๋ค์ํ ๋ถ์ผ์์ ํ์ ์ ์ธ ๋ณํ๋ฅผ ์ด๋์ด๋ผ ๊ฑฐ์์. ์๋น๋์์ ์ฑ์ฅ์ด AI์ ์ฌ์ฅ์ธ GPU์ ๋ฌ๋ ค์๋ค๋ ๋ง์ด ๋ธ๋์ฐ ์๋์๋ ๋์ฑ ๋ช
ํํด์ง ๊ฒ์ผ๋ก ๋ณด์ฌ์. ๋ธ๋์ฐ์ ๋จ์ํ ์นฉ์ด ์๋๋ผ, ๋ฏธ๋ AI์ ๊ฐ๋ฅ์ฑ์ ํ์ฅ์ํค๋ ์๋ก์ด ์ฌ์ฅ์ด๋ผ๊ณ ๋งํ ์ ์์ด์.
์ด๋ฌํ ๊ธฐ์ ์ ์ง๋ณด๋ AI ๋ชจ๋ธ์ด ์ฒ๋ฆฌํด์ผ ํ ๋ฐ์ดํฐ์ ์๊ณผ ๋ณต์ก๋๊ฐ ๊พธ์คํ ์ฆ๊ฐํ๋ ์ถ์ธ์ ๋ง๋ฌผ๋ ค ๋์ฑ ๋น์ ๋ฐํ๊ณ ์์ด์. ์๋ฅผ ๋ค์ด, GPT-3์ ๊ฐ์ ๊ฑฐ๋ ์ธ์ด ๋ชจ๋ธ์ ํ๋ จ์๋ ์์ฒ ๊ฐ์ GPU์ ์์ฒญ๋ ์ ๋ ฅ์ด ํ์ํ์ฃ . ๋ธ๋์ฐ์ ์ด๋ฌํ ํ๋ จ ์๊ฐ์ ๋ํญ ๋จ์ถํ๊ณ , ํจ์ฌ ๋ ํฐ ๊ท๋ชจ์ ๋ชจ๋ธ์ ํจ์จ์ ์ผ๋ก ๋ค๋ฃฐ ์ ์๊ฒ ํด์ค ๊ฑฐ์์. ์ด๋ AI ์ฐ๊ตฌ ๊ฐ๋ฐ ๋น์ฉ์ ์ ๊ฐํ๊ณ , ๋ ๋ง์ ์ฐ๊ตฌ์๋ค์ด ์ฒจ๋จ AI ๊ธฐ์ ์ ์ ๊ทผํ ์ ์๋๋ก ๋๋๋ค๋ ์ ์์ ์ฌํ์ , ๊ฒฝ์ ์ ์ผ๋ก๋ ํฐ ์๋ฏธ๋ฅผ ๊ฐ์ ธ์. ๊ถ๊ทน์ ์ผ๋ก ๋ธ๋์ฐ์ AI๋ฅผ ๋์ฑ ๋ณดํธ์ ์ด๊ณ ๊ฐ๋ ฅํ ๋๊ตฌ๋ก ๋ง๋ค ์ค์ํ ์ญํ ์ ํ ๊ฑฐ์์.
๋ธ๋์ฐ ์ํคํ
์ฒ์ ๋ฑ์ฅ์ ๋ง์น ์ฐ์
ํ๋ช
์๋์ ์ฆ๊ธฐ๊ธฐ๊ด์ด ๋ฑ์ฅํ๋ ๊ฒ๊ณผ ์ ์ฌํ ์ํฉํธ๋ฅผ ๊ฐ์ง ์๋ ์๋ค๊ณ ์๊ฐํด์. ํน์ ์ฐ์
์ ๊ตญํ๋์ง ์๊ณ , ์ธ๊ณต์ง๋ฅ์ด ํ์ฉ๋๋ ๋ชจ๋ ์์ญ์ ๊ฑธ์ณ ์์ฐ์ฑ๊ณผ ํจ์จ์ฑ์ ํ์ ์ ์ผ๋ก ๋์ด์ฌ๋ฆด ๊ฒ์ด๊ธฐ ๋๋ฌธ์ด์์. ์ปดํจํ
ํ์์ ํ๊ณ๋ฅผ ๋ํํ๋ฉฐ ์๋ก์ด AI ์ ํ๋ฆฌ์ผ์ด์
์ ๋ฑ์ฅ์ ์ด์งํ๊ณ , ์ด๋ ๋ค์๊ธ GPU ์์๋ฅผ ๋๋ฆฌ๋ ์ ์ํ ๊ตฌ์กฐ๋ฅผ ๋ง๋ค ๊ฑฐ์์. ์ฐ๋ฆฌ๋ ์ง๊ธ ์๋น๋์ ๋ธ๋์ฐ์ด ์ฃผ๋ํ ์๋ก์ด AI ์๋์ ๋ฌธํฑ์ ์ ์๋ ์
์ด์์.
๋ธ๋์ฐ๊ณผ ํธํผ GPU ๋น๊ต
| ํน์ง |
ํธํผ ์ํคํ
์ฒ (์: H100) |
๋ธ๋์ฐ ์ํคํ
์ฒ (์: GB200) |
| AI ์ฐ์ฐ ์ฑ๋ฅ ํฅ์ (์ธ๋ ๋๋น) |
์ฝ 3~5๋ฐฐ (A100 ๋๋น) |
์ต๋ 30๋ฐฐ (ํ๋ จ/์ถ๋ก ํน์ ์ํฌ๋ก๋) |
| ์ฃผ์ ํ์ |
ํธ๋์คํฌ๋จธ ์์ง (1์ธ๋), NVLink (4์ธ๋) |
ํธ๋์คํฌ๋จธ ์์ง (2์ธ๋), NVLink (5์ธ๋), ์นฉ๋ ์ค๊ณ |
| ๋ฉ๋ชจ๋ฆฌ ๊ธฐ์ |
HBM3 |
HBM3e |
| ๋ฉํฐ GPU ์ฐ๊ฒฐ |
๋จ์ผ GPU ๊ฐ ์ํธ ์ฐ๊ฒฐ |
๋ ๊ฐ์ GPU ๋ค์ด ๊ฒฐํฉ (GB200 Superchip) |
๋ธ๋์ฐ ์ํคํ
์ฒ ํต์ฌ ๊ธฐ์ ๋ถ์
์๋น๋์ ๋ธ๋์ฐ ์ํคํ
์ฒ์ ํต์ฌ์ ๋จ์ํ ์นฉ ํ๋์ ์ฑ๋ฅ ํฅ์์ ๊ทธ์น์ง ์์์. ์ด๋ ๋ณตํฉ์ ์ธ ๊ธฐ์ ํ์ ์ด ์ ๊ธฐ์ ์ผ๋ก ๊ฒฐํฉ๋์ด ์ ๋ก ์๋ AI ์ฐ์ฐ ๋ฅ๋ ฅ์ ๊ฐ๋ฅํ๊ฒ ํ๋ ์ด์ฒด์ ์ธ ์ค๊ณ๋ผ๊ณ ํ ์ ์์ด์. ๋ธ๋์ฐ์ ๊ฐ์ฅ ๋์ ๋๋ ํน์ง ์ค ํ๋๋ ์นฉ๋ (Chiplet) ๋์์ธ์ ๋์
์ด์์. ๊ธฐ์กด์๋ ํ๋์ ๊ฑฐ๋ํ ์ค๋ฆฌ์ฝ ๋ค์ด์ ๋ชจ๋ ๊ธฐ๋ฅ์ ์ง์ ํ๋ ค ํ์ง๋ง, ๋ธ๋์ฐ์ ๋ ๊ฐ์ GPU ๋ค์ด๋ฅผ ํ๋์ ๊ฐ๋ ฅํ ์ํผ์นฉ์ผ๋ก ์ฐ๊ฒฐํ์ฌ ํจ์จ์ฑ๊ณผ ์์ฐ์ฑ์ ๊ทน๋ํํ์ด์. ์ด GB200 ์ํผ์นฉ์ ์๋น๋์์ ๊ณ ๊ธ ํจํค์ง ๊ธฐ์ ์ธ CoWoS(Chip-on-Wafer-on-Substrate)์ ํจ๊ป ์๋ํ๋ฉฐ, ์ด๊ณ ์ ํต์ ๋์ญํญ์ ์ ๊ณตํ์ฃ .
๋ธ๋์ฐ์ ์ฑ๋ฅ์ ์ข์ฐํ๋ ๋ ๋ค๋ฅธ ํต์ฌ ์์๋ 5์ธ๋ NVLink ๊ธฐ์ ์ด์์. NVLink๋ GPU ๊ฐ์ ์ด๊ณ ์ ํต์ ์ ๊ฐ๋ฅํ๊ฒ ํ๋ ์๋น๋์์ ๋
์ ์ธํฐ์ปค๋ฅํธ ๊ธฐ์ ์ธ๋ฐ, 5์ธ๋ NVLink๋ ์ด์ ์ธ๋๋ณด๋ค ํจ์ฌ ๋ ๋น ๋ฅธ ๋ฐ์ดํฐ ์ ์ก ์๋๋ฅผ ์๋ํด์. ์ด ๊ธฐ์ ๋๋ถ์ ์๋ฐฑ, ์์ฒ ๊ฐ์ GPU๋ฅผ ๋ง์น ํ๋์ ๊ฑฐ๋ํ GPU์ฒ๋ผ ์๋์ํฌ ์ ์๊ฒ ๋์ด, ๊ฑฐ๋ AI ๋ชจ๋ธ ํ๋ จ์ ํ์์ ์ธ ๋ณ๋ ฌ ์ฒ๋ฆฌ ๋ฅ๋ ฅ์ ๊ทน๋ํํ ์ ์์ด์. ์ด๋ ๋ฐ์ดํฐ ๋ณ๋ชฉ ํ์์ ์ต์ํํ๊ณ , AI ๋ชจ๋ธ์ด ํ์ํ ๋ฐ์ดํฐ๋ฅผ ์ ์ํ๊ฒ ์ฃผ๊ณ ๋ฐ์ ์ ์๋๋ก ๋์ ๊ถ๊ทน์ ์ผ๋ก ์ฐ์ฐ ํจ์จ์ฑ์ ๋์ด๋ ๋ฐ ๊ธฐ์ฌํด์.
๋ํ ๋ธ๋์ฐ์ 2์ธ๋ ํธ๋์คํฌ๋จธ ์์ง(Transformer Engine)์ ํ์ฌํ๊ณ ์์ด์. ํธ๋์คํฌ๋จธ ์ํคํ
์ฒ๋ ์ต๊ทผ ๋๊ท๋ชจ ์ธ์ด ๋ชจ๋ธ์ ๋น๋กฏํ ์ฌ๋ฌ AI ๋ถ์ผ์์ ํ์ค์ผ๋ก ์๋ฆฌ ์ก์๋๋ฐ, ์๋น๋์์ ํธ๋์คํฌ๋จธ ์์ง์ ์ด๋ฌํ ๋ชจ๋ธ์ ํ๋ จ๊ณผ ์ถ๋ก ์ ๊ฐ์ํํ๊ธฐ ์ํด ํน๋ณํ ์ค๊ณ๋ ๋ถ๋ถ์ด์์. 2์ธ๋ ์์ง์ ์ ๋ฐ๋๋ฅผ ์๋์ผ๋ก ์กฐ์ ํ๋ ์๋ก์ด ๊ธฐ์ ์ ํฌํจํ์ฌ, FP8 ๋ฐ FP4์ ๊ฐ์ ์ ์ ๋ฐ๋ ์ฐ์ฐ์ ๋์ฑ ํจ์จ์ ์ผ๋ก ์ฒ๋ฆฌํ๋ฉด์๋ ๋ชจ๋ธ์ ์ ํ๋๋ฅผ ์ ์งํ ์ ์๊ฒ ํด์. ์ด๋ ๋ฉ๋ชจ๋ฆฌ ์ฌ์ฉ๋์ ์ค์ด๊ณ , ์ ๋ ฅ ํจ์จ์ ๋์ฌ ๋๊ท๋ชจ AI ์ํฌ๋ก๋๋ฅผ ๊ฒฝ์ ์ ์ผ๋ก ์ด์ํ ์ ์๋๋ก ๋๋ ์์ฃผ ์ค์ํ ๋ฐ์ ์ด์์.
๋ธ๋์ฐ ์ํคํ
์ฒ๋ ์๋ก์ด Tensor Cores๋ ํฌํจํ๊ณ ์์ด์. Tensor Cores๋ AI ์ฐ์ฐ์ ํนํ๋ ํ๋ก์ธ์ฑ ์ ๋์ผ๋ก, ํ๋ ฌ ๊ณฑ์
๊ณผ ๊ฐ์ ํต์ฌ ๋ฅ๋ฌ๋ ์ฐ์ฐ์ ๋งค์ฐ ๋น ๋ฅด๊ฒ ์ํํ์ฃ . ๋ธ๋์ฐ์ ์ ์ฉ๋ ์ต์ Tensor Cores๋ ์ด์ ์ธ๋๋ณด๋ค ๋์ฑ ๊ฐ์ ๋ ์ฑ๋ฅ๊ณผ ์ ์ฐ์ฑ์ ์ ๊ณตํ๋ฉฐ, ๋ค์ํ ๋ฐ์ดํฐ ํ์
์ ๋ํ ์ง์์ ๊ฐํํ์ฌ ๊ด๋ฒ์ํ AI ๋ชจ๋ธ์ ์ต์ ํ๋ ์ฐ์ฐ ํ๊ฒฝ์ ์ ๊ณตํด์. ์ด๋ฌํ ํ๋์จ์ด์ ์ต์ ํ๋ AI ๋ชจ๋ธ์ ํ๋ จ ์๋๋ฅผ ํ๊ธฐ์ ์ผ๋ก ๋จ์ถ์ํค๊ณ , ๋ณต์กํ ์ถ๋ก ์์
์ ์ค์๊ฐ์ผ๋ก ์ฒ๋ฆฌํ ์ ์๋๋ก ํด ์ค ๊ฑฐ์์.
๋ง์ง๋ง์ผ๋ก, ๋ธ๋์ฐ์ ๋ฐ์ดํฐ ์ฒ๋ฆฌ ์ ์ฉ ๋ช
๋ น์ด(DPX instructions)์ ๊ฐํ๋ ์ ๋ขฐ์ฑ ๊ธฐ๋ฅ์ ๊ฐ์ถ๊ณ ์์ด์. AI ์ํฌ๋ก๋๋ ๋จ์ํ ์ฐ์ฐ๋ฟ๋ง ์๋๋ผ ๋๋์ ๋ฐ์ดํฐ๋ฅผ ํจ์จ์ ์ผ๋ก ์ด๋ํ๊ณ ๊ด๋ฆฌํ๋ ๊ฒ์ด ์ค์ํด์. DPX ๋ช
๋ น์ด๋ ์ด๋ฌํ ๋ฐ์ดํฐ ์ ์ฒ๋ฆฌ ๋ฐ ํ์ฒ๋ฆฌ ๊ณผ์ ์ ๊ฐ์ํํ์ฌ ์ ์ฒด AI ํ์ดํ๋ผ์ธ์ ๋ณ๋ชฉ ํ์์ ์ค์ฌ์ค์. ๋ํ, AI ๋ชจ๋ธ์ ๊ท๋ชจ๊ฐ ์ปค์ง์๋ก ์นฉ์ ์ค๋ฅ๊ฐ ์ ์ฒด ์์คํ
์ ๋ฏธ์น๋ ์ํฅ์ด ์ปค์ง๋๋ฐ, ๋ธ๋์ฐ์ ๊ฐ๋ ฅํ ์ค๋ฅ ๊ฐ์ง ๋ฐ ๋ณต๊ตฌ ๊ธฐ๋ฅ์ ํตํด ์ฅ์๊ฐ ๊ณ ๋ถํ AI ํ๋ จ ์์
์์๋ ๋์ ์์ ์ฑ์ ์ ์งํ๋๋ก ์ค๊ณ๋์์ด์. ์ด๋ฌํ ๊ธฐ์ ์ ์์๋ค์ด ๋ณตํฉ์ ์ผ๋ก ์์ฉํ์ฌ ๋ธ๋์ฐ์ AI ์ฐ์ฐ ์ฑ๋ฅ์์ ๋
๋ณด์ ์ธ ์์น๋ฅผ ์ฐจ์งํ๊ฒ ๋๋ ๊ฒ์ด์ฃ .
๋ธ๋์ฐ ์ํคํ
์ฒ ์ฃผ์ ๊ธฐ์
| ๊ธฐ์ ์์ |
ํน์ง ๋ฐ ์ญํ |
| ์นฉ๋ ๋์์ธ & CoWoS |
๋ ๊ฐ์ GPU ๋ค์ด๋ฅผ ํ๋์ ์ํผ์นฉ์ผ๋ก ๊ฒฐํฉ, ํจ์จ์ฑ ๋ฐ ์ฑ๋ฅ ๊ทน๋ํ |
| 5์ธ๋ NVLink |
์ด๊ณ ์ GPU ๊ฐ ํต์ , ๋๊ท๋ชจ AI ๋ชจ๋ธ ๋ณ๋ ฌ ์ฒ๋ฆฌ ๊ฐ์ํ |
| 2์ธ๋ ํธ๋์คํฌ๋จธ ์์ง |
LLM ํ๋ จ/์ถ๋ก ๊ฐ์, ์ ์ ๋ฐ๋ ์ฐ์ฐ ํจ์จ์ฑ ํฅ์ ๋ฐ ์ ํ๋ ์ ์ง |
| ํฅ์๋ Tensor Cores |
AI ์ฐ์ฐ ํนํ ์ ๋, ๋ฅ๋ฌ๋ ์ฐ์ฐ ๊ณ ์ ์ฒ๋ฆฌ ๋ฐ ์ ์ฐ์ฑ ์ฆ๋ |
| HBM3e ๋ฉ๋ชจ๋ฆฌ |
์ด๊ณ ๋์ญํญ ๋ฉ๋ชจ๋ฆฌ, ๋๊ท๋ชจ ๋ฐ์ดํฐ์
์ฒ๋ฆฌ ์๋ ํฅ์ |
๋ธ๋์ฐ ์ํคํ
์ฒ๊ฐ ์๋ํ๋ ์ต๋ 30๋ฐฐ์ AI ์ฐ์ฐ ์ฑ๋ฅ ํฅ์์ ๋จ์ํ CPU์ ํด๋ญ ์๋๋ฅผ ๋์ด๊ฑฐ๋ ์ฝ์ด ์๋ฅผ ๋๋ฆฌ๋ ๊ฒ๋ง์ผ๋ก๋ ์ค๋ช
ํ๊ธฐ ์ด๋ ค์์. ์ด ๋๋ผ์ด ์์น ๋ค์๋ ‘๋ฐ์ดํฐ ์นฉ’์ด๋ผ๋ ๊ฐ๋
์ผ๋ก ํต์นญ๋๋ ์๋น๋์์ ๊ทผ๋ณธ์ ์ธ ์ ๊ทผ ๋ฐฉ์ ๋ณํ์ ํ์ ์ ์ธ ํตํฉ ์ค๊ณ๊ฐ ์จ์ด ์์ด์. ์ฌ๊ธฐ์ ๋ฐ์ดํฐ ์นฉ์ ๋จ์ํ GPU๋ฅผ ๋์ด, ๋ฐ์ดํฐ์ ์์ฑ๋ถํฐ ์ฒ๋ฆฌ, ์ ์ฅ, ์ด๋์ ์ด๋ฅด๋ ๋ชจ๋ ๊ณผ์ ์ ์ต์ ํํ๋ ํตํฉ ์ปดํจํ
ํ๋ซํผ์ ์ผํ์ผ๋ก ๋ด์ผ ํด์. ์ฆ, ๋ธ๋์ฐ์ ์ฐ์ฐ ์ ๋ ์์ฒด์ ๊ฐํ๋ฟ๋ง ์๋๋ผ ๋ฐ์ดํฐ๊ฐ ํ๋ฌ๊ฐ๋ ๋ชจ๋ ๊ฒฝ๋ก๋ฅผ ํ์ ์ ์ผ๋ก ๊ฐ์ ํ ๊ฒฐ๊ณผ๋ฌผ์ด๋ผ๊ณ ํ ์ ์์ด์.
๊ฐ์ฅ ์ค์ํ ๋น๋ฐ ์ค ํ๋๋ ๋ฐ๋ก HBM3e (High Bandwidth Memory 3e) ๋ฉ๋ชจ๋ฆฌ์ ํ์ฌ์์. HBM3e๋ ๊ธฐ์กด HBM3๋ณด๋ค ํจ์ฌ ๋ ๋์ ๋์ญํญ์ ์ ๊ณตํ์ฌ, GPU ์ฝ์ด๊ฐ ๋ฐ์ดํฐ๋ฅผ ๊ธฐ๋ค๋ฆฌ๋ ์๊ฐ์ ์ต์ํํด์. ๋๊ท๋ชจ AI ๋ชจ๋ธ์ ์๋ฐฑ ๊ธฐ๊ฐ๋ฐ์ดํธ์์ ์ ํ
๋ผ๋ฐ์ดํธ์ ์ด๋ฅด๋ ๋ฐฉ๋ํ ํ๋ผ๋ฏธํฐ์ ํ์ฑํ ๋ฐ์ดํฐ๋ฅผ ๊ฐ์ง๊ณ ์๋๋ฐ, ์ด๋ฌํ ๋ฐ์ดํฐ๋ฅผ CPU์์ GPU๋ก, ํน์ GPU ๋ด๋ถ์์ ๋น ๋ฅด๊ฒ ์ด๋์ํค๋ ๊ฒ์ด ์ ์ฒด ์ฐ์ฐ ์๋์ ๊ฒฐ์ ์ ์ธ ์ํฅ์ ๋ฏธ์น์ฃ . HBM3e๋ ์ด ๊ณผ์ ์์์ ๋ณ๋ชฉ ํ์์ ๋ํญ ์ค์ฌ์ฃผ์ด, AI ๋ชจ๋ธ ํ๋ จ ๋ฐ ์ถ๋ก ์ ๋ฐ์ดํฐ ์ ๊ทผ ์๋๋ฅผ ๊ทน์ ์ผ๋ก ํฅ์์ํค๋ ๋ฐ ๊ธฐ์ฌํด์.
๋ํ, 5์ธ๋ NVLink์ NVLink Switch ๊ธฐ์ ์ ์ฌ๋ฌ ๊ฐ์ ๋ธ๋์ฐ GPU๋ฅผ ํ๋์ ๊ฑฐ๋ํ ์์คํ
์ผ๋ก ๋ฌถ์ด์ฃผ๋ ํต์ฌ์ด์์. ์ต๋ 576๊ฐ์ GPU๋ฅผ ์ฎ์ด ์ด๋น 1.8ํ
๋ผ๋ฐ์ดํธ(TB/s)์ ์๋ฐฉํฅ ๋์ญํญ์ผ๋ก ํต์ ํ ์ ์๊ฒ ์ค๊ณ๋์์ด์. ์ด๋ ๋ฐ์ดํฐ ์ด๋์ ํจ์จ์ฑ์ ๊ทน๋ํํ์ฌ, ์์ญ์ต, ์์กฐ ๊ฐ์ ํ๋ผ๋ฏธํฐ๋ฅผ ๊ฐ์ง ์ด๋๊ท๋ชจ AI ๋ชจ๋ธ์ ํ๋ จํ ๋ ๋ฐ์ํ๋ ํต์ ์ค๋ฒํค๋๋ฅผ ์ค์ด๋ ๋ฐ ๊ฒฐ์ ์ ์ธ ์ญํ ์ ํด์. ๊ธฐ์กด์ ๋คํธ์ํฌ ๋ฐฉ์์ผ๋ก๋ ๋ถ๊ฐ๋ฅํ๋ ๊ท๋ชจ์ ๋ชจ๋ธ ๋ณ๋ ฌ ์ฒ๋ฆฌ๊ฐ ๊ฐ๋ฅํด์ง ๊ฒ์ด์ฃ . ์ด๋ฌํ ํตํฉ ์์คํ
์ํคํ
์ฒ๋ ๋ธ๋์ฐ์ '๋ฐ์ดํฐ ์นฉ'์ผ๋ก์์ ๋ฉด๋ชจ๋ฅผ ๊ฐ์ฅ ์ ๋ณด์ฌ์ฃผ๋ ๋ถ๋ถ์ด์์.
๋ธ๋์ฐ์ ๋ํ ๋ฐ์ดํฐ ์์ถ ๋ฐ ์์ถ ํด์ ์ ํนํ๋ ๊ธฐ๋ฅ์ ํฌํจํ์ฌ, ๋ฐ์ดํฐ๋ฅผ ์ฃผ๊ณ ๋ฐ๋ ๊ณผ์ ์์ ๋ฐ์ํ๋ ๋ถ๋ด์ ์ค์ฌ์ค์. AI ํ๋ จ ๋ฐ์ดํฐ๋ ์ข
์ข
๋งค์ฐ ํฌ๊ณ ๋ฐ๋ณต์ ์ธ ํจํด์ ๊ฐ์ง๋๋ฐ, ์ด๋ฅผ ํจ์จ์ ์ผ๋ก ์์ถํ์ฌ ์ ์กํ๊ณ ํ์ํ ๋ ๋น ๋ฅด๊ฒ ์์ถ ํด์ ํ๋ฉด ๋ฉ๋ชจ๋ฆฌ์ ๋คํธ์ํฌ ๋์ญํญ ์ฌ์ฉ์ ์ต์ ํํ ์ ์์ด์. ์ด๋ ํนํ ๋๊ท๋ชจ ๋ฐ์ดํฐ์
์ ๋ค๋ฃจ๋ AI ๋ชจ๋ธ์์ ์ฐ์ฐ ์๊ฐ์ ๋จ์ถํ๊ณ ์๋์ง ํจ์จ์ ๋์ด๋ ๋ฐ ํฌ๊ฒ ๊ธฐ์ฌํด์. ์ด๋ฌํ ๋ฐ์ดํฐ ๊ด๋ฆฌ ์ต์ ํ๋ ๊ฒ์ผ๋ก ๋๋ฌ๋๋ ์ฐ์ฐ ์ฑ๋ฅ ์์น๋งํผ์ด๋ ์ค์ํ ์จ๊ฒจ์ง ๋น๋ฐ์ด๋ผ๊ณ ํ ์ ์์ด์.
๊ฒ๋ค๊ฐ ๋ธ๋์ฐ์ AI ๋ชจ๋ธ์ ์ ๋ขฐ์ฑ๊ณผ ์ ํ์ฑ์ ๋์ด๊ธฐ ์ํ RAS(Reliability, Availability, Serviceability) ๊ธฐ๋ฅ์ ํฌ๊ฒ ๊ฐํํ์ด์. AI ๋ชจ๋ธ์ ํ๋ จ์ ์์ผ ๋๋ ์๊ฐ์์ด ๊ฑธ๋ฆด ์ ์๊ธฐ ๋๋ฌธ์, ์ด ๊ณผ์ ์์ ๋ฐ์ํ๋ ์์ ์ค๋ฅ๋ ์ ์ฒด ํ๋ จ์ ๋ฌดํจํํ ์ ์์ด์. ๋ธ๋์ฐ์ ์นฉ ์์ค์์ ์ค๋ฅ๋ฅผ ๊ฐ์งํ๊ณ ๋ณต๊ตฌํ๋ ๋ฉ์ปค๋์ฆ์ ๋ด์ฅํ์ฌ, ์ฅ์๊ฐ์ ๊ณ ๋ถํ ์์
์์๋ ์์คํ
์ ์์ ์ฑ์ ์ ์งํ๊ณ ๋ฐ์ดํฐ ์์ค์ ๋ฐฉ์งํด์. ์ด๋ ๊ฐ๋ฐ์๋ค์ด ๋์ฑ ์์ฌํ๊ณ ์ด๋๊ท๋ชจ AI ๋ชจ๋ธ์ ๋ค๋ฃฐ ์ ์๋๋ก ๋๋ ์ค์ง์ ์ธ ์ด์ ์ ์ ๊ณตํ๋ฉฐ, 30๋ฐฐ ์ฑ๋ฅ ํฅ์์ด ๋จ์ํ ์ด๋ก ์ ์์น๊ฐ ์๋๋ผ ์ค์ ์ด์ ํ๊ฒฝ์์๋ ์ ์๋ฏธํ๊ฒ ๋ฐํ๋ ์ ์๋๋ก ๋ท๋ฐ์นจํ๋ ๊ธฐ์ ์ ๊ธฐ๋ฐ์ด ๋์ด์.
๋ธ๋์ฐ 30๋ฐฐ ์ฑ๋ฅ ํฅ์ ํต์ฌ ๊ธฐ์
| ํต์ฌ ์์ |
์ฑ๋ฅ ํฅ์ ๊ธฐ์ฌ ๋ฐฉ์ |
| HBM3e ๋ฉ๋ชจ๋ฆฌ |
์ด๊ณ ์ ๋ฐ์ดํฐ ์ ๊ทผ ๋ฐ ์ ์ก, ๋ฉ๋ชจ๋ฆฌ ๋ณ๋ชฉ ํ์ ํด์ |
| 5์ธ๋ NVLink & Switch |
GPU ๊ฐ ์ด๊ณ ์, ์ ์ง์ฐ ํต์ , ๋๊ท๋ชจ ๋ถ์ฐ ํ๋ จ ํจ์จ ๊ทน๋ํ |
| 2์ธ๋ ํธ๋์คํฌ๋จธ ์์ง |
LLM ํ๋ จ/์ถ๋ก ํนํ ๊ฐ์, ํจ์จ์ ์ธ ์ ์ ๋ฐ๋ ์ฐ์ฐ ์ฒ๋ฆฌ |
| ๋ฐ์ดํฐ ์์ถ/ํด์ ๊ธฐ๋ฅ |
๋คํธ์ํฌ ๋ฐ ๋ฉ๋ชจ๋ฆฌ ๋์ญํญ ํจ์จ ์ฆ๋, ๋ฐ์ดํฐ ์ ์ก ์๊ฐ ๋จ์ถ |
| RAS (์ ๋ขฐ์ฑ, ๊ฐ์ฉ์ฑ, ์๋น์ค์ฑ) |
์ฅ์๊ฐ ๊ณ ๋ถํ AI ์์
์์ ์ฑ ํ๋ณด, ์ค๋ฅ ๊ฐ์ง ๋ฐ ๋ณต๊ตฌ ๊ธฐ๋ฅ |
๋ธ๋์ฐ์ด ๊ฐ์ ธ์ฌ AI ์ฐ์
์ ๋ณํ
์๋น๋์ ๋ธ๋์ฐ ์ํคํ
์ฒ์ ๋ฑ์ฅ์ AI ์ฐ์
์ ๋ฐ์ ๊ฑธ์ณ ํ๋ช
์ ์ธ ๋ณํ๋ฅผ ๊ฐ์ ธ์ฌ ๊ฑฐ์์. ๊ฐ์ฅ ์ง์ ์ ์ธ ์ํฅ์ ๋๊ท๋ชจ ์ธ์ด ๋ชจ๋ธ(LLM)๊ณผ ์์ฑํ AI ๋ถ์ผ์์ ๋ํ๋ ๊ฒ์ผ๋ก ์์๋ผ์. ๋ธ๋์ฐ์ ์๋์ ์ธ ์ฑ๋ฅ์ LLM ํ๋ จ ์๊ฐ์ ํ๊ธฐ์ ์ผ๋ก ๋จ์ถ์ํค๊ณ , ๊ธฐ์กด์๋ ๋ถ๊ฐ๋ฅํ๋ ๊ท๋ชจ์ ๋ชจ๋ธ์ ๋ง๋ค ์ ์๊ฒ ํด ์ค ๊ฑฐ์์. ์๋ฅผ ๋ค์ด, ์์กฐ ๊ฐ์ ํ๋ผ๋ฏธํฐ๋ฅผ ๊ฐ์ง ๋ชจ๋ธ์ ๋์ฑ ๋น ๋ฅด๊ฒ ํ๋ จํ๊ณ , ์ค์๊ฐ์ผ๋ก ๋ณต์กํ ์ถ๋ก ์ ์ํํ์ฌ ์ฌ์ฉ์ ๊ฒฝํ์ ๋ํญ ๊ฐ์ ํ ์ ์์ฃ . ์ด๋ AI ์ฑ๋ด, ์ฝํ
์ธ ์์ฑ ๋๊ตฌ, ๊ทธ๋ฆฌ๊ณ ๊ฐ์ธํ๋ AI ๋น์์ ์ฑ๋ฅ์ ํ ๋จ๊ณ ๋์ด์ฌ๋ฆด ๊ฑฐ์์.
๋ฐ์ดํฐ ์ผํฐ ์ฐ์
์๋ ํฐ ๋ณํ๋ฅผ ๊ฐ์ ธ์ฌ ๊ฒ์ผ๋ก ๋ณด์ฌ์. ๋ธ๋์ฐ ๊ธฐ๋ฐ์ ์์คํ
์ ๊ธฐ์กด๋ณด๋ค ํจ์ฌ ์ ์ ์์ GPU๋ก๋ ๋์ผํ๊ฑฐ๋ ๋ ๋์ ์ฑ๋ฅ์ ์ ๊ณตํ ์ ์๊ธฐ ๋๋ฌธ์, ๋ฐ์ดํฐ ์ผํฐ์ ์ ๋ ฅ ์๋น๋๊ณผ ๊ณต๊ฐ ์ ์ ์จ์ ํฌ๊ฒ ์ค์ผ ์ ์์ด์. ์ด๋ AI ์ธํ๋ผ ๊ตฌ์ถ ๋น์ฉ์ ์ ๊ฐํ๊ณ , ๋์ฑ ์ง์ ๊ฐ๋ฅํ AI ์ด์ ํ๊ฒฝ์ ์กฐ์ฑํ๋ ๋ฐ ๊ธฐ์ฌํ ๊ฑฐ์์. ํนํ, ๊ณ ๋ฐ๋ ์ปดํจํ
์ ์๊ตฌํ๋ ํด๋ผ์ฐ๋ ์๋น์ค ์ ๊ณต์
์ฒด๋ค์๊ฒ๋ ๋ธ๋์ฐ์ด ๋งค๋ ฅ์ ์ธ ์๋ฃจ์
์ด ๋ ๊ฒ์ด๋ฉฐ, AI ์๋น์ค๋ฅผ ๋์ฑ ๊ด๋ฒ์ํ๊ฒ ๋ฐฐํฌํ ์ ์๋ ๊ธฐ๋ฐ์ ๋ง๋ จํด ์ค ๊ฑฐ์์.
๊ณผํ ์ฐ๊ตฌ ๋ฐ ๊ฐ๋ฐ ๋ถ์ผ์์๋ ๋ธ๋์ฐ์ ์ํฅ์ ๋ง๋ํ ๊ฑฐ์์. ์ ์ฝ ๊ฐ๋ฐ, ์ฌ๋ฃ ๊ณผํ, ๊ธฐํ ๋ณํ ๋ชจ๋ธ๋ง๊ณผ ๊ฐ์ ๋ถ์ผ์์๋ ๋ณต์กํ ์๋ฎฌ๋ ์ด์
๊ณผ ๋ฐฉ๋ํ ๋ฐ์ดํฐ ๋ถ์์ด ํ์์ ์ธ๋ฐ, ๋ธ๋์ฐ์ ์ด๋ฌํ ๊ณ ์ฑ๋ฅ ์ปดํจํ
(HPC) ์ํฌ๋ก๋๋ฅผ ์ ๋ก ์๋ ์๋๋ก ์ฒ๋ฆฌํ ์ ์๊ฒ ํด ์ค ๊ฑฐ์์. ์๋ฅผ ๋ค์ด, ๋จ๋ฐฑ์ง ํด๋ฉ ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๊ฑฐ๋, ์๋ก์ด ๋ฌผ์ง์ ํน์ฑ์ ์์ธกํ๋ ๋ฐ ํ์ํ ๊ณ์ฐ ์๊ฐ์ ๋ํญ ๋จ์ถํ์ฌ ๊ณผํ์ ๋ฐ๊ฒฌ์ ๊ฐ์ํํ ์ ์์ด์. ์ด๋ ์ธ๋ฅ๊ฐ ์ง๋ฉดํ ๋์ ๋ฅผ ํด๊ฒฐํ๋ ๋ฐ AI๊ฐ ๋์ฑ ํต์ฌ์ ์ธ ์ญํ ์ ํ ์ ์๋๋ก ๋๋ ์ค์ํ ๋ฐ์ ์ด์์.
๋ํ, ๋ธ๋์ฐ์ ์์จ์ฃผํ, ๋ก๋ด ๊ณตํ, ์ฐ์
์๋ํ์ ๊ฐ์ ์ฃ์ง(Edge) AI ๋ถ์ผ์๋ ๊ฐ์ ์ ์ธ ์ํฅ์ ๋ฏธ์น ๊ฑฐ์์. ๋ธ๋์ฐ๋ก ํ๋ จ๋ ๋์ฑ ์ ๊ตํ๊ณ ํจ์จ์ ์ธ AI ๋ชจ๋ธ์ ์ฃ์ง ๋๋ฐ์ด์ค์ ์ต์ ํ๋ ํํ๋ก ๋ฐฐํฌ๋ ์ ์์ด์. ์ด๋ ์์จ์ฃผํ ์ฐจ๋์ด ์ฃผ๋ณ ํ๊ฒฝ์ ๋์ฑ ์ ํํ๊ฒ ์ธ์ํ๊ณ ํ๋จํ๊ฑฐ๋, ๋ก๋ด์ด ๋ณต์กํ ์์
์ ๋ณด๋ค ๋ฅ์ํ๊ฒ ์ํํ๋ ๋ฐ ํ์์ ์ธ ๊ธฐ๋ฐ ๊ธฐ์ ์ ์ ๊ณตํ์ฃ . ๋ธ๋์ฐ์ ๊ฐ๋ ฅํ AI ๋ชจ๋ธ์ ๊ฐ๋ฐํ๋ ๋ฐ ํ์ํ ‘๋๋’ ์ญํ ์ ํ๋ฉฐ, ์ด ๋๋๋ก ํ์ต๋ ์ง์์ด ์ฃ์ง ํ๊ฒฝ์์ ํ์ค ์ธ๊ณ์ ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๋ ๋ฐ ์ ์ฉ๋ ๊ฑฐ์์.
๊ฒฐ๊ณผ์ ์ผ๋ก ๋ธ๋์ฐ์ AI ๊ธฐ์ ์ ๋ฏผ์ฃผํ๋ฅผ ๊ฐ์ํํ ์ ์ฌ๋ ฅ์ ๊ฐ์ง๊ณ ์์ด์. ๋ ์ ์ ์์์ผ๋ก๋ ๊ฐ๋ ฅํ AI ๋ชจ๋ธ์ ํ๋ จํ๊ณ ์ด์ํ ์ ์๊ฒ ๋๋ฉด์, ์ค์๊ธฐ์
์ด๋ ์คํํธ์
๋ ์ฒจ๋จ AI ๊ธฐ์ ์ ๋ ์ฝ๊ฒ ์ ๊ทผํ ์ ์๊ฒ ๋ ๊ฑฐ์์. ์ด๋ AI ์ฐ์
์ ๊ฒฝ์์ ์ด์งํ๊ณ , ๋์ฑ ๋ค์ํ๊ณ ํ์ ์ ์ธ AI ์ ํ๋ฆฌ์ผ์ด์
์ ๋ฑ์ฅ์ ์ ๋ํ ๊ฒ์ด๋ฉฐ, ๊ถ๊ทน์ ์ผ๋ก AI๊ฐ ์ฌํ ์ ๋ฐ์ ๊ฑธ์ณ ๋์ฑ ํญ๋๊ฒ ํ์ฉ๋๋ ๋ฏธ๋๋ฅผ ์๋น๊ธธ ๊ฑฐ์์. ๋ธ๋์ฐ์ ๋จ์ํ ํ๋์จ์ด ์
๊ทธ๋ ์ด๋๊ฐ ์๋, AI ์๋์ ํจ๋ฌ๋ค์์ ๋ฐ๊ฟ ์ ๋ต์ ์ ํ์ ์ด ๋ ๊ฒ์ด๋ผ๊ณ ์์ํด์.
๋ธ๋์ฐ์ด ๊ฐ์ ธ์ฌ AI ์ฐ์
๋ณํ
| ์ํฅ ๋ถ์ผ |
์ฃผ์ ๋ณํ ๋ด์ฉ |
| ๊ฑฐ๋ ์ธ์ด ๋ชจ๋ธ (LLM) |
ํ๋ จ ์๊ฐ ๋จ์ถ, ๋ชจ๋ธ ๊ท๋ชจ ํ์ฅ, ์ค์๊ฐ ์ถ๋ก ์ฑ๋ฅ ํฅ์ |
| ๋ฐ์ดํฐ ์ผํฐ & ํด๋ผ์ฐ๋ |
์ ๋ ฅ ํจ์จ์ฑ ์ฆ๋, ๊ณต๊ฐ ์ ์ฝ, AI ์ธํ๋ผ ๋น์ฉ ์ ๊ฐ |
| ๊ณผํ ์ฐ๊ตฌ (HPC) |
๋ณต์กํ ์๋ฎฌ๋ ์ด์
๊ฐ์, ์ ์ฝ ๊ฐ๋ฐ, ๊ธฐํ ๋ชจ๋ธ๋ง ํ์ |
| ์ฃ์ง AI & ์์จ ์์คํ
|
๊ณ ์ฑ๋ฅ ๋ชจ๋ธ ํ์ต ๊ธฐ๋ฐ, ์ ๊ตํ ์์จ์ฃผํ ๋ฐ ๋ก๋ด ์์คํ
๊ตฌํ |
| AI ์ฐ์
์ ๋ฐ |
AI ๋ฏผ์ฃผํ ๊ฐ์, ์ ๊ท ๋น์ฆ๋์ค ๋ชจ๋ธ ์ฐฝ์ถ, ๊ฒฝ์ ์ด์ง |
๊ฒฝ์์ฌ ๋๋น ๋ธ๋์ฐ์ ์ฐจ๋ณ์
AI ์นฉ ์์ฅ์ ์๋น๋์๋ฟ๋ง ์๋๋ผ AMD, ์ธํ
, ๊ทธ๋ฆฌ๊ณ ์ฌ๋ฌ ์คํํธ์
๋ค์ด ์น์ดํ๊ฒ ๊ฒฝ์ํ๊ณ ์๋ ๋ถ์ผ์์. ํ์ง๋ง ์๋น๋์ ๋ธ๋์ฐ์ ๋ช ๊ฐ์ง ํต์ฌ์ ์ธ ์ฐจ๋ณ์ ์ ํตํด ์ด๋ฌํ ๊ฒฝ์ ์์์๋ ๋
๋ณด์ ์ธ ์์น๋ฅผ ์ฐจ์งํ๊ณ ์์ด์. ๊ฐ์ฅ ํฐ ์ฐจ์ด์ ์ ๋จ์ํ ํ๋์จ์ด ์ฑ๋ฅ์ ๋์ด์ ์๋น๋์์ ํตํฉ์ ์ธ ์ํ๊ณ ๊ตฌ์ถ ๋ฅ๋ ฅ์ด์์. ๋ธ๋์ฐ์ ๊ฐ๋ ฅํ ํ๋์จ์ด๋ฟ๋ง ์๋๋ผ, CUDA(Compute Unified Device Architecture) ํ๋ซํผ์ ์ค์ฌ์ผ๋ก ํ ๋ฐฉ๋ํ ์ํํธ์จ์ด ์คํ๊ณผ ๊ฐ๋ฐ ๋๊ตฌ๋ค์ ๊ธฐ๋ฐ์ผ๋ก ํด์. CUDA๋ ์ง๋ 15๋
์ด์ AI ๊ฐ๋ฐ์๋ค์๊ฒ ํ์ค์ผ๋ก ์๋ฆฌ ์ก์ ์์ผ๋ฉฐ, ์๋ง์ ํ๋ ์์ํฌ์ ๋ผ์ด๋ธ๋ฌ๋ฆฌ๊ฐ ์ด ์์ ๊ตฌ์ถ๋์ด ์์ฃ .
AMD์ Instinct ์๋ฆฌ์ฆ(์: MI300X)๋ ์ธํ
์ Gaudi ์๋ฆฌ์ฆ(์: Gaudi 3)๋ AI ์ฐ์ฐ์ ํนํ๋ ๊ฐ๋ ฅํ ์นฉ๋ค์ ์ถ์ํ๋ฉฐ ์๋น๋์๋ฅผ ์ถ๊ฒฉํ๊ณ ์์ด์. ์ด๋ค ์นฉ์ ํน์ ๋ฒค์น๋งํฌ์์๋ ์๋น๋์ GPU์ ์ ์ฌํ๊ฑฐ๋ ๋๋ก๋ ์ฐ์๋ฅผ ๋ณด์ด๋ ๊ฒฝ์ฐ๋ ์์ง๋ง, ์ํํธ์จ์ด ํธํ์ฑ๊ณผ ๊ฐ๋ฐ์ ์ปค๋ฎค๋ํฐ ์ธก๋ฉด์์๋ ์ฌ์ ํ ์๋น๋์๊ฐ ์๋์ ์ธ ์ฐ์๋ฅผ ์ ํ๊ณ ์์ด์. ์๋ก์ด ์ํคํ
์ฒ๋ฅผ ๊ฐ๋ฐํ๋ ๊ฒ๋ ์ค์ํ์ง๋ง, ๊ฐ๋ฐ์๋ค์ด ์ต์ํ๊ฒ ์ฌ์ฉํ ์ ์๋ ํ๊ฒฝ์ ์ ๊ณตํ๋ ๊ฒ์ AI ์ํ๊ณ์์ ๋งค์ฐ ์ค์ํ ์์์์. ๋ธ๋์ฐ์ ์ด๋ฌํ ์๋น๋์์ ๊ฐ๋ ฅํ ์ํํธ์จ์ด ์ฐ์๋ฅผ ๋์ฑ ๊ฐํํ๋ฉฐ, ๊ฐ๋ฐ์๋ค์ด ๋น ๋ฅด๊ฒ ์๋ก์ด ํ๋์จ์ด์ ์ฑ๋ฅ์ ํ์ฉํ ์ ์๋๋ก ๋๋ ์ญํ ์ ํ ๊ฑฐ์์.
๋ ๋ค๋ฅธ ์ค์ํ ์ฐจ๋ณ์ ์ ์๋น๋์์ ์์คํ
์์ค ์ ๊ทผ ๋ฐฉ์์ด์์. ๋ธ๋์ฐ์ ๋จ์ํ GPU ์นฉ์ ๋์ด, GB200 NVL72์ ๊ฐ์ ์ํผ์ปดํจํ
ํ๋ซํผ์ ํต์ฌ ๊ตฌ์ฑ ์์๋ก ์ค๊ณ๋์์ด์. ์ด๋ ์์ญ ๊ฐ์ GPU๋ฅผ ํ๋์ ๊ฑฐ๋ํ ์์คํ
์ผ๋ก ํตํฉํ์ฌ, ๋จ์ผ ์นฉ์ ์ฑ๋ฅ์ ๋ฐ์ด๋๋ ์ด๊ฑฐ๋ AI ๋ชจ๋ธ ํ๋ จ์ ๊ฐ๋ฅํ๊ฒ ํ์ฃ . ๊ฒฝ์์ฌ๋ค๋ ๋ฉํฐ ์นฉ ์๋ฃจ์
์ ์ ๊ณตํ์ง๋ง, ์๋น๋์๋งํผ ๊ธด๋ฐํ๊ฒ ํตํฉ๋๊ณ ์ต์ ํ๋ ํ๋์จ์ด์ ์ํํธ์จ์ด ์คํ์ ์ ๊ณตํ๋ ๊ฒฝ์ฐ๋ ๋๋ฌผ์ด์. ์ด๋ฌํ ์์คํ
ํตํฉ ๋ฅ๋ ฅ์ ๋ธ๋์ฐ์ด ์ ๊ณตํ๋ 30๋ฐฐ ์ฑ๋ฅ ํฅ์์ด ์ด๋ก ์ ์ธ ์์น๊ฐ ์๋๋ผ ์ค์ ๋ฐ์ดํฐ ์ผํฐ ํ๊ฒฝ์์ ๊ตฌํ๋ ์ ์๋๋ก ํ๋ ์ค์ํ ๊ธฐ๋ฐ์ด ๋์ด์.
์๋น๋์๋ ๋ํ AI ์นฉ ์ค๊ณ์์ ์ ๋จ ๊ณต์ ๊ธฐ์ ๊ณผ ๊ณ ๊ธ ํจํค์ง ๊ธฐ์ ์ ์ ๊ทน์ ์ผ๋ก ํ์ฉํด์. ๋ธ๋์ฐ์ ์ ์ฉ๋ ์ต์ ๊ณต์ ๊ณผ CoWoS ๊ฐ์ ์นฉ ํจํค์ง ๊ธฐ์ ์ ์นฉ ๋น ๋ ๋ง์ ํธ๋์ง์คํฐ๋ฅผ ์ง์ ํ๊ณ , ์นฉ๋ ๊ฐ์ ํต์ ํจ์จ์ ๊ทน๋ํํ๋ฉฐ, ์ ๋ ฅ ํจ์จ์ฑ์ ๋์ด๋ ๋ฐ ๊ธฐ์ฌํด์. ์ด๋ฌํ ๊ธฐ์ ๋ ฅ์ ๊ฒฝ์์ฌ๋ค์ด ๋จ๊ธฐ๊ฐ์ ๋ฐ๋ผ์ก๊ธฐ ์ด๋ ค์ด ์ง์
์ฅ๋ฒฝ์ผ๋ก ์์ฉํ๊ณ ์์ด์. ์นฉ ์์ฐ๊ณผ์ ์์์ ๋
ธํ์ฐ, ๊ณต๊ธ๋ง ๊ด๋ฆฌ ๋ฅ๋ ฅ ๋ํ ์๋น๋์๊ฐ ์์ฅ ๋ฆฌ๋์ญ์ ์ ์งํ๋ ๋ฐ ์ค์ํ ์ญํ ์ ํด์.
๋ง์ง๋ง์ผ๋ก, ์๋น๋์๋ AI ์นฉ ์์ฅ์์ ์ค๋ ๊ธฐ๊ฐ ์์์จ ๊ฒฝํ๊ณผ ์ ๋ก๋ฅผ ๊ฐ์ง๊ณ ์์ด์. ๋ฅ๋ฌ๋ ์ด๊ธฐ๋ถํฐ GPU๋ฅผ AI ์ฐ์ฐ์ ์ต์ ํํ๋ ๋ฐ ์ง์คํด ์์ผ๋ฉฐ, ์ด ๊ณผ์ ์์ ์ป์ ๊น์ ์ดํด์ ํต์ฐฐ๋ ฅ์ด ๋ธ๋์ฐ๊ณผ ๊ฐ์ ํ์ ์ ์ธ ์ํคํ
์ฒ๋ฅผ ํ์์ํค๋ ๋ฐ๊ฑฐ๋ฆ์ด ๋์์ด์. ๋จ์ํ ํ๋์จ์ด ์คํ ๊ฒฝ์์ ๋์ด, ์ค์ AI ์ํฌ๋ก๋์์ ์ต์ ์ ์ฑ๋ฅ์ ๋์ด๋ด๊ธฐ ์ํ ๋ฏธ์ธํ ์กฐ์ ๊ณผ ์ค๊ณ ์ต์ ํ๋ ์๋น๋์๊ฐ ๊ฐ์ง ๋
๋ณด์ ์ธ ๊ฒฝ์๋ ฅ์ด๋ผ๊ณ ํ ์ ์์ด์. ๋ธ๋์ฐ์ ์ด๋ฌํ ๋ชจ๋ ์์๊ฐ ๊ฒฐํฉ๋ ์๋น๋์์ ๊ฒฐ์ ์ฒด์ด๋ฉฐ, AI ์๋๋ฅผ ๋์ฑ ๊ฐ์ํํ ์ฃผ์ ๋๋ ฅ์ผ๋ก ์๋ฆฌ๋งค๊นํ ๊ฑฐ์์.
๊ฒฝ์์ฌ ๋๋น ๋ธ๋์ฐ์ ์ฐจ๋ณ์
| ์ฐจ๋ณ์ |
์ธ๋ถ ๋ด์ฉ |
| ํตํฉ ์ํํธ์จ์ด ์ํ๊ณ |
CUDA ํ๋ซํผ ๊ธฐ๋ฐ์ ๋ฐฉ๋ํ ๊ฐ๋ฐ ๋๊ตฌ, ๋ผ์ด๋ธ๋ฌ๋ฆฌ, ํ๋ ์์ํฌ ์ง์ |
| ์์คํ
์์ค ํตํฉ |
GB200 NVL72์ ๊ฐ์ ์ํผ์ปดํจํ
ํ๋ซํผ์ผ๋ก์ ๊ธด๋ฐํ ํ๋์จ์ด-์ํํธ์จ์ด ํตํฉ |
| ์ ๋จ ๊ณต์ ๋ฐ ํจํค์ง ๊ธฐ์ |
์ต์ ์นฉ ์ ์กฐ ๊ณต์ ๊ณผ CoWoS ๋ฑ ๊ณ ๊ธ ํจํค์ง ๊ธฐ์ ๋ก ์ฑ๋ฅ ๋ฐ ํจ์จ ๊ทน๋ํ |
| AI ์ํฌ๋ก๋ ์ต์ ํ |
์ค๋ ๊ฒฝํ๊ณผ ํต์ฐฐ๋ ฅ ๊ธฐ๋ฐ์ ์ค์ AI ์ํฌ๋ก๋์ ๋ํ ์ฌ์ธต์ ์ต์ ํ ์ค๊ณ |
| ๊ธ๋ก๋ฒ ๊ณต๊ธ๋ง ๋ฆฌ๋์ญ |
์์ ์ ์ธ ์นฉ ์์ฐ ๋ฐ ๊ณต๊ธ๋ง ๊ด๋ฆฌ ๋ฅ๋ ฅ์ผ๋ก ์์ฅ ์์์ ๋์ |
๋ธ๋์ฐ ์๋, ๋ฏธ๋ AI ์ํ๊ณ ์ ๋ง
์๋น๋์ ๋ธ๋์ฐ ์ํคํ
์ฒ์ ๋ฑ์ฅ์ ๋ฏธ๋ AI ์ํ๊ณ์ ๋ฐฉํฅ์ ๊ฒฐ์ ํ๋ ์ค์ํ ์ด์ ํ๊ฐ ๋ ๊ฑฐ์์. ๋ธ๋์ฐ์ ๋จ์ํ GPU๋ฅผ ๋์ด, ์ฐจ์ธ๋ AI๋ฅผ ์ํ ํตํฉ ์ปดํจํ
ํ๋ซํผ์ ์ฒญ์ฌ์ง์ ์ ์ํ๊ณ ์๋ค๊ณ ์๊ฐํด์. ์์ผ๋ก AI ๊ธฐ์ ์ ๋์ฑ ๋น ๋ฅด๊ฒ ๋ฐ์ ํ ๊ฒ์ด๊ณ , ์ด๋ฅผ ๋ท๋ฐ์นจํ ํ๋์จ์ด์ ์ํํธ์จ์ด์ ๊ธด๋ฐํ ํตํฉ์ ๋์ฑ ์ค์ํด์ง ๊ฑฐ์์. ๋ธ๋์ฐ์ ์ด๋ฌํ ์๊ตฌ์ ๋ถ์ํ๋ฉฐ AI ๋ชจ๋ธ์ ๋ณต์ก์ฑ๊ณผ ๊ท๋ชจ๋ฅผ ํ ์ฐจ์ ๋ ๋์ด์ฌ๋ฆฌ๋ ์ญํ ์ ํ ๊ฑฐ์์.
๋ธ๋์ฐ ์๋์๋ AI ๋ชจ๋ธ์ '๊ท๋ชจ์ ๊ฒฝ์ '๊ฐ ๋์ฑ ๊ทน๋ํ๋ ๊ฑฐ์์. ์ ์ ์์ ๊ฐ๋ ฅํ ๋ธ๋์ฐ GPU ํด๋ฌ์คํฐ๋ก๋ ๊ธฐ์กด๋ณด๋ค ํจ์ฌ ํฐ ๋ชจ๋ธ์ ํจ์จ์ ์ผ๋ก ํ๋ จํ ์ ์๊ฒ ๋๋ฉด์, ์ฐ๊ตฌ์๋ค์ ๋์ฑ ๊ณผ๊ฐํ ์๋๋ฅผ ํ ์ ์์ ๊ฒ์ด๊ณ , ์ด๋ ์๋ก์ด AI ์๊ณ ๋ฆฌ์ฆ๊ณผ ์ ํ๋ฆฌ์ผ์ด์
์ ๋ฑ์ฅ์ ์ด์งํ ๊ฑฐ์์. ์๋ฅผ ๋ค์ด, ํ์ฌ GPT-4์ ๊ฐ์ ๋ชจ๋ธ์ ํ๊ณ๋ฅผ ๋ฐ์ด๋๋ ๋ฉํฐ๋ชจ๋ฌ(Multimodal) AI, ์ฆ ํ
์คํธ, ์ด๋ฏธ์ง, ์ค๋์ค, ๋น๋์ค ๋ฑ ๋ค์ํ ๋ฐ์ดํฐ๋ฅผ ๋์์ ์ดํดํ๊ณ ์์ฑํ๋ AI์ ๊ฐ๋ฐ์ด ๊ฐ์ํ๋ ๊ฒ์ผ๋ก ์์๋ผ์. ๋ธ๋์ฐ์ ์ด๋ฌํ ๋ณตํฉ์ ์ธ AI ๋ชจ๋ธ์ด ์๊ตฌํ๋ ๋ฐฉ๋ํ ์ฐ์ฐ๊ณผ ๋ฐ์ดํฐ ์ฒ๋ฆฌ ๋ฅ๋ ฅ์ ์ ๊ณตํ ๊ฑฐ์์.
๋ํ, ๋ธ๋์ฐ์ AI ๋ชจ๋ธ์ '์ ๊ทผ์ฑ'์ ๋์ด๋ ๋ฐ ๊ธฐ์ฌํ ๊ฑฐ์์. ํ์ฌ ์ต์ฒจ๋จ AI ๋ชจ๋ธ์ ํ๋ จํ๊ณ ์ด์ํ๋ ๊ฒ์ ์์ฒญ๋ ๋น์ฉ๊ณผ ๊ธฐ์ ์ ๋
ธํ์ฐ๋ฅผ ์๊ตฌํ์ฃ . ํ์ง๋ง ๋ธ๋์ฐ์ด ์ ๊ณตํ๋ ์๋์ง ํจ์จ์ฑ๊ณผ ์ฑ๋ฅ ํฅ์์ ์ด๋ฌํ ์ฅ๋ฒฝ์ ๋ฎ์ถ๋ ๋ฐ ๋์์ด ๋ ๊ฑฐ์์. ํด๋ผ์ฐ๋ ์๋น์ค ์ ๊ณต์
์ฒด๋ค์ด ๋ธ๋์ฐ ๊ธฐ๋ฐ์ ์ธํ๋ผ๋ฅผ ๋์
ํ๋ฉด์, ๋ ๋ง์ ๊ฐ๋ฐ์์ ๊ธฐ์
๋ค์ด ํฉ๋ฆฌ์ ์ธ ๋น์ฉ์ผ๋ก ๊ณ ์ฑ๋ฅ AI ์ปดํจํ
์ ์ ๊ทผํ ์ ์๊ฒ ๋ ๊ฑฐ์์. ์ด๋ AI ์ฐ์
์ '๋ฏผ์ฃผํ'๋ฅผ ๊ฐ์ํํ๊ณ , AI ๊ธฐ์ ์ด ํน์ ๋๊ธฐ์
์ ๊ตญํ๋์ง ์๊ณ ์ฌํ ์ ๋ฐ์ ๊ฑธ์ณ ํ์ฐ๋๋ ๋ฐ ์ค์ํ ์ญํ ์ ํ ๊ฒ์ผ๋ก ๋ณด์ฌ์.
๋ฏธ๋ AI ์ํ๊ณ์์ ์๋น๋์์ ์ญํ ์ ๋์ฑ ํ๋๋ ๊ฒ์ผ๋ก ์ ๋ง๋ผ์. ํ๋์จ์ด ํ๋งค๋ฅผ ๋์ด, CUDA์ ๊ฐ์ ์ํํธ์จ์ด ํ๋ซํผ, ๊ทธ๋ฆฌ๊ณ AI ์์ง๋์ด๋ง ์๋น์ค ์ ๊ณต๊น์ง ์์ฐ๋ฅด๋ ํฌ๊ด์ ์ธ AI ์๋ฃจ์
์ ๊ณต์๋ก ์งํํ ๊ฐ๋ฅ์ฑ์ด ์ปค์. ๋ธ๋์ฐ์ ์ด๋ฌํ ์๋น๋์์ ๋น์ ์ ์คํํ๊ธฐ ์ํ ํต์ฌ ๋๋ ฅ์ด ๋ ๊ฑฐ์์. ๋ํ, AI ์นฉ ์ค๊ณ์ ๋ณต์ก์ฑ์ด ์ฆ๊ฐํจ์ ๋ฐ๋ผ, ์นฉ ์ค๊ณ์ฌ์ ํ์ด๋๋ฆฌ, ๊ทธ๋ฆฌ๊ณ ์ต์ข
์ฌ์ฉ์ ๊ฐ์ ๊ธด๋ฐํ ํ๋ ฅ ๊ด๊ณ๋ ๋์ฑ ์ค์ํด์ง ๊ฑฐ์์. ์๋น๋์๋ ์ด ์ํ๊ณ์ ์ค์ฌ์์ ๋ค์ํ ํํธ๋๋ค๊ณผ ํจ๊ป AI์ ๋ฏธ๋๋ฅผ ๋ง๋ค์ด๋๊ฐ ๊ฒ์ผ๋ก ์์๋ผ์.
๋ฌผ๋ก , ๋ธ๋์ฐ ์๋์๋ ๋์ ๊ณผ์ ๋ ์กด์ฌํด์. AI ๊ธฐ์ ์ ๊ธ์ํ ๋ฐ์ ์ ์ค๋ฆฌ์ ๋ฌธ์ , ๋ฐ์ดํฐ ํ๋ผ์ด๋ฒ์, ๊ทธ๋ฆฌ๊ณ ์๋์ง ์๋น ์ฆ๊ฐ์ ๊ฐ์ ์๋ก์ด ์ฌํ์ ๋
ผ์๋ฅผ ์ด๋ฐํ ์ ์์ด์. ์๋น๋์๋ ๊ธฐ์ ํ์ ๊ณผ ํจ๊ป ์ด๋ฌํ ์ฌํ์ ์ฑ
์์๋ ๊ท๋ฅผ ๊ธฐ์ธ์ฌ์ผ ํ ๊ฑฐ์์. ํ์ง๋ง ๋ถ๋ช
ํ ๊ฒ์, ๋ธ๋์ฐ์ด ์ธ๊ณต์ง๋ฅ์ด ์ธ๊ฐ ์ฌํ์ ๋ฏธ์น๋ ์ํฅ๋ ฅ์ ๋์ฑ ํ๋ํ๊ณ , ์ฐ๋ฆฌ๊ฐ ์์ํ ์ ์์๋ ์๋ก์ด ๊ฐ๋ฅ์ฑ์ ์ด์ด์ค ๊ฒ์ด๋ผ๋ ์ ์ด์์. ์ฐ๋ฆฌ๋ ์ง๊ธ ๋ธ๋์ฐ๊ณผ ํจ๊ป AI์ ๋ค์ ์๋๋ฅผ ๋ง์ดํ๊ณ ์๋ ์ค์ํ ์ ํ์ ์ ์ ์๋ ์
์ด์์.
๋ธ๋์ฐ ์๋ ๋ฏธ๋ AI ์ํ๊ณ ์ ๋ง
| ์ ๋ง ์์ญ |
์ฃผ์ ๋ณํ ๋ฐ ๋ฐ์ |
| AI ๋ชจ๋ธ ๋ฐ์ |
์ด๋๊ท๋ชจ ๋ฉํฐ๋ชจ๋ฌ AI, ๋์ฑ ๋ณต์กํ๊ณ ์ ๊ตํ ๋ชจ๋ธ ๊ฐ๋ฐ ๊ฐ์ํ |
| AI ์ปดํจํ
์ ๊ทผ์ฑ |
๊ณ ์ฑ๋ฅ AI ์ธํ๋ผ ๋น์ฉ ํจ์จํ, AI ๊ธฐ์ ๋ฏผ์ฃผํ ๊ฐ์ |
| ์๋น๋์์ ์ญํ |
ํ๋์จ์ด, ์ํํธ์จ์ด, ์๋น์ค ์์ฐ๋ฅด๋ ํตํฉ AI ์๋ฃจ์
์ ๊ณต์๋ก ์งํ |
| ์ฐ์
๊ฐ ํ๋ ฅ |
์นฉ ์ค๊ณ์ฌ, ํ์ด๋๋ฆฌ, ํด๋ผ์ฐ๋ ๊ธฐ์
, ๊ฐ๋ฐ์ ๊ฐ ๊ธด๋ฐํ ํ์
์ฆ๋ |
| ์ฌํ์ ์ํฅ |
AI ์ค๋ฆฌ, ๋ฐ์ดํฐ ํ๋ผ์ด๋ฒ์ ๋ฑ ์๋ก์ด ์ฌํ์ ๋
ผ์ ์ฌํ ๋ฐ ์ค์์ฑ ์ฆ๋ |
❓ ์์ฃผ ๋ฌป๋ ์ง๋ฌธ (FAQ)
Q1. ์๋น๋์ ๋ธ๋์ฐ ์ํคํ
์ฒ๋ ๋ฌด์์ด์์?
A1. ๋ธ๋์ฐ ์ํคํ
์ฒ๋ ์๋น๋์๊ฐ ์ธ๊ณต์ง๋ฅ ๋ฐ ๊ณ ์ฑ๋ฅ ์ปดํจํ
(HPC) ์ํฌ๋ก๋๋ฅผ ์ํด ๊ฐ๋ฐํ ์ต์ GPU ์ํคํ
์ฒ์์. ํธํผ ์ํคํ
์ฒ์ ํ์์์ผ๋ก, ์ ๋ก ์๋ AI ์ฐ์ฐ ์ฑ๋ฅ๊ณผ ํจ์จ์ฑ์ ์ ๊ณตํ๋๋ก ์ค๊ณ๋์์ด์.
Q2. ๋ธ๋์ฐ์ด AI ์ฐ์ฐ ์ฑ๋ฅ์ ์ผ๋ง๋ ํฅ์์์ผ์?
A2. ํน์ AI ์ํฌ๋ก๋(์: ๋๊ท๋ชจ ์ธ์ด ๋ชจ๋ธ ํ๋ จ ๋ฐ ์ถ๋ก )์์ ์ด์ ์ธ๋ ๋๋น ์ต๋ 30๋ฐฐ์ ์ฑ๋ฅ ํฅ์์ ์ ๊ณตํ๋ค๊ณ ์๋น๋์๋ ๋ฐํํ์ด์.
Q3. ๋ธ๋์ฐ ์ํคํ
์ฒ์ ํต์ฌ์ ์ธ ๊ธฐ์ ํ์ ์ ๋ฌด์์ด์์?
A3. ์ฃผ์ ํ์ ์ผ๋ก๋ ์นฉ๋ ๋์์ธ (๋ ๊ฐ์ GPU ๋ค์ด ํตํฉ), 5์ธ๋ NVLink, 2์ธ๋ ํธ๋์คํฌ๋จธ ์์ง, HBM3e ๋ฉ๋ชจ๋ฆฌ, ๊ทธ๋ฆฌ๊ณ ํฅ์๋ Tensor Cores ๋ฑ์ด ์์ด์.
Q4. ๋ธ๋์ฐ์ '๋ฐ์ดํฐ ์นฉ'์ด๋ผ๋ ํํ์ ๋ฌด์์ ์๋ฏธํด์?
A4. '๋ฐ์ดํฐ ์นฉ'์ ๋จ์ํ ์ฐ์ฐ ์ฅ์น๋ฅผ ๋์ด, ๋ฐ์ดํฐ์ ์์ฑ, ์ฒ๋ฆฌ, ์ ์ฅ, ์ด๋ ๋ฑ AI ์ํฌ๋ก๋์ ๋ชจ๋ ๋ฐ์ดํฐ ํ๋ฆ์ ์ต์ ํํ๋๋ก ์ค๊ณ๋ ํตํฉ ์ปดํจํ
์๋ฃจ์
์ ์๋ฏธํด์.
Q5. HBM3e ๋ฉ๋ชจ๋ฆฌ๊ฐ ๋ธ๋์ฐ ์ฑ๋ฅ์ ์ด๋ป๊ฒ ๊ธฐ์ฌํด์?
A5. HBM3e๋ ์ด๊ณ ๋์ญํญ ๋ฉ๋ชจ๋ฆฌ๋ก, GPU ์ฝ์ด๊ฐ ๋ฐ์ดํฐ๋ฅผ ๊ธฐ๋ค๋ฆฌ๋ ์๊ฐ์ ์ต์ํํ๊ณ ๋๊ท๋ชจ AI ๋ชจ๋ธ์ ๋ฐฉ๋ํ ๋ฐ์ดํฐ๋ฅผ ๋น ๋ฅด๊ฒ ์ฒ๋ฆฌํ ์ ์๋๋ก ๋์์ค์.
Q6. NVLink๋ ๋ธ๋์ฐ์์ ์ด๋ค ์ญํ ์ ํด์?
A6. 5์ธ๋ NVLink๋ ์ฌ๋ฌ ๋ธ๋์ฐ GPU ๊ฐ์ ์ด๊ณ ์ ํต์ ์ ๊ฐ๋ฅํ๊ฒ ํ์ฌ, ์๋ฐฑ ๊ฐ์ GPU๋ฅผ ๋ง์น ํ๋์ ๊ฑฐ๋ํ GPU์ฒ๋ผ ์๋์์ผ ๋๊ท๋ชจ AI ๋ชจ๋ธ์ ๋ณ๋ ฌ ์ฒ๋ฆฌ๋ฅผ ๊ทน๋ํํด์.
์๋น๋์ ๋ธ๋์ฐ, AI ํ๋ช
์ ์๋ก์ด ์ฌ์ฅ
Q7. 2์ธ๋ ํธ๋์คํฌ๋จธ ์์ง์ ๋ฌด์์ด ๊ฐ์ ๋์์ด์?
A7. 2์ธ๋ ํธ๋์คํฌ๋จธ ์์ง์ ์ ๋ฐ๋๋ฅผ ์๋์ผ๋ก ์กฐ์ ํ๋ ๊ธฐ๋ฅ์ ํฌํจํ์ฌ, FP8 ๋ฐ FP4์ ๊ฐ์ ์ ์ ๋ฐ๋ ์ฐ์ฐ์ ๋์ฑ ํจ์จ์ ์ผ๋ก ์ฒ๋ฆฌํ๋ฉด์๋ ๋ชจ๋ธ์ ์ ํ๋๋ฅผ ์ ์งํ ์ ์๋๋ก ๊ฐ์ ๋์์ด์.
Q8. ๋ธ๋์ฐ ์ํคํ
์ฒ๋ ์ธ์ ์ถ์๋ ์์ ์ด์์?
A8. ์๋น๋์๋ ๋ธ๋์ฐ ๊ธฐ๋ฐ ์ ํ๋ค์ 2024๋
ํ๋ฐ๋ถํฐ ์์ฐจ์ ์ผ๋ก ์์ฅ์ ์ ๋ณด์ผ ๊ฒ์ผ๋ก ์์๋ผ์.
Q9. ๋ธ๋์ฐ์ด ๊ฐ์ฅ ํฐ ์ํฅ์ ๋ฏธ์น AI ๋ถ์ผ๋ ์ด๋๋ผ๊ณ ์๊ฐํด์?
A9. ๋๊ท๋ชจ ์ธ์ด ๋ชจ๋ธ(LLM) ๋ฐ ์์ฑํ AI ๋ถ์ผ์ ๊ฐ์ฅ ํฐ ์ํฅ์ ๋ฏธ์ณ, ํ๋ จ ์๊ฐ ๋จ์ถ, ๋ชจ๋ธ ๊ท๋ชจ ํ์ฅ, ์ค์๊ฐ ์ถ๋ก ์ฑ๋ฅ ํฅ์์ ์ด๋์ด๋ผ ๊ฒ์ผ๋ก ์์ํด์.
Q10. ๋ฐ์ดํฐ ์ผํฐ์ ์๋์ง ํจ์จ์ฑ์ ์ด๋ค ๊ธฐ์ฌ๋ฅผ ํด์?
A10. ๋ธ๋์ฐ์ ๊ธฐ์กด๋ณด๋ค ์ ์ ์์ GPU๋ก๋ ๋ ๋์ ์ฑ๋ฅ์ ์ ๊ณตํ์ฌ, ๋ฐ์ดํฐ ์ผํฐ์ ์ ๋ ฅ ์๋น๋๊ณผ ๊ณต๊ฐ ์ ์ ์จ์ ์ค์ด๋ ๋ฐ ๊ธฐ์ฌํด ์๋์ง ํจ์จ์ฑ์ ๋์ผ ๊ฑฐ์์.
Q11. ๋ธ๋์ฐ์ ์์จ์ฃผํ ๊ธฐ์ ๋ฐ์ ์ ์ด๋ค ๋์์ ์ค ์ ์์ด์?
A11. ๋ธ๋์ฐ๋ก ํ๋ จ๋ ๋์ฑ ์ ๊ตํ๊ณ ํจ์จ์ ์ธ AI ๋ชจ๋ธ์ ์์จ์ฃผํ ์ฐจ๋์ด ์ฃผ๋ณ ํ๊ฒฝ์ ์ ํํ๊ฒ ์ธ์ํ๊ณ ํ๋จํ๋ ๋ฐ ํ์ํ ๊ธฐ๋ฐ ๊ธฐ์ ์ ์ ๊ณตํ ๊ฑฐ์์.
Q12. ์๋น๋์์ CUDA ํ๋ซํผ์ด ๋ธ๋์ฐ์๊ฒ ์ค์ํ ์ด์ ๋ ๋ฌด์์ด์์?
A12. CUDA๋ ์๋น๋์์ ๊ฐ๋ ฅํ ์ํํธ์จ์ด ์ํ๊ณ๋ก, ๋ธ๋์ฐ ํ๋์จ์ด์ ์ฑ๋ฅ์ ์ต๋ํ ๋์ด๋ด๊ณ ๊ฐ๋ฐ์๋ค์ด ์ฝ๊ฒ AI ์ ํ๋ฆฌ์ผ์ด์
์ ๊ฐ๋ฐํ๊ณ ๋ฐฐํฌํ ์ ์๋๋ก ์ง์ํ๋ ํต์ฌ์ ์ธ ์ญํ ์ ํด์.
Q13. ๋ธ๋์ฐ์ด AI ์ฐ๊ตฌ ๊ฐ๋ฐ ๋น์ฉ์ ์ค์ด๋ ๋ฐ ๋์์ด ๋๋์?
A13. ๋ค, ํ๋ จ ์๊ฐ ๋จ์ถ๊ณผ ์๋์ง ํจ์จ์ฑ ์ฆ๊ฐ๋ AI ์ธํ๋ผ ๋ฐ ์ด์ ๋น์ฉ์ ์ ๊ฐํ์ฌ, ๊ฒฐ๊ณผ์ ์ผ๋ก AI ์ฐ๊ตฌ ๊ฐ๋ฐ ๋น์ฉ์ ์ค์ด๋ ๋ฐ ๋์์ด ๋ ๊ฑฐ์์.
Q14. ๊ฒฝ์์ฌ(AMD, ์ธํ
๋ฑ) ์นฉ ๋๋น ๋ธ๋์ฐ์ ์ฃผ์ ๊ฐ์ ์ ๋ฌด์์ด์์?
A14. ๋ธ๋์ฐ์ ์๋์ ์ธ ํ๋์จ์ด ์ฑ๋ฅ๊ณผ ๋๋ถ์ด, ์๋น๋์์ ๊ฐ๋ ฅํ ์ํํธ์จ์ด ์ํ๊ณ(CUDA), ์์คํ
์์ค์ ํตํฉ ์๋ฃจ์
, ์ ๋จ ๊ณต์ ๊ธฐ์ , ๊ทธ๋ฆฌ๊ณ ์ค๋ AI ์นฉ ๊ฐ๋ฐ ๊ฒฝํ์ ํตํด ์ฐจ๋ณ์ ์ ๊ฐ์ ธ์.
Q15. ๋ธ๋์ฐ์ ๋ฉํฐ๋ชจ๋ฌ AI ๊ฐ๋ฐ์ ์ด๋ค ์ํฅ์ ์ค๊น์?
A15. ๋ฉํฐ๋ชจ๋ฌ AI๋ ํ
์คํธ, ์ด๋ฏธ์ง ๋ฑ ๋ค์ํ ๋ฐ์ดํฐ๋ฅผ ์ฒ๋ฆฌํ๋ฏ๋ก ๋ฐฉ๋ํ ์ฐ์ฐ ๋ฅ๋ ฅ์ด ํ์ํ๋ฐ, ๋ธ๋์ฐ์ ์ด๋ฌํ ์๊ตฌ๋ฅผ ์ถฉ์กฑ์์ผ ๋ฉํฐ๋ชจ๋ฌ AI์ ๊ฐ๋ฐ๊ณผ ๊ณ ๋ํ๋ฅผ ๊ฐ์ํํ ๊ฑฐ์์.
Q16. GB200 ์ํผ์นฉ์ ๋ฌด์์ด๋ฉฐ, ์ ์ค์ํ๊ฐ์?
A16. GB200 ์ํผ์นฉ์ ๋ ๊ฐ์ ๋ธ๋์ฐ GPU ๋ค์ด๋ฅผ ํ๋์ ํจํค์ง๋ก ํตํฉํ ๊ฒ์ผ๋ก, ์นฉ๋ ๋์์ธ๊ณผ CoWoS ํจํค์ง ๊ธฐ์ ์ ํตํด ๋จ์ผ ์นฉ์ ํ๊ณ๋ฅผ ๋์ด์ ์ฑ๋ฅ๊ณผ ํจ์จ์ฑ์ ์ ๊ณตํด์.
Q17. ๋ธ๋์ฐ์ด ์ง์ํ๋ ์ฃผ์ ๋ฐ์ดํฐ ํ์
์ ๋ฌด์์ด์์?
A17. ๋ธ๋์ฐ์ FP64, TF32, FP16, BF16, FP8, FP4 ๋ฑ ๋ค์ํ ๋ถ๋ ์์์ ๋ฐ ์ ์ ๋ฐ์ดํฐ ํ์
์ ์ง์ํ์ฌ ํญ๋์ AI ์ํฌ๋ก๋์ ์ต์ ํ๋์ด ์์ด์.
Q18. ๋ธ๋์ฐ ์ํคํ
์ฒ๊ฐ ์ ๋ ฅ ์๋ชจ๋ฅผ ์ค์ด๋ ๋ฐ ๋์์ด ๋๋์?
A18. ๋ค, 2์ธ๋ ํธ๋์คํฌ๋จธ ์์ง์ ์ ์ ๋ฐ๋ ์ฐ์ฐ ํจ์จ์ฑ ๊ฐ์ ๊ณผ ์ ๋ฐ์ ์ธ ์ํคํ
์ฒ ์ต์ ํ๋ฅผ ํตํด ํน์ ์ฑ๋ฅ๋น ์ ๋ ฅ ์๋ชจ๋ฅผ ์ค์ด๋ ๋ฐ ๊ธฐ์ฌํ ๊ฑฐ์์.
Q19. ๋ธ๋์ฐ์ ์ด๋ค ์ฐ์
๋ถ์ผ์ ํนํ ์ ์ฉํ ๊น์?
A19. ํด๋ผ์ฐ๋ ์ปดํจํ
, ๋ฐ์ดํฐ ์ผํฐ, ๊ณผํ ์ฐ๊ตฌ(HPC), ๊ธ์ต ์๋น์ค, ํฌ์ค์ผ์ด, ์ ์กฐ ๋ฑ ๊ณ ์ฑ๋ฅ AI ์ฐ์ฐ์ด ํ์ํ ๋ชจ๋ ์ฐ์
๋ถ์ผ์ ์ ์ฉํด์.
Q20. ๋ธ๋์ฐ ๊ธฐ๋ฐ ์์คํ
๊ตฌ์ถ ์ ๊ณ ๋ คํด์ผ ํ ์ ์ ๋ฌด์์ด์์?
A20. ์ด๊ธฐ ํฌ์ ๋น์ฉ, ๊ธฐ์กด ์ธํ๋ผ์์ ํธํ์ฑ, ์ ๋ ฅ ๋ฐ ๋๊ฐ ์ค๋น ์
๊ทธ๋ ์ด๋ ์ฌ๋ถ, ๊ทธ๋ฆฌ๊ณ ํ์ํ AI ์ํฌ๋ก๋์ ๋ง๋ ์์คํ
๊ตฌ์ฑ ๋ฑ์ ๊ณ ๋ คํด์ผ ํด์.
Q21. ๋ธ๋์ฐ์ ์๊ท๋ชจ AI ๊ฐ๋ฐํ์๊ฒ๋ ๋์์ด ๋ ๊น์?
A21. ์ง์ ์ ์ธ ํ๋์จ์ด ๊ตฌ๋งค๋ ๋ถ๋ด์ค๋ฌ์ธ ์ ์์ง๋ง, ๋ธ๋์ฐ ๊ธฐ๋ฐ์ ํด๋ผ์ฐ๋ ์๋น์ค๊ฐ ํ์ฐ๋๋ฉด ์๊ท๋ชจ ํ๋ ๊ณ ์ฑ๋ฅ AI ์ปดํจํ
์ ๋ ์ฝ๊ฒ ์ ๊ทผํ ์ ์๊ฒ ๋ ๊ฑฐ์์.
Q22. ๋ธ๋์ฐ์ด AI ๋ชจ๋ธ ํ๋ จ ์ ๋ฐ์ํ ์ ์๋ ์ค๋ฅ๋ฅผ ์ด๋ป๊ฒ ๊ด๋ฆฌํด์?
A22. ๋ธ๋์ฐ์ ๊ฐํ๋ RAS(Reliability, Availability, Serviceability) ๊ธฐ๋ฅ์ ํตํด ์นฉ ์์ค์์ ์ค๋ฅ๋ฅผ ๊ฐ์งํ๊ณ ๋ณต๊ตฌํ์ฌ, ์ฅ์๊ฐ์ ๊ณ ๋ถํ AI ํ๋ จ ์์
์์๋ ๋์ ์์ ์ฑ์ ์ ์งํ๋๋ก ์ค๊ณ๋์์ด์.
Q23. ์๋น๋์์ ์ฐจ์ธ๋ GPU ๋ค์ด๋ฐ ๊ท์น์ ๋ฌด์์ธ๊ฐ์?
A23. ์๋น๋์๋ ์ญ์ฌ์ ์ผ๋ก ์ ๋ช
ํ ๊ณผํ์๋ค์ ์ด๋ฆ์ ๋ฐ์ GPU ์ํคํ
์ฒ ์ด๋ฆ์ ์ง๋ ์ ํต์ ๊ฐ์ง๊ณ ์์ด์. '๋ธ๋์ฐ'์ ์ํ์์ด์ ํต๊ณํ์์ธ ๋ฐ์ด๋น๋ ๋ธ๋์ฐ์ ์ด๋ฆ์์ ๋ฐ์จ ๊ฑฐ์์.
Q24. ๋ธ๋์ฐ์ด ๊ธฐ์กด ํธํผ GPU์ ์๋ฒฝํ๊ฒ ํธํ๋๋์?
A24. ์๋น๋์ GPU๋ ๋ณดํต ํ์ ํธํ์ฑ์ ์ ์ ์งํ๋ ํธ์ด์์. ํ์ง๋ง ๋ธ๋์ฐ์ ์๋ก์ด ๊ธฐ๋ฅ๊ณผ ์ต์ ํ๋ ์ฑ๋ฅ์ ์์ ํ ํ์ฉํ๋ ค๋ฉด, ์ํํธ์จ์ด ์คํ ์
๋ฐ์ดํธ์ ์ผ๋ถ ์ฝ๋ ์์ ์ด ํ์ํ ์๋ ์์ด์.
Q25. ๋ธ๋์ฐ์ด AI ์ถ๋ก ์ฑ๋ฅ์๋ ์ํฅ์ ๋ฏธ์น๋์?
A25. ๋ค, 30๋ฐฐ ์ฑ๋ฅ ํฅ์์ ์ฃผ๋ก ํ๋ จ ์ฑ๋ฅ์ ์๋ฏธํ์ง๋ง, ์ถ๋ก ์ฑ๋ฅ ์ญ์ ํฌ๊ฒ ํฅ์๋์ด ์ค์๊ฐ AI ์๋น์ค ์ ๊ณต์ ํ์์ ์ธ ์ญํ ์ ํ ๊ฑฐ์์.
Q26. ๋ธ๋์ฐ์ ๋์ ์ฑ๋ฅ์ด AI ์ค๋ฆฌ ๋ฌธ์ ํด๊ฒฐ์ ๋์์ด ๋ ๊น์?
A26. ์ง์ ์ ์ธ ํด๊ฒฐ์ฑ
์ ์๋์ง๋ง, ๋ ๊ฐ๋ ฅํ ์ฐ์ฐ ๋ฅ๋ ฅ์ผ๋ก AI ๋ชจ๋ธ์ ํธํฅ์ฑ ๊ฒ์ฆ, ์ค๋ช
๊ฐ๋ฅ AI(XAI) ์ฐ๊ตฌ ๋ฑ ์ค๋ฆฌ์ AI ๊ฐ๋ฐ์ ์ํ ๋ณต์กํ ๋ถ์ ์์
๋ค์ ๊ฐ์ํํ ์ ์์ด์.
Q27. ๋ธ๋์ฐ์ ๋ฐ์ดํฐ ์ฒ๋ฆฌ ์ ์ฉ ๋ช
๋ น์ด(DPX)๋ฅผ ์ง์ํ๋์?
A27. ๋ค, ๋ธ๋์ฐ์ DPX ๋ช
๋ น์ด๋ฅผ ํฌํจํ์ฌ ๋ฐ์ดํฐ ์ ์ฒ๋ฆฌ ๋ฐ ํ์ฒ๋ฆฌ ๊ณผ์ ์ ๊ฐ์ํํ๊ณ , ์ ์ฒด AI ํ์ดํ๋ผ์ธ์ ๋ณ๋ชฉ ํ์์ ์ค์ด๋ ๋ฐ ๊ธฐ์ฌํด์.
Q28. ๋ธ๋์ฐ ์ํคํ
์ฒ์ ์ด๋ฆ์ ์ด๋ป๊ฒ ๊ฒฐ์ ๋์๋์?
A28. ์๋น๋์๋ GPU ์ํคํ
์ฒ์ ์ด๋ฆ์ ์ง๋ ๋ฐ ์์ด ํ์ ์ ์ธ ๊ณผํ์์ ์ํ์์ ์ด๋ฆ์ ๋น๋ ค์์. ๋ธ๋์ฐ์ 20์ธ๊ธฐ์ ์ ๋ช
ํ ํต๊ณํ์์ด์ ์ํ์์ธ ๋ฐ์ด๋น๋ ๋ธ๋์ฐ ๊ต์๋ฅผ ๊ธฐ๋ฆฌ๊ธฐ ์ํด ๋ช
๋ช
๋์์ด์.
Q29. ๋ธ๋์ฐ์ ๋๋ ์ถํ๋ ์ธ์ ์์๋ ๊ฒ์ผ๋ก ์์๋ผ์?
A29. ๊ณต์์ ์ธ ๋๋ ์ถํ ์ผ์ ์ ์๋น๋์์ ๋ฐํ์ ๋ฐ๋ผ ๋ฌ๋ผ์ง ์ ์์ง๋ง, 2024๋
๋ง๋ถํฐ ์ฃผ์ ๊ณ ๊ฐ์ฌ๋ฅผ ์ค์ฌ์ผ๋ก ์ ์ง์ ์ธ ์ถํ๊ฐ ์ด๋ฃจ์ด์ง ๊ฒ์ผ๋ก ์ ๋ง๋ผ์. (์ฐธ๊ณ : H200 ๋๋ ์ถํ ๊ฐ์์ ๊ฐ์ ์ด์ ์ฌ๋ก๋ฅผ ํตํด ์์ธก)
Q30. ๋ธ๋์ฐ์ด AI ์๋์ ๋ฏธ์น๋ ๊ถ๊ทน์ ์ธ ์๋ฏธ๋ ๋ฌด์์ด๋ผ๊ณ ์๊ฐํด์?
A30. ๋ธ๋์ฐ์ AI ์ฐ์ฐ์ ํ๊ณ๋ฅผ ํ๋ฌผ๊ณ , ์ธ๋ฅ๊ฐ ์์ํ๋ ๋ณต์กํ๊ณ ๋ฐฉ๋ํ AI ๋ชจ๋ธ์ ํ์คํ๋ฅผ ์๋น๊ธฐ๋ ๊ธฐ์ ์ ๊ธฐ๋ฐ์ ์ ๊ณตํ์ฌ AI ์๋์ ์๋ก์ด ํจ๋ฌ๋ค์์ ์ด์ด์ฃผ๋ ์ญํ ์ ํ ๊ฒ์ด๋ผ๊ณ ์๊ฐํด์.
⚠️ ๋ฉด์ฑ
๋ฌธ๊ตฌ
์ด ๊ธ์ ํฌํจ๋ ๋ชจ๋ ์ ๋ณด๋ ๊ณต๊ฐ๋ ์๋ฃ๋ฅผ ๊ธฐ๋ฐ์ผ๋ก ์์ฑ๋์์ผ๋ฉฐ, ํฌ์ ๊ถ์ ๋ ํน์ ๊ธฐ์ ๊ตฌ๋งค๋ฅผ ์ ๋ํ๋ ๋ชฉ์ ์ด ์๋์์. ๊ธฐ์ ๋ฐํ ์๋ฃ์ ์์ฅ ์์ธก์ ๋ณ๊ฒฝ๋ ์ ์์ผ๋, ์ค์ํ ์์ฌ ๊ฒฐ์ ์ ๋ด๋ฆฌ๊ธฐ ์ ์๋ ๋ฐ๋์ ์ต์ ๊ณต์ ์ ๋ณด๋ฅผ ํ์ธํ์๊ณ ์ ๋ฌธ๊ฐ์ ์กฐ์ธ์ ๊ตฌํ์๊ธฐ๋ฅผ ๋ฐ๋ผ์. ์๋น๋์ ๋ธ๋์ฐ์ ์ค์ ์ฑ๋ฅ๊ณผ ์์ฅ ์ํฅ์ ์ถ์ ํ ์ค์ ์ฌ์ฉ ํ๊ฒฝ์ ๋ฐ๋ผ ๋ค๋ฅผ ์ ์๋ค๋ ์ ์ ์๋ ค๋๋ ค์.
๐ ์์ฝ
์๋น๋์ ๋ธ๋์ฐ ์ํคํ
์ฒ๋ ์ธ๊ณต์ง๋ฅ ์ฐ์ฐ ์ฑ๋ฅ์ ์ต๋ 30๋ฐฐ ํฅ์์ํค๋ ํ์ ์ ์ธ '๋ฐ์ดํฐ ์นฉ'์ด์์. ์นฉ๋ ๋์์ธ, 5์ธ๋ NVLink, 2์ธ๋ ํธ๋์คํฌ๋จธ ์์ง, HBM3e ๋ฉ๋ชจ๋ฆฌ์ ๊ฐ์ ํต์ฌ ๊ธฐ์ ๋ค์ด ์ ๊ธฐ์ ์ผ๋ก ๊ฒฐํฉ๋์ด ์ด ๋๋ผ์ด ์ฑ๋ฅ์ ๊ฐ๋ฅํ๊ฒ ํ์ฃ . ๋ธ๋์ฐ์ ๋๊ท๋ชจ ์ธ์ด ๋ชจ๋ธ(LLM) ํ๋ จ ๊ฐ์ํ, ๋ฐ์ดํฐ ์ผํฐ ํจ์จ์ฑ ์ฆ๋, ๊ณผํ ์ฐ๊ตฌ ๋ฐ์ ๋ฑ AI ์ฐ์
์ ๋ฐ์ ๊ฑธ์ณ ํจ๋ฌ๋ค์ ๋ณํ๋ฅผ ๊ฐ์ ธ์ฌ ๊ฒ์ผ๋ก ์ ๋ง๋ผ์. ์๋น๋์๋ ๊ฐ๋ ฅํ ํ๋์จ์ด์ ๋
๋ณด์ ์ธ ์ํํธ์จ์ด ์ํ๊ณ(CUDA)๋ฅผ ํตํด ๊ฒฝ์์ฌ ๋๋น ์ฐจ๋ณํ๋ ์
์ง๋ฅผ ๋์ฑ ๊ณต๊ณ ํ ํ ๊ฑฐ์์. ๋ธ๋์ฐ ์๋๋ ๋์ฑ ๊ฐ๋ ฅํ๊ณ ์ ๊ทผ์ฑ ๋์ AI ๊ธฐ์ ์ ํตํด ๋ฏธ๋ AI ์ํ๊ณ๋ฅผ ์ฌํธํ๊ณ , ์๋ก์ด ๊ฐ๋ฅ์ฑ์ ์ด์ด์ค ์ค์ํ ์ ํ์ ์ด ๋ ๊ฒ์ผ๋ก ๊ธฐ๋ํ๊ณ ์์ด์.
๋๊ธ
๋๊ธ ์ฐ๊ธฐ