์ผ์ ๋์ค ๋จ์ด์ง๋ ์ด์ (๋ธ๋ผ์ธ๋ ํ)

์์ผ๋ก ๋ฉ๋ชจ๋ฆฌ ๋ฐ๋์ฒด ๊ด๋ จํด์ ํธ๋ ๋๊ฐ ์์ ํ ๋ฐ๋ ๊ฑธ๋ก ๋ณด์ฌ์ง. ์ค๋ ๊ธ๋ก๋ฒ ํ
ํฌ ์
๊ณ๋ฅผ ๋คํ๋ ์ธ์ ๋ด์ค 3๊ฑด์ด ๋์์ ๋ด๋๋ฐ, ๊ทธ ๋ด์ฉ์ ๋๋ํ ๋๊ณ ๋ณด๋ฉด ๋์๊ฐ๋ ํ๋ฆ์ด ๊ฝค ์ฌ์์น ์์.
1. ์ธํ
์ 'ํ(่ซ)HBM' ์ ์ธ: ๋น์ผ HBM ๋นผ๊ณ ๋
ธํธ๋ถ์ฉ ๋จ 480GB๋ฅผ ๋๋ ค ๋ฐ์ - ์ธํ
์ด ๋ฐ์ดํฐ์ผํฐ์ฉ ์ฐจ์ธ๋ AI GPU(D-์๋ฆฌ์ฆ)๋ฅผ ์ ๊ฒฉ ๊ณต๊ฐํ๋๋ฐ, ์คํ์ด ๊ต์ฅํ ๊ธฐ๋ฌํจ. - ๋น์ฐํ ๋ค์ด๊ฐ์ผ ํ ์ด๊ณ ๊ฐ ๋ฉ๋ชจ๋ฆฌ์ธ HBM(๊ณ ๋์ญํญ ๋ฉ๋ชจ๋ฆฌ)์ด๋ GDDR7์ ์์ ๋นผ๋ฒ๋ฆฌ๊ณ , ๊ทธ ์๋ฆฌ์ ์ผ๋ฐ ๋
ธํธ๋ถ์ด๋ ์ค๋งํธํฐ์ ๋ค์ด๊ฐ๋ ์ ๋ ดํ ์ ์ ๋ ฅ ๋ฒ์ฉ ๋ฉ๋ชจ๋ฆฌ(LPDDR5X)๋ฅผ ๋ฌด๋ ค '480GB'๋ ๊ฝ์ ๋ฃ์์. - ์๋น๋์์ ์ต์ ๋ธ๋์ฐ ์ธํธ๋ผ(B300)์ ๋ค์ด๊ฐ๋ HBM3e ์ฉ๋์ด 288GB์ธ๋ฐ, ์ธํ
์ ํจ์ฌ ๊ฐ์ผ ๋ฒ์ฉ ๋ฉ๋ชจ๋ฆฌ๋ฅผ ์จ์ ์ฉ๋์ ์คํ๋ ค 1.7๋ฐฐ๋ก ๋๋ฆฌ๊ณ ์ ๋ ฅ ์๋ชจ๋ 350W(์ผ๋ฐ ๊ณต๋ญ์)๋ก ํ ๋ฎ์ถฐ๋ฒ๋ฆฐ ๊ฑฐ์. - ์ ์ด๋ฐ ์ง์ ํ์๊น? ์ด์ AI ์์ฅ์ ์ค์ฌ์ด ๋ชจ๋ธ์ ์ฒ์ ๋ง๋๋ 'ํ์ต(Training)'์์ ์ค์ ์๋น์ค๋ฅผ ๊ตด๋ฆฌ๋ '์ถ๋ก (Inference)ยท์์ด์ ํธ ๊ตฌ๋'์ผ๋ก ๋์ด๊ฐ๊ณ ์๊ธฐ ๋๋ฌธ์. - ์ถ๋ก ๋จ๊ณ์์๋ ๋๋ฌด ๋น์ผ HBM์ ์ธ ๋ฐ์์ผ, ์๋๊ฐ ์กฐ๊ธ ๋๋ ค๋ ๊ฐ์ผ ๋ฒ์ฉ ๋ฉ๋ชจ๋ฆฌ๋ฅผ ๋์ฉ๋์ผ๋ก ๋๋ ค ๋ฐ์์ ๊ฐ์ฑ๋น ์๊ฒ ๋๋ฆฌ๋ ๊ฒ ํจ์ฌ ์ด๋์. ์ฆ ๋น
ํ
ํฌ๋ค์ด ํ๊ตญ ๋ฉ๋ชจ๋ฆฌ ๊ธฐ์
๋ค์ ๊ณ ๋ง์ง ๋์ค์ธ 'HBM'์ ์ฐํํ๋ ๊ฐ์ฑ๋น ๋ฃจํธ๋ฅผ ๋ณธ๊ฒฉ์ ์ผ๋ก ๋ซ๊ธฐ ์์ํ๋ค๋ ๋ป์.
2. ์ค๊ตญ ๋ฅ์ํฌ(DeepSeek) + ํ์จ์ด์ 'ํ(่ซ)์๋น๋์ยท์์ฒด ์นฉ' ์์ ๋
๋ฆฝ - ๋ฏธ๊ตญ์ด ์ค๊ตญ์ ์๋น๋์ ์ฒจ๋จ ์นฉ๊ณผ HBM ์์ถ์ ๋ง์์ ๋๋ง ํด๋, ๋ค๋ค "์ค๊ตญ์ ๋ฏธ๋ฆฌ ์ฌ๋ ์๋น๋์ ์นฉ ์ฌ๊ณ ๋ค ๋จ์ด์ง๋ฉด ์ฐจ์ธ๋ AI ํ์ต์ ์์ ๋ชป ํด์ ๋ฌด๋์ง ๊ฒ"์ด๋ผ๊ณ ์๊ฐํ์. - ์ค์ ๋ก ์ง๊ธ๊น์ง ๋ฅ์ํฌ๋ฅผ ๋น๋กฏํ ์ค๊ตญ ๊ธฐ์
๋ค์ ํ์จ์ด ์นฉ์ผ๋ก๋ ๋จ์ ์๋น์ค ๊ตฌ๋(์ถ๋ก )๋ง ๊ฒจ์ฐ ๋๋ฆฌ๊ณ , ๊ฐ์ฅ ๋์ด๋๊ฐ ๋์ '๋ชจ๋ธ ์ฌ์ ํ์ต(Pre-training)'๋งํผ์ ์ ์ฌ ์ ์ ์ฌ์ฌ๊ธฐํด ๋ ์๋น๋์ ์นฉ(H800ยทH20 ๋ฑ)์ด๋ ์ฐํ ์์
๋ฌผ๋์๋ง ์์กดํด ์์. - ๊ทธ๋ฐ๋ฐ ๋ฐฉ๊ธ ๋์ธํฌ๋ฉ์ด์
(The Information) ๋ณด๋์ ๋ฐ๋ฅด๋ฉด, ์ง๊ธ 'ํ์จ์ด' ์์ง๋์ด๋ค์ด ์์ ๋ฅ์ํฌ ๋ณธ์ฌ์ ์์ฃผํ๋ฉฐ ์ฐจ์ธ๋ ์นฉ์ ๊ณต๋ ์ค๊ณํ๊ณ ์๊ณ , ์ฌํด ๋ง๋ถํฐ๋ ๊ฐ์ฅ ๋๊ณต๋ถ๋ฝ์ด๋ '์ฌ์ ํ์ต'์๊น์ง ์๋น๋์ ๋์ ํ์จ์ด ์์ฒด ์นฉ(์ด์ผ๋ 950DT)์ ๋ณธ๊ฒฉ ํฌ์
ํ๊ธฐ๋ก ํ๋ค๊ณ ํจ. - ์ฌ์ง์ด ์๋น๋์์ ๋
์ ๋ฌด๊ธฐ์ธ '์ฟ ๋ค(CUDA)' ์ํํธ์จ์ด๋ฅผ ๋์ฒดํ ์์ฒด ํด๊น์ง ์คํ์์ค๋ก ํ๊ณ ์์. - ์ฆ, ๋ฏธ๊ตญ(์๋น๋์)๊ณผ ํ๊ตญ(๋ฉ๋ชจ๋ฆฌ) ๋ฐ๋์ฒด๋ฅผ ๋จ ํ ๊ฐ๋ ์ฐ์ง ์๊ณ '์ค๊ตญ์ฐ AI(๋ฅ์ํฌ) + ์ค๊ตญ์ฐ ์นฉ(ํ์จ์ด) + ์ค๊ตญ์ฐ ๋ฉ๋ชจ๋ฆฌ(CXMTยทYMTC)'๋ง์ผ๋ก ์ต์ฒจ๋จ AI ํ์ต๊น์ง ๋๋ด๋ ๊ธฐ์ ๋
๋ฆฝ์ ๋ง๋ค์ด๋ธ ์
. - ์ค๊ตญ์ ๊ธฐ์ ๋
๋ฆฝ์ ํ๊ตญ ๋งค์ถ์๋ ๋น์ฐํ ํฐ ์ํฅ์ด ์์ ์๋ฐ์ ์๋ ๊ฒ, ์๋
๊ธฐ์ค ์ผ์ฑ์ ์(์ฝ 71์กฐ ์ยท๋น์ค 30%)์ ํ์ด๋์ค(์ฝ 26์กฐ ์)๊ฐ ์ค๊ตญ์ ํ ๋ฌผ๋๋ง ํฉ์ณ์ ์ฐ 97์กฐ ์(๊ฑฐ์ 100์กฐ ์)์ ๋ฌํจ. ๋ง์ฝ ์ค๊ตญ์ด AI ์นฉ๋ถํฐ ๋ฉ๋ชจ๋ฆฌ๊น์ง ์์ ํ ๊ธฐ์ ๋
๋ฆฝ์ ์ด๋ค๋ด์ ์ด๊ฑธ ๋ค ์๊ตญ์ฐ์ผ๋ก ๋์ฒดํด ๋ฒ๋ฆฌ๋ฉด, ์ฐ๋ฆฌ๊ฐ ๋งค๋
๊น๊ณ ๊ฐ๋ 100์กฐ ์์ง๋ฆฌ ์ต๋ ์์ฅ์ด ๊ทธ๋๋ก ๋ ์๊ฐ๋ ์
์.
3. ์๋น๋์์ ๊ฐ์ง ์์: "ํต์ฌ ๋๋๋ TSMC์ ๋งก๊ธธ ํ
๋, ํ๊ตญ์ ์์ ์น์ D๋จ๋ง ์ธ๊ฒ ๊ฐ์ ธ์๋ผ" - ๊ทธ๋ผ ๋จ์ ์๋น๋์ HBM ์์ฅ์์๋ผ๋ ํ๊ตญ ๊ธฐ์
๋ค์ด ์ง๊ธ์ฒ๋ผ ๋์ ๋ง์ง์ ๊ณ์ ์ฑ๊ธธ ์ ์์๊น? ์ด๊ฒ๋ ์ฝ์ง ์์ ๋ณด์. - ์ฝ๊ฒ ์ค๋ช
ํ๋ฉด, HBM์ ์ผ๋ฐ D๋จ ์ฌ๋ฌ ์ฅ์ ์ํํธ์ฒ๋ผ ๋๊ฒ ์์ ์ฌ๋ฆฐ ๋ฉ๋ชจ๋ฆฌ์. ๊ทผ๋ฐ ์ํํธ๋ ๊ทธ๋ฅ ๋ฒฝ๋๋ง ์๋๋ค๊ณ ๋์ด ์๋๋ผ, ๋งจ ์๋ 1์ธต์ ์ ์ฒด ๋ฐ์ดํฐ๋ฅผ ํต์ ํ๋ 'ํต์ฌ ๋๋ ์นฉ(๋ฒ ์ด์ค ๋ค์ด)'์ด ๋ค์ด๊ฐ์ผ ์๋ํจ. - ์ง๊ธ๊น์ง๋ ์ผ์ฑ์ด๋ ํ์ด๋์ค๊ฐ ์ด 1์ธต ๋๋๋ถํฐ ์์ธต D๋จ๊น์ง ํต์งธ๋ก ๋ง๋ค์ด์ ๋ฉํํ๊ธฐ ๋๋ฌธ์ ๊ธฐ์ ๊ฐ๋ ๋น์ธ๊ฒ ๋ฐ๊ณ ๋ง์ง๋ ๋ง์ด ๋จ๊ฒผ์. ํนํ ์ผ์ฑ์ ์๋ "์ฐ๋ฆฐ ํ์ด๋๋ฆฌ(๋ฐ๋์ฒด ์ํ์์ฐ ๊ณต์ฅ)๊น์ง ๋ค ์์ผ๋๊น 1์ธต ๋๋๋ถํฐ ๊ผญ๋๊ธฐ D๋จ๊น์ง ์ฐ๋ฆฌ ๊ณต์ฅ์์ ํผ์ ๋ค ๋ง๋ค ์ ์๋ค"๋ ๊ฑธ ์ต๋ ๋ฌด๊ธฐ๋ก ๋ฐ์์. - ๊ทธ๋ฐ๋ฐ ๋ฐฉ๊ธ ๋ก์ดํฐ(Reuters) ๋ณด๋์ ๋ฐ๋ฅด๋ฉด, ์๋น๋์๊ฐ ์ฐจ์ธ๋ HBM๋ถํฐ ์ผ์ฑยทํ์ด๋์คยท๋ง์ดํฌ๋ก 3์ฌ์ ์๋ก์ด ์กฐ๊ฑด์ ํต๋ณดํจ. - "์์ผ๋ก 1์ธต์ ๋ค์ด๊ฐ ํต์ฌ ๋๋๋ ์๋น๋์ ๋ฐฉ์๋๋ก ํต์ผํ ๊ฑฐ๊ณ , ์์ฐ๋ ๋ฌด์กฐ๊ฑด ๋๋ง TSMC(3๋๋
ธ) ๊ณต์ฅ์์ ๋ง๋ค์ด๋ผ. ๋ํฌ๋ ๊ทธ ์์ ์ฌ๋ฆด D๋จ๋ง ๋๊ฐ์ ๊ท๊ฒฉ์ผ๋ก ๋ง๋ค์ด ์๋ผ"๋ผ๊ณ ์๊ตฌํ ๊ฑฐ์. - ๊ฒฐ๊ตญ ์์กด์ฌ ์ธ์ฐ๋ ์ผ์ฑ์ ์์กฐ์ฐจ ์๋น๋์์ ๋ฉํ์ ํด์ผ ํ๋ ์ด์ฉ ์ ์์ด ์ฌ์ ์ฒ์์ผ๋ก ๊ฒฝ์์ฌ์ธ ๋๋ง TSMC ๊ณต์ ์ ์ฐ๊ธฐ๋ก ํฉ์ํจ. - ์ด๊ฒ ์๋ฏธํ๋ ๋ฐ๋ ์์ฃผ ๋ช
ํํจ. ๊ฐ์ฅ ๋ถ๊ฐ๊ฐ์น๊ฐ ๋์ '1์ธต ํต์ฌ ๋๋'๋ ์๋น๋์์ TSMC๊ฐ ๋ค ํด ๋จน๊ณ , ์์ผ๋ก ์ผ์ฑยทํ์ด๋์คยท๋ง์ดํฌ๋ก ์ ์๋น๋์๊ฐ ์ ํด์ค ๋๊ฐ์ ๊ท๊ฒฉ์ ๋ง์ถฐ '๊ทธ๋ฅ ์์ ์์ D๋จ ๋ฒฝ๋๋ง ๋ฉํํ๋ฉด์ ๋๊ฐ ๋ ์ธ๊ฒ ์ฃผ๋ ๋จ๊ฐ ๊ฒฝ์์ ํด์ผ ํ๋ ํ์ฒญ ๊ตฌ์กฐ'๋ก ๋ฐ๋ ค๋๊ณ ์๋ค๋ ๋ป์.
์ ๋ฆฌํด๋ณด๋ฉด ์ง๊ธ ๋ฐ๋์ฒด ํ์์ ๋์์ ๋ฒ์ด์ง๊ณ ์๋ ํธ๋ ๋ ๋ณํ๋ ๋ฑ ์ด 3๊ฐ์ง์. - ํ์ชฝ(์ธํ
ยท๋น
ํ
ํฌ)์์๋ "HBM ๋๋ฌด ๋น์ธ์ ๋ชป ์ฐ๊ฒ ๋ค"๋ฉฐ ์ ๋ ดํ ์ผ๋ฐ ๋ฉ๋ชจ๋ฆฌ(LPDDR5X)๋ก ์ฐํ๋ก๋ฅผ ๋ซ๊ณ ์๊ณ , - ํ์ชฝ(์ค๊ตญ ๋ฅ์ํฌยทํ์จ์ด)์์๋ ์์ ๋ฏธ๊ตญยทํ๊ตญ ๋ฐ๋์ฒด๋ฅผ ์ ์ฐ๊ณ ์๊ธฐ๋ค๋ผ๋ฆฌ ๋ค ํด ๋จน๋ ์์ฒด ์ํ๊ณ๋ฅผ ๋ง๋ค๊ณ ์์ผ๋ฉฐ, - ๊ฐ์ฅ ํฐ ๊ณ ๊ฐ(์๋น๋์)์ HBM์ ํต์ฌ ๋๋๋ฅผ ๋๋ง TSMC์ ๋ชฐ์์ฃผ๋ฉด์ ํ๊ตญ ๊ธฐ์
๋ค์ ๋จ์ D๋จ ๋ฉํ ํ์ฒญ์ผ๋ก ๊ธธ๋ค์ด๊ธฐ ์์ํ์. ์ ์ ๋์ ์ฐ๋ ๊ธ๋ก๋ฒ ๋น
ํ
ํฌ ํ๋ ์ด์ด๋ค์ ์ด๋ฏธ '๋น์ผ HBM ์ดํ์ ํ'์ ์กฐ์ฉํ, ๊ทธ๋ฆฌ๊ณ ์์ฃผ ๋ํนํ๊ฒ ์๋ก ์ง๊ณ ์๋ ์ํฉ์ด๋ผ ์์ผ๋ก ์์ฅ์ ๋ค์ํ ๊ฒฉ๋ณ์ด ์ผ์ด๋ ๊ฒ์ผ๋ก ๋ณด์ฌ์ง.
๐ฅ ์ค์๊ฐ ๋คํฐ์ฆ ๋ฒ ์คํธ ๋ฐ์
- ใ ใ ๋ฉ์ฒญ์ด ์์ ๋๋ฆฌํ๋ค ใ ใ ใ ์ผ๋์ด ๋น ํ ํฌ ๋ ๋ค ๋นจ์๋จน๊ณ ์ผ์ 50 ํ๋ 500๊ฐ๋ค ๋ฑ ๋ด๋ผ ์น์์ผ ์ง๊ธ์ด๋ผ๋ ๋นจ๋ฆฌ ์ฌ๋ผ ๋์ค์ ํผ๋๋ฌผ ๋๊ธฐ ์ซ์ผ๋ฉด...
- ใ ใ ๊ธ๋ฆฌ์ธ์ ํ์จ๋ก ์ธํ ์์ ์ด์ต ์ ๋ง ํํฅ ์ด๊ฒ 1์์ - dc App
- ใฑใ ใ ใ ใ ํ๋ ๋ง์ดํฌ๋ก ๋ฒ ์ด์ค๋ค์ด ์๋ ํธ์ด๊ฑฐ ์ผ๋ค ์ผ์ฑ๋ง ์๊ธฐ๋ค์ด ๋ง๋ค์์ง
- ใ ใ ํธ๋จ ๋ฐ๋์ฒด ๊ฑ ์ทจ์ํด์ผ๊ฒ ๋๋ฐ ์ด๊ฑฐ
- ใ ใ ๊ฑ ๊ธ๋ฆฌ์ธ์ ์ ๊ฐ์ธ์ ๊ตญ์ฑ์์น๋ฑ ์ฆ์์ ํ๊ฒฉ์ค๋ ์์ค์ ๋น ํ ํฌ๋ค์ ๋ ๋๊ณ ๋ง์ด ์ค๋ฅธ ๋ฐ๋์ฒด ์ ๋ค ์์ฃผ๋ก ๋นผ๋ ๊ฒ ๊ฐ์
- ใ ใ ์ด๋ฐ๊ฑฐ ๋ง๋๊ฑธ ๋ชป๋ดค๋๋ฐ - dc App
๐ฌ ๋๊ธ 0๊ฐ