91ฟดฦฌอ๘

ว๊™์ˆ ยท์—ฐ๊ตฌ

์ „์ž์ „๊ธฐ๊ณตํ•™๋ถ€ ๊น€์„ฑ์ค€ ๊ต์ˆ˜ํŒ€, ๋Œ€๊ทœ๋ชจ ์–ธ์–ด๋ชจ๋ธ ๋ฉ”๋ชจ๋ฆฌ ๋ณ‘๋ชฉ ์ค„์ด๋Š” ์ฐจ์„ธ๋Œ€ PIM ๊ธฐ์ˆ  ๊ฐœ๋ฐœ

๋“ฑ๋ก์ผ 2026.10.16. ์กฐํšŒ 432

- FTJ์™€ RRAM์˜ ์ƒ๋ฐ˜๋œ ๋ฉ”๋ชจ๋ฆฌ ํŠน์„ฑ์„ ํ™œ์šฉํ•œ ‘์ด์ค‘๋ชจ๋“œ PIM ๊ตฌ์กฐ’ ๊ฐœ๋ฐœ
- KV-cache์™€ AI ๋ชจ๋ธ ๊ฐ€์ค‘์น˜ ์ €์žฅ·MAC ์—ฐ์‚ฐ ๊ธฐ๋Šฅ ํ†ตํ•ฉํ•˜๋Š” ๋‹จ์ผ ๋ฉ”๋ชจ๋ฆฌ ํ”Œ๋žซํผ ๊ตฌ์กฐ ์ œ์‹œ
- ๊ตญ์ œ ํ•™์ˆ ์ง€ ‘Materials Horizons’(IF=11.4)์— ์—ฐ๊ตฌ ์„ฑ๊ณผ ๊ฒŒ์žฌ

 

์™ผ์ชฝ๋ถ€ํ„ฐ ๊น€์„ฑ์ค€ ๊ต์ˆ˜, ์ด์˜์„œ ์„์‚ฌ๊ณผ์ •์ƒ, ๊น€๋‚˜์šด ์„์‚ฌ

โ–ฒ ์™ผ์ชฝ๋ถ€ํ„ฐ ๊น€์„ฑ์ค€ ๊ต์ˆ˜, ์ด์˜์„œ ์„์‚ฌ๊ณผ์ •์ƒ, ๊น€๋‚˜์šด ์„์‚ฌ


๋™๊ตญ๋Œถฤว๊™๊ต ์ „์ž์ „๊ธฐ๊ณตํ•™๊ณผ(๊ณต๋™ ์ œ1์ €์ž ์ด์˜์„œ ์„์‚ฌ๊ณผ์ •์ƒ·๊น€๋‚˜์šด ์„์‚ฌ, ๊ณต๋™ ๊ต์‹ ์ €์ž ๊น€์„ฑ์ค€ ๊ต์ˆ˜)์™€ ์„œ์šธ๊ณผํ•™๊ธฐ์ˆ ๋Œถฤว๊™๊ต ์ „๊ธฐ์ •๋ณด๊ณตํ•™๊ณผ(๊ณต๋™ ์ œ1์ €์ž ์ตœ๋ฏผ๊ธฐ ์„์‚ฌ๊ณผ์ •์ƒ, ๊ณต๋™ ๊ต์‹ ์ €์ž ์‹ฌ์›๋ณด ๊ต์ˆ˜) ๊ณต๋™ ์—ฐ๊ตฌํŒ€์ด ๋Œ€๊ทœ๋ชจ ์–ธ์–ด๋ชจ๋ธ(Large Language Model, ์ดํ•˜ LLM)์—์„œ ๋ฐœ์ƒํ•˜๋Š” ๋ฉ”๋ชจ๋ฆฌ ๋ณ‘๋ชฉ ๋ฌธ์ œ๋ฅผ ํ•ด๊ฒฐํ•˜๋Š” ์ด์ค‘๋ชจ๋“œ ํ”„๋กœ์„ธ์‹ฑ ์ธ ๋ฉ”๋ชจ๋ฆฌ(Processing-in-Memory, ์ดํ•˜ PIM) ์•„ํ‚คํ…์ฒ˜๋ฅผ ์ œ์‹œํ–ˆ๋‹ค.

 

์ด๋ฒˆ ์—ฐ๊ตฌ๊ฒฐ๊ณผ๋Š” ใ€ŒA ferroelectric-resistive dual-mode capacitor for unified KV-cache and weight storage toward Transformer accelerationใ€์ด๋ผ๋Š” ์ œ๋ชฉ์œผ๋กœ ์žฌ๋ฃŒ๊ณผํ•™ ๋ถ„์•ผ ๊ตญ์ œ ํ•™์ˆ ์ง€ ใ€ŒMaterials Horizonsใ€(IF=11.4)์— 2026๋…„ 9์›” 3์ผ ์˜จ๋ผ์ธ ๊ฒŒ์žฌ๋๋‹ค.

 

์ตœ๊ทผ LLM์€ ์ด์ „ ์—ฐ์‚ฐ ์ •๋ณด๋ฅผ ์ €์žฅํ•˜๋Š” KV-cache์˜ ํฌ๊ธฐ๊ฐ€ ์ฆ๊ฐ€ํ•˜๋ฉด์„œ ๋ฉ”๋ชจ๋ฆฌ ์‚ฌ์šฉ๋Ÿ‰๊ณผ ์ „๋ ฅ ์†Œ๋ชจ๊ฐ€ ์ปค์ง€๊ณ  ์žˆ๋‹ค. ํ•˜์ง€๋งŒ, ๊ธฐ์กด ์•„๋‚ ๋กœ๊ทธ PIM์€ ์žฅ๊ธฐ๊ฐ„ ๋ณด์กด์ด ํ•„์š”ํ•œ ‘๋ชจ๋ธ ๊ฐ€์ค‘์น˜’์™€ ๋น ๋ฅด๊ฒŒ ๋ฐ˜๋ณต ๊ฐฑ์‹ ๋˜๋Š” ‘KV-cache’๋ฅผ ๋‹จ์ผ ๋ฐฉ์‹์œผ๋กœ ์ฒ˜๋ฆฌํ•˜๋Š” ํ•œ๊ณ„๊ฐ€ ์žˆ์—ˆ๋‹ค.

 

์—ฐ๊ตฌํŒ€์€ ์ด๋ฅผ ์œ„ํ•ด ํ•˜๋‚˜์˜ HZO ๊ธฐ๋ฐ˜ ์†Œ์ž์— FTJ์™€ RRAM์˜ ๋‘ ๊ฐ€์ง€ ๋ฉ”๋ชจ๋ฆฌ ๋™์ž‘์„ ๊ตฌํ˜„ํ•˜๊ณ , ๊ฐ ๋™์ž‘์˜ ํŠน์„ฑ์— ๋งž์ถฐ ๊ธฐ๋Šฅ์„ ๊ตฌ๋ถ„ํ–ˆ๋‹ค. ๋น ๋ฅด๊ณ  ์ €์ „๋ ฅ์œผ๋กœ ๋™์ž‘ํ•˜๋Š” FTJ๋Š” ๋ฐ˜๋ณต์ ์ธ ๊ฐฑ์‹ ์ด ํ•„์š”ํ•œ KV-cache์— ํ™œ์šฉํ•˜๊ณ , ๋†’์€ ๋ฐ์ดํ„ฐ ์œ ์ง€ ํŠน์„ฑ๊ณผ ๋‹ค์ค‘ ์ƒํƒœ ์ €์žฅ์ด ๊ฐ€๋Šฅํ•œ RRAM์€ ๋ชจ๋ธ ๊ฐ€์ค‘์น˜ ์ €์žฅ๊ณผ ๊ณฑ์…ˆ-๋ˆ„์‚ฐ(MAC) ์—ฐ์‚ฐ์— ํ™œ์šฉํ•˜๋„๋ก ์„ค๊ณ„ํ–ˆ๋‹ค.

 

์‹คํ—˜ ๊ฒฐ๊ณผ, FTJ๋Š” 140 ns์˜ ๋น ๋ฅธ ์Šค์œ„์นญ ์†๋„๋ฅผ ๋‚˜ํƒ€๋ƒˆ์œผ๋ฉฐ, RRAM์€ 3-bit(8๊ฐœ ์ƒํƒœ) ๋ฐ์ดํ„ฐ๋ฅผ 10,000์ดˆ ๋™์•ˆ ์•ˆ์ •์ ์œผ๋กœ ์œ ์ง€ํ–ˆ๋‹ค. ์—ฐ๊ตฌํŒ€์€ ์‹ค์ œ ์ธก์ •๋œ ์†Œ์ž ํŠน์„ฑ์„ LLaMA2-7B ๊ธฐ๋ฐ˜ ์‹œ๋ฎฌ๋ ˆ์ด์…˜์— ๋ฐ˜์˜ํ•ด ์ œ์•ˆํ•œ PIM ๊ตฌ์กฐ์˜ Transformer ์—ฐ์‚ฐ ์ ์šฉ ๊ฐ€๋Šฅ์„ฑ์„ ๊ฒ€์ฆํ–ˆ๋‹ค.

 

๊น€์„ฑ์ค€ ๊ต์ˆ˜๋Š” “์ด๋ฒˆ ์—ฐ๊ตฌ๋Š” ์„œ๋กœ ๋‹ค๋ฅธ ๋ฉ”๋ชจ๋ฆฌ ํŠน์„ฑ์„ Transformer ์—ฐ์‚ฐ์˜ ์š”๊ตฌ์‚ฌํ•ญ์— ๋งž๊ฒŒ ํ™œ์šฉํ•ด KV-cache์™€ ๋ชจ๋ธ ๊ฐ€์ค‘์น˜๋ฅผ ํ•˜๋‚˜์˜ PIM ๊ตฌ์กฐ์—์„œ ์ฒ˜๋ฆฌํ•  ์ˆ˜ ์žˆ๋‹ค๋Š” ๊ฐ€๋Šฅ์„ฑ์„ ์ œ์‹œํ•œ ์—ฐ๊ตฌ”๋ผ๋ฉฐ, “ํ–ฅํ›„ LLM์˜ ๋ฉ”๋ชจ๋ฆฌ ๋ณ‘๋ชฉ๊ณผ ๋ฐ์ดํ„ฐ ์ด๋™์— ๋”ฐ๋ฅธ ์ „๋ ฅ ์†Œ๋ชจ๋ฅผ ์ค„์ด๋Š” ์ฐจ์„ธ๋Œ€ AI ํ•˜๋“œ์›จ์–ด ๊ธฐ์ˆ ๋กœ ํ™œ์šฉ๋  ์ˆ˜ ์žˆ์„ ๊ฒƒ์œผ๋กœ ๊ธฐ๋Œ€ํ•œ๋‹ค”๊ณ  ์ „ํ–ˆ๋‹ค.

 

ํ•œํŽธ, ์ด๋ฒˆ ์—ฐ๊ตฌ๋Š” ์‚ฐ์—…ํ†ต์ƒ์ž์›๋ถ€์˜ K-CHIPS ์‚ฌ์—…๊ณผ ๊ณผํ•™๊ธฐ์ˆ ์ •๋ณดํ†ต์‹ ๋ถ€๊ฐ€ ์ง€์›ํ•˜๋Š” ์ •๋ณดํ†ต์‹ ๊ธฐํšํ‰๊ฐ€์›(IITP) ์—ฐ๊ตฌ๊ณผ์ œ ์ง€์›์„ ๋ฐ›์•„ ์ˆ˜ํ–‰๋์œผ๋ฉฐ, ๋™๊ตญ๋Œถฤว๊™๊ต, ์„œ์šธ๊ณผํ•™๊ธฐ์ˆ ๋Œถฤว๊™๊ต, ์„œ์šธ์‹œ๋ฆฝ๋Œถฤว๊™๊ต ๋ฐ ํ•œ๊ตญ์ „์žํ†ต์‹ ์—ฐ๊ตฌ์›(ETRI) ์—ฐ๊ตฌ์ง„์˜ ํ˜‘๋ ฅ์œผ๋กœ ์ง„ํ–‰๋๋‹ค.