๋๊ตญ์์
์ ์์ ๊ธฐ๊ณตํ๋ถ ๊น์ฑ์ค ๊ต์ํ, ๋๊ท๋ชจ ์ธ์ด๋ชจ๋ธ ๋ฉ๋ชจ๋ฆฌ ๋ณ๋ชฉ ์ค์ด๋ ์ฐจ์ธ๋ PIM ๊ธฐ์ ๊ฐ๋ฐ
- FTJ์ RRAM์ ์๋ฐ๋ ๋ฉ๋ชจ๋ฆฌ ํน์ฑ์ ํ์ฉํ ‘์ด์ค๋ชจ๋ PIM ๊ตฌ์กฐ’ ๊ฐ๋ฐ
- KV-cache์ AI ๋ชจ๋ธ ๊ฐ์ค์น ์ ์ฅ·MAC ์ฐ์ฐ ๊ธฐ๋ฅ ํตํฉํ๋ ๋จ์ผ ๋ฉ๋ชจ๋ฆฌ ํ๋ซํผ ๊ตฌ์กฐ ์ ์
- ๊ตญ์ ํ์ ์ง ‘Materials Horizons’(IF=11.4)์ ์ฐ๊ตฌ ์ฑ๊ณผ ๊ฒ์ฌ

โฒ ์ผ์ชฝ๋ถํฐ ๊น์ฑ์ค ๊ต์, ์ด์์ ์์ฌ๊ณผ์ ์, ๊น๋์ด ์์ฌ
๋๊ตญ๋ถฤว๊๊ต ์ ์์ ๊ธฐ๊ณตํ๊ณผ(๊ณต๋ ์ 1์ ์ ์ด์์ ์์ฌ๊ณผ์ ์·๊น๋์ด ์์ฌ, ๊ณต๋ ๊ต์ ์ ์ ๊น์ฑ์ค ๊ต์)์ ์์ธ๊ณผํ๊ธฐ์ ๋ถฤว๊๊ต ์ ๊ธฐ์ ๋ณด๊ณตํ๊ณผ(๊ณต๋ ์ 1์ ์ ์ต๋ฏผ๊ธฐ ์์ฌ๊ณผ์ ์, ๊ณต๋ ๊ต์ ์ ์ ์ฌ์๋ณด ๊ต์) ๊ณต๋ ์ฐ๊ตฌํ์ด ๋๊ท๋ชจ ์ธ์ด๋ชจ๋ธ(Large Language Model, ์ดํ LLM)์์ ๋ฐ์ํ๋ ๋ฉ๋ชจ๋ฆฌ ๋ณ๋ชฉ ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๋ ์ด์ค๋ชจ๋ ํ๋ก์ธ์ฑ ์ธ ๋ฉ๋ชจ๋ฆฌ(Processing-in-Memory, ์ดํ PIM) ์ํคํ
์ฒ๋ฅผ ์ ์ํ๋ค.
์ด๋ฒ ์ฐ๊ตฌ๊ฒฐ๊ณผ๋ ใA ferroelectric-resistive dual-mode capacitor for unified KV-cache and weight storage toward Transformer accelerationใ์ด๋ผ๋ ์ ๋ชฉ์ผ๋ก ์ฌ๋ฃ๊ณผํ ๋ถ์ผ ๊ตญ์ ํ์ ์ง ใMaterials Horizonsใ(IF=11.4)์ 2026๋ 9์ 3์ผ ์จ๋ผ์ธ ๊ฒ์ฌ๋๋ค.
์ต๊ทผ LLM์ ์ด์ ์ฐ์ฐ ์ ๋ณด๋ฅผ ์ ์ฅํ๋ KV-cache์ ํฌ๊ธฐ๊ฐ ์ฆ๊ฐํ๋ฉด์ ๋ฉ๋ชจ๋ฆฌ ์ฌ์ฉ๋๊ณผ ์ ๋ ฅ ์๋ชจ๊ฐ ์ปค์ง๊ณ ์๋ค. ํ์ง๋ง, ๊ธฐ์กด ์๋ ๋ก๊ทธ PIM์ ์ฅ๊ธฐ๊ฐ ๋ณด์กด์ด ํ์ํ ‘๋ชจ๋ธ ๊ฐ์ค์น’์ ๋น ๋ฅด๊ฒ ๋ฐ๋ณต ๊ฐฑ์ ๋๋ ‘KV-cache’๋ฅผ ๋จ์ผ ๋ฐฉ์์ผ๋ก ์ฒ๋ฆฌํ๋ ํ๊ณ๊ฐ ์์๋ค.
์ฐ๊ตฌํ์ ์ด๋ฅผ ์ํด ํ๋์ HZO ๊ธฐ๋ฐ ์์์ FTJ์ RRAM์ ๋ ๊ฐ์ง ๋ฉ๋ชจ๋ฆฌ ๋์์ ๊ตฌํํ๊ณ , ๊ฐ ๋์์ ํน์ฑ์ ๋ง์ถฐ ๊ธฐ๋ฅ์ ๊ตฌ๋ถํ๋ค. ๋น ๋ฅด๊ณ ์ ์ ๋ ฅ์ผ๋ก ๋์ํ๋ FTJ๋ ๋ฐ๋ณต์ ์ธ ๊ฐฑ์ ์ด ํ์ํ KV-cache์ ํ์ฉํ๊ณ , ๋์ ๋ฐ์ดํฐ ์ ์ง ํน์ฑ๊ณผ ๋ค์ค ์ํ ์ ์ฅ์ด ๊ฐ๋ฅํ RRAM์ ๋ชจ๋ธ ๊ฐ์ค์น ์ ์ฅ๊ณผ ๊ณฑ์ -๋์ฐ(MAC) ์ฐ์ฐ์ ํ์ฉํ๋๋ก ์ค๊ณํ๋ค.
์คํ ๊ฒฐ๊ณผ, FTJ๋ 140 ns์ ๋น ๋ฅธ ์ค์์นญ ์๋๋ฅผ ๋ํ๋์ผ๋ฉฐ, RRAM์ 3-bit(8๊ฐ ์ํ) ๋ฐ์ดํฐ๋ฅผ 10,000์ด ๋์ ์์ ์ ์ผ๋ก ์ ์งํ๋ค. ์ฐ๊ตฌํ์ ์ค์ ์ธก์ ๋ ์์ ํน์ฑ์ LLaMA2-7B ๊ธฐ๋ฐ ์๋ฎฌ๋ ์ด์ ์ ๋ฐ์ํด ์ ์ํ PIM ๊ตฌ์กฐ์ Transformer ์ฐ์ฐ ์ ์ฉ ๊ฐ๋ฅ์ฑ์ ๊ฒ์ฆํ๋ค.
๊น์ฑ์ค ๊ต์๋ “์ด๋ฒ ์ฐ๊ตฌ๋ ์๋ก ๋ค๋ฅธ ๋ฉ๋ชจ๋ฆฌ ํน์ฑ์ Transformer ์ฐ์ฐ์ ์๊ตฌ์ฌํญ์ ๋ง๊ฒ ํ์ฉํด KV-cache์ ๋ชจ๋ธ ๊ฐ์ค์น๋ฅผ ํ๋์ PIM ๊ตฌ์กฐ์์ ์ฒ๋ฆฌํ ์ ์๋ค๋ ๊ฐ๋ฅ์ฑ์ ์ ์ํ ์ฐ๊ตฌ”๋ผ๋ฉฐ, “ํฅํ LLM์ ๋ฉ๋ชจ๋ฆฌ ๋ณ๋ชฉ๊ณผ ๋ฐ์ดํฐ ์ด๋์ ๋ฐ๋ฅธ ์ ๋ ฅ ์๋ชจ๋ฅผ ์ค์ด๋ ์ฐจ์ธ๋ AI ํ๋์จ์ด ๊ธฐ์ ๋ก ํ์ฉ๋ ์ ์์ ๊ฒ์ผ๋ก ๊ธฐ๋ํ๋ค”๊ณ ์ ํ๋ค.
ํํธ, ์ด๋ฒ ์ฐ๊ตฌ๋ ์ฐ์ ํต์์์๋ถ์ K-CHIPS ์ฌ์ ๊ณผ ๊ณผํ๊ธฐ์ ์ ๋ณดํต์ ๋ถ๊ฐ ์ง์ํ๋ ์ ๋ณดํต์ ๊ธฐํํ๊ฐ์(IITP) ์ฐ๊ตฌ๊ณผ์ ์ง์์ ๋ฐ์ ์ํ๋์ผ๋ฉฐ, ๋๊ตญ๋ถฤว๊๊ต, ์์ธ๊ณผํ๊ธฐ์ ๋ถฤว๊๊ต, ์์ธ์๋ฆฝ๋ถฤว๊๊ต ๋ฐ ํ๊ตญ์ ์ํต์ ์ฐ๊ตฌ์(ETRI) ์ฐ๊ตฌ์ง์ ํ๋ ฅ์ผ๋ก ์งํ๋๋ค.