8000 GitHub - ParkDongho/gemmini: Berkeley's Spatial Array Generator ยท GitHub
[go: up one dir, main page]

Skip to content
ParkDonghoPublic
forked from ucb-bar/gemmini

About

Berkeley's Spatial Array Generator

Resources

Stars

0 stars

Watchers

0 watching

Forks

ย 
ย 

Latest commit

ย 

History

737 Commits

Folders and files

Repository files navigation

Gemmini

The Gemmini project๋Š” ์ „์ฒด ์‹œ์Šคํ…œ ๋ฐ ์ „์ฒด ์Šคํƒ DNN ํ•˜๋“œ์›จ์–ด ํƒ์ƒ‰ ๋ฐ ํ‰๊ฐ€ ํ”Œ๋žซํผ์„ ๊ฐœ๋ฐœ ์ค‘์ž…๋‹ˆ๋‹ค. Gemmini๋Š” ์•„ํ‚คํ…ํŠธ๊ฐ€ ์‹œ์Šคํ…œ ๋ฐ ์†Œํ”„ํŠธ์›จ์–ด ์Šคํƒ์˜ ๋‹ค์–‘ํ•œ ๊ตฌ์„ฑ ์š”์†Œ(๊ฐ€์†๊ธฐ ์ž์ฒด ์™ธ๋ถ€)๊ฐ€ ์ƒํ˜ธ์ž‘์šฉํ•˜์—ฌ ์ „์ฒด DNN ์„ฑ๋Šฅ์— ๋ฏธ์น˜๋Š” ์˜ํ–ฅ์„ ์œ ์šฉํ•˜๊ฒŒ ๋ถ„์„ํ•  ์ˆ˜ ์žˆ๋„๋ก ํ•ฉ๋‹ˆ๋‹ค.

Gemmini๋Š” Chipyard ์ƒํƒœ๊ณ„์˜ ์ผ๋ถ€์ด๋ฉฐ, Chisel ํ•˜๋“œ์›จ์–ด ์„ค๋ช… ์–ธ์–ด๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ ๊ฐœ๋ฐœ๋˜์—ˆ์Šต๋‹ˆ๋‹ค.

์ด ๋ฌธ์„œ๋Š” Gemmini๋ฅผ ์ฒ˜์Œ ์‹œ๋„ํ•˜๋ ค๋Š” ์ดˆ๋ณด์ž๋“ค์—๊ฒŒ ์ •๋ณด๋ฅผ ์ œ๊ณตํ•˜๊ณ , Gemmini์˜ ์†Œ์Šค ์ฝ”๋“œ๋ฅผ ํ•ดํ‚นํ•˜๋ ค๋Š” ์‚ฌ๋žŒ๋“ค์„ ์œ„ํ•œ ๋” ๊นŠ์ด ์žˆ๋Š” ์ •๋ณด๋ฅผ ์ œ๊ณตํ•˜๊ธฐ ์œ„ํ•œ ๊ฒƒ์ž…๋‹ˆ๋‹ค.

Gemmini์˜ ๊ณ ์ˆ˜์ค€ ์•„ํ‚คํ…์ฒ˜

Quick Start

์—ฌ๊ธฐ์—์„œ๋Š” Gemmini์˜ ์ข…์†์„ฑ(Chipyard ๋ฐ Spike)์„ ์„ค์น˜ํ•˜๊ณ , Gemmini ํ•˜๋“œ์›จ์–ด ๋ฐ ์†Œํ”„ํŠธ์›จ์–ด๋ฅผ ๋นŒ๋“œํ•œ ๋‹ค์Œ, ํ•ด๋‹น ์†Œํ”„ํŠธ์›จ์–ด๋ฅผ ํ•˜๋“œ์›จ์–ด ์‹œ๋ฎฌ๋ ˆ์ดํ„ฐ์—์„œ ์‹คํ–‰ํ•˜๋Š” ๋น ๋ฅธ ๊ฐ€์ด๋“œ๋ฅผ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค.

Dependencies

์‹œ์ž‘ํ•˜๊ธฐ ์ „์— Chipyard ์ข…์†์„ฑ์„ ์„ค์น˜ํ•˜์‹ญ์‹œ์˜ค.

Installing Chipyard and Spike

๋‹ค์Œ ๋‹จ๊ณ„๋“ค์„ ์‹คํ–‰ํ•˜์—ฌ Chipyard์™€ Spike๋ฅผ ์„ค์น˜ํ•˜์„ธ์š”(์•„๋ž˜์— ํ‘œ์‹œ๋œ ์˜ฌ๋ฐ”๋ฅธ Chipyard ๋ฐ Spike ์ปค๋ฐ‹์„ ์ฒดํฌ์•„์›ƒํ•˜๋Š” ๊ฒƒ์„ ์žŠ์ง€ ๋งˆ์‹ญ์‹œ์˜ค):

git clone https://github.com/ucb-bar/chipyard.git
cd chipyard
git checkout 1.9.1
./build-setup.sh riscv-tools

source env.sh

cd generators/gemmini
git config remote.origin.fetch "+refs/heads/*:refs/remotes/origin/*"
git fetch && git checkout v0.7.1
git submodule update --init --recursive

make -C software/libgemmini install

# ๋งˆ์ง€๋ง‰ ๋‹จ๊ณ„๋Š” ํ˜„์‹ค์ ์ธ DRAM ๋ชจ๋ธ์ด ์žˆ๋Š” MIDAS ์‹œ๋ฎฌ๋ ˆ์ด์…˜์„ ์‹คํ–‰ํ•˜๋ ค๋Š” ๊ฒฝ์šฐ์—๋งŒ ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค.
cd -
cd sims/firesim
source sourceme-f1-manager.sh --skip-ssh-setup # ์ด ๋ช…๋ น์—์„œ ๋ฐœ์ƒํ•˜๋Š” ์˜ค๋ฅ˜ ๋ฉ”์‹œ์ง€๋ฅผ ๋ฌด์‹œํ•˜์‹ญ์‹œ์˜ค.
./build-setup.sh --library --skip-validate

Setting Up Gemmini

์•„๋ž˜ ๋‹จ๊ณ„๋“ค์„ ์‹คํ–‰ํ•˜์—ฌ Gemmini ๊ตฌ์„ฑ ํŒŒ์ผ, ์‹ฌ๋ณผ๋ฆญ ๋งํฌ ๋ฐ ํ•˜์œ„ ๋””๋ ‰ํ„ฐ๋ฆฌ๋ฅผ ์„ค์ •ํ•˜์‹ญ์‹œ์˜ค:

cd chipyard/generators/gemmini
./scripts/setup-paths.sh

Building Gemmini Software

์•„๋ž˜ ๋‹จ๊ณ„๋“ค์„ ์‹คํ–‰ํ•˜์—ฌ Gemmini ํ”„๋กœ๊ทธ๋žจ, ResNet50๊ณผ ๊ฐ™์€ ๋Œ€๊ทœ๋ชจ DNN ๋ชจ๋ธ ๋ฐ ์ž‘์€ ํ–‰๋ ฌ ๊ณฑ์…ˆ ํ…Œ์ŠคํŠธ๋ฅผ ์ปดํŒŒ์ผํ•˜์‹ญ์‹œ์˜ค.

cd chipyard/generators/gemmini/software/gemmini-rocc-tests
./build.sh

์ดํ›„, build/ ๋””๋ ‰ํ„ฐ๋ฆฌ์—์„œ "baremetal" ํ™˜๊ฒฝ, Linux ํ™˜๊ฒฝ ๋ฐ "proxy-kernel" ํ™˜๊ฒฝ์šฉ RISC-V ๋ฐ”์ด๋„ˆ๋ฆฌ๋ฅผ ์ฐพ์„ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

Linux ๋ฐ”์ด๋„ˆ๋ฆฌ๋Š” Linux๋ฅผ ์‹คํ–‰ํ•˜๋Š” SoC์—์„œ ์‹คํ–‰ํ•˜๋„๋ก ์„ค๊ณ„๋˜์—ˆ์Šต๋‹ˆ๋‹ค. ์ด ๋ฐ”์ด๋„ˆ๋ฆฌ๋“ค์€ ๋™์ ์œผ๋กœ ๋งํฌ๋˜๋ฉฐ ๋ชจ๋“  ์‹œ์Šคํ…œ ํ˜ธ์ถœ์„ ์ง€์›ํ•ฉ๋‹ˆ๋‹ค. ๋Œ€๋ถ€๋ถ„์˜ ์‚ฌ์šฉ์ž๋Š” ์ด๋“ค์„ FireSim ์‹œ๋ฎฌ๋ ˆ์ดํ„ฐ์—์„œ ์‹คํ–‰ํ•ฉ๋‹ˆ๋‹ค.

Baremetal ๋ฐ”์ด๋„ˆ๋ฆฌ๋Š” ์šด์˜ ์ฒด์ œ๊ฐ€ ์—†๋Š” ํ™˜๊ฒฝ์—์„œ ์‹คํ–‰ํ•˜๋„๋ก ์„ค๊ณ„๋˜์—ˆ์Šต๋‹ˆ๋‹ค. ์ด๋“ค์€ ๋Œ€๋ถ€๋ถ„์˜ ์‹œ์Šคํ…œ ํ˜ธ์ถœ์„ ์ง€์›ํ•˜์ง€ ์•Š์œผ๋ฉฐ ๊ฐ€์ƒ ๋ฉ”๋ชจ๋ฆฌ๋„ ์ง€์›ํ•˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค. ๋Œ€๋ถ€๋ถ„์˜ ์‚ฌ์šฉ์ž๋Š” ์ด๋“ค์„ Verilator ๋˜๋Š” VCS์™€ ๊ฐ™์€ ์‚ฌ์ดํด ์ •ํ™•๋„ ์‹œ๋ฎฌ๋ ˆ์ดํ„ฐ์—์„œ ์‹คํ–‰ํ•ฉ๋‹ˆ๋‹ค.

"Proxy-kernel" ๋ฐ”์ด๋„ˆ๋ฆฌ๋Š” "RISC-V Proxy Kernel"์ด๋ผ๋Š” ์ถ•์†Œ๋œ ๋ฒ„์ „์˜ Linux์—์„œ ์‹คํ–‰๋˜๋„๋ก ์„ค๊ณ„๋˜์—ˆ์Šต๋‹ˆ๋‹ค. ์ด ๋ฐ”์ด๋„ˆ๋ฆฌ๋“ค์€ ๊ฐ€์ƒ ๋ฉ”๋ชจ๋ฆฌ๋ฅผ ์ง€์›ํ•˜๋ฉฐ, ๋ณดํ†ต Verilator์™€ ๊ฐ™์€ ์‚ฌ์ดํด ์ •ํ™•๋„ ์‹œ๋ฎฌ๋ ˆ์ดํ„ฐ์—์„œ ์‹คํ–‰๋ฉ๋‹ˆ๋‹ค.

๊ฒฝ๊ณ : Proxy-kernel ๋ฐ”์ด๋„ˆ๋ฆฌ๋Š” ํž™ ๊ณต๊ฐ„์ด ์ œํ•œ๋˜์–ด ์žˆ์œผ๋ฏ€๋กœ baremetal ๋˜๋Š” Linux ํ™˜๊ฒฝ์—์„œ๋Š” ์ œ๋Œ€๋กœ ์ž‘๋™ํ•˜๋Š” ์ผ๋ถ€ Gemmini ํ”„๋กœ๊ทธ๋žจ์ด proxy-kernel์—์„œ ์‹คํŒจํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

Building Gemmini Hardware and Cycle-Accurate Simulators

Verilator๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ ์‚ฌ์ดํด ์ •ํ™•๋„ Gemmini ์‹œ๋ฎฌ๋ ˆ์ดํ„ฐ๋ฅผ ๋นŒ๋“œํ•˜๋ ค๋ฉด ์•„๋ž˜ ์ง€์นจ์„ ์‹คํ–‰ํ•˜์‹ญ์‹œ์˜ค.

cd chipyard/generators/gemmini
./scripts/build-verilator.sh

# ๋˜๋Š” ํŒŒํ˜•์„ ์ƒ์„ฑํ•  ์ˆ˜ ์žˆ๋Š” ์‹œ๋ฎฌ๋ ˆ์ดํ„ฐ๋ฅผ ์›ํ•œ๋‹ค๋ฉด ๋‹ค์Œ์„ ์‹คํ–‰ํ•˜์‹ญ์‹œ์˜ค:
# ./scripts/build-verilator.sh --debug

์ด ์ž‘์—…์„ ์ˆ˜ํ–‰ํ•œ ํ›„, ์‚ฌ์ดํด ์ •ํ™•๋„ ์‹œ๋ฎฌ๋ ˆ์ดํ„ฐ ์™ธ์—๋„ SoC์˜ Verilog ์„ค๋ช…์„ generated-src/์—์„œ ์ฐพ์„ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

Building Gemmini Functional Simulators

Gemmini์˜ ๊ธฐ๋Šฅ์  ISA ์‹œ๋ฎฌ๋ ˆ์ดํ„ฐ("Spike"๋ผ๊ณ  ํ•จ)๋ฅผ ๋นŒ๋“œํ•˜๋ ค๋ฉด ์•„๋ž˜ ์ง€์นจ์„ ์‹คํ–‰ํ•˜์‹ญ์‹œ์˜ค.

cd chipyard/generators/gemmini
./scripts/build-spike.sh

Spike๋Š” Verilator๋‚˜ VCS์™€ ๊ฐ™์€ ์‚ฌ์ดํด ์ •ํ™•๋„ ์‹œ๋ฎฌ๋ ˆ์ดํ„ฐ๋ณด๋‹ค ํ›จ์”ฌ ๋น ๋ฅด๊ฒŒ ์‹คํ–‰๋ฉ๋‹ˆ๋‹ค. ๊ทธ๋Ÿฌ๋‚˜ Spike๋Š” ๊ธฐ๋Šฅ์  ์ •ํ™•์„ฑ๋งŒ ํ™•์ธํ•  ์ˆ˜ ์žˆ์œผ๋ฉฐ, ์ •ํ™•ํ•œ ์„ฑ๋Šฅ ์ง€ํ‘œ๋‚˜ ํ”„๋กœํŒŒ์ผ๋ง ์ •๋ณด๋ฅผ ์ œ๊ณตํ•  ์ˆ˜ ์—†์Šต๋‹ˆ๋‹ค.

Run Simulators

์ด์ „์— ๋นŒ๋“œํ•œ Gemmini RISCV ๋ฐ”์ด๋„ˆ๋ฆฌ๋ฅผ ์œ„์—์„œ ๋นŒ๋“œํ•œ ์‹œ๋ฎฌ๋ ˆ์ดํ„ฐ๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ ์‹คํ–‰ํ•˜๋ ค๋ฉด ์•„๋ž˜ ์ง€์นจ์„ ๋”ฐ๋ฅด์‹ญ์‹œ์˜ค:

cd chipyard/generators/gemmini

# ๊ธฐ๋Šฅ์  ์‹œ๋ฎฌ๋ ˆ์ดํ„ฐ์—์„œ ๋Œ€๊ทœ๋ชจ DNN ์ž‘์—… ๋ถ€ํ•˜ ์‹คํ–‰
./scripts/run-spike.sh resnet50

# ์‚ฌ์ดํด ์ •ํ™•๋„ ์‹œ๋ฎฌ๋ ˆ์ดํ„ฐ์—์„œ baremetal ๋ชจ๋“œ๋กœ ์ž‘์€ ์ž‘์—… ๋ถ€ํ•˜ ์‹คํ–‰
./scripts/run-verilator.sh template

# proxy-kernel์—์„œ ์ž‘์€ ์ž‘์—… ๋ถ€ํ•˜๋ฅผ ์‚ฌ์ดํด ์ •ํ™•๋„ ์‹œ๋ฎฌ๋ ˆ์ดํ„ฐ์—์„œ ์‹คํ–‰
./scripts/run-verilator.sh --pk template

# ๋˜๋Š”, `waveforms/`์— ํŒŒํ˜•์„ ์ƒ์„ฑํ•˜๋ ค๋ฉด:
# ./scripts/run-verilator.sh --pk --debug template

Next steps

Gemmini๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ ๋‹ค์–‘ํ•œ ์œ ํ˜•์˜ ๊ฐ€์†๊ธฐ๋ฅผ ๊ตฌ์ถ•ํ•˜๋Š” ๋ฐฉ๋ฒ•, Gemmini์— ์‚ฌ์šฉ์ž ์ •์˜ ๋ฐ์ดํ„ฐ ์œ ํ˜•์„ ์ถ”๊ฐ€ํ•˜๋Š” ๋ฐฉ๋ฒ•, Gemmini ํ”„๋กœ๊ทธ๋žจ์„ ์ž‘์„ฑํ•˜๋Š” ๋ฐฉ๋ฒ•, Gemmini์˜ ์„ฑ๋Šฅ ์นด์šดํ„ฐ๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ ์ž‘์—… ๋ถ€ํ•˜๋ฅผ ํ”„๋กœํŒŒ์ผ๋งํ•˜๋Š” ๋ฐฉ๋ฒ•์„ ๋ฐฐ์šฐ๋ ค๋ฉด MLSys 2022 ํŠœํ† ๋ฆฌ์–ผ (๋˜๋Š” ์ด์ „์˜ ๋” ์˜ค๋ž˜๋œ IISWC 2021 ํŠœํ† ๋ฆฌ์–ผ)์„ ํ™•์ธํ•˜์‹ญ์‹œ์˜ค.

๋˜๋Š” FireSim์— ๋Œ€ํ•ด ์•Œ์•„๋ณด์„ธ์š”. ์ด ํ”Œ๋žซํผ์€ FPGA ๊ฐ€์† ์‚ฌ์ดํด ์ •ํ™•๋„ ์‹œ๋ฎฌ๋ ˆ์ด์…˜์„ ์œ„ํ•œ ํ”Œ๋žซํผ์ž…๋‹ˆ๋‹ค. ์šฐ๋ฆฌ๋Š” Verilator/VCS์—์„œ ์‹คํ–‰ํ•˜๋Š” ๋ฐ ๋„ˆ๋ฌด ์˜ค๋žœ ์‹œ๊ฐ„์ด ๊ฑธ๋ฆฌ๋Š” ์ข…๋‹จ ๊ฐ„ DNN ์ž‘์—… ๋ถ€ํ•˜๋ฅผ ์‹คํ–‰ํ•˜๊ธฐ ์œ„ํ•ด FireSim์„ ์‚ฌ์šฉํ•ฉ๋‹ˆ๋‹ค. FireSim์€ ๋˜ํ•œ Gemmini ํ•˜๋“œ์›จ์–ด/์†Œํ”„ํŠธ์›จ์–ด๊ฐ€ Linux ํ™˜๊ฒฝ์—์„œ ์‹คํ–‰๋  ๋•Œ ์ž‘๋™ํ•˜๋Š”์ง€ ํ™•์ธํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

๋˜๋Š” Gemmini์˜ ์•„ํ‚คํ…์ฒ˜, ISA ๋ฐ ๊ตฌ์„ฑ ๋งค๊ฐœ๋ณ€์ˆ˜์— ๋Œ€ํ•œ ์„ค๋ช…์„ ์œ„ํ•ด ์ด ๋ฌธ์„œ์˜ ๋‚˜๋จธ์ง€ ๋ถ€๋ถ„์„ ๊ณ„์† ์ฝ์œผ์‹ญ์‹œ์˜ค.

Architecture

Gemmini๋Š” ๋น„ํ‘œ์ค€ RISC-V ์‚ฌ์šฉ์ž ์ •์˜ ๋ช…๋ น์–ด๋ฅผ ์‚ฌ์šฉํ•˜๋Š” RoCC ๊ฐ€์†๊ธฐ๋กœ ๊ตฌํ˜„๋ฉ๋‹ˆ๋‹ค. Gemmini ์œ ๋‹›์€ Rocket ๋˜๋Š” BOOM ํƒ€์ผ์˜ RoCC ํฌํŠธ๋ฅผ ์‚ฌ์šฉํ•˜๋ฉฐ, ๊ธฐ๋ณธ์ ์œผ๋กœ ์‹œ์Šคํ…œ ๋ฒ„์Šค(์ฆ‰, L2 ์บ์‹œ์— ์ง์ ‘ ์—ฐ๊ฒฐ)๋ฅผ ํ†ตํ•ด ๋ฉ”๋ชจ๋ฆฌ ์‹œ์Šคํ…œ์— ์—ฐ๊ฒฐ๋ฉ๋‹ˆ๋‹ค.

๊ฐ€์†๊ธฐ์˜ ํ•ต์‹ฌ์—๋Š” ํ–‰๋ ฌ ๊ณฑ์…ˆ์„ ์ˆ˜ํ–‰ํ•˜๋Š” ์‹œ์Šคํ†จ๋ฆญ ๋ฐฐ์—ด์ด ์žˆ์Šต๋‹ˆ๋‹ค. ๊ธฐ๋ณธ์ ์œผ๋กœ ํ–‰๋ ฌ ๊ณฑ์…ˆ์€ _output-stationary_์™€ weight-stationary ๋ฐ์ดํ„ฐ ํ๋ฆ„์„ ๋ชจ๋‘ ์ง€์›ํ•˜๋ฉฐ, ํ”„๋กœ๊ทธ๋ž˜๋จธ๋Š” ๋Ÿฐํƒ€์ž„์— ์ด๋“ค ๊ฐ„์— ์„ ํƒํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ๊ทธ๋Ÿฌ๋‚˜ ๋ฐ์ดํ„ฐ ํ๋ฆ„์€ ์„ค๋ช… ์‹œ์ ์— ๊ณ ์ •๋  ์ˆ˜๋„ ์žˆ์Šต๋‹ˆ๋‹ค.

์‹œ์Šคํ†จ๋ฆญ ๋ฐฐ์—ด์˜ ์ž…๋ ฅ๊ณผ ์ถœ๋ ฅ์€ ๋ฑ…ํ‚น๋œ SRAM์œผ๋กœ ๊ตฌ์„ฑ๋œ ๋ช…์‹œ์ ์œผ๋กœ ๊ด€๋ฆฌ๋˜๋Š” ์Šคํฌ๋ž˜์น˜ํŒจ๋“œ์— ์ €์žฅ๋ฉ๋‹ˆ๋‹ค. DMA ์—”์ง„์€ ๋ฉ”์ธ ๋ฉ”๋ชจ๋ฆฌ(ํ˜ธ์ŠคํŠธ CPU์—์„œ ๋ณผ ์ˆ˜ ์žˆ๋Š” ๋ฉ”๋ชจ๋ฆฌ)์™€ ์Šคํฌ๋ž˜์น˜ํŒจ๋“œ ๊ฐ„์˜ ๋ฐ์ดํ„ฐ ์ „์†ก์„ ์šฉ์ดํ•˜๊ฒŒ ํ•ฉ๋‹ˆ๋‹ค.

weight-stationary ๋ฐ์ดํ„ฐ ํ๋ฆ„์€ ์‹œ์Šคํ†จ๋ฆญ ๋ฐฐ์—ด ์™ธ๋ถ€์— ๋ˆ„์‚ฐ๊ธฐ๋ฅผ ํ•„์š”๋กœ ํ•˜๊ธฐ ๋•Œ๋ฌธ์—, ์šฐ๋ฆฌ๋Š” ๋ˆ„์‚ฐ๊ธฐ ๋ฉ”๋ชจ๋ฆฌ ๊ณต๊ฐ„์˜ ํ™•์žฅ์œผ๋กœ ๊ฐ„์ฃผ๋  ์ˆ˜ ์žˆ๋Š” ์–ด๋“œ๋ ˆ์‹ฑ์ด ๊ฐ€๋Šฅํ•œ ์ตœ์ข… SRAM ๋ฑ…ํฌ๋ฅผ ์ถ”๊ฐ€ํ•ฉ๋‹ˆ๋‹ค. ์‹œ์Šคํ†จ๋ฆญ ๋ฐฐ์—ด์€ ๋ˆ„์‚ฐ๊ธฐ์˜ ๋ชจ๋“  ์ฃผ์†Œ์— ๊ฒฐ๊ณผ๋ฅผ ์ €์žฅํ•  ์ˆ˜ ์žˆ์œผ๋ฉฐ, ๋ˆ„์‚ฐ๊ธฐ์—์„œ ์ƒˆ๋กœ์šด ์ž…๋ ฅ์„ ์ฝ์–ด์˜ฌ ์ˆ˜๋„ ์žˆ์Šต๋‹ˆ๋‹ค. DMA ์—”์ง„์€ ๋˜ํ•œ ์ข…์ข… ๋ฐ”์ด์–ด์Šค๋ฅผ ๋กœ๋“œํ•˜๊ธฐ ์œ„ํ•ด ํ•„์š”ํ•œ ๋ˆ„์‚ฐ๊ธฐ์™€ ๋ฉ”์ธ ๋ฉ”๋ชจ๋ฆฌ ๊ฐ„์˜ ๋ฐ์ดํ„ฐ๋ฅผ ์ง์ ‘ ์ „์†กํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

Gemmini๋Š” ๋˜ํ•œ ReLU ๋˜๋Š” ReLU6๊ณผ ๊ฐ™์€ ํ™œ์„ฑํ™” ํ•จ์ˆ˜๋ฅผ ์„ ํƒ์ ์œผ๋กœ ์ ์šฉํ•˜๊ฑฐ๋‚˜, ์–‘์žํ™”๋œ ์ž‘์—… ๋ถ€ํ•˜๋ฅผ ์ง€์›ํ•˜๊ธฐ ์œ„ํ•ด ๊ฒฐ๊ณผ๋ฅผ 2์˜ ๊ฑฐ๋“ญ์ œ๊ณฑ์œผ๋กœ ์ถ•์†Œํ•˜๊ฑฐ๋‚˜, ํ–‰๋ ฌ์„ ์ „์น˜ํ•˜์—ฌ output-stationary ๋ฐ์ดํ„ฐ ํ๋ฆ„์„ ์ง€์›ํ•˜๋Š” ์ฃผ๋ณ€ ํšŒ๋กœ๋ฅผ ํฌํ•จํ•ฉ๋‹ˆ๋‹ค.

Generator Parameters

์ฃผ์š” ๊ด€์‹ฌ ๋งค๊ฐœ๋ณ€์ˆ˜๋Š” ๋‹ค์Œ๊ณผ ๊ฐ™์Šต๋‹ˆ๋‹ค:

  • ์‹œ์Šคํ†จ๋ฆญ ๋ฐฐ์—ด ์ฐจ์›(tileRows, tileColumns, meshRows, meshColumns): ์‹œ์Šคํ†จ๋ฆญ ๋ฐฐ์—ด์€ ๊ฐ ํƒ€์ผ์ด ์™„์ „ํžˆ ์กฐํ•ฉ์ ์ธ 2๋‹จ๊ณ„ ๊ณ„์ธต ๊ตฌ์กฐ๋กœ ๊ตฌ์„ฑ๋˜๋ฉฐ, ํƒ€์ผ์˜ ๋ฉ”์‹œ์—๋Š” ๊ฐ ํƒ€์ผ ๊ฐ„์— ํŒŒ์ดํ”„๋ผ์ธ ๋ ˆ์ง€์Šคํ„ฐ๊ฐ€ ์žˆ์Šต๋‹ˆ๋‹ค.

Gemmini์˜ ์‹œ์Šคํ†จ๋ฆญ 2๋‹จ๊ณ„ ๊ณ„์ธต ๊ตฌ์กฐ

  • ๋ฐ์ดํ„ฐ ํ๋ฆ„ ๋งค๊ฐœ๋ณ€์ˆ˜(dataflow): Gemmini์˜ ์‹œ์Šคํ†จ๋ฆญ ๋ฐฐ์—ด์ด output-stationary์ธ์ง€ weight-stationary์ธ์ง€๋ฅผ ๊ฒฐ์ •ํ•˜๊ฑฐ๋‚˜, ๋‘ ๋ฐ์ดํ„ฐ ํ๋ฆ„์„ ๋ชจ๋‘ ์ง€์›ํ•˜์—ฌ ํ”„๋กœ๊ทธ๋ž˜๋จธ๊ฐ€ ๋Ÿฐํƒ€์ž„์— ์„ ํƒํ•  ์ˆ˜ ์žˆ๋„๋ก ํ•ฉ๋‹ˆ๋‹ค.

  • ์Šคํฌ๋ž˜์น˜ํŒจ๋“œ ๋ฐ ๋ˆ„์‚ฐ๊ธฐ ๋ฉ”๋ชจ๋ฆฌ ๋งค๊ฐœ๋ณ€์ˆ˜(sp_banks, sp_capacity, acc_capacity): Gemmini ์Šคํฌ๋ž˜์น˜ํŒจ๋“œ ๋ฉ”๋ชจ๋ฆฌ์˜ ์†์„ฑ์„ ๊ฒฐ์ •ํ•ฉ๋‹ˆ๋‹ค: ์Šคํฌ๋ž˜์น˜ํŒจ๋“œ ๋˜๋Š” ๋ˆ„์‚ฐ๊ธฐ์˜ ์ „์ฒด ์šฉ๋Ÿ‰(ํ‚ค๋น„๋ฐ”์ดํŠธ ๋‹จ์œ„) ๋ฐ ์Šคํฌ๋ž˜์น˜ํŒจ๋“œ๊ฐ€ ๋ถ„ํ• ๋˜๋Š” ๋ฑ…ํฌ ์ˆ˜๋ฅผ ํฌํ•จํ•ฉ๋‹ˆ๋‹ค.

  • ์œ ํ˜• ๋งค๊ฐœ๋ณ€์ˆ˜(inputType, outputType, accType): Gemmini ๊ฐ€์†๊ธฐ์˜ ๋‹ค์–‘ํ•œ ๋ถ€๋ถ„์„ ํ†ต๊ณผํ•˜๋Š” ๋ฐ์ดํ„ฐ ์œ ํ˜•์„ ๊ฒฐ์ •ํ•ฉ๋‹ˆ๋‹ค. ์˜ˆ๋ฅผ ๋“ค์–ด, inputType์€ 8๋น„ํŠธ ๊ณ ์ • ์†Œ์ˆ˜์  ์ˆซ์ž์ผ ์ˆ˜ ์žˆ์œผ๋ฉฐ, accType์€ ํ–‰๋ ฌ ๊ณฑ์…ˆ์—์„œ ๋ถ€๋ถ„ ํ•ฉ๊ณ„๋ฅผ ๊ฒฐ์ •ํ•˜๋Š” 32๋น„ํŠธ ์ •์ˆ˜์ผ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. outputType์€ ์ฒ˜๋ฆฌ ์š”์†Œ(PE) ๊ฐ„์— ์ „๋‹ฌ๋˜๋Š” ๋ฐ์ดํ„ฐ ์œ ํ˜•๋งŒ ๊ฒฐ์ •ํ•ฉ๋‹ˆ๋‹ค. ์˜ˆ๋ฅผ ๋“ค์–ด, 8๋น„ํŠธ ๊ณฑ์…ˆ์€ 16๋น„ํŠธ ๊ฒฐ๊ณผ๋ฅผ ์ƒ์„ฑํ•˜๋ฉฐ, ์ด ๊ฒฐ๊ณผ๋Š” ์‹œ์Šคํ†จ๋ฆญ ๋ฐฐ์—ด์˜ PE ๊ฐ„์— ๊ณต์œ ๋˜์–ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.

    • ๊ฐ€๋Šฅํ•œ ๋ฐ์ดํ„ฐ ์œ ํ˜•์˜ ์˜ˆ๋Š” ๋‹ค์Œ๊ณผ ๊ฐ™์Šต๋‹ˆ๋‹ค:
      • SInt(8.W): ๋ถ€ํ˜ธ ์žˆ๋Š” 8๋น„ํŠธ ์ •์ˆ˜
      • UInt(32.W): ๋ถ€ํ˜ธ ์—†๋Š” 32๋น„ํŠธ ์ •์ˆ˜
      • Float(8, 24): ๋‹จ์ •๋ฐ€๋„ IEEE ๋ถ€๋™ ์†Œ์ˆ˜์  ์ˆ˜
    • ๋ฐ์ดํ„ฐ ์œ ํ˜•์ด ๋ถ€๋™ ์†Œ์ˆ˜์  ์ˆซ์ž์ธ ๊ฒฝ์šฐ, PE ๋‚ด์— ์ถ”๊ฐ€ํ•  ์‹œํ”„ํŠธ ๋ ˆ์ง€์Šคํ„ฐ ์ˆ˜๋ฅผ ์ง€์ •ํ•˜๋Š” pe_latency ๋งค๊ฐœ๋ณ€์ˆ˜๋ฅผ ๋ณ€๊ฒฝํ•ด์•ผ ํ•  ์ˆ˜๋„ ์žˆ์Šต๋‹ˆ๋‹ค. ์ด๊ฒƒ์€ ๋ฐ์ดํ„ฐ ์œ ํ˜•์ด ํ•˜๋‚˜์˜ ์‚ฌ์ดํด ๋‚ด์—์„œ ๊ณฑ์…ˆ-๋ˆ„์‚ฐ ์ž‘์—…์„ ์™„๋ฃŒํ•  ์ˆ˜ ์—†๋Š” ๊ฒฝ์šฐ์— ํ•„์š”ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.
  • Access-execute ํ ๋งค๊ฐœ๋ณ€์ˆ˜(ld_queue_length, st_queue_length, ex_queue_length, rob_entries): Access-execute ๋””์ปคํ”Œ๋ง์„ ๊ตฌํ˜„ํ•˜๊ธฐ ์œ„ํ•ด Gemmini ๊ฐ€์†๊ธฐ๋Š” ๋กœ๋“œ ๋ช…๋ น ํ, ์Šคํ† ์–ด ๋ช…๋ น ํ, ์‹คํ–‰ ๋ช…๋ น ํ๋ฅผ ๊ฐ–์ถ”๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ์ด ํ์˜ ์ƒ๋Œ€์ ์ธ ํฌ๊ธฐ๋Š” access-execute ๋””์ปคํ”Œ๋ง์˜ ์ˆ˜์ค€์„ ๊ฒฐ์ •ํ•ฉ๋‹ˆ๋‹ค. Gemmini๋Š” ๋˜ํ•œ ๋ฆฌ์˜ค๋” ๋ฒ„ํผ(ROB)๋ฅผ ๊ตฌํ˜„ํ•˜๋ฉฐ, ROB์˜ ํ•ญ๋ชฉ ์ˆ˜๋Š” ๊ฐ€๋Šฅํ•œ ์ข…์†์„ฑ ๊ด€๋ฆฌ ์ œํ•œ์„ ๊ฒฐ์ •ํ•ฉ๋‹ˆ๋‹ค.

  • DMA ๋งค๊ฐœ๋ณ€์ˆ˜(dma_maxbytes, dma_buswidth, mem_pipeline): Gemmini๋Š” ๋ฉ”์ธ ๋ฉ”๋ชจ๋ฆฌ์—์„œ Gemmini ์Šคํฌ๋ž˜์น˜ํŒจ๋“œ๋กœ, Gemmini ๋ˆ„์‚ฐ๊ธฐ์—์„œ ๋ฉ”์ธ ๋ฉ”๋ชจ๋ฆฌ๋กœ ๋ฐ์ดํ„ฐ๋ฅผ ์ด๋™ํ•˜๊ธฐ ์œ„ํ•ด DMA๋ฅผ ๊ตฌํ˜„ํ•ฉ๋‹ˆ๋‹ค. ์ด DMA ํŠธ๋žœ์žญ์…˜์˜ ํฌ๊ธฐ๋Š” DMA ๋งค๊ฐœ๋ณ€์ˆ˜์— ์˜ํ•ด ๊ฒฐ์ •๋ฉ๋‹ˆ๋‹ค. ์ด DMA ๋งค๊ฐœ๋ณ€์ˆ˜๋Š” Rocket Chip SoC ์‹œ์Šคํ…œ ๋งค๊ฐœ๋ณ€์ˆ˜์™€ ๋ฐ€์ ‘ํ•˜๊ฒŒ ์—ฐ๊ฒฐ๋˜์–ด ์žˆ์Šต๋‹ˆ๋‹ค. ํŠนํžˆ dma_buswidth๋Š” SystemBusKey beatBytes ๋งค๊ฐœ๋ณ€์ˆ˜์™€ ๊ด€๋ จ์ด ์žˆ์œผ๋ฉฐ, dma_maxbytes๋Š” cacheblockbytes Rocket Chip ๋งค๊ฐœ๋ณ€์ˆ˜์™€ ๊ด€๋ จ์ด ์žˆ์Šต๋‹ˆ๋‹ค.

๋˜ํ•œ ์„ค๋ช… ์‹œ์ ์— Gemmini์—์„œ ํ™œ์„ฑํ™”ํ•˜๊ฑฐ๋‚˜ ์ œ์™ธํ•  ์ˆ˜ ์žˆ๋Š” ์„ ํƒ์  ๊ธฐ๋Šฅ๋„ ์žˆ์Šต๋‹ˆ๋‹ค. ์˜ˆ๋ฅผ ๋“ค์–ด:

  • "์ด๋™ ์‹œ" ์Šค์ผ€์ผ๋ง(mvin_scale_args, mvin_scale_acc_args): DRAM ๋˜๋Š” ๋ฉ”์ธ ๋ฉ”๋ชจ๋ฆฌ์—์„œ Gemmini์˜ ๋กœ์ปฌ ์Šคํฌ๋ž˜์น˜ํŒจ๋“œ ๋ฉ”๋ชจ๋ฆฌ๋กœ ๋ฐ์ดํ„ฐ๊ฐ€ ์ด๋™๋  ๋•Œ ์„ ํƒ์ ์œผ๋กœ ์Šค์ผ€์ผ๋ง ์ธ์ž๋ฅผ ๊ณฑํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ด ๋งค๊ฐœ๋ณ€์ˆ˜๋Š” ์Šค์ผ€์ผ๋ง ์ธ์ž์˜ ๋ฐ์ดํ„ฐ ์œ ํ˜•์ด ๋ฌด์—‡์ธ์ง€, ์Šค์ผ€์ผ๋ง์ด ์‹ค์ œ๋กœ ์–ด๋–ป๊ฒŒ ์ด๋ฃจ์–ด์ง€๋Š”์ง€๋ฅผ ์ง€์ •ํ•ฉ๋‹ˆ๋‹ค. ์ด ๊ฐ’๋“ค์ด None์œผ๋กœ ์„ค์ •๋œ ๊ฒฝ์šฐ, ์ด ์„ ํƒ์  ๊ธฐ๋Šฅ์€ ์„ค๋ช… ์‹œ์ ์— ๋น„ํ™œ์„ฑํ™”๋ฉ๋‹ˆ๋‹ค. ์Šคํฌ๋ž˜์น˜ํŒจ๋“œ ์ž…๋ ฅ๊ณผ ๋ˆ„์‚ฐ๊ธฐ ์ž…๋ ฅ์ด ๋™์ผํ•œ ๋ฐฉ์‹์œผ๋กœ ์Šค์ผ€์ผ๋ง๋˜์–ด์•ผ ํ•˜๋Š” ๊ฒฝ์šฐ, mvin_scale_shared ๋งค๊ฐœ๋ณ€์ˆ˜๋ฅผ true๋กœ ์„ค์ •ํ•˜์—ฌ ๊ณฑ์…ˆ๊ธฐ์™€ ๊ธฐ๋Šฅ ์œ ๋‹›์ด ๊ณต์œ ๋˜๋„๋ก ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

Major Components

์ด ํ•˜์œ„ ์„น์…˜์€ Gemmini์˜ RTL์„ ํ•ดํ‚นํ•˜๋ ค๋Š” ์‚ฌ๋žŒ๋“ค์„ ์œ„ํ•œ ๊ฒƒ์ž…๋‹ˆ๋‹ค. ์—ฌ๊ธฐ์—์„œ๋Š” Gemmini์˜ ์ฃผ์š” ํ•˜๋“œ์›จ์–ด ๊ตฌ์„ฑ ์š”์†Œ์™€ ์ด๋“ค์ด ์–ด๋–ป๊ฒŒ ๊ฒฐํ•ฉ๋˜๋Š”์ง€ ๊ฐ„๋žตํžˆ ์„ค๋ช…ํ•ฉ๋‹ˆ๋‹ค. Gemmini์˜ ํ•˜๋“œ์›จ์–ด๋ฅผ ๋ณ€๊ฒฝํ•  ๊ณ„ํš์ด ์—†๋‹ค๋ฉด(๊ตฌ์„ฑ ๋งค๊ฐœ๋ณ€์ˆ˜๋ฅผ ๋ณ€๊ฒฝํ•˜๋Š” ๊ฒƒ ์™ธ์—๋Š”), ์ด ์„น์…˜์„ ๊ฑด๋„ˆ๋›ฐ์–ด๋„ ์ข‹์Šต๋‹ˆ๋‹ค.

Decoupled Access/Execute

Gemmini๋Š” ๋””์ปคํ”Œ๋ง๋œ ์•ก์„ธ์Šค/์‹คํ–‰ ์•„ํ‚คํ…์ฒ˜๋กœ, "๋ฉ”๋ชจ๋ฆฌ ์•ก์„ธ์Šค"์™€ "์‹คํ–‰" ๋ช…๋ น์ด ํ•˜๋“œ์›จ์–ด์˜ ๋‹ค๋ฅธ ์˜์—ญ์—์„œ ๋™์‹œ์— ์‹คํ–‰๋ฉ๋‹ˆ๋‹ค. ์šฐ๋ฆฌ๋Š” ํ•˜๋“œ์›จ์–ด๋ฅผ ํฌ๊ฒŒ ์„ธ ๊ฐ€์ง€ "์ปจํŠธ๋กค๋Ÿฌ"๋กœ ๋‚˜๋ˆ•๋‹ˆ๋‹ค: "์‹คํ–‰" ๋ช…๋ น์„ ๋‹ด๋‹นํ•˜๋Š” ์ปจํŠธ๋กค๋Ÿฌ, "๋กœ๋“œ" ๋ช…๋ น์„ ๋‹ด๋‹นํ•˜๋Š” ์ปจํŠธ๋กค๋Ÿฌ, ๊ทธ๋ฆฌ๊ณ  "์Šคํ† ์–ด" ๋ช…๋ น์„ ๋‹ด๋‹นํ•˜๋Š” ์ปจํŠธ๋กค๋Ÿฌ์ž…๋‹ˆ๋‹ค. ๊ฐ ์ปจํŠธ๋กค๋Ÿฌ๋Š” ํ”„๋กœ๊ทธ๋ž˜๋จธ๋กœ๋ถ€ํ„ฐ ์ง์ ‘ ISA ๋ช…๋ น์„ ์ˆ˜์‹ ํ•˜๊ณ , ์ด๋ฅผ ๋””์ฝ”๋”ฉํ•˜์—ฌ ์‹คํ–‰ํ•˜๋ฉฐ, ์Šคํฌ๋ž˜์น˜ํŒจ๋“œ ๋ฐ ๋ˆ„์‚ฐ๊ธฐ SRAM์— ๋Œ€ํ•œ ์ ‘๊ทผ์„ ๊ณต์œ ํ•ฉ๋‹ˆ๋‹ค.

  • ExecuteController: ์ด ๋ชจ๋“ˆ์€ ํ–‰๋ ฌ ๊ณฑ์…ˆ๊ณผ ๊ฐ™์€ "์‹คํ–‰" ์œ ํ˜•์˜ ISA ๋ช…๋ น์„ ์‹คํ–‰ํ•˜๋Š” ์—ญํ• ์„ ํ•ฉ๋‹ˆ๋‹ค. ์ด ๋ชจ๋“ˆ์—๋Š” ๋„ํŠธ ํ”„๋กœ๋•ํŠธ(dots product)๋ฅผ ์œ„ํ•œ ์‹œ์Šคํ†จ๋ฆญ ๋ฐฐ์—ด๊ณผ ์ „์น˜๊ธฐ(Transposer)๊ฐ€ ํฌํ•จ๋ฉ๋‹ˆ๋‹ค.

  • LoadController: ์ด ๋ชจ๋“ˆ์€ ๋ฉ”์ธ ๋ฉ”๋ชจ๋ฆฌ์—์„œ Gemmini์˜ ๊ฐœ์ธ ์Šคํฌ๋ž˜์น˜ํŒจ๋“œ๋‚˜ ๋ˆ„์‚ฐ๊ธฐ๋กœ ๋ฐ์ดํ„ฐ๋ฅผ ์ด๋™ํ•˜๋Š” ๋ชจ๋“  ๋ช…๋ น์„ ๋‹ด๋‹นํ•ฉ๋‹ˆ๋‹ค.

  • StoreController: ์ด ๋ชจ๋“ˆ์€ Gemmini์˜ ๊ฐœ์ธ SRAM์—์„œ ๋ฉ”์ธ ๋ฉ”๋ชจ๋ฆฌ๋กœ ๋ฐ์ดํ„ฐ๋ฅผ ์ด๋™ํ•˜๋Š” ๋ชจ๋“  ๋ช…๋ น์„ ๋‹ด๋‹นํ•ฉ๋‹ˆ๋‹ค. ์ด ๋ชจ๋“ˆ์€ ๋˜ํ•œ "๋งฅ์Šค ํ’€๋ง(max-pooling)" ๋ช…๋ น์„ ๋‹ด๋‹นํ•ฉ๋‹ˆ๋‹ค. ์™œ๋ƒํ•˜๋ฉด Gemmini๋Š” ๋ฏธํฌ๋œ ๋ฐ์ดํ„ฐ๋ฅผ ๊ฐœ์ธ SRAM์—์„œ ๋ฉ”์ธ ๋ฉ”๋ชจ๋ฆฌ๋กœ ์ด๋™ํ•  ๋•Œ ํ’€๋ง์„ ์ˆ˜ํ–‰ํ•˜๊ธฐ ๋•Œ๋ฌธ์ž…๋‹ˆ๋‹ค.

Scratchpad and Accumulator

Gemmini๋Š” ์‹œ์Šคํ†จ๋ฆญ ๋ฐฐ์—ด์˜ ์ž…๋ ฅ ๋ฐ ์ถœ๋ ฅ์„ ์ €์žฅํ•˜๊ธฐ ์œ„ํ•ด "์Šคํฌ๋ž˜์น˜ํŒจ๋“œ"์™€ "๋ˆ„์‚ฐ๊ธฐ"๋ผ๊ณ  ๋ถˆ๋ฆฌ๋Š” ์ผ๋ จ์˜ ๊ฐœ์ธ SRAM์„ ์‚ฌ์šฉํ•ฉ๋‹ˆ๋‹ค. ์ผ๋ฐ˜์ ์œผ๋กœ ์ž…๋ ฅ์€ ์Šคํฌ๋ž˜์น˜ํŒจ๋“œ์— ์ €์žฅ๋˜๋ฉฐ, ๋ถ€๋ถ„ ํ•ฉ๊ณ„ ๋ฐ ์ตœ์ข… ๊ฒฐ๊ณผ๋Š” ๋ˆ„์‚ฐ๊ธฐ์— ์ €์žฅ๋ฉ๋‹ˆ๋‹ค.

์Šคํฌ๋ž˜์น˜ํŒจ๋“œ์™€ ๋ˆ„์‚ฐ๊ธฐ๋Š” ๋ชจ๋‘ Scratchpad.scala์— ์ธ์Šคํ„ด์Šคํ™”๋ฉ๋‹ˆ๋‹ค. ์Šคํฌ๋ž˜์น˜ํŒจ๋“œ ๋ฑ…ํฌ๋Š” ScratchpadBank ๋ชจ๋“ˆ์— ์˜ํ•ด ๊ตฌํ˜„๋˜๋ฉฐ, ๋ˆ„์‚ฐ๊ธฐ ๋ฑ…ํฌ๋Š” AccumulatorMem ๋ชจ๋“ˆ์— ์˜ํ•ด ๊ตฌํ˜„๋ฉ๋‹ˆ๋‹ค.

์Šคํฌ๋ž˜์น˜ํŒจ๋“œ์™€ ๋ˆ„์‚ฐ๊ธฐ SRAM์˜ ๊ฐ ํ–‰์€ ์‹œ์Šคํ†จ๋ฆญ ๋ฐฐ์—ด์˜ ๋„ˆ๋น„๋ฅผ ๋”ฐ๋ผ DIM "์š”์†Œ"๋กœ ๊ตฌ์„ฑ๋ฉ๋‹ˆ๋‹ค. ๊ฐ "์š”์†Œ"๋Š” Gemmini๊ฐ€ ์ž‘๋™ํ•˜๋Š” ๋‹จ์ผ ์Šค์นผ๋ผ ๊ฐ’์„ ๋‚˜ํƒ€๋ƒ…๋‹ˆ๋‹ค.

์Šคํฌ๋ž˜์น˜ํŒจ๋“œ์˜ ๊ฐ "์š”์†Œ"๋Š” inputType ์œ ํ˜•์ž…๋‹ˆ๋‹ค(๊ธฐ๋ณธ ์„ค์ •์—์„œ๋Š” 8๋น„ํŠธ ์ •์ˆ˜). ๋ˆ„์‚ฐ๊ธฐ์˜ ๊ฐ "์š”์†Œ"๋Š” accType ์œ ํ˜•์ž…๋‹ˆ๋‹ค(๊ธฐ๋ณธ ์„ค์ •์—์„œ๋Š” 32๋น„ํŠธ ์ •์ˆ˜).

์˜ˆ๋ฅผ ๋“ค์–ด, ๊ธฐ๋ณธ ์„ค์ •์—์„œ 16x16 ์‹œ์Šคํ†จ๋ฆญ ๋ฐฐ์—ด์„ ์‚ฌ์šฉํ•˜๋Š” ๊ฒฝ์šฐ, ์Šคํฌ๋ž˜์น˜ํŒจ๋“œ ๋ฑ…ํฌ์˜ ํ–‰ ๋„ˆ๋น„๋Š” 16*bits(inp 8000 utType)=128 ๋น„ํŠธ์ด๊ณ , ๋ˆ„์‚ฐ๊ธฐ ๋ฑ…ํฌ์˜ ํ–‰ ๋„ˆ๋น„๋Š” 16*bits(accType)=512 ๋น„ํŠธ์ž…๋‹ˆ๋‹ค.

์Šคํฌ๋ž˜์น˜ํŒจ๋“œ์˜ ์ž…๋ ฅ๊ณผ ์ถœ๋ ฅ์€ ๋ชจ๋‘ inputType์ด์–ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.

๋ˆ„์‚ฐ๊ธฐ์˜ ์ž…๋ ฅ๊ณผ ์ถœ๋ ฅ์€ accType ๋˜๋Š” inputType์ผ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. inputType ๊ฐ’์ด ๋ˆ„์‚ฐ๊ธฐ๋กœ ์ž…๋ ฅ๋˜๋ฉด accType์œผ๋กœ ๋ณ€ํ™˜๋ฉ๋‹ˆ๋‹ค. inputType ๊ฐ’์ด ๋ˆ„์‚ฐ๊ธฐ์—์„œ ์ถœ๋ ฅ๋˜๋ฉด ๋จผ์ € inputType ๊ฐ’์œผ๋กœ "์Šค์ผ€์ผ๋ง"๋ฉ๋‹ˆ๋‹ค. ๊ธฐ๋ณธ ์„ค์ •์—์„œ๋Š” ์Šค์ผ€์ผ๋ง ํ•จ์ˆ˜๊ฐ€ ๋‹จ์ˆœํžˆ float32 ๊ฐ’์„ ๊ณฑํ•˜์—ฌ int32๋ฅผ int8๋กœ ๋ณ€ํ™˜ํ•˜๋Š” ํ•จ์ˆ˜๋กœ ๊ตฌ์„ฑ๋ฉ๋‹ˆ๋‹ค.

์Šคํฌ๋ž˜์น˜ํŒจ๋“œ ๋ฑ…ํฌ๋Š” ๋งค์šฐ ๊ฐ„๋‹จํ•˜์—ฌ SRAM๊ณผ ํ๋กœ๋งŒ ๊ตฌ์„ฑ๋ฉ๋‹ˆ๋‹ค.

๋ˆ„์‚ฐ๊ธฐ ๋ฑ…ํฌ๋Š” ์ข€ ๋” ๋ณต์žกํ•ฉ๋‹ˆ๋‹ค. ๊ธฐ๋ณธ SRAM ์™ธ์—๋„, ์ด๋“ค์€ ์ธํ”Œ๋ ˆ์ด์Šค ๋ˆ„์‚ฐ์„ ์ง€์›ํ•˜๊ธฐ ์œ„ํ•œ ์ผ๋ จ์˜ ๋”ํ•˜๊ธฐ ์žฅ์น˜๋“ค์„ ํฌํ•จํ•ฉ๋‹ˆ๋‹ค. ๋˜ํ•œ ์Šค์ผ€์ผ๋Ÿฌ(์•ž์„œ ์„ค๋ช…ํ•œ ๋Œ€๋กœ)์™€ ํ™œ์„ฑํ™” ํ•จ์ˆ˜ ์œ ๋‹›๋„ ํฌํ•จํ•ฉ๋‹ˆ๋‹ค. ์Šค์ผ€์ผ๋ง ๋ฐ ํ™œ์„ฑํ™” ํ•จ์ˆ˜๋Š” ํ”„๋กœ๊ทธ๋ž˜๋จธ๊ฐ€ ๋ˆ„์‚ฐ๊ธฐ์—์„œ ๋ฐ์ดํ„ฐ๋ฅผ ์ฝ์–ด์˜ฌ ๋•Œ accType ๊ฐ’์„ inputType ๊ฐ’์œผ๋กœ ๋ณ€ํ™˜ํ•˜๊ธฐ๋ฅผ ์›ํ•  ๋•Œ ์ ์šฉ๋ฉ๋‹ˆ๋‹ค. ์ด๋Š” ์ผ๋ฐ˜์ ์œผ๋กœ ํ•œ ๋ ˆ์ด์–ด์˜ ๋ถ€๋ถ„ ํ•ฉ๊ณ„ ์ถœ๋ ฅ์„ ๋‹ค์Œ ๋ ˆ์ด์–ด์˜ ๋‚ฎ์€ ๋น„ํŠธ ํญ์˜ ์–‘์žํ™”๋œ ์ž…๋ ฅ์œผ๋กœ ๋ณ€ํ™˜ํ•˜๊ธฐ ์œ„ํ•ด ์ˆ˜ํ–‰๋ฉ๋‹ˆ๋‹ค.

Systolic Array and Transposer

MeshWithDelays๋Š” ExecuteController ๋‚ด์—์„œ ์ธ์Šคํ„ด์Šคํ™”๋˜๋ฉฐ, ์‹œ์Šคํ†จ๋ฆญ ๋ฐฐ์—ด(Mesh), ์ „์น˜๊ธฐ(Transposer), ๊ทธ๋ฆฌ๊ณ  ์‹œ์Šคํ†จ๋ฆญ ๋ฐฐ์—ด์— ์ž…๋ ฅ์„ ์ง€์—ฐ์‹œํ‚ค๋Š” ์ผ๋ จ์˜ ์ง€์—ฐ ๋ ˆ์ง€์Šคํ„ฐ๋กœ ๊ตฌ์„ฑ๋ฉ๋‹ˆ๋‹ค. MeshWithDelays ๋ชจ๋“ˆ์€ ํ•œ ๋ฒˆ์— ํ•˜๋‚˜์˜ ํ–‰์”ฉ ์„ธ ๊ฐœ์˜ ํ–‰๋ ฌ(A, B, ๋ฐ D)์„ ๋ฐ›์•„๋“ค์ด๊ณ , ํ•œ ๋ฒˆ์— ํ•˜๋‚˜์˜ ํ–‰์”ฉ ๊ฒฐ๊ณผ C = A * B + D๋ฅผ ์ถœ๋ ฅํ•ฉ๋‹ˆ๋‹ค.

weight-stationary ๋ชจ๋“œ์—์„œ๋Š” B ๊ฐ’์ด ์‹œ์Šคํ†จ๋ฆญ ๋ฐฐ์—ด์— "์‚ฌ์ „ ๋กœ๋“œ"๋˜๊ณ , A์™€ D ๊ฐ’์ด ํ†ต๊ณผ๋ฉ๋‹ˆ๋‹ค. output-stationary ๋ชจ๋“œ์—์„œ๋Š” D ๊ฐ’์ด ์‹œ์Šคํ†จ๋ฆญ ๋ฐฐ์—ด์— "์‚ฌ์ „ ๋กœ๋“œ"๋˜๊ณ , A์™€ B ๊ฐ’์ด ํ†ต๊ณผ๋ฉ๋‹ˆ๋‹ค.

A, B, ๋ฐ D๋Š” ๋ชจ๋‘ inputType ์œ ํ˜•์ด๋ฉฐ, C๋Š” outputType ์œ ํ˜•์ž…๋‹ˆ๋‹ค. ํ”„๋กœ๊ทธ๋ž˜๋จธ๊ฐ€ C๋ฅผ ์Šคํฌ๋ž˜์น˜ํŒจ๋“œ์— ๊ธฐ๋กํ•˜๋ ค๋ฉด, C๋Š” inputType์œผ๋กœ ๋ณ€ํ™˜๋ฉ๋‹ˆ๋‹ค. ๊ทธ๋Ÿฌ๋‚˜ ํ”„๋กœ๊ทธ๋ž˜๋จธ๊ฐ€ C๋ฅผ ๋ˆ„์‚ฐ๊ธฐ์— ๊ธฐ๋กํ•˜๋ ค๋Š” ๊ฒฝ์šฐ, C๋Š” accType์œผ๋กœ ๋ณ€ํ™˜๋ฉ๋‹ˆ๋‹ค.

weight-stationary ๋ชจ๋“œ์—์„œ๋Š” inputType D๊ฐ€ ๋ถ€๋ถ„ ํ•ฉ๊ณ„๋ฅผ ์ •ํ™•ํ•˜๊ฒŒ ๋‚˜ํƒ€๋‚ด๊ธฐ์— ๋น„ํŠธ ํญ์ด ๋ถ€์กฑํ•œ ๊ฒฝ์šฐ๊ฐ€ ๋งŽ์Šต๋‹ˆ๋‹ค. ๋”ฐ๋ผ์„œ weight-stationary ๋ชจ๋“œ์—์„œ๋Š” D๊ฐ€ ๋ณดํ†ต 0 ํ–‰๋ ฌ์ด๊ณ , ๋ˆ„์‚ฐ๊ธฐ SRAM์ด ๋Œ€์‹  ์‹œ์Šคํ†จ๋ฆญ ๋ฐฐ์—ด์˜ ๋ถ€๋ถ„ ํ•ฉ๊ณ„ ์ถœ๋ ฅ์„ ๋ˆ„์ ํ•˜๋Š” ๋ฐ ์‚ฌ์šฉ๋ฉ๋‹ˆ๋‹ค.

์ž…๋ ฅ(A, B, ๋ฐ D)์€ ํ–‰๋ ฌ์˜ ๊ฐ ์ž…๋ ฅ์ด ์ •ํ™•ํ•œ ์‹œ๊ฐ„์— ์˜ฌ๋ฐ”๋ฅธ PE์— ๋„๋‹ฌํ•˜์—ฌ ๋‹ค๋ฅธ ํ–‰๋ ฌ์˜ ์˜ฌ๋ฐ”๋ฅธ ์ž…๋ ฅ๊ณผ ๊ณฑ์…ˆ ๋ฐ ๋ˆ„์‚ฐ๋˜๋„๋ก ์ง€์—ฐ ๋ ˆ์ง€์Šคํ„ฐ๋กœ ์ง€์—ฐ๋ฉ๋‹ˆ๋‹ค. ์•„๋ž˜ ๋‹ค์ด์–ด๊ทธ๋žจ์€ 2x2 output-stationary ํ–‰๋ ฌ ๊ณฑ์…ˆ์˜ ์˜ˆ(๋‹จ, D๋Š” ์ œ์™ธ)๋ฅผ ์ง€์—ฐ ๋ ˆ์ง€์Šคํ„ฐ์™€ ํ•จ๊ป˜ ๋ณด์—ฌ์ค๋‹ˆ๋‹ค:

์ง€์—ฐ ๋ ˆ์ง€์Šคํ„ฐ๊ฐ€ ์žˆ๋Š” ์‹œ์Šคํ†จ๋ฆญ ๋ฐฐ์—ด

์‹œ์Šคํ†จ๋ฆญ ๋ฐฐ์—ด ์ž์ฒด๋Š” Mesh.scala์— ๊ตฌํ˜„๋˜์–ด ์žˆ์œผ๋ฉฐ, ํƒ€์ผ(Tiles)๊ณผ PE(PEs)์˜ 2๋‹จ๊ณ„ ๊ณ„์ธต ๊ตฌ์กฐ๋กœ ๊ตฌ์„ฑ๋ฉ๋‹ˆ๋‹ค. Mesh๋Š” ํƒ€์ผ ์„ธํŠธ๋กœ ๊ตฌ์„ฑ๋˜๋ฉฐ, ๊ฐ ํƒ€์ผ ์‚ฌ์ด์— ํŒŒ์ดํ”„๋ผ์ธ ๋ ˆ์ง€์Šคํ„ฐ๊ฐ€ ์žˆ์Šต๋‹ˆ๋‹ค. ๊ฐ Tile์€ ์กฐํ•ฉ ๋…ผ๋ฆฌ์  PE ์„ธํŠธ๋กœ ๊ตฌ์„ฑ๋˜๋ฉฐ, ๊ฐ PE๋Š” weight-stationary ๋˜๋Š” output-stationary ๋ฐ์ดํ„ฐ ํ๋ฆ„์œผ๋กœ ๋‹จ์ผ ํ–‰๋ ฌ ๊ณฑ์…ˆ ์ž‘์—…์„ ์ˆ˜ํ–‰ํ•ฉ๋‹ˆ๋‹ค.

์‹œ์Šคํ†จ๋ฆญ ๋ฐฐ์—ด

MeshWithDelays ๋ชจ๋“ˆ์—๋Š” ์นด์šดํ„ฐ์™€ ๊ตฌ์„ฑ ๋ ˆ์ง€์Šคํ„ฐ๋„ ํฌํ•จ๋ฉ๋‹ˆ๋‹ค. MeshWithDelays๋Š” ๊ฐ ํ–‰๋ ฌ ๊ณฑ์…ˆ ์ž‘์—…์ด ์ •ํ™•ํžˆ DIM x DIM ํฌ๊ธฐ์ผ ๊ฒƒ์œผ๋กœ ๊ฐ€์ •ํ•ฉ๋‹ˆ๋‹ค. ์—ฌ๊ธฐ์„œ DIM์€ ์‹œ์Šคํ†จ๋ฆญ ๋ฐฐ์—ด์˜ ๋„ˆ๋น„์ž…๋‹ˆ๋‹ค(๊ธฐ๋ณธ ์„ค์ •์—์„œ๋Š” 16). ์ด ์นด์šดํ„ฐ๋Š” DIM๊นŒ์ง€ ๊ณ„์‚ฐํ•œ ํ›„ ์ž…๋ ฅ์—์„œ MeshWithDelays๋กœ ๊ตฌ์„ฑ ๋ ˆ์ง€์Šคํ„ฐ๋ฅผ ์—…๋ฐ์ดํŠธํ•ฉ๋‹ˆ๋‹ค. ์ด ๊ตฌ์„ฑ ๋ ˆ์ง€์Šคํ„ฐ๋Š” ์‹œ์Šคํ†จ๋ฆญ ๋ฐฐ์—ด์— ์ž…๋ ฅํ•˜๊ธฐ ์ „์— A์™€ B ์ค‘ ์–ด๋А ๊ฒƒ์ด ์ „์น˜๋ ์ง€๋ฅผ ์ œ์–ดํ•ฉ๋‹ˆ๋‹ค. ๋˜ํ•œ, ์‹œ์Šคํ†จ๋ฆญ ๋ฐฐ์—ด์— ์‚ฌ์ „ ๋กœ๋“œ๋œ ๊ฐ’์ด ๋‹ค์Œ ํ–‰๋ ฌ ๊ณฑ์…ˆ์„ ์œ„ํ•ด ์œ ์ง€๋ ์ง€ ์•„๋‹ˆ๋ฉด ๋ฎ์–ด์“ฐ๊ณ  ๊ต์ฒด๋ ์ง€๋ฅผ ์ œ์–ดํ•ฉ๋‹ˆ๋‹ค.

์ „์น˜๊ธฐ ์ž์ฒด๋Š” ๋งค์šฐ ๊ฐ„๋‹จํ•œ ์‹œ์Šคํ†จ๋ฆญ ๋ฐฐ์—ด๋กœ ๊ตฌํ˜„๋˜๋ฉฐ, ์™ผ์ชฝ์—์„œ ์˜ค๋ฅธ์ชฝ์œผ๋กœ DIM ์‚ฌ์ดํด ๋™์•ˆ ์ž…๋ ฅ์„ ์ „์†กํ•œ ํ›„, ๋‹ค์‹œ ์œ„์—์„œ ์•„๋ž˜๋กœ DIM ์‚ฌ์ดํด ๋™์•ˆ ์ „์†กํ•ฉ๋‹ˆ๋‹ค. ์ด๊ฒƒ์€ ์•„๋ž˜ ๋‹ค์ด์–ด๊ทธ๋žจ์— ๋‚˜์™€ ์žˆ์Šต๋‹ˆ๋‹ค:

์ „์น˜๊ธฐ

output-stationary ํ–‰๋ ฌ ๊ณฑ์…ˆ์˜ ๊ฒฝ์šฐ, ํ”„๋กœ๊ทธ๋ž˜๋จธ๊ฐ€ ์ „์น˜๋ฅผ ์š”์ฒญํ•˜์ง€ ์•Š๋”๋ผ๋„ ์ „์น˜๊ธฐ๊ฐ€ ์‚ฌ์šฉ๋œ๋‹ค๋Š” ์ ์— ์œ ์˜ํ•˜์‹ญ์‹œ์˜ค. ์ด๋Š” ์‹œ์Šคํ†จ๋ฆญ ๋ฐฐ์—ด์ด output-stationary ๋ชจ๋“œ์—์„œ A์˜ ๋™์ผํ•œ ํ–‰์˜ ์ž…๋ ฅ์„ ๋™์ผํ•œ PE์— ์ž…๋ ฅํ•˜๋Š” ๊ฒƒ์„ ์˜ˆ์ƒํ•˜๊ธฐ ๋•Œ๋ฌธ์ž…๋‹ˆ๋‹ค. ๊ทธ๋Ÿฌ๋‚˜ A์˜ ๋‹จ์ผ ํ–‰์˜ ๋ชจ๋“  ๊ฐ’์ด ๋™์ผํ•œ ์Šคํฌ๋ž˜์น˜ํŒจ๋“œ SRAM ํ–‰์— ์ €์žฅ๋ฉ๋‹ˆ๋‹ค. ๋”ฐ๋ผ์„œ ํ–‰๋ ฌ ์š”์†Œ๋ฅผ ๋™์ผํ•œ ํ–‰์— ์žˆ๋Š” ์š”์†Œ๋“ค์ด ์—ฐ์†์ ์œผ๋กœ PE์— ์ž…๋ ฅ๋˜๋„๋ก ์Šคํฌ๋ž˜์น˜ํŒจ๋“œ์—์„œ ์ฝ์€ ํ›„ ์ „์น˜ํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.

DMA

Gemmini์—๋Š” ๋ฉ”์ธ ๋ฉ”๋ชจ๋ฆฌ์—์„œ Gemmini์˜ ๊ฐœ์ธ SRAM์œผ๋กœ ๋ฐ์ดํ„ฐ๋ฅผ ์ฝ์–ด์˜ค๋Š” DMA์™€, Gemmini์˜ ๊ฐœ์ธ SRAM์—์„œ ๋ฉ”์ธ ๋ฉ”๋ชจ๋ฆฌ๋กœ ๋ฐ์ดํ„ฐ๋ฅผ ์ด๋™ํ•˜๋Š” DMA๊ฐ€ ํฌํ•จ๋˜์–ด ์žˆ์Šต๋‹ˆ๋‹ค. ์ด ๋ชจ๋“ˆ๋“ค์€ ๋ชจ๋‘ DMA.scala์— ๊ตฌํ˜„๋˜์–ด ์žˆ์Šต๋‹ˆ๋‹ค.

๋‘ DMA๋Š” ๊ฐ€์ƒ ์ฃผ์†Œ์—์„œ ์ž‘๋™ํ•˜๋ฉฐ, ์ด๋ฅผ ๋ฌผ๋ฆฌ์  ๋ฉ”์ธ ๋ฉ”๋ชจ๋ฆฌ ์ฃผ์†Œ๋กœ ๋ณ€ํ™˜ํ•˜๊ธฐ ์œ„ํ•ด TLB์— ์ ‘๊ทผํ•ฉ๋‹ˆ๋‹ค. TLB์—์„œ ๋ฏธ์Šค๊ฐ€ ๋ฐœ์ƒํ•˜๋ฉด, Gemmini์˜ ํ˜ธ์ŠคํŠธ CPU์™€ ๊ณต์œ ๋˜๋Š” PTW๋กœ ํˆฌ๋ช…ํ•˜๊ฒŒ ๋Œ€์ฒด๋ฉ๋‹ˆ๋‹ค.

Gemmini์˜ ๊ฐœ์ธ TLB์—์„œ ๋ฌผ๋ฆฌ์  ์ฃผ์†Œ๋ฅผ ์–ป์€ ํ›„, DMA๋Š” ํฐ ๋ฉ”๋ชจ๋ฆฌ ์š”์ฒญ์„ ๋” ์ž‘์€ TileLink ์ฝ๊ธฐ ๋ฐ ์“ฐ๊ธฐ ์š”์ฒญ์œผ๋กœ ๋‚˜๋ˆ•๋‹ˆ๋‹ค. TileLink ํ”„๋กœํ† ์ฝœ์„ ๋งŒ์กฑ์‹œํ‚ค๊ธฐ ์œ„ํ•ด, ๊ฐ ๋ฉ”๋ชจ๋ฆฌ ์š”์ฒญ์€ ๋ฉ”์ธ ๋ฉ”๋ชจ๋ฆฌ์—์„œ ์š”์ฒญ๋œ/์ €์žฅ๋œ ๋ฐ”์ดํŠธ ์ˆ˜๋กœ ์ •๋ ฌ๋˜์–ด์•ผ ํ•˜๋ฉฐ, ๊ฐ ๋ฉ”๋ชจ๋ฆฌ ์š”์ฒญ์˜ ํฌ๊ธฐ(๋ฐ”์ดํŠธ ๋‹จ์œ„)๋Š” 2์˜ ๊ฑฐ๋“ญ์ œ๊ณฑ์ด์–ด์•ผ ํ•ฉ๋‹ˆ๋‹ค. DMA๋Š” ์ผ๋ฐ˜์ ์œผ๋กœ ๊ฐ€๋Šฅํ•˜๋ฉด TileLink ์š”์ฒญ์˜ ์ˆ˜๋ฅผ ์ตœ์†Œํ™”ํ•˜๋ ค๊ณ  ํ•ฉ๋‹ˆ๋‹ค. ์ด๋Š” ๋ฉ”์ธ ๋ฉ”๋ชจ๋ฆฌ์—์„œ ๋” ๋งŽ์€ ๋ฐ์ดํ„ฐ๋ฅผ ์ฝ์–ด์•ผ ํ•˜๋”๋ผ๋„ ์„ฑ๋Šฅ์„ ์ €ํ•˜์‹œํ‚ฌ ์ˆ˜ ์žˆ๋Š” TileLink ์š”์ฒญ์˜ ๊ณผ๋„ํ•œ ์ˆ˜๋ฅผ ๋ฐฉ์ง€ํ•˜๊ธฐ ์œ„ํ•จ์ž…๋‹ˆ๋‹ค.

DMAWriter, ์ฆ‰ ๊ฐœ์ธ SRAM์—์„œ ๋ฉ”์ธ ๋ฉ”๋ชจ๋ฆฌ๋กœ ๋ฐ์ดํ„ฐ๋ฅผ ์“ฐ๋Š” ์—ญํ• ์„ ํ•˜๋Š” ๋ชจ๋“ˆ์—๋Š” ๋ฉ”๋ชจ๋ฆฌ ์“ฐ๊ธฐ ์ž‘์—… ์ค‘์— ๋ฐ์ดํ„ฐ์— ๋Œ€ํ•œ ๋งฅ์Šค ํ’€๋ง์„ ์ˆ˜ํ–‰ํ•˜๊ธฐ ์œ„ํ•œ > ๋น„๊ต๊ธฐ๊ฐ€ ํฌํ•จ๋˜์–ด ์žˆ์Šต๋‹ˆ๋‹ค.

ROB

Gemmini์˜ ๋””์ปคํ”Œ๋ง๋œ ์•ก์„ธ์Šค-์‹คํ–‰ ์•„ํ‚คํ…์ฒ˜๋กœ ์ธํ•ด, LoadController, StoreController, ExecuteController์˜ ๋ช…๋ น์ด ๋‹ค๋ฅธ ์ปจํŠธ๋กค๋Ÿฌ์˜ ๋ช…๋ น๊ณผ ๋น„๊ตํ•˜์—ฌ ๋™์‹œ์— ์‹คํ–‰๋˜๊ณ  ์ˆœ์„œ ์—†์ด ์ฒ˜๋ฆฌ๋  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. Gemmini๋Š” ๋‹ค๋ฅธ ์ปจํŠธ๋กค๋Ÿฌ์˜ ๋ช…๋ น ์‚ฌ์ด์˜ ์ข…์†์„ฑ์„ ๊ฐ์ง€ํ•˜๊ธฐ ์œ„ํ•œ ๋ฆฌ์˜ค๋” ๋ฒ„ํผ(ROB)๋ฅผ ํฌํ•จํ•ฉ๋‹ˆ๋‹ค. ROB์— ์žˆ๋Š” ๋ช…๋ น์€ ๋‹ค๋ฅธ ์ปจํŠธ๋กค๋Ÿฌ์˜ ๋ช…๋ น์— ์ข…์†์„ฑ์ด ์—†์„ ๋•Œ์—๋งŒ ํ•ด๋‹น ์ปจํŠธ๋กค๋Ÿฌ์— ๋ฐœํ–‰๋ฉ๋‹ˆ๋‹ค.

๋™์ผํ•œ ์ปจํŠธ๋กค๋Ÿฌ์— ๋Œ€์ƒ์ด ๋œ ๋ช…๋ น์€ ์ˆœ์„œ๋Œ€๋กœ ๋ฐœํ–‰๋ฉ๋‹ˆ๋‹ค. ROB๋Š” ๋™์ผํ•œ ์ปจํŠธ๋กค๋Ÿฌ ๋‚ด์—์„œ ๋ช…๋ น ๊ฐ„์˜ ์ข…์†์„ฑ์„ ๊ฒ€์‚ฌํ•˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค. ๊ฐ ์ปจํŠธ๋กค๋Ÿฌ๋Š” ํ”„๋กœ๊ทธ๋žจ ์ˆœ์„œ๋Œ€๋กœ ๋ช…๋ น์„ ์ˆ˜์‹ ํ•œ๋‹ค๋Š” ๊ฐ€์ • ํ•˜์— ์ž์ฒด ๋‚ด๋ถ€ ์ข…์†์„ฑ๊ณผ ์œ„ํ—˜์„ ์ฒ˜๋ฆฌํ•ด์•ผ ํ•˜๊ธฐ ๋•Œ๋ฌธ์ž…๋‹ˆ๋‹ค.

Matmul and Conv Loop Unrollers

Gemmini์˜ ์‹œ์Šคํ†จ๋ฆญ ๋ฐฐ์—ด์€ ์ตœ๋Œ€ DIMxDIM ์š”์†Œ์˜ ํ–‰๋ ฌ ๊ณฑ์…ˆ๋งŒ ์ˆ˜ํ–‰ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ด๋ณด๋‹ค ๋” ํฐ ํ–‰๋ ฌ ๊ณฑ์…ˆ๊ณผ ์ปจ๋ณผ๋ฃจ์…˜์„ ์ˆ˜ํ–‰ํ•  ๋•Œ๋Š” ํ”„๋กœ๊ทธ๋ž˜๋จธ๊ฐ€ ์ž์‹ ์˜ ํ–‰๋ ฌ ๊ณฑ์…ˆ์„ ๋” ์ž‘์€ DIMxDIM ํ–‰๋ ฌ ๊ณฑ์…ˆ ์‹œํ€€์Šค๋กœ ํƒ€์ผ๋งํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.

๊ทธ๋Ÿฌ๋‚˜ ์ด๋Ÿฌํ•œ ์—ฐ์‚ฐ์„ ํšจ์œจ์ ์œผ๋กœ ํƒ€์ผ๋งํ•˜๋Š” ๊ฒƒ์€ CPU ๋ฐ ๋ฃจํ”„ ์˜ค๋ฒ„ํ—ค๋“œ์™€ ์†Œํ”„ํŠธ์›จ์–ด ๋ฃจํ”„๋ฅผ ํ’€์–ด๋‚ด๊ณ  ํŒŒ์ดํ”„๋ผ์ด๋‹ํ•˜๋Š” ์–ด๋ ค์›€์œผ๋กœ ์ธํ•ด ํ”„๋กœ๊ทธ๋ž˜๋จธ์—๊ฒŒ ์–ด๋ ค์šธ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

์ด ์–ด๋ ค์›€์„ ์ค„์ด๊ธฐ ์œ„ํ•ด, Gemmini์˜ ISA์—๋Š” ๋Œ€๊ทœ๋ชจ ํ–‰๋ ฌ ๊ณฑ์…ˆ๊ณผ ์ปจ๋ณผ๋ฃจ์…˜์„ ์ž๋™์œผ๋กœ ํƒ€์ผ๋งํ•˜๊ณ  ํ’€์–ด๋‚ด๋Š” ๊ณ ์ˆ˜์ค€ CISC ์œ ํ˜•์˜ ๋ช…๋ น์ด ํฌํ•จ๋˜์–ด ์žˆ์Šต๋‹ˆ๋‹ค. ์ด๋“ค์€ LoopMatmul ๋ฐ LoopConv ๋ชจ๋“ˆ์— ์˜ํ•ด ๊ตฌํ˜„๋ฉ๋‹ˆ๋‹ค.

์ด ๋ชจ๋“ˆ๋“ค์€ FSM์œผ๋กœ ๊ตฌํ˜„๋˜์—ˆ์œผ๋ฉฐ, ์„ฑ๋Šฅ์„ ๊ทน๋Œ€ํ™”ํ•˜๊ธฐ ์œ„ํ•ด ํ–‰๋ ฌ ๊ณฑ์…ˆ/์ปจ๋ณผ๋ฃจ์…˜ ํƒ€์ผ์„ ๋”๋ธ” ๋ฒ„ํผ๋งํ•˜๊ณ , ๋ฉ”๋ชจ๋ฆฌ ์•ก์„ธ์Šค์™€ ๋„ํŠธ ํ”„๋กœ๋•ํŠธ ๊ณ„์‚ฐ ๊ฐ„์˜ ์ตœ๋Œ€ ์ค‘์ฒฉ์„ ์œ„ํ•ด ROB์˜ ๋กœ๋“œ/์Šคํ† ์–ด/์‹คํ–‰ ๋ช…๋ น์˜ ๋น„์œจ์„ ๋ชจ๋‹ˆํ„ฐ๋งํ•ฉ๋‹ˆ๋‹ค. ์˜ˆ๋ฅผ ๋“ค์–ด, ROB์ด ํ–‰๋ ฌ ๊ณฑ์…ˆ ๋ช…๋ น์œผ๋กœ ๊ฐ€๋“ ์ฐจ ์žˆ์–ด ๋“ค์–ด์˜ค๋Š” ๋กœ๋“œ ๋ช…๋ น์— ์Šฌ๋กฏ์„ ๋‚จ๊ธฐ์ง€ ์•Š๋Š” ๊ฒฝ์šฐ, FSM์€ Gemmini์˜ ๋ฐ์ดํ„ฐ ๊ฒฝ๋กœ์— ์žˆ๋Š” ๋™์‹œ ๋กœ๋“œ ๋ช…๋ น์„ ์œ„ํ•ด ๋” ๋งŽ์€ ๊ณต๊ฐ„์„ ํ—ˆ์šฉํ•˜๊ธฐ ์œ„ํ•ด ํ–‰๋ ฌ ๊ณฑ์…ˆ ๋ช…๋ น์˜ ๋ฐœํ–‰์„ ์ผ์‹œ ์ค‘์ง€ํ•  ๊ฒƒ์ž…๋‹ˆ๋‹ค.

Software

Gemmini ISA๋Š” ์•„๋ž˜ ISA ์„น์…˜์—์„œ ์„ค๋ช…๋ฉ๋‹ˆ๋‹ค. ์ด ISA์—๋Š” ๊ตฌ์„ฑ ๋ช…๋ น, ๋ฐ์ดํ„ฐ ์ด๋™ ๋ช…๋ น(๋ฉ”์ธ ๋ฉ”๋ชจ๋ฆฌ์—์„œ Gemmini์˜ ๊ฐœ์ธ ๋ฉ”๋ชจ๋ฆฌ๋กœ ์ด๋™ํ•˜๊ฑฐ๋‚˜ ๊ทธ ๋ฐ˜๋Œ€ ๋ฐฉํ–ฅ), ๋ฐ ํ–‰๋ ฌ ๊ณฑ์…ˆ ์‹คํ–‰ ๋ช…๋ น์ด ํฌํ•จ๋ฉ๋‹ˆ๋‹ค.

Gemmini ๋ช…๋ น์–ด๋Š” GNU binutils ์–ด์…ˆ๋ธ”๋Ÿฌ๋ฅผ ํ†ตํ•ด ๋…ธ์ถœ๋˜์ง€ ์•Š์œผ๋ฏ€๋กœ, ์ด๋Ÿฌํ•œ ๋ช…๋ น์–ด ์ธ์ฝ”๋”ฉ์„ ๊ตฌ์„ฑํ•˜๊ธฐ ์œ„ํ•ด ์—ฌ๋Ÿฌ C ๋งคํฌ๋กœ๊ฐ€ ์ œ๊ณต๋ฉ๋‹ˆ๋‹ค.

Gemmini ์ƒ์„ฑ๊ธฐ๋Š” ์ด๋Ÿฌํ•œ ์‚ฌ์šฉ์ž ์ •์˜ Gemmini ๋ช…๋ น ํ˜ธ์ถœ์„ ๊ณตํ†ต DNN ์—ฐ์‚ฐ์ž(์˜ˆ: ํ–‰๋ ฌ ๊ณฑ์…ˆ, ์ปจ๋ณผ๋ฃจ์…˜(ํ’€๋ง ํฌํ•จ ๋˜๋Š” ์ œ์™ธ), ํ–‰๋ ฌ ๋ง์…ˆ ๋“ฑ)๋กœ ๊ฐ์‹ธ๋Š” C ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ๋ฅผ ํฌํ•จํ•ฉ๋‹ˆ๋‹ค. ์ƒ์„ฑ๊ธฐ์˜ software ๋””๋ ‰ํ† ๋ฆฌ์—๋Š” ์œ„์—์„œ ์–ธ๊ธ‰ํ•œ ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ ๋ฐ ๋งคํฌ๋กœ, baremetal ํ…Œ์ŠคํŠธ, ๊ทธ๋ฆฌ๊ณ  Linux ํ™˜๊ฒฝ์—์„œ ํ…Œ์ŠคํŠธ๋ฅผ ์‹คํ–‰ํ•˜๊ธฐ ์œ„ํ•œ ์ผ๋ถ€ FireMarshal ์›Œํฌ๋กœ๋“œ๊ฐ€ ํฌํ•จ๋˜์–ด ์žˆ์Šต๋‹ˆ๋‹ค. ํŠนํžˆ C ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ๋Š” software/gemmini-rocc-tests/include/gemmini.h ํŒŒ์ผ์— ์žˆ์Šต๋‹ˆ๋‹ค.

Gemmini ์ƒ์„ฑ๊ธฐ๋Š” ์ƒ์„ฑ๊ธฐ ๋งค๊ฐœ๋ณ€์ˆ˜๋ฅผ ๊ธฐ๋ฐ˜์œผ๋กœ C ํ—ค๋” ํŒŒ์ผ์„ ์ƒ์„ฑํ•ฉ๋‹ˆ๋‹ค. ์ด ํ—ค๋” ํŒŒ์ผ์€ C ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ์™€ ํ•จ๊ป˜ ์ปดํŒŒ์ผ๋˜์–ด ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ ์„ฑ๋Šฅ์„ ์กฐ์ •ํ•ฉ๋‹ˆ๋‹ค. ์ƒ์„ฑ๋œ ํ—ค๋” ํŒŒ์ผ์€ software/gemmini-rocc-tests/include/gemmini_params.h์—์„œ ์ฐพ์„ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

Gemmini๋Š” ๋˜ํ•œ Microsoft์˜ ONNX-Runtime ํ”„๋ ˆ์ž„์›Œํฌ์˜ ํฌํŠธ๋ฅผ ํ†ตํ•ด ONNX์—์„œ ์ง€์ •๋œ ์‹ ๊ฒฝ๋ง์„ ์‹คํ–‰ํ•˜๋Š” ๋ฐ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ด ํฌํŠธ๋Š” software ๋””๋ ‰ํ† ๋ฆฌ์— ์„œ๋ธŒ๋ชจ๋“ˆ๋กœ ํฌํ•จ๋œ onnxruntime-riscv ๋ฆฌํฌ์ง€ํ† ๋ฆฌ์— ํฌํ•จ๋˜์–ด ์žˆ์Šต๋‹ˆ๋‹ค. ONNX-Runtime ์‚ฌ์šฉ์„ ์‹œ์ž‘ํ•˜๋ ค๋ฉด git submodule update --init --recursive software/onnxruntime-riscv ๋ช…๋ น์„ ์‹คํ–‰ํ•˜๊ณ  ์—ฌ๊ธฐ์—์„œ ๋ฌธ์„œ๋ฅผ ์ฐธ์กฐํ•˜์‹ญ์‹œ์˜ค.

Build and Run Gemmini Tests

Gemmini ํ…Œ์ŠคํŠธ๋ฅผ ๋นŒ๋“œํ•˜๋ ค๋ฉด:

cd software/gemmini-rocc-tests/
./build.sh

์ดํ›„, ํ…Œ์ŠคํŠธ ๋ฐ”์ด๋„ˆ๋ฆฌ๋Š” software/gemmini-rocc-tests/build ๋””๋ ‰ํ† ๋ฆฌ์— ์ƒ์„ฑ๋ฉ๋‹ˆ๋‹ค. ์ด๋ฆ„์ด -baremetal๋กœ ๋๋‚˜๋Š” ๋ฐ”์ด๋„ˆ๋ฆฌ๋Š” bare-metal ํ™˜๊ฒฝ์—์„œ ์‹คํ–‰๋˜๋„๋ก ์„ค๊ณ„๋˜์—ˆ์œผ๋ฉฐ, ์ด๋ฆ„์ด -linux๋กœ ๋๋‚˜๋Š” ๋ฐ”์ด๋„ˆ๋ฆฌ๋Š” Linux ํ™˜๊ฒฝ์—์„œ ์‹คํ–‰๋˜๋„๋ก ์„ค๊ณ„๋˜์—ˆ์Šต๋‹ˆ๋‹ค. ํ…Œ์ŠคํŠธ๋Š” ์‚ฌ์ดํด ์ •ํ™•๋„์˜ RTL ์‹œ๋ฎฌ๋ ˆ์ดํ„ฐ ๋˜๋Š” (ํ›จ์”ฌ ๋” ๋น ๋ฅธ) ๊ธฐ๋Šฅ์  ISA ์‹œ๋ฎฌ๋ ˆ์ดํ„ฐ์ธ Spike์—์„œ ์‹คํ–‰ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

์šฐ๋ฆฌ๋Š” Gemmini ๋ช…๋ น์–ด๋ฅผ ์ง€์›ํ•˜๋Š” ํŠน๋ณ„ํ•œ Spike ํ™•์žฅ์„ ์‚ฌ์šฉํ•ฉ๋‹ˆ๋‹ค. ์—ฌ๊ธฐ์—์„œ ์ฐพ์„ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. Chipyard๋ฅผ ์‚ฌ์šฉํ•˜๋Š” ๊ฒฝ์šฐ, Chipyard์˜ ๋ฃจํŠธ ๋””๋ ‰ํ† ๋ฆฌ์—์„œ ./scripts/build-toolchains.sh riscv-tools๋ฅผ ์‹คํ–‰ํ•œ ๋‹ค์Œ, Gemmini ๋””๋ ‰ํ† ๋ฆฌ์—์„œ make -C software/libgemmini install์„ ์‹คํ–‰ํ•˜์—ฌ Spike๋ฅผ ์‰ฝ๊ฒŒ ๋นŒ๋“œํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ๊ทธ๋Ÿฐ ๋‹ค์Œ, Gemmini์˜ ์Šคํฌ๋ž˜์น˜ํŒจ๋“œ๋กœ ํ–‰๋ ฌ์„ ์ด๋™์‹œํ‚ค๊ณ , ๋‹ค์‹œ ๋ฉ”์ธ ๋ฉ”๋ชจ๋ฆฌ๋กœ ์ด๋™์‹œํ‚ค๋Š” ๋‹จ์ˆœํ•œ ํ…Œ์ŠคํŠธ์ธ mvin_mvout ํ…Œ์ŠคํŠธ๋ฅผ ์‹คํ–‰ํ•˜๋ ค๋ฉด ๋‹ค์Œ ๋ช…๋ น์„ ์‹คํ–‰ํ•˜์‹ญ์‹œ์˜ค:

cd build/bareMetalC
spike --extension=gemmini mvin_mvout-baremetal

Writing Your Own Gemmini Tests

software/gemmini-rocc-tests/bareMetalC/template.c๋Š” Gemmini ํ…Œ์ŠคํŠธ๋ฅผ ์ž‘์„ฑํ•  ๋•Œ ๊ธฐ๋ฐ˜์œผ๋กœ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ๋Š” ํ…œํ”Œ๋ฆฟ์ž…๋‹ˆ๋‹ค. ์ž์‹ ์˜ Gemmini ํ…Œ์ŠคํŠธ๋ฅผ ์ž‘์„ฑํ•˜๋ ค๋ฉด ๋‹ค์Œ์„ ์‹คํ–‰ํ•˜์‹ญ์‹œ์˜ค:

cd software/gemmini-rocc-tests/
cp bareMetalC/template.c bareMetalC/my_test.c

๊ทธ๋Ÿฐ ๋‹ค์Œ, bareMetalC/Makefile์˜ ์ƒ๋‹จ์— ์žˆ๋Š” tests ๋ชฉ๋ก์— my_test๋ฅผ ์ถ”๊ฐ€ํ•˜์‹ญ์‹œ์˜ค. ์ดํ›„, ./build.sh๋ฅผ ์‹คํ–‰ํ•˜๋ฉด build/bareMetalC ๋””๋ ‰ํ† ๋ฆฌ์— my_test-baremetal์ด ์„ค์น˜๋ฉ๋‹ˆ๋‹ค.

DNN Tests

ResNet50๊ณผ ๊ฐ™์€ ์˜ˆ์ œ DNN์€ software/gemmini-rocc-tests/imagenet ๋ฐ software/gemmini-rocc-tests/mlps์— ์žˆ์Šต๋‹ˆ๋‹ค. ์ด ํ…Œ์ŠคํŠธ๋“ค์€ ์œ„์—์„œ ์„ค๋ช…ํ•œ ๋‹ค๋ฅธ ํ…Œ์ŠคํŠธ๋“ค๊ณผ ๋™์ผํ•œ ๋ฐฉ์‹์œผ๋กœ ๋นŒ๋“œ๋˜๊ณ  ์‹คํ–‰๋˜์ง€๋งŒ, VCS๋‚˜ Verilator์™€ ๊ฐ™์€ ์†Œํ”„ํŠธ์›จ์–ด ์‹œ๋ฎฌ๋ ˆ์ดํ„ฐ์—์„œ๋Š” ์‹คํ–‰ ์‹œ๊ฐ„์ด ๋„ˆ๋ฌด ์˜ค๋ž˜ ๊ฑธ๋ฆฝ๋‹ˆ๋‹ค. ์ด ํ…Œ์ŠคํŠธ๋“ค์€ ๋Œ€์‹  Firesim์ด๋ผ๋Š” FPGA ๊ฐ€์† ์‹œ๋ฎฌ๋ ˆ์ด์…˜ ํ”Œ๋žซํผ์„ ํ†ตํ•ด ์‹คํ–‰ํ•  ๊ฒƒ์„ ๊ถŒ์žฅํ•ฉ๋‹ˆ๋‹ค. ์ด ํ”Œ๋žซํผ์€ ์‹คํ–‰ ์‹œ๊ฐ„์„ ๋ฉฐ์น ์—์„œ ๋ช‡ ๋ถ„์œผ๋กœ ๋‹จ์ถ•์‹œ์ผœ์ค๋‹ˆ๋‹ค.

DNN ํ…Œ์ŠคํŠธ๋Š” gemmini.h์— ์žˆ๋Š” ๊ณตํ†ต DNN ์—ฐ์‚ฐ์ž๋“ค์˜ C ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ๋ฅผ ๊ธฐ๋ฐ˜์œผ๋กœ ํ•ฉ๋‹ˆ๋‹ค. ์ด๋“ค์€ ๊ฑฐ์˜ ์ง์ ‘์ ์ธ Gemmini ISA ๋ช…๋ น์–ด ํ˜ธ์ถœ์„ ํ•˜์ง€ ์•Š์œผ๋ฉฐ, ๋Œ€๋ถ€๋ถ„ C ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ์— ์žˆ๋Š” ๋ž˜ํผ๋ฅผ ํ˜ธ์ถœํ•ฉ๋‹ˆ๋‹ค.

Memory Addressing Scheme

Gemmini์˜ ๊ฐœ์ธ ๋ฉ”๋ชจ๋ฆฌ๋Š” "ํ–‰ ๋‹จ์œ„ ์ฃผ์†Œ ์ง€์ •" ๋ฐฉ์‹์œผ๋กœ, ๊ฐ ํ–‰์€ ์‹œ์Šคํ†จ๋ฆญ ๋ฐฐ์—ด์˜ ๋„ˆ๋น„์ธ DIM ์š”์†Œ๋กœ ๊ตฌ์„ฑ๋ฉ๋‹ˆ๋‹ค. ๊ธฐ๋ณธ ์„ค์ •์—์„œ๋Š” DIM์ด 16์ž…๋‹ˆ๋‹ค. ์Šคํฌ๋ž˜์น˜ํŒจ๋“œ์—์„œ๋Š” ์ด๋Ÿฌํ•œ ์š”์†Œ๋“ค์ด inputType ์œ ํ˜•์ด๋ฉฐ, ๋ˆ„์‚ฐ๊ธฐ์—์„œ๋Š” accType ์œ ํ˜•์ž…๋‹ˆ๋‹ค.

Gemmini์˜ ๋ชจ๋“  ๊ฐœ์ธ ๋ฉ”๋ชจ๋ฆฌ ์ฃผ์†Œ๋Š” 32๋น„ํŠธ ๊ธธ์ด๋ฅผ ๊ฐ€์ง€๋ฉฐ, ๊ฐ€์žฅ ์ƒ์œ„ 3๋น„ํŠธ๋Š” ์˜ˆ์•ฝ๋˜์–ด ์žˆ์œผ๋ฉฐ ํŠน๋ณ„ํ•œ ์˜๋ฏธ๋ฅผ ๊ฐ€์ง‘๋‹ˆ๋‹ค:

  • ๋น„ํŠธ 31(MSB)์€ ์Šคํฌ๋ž˜์น˜ํŒจ๋“œ๋ฅผ ์ฃผ์†Œ ์ง€์ •ํ•˜๋Š” ๊ฒฝ์šฐ 0, ๋ˆ„์‚ฐ๊ธฐ๋ฅผ ์ฃผ์†Œ ์ง€์ •ํ•˜๋Š” ๊ฒฝ์šฐ 1์ž…๋‹ˆ๋‹ค.
  • ๋น„ํŠธ 30์€ ์Šคํฌ๋ž˜์น˜ํŒจ๋“œ๋ฅผ ์ฃผ์†Œ ์ง€์ •ํ•˜๋Š” ๊ฒฝ์šฐ ๋˜๋Š” ๋ˆ„์‚ฐ๊ธฐ์—์„œ ์ฝ์–ด์˜ค๋Š” ๊ฒฝ์šฐ ๋ฌด์‹œ๋ฉ๋‹ˆ๋‹ค. ๋ฐ˜๋Œ€๋กœ ๋ˆ„์‚ฐ๊ธฐ์— ์“ฐ๋Š” ๊ฒฝ์šฐ, ๋น„ํŠธ 30์ด 0์ด๋ฉด ํ•ด๋‹น ์ฃผ์†Œ์˜ ๋ฐ์ดํ„ฐ๋ฅผ ๋ฎ์–ด์“ฐ๊ณ , 1์ด๋ฉด ํ•ด๋‹น ์ฃผ์†Œ์˜ ๋ฐ์ดํ„ฐ์— ๋ˆ„์ ํ•ฉ๋‹ˆ๋‹ค.
  • ๋น„ํŠธ 29๋Š” ์Šคํฌ๋ž˜์น˜ํŒจ๋“œ๋ฅผ ์ฃผ์†Œ ์ง€์ •ํ•˜๋Š” ๊ฒฝ์šฐ ๋˜๋Š” ๋ˆ„์‚ฐ๊ธฐ์— ์“ฐ๋Š” ๊ฒฝ์šฐ ๋ฌด์‹œ๋ฉ๋‹ˆ๋‹ค. ๋ฐ˜๋Œ€๋กœ ๋ˆ„์‚ฐ๊ธฐ์—์„œ ์ฝ์–ด์˜ค๋Š” ๊ฒฝ์šฐ, ๋น„ํŠธ 29๊ฐ€ 0์ด๋ฉด ๋ˆ„์‚ฐ๊ธฐ์—์„œ ์Šค์ผ€์ผ ๋‹ค์šด๋œ inputType ๋ฐ์ดํ„ฐ๋ฅผ ์ฝ์–ด์˜ค๊ณ , 1์ด๋ฉด accType ๋ฐ์ดํ„ฐ๋ฅผ ์ฝ์–ด์˜ต๋‹ˆ๋‹ค.
    • ๋น„ํŠธ 29๊ฐ€ 1์ธ ๊ฒฝ์šฐ, ๋ˆ„์‚ฐ๊ธฐ์˜ ์ถœ๋ ฅ์— ํ™œ์„ฑํ™” ํ•จ์ˆ˜๋‚˜ ์Šค์ผ€์ผ๋ง์ด ์ ์šฉ๋˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค.

๋‹ค์Œ ๊ทธ๋ฆผ์€ 2x2 ์‹œ์Šคํ†จ๋ฆญ ๋ฐฐ์—ด์„ ์‚ฌ์šฉํ•˜๋Š” Gemmini ์„ค์ •์˜ ๋ฉ”๋ชจ๋ฆฌ ์ฃผ์†Œ ์ง€์ • ๋ฐฉ์‹์„ ๋ณด์—ฌ์ค๋‹ˆ๋‹ค:

Gemmini์˜ ๋ฉ”๋ชจ๋ฆฌ ์ฃผ์†Œ ์ง€์ • ๋ฐฉ์‹

Gemmini๋Š” ๋ฉ”์ธ ๋ฉ”๋ชจ๋ฆฌ ์ฃผ์†Œ(์ด๋Š” CPU์—์„œ๋„ ๋ณผ ์ˆ˜ ์žˆ๋Š” ์ฃผ์†Œ)์— ์†Œํ”„ํŠธ์›จ์–ด์—์„œ ๋ณผ ์ˆ˜ ์žˆ๋Š” ๊ฐ€์ƒ ์ฃผ์†Œ๋ฅผ ํ†ตํ•ด ์ ‘๊ทผํ•ฉ๋‹ˆ๋‹ค. ๋ฌผ๋ฆฌ ์ฃผ์†Œ ๋ณ€ํ™˜์€ Gemmini์—์„œ ํˆฌ๋ช…ํ•˜๊ฒŒ ์ฒ˜๋ฆฌ๋ฉ๋‹ˆ๋‹ค.

ISA

์ด ์„น์…˜์—์„œ๋Š” Gemmini์˜ ์–ด์…ˆ๋ธ”๋ฆฌ ๋ ˆ๋ฒจ ISA, ์ฆ‰ RISC-V ์‚ฌ์šฉ์ž ์ •์˜ ๋ช…๋ น์–ด๋กœ ๊ตฌ์„ฑ๋œ ISA์— ๋Œ€ํ•ด ์„ค๋ช…ํ•ฉ๋‹ˆ๋‹ค.

Data Movement

mvin ๋ฉ”์ธ ๋ฉ”๋ชจ๋ฆฌ์—์„œ ์Šคํฌ๋ž˜์น˜ํŒจ๋“œ๋กœ ๋ฐ์ดํ„ฐ ์ด๋™

ํ˜•์‹: mvin rs1, rs2

  • rs1 = ์Šคํฌ๋ž˜์น˜ํŒจ๋“œ๋กœ ๋กœ๋“œํ•  ๊ฐ€์ƒ DRAM ์ฃผ์†Œ(๋ฐ”์ดํŠธ ์ฃผ์†Œ)
  • rs2[31:0] = ๋กœ์ปฌ ์Šคํฌ๋ž˜์น˜ํŒจ๋“œ ๋˜๋Š” ๋ˆ„์‚ฐ๊ธฐ ์ฃผ์†Œ
  • rs2[47:32] = ๋กœ๋“œํ•  ์—ด์˜ ์ˆ˜
  • rs2[63:48] = ๋กœ๋“œํ•  ํ–‰์˜ ์ˆ˜. DIM๋ณด๋‹ค ์ž‘๊ฑฐ๋‚˜ ๊ฐ™์•„์•ผ ํ•ฉ๋‹ˆ๋‹ค.
  • funct = 2

๋™์ž‘: Scratchpad[rs2] <= DRAM[Translate[rs1]]

  • ๋ฉ”์ธ ๋ฉ”๋ชจ๋ฆฌ์—์„œ Gemmini์˜ ๊ฐœ์ธ ๋ฉ”๋ชจ๋ฆฌ๋กœ 2D ํ–‰๋ ฌ์„ ๋กœ๋“œํ•ฉ๋‹ˆ๋‹ค.
  • ๋กœ๋“œ๋Š” rs1/rs2 ๊ธฐ๋ณธ ์ฃผ์†Œ์—์„œ ์ˆœ์ฐจ์ ์œผ๋กœ ์ด๋ฃจ์–ด์ง‘๋‹ˆ๋‹ค.
  • ๋ฉ”์ธ ๋ฉ”๋ชจ๋ฆฌ ์ŠคํŠธ๋ผ์ด๋“œ๋Š” config_mvin ๋ช…๋ น์–ด๋กœ ์„ค์ •ํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.
  • ๋กœ๋“œํ•  ์—ด์˜ ์ˆ˜๊ฐ€ DIM๋ณด๋‹ค ํฌ๋ฉด ์—ฌ๋Ÿฌ ์„œ๋ธŒ๋งคํŠธ๋ฆญ์Šค๊ฐ€ ์ด๋™๋ฉ๋‹ˆ๋‹ค. ์ด ์„œ๋ธŒ๋งคํŠธ๋ฆญ์Šค ๊ฐ„์˜ ๊ฐœ์ธ ๋ฉ”๋ชจ๋ฆฌ ์ŠคํŠธ๋ผ์ด๋“œ๋Š” config_mvin ๋ช…๋ น์–ด๋กœ ์„ค์ •๋ฉ๋‹ˆ๋‹ค.

๋‹ค์Œ ๊ทธ๋ฆผ์€ mvin ๋ช…๋ น์–ด์˜ ๋™์ž‘ ๋ฐฉ์‹์„ ๋ณด์—ฌ์ค๋‹ˆ๋‹ค:

Gemmini์˜ mvin ๋ช…๋ น์–ด

์ถ”๊ฐ€๋กœ, ๋‹ค์Œ ๊ทธ๋ฆผ์€ ๋กœ๋“œํ•  ์—ด์˜ ์ˆ˜๊ฐ€ DIM๋ณด๋‹ค ํด ๋•Œ์˜ ํŠน์ˆ˜ ์‚ฌ๋ก€๋ฅผ ๋ณด์—ฌ์ค๋‹ˆ๋‹ค:

์—ฌ๋Ÿฌ ์—ด์„ ๊ฐ€์ง„ Gemmini์˜ mvin ๋ช…๋ น์–ด

์ฐธ๊ณ :

  • Gemmini์—๋Š” ์‹ค์ œ๋กœ ์„ธ ๊ฐ€์ง€ mvin ๋ช…๋ น์–ด๊ฐ€ ์žˆ์Šต๋‹ˆ๋‹ค: mvin, mvin2, ๋ฐ mvin3. mvin2์™€ mvin3๋Š” mvin๊ณผ ์™„์ „ํžˆ ๋™์ผํ•˜์ง€๋งŒ, ๊ฐ๊ฐ ๋…๋ฆฝ์ ์ธ ์„ค์ • ๋ ˆ์ง€์Šคํ„ฐ ์„ธํŠธ๋ฅผ ๊ฐ€์ง€๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. config_mvin(์•„๋ž˜์— ์„ค๋ช…๋จ)์„ ํ˜ธ์ถœํ•  ๋•Œ, ํ”„๋กœ๊ทธ๋ž˜๋จธ๋Š” ์„ค์ •ํ•˜๋ ค๋Š” mvin ๋ช…๋ น์–ด๋ฅผ ์„ ํƒํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.
  • ์„ธ ๊ฐ€์ง€ mvin ๋ช…๋ น์–ด๊ฐ€ ์žˆ๋Š” ์ด์œ ๋Š” ํ”„๋กœ๊ทธ๋ž˜๋จธ๊ฐ€ A, B, ๋ฐ D ํ–‰๋ ฌ์˜ ๋กœ๋“œ๋ฅผ ์ค‘์ฒฉํ•  ์ˆ˜ ์žˆ๋„๋ก ํ•˜๊ธฐ ์œ„ํ•จ์ž…๋‹ˆ๋‹ค(์˜ˆ๋ฅผ ๋“ค์–ด, A*B+D ํ–‰๋ ฌ ๊ณฑ์…ˆ์˜ ๊ฒฝ์šฐ, A, B, D๋Š” ๊ฐ๊ฐ ๋‹ค๋ฅธ ๋ฉ” 8BD0 ์ธ ๋ฉ”๋ชจ๋ฆฌ ์ŠคํŠธ๋ผ์ด๋“œ๋ฅผ ๊ฐ€์งˆ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค).

mvout ์Šคํฌ๋ž˜์น˜ํŒจ๋“œ์—์„œ L2/DRAM์œผ๋กœ ๋ฐ์ดํ„ฐ ์ด๋™

ํ˜•์‹: mvout rs1, rs2

  • rs1 = ์Šคํฌ๋ž˜์น˜ํŒจ๋“œ์—์„œ ๋ฉ”์ธ ๋ฉ”๋ชจ๋ฆฌ๋กœ ์“ฐ๊ธฐ ์œ„ํ•œ ๊ฐ€์ƒ DRAM ์ฃผ์†Œ(๋ฐ”์ดํŠธ ์ฃผ์†Œ)
  • rs2[31:0] = ๋กœ์ปฌ ์Šคํฌ๋ž˜์น˜ํŒจ๋“œ ์ฃผ์†Œ
  • rs2[47:32] = ์ €์žฅํ•  ์—ด์˜ ์ˆ˜
  • rs2[63:48] = ์ €์žฅํ•  ํ–‰์˜ ์ˆ˜
  • funct = 3

๋™์ž‘: DRAM[Translate[rs1]] <= Scratchpad[rs2]

  • ์Šคํฌ๋ž˜์น˜ํŒจ๋“œ์—์„œ ๋ฉ”์ธ ๋ฉ”๋ชจ๋ฆฌ๋กœ 2D ํ–‰๋ ฌ์„ ์ €์žฅํ•ฉ๋‹ˆ๋‹ค.
  • ์ €์žฅ์€ rs1/rs2 ๊ธฐ๋ณธ ์ฃผ์†Œ์—์„œ ์ˆœ์ฐจ์ ์œผ๋กœ ์ด๋ฃจ์–ด์ง‘๋‹ˆ๋‹ค. ์ŠคํŠธ๋ผ์ด๋“œ๋Š” config_mvout ๋ช…๋ น์–ด๋กœ ์„ค์ •ํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.

Configuration

config_ex ์‹คํ–‰ ํŒŒ์ดํ”„๋ผ์ธ ๊ตฌ์„ฑ

ํ˜•์‹: config_ex rs1 rs2

  • rs1[1:0]์€ 00์ด์–ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.
  • rs1[2]๋Š” ์ถœ๋ ฅ(0) ๋˜๋Š” ๊ฐ€์ค‘์น˜(1) ๊ณ ์ • ์—ฌ๋ถ€๋ฅผ ๊ฒฐ์ •ํ•ฉ๋‹ˆ๋‹ค.
  • rs1[3] = ํ™œ์„ฑํ™” ํ•จ์ˆ˜: relu(1) ๋˜๋Š” ํ™œ์„ฑํ™” ํ•จ์ˆ˜ ์—†์Œ(0)
  • rs1[8] = A๋ฅผ ์ „์น˜ํ• ์ง€ ์—ฌ๋ถ€
  • rs1[9] = B๋ฅผ ์ „์น˜ํ• ์ง€ ์—ฌ๋ถ€
  • rs1[31:16] = ์‹œ์Šคํ†จ๋ฆญ ๋ฐฐ์—ด์— ํ–‰๋ ฌ A์˜ ํ–‰์„ ๊ณต๊ธ‰ํ•˜๋Š” ๋™์•ˆ ์‚ฌ์šฉํ•˜๋Š” ์Šคํฌ๋ž˜์น˜ํŒจ๋“œ์˜ ํ–‰ ๊ฐ„ ๊ฐ„๊ฒฉ. ์—ฌ๊ธฐ์„œ "A"๋Š” ํ–‰๋ ฌ ๊ณฑ์…ˆ A * B = C์—์„œ ์™ผ์ชฝ ํ–‰๋ ฌ A๋ฅผ ๋‚˜ํƒ€๋ƒ…๋‹ˆ๋‹ค. ์ด ๊ฐ„๊ฒฉ์ด 1์ด๋ฉด, ์Šคํฌ๋ž˜์น˜ํŒจ๋“œ์—์„œ ์—ฐ์†์ ์ธ ํ–‰์ด ์‹œ์Šคํ†จ๋ฆญ ๋ฐฐ์—ด์— ๊ณต๊ธ‰๋ฉ๋‹ˆ๋‹ค. ๊ฐ„๊ฒฉ์ด 2์ด๋ฉด, ์‹œ์Šคํ†จ๋ฆญ ๋ฐฐ์—ด์— ๊ณต๊ธ‰๋˜๋Š” ํ–‰์€ ํ•˜๋‚˜์”ฉ ๊ฑด๋„ˆ๋œ๋‹ˆ๋‹ค.
  • rs1[63:32] = ๋ˆ„์‚ฐ๊ธฐ์˜ accType ์ถœ๋ ฅ์„ inputType ๊ฐ’์œผ๋กœ ์ถ•์†Œํ•˜๋Š” ๋ฐ ์‚ฌ์šฉํ•˜๋Š” ์Šค์นผ๋ผ ๊ฐ’.
    • ๊ธฐ๋ณธ ์„ค์ •์—์„œ๋Š” rs1[63:32]๊ฐ€ float32 ์œ ํ˜•์ž…๋‹ˆ๋‹ค.
  • rs2[31:0] = ์‹œ์Šคํ†จ๋ฆญ ๋ฐฐ์—ด์„ ๋– ๋‚  ๋•Œ ํ–‰๋ ฌ ๊ณฑ์…ˆ ๊ฒฐ๊ณผ๋ฅผ ์šฐ์ธก์œผ๋กœ ์‹œํ”„ํŠธํ•  ๋น„ํŠธ ์ˆ˜
    • ์ด ๋งค๊ฐœ๋ณ€์ˆ˜๋Š” ์ถœ๋ ฅ ๊ณ ์ • ๋ชจ๋“œ์—์„œ๋งŒ ๊ด€๋ จ์ด ์žˆ์œผ๋ฉฐ, ์‹œ์Šคํ†จ๋ฆญ ๋ฐฐ์—ด ๋‚ด์—์„œ ๋ถ€๋ถ„ ํ•ฉ๊ณ„๋ฅผ ๋ˆ„์ ํ•˜๊ณ  ์Šคํฌ๋ž˜์น˜ํŒจ๋“œ์— ๊ธฐ๋กํ•  ๋•Œ ์ถ•์†Œํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.
  • funct = 0

๋™์ž‘: ๋ชจ๋“œ <= rs1(2); ์‹œํ”„ํŠธ <= rs2; A_stride <= rs1[31:16]

์ฐธ๊ณ ์‚ฌํ•ญ:

  • ํ˜„์žฌ๋กœ์„œ๋Š” ํŠน์ • ์ „์น˜ ์˜ต์…˜์˜ ์กฐํ•ฉ์„ ์˜ฌ๋ฐ”๋ฅธ ๋ฐ์ดํ„ฐ ํ๋ฆ„์„ ์„ ํƒํ•˜์ง€ ์•Š์œผ๋ฉด ์ˆ˜ํ–‰ํ•  ์ˆ˜ ์—†์Šต๋‹ˆ๋‹ค. ์ด ์ œํ•œ์€ ๋‚˜์ค‘์— ํ•ด์ œ๋  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.
๋ฐ์ดํ„ฐ ํ๋ฆ„ ์ „์น˜ A ์ „์น˜ B ํ—ˆ์šฉ ์—ฌ๋ถ€
OS ์•„๋‹ˆ์˜ค ์•„๋‹ˆ์˜ค ์˜ˆ
OS ์•„๋‹ˆ์˜ค ์˜ˆ ์•„๋‹ˆ์˜ค
OS ์˜ˆ ์•„๋‹ˆ์˜ค ์˜ˆ
OS ์˜ˆ ์˜ˆ ์˜ˆ
WS ์•„๋‹ˆ์˜ค ์•„๋‹ˆ์˜ค ์˜ˆ
WS ์•„๋‹ˆ์˜ค ์˜ˆ ์˜ˆ
WS ์˜ˆ ์•„๋‹ˆ์˜ค ์˜ˆ
WS ์˜ˆ ์˜ˆ ์•„๋‹ˆ์˜ค

config_mvin ๋กœ๋“œ ํŒŒ์ดํ”„๋ผ์ธ ๊ตฌ์„ฑ

ํ˜•์‹: config_mvin rs1 rs2

  • rs1[1:0]์€ 01์ด์–ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.
  • rs1[2]๋Š” mvin์ด ๋ˆ„์‚ฐ๊ธฐ ์œ ํ˜• accType์ธ์ง€, ์ž…๋ ฅ ์œ ํ˜• inputType์ธ์ง€ ๊ฒฐ์ •ํ•ฉ๋‹ˆ๋‹ค.
  • rs1[4:3]์€ 0์ด๋ฉด mvin์˜ ์ŠคํŠธ๋ผ์ด๋“œ ์„ค์ •, 1์ด๋ฉด mvin2์˜ ์ŠคํŠธ๋ผ์ด๋“œ ์„ค์ •, 2์ด๋ฉด mvin3์˜ ์ŠคํŠธ๋ผ์ด๋“œ ์„ค์ •์„ ์˜๋ฏธํ•ฉ๋‹ˆ๋‹ค.
  • rs1[31:16]์€ ์Šคํฌ๋ž˜์น˜ํŒจ๋“œ ๋ฉ”๋ชจ๋ฆฌ ์ŠคํŠธ๋ผ์ด๋“œ(์œ„์—์„œ ๋งํ•œ "๊ฐœ์ธ ๋ฉ”๋ชจ๋ฆฌ ์ŠคํŠธ๋ผ์ด๋“œ")
  • rs1[63:32]์€ ์Šคํฌ๋ž˜์น˜ํŒจ๋“œ๋กœ ์ด๋™ํ•  ๋•Œ ๋ฐ์ดํ„ฐ์— ๊ณฑํ•  ์Šค์ผ€์ผ์ž…๋‹ˆ๋‹ค. Gemmini๊ฐ€ mvin ๋™์•ˆ ๊ฐ’์„ ์Šค์ผ€์ผ๋งํ•  ์ˆ˜ ์žˆ๋„๋ก ๊ตฌ์„ฑ๋˜์ง€ ์•Š์€ ๊ฒฝ์šฐ ์ด ๊ฐ’์€ ๋ฌด์‹œ๋ฉ๋‹ˆ๋‹ค.
  • rs2๋Š” ๋ฉ”์ธ ๋ฉ”๋ชจ๋ฆฌ ์ŠคํŠธ๋ผ์ด๋“œ(๋ฐ”์ดํŠธ ๋‹จ์œ„)
  • funct = 0

๋™์ž‘: ์ŠคํŠธ๋ผ์ด๋“œ <= rs2; ์Šค์ผ€์ผ <= rs1[63:32]

config_mvout ์Šคํ† ์–ด ํŒŒ์ดํ”„๋ผ์ธ ๊ตฌ์„ฑ

ํ˜•์‹: config_mvout rs1 rs2

  • rs1[1:0]์€ 10์ด์–ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.
  • rs2 = ์ŠคํŠธ๋ผ์ด๋“œ(๋ฐ”์ดํŠธ ๋‹จ์œ„)
  • funct = 0

mvout ์ž‘์—… ๋™์•ˆ, Gemmini๋Š” ๋˜ํ•œ ๋งฅ์Šค ํ’€๋ง์„ ์ˆ˜ํ–‰ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ด ๊ธฐ๋Šฅ์€ ์‹คํ—˜์ ์ด๋ฉฐ ๋ณ€๊ฒฝ๋  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ด ๊ธฐ๋Šฅ์€ ๋ฐ์ดํ„ฐ๊ฐ€ NHWC ํ˜•์‹์œผ๋กœ ์Šคํฌ๋ž˜์น˜ํŒจ๋“œ ๋˜๋Š” ๋ˆ„์‚ฐ๊ธฐ์— ์ €์žฅ๋œ๋‹ค๊ณ  ๊ฐ€์ •ํ•ฉ๋‹ˆ๋‹ค. ์ด ๊ธฐ๋Šฅ์„ ์ œ์–ดํ•˜๋Š” ๋งค๊ฐœ๋ณ€์ˆ˜๋Š” ๋‹ค์Œ๊ณผ ๊ฐ™์Šต๋‹ˆ๋‹ค:

  • rs1[5:4] = ๋งฅ์Šค ํ’€๋ง ์ŠคํŠธ๋ผ์ด๋“œ. 0์ธ ๊ฒฝ์šฐ ๋งฅ์Šค ํ’€๋ง์ด ๋น„ํ™œ์„ฑํ™”๋ฉ๋‹ˆ๋‹ค.
  • rs1[7:6] = ๋งฅ์Šค ํ’€๋ง ์œˆ๋„์šฐ ํฌ๊ธฐ
  • rs1[9:8] = ์ƒ๋‹จ์˜ ์ œ๋กœ ํŒจ๋”ฉ
  • rs1[11:10] = ์ขŒ์ธก์˜ ์ œ๋กœ ํŒจ๋”ฉ
  • rs1[31:24] = ํ’€๋ง ํ›„ ์ด๋ฏธ์ง€์˜ ์ถœ๋ ฅ ์ฐจ์›
  • rs1[39:32] = ์ถœ๋ ฅํ•  ํ’€๋ง๋œ ํ–‰์˜ ์ˆ˜
  • rs1[47:40] = ์ถœ๋ ฅํ•  ํ’€๋ง๋œ ์—ด์˜ ์ˆ˜
  • rs1[55:48] = ํ’€๋งํ•  ๋น„ํ’€๋ง๋œ ํ–‰์˜ ์ˆ˜
  • rs1[63:56] = ํ’€๋งํ•  ๋น„ํ’€๋ง๋œ ์—ด์˜ ์ˆ˜

๋™์ž‘: ์ŠคํŠธ๋ผ์ด๋“œ <= rs2; ๋งฅ์Šค ํ’€๋ง ๋งค๊ฐœ๋ณ€์ˆ˜ <= rs1

config_norm ์ •๊ทœํ™” ๋ช…๋ น ๊ตฌ์„ฑ

ํ˜•์‹: config_norm rs1 rs2

config_norm์€ ์‹คํ—˜์  ๋ช…๋ น์œผ๋กœ, ์ฃผ๋กœ I-BERT๋ผ๋Š” ์ •์ˆ˜ ์ „์šฉ BERT ๋ณ€ํ˜•์„ Gemmini์—์„œ ์ง€์›ํ•˜๊ธฐ ์œ„ํ•ด ์ถ”๊ฐ€๋˜์—ˆ์Šต๋‹ˆ๋‹ค. ์ด ๋ช…๋ น์€ I-BERT์˜ GELU, ๋ ˆ์ด์–ด ์ •๊ทœํ™”, ์†Œํ”„ํŠธ๋งฅ์Šค ๋ณ€ํ˜•์— ์‚ฌ์šฉ๋˜๋Š” ์Šค์นผ๋ผ ์ƒ์ˆ˜๋ฅผ ์„ค์ •ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

flush TLB ํ”Œ๋Ÿฌ์‹œ

ํ˜•์‹: flush rs1

  • rs1 = rs1[0]์ด 1์ธ ๊ฒฝ์šฐ, ํ˜„์žฌ TLB ์š”์ฒญ์ด ์Šคํ‚ต๋ฉ๋‹ˆ๋‹ค(ํŽ˜์ด์ง€ ํดํŠธ๊ฐ€ ๋ฐœ์ƒํ•˜์—ฌ ์ธํ„ฐ๋ŸฝํŠธ๋ฅผ ๊ธฐ๋‹ค๋ฆฌ๊ณ  ์žˆ๋Š” ๊ฒฝ์šฐ). ๊ทธ๋ ‡์ง€ ์•Š์€ ๊ฒฝ์šฐ, ํ˜„์žฌ TLB ์š”์ฒญ์ด ๋ฐ˜๋ณต๋ฉ๋‹ˆ๋‹ค.

์ฐธ๊ณ :

  • ์ด ๋ช…๋ น์€ ๋‹ค๋ฅธ ํ์— ๋Œ€๊ธฐ ์ค‘์ธ ๋ช…๋ น ์—†์ด ์ฆ‰์‹œ ์‹คํ–‰๋ฉ๋‹ˆ๋‹ค. ํ”„๋กœ๊ทธ๋ž˜๋จธ๊ฐ€ ํ•„์š”ํ•œ ๊ฒฝ์šฐ ํŽœ์Šค๋ฅผ ์‚ฝ์ž…ํ•  ์ฑ…์ž„์ด ์žˆ์Šต๋‹ˆ๋‹ค.

Core Matmul Sequences

๋ชจ๋“  ํ–‰๋ ฌ ๊ณฑ์…ˆ ์—ฐ์‚ฐ์€ matmul.preload์™€ matmul.compute์˜ ์กฐํ•ฉ์œผ๋กœ ๊ตฌ์„ฑ๋ฉ๋‹ˆ๋‹ค(๋‹จ์ผ ๋ช…๋ น์–ด์˜ ๊ธธ์ด๊ฐ€ ๊ธธ๊ธฐ ๋•Œ๋ฌธ์— ๋‘ ๊ฐœ์˜ ๋ช…๋ น์–ด๋กœ ๋‚˜๋‰˜์—ˆ์Šต๋‹ˆ๋‹ค). matmul.preload๋Š” matmul.compute๋ณด๋‹ค ๋จผ์ € ์‹คํ–‰๋˜์–ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.

์˜ˆ์ œ:

//// OS ํ–‰๋ ฌ ๊ณฑ์…ˆ ์˜ˆ์ œ ////
// rs1 = InputD
// rs2 = OutputC
// rs3 = InputA
// rs4 = InputB
// ํ–‰๋ ฌ ๊ณฑ์…ˆ InputA * InputB + InputD = OutputC
1. matmul.preload $rs1 $rs2
2. matmul.compute $rs3 $rs4

๋™์ž‘: Scratchpad[rs2] <= Scratchpad[rs3] * Scratchpad[rs4] + Scratchpad[rs1]

์ฃผ์†Œ ์ง€์ •์— ๋Œ€ํ•œ ์ฐธ๊ณ ์‚ฌํ•ญ:

  • B ๋˜๋Š” D์˜ ๊ฒฝ์šฐ, ์ฃผ์†Œ๋ฅผ ๋ชจ๋‘ ๋†’์€ ๋น„ํŠธ๋กœ ๋Œ€์ฒดํ•˜์—ฌ 0 ํ–‰๋ ฌ์„ ์ž…๋ ฅํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.
  • A์˜ ๊ฒฝ์šฐ, ์ฃผ์†Œ๋ฅผ ๋ชจ๋‘ ๋†’์€ ๋น„ํŠธ๋กœ ๋Œ€์ฒดํ•˜์—ฌ ์ •์˜๋˜์ง€ ์•Š์€ ์ž„์˜์˜ ๋ฐ์ดํ„ฐ๋ฅผ ์ž…๋ ฅํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

Preloading

ํ˜•์‹: matmul.preload rs1, rs2

  • rs1[31:0] = D ํ–‰๋ ฌ์˜ ๋กœ์ปฌ ์Šคํฌ๋ž˜์น˜ํŒจ๋“œ ์ฃผ์†Œ(output-stationary์˜ ๊ฒฝ์šฐ) ๋˜๋Š” B ํ–‰๋ ฌ(weight-stationary์˜ ๊ฒฝ์šฐ)
  • rs1[47:32] = D/B ํ–‰๋ ฌ์˜ ์—ด ์ˆ˜
  • rs1[63:48] = D/B ํ–‰๋ ฌ์˜ ํ–‰ ์ˆ˜
  • rs2[31:0] = C ํ–‰๋ ฌ์˜ ๋กœ์ปฌ ์Šคํฌ๋ž˜์น˜ํŒจ๋“œ ์ฃผ์†Œ. ์ด ๊ฐ’์ด ๋ชจ๋‘ ๋†’์€ ๋น„ํŠธ๋กœ ์„ค์ •๋˜๋ฉด C๊ฐ€ ์Šคํฌ๋ž˜์น˜ํŒจ๋“œ๋‚˜ ๋ˆ„์‚ฐ๊ธฐ์— ๊ธฐ๋ก๋˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค.
  • rs2[47:32] = C ํ–‰๋ ฌ์˜ ์—ด ์ˆ˜
  • rs2[63:48] = C ํ–‰๋ ฌ์˜ ํ–‰ ์ˆ˜
  • funct = 6

์ปค๋ฐ‹ ๋™์ž‘: ์ด ๋ช…๋ น์€ ์‹œ์Šคํ†จ๋ฆญ ๋ฐฐ์—ด์ด ๋ช…๋ น์„ ์ˆ˜์‹ ํ•œ ํ›„ ๋‹ค์Œ ์‚ฌ์ดํด์— ์ปค๋ฐ‹๋ฉ๋‹ˆ๋‹ค. ์‹œ์Šคํ†จ๋ฆญ ๋ฐฐ์—ด์€ ์ดํ›„ OS/WS ํŠน์ • ๋ช…๋ น์ด ๋„์ฐฉํ•  ๋•Œ๊นŒ์ง€ ์œ ํœด ์ƒํƒœ๋กœ ์œ ์ง€๋ฉ๋‹ˆ๋‹ค.

Computing

๋ช…์‹œ์  ์‚ฌ์ „ ๋กœ๋”ฉ

ํ˜•์‹: matmul.compute.preloaded rs1, rs2

  • rs1[31:0] = A ํ–‰๋ ฌ์˜ ๋กœ์ปฌ ์Šคํฌ๋ž˜์น˜ํŒจ๋“œ ์ฃผ์†Œ(์‹œ์Šคํ†จ๋ฆญ ๋ฐฐ์—ด ๋‹จ์ผ ์ถ• ์ฃผ์†Œ ์ง€์ •)
  • rs1[47:32] = A ํ–‰๋ ฌ์˜ ์—ด ์ˆ˜
  • rs1[63:48] = A ํ–‰๋ ฌ์˜ ํ–‰ ์ˆ˜
  • rs2[31:0] = B ํ–‰๋ ฌ์˜ ๋กœ์ปฌ ์Šคํฌ๋ž˜์น˜ํŒจ๋“œ ์ฃผ์†Œ(์‹œ์Šคํ†จ๋ฆญ ๋ฐฐ์—ด ๋‹จ์ผ ์ถ• ์ฃผ์†Œ ์ง€์ •) ๋˜๋Š” D ํ–‰๋ ฌ(weight-stationary์˜ ๊ฒฝ์šฐ)
  • rs2[47:32] = B/D ํ–‰๋ ฌ์˜ ์—ด ์ˆ˜
  • rs2[63:48] = B/D ํ–‰๋ ฌ์˜ ํ–‰ ์ˆ˜
  • funct = 4
  • ์ด ๋ช…๋ น์€ ์‚ฌ์ „ ๋กœ๋”ฉ๋œ ๊ฐ’(D ๋˜๋Š” B)์œผ๋กœ ์—ฐ์‚ฐ์„ ์ˆ˜ํ–‰ํ•ฉ๋‹ˆ๋‹ค.

์ด์ „ ์‚ฌ์ „ ๋กœ๋”ฉ ์žฌ์‚ฌ์šฉ

ํ˜•์‹: matmul.compute.accumulated rs1, rs2

  • funct = 5
  • rs1๊ณผ rs2๋Š” matmul.compute.preloaded์™€ ๋™์ผํ•œ ์ธ์ฝ”๋”ฉ์„ ๊ฐ€์ง‘๋‹ˆ๋‹ค.
  • output-stationary์˜ ๊ฒฝ์šฐ, ์ด ๋ช…๋ น์€ ์‹œ์Šคํ†จ๋ฆญ ๋ฐฐ์—ด์˜ ์ด์ „์— ๊ณ„์‚ฐ๋œ ๊ฒฐ๊ณผ(C)๋กœ ์—ฐ์‚ฐ์„ ์ˆ˜ํ–‰ํ•˜๋ฉฐ, ๊ทธ ์œ„์— ๋ˆ„์ ํ•ฉ๋‹ˆ๋‹ค.
  • weight-stationary์˜ ๊ฒฝ์šฐ, ์ด ๋ช…๋ น์€ ์‹œ์Šคํ†จ๋ฆญ ๋ฐฐ์—ด์˜ ์ด์ „์— ์‚ฌ์ „ ๋กœ๋”ฉ๋œ ๊ฐ€์ค‘์น˜(B)๋กœ ์—ฐ์‚ฐ์„ ์ˆ˜ํ–‰ํ•ฉ๋‹ˆ๋‹ค.

Loop Instructions

Gemmini์—๋Š” DIMxDIM๋ณด๋‹ค ํ›จ์”ฌ ํฐ ๋ฐ์ดํ„ฐ๋ฅผ ๋Œ€์ƒ์œผ๋กœ ํ–‰๋ ฌ ๊ณฑ์…ˆ ๋ฐ ์ปจ๋ณผ๋ฃจ์…˜์„ ์ˆ˜ํ–‰ํ•  ์ˆ˜ ์žˆ๋Š” CISC ์œ ํ˜•์˜ ๋ช…๋ น์ด ํฌํ•จ๋˜์–ด ์žˆ์Šต๋‹ˆ๋‹ค.

์ด๋Ÿฌํ•œ CISC ๋ช…๋ น์€ ํ”„๋กœ๊ทธ๋ž˜๋จธ๊ฐ€ ์œ„์—์„œ ์„ค๋ช…ํ•œ ๋‹ค๋ฅธ ISA ๋ช…๋ น์„ ํ†ตํ•ด ํƒ€์ผ๋งํ•˜๊ณ  ๋ฃจํ”„๋ฅผ ๊ตฌ์„ฑํ•  ์ˆ˜ ์žˆ๋Š” ๋ชจ๋“  ์ž‘์—…์„ ์ˆ˜ํ–‰ํ•  ์ˆ˜ ์žˆ์ง€๋งŒ, ๋น„์ „๋ฌธ ํ”„๋กœ๊ทธ๋ž˜๋จธ๊ฐ€ ์ž‘์„ฑํ•œ ํƒ€์ผ๋ง๋œ ๋ฃจํ”„๋ณด๋‹ค ๋” ๋†’์€ ์ฒ˜๋ฆฌ๋Ÿ‰์„ ๋‹ฌ์„ฑํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. CISC ๋ช…๋ น์€ ์„ฑ๋Šฅ ํ–ฅ์ƒ์„ ์œ„ํ•œ ๋„๊ตฌ๋กœ ๊ฐ„์ฃผํ•ด์•ผ ํ•˜๋ฉฐ, ๊ฐ€์†๊ธฐ์— ์ถ”๊ฐ€์ ์ธ ๊ธฐ๋Šฅ์„ ์ œ๊ณตํ•˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค.

CISC ๋ช…๋ น์—๋Š” ํ•˜๋‚˜์˜ RISC-V ์‚ฌ์šฉ์ž ์ •์˜ ๋ช…๋ น์–ด๋กœ๋Š” ๋„ˆ๋ฌด ๋งŽ์€ ํ”ผ์—ฐ์‚ฐ์ž๊ฐ€ ์žˆ์Šต๋‹ˆ๋‹ค. ๋”ฐ๋ผ์„œ ์ด๋“ค์€ ์ผ๋ จ์˜ ๋งŽ์€ RISC-V ์‚ฌ์šฉ์ž ์ •์˜ ๋ช…๋ น์–ด๋กœ ๊ตฌํ˜„๋˜๋ฉฐ, ํ”„๋กœ๊ทธ๋ž˜๋จธ๊ฐ€ ์—ฐ์†์ ์œผ๋กœ ํ˜ธ์ถœํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.

์ด ๋ช…๋ น๋“ค์€ software/gemmini-rocc-tests/include/gemmini.h์—์„œ ์ฐพ์„ ์ˆ˜ ์žˆ์œผ๋ฉฐ, ์˜ˆ์ œ ์‚ฌ์šฉ๋ฒ•๋„ ํฌํ•จ๋˜์–ด ์žˆ์Šต๋‹ˆ๋‹ค. ์•„๋ž˜์— ๊ทธ๋“ค์˜ ์ธ์ˆ˜๋ฅผ ๋‚˜์—ดํ•ฉ๋‹ˆ๋‹ค.

์ด ๋ฃจํ”„ ๋ช…๋ น์–ด๋“ค์€ ์‹คํ—˜์ ์ด๋ฉฐ ๋ณ€๊ฒฝ๋  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

gemmini_loop_ws ํ–‰๋ ฌ ๊ณฑ์…ˆ ๋ฃจํ”„(WS ๋ฐ์ดํ„ฐ ํ๋ฆ„)

์ด ๋ช…๋ น์€ A * B + D = C๋ฅผ ๊ณ„์‚ฐํ•˜์ง€๋งŒ, A, B, D, C๋Š” ๋ชจ๋‘ DIMxDIM๋ณด๋‹ค ํด ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. A์™€ B๋Š” inputType์ด์–ด์•ผ ํ•˜์ง€๋งŒ, D์™€ C๋Š” inputType ๋˜๋Š” accType์ผ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

์ด ํ–‰๋ ฌ๋“ค์˜ ํฌ๊ธฐ๋Š” I, J, K๋กœ ํ‘œํ˜„๋ฉ๋‹ˆ๋‹ค:

A์˜ ์Šคํฌ๋ž˜์น˜ํŒจ๋“œ ํ–‰ ์ˆ˜ = I * K * DIM
B์˜ ์Šคํฌ๋ž˜์น˜ํŒจ๋“œ ํ–‰ ์ˆ˜ = K * J * DIM
D์˜ ๋ˆ„์‚ฐ๊ธฐ ํ–‰ ์ˆ˜ = I * J * DIM
C์˜ ๋ˆ„์‚ฐ๊ธฐ ํ–‰ ์ˆ˜ = I * J * DIM

๊ทธ๋Ÿฌ๋‚˜ ๋‹จ์ผ gemmini_loop_ws๋กœ ์ฒ˜๋ฆฌํ•  ์ˆ˜ ์žˆ๋Š” ์ด ์Šคํฌ๋ž˜์น˜ํŒจ๋“œ ํ–‰ ์ˆ˜๋Š” ์ „์ฒด ์Šคํฌ๋ž˜์น˜ํŒจ๋“œ ํฌ๊ธฐ์˜ ์ ˆ๋ฐ˜์„ ์ดˆ๊ณผํ•  ์ˆ˜ ์—†์Šต๋‹ˆ๋‹ค. ์ด๋Š” Gemmini๊ฐ€ CISC ๋ช…๋ น์–ด ๋™์•ˆ ๋”๋ธ” ๋ฒ„ํผ๋ง์„ ์ˆ˜ํ–‰ํ•˜๊ธฐ ๋•Œ๋ฌธ์ž…๋‹ˆ๋‹ค. ๋” ํฐ ํ–‰๋ ฌ ๊ณฑ์…ˆ์„ ์ˆ˜ํ–‰ํ•˜๋ ค๋ฉด, ๋ฃจํ”„ ๋ช…๋ น์–ด๋ฅผ ์™ธ๋ถ€ ๋ฃจํ”„ ๋‚ด์—์„œ ํƒ€์ผ๋งํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.

gemmini_loop_ws ๋ช…๋ น์˜ ์™ธ๋ถ€ ํƒ€์ผ๋ง์„ ์ง€์›ํ•˜๊ธฐ ์œ„ํ•ด ex_accumulate๋ผ๋Š” ์ธ์ˆ˜๊ฐ€ ํฌํ•จ๋˜์–ด ์žˆ์œผ๋ฉฐ, ์ด๋Š” ๋™์ผํ•œ ์™ธ๋ถ€ ๋ฃจํ”„ ๋‚ด์—์„œ gemmini_loop_ws๋ฅผ ์—ฌ๋Ÿฌ ๋ฒˆ ํ˜ธ์ถœํ•˜์—ฌ ์ด๋ฏธ ๋ˆ„์‚ฐ๊ธฐ์— ์žˆ๋Š” ๋ถ€๋ถ„ ํ•ฉ๊ณ„ ์œ„์— ํ–‰๋ ฌ ๊ณฑ์…ˆ์„ ์ˆ˜ํ–‰ํ• ์ง€ ์—ฌ๋ถ€๋ฅผ ๊ฒฐ์ •ํ•ฉ๋‹ˆ๋‹ค.

gemmini_loop_conv_ws ์ปจ๋ณผ๋ฃจ์…˜ ๋ฃจํ”„(WS ๋ฐ์ดํ„ฐ ํ๋ฆ„)

Gemmini๋Š” ์ปจ๋ณผ๋ฃจ์…˜์„ ์œ„ํ•œ CISC ๋ช…

๋ น๋„ ํฌํ•จํ•˜๊ณ  ์žˆ์œผ๋ฉฐ, ์ด๋Š” ํ–‰๋ ฌ ๊ณฑ์…ˆ CISC ๋ช…๋ น๊ณผ ์œ ์‚ฌํ•˜๊ฒŒ ๊ตฌํ˜„๋˜์—ˆ์Šต๋‹ˆ๋‹ค. gemmini_loop_conv_ws๋Š” WS ๋ฐ์ดํ„ฐ ํ๋ฆ„์œผ๋กœ ์ปจ๋ณผ๋ฃจ์…˜์„ ์ˆ˜ํ–‰ํ•˜๋ฉฐ, ๋งฅ์Šค ํ’€๋ง, ์ „์น˜ ์ปจ๋ณผ๋ฃจ์…˜ ๋ฐ ๊ฐ€์ค‘์น˜์™€ ์ž…๋ ฅ ๋ฐ์ดํ„ฐ์— ๋Œ€ํ•œ ๋‹ค์–‘ํ•œ ์ „์ฒ˜๋ฆฌ ๋ณ€ํ™˜๊ณผ ๊ฐ™์€ ๊ธฐ๋Šฅ๋„ ์ง€์›ํ•ฉ๋‹ˆ๋‹ค.

gemmini_loop_ws์™€ ๋งˆ์ฐฌ๊ฐ€์ง€๋กœ, ๋‹จ์ผ gemmini_loop_conv_ws ํ˜ธ์ถœ์˜ ์ž…๋ ฅ์€ Gemmini์˜ ๊ฐœ์ธ ๋ฉ”๋ชจ๋ฆฌ์˜ ์ ˆ๋ฐ˜์— ๋งž์•„์•ผ ํ•˜๋ฉฐ, ์ด๋Š” ๋”๋ธ” ๋ฒ„ํผ๋ง์„ ์ง€์›ํ•˜๊ธฐ ์œ„ํ•ด์„œ์ž…๋‹ˆ๋‹ค. ํ”„๋กœ๊ทธ๋ž˜๋จธ๊ฐ€ ๋” ํฐ ์ปจ๋ณผ๋ฃจ์…˜์„ ์ˆ˜ํ–‰ํ•˜๋ ค๋Š” ๊ฒฝ์šฐ, ์™ธ๋ถ€ ๋ฃจํ”„ ๋‚ด์—์„œ gemmini_loop_conv_ws๋ฅผ ํƒ€์ผ๋งํ•˜๊ณ  ๋ž˜ํ•‘ํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.

Citing Gemmini

Gemmini๊ฐ€ ๊ท€ํ•˜์˜ ํ•™์ˆ  ์—ฐ๊ตฌ์— ๋„์›€์ด ๋˜์—ˆ๋‹ค๋ฉด, ๋…ผ๋ฌธ์—์„œ Gemmini๋ฅผ ์ธ์šฉํ•˜๋Š” ๊ฒƒ์„ ๊ถŒ์žฅํ•ฉ๋‹ˆ๋‹ค. ๋‹ค์Œ์€ ์ธ์šฉ ์˜ˆ์ œ์ž…๋‹ˆ๋‹ค:

@INPROCEEDINGS{gemmini-dac,
  author={Genc, Hasan and Kim, Seah and Amid, Alon and Haj-Ali, Ameer and Iyer, Vighnesh and Prakash, Pranav and Zhao, Jerry and Grubb, Daniel and Liew, Harrison and Mao, Howard and Ou, Albert and Schmidt, Colin and Steffl, Samuel and Wright, John and Stoica, Ion and Ragan-Kelley, Jonathan and Asanovic, Krste and Nikolic, Borivoje and Shao, Yakun Sophia},
  booktitle={Proceedings of the 58th Annual Design Automation Conference (DAC)}, 
  title={Gemmini: Enabling Systematic Deep-Learning Architecture Evaluation via Full-Stack Integration}, 
  year={2021},
  volume={},
  number={},
  pages={}
}

Acknowledgements

  • ์ด ํ”„๋กœ์ ํŠธ๋Š” ๋ถ€๋ถ„์ ์œผ๋กœ DARPA RTML ํ”„๋กœ๊ทธ๋žจ(๊ณ„์•ฝ ๋ฒˆํ˜ธ FA8650-20-2-7006) ํ•˜์— ๋ฏธ ์ •๋ถ€์˜ ์ž๊ธˆ ์ง€์›์„ ๋ฐ›์•˜์Šต๋‹ˆ๋‹ค. ์ด ๋ฌธ์„œ์— ํฌํ•จ๋œ ๊ฒฌํ•ด์™€ ๊ฒฐ๋ก ์€ ์ €์ž์˜ ๊ฒƒ์ด๋ฉฐ, ๋ฏธ ์ •๋ถ€์˜ ๊ณต์‹ ์ •์ฑ…์„ ๋‚˜ํƒ€๋‚ด๋Š” ๊ฒƒ์œผ๋กœ ํ•ด์„๋˜์–ด์„œ๋Š” ์•ˆ ๋ฉ๋‹ˆ๋‹ค.
  • Gemmini ๋กœ๊ณ ๋Š” Dima Nikiforov(@CobbledSteel)๊ฐ€ ๋””์ž์ธํ–ˆ์Šต๋‹ˆ๋‹ค.

About

Berkeley's Spatial Array Generator

Resources

Stars

0 stars

Watchers

0 watching

Forks

Releases

Packages

Contributors

Languages

0