🃏 치트시트 · 2026년 6월 14일
CPU vs GPU vs TPU vs NPU, 네 종류 프로세서의 원리와 최근 동향
같은 면적의 칩에 코어가 어떻게 다르게 배치되는지부터, 메모리 계층, 양자화, 최신 Trillium/Blackwell/NPU 동향, 그리고 컴퓨터 과학 패러다임에 미치는 영향까지.
시작, 왜 네 종류의 프로세서가 필요한가
- 2010년대 중반까지는 단순했다.
- CPU
- GPU
- NPU
기초, 프로세서의 본질
- 프로세서는 단 두 가지 일을 한다.
- 명령어 fetch + decode + execute
- 데이터를 메모리에서 가져와서 처리하고 다시 쓰기
- 명령어 다양성
CPU, 범용성의 정수
- 동작 원리
- 명령어 디코더
- 분기 예측기
- out-of-order 실행 엔진
GPU, 병렬성의 도약
- 그래픽에서 AI 로
- 많은 단순한 코어
- Vertex Shader
- Rasterization
TPU, 행렬 곱셈에 회로를 고정시키다
- 왜 TPU 가 필요한가, GPU 가 있는데도
- 그래픽 회로의 낭비
- CUDA 락인
- 워크로드 특화 효율의 한계
NPU, 디바이스 위 AI 의 핵심
- 왜 NPU 가 필요한가, GPU 가 있는데도
- 전력 예산
- AI 추론은 게임과 동시에 필요
- 양자화 효율
한 그림 비교
- | 측면 | CPU | GPU | TPU | NPU |
- 코어 수
- 한 코어 복잡도
- 메모리 시스템
최근 동향 (2024 2026)
- 1.
- 데이터센터 추론
- on-device 추론
- FP16, bf16
CS 에 미치는 영향
- 네 종류 프로세서의 등장이 컴퓨터 과학 패러다임 자체를 바꿨다.
- 시간 복잡도 O(n)
- 메모리 접근 패턴
- 병렬화 가능성
정리
- 네 종류의 프로세서가 공존하는 이유는 단순하다.
- 존재 이유
- 희생한 것
- 얻은 것
참고 자료
- Google Cloud, TPU v6 (Trillium) 소개
- Google Cloud, TPU v6e 기술 사양
- NVIDIA Blackwell Architecture