xPUs: AI 추론 하드웨어 가속 마이크로아키텍처

Sun, 28 Jun 2026 00:00:00 +0000

xPU: 특정 작업 부하에 맞게 맞춤화된 컴퓨팅 아키텍처를 나타내는 “x"를 포함하는 특수 처리 장치(PU)를 총칭하는 용어입니다. 일반적인 변형으로는 GPU(그래픽), TPU(텐서/AI), NPU(신경망), DPU(데이터) 또는 PPU(펄스, 주로 양자 제어 스택에 사용) 등이 있습니다.

이 초간단 메모는 AI 추론에 적용되는 xPU 시장 환경에 대한 통찰력을 제공하는 것을 목표로 합니다.

시장 현황 Link to heading

AI 추론 ASIC 시장을 살펴볼 때 가장 유용한 기준은 단순히 성능만이 아니라, 벤더의 차별화 전략이 향후 3~5년 동안 시장에서 경쟁력을 유지할 수 있는지 여부일 수 있습니다. 이러한 관점에서 보면 세 가지 그룹이 나타납니다.

일반 행렬 곱셈(GEMM) 커널

Sat, 28 Mar 2026 00:00:00 +0000

이 메모는 GPU 기본 사항으로 돌아갑니다. 특히 딥러닝의 핵심 연산인 행렬 곱셈에 초점을 맞춥니다. 먼저 기본적인 학술적 구현 방식을 설명하고, 그 다음 GPU를 효율적으로 사용하기 위해 필요한 최적화 기법을 살펴보겠습니다.

단순 행렬 곱셈법 이해하기 Link to heading

교과서에서 흔히 볼 수 있는 기본적인 예시부터 시작해 보겠습니다.

  
/**
 * Kernel to perform matrix multiplication C = A × B
 * A is of size N x M, B is M x N, and C is N x N
 * Each thread computes one element of matrix C.
 */

__global__ void naive_matrix_multiply(float* A, float* B, float* C) {

 // Calculate global row and column for this thread
 int row = blockIdx.y /* 0...16 */ * blockDim.y + threadIdx.y;
 int col = blockIdx.x /* 0...16 */ * blockDim.x + threadIdx.x;

 if (row < N && col < N) {
 float sum = 0.0f;
 for (int k = 0; k < M; k++) {
 // C[row][col] = sum(A[row][i] * B[i][col])
 sum += A[row * N + k] * B[k * N + col];
 }
 C[row * N + col] = sum;
 }

}

언뜻 보면 쉬워 보입니다. 출력 행렬 C의 각 셀을 계산하기만 하면 되니까요. 이 커널 코드는 제대로 작동하는 것처럼 보입니다. 다음은 커널을 시각적으로 더 잘 나타낸 그림입니다.

Gpu on QSysArch - Quantum Computer System Architecture

xPUs: AI 추론 하드웨어 가속 마이크로아키텍처

시장 현황 Link to heading

일반 행렬 곱셈(GEMM) 커널

단순 행렬 곱셈법 이해하기 Link to heading