xPU: Microarchitetture per l'accelerazione hardware dell'inferenza AI

Sun, 28 Jun 2026 00:00:00 +0000

xPU: è un termine generico che indica un’unità di elaborazione (PU) specializzata, dove “x” può rappresentare qualsiasi architettura di calcolo personalizzata per uno specifico carico di lavoro. Le varianti più comuni includono GPU (grafica), TPU (tensoriali/IA), NPU (neurali), DPU (dati) o PPU (a impulsi, utilizzate principalmente per gli stack di controllo quantistico).

Questo brevissimo promemoria si propone di fornire spunti di riflessione sul panorama del mercato xPU applicato all’inferenza dell’IA.

Kernel di moltiplicazione matriciale generale (GEMM)

Sat, 28 Mar 2026 00:00:00 +0000

Questo promemoria riprende i concetti di base delle GPU. Si concentra sull’operazione fondamentale del deep learning: la moltiplicazione di matrici. In primo luogo, descriverò l’implementazione di base e accademica. Successivamente, esaminerò le ottimizzazioni necessarie per utilizzare la GPU in modo efficiente.

Comprensione del moltiplicatore di matrici ingenuo Link to heading

Iniziamo con questo semplice esempio che si trova spesso nei libri di testo.

  
/**
 * Kernel to perform matrix multiplication C = A × B
 * A is of size N x M, B is M x N, and C is N x N
 * Each thread computes one element of matrix C.
 */

__global__ void naive_matrix_multiply(float* A, float* B, float* C) {

 // Calculate global row and column for this thread
 int row = blockIdx.y /* 0...16 */ * blockDim.y + threadIdx.y;
 int col = blockIdx.x /* 0...16 */ * blockDim.x + threadIdx.x;

 if (row < N && col < N) {
 float sum = 0.0f;
 for (int k = 0; k < M; k++) {
 // C[row][col] = sum(A[row][i] * B[i][col])
 sum += A[row * N + k] * B[k * N + col];
 }
 C[row * N + col] = sum;
 }

}

A prima vista, sembra facile. Basta calcolare ogni cella della matrice di output C. Questo codice kernel sembra funzionare. Ecco una rappresentazione più visiva del kernel.

Gpu on QSysArch - Quantum Computer System Architecture

xPU: Microarchitetture per l'accelerazione hardware dell'inferenza AI

Kernel di moltiplicazione matriciale generale (GEMM)

Comprensione del moltiplicatore di matrici ingenuo Link to heading