xPU : Microarchitectures d’accélération matérielle pour l’inférence IA

Sun, 28 Jun 2026 00:00:00 +0000

xPU : terme générique désignant une unité de traitement (PU) spécialisée, où « x » peut représenter n’importe quelle architecture informatique adaptée à une charge de travail spécifique. Parmi les variantes courantes, on trouve les GPU (graphiques), les TPU (tenseurs/IA), les NPU (neuronaux), les DPU (données) et les PPU (impulsions, principalement utilisées pour les piles de contrôle quantiques).

Cette note très concise vise à donner un aperçu du paysage du marché des xPU appliqué à l’inférence en IA.

Noyaux de multiplication matricielle générale (GEMM)

Sat, 28 Mar 2026 00:00:00 +0000

Ce document revient sur les fondamentaux du GPU. Il se concentre sur l’opération de base du deep learning : la multiplication matricielle. Je décrirai d’abord l’implémentation de base et académique, puis j’examinerai les optimisations nécessaires pour une utilisation efficace du GPU.

Comprendre le multiplicateur matriciel naïf Link to heading

Commençons par cet exemple simple que l’on retrouve souvent dans les manuels scolaires.

  
/**
* Kernel to perform matrix multiplication C = A × B
* A is of size N x M, B is M x N, and C is N x N
* Each thread computes one element of matrix C.
*/

__global__ void naive_matrix_multiply(float* A, float* B, float* C) {

// Calculate global row and column for this thread
int row = blockIdx.y /* 0...16 */ * blockDim.y + threadIdx.y;
int col = blockIdx.x /* 0...16 */ * blockDim.x + threadIdx.x;

if (row < N && col < N) {
float sum = 0.0f;
for (int k = 0; k < M; k++) {
// C[row][col] = sum(A[row][i] * B[i][col])
sum += A[row * N + k] * B[k * N + col];
}
C[row * N + col] = sum;
}

}

À première vue, cela semble simple. Il suffit de calculer chaque cellule de la matrice de sortie C. Ce code noyau semble fonctionner correctement. Voici une représentation plus visuelle du noyau.

Gpu on QSysArch - Quantum Computer System Architecture

xPU : Microarchitectures d’accélération matérielle pour l’inférence IA

Noyaux de multiplication matricielle générale (GEMM)

Comprendre le multiplicateur matriciel naïf Link to heading