plpv.org

IPsec : AH, ESP, modes transport et tunnel

IPsec n’est pas un programme mais une famille de protocoles intégrée à la pile IP. Deux d’entre eux protègent les paquets : AH, presque abandonné, et ESP, qui fait l’essentiel du travail.

Mode transport En-tête IPd’origineEn-têteESPTCP ou UDP + donnéesFin ESPICV chiffré authentifié par l’ICV Mode tunnel Nouvelen-tête IPEn-têteESPEn-tête IPd’origineTCP ou UDP+ donnéesFin ESPICV chiffré authentifié par l’ICV
Un paquet ESP en mode transport, puis en mode tunnel. En bleu, la partie chiffrée ; l’intégrité couvre aussi l’en-tête ESP.

Pour apprendre à concevoir un VPN, IPsec est un passage obligé : c’est le protocole des VPN d’entreprise, celui qu’intègrent les routeurs, les pare-feu et les systèmes d’exploitation. Il est aussi le plus déroutant, parce qu’il ne ressemble pas à un programme. Il n’ouvre pas de port, ne lance pas de connexion : il s’insère dans la pile IP elle-même, et le noyau applique des règles à chaque paquet qui passe.

Une architecture en trois pièces

L’architecture d’IPsec est décrite par la RFC 4301. Elle sépare trois rôles. Deux protocoles protègent les paquets : AH (RFC 4302) et ESP (RFC 4303). Un troisième, IKE, négocie les clés dont ils ont besoin ; il fait l’objet de la page consacrée à IKEv2. Le noyau tient deux bases de données. La base des politiques de sécurité dit quel trafic doit être protégé, contourner le tunnel ou être rejeté. La base des associations de sécurité contient les clés et les paramètres en cours.

AH et ESP ne sont pas transportés par TCP ou UDP : ce sont des protocoles IP à part entière, numérotés 51 et 50. Ils n’ont donc pas de ports, ce qui pose problème à tous les équipements qui en dépendent, à commencer par les routeurs domestiques qui traduisent les adresses.

AH : authentifier sans chiffrer

AH, pour Authentication Header, garantit l’intégrité et l’origine d’un paquet, sans le chiffrer. Sa particularité est de couvrir aussi les champs de l’en-tête IP qui ne changent pas en route, dont les adresses. C’est précisément ce qui le rend incompatible avec la traduction d’adresses : dès qu’un routeur réécrit l’adresse source, la vérification échoue.

AH est aujourd’hui rarement utilisé. ESP sait lui aussi authentifier sans chiffrer, et la protection de l’en-tête extérieur apporte peu en pratique. Pour un programmeur, AH vaut surtout comme exercice de lecture.

ESP, champ par champ

ESP, pour Encapsulating Security Payload, assure la confidentialité, l’intégrité et la protection contre le rejeu. Un paquet ESP se compose de :

  • un SPI de 32 bits, qui désigne l’association de sécurité, donc la clé à utiliser ;
  • un numéro de séquence de 32 bits, incrémenté à chaque paquet ; une extension porte ce compteur à 64 bits, dont seule la moitié basse circule ;
  • les données chiffrées, précédées si besoin d’un vecteur d’initialisation, 8 octets pour AES-GCM ;
  • une fin ESP chiffrée elle aussi : un bourrage de 0 à 255 octets, sa longueur, et un champ qui indique le protocole transporté ;
  • un code d’intégrité, l’ICV, de 16 octets avec AES-GCM.

Le bourrage n’est pas qu’une contrainte d’alignement pour les chiffrements par blocs : il peut aussi masquer la taille réelle des paquets. Avec un chiffrement authentifié comme AES-GCM, décrit pour ESP par la RFC 4106, une seule opération chiffre et calcule l’ICV. Les choix d’algorithmes sont détaillés dans la page sur le chiffrement.

Mode transport ou mode tunnel

En mode transport, ESP protège le contenu du paquet mais conserve l’en-tête IP d’origine. Il sert entre deux machines qui se parlent directement, par exemple pour sécuriser un protocole précis entre deux serveurs. L’ancien couple L2TP/IPsec, encore proposé par certains systèmes, repose sur ce mode.

En mode tunnel, ESP enveloppe le paquet d’origine entier, en-tête compris, et ajoute un nouvel en-tête IP. Les adresses internes deviennent invisibles sur le réseau : on ne voit que les deux extrémités du tunnel. C’est le mode des VPN au sens courant, entre deux sites ou entre un poste nomade et une passerelle. Il coûte plus cher : de 50 à 80 octets supplémentaires par paquet selon l’algorithme et la version d’IP, autant de moins pour les données à MTU constante.

Ce que voit un observateur

Le chiffrement d’ESP ne cache pas tout. En mode tunnel, un observateur placé sur le chemin voit les adresses des deux passerelles, le SPI, fixe pendant toute la durée de l’association, et le numéro de séquence, qui révèle combien de paquets ont circulé. Il voit aussi la taille et le rythme des paquets, dont on peut parfois déduire la nature du trafic : un appel vocal, une vidéo et un transfert de fichier n’ont pas la même signature. Le bourrage d’ESP et l’envoi de paquets factices, prévus par la norme, atténuent cette fuite, au prix de bande passante.

L’association de sécurité et son SPI

Une association de sécurité est un contrat à sens unique : un algorithme, des clés, un compteur, une durée de vie. Un tunnel bidirectionnel en nécessite donc deux, une par sens, sans compter l’association propre à IKE. Le SPI est choisi par le destinataire, ce qui lui permet de retrouver la bonne clé d’un simple accès à sa table.

Chaque association expire après un délai ou un volume de données. Avant cette échéance, IKE en négocie une nouvelle, avec de nouvelles clés ; l’ancienne reste valable quelques instants pour les paquets encore en vol.

La fenêtre anti-rejeu

Le numéro de séquence commence à 1 et ne doit jamais revenir à zéro : l’association est renouvelée avant. Le destinataire tient une fenêtre glissante des numéros reçus ; la RFC 4303 impose de savoir gérer une fenêtre de 32 paquets et recommande 64 par défaut. Un paquet trop ancien ou déjà vu est jeté.

L’ordre des opérations compte. Le récepteur vérifie d’abord que le numéro est acceptable, contrôle ensuite l’ICV, et ne met la fenêtre à jour qu’en cas de succès. Une implémentation qui fait avancer la fenêtre avant l’authentification se laisse bloquer par de simples paquets forgés.

Traverser le NAT

Puisque ESP n’a pas de ports, un routeur qui traduit les adresses ne sait pas à quel poste renvoyer les paquets. La solution, normalisée par la RFC 3948, consiste à placer ESP dans des datagrammes UDP sur le port 4500. IKE détecte la présence d’un NAT pendant son premier échange et bascule tout seul sur ce mode, en envoyant au besoin de petits paquets de maintien pour garder la traduction ouverte.

Sous Linux : XFRM et strongSwan

Dans le noyau Linux, IPsec est géré par le cadre XFRM, qui stocke politiques et associations. Un démon IKE, strongSwan ou Libreswan, négocie les clés et les installe. On peut aussi, pour apprendre, installer une association à la main, sans IKE :

ip xfrm state add src 192.0.2.1 dst 192.0.2.2 proto esp spi 0x1000 \
    mode tunnel aead 'rfc4106(gcm(aes))' 0x<36 octets en hexadécimal> 128
ip xfrm state list

Les 36 octets correspondent à une clé AES-256 suivie de 4 octets de sel, et 128 est la taille de l’ICV en bits. Une telle clé fixe n’a rien à faire hors d’un laboratoire : elle ne change jamais et ne protège pas le passé. Pour voir ces associations se créer pour de vrai, le mieux est de monter un serveur de test et de capturer son trafic, et pour replacer ESP dans le parcours complet d’un paquet, de relire le fonctionnement d’un serveur VPN.