IKE et IKEv2 : comment deux machines se mettent d’accord sur les clés
Avant le premier paquet chiffré, quatre messages suffisent. Voici ce que chacun contient, et ce qui se passe ensuite pendant toute la vie du tunnel.
IPsec chiffre les paquets, mais il ne sait pas d’où viennent ses clés. C’est le rôle d’IKE, pour Internet Key Exchange : les deux extrémités du tunnel s’authentifient, choisissent leurs algorithmes et calculent des clés que personne d’autre ne connaît. Pour qui veut créer un programme VPN, c’est la partie qu’il ne faut surtout pas improviser : la moindre erreur dans un échange de clés compromet tout ce qui suit, quelle que soit la qualité du chiffrement.
Deux versions, une seule à retenir
IKEv1, publié en 1998 (RFC 2409), assemblait deux protocoles plus anciens : ISAKMP pour le format des messages et Oakley pour l’échange de clés. Le résultat était lourd : six messages en « mode principal » pour établir le canal de gestion, trois de plus en « mode rapide » pour chaque tunnel, et un « mode agressif » plus court, mais qui exposait de quoi attaquer hors ligne une clé partagée trop faible. IKEv1 est officiellement obsolète depuis 2023 (RFC 9395).
IKEv2, publié en 2005 et décrit aujourd’hui par la RFC 7296, a tout repris à zéro : un format unique, moins de messages, une gestion intégrée du NAT et des erreurs. C’est le seul à retenir pour un nouveau projet, et celui qu’utilisent les clients VPN intégrés aux systèmes d’exploitation récents.
Quatre messages pour ouvrir le tunnel
Tout commence sur le port UDP 500. Le premier échange, IKE_SA_INIT, fait circuler en clair quatre éléments : les propositions d’algorithmes (SA), la valeur publique Diffie-Hellman de chaque pair (KE), un nombre aléatoire de chaque côté (N), et des empreintes d’adresses qui permettent de détecter un NAT en chemin. À l’issue de cet échange, chaque pair calcule le même secret sans qu’il ait jamais circulé.
De ce secret et des deux nonces, IKEv2 dérive une graine, puis une série de clés distinctes : une pour dériver les futures clés d’IPsec, deux pour chiffrer et deux pour authentifier les messages IKE dans chaque sens, deux enfin pour calculer les preuves d’identité. Cette séparation est une règle générale : une clé, un usage.
Le second échange, IKE_AUTH, est déjà chiffré et authentifié avec ces clés. Chaque pair y annonce son identité (ID), en apporte la preuve (AUTH), et les deux négocient la première association de sécurité qui protégera le trafic, la CHILD_SA, avec ses sélecteurs de trafic (TS) : quelles adresses passent dans le tunnel. Pour un accès nomade, le serveur y attribue aussi une adresse interne au client. Au quatrième message, le tunnel est ouvert.
Prouver son identité : certificat, clé partagée ou EAP
La preuve AUTH porte sur le premier message envoyé et sur le nonce de l’autre pair. Elle lie donc l’identité à cet échange précis, et protège du même coup la négociation des algorithmes : un attaquant qui aurait retiré les propositions les plus solides serait démasqué à cette étape.
Trois méthodes coexistent. Le certificat X.509, signé par une autorité que l’autre pair reconnaît, est la plus robuste. La clé partagée est la plus simple, mais une clé courte ou tirée d’un dictionnaire peut être retrouvée hors ligne par un attaquant qui se fait passer pour le serveur. EAP, enfin, permet d’authentifier un utilisateur par identifiant et mot de passe ou par carte, pendant que le serveur, lui, s’authentifie par certificat : c’est le schéma habituel des VPN d’entreprise.
Négocier les algorithmes
L’initiateur propose, par ordre de préférence, des combinaisons d’algorithmes : un chiffrement, une fonction pseudo-aléatoire, un contrôle d’intégrité si le chiffrement n’en fournit pas, un groupe Diffie-Hellman. Le répondeur en choisit une. Les recommandations de l’IETF (RFC 8247) orientent vers AES-GCM ou ChaCha20-Poly1305, des fonctions fondées sur SHA-2, et des groupes à courbes elliptiques comme Curve25519. Le détail de ces briques figure dans la page consacrée aux algorithmes.
Vivre après l’ouverture : CREATE_CHILD_SA et INFORMATIONAL
Un tunnel IPsec dure des heures, parfois des jours, et ses clés ne doivent pas vivre aussi longtemps. L’échange CREATE_CHILD_SA crée de nouvelles associations, ou renouvelle les existantes, en refaisant de préférence un échange Diffie-Hellman pour que la compromission d’une clé ne révèle pas le trafic précédent. Les échanges INFORMATIONAL servent à supprimer une association, à signaler une erreur ou à vérifier que l’autre pair répond toujours.
Une extension, MOBIKE (RFC 4555), permet à un client de changer d’adresse sans renégocier : un téléphone qui passe du Wi-Fi à la 4G garde son tunnel. C’est l’une des raisons pour lesquelles IKEv2 reste répandu sur les appareils mobiles.
Les pièges : NAT, fragmentation, déni de service
Si les empreintes d’adresses du premier échange révèlent un NAT, les pairs basculent sur le port UDP 4500 et encapsulent ESP dans UDP. Autre piège : le message IKE_AUTH, qui transporte des certificats, dépasse souvent la MTU. Fragmenté au niveau IP, il est jeté par bien des pare-feu ; l’extension de fragmentation d’IKEv2 (RFC 7383) découpe le message elle-même.
Enfin, le répondeur doit calculer un Diffie-Hellman pour chaque IKE_SA_INIT reçu, ce qui en fait une cible facile pour une inondation de requêtes. Sous la charge, il peut exiger un cookie : un jeton sans état que l’initiateur doit renvoyer, ce qui prouve qu’il reçoit bien les réponses à l’adresse annoncée.
Et l’après-quantique ?
Un ordinateur quantique suffisamment puissant casserait les échanges Diffie-Hellman actuels. La menace concerne dès aujourd’hui le trafic enregistré pour être déchiffré plus tard. IKEv2 s’y prépare : la RFC 9242 ajoute un échange intermédiaire, et la RFC 9370 permet d’enchaîner plusieurs échanges de clés, par exemple un échange classique et un mécanisme post-quantique comme ML-KEM, normalisé en 2024. Le secret final reste sûr tant que l’un des deux tient.
Faut-il l’implémenter soi-même ?
Non, sauf pour apprendre. IKEv2 compte des dizaines de cas d’erreur, de renouvellements croisés et d’extensions, et les implémentations matures, comme strongSwan ou Libreswan, ont mis des années à les traiter. En revanche, lire la RFC 7296 en regardant passer un échange réel est la meilleure façon de la comprendre. strongSwan propose un greffon, save-keys, qui écrit les clés de session dans un format lisible par Wireshark : à n’activer que sur un serveur de test. Pour la suite, le format des paquets protégés par ces clés est décrit dans la page sur ESP et AH.