O mecanismo de segurança IPSec é um protocolo padrão de camada 3 do modelo OSI (Open System Interconection) que foi projetado pelo IETF (Internet Engineering Task Force). Primeiramente esse protocolo foi desenvolvido para o Internet Protocol version 6 (IPv6) e a partir da alta demanda o IPSec foi adaptado para o Internet Protocol version 4 (IPv4).

Esse mecanismo de segurança oferece transferência segura de informações fim a fim através de rede IP pública ou privada. Essencialmente, ele pega pacotes IP privados, realiza funções de segurança de dados como criptografia, autenticação e integridade, e então encapsula esses pacotes protegidos em outros pacotes IP para serem transmitidos. Esse processo é conhecido como tunelamento (figura 3). As funções de gerenciamento de chaves também fazem parte das funções do IPSec.[1][11] Características: [19]

• Tunelamento: Authentication Header (AH) ou Encapsulating Security Payload (ESP);
• Encriptação: 56-bit DES, 112- or 168-bit 3DES, 128-, 192- or 256-bit AES, ou nenhum;
• Autenticação: login e senha, login e token + pin ou o certificado digital.

Apesar de ser um protocolo flexível, ele acaba se tornando complexo. Para que duas entidades se conectem via IPSec, é preciso que ambos os lados aceitem o mesmo padrão de política de segurança, chamada de Security Association (SA), onde deve ser configurado em ambos os gateways VPN.

Um único túnel IPSec protege todas as comunicações entre ambos os equipamentos de cada ponta sem ligação com o tipo de trafego (TCP, UDP, SNMP) ou aplicação (correio eletrônico, FTP, HTTP). Os túneis podem ser estabelecidos de LAN para LAN, host para LAN e host para host. Um gateway IPSec garante a segurança das aplicações da LAN. Um único usuário usando IPSec é chamado de host.

Pelo fato de o IPSec operar na camada de rede, usuários ganham acesso a todos os recursos da LAN da corporação como se eles estivessem fisicamente na empresa conectados a ela. Já existem soluções que alguns fabricantes dispõem em seus equipamentos que provêem túneis VPN via IPSec. [1][10] IPSec VPN gateways são usualmente implementados em firewalls para se ter o controle de permissão ou negação de acesso de um determinado host.