Nos servidores proxy, configure os IPs conforme abaixo:

Proxy1

Considerando que o IP da placa ETH0 esteja configurado, vamos configurar a interface que irá comunicar e atender as requisições com o LVS.

# ifconfig lo:0 192.168.0.4 netmask 255.255.255.255

Desabilite o envio de ARP:

# ifconfig lo:0 -arp up

Obs.: crie um script com os comandos acima e deixe-o na inicialização do rc.local.

Faça a mesma coisa no servidor Proxy2.

Proxy 2

Execute:

# ifconfig lo:0 192.168.0.4 netmask 255.255.255.255

Desabilite o envio de ARP:

# ifconfig lo:0 -arp up

Bem, se tudo tiver sido feito conforme o tutorial, vamos aos testes.

Em uma estação de trabalho (192.168.0.10) configure o proxy:

Servidor: 192.168.0.4
Porta: 8080

Acesse o site de algum portal (globo.com, uol.com.br etc) e verá que as requisições serão direcionadas aos dois servidores.

No servidor LVS, para verificar se as regras estão aplicadas:

# ipvsadm -L -n --stats

IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port         Conns   InPkts  OutPkts  InBytes OutBytes
 ->    RemoteAddress:Port
TCP  192.168.0.4:8080          5333    28186        0  1740404        0
  ->    192.168.0.2:8080       2517    13291        0   820673        0
  ->    192.168.0.3:8080       2816    14895        0   919731        0

Nos servidores proxy monitore o acesso:

# tail -f /var/log/squid/access.log | grep 192.169.0.10

Pronto. Agora é só fazer alguns ajustes se necessário, como iniciação de serviços, firewall etc.

Obs.: no meu ambiente precisei desabilitar o iptables, isso porque já possuo firewall de borda.

Boa sorte!