Meus outros testes. a mesma distro, tá aberta em fluxbox, nenhum problema, um giga só usado, no máximo.
agora buck, vou fechar, abrir em kde e fazer os testes que sugeriu;
sysctl vm.swappiness
está com swapppiness 60.
fiz o que vc falou, coloquei a linha lá no sysctl.conf. Ficou sem swap. Resetei e abrí em KDE...
não deu outra, igual, em 15-20 segundos, encheu toda a RAM, lotou, mas lógico, não usou a swap. Agora lota a RAM, mais rápido ainda!
começou a travar,
rápido, num terminal, fiz um comando de reboot, e
aqui estou, novamente, sessão aberta em fluxbox, sem o problema.
pelo menos sabemos agora que o problema é no ambiente gráfico, alguma coisa do KDE, que em fluxbox, não carrega.
agora vou procurar pelos rootkits. depois posto....
o RKhunter achou algo sim, algo chamado Knark Rootkit.