Ao tentar criar um arquivo de swap no sistema de arquivos BTRFS você pode se deparar com:

swapon: /swapfile: swapon failed: Invalid argument

Após uma rápida googlada vi como fazer.

Desde o Linux 5.0 é possível criar arquivos de troca (swap) no BTRFS. Mas eles não devem estar compactados e devem ter o atributo NOCOW.

Funciona assim. Crie um arquivo vazio, por exemplo, na raiz:

# touch /swapfile

Use chattr para atribuir NOCOW:

# chattr +C /swapfile

Verifique se atribuiu:

# lsattr /swapfile

Preencha o arquivo. Neste exemplo, 2048 para 2GB de swap:

# dd if=/dev/zero of=/swapfile bs=1M count=2048

Formate, mude a permissão e monte:

# mkswap /swapfile
# chmod 600 /swapfile
# swapon /swapfile

Adicione ao fstab:

# echo "/swapfile none swap defaults 0 0" >> /etc/fstab

Tudo em uma linha:

# touch /swapfile; chattr +C /swapfile; lsattr /swapfile; dd if=/dev/zero of=/swapfile bs=1M count=2048; mkswap /swapfile; chmod 600 /swapfile; swapon /swapfile; echo "/swapfile none swap defaults 0 0" >> /etc/fstab

Para remover:

# swapoff /swapfile; rm -f /swapfile

E, por fim, delete a linha no fstab.

Fontes:

• Criando swap em arquivo [Dica]
• Swap - ArchWiki
• Swap - Gentoo Wiki
• FAQ - btrfs Wiki