Opa! Nas distros com Gnome Shell (os sabores que testei pelo menos), o software padrão para Torrent é o "Transmission", eu particularmente não gosto dele, prefiro o Qbittorrent ou Vuze.

Porém quando você baixa um arquivo torrent, informa que esse tipo de arquivo vai ser aberto pelo seu software de Torrent, e a partir daí sempre será assim, e felizes para sempre, porém toda vida entretanto, quando você acessa um site de Torrent e clica em um "link magnético", quem vai ser chamado será o Transmission.

Essa dica irá mudar isso...

1 Validar quem é chamado para "link magnético":

xdg-mime query default x-scheme-handler/magnet

2. Alterar para o que desejamos, que no meu caso é o Qbitorrent:

xdg-mime default qbittorrent.desktop x-scheme-handler/magnet

Faça o passo 1 de novo para validar e pronto.

Obs.: por padrão ele irá buscar a aplicação em /usr/share/applications, por isso somente informei o nome da mesma e não o caminho absoluto.

Testando em:

• Antergos(Arch Linux) - Atualizado até o momento desse post
• Kernel 4.11.9-1-ARCH
• Firefox 54.0.1
• Google Chome 58.0.3029.110 (64-bit)