Olá!

Para converter o formato de um vídeo pela linha de comando, utilize o software MEncoder

Vamos ao exemplo.

Converter vídeo FLV para AVI:

ls video.*
video.flv

mencoder video.flv -ovc lavc -oac lavc -o video.avi

ls video.*
video.avi
video.flv

Observações:

• É necessário ter instalado o pacote mencoder;
• Para mais informações sobre formatos suportados, consulte o man (manual).

Para ver o manual use o comando:

man mencoder

Abraço!