xine est compilé avec le support du mp4/aac, mais la dépendance nécéssaire n'est pas installée par défault par soucis de légéreté : il s'agit du paquet faad2. Si tu l'ajoutes tout devrait fonctionner normalement.
Pour les fichiers .flv je ne sais pas : je ne me suis jamais penché sur la question.