> Xvid + flac = wmv

Это невозможно.
Кстати, кодировать в MPEG4 ASP (XviD) ffmpeg'ом лучше кодером libxvid, а не mpeg4.
В libxvid в отличии от mpeg4 есть детектор сцен (как в x264). НО по умолчанию GOP всего 12 кадров, поэтому надо также задать g 125 или g 250 (максимальный размер GOP 5-10 секунд). Без детектора сцен может так случиться, что новая сцена начнется с сильно сжатого P или B кадра, что особенно плохо при большой длине GOP. В MPEG2 у ffmpeg нет детектора сцен (то есть переменного GOP), но там он всего 12 кадров.

Зачем нужен XviD, когда есть x264? x264 медленный, но экономный. MPEG2 быстрый, но жирный. XviD золотая середина. Я, например, кодировал серии Кадетства для смартфона с такими параметрами:
ffmpeg -i in.mpg -vcodec libxvid -b:v 1350k -bf 2 -g 250 -vf crop=704:436,scale=640:384 -aspect 751:436 -r 25 -acodec libopus -b:a 64k -ac 1 -async 1 out.mkv