Es la primera vez que veo ese error, asi que no sé decirte... Sólo te puedo sugerir que hagas la siguiente configuración de TMPGEnc:
www.mundodivx.com/mpeg/tmpgenc.php?p=2
Así se solucionan muchos de los problemas que da, no sé si éste irá incluido, espero que sí