Hola, no pude leer todo tu codigo porque es demasiado extenso, pero solo con tu pregunta te puedo decir una cosa.
No se puede subir un archivo por AJAX, ya que lo que envies será por POST o por GET, y en tu archivo que llames no va a tener nada por $_FILES.
Hay unos emuladores de envio de files por AJAX que es utilizando iframes.
Aca tenes un ejemplo de como utilizarlo.
http://www.webtoolkit.info/ajax-file-upload.html
Saludos.