En ningún lado del código de YY_checkform() he encontrado un return, tal vez sea ese el error. De hecho, no sé qué exactamente hace la función porque está difícil de leer o al menos no tengo paciencia para ello
, ¿qué es lo que pretendes hacer con ella?.