Una pregunta, ¿los datos que estás metiendo en user y pass existen en la base de datos?, es decir, ¿la consulta debería devolver algún registro?, porque si esta fallando al meter datos erróneos, pero funciona bien con datos que existen la solución seria poner un condicional al contar las filas:
Código PHP:
if ($checkuser!=false){
$returned = mysql_num_rows($checkuser);
} else {
$returned = 0;
}
En el caso en que la consulta si que deba devolver registros, es decir, que en la base de datos exista el usuario introducido y su contraseña sea correcta haz lo siguiente:
Agrega esta linea detrás de la query, debajo de la línea de mysql_query, esto te dirá que error da la consulta, si haces el favor de ponerlo aqui.
Código PHP:
echo mysql_errno($mysql) . ": " . mysql_error($mysql). "\n";
Ah, se me olvidaba, tranquilo con los headers, te salta ese error porque se ha mostrado en pantalla el error de la consulta sql, cuando consigamos arreglarla funcionarán bien las cookies. Pero no te olvides de esconder las alertas de php en la aplicación final, por si acaso.
Vuelvo a recomendarte encarecidamente migrar mysql a mysqli, es un cambio muy sencillo y evitarás problemas futuros.