Hola, no se si mi ayuda te pueda servir de algo. Jpinedo tiene razon, parece que no puedes utilizar WHERE en los INSERTS de MySQL. Si se pudiera entonces los campos "numero_alumno", "semestre" y "ano" deberían pertenecer a la tabla "pagos", por lo que veo en tu insert la tabla pagos tiene dos columnas. En forma alternativa si lo que quieres es saber cuando hacer un INSERT u otro segun condiciones de tus variables puedes utilizar una cláusula IF. Algo asi:
Código PHP:
IF ((numero_alumno=='$numero') && (semestre=='$semestre') && ( ano=='$ano'))
{
$letras="insert into pagos($cuota,$monto) values '$fecha','$total')";
$result=mysql_query($letras);
}