Tienes que anidar los IF's, más o menos así:
Código PHP:
Ver original// Suponiendo que el valor por default es cero
if(primera == 0) {
// Todavía no ha presentado
} else if(primera > 5) {
// OK, aprobado
} else if(primera == 5 && segunda == 0) {
// No ha presentado la segunda oportunidad
} else if(segunda > 5) {
// OK, aprobado en segunda oportunidad
} else if(segunda == 5 && tercera == 0) {
// No ha presentado la tercera oportunidad
} else if(tercera == 5) {
// Debe recursar la materia
} else {
// OK aprobado en tercera oportunidad (AKA "especial")
}