Si amigo, como dijo cocker, tu respuesta no es enfocada a PHP sino a una simple consulta de verificación.
O se que cuando tu quieras ingresar un nuevo registro , haces un :
"select * from tu_tabla where nombre='$nombre' and mesa='$mesa' ";
si ese select te trae un solo resultado, quiere decir que ya existe el registro, entonces no haces el insert, si no trae registros procedes con la inserción.
Ese mismo select resulve tambien tu segundo cuestionamiento, como estas haciendo un AND, solo si ambas condiciones se cumplen, es decir, solo si la mesa y el nombre que quieres insertar son iguales, ta traerá resultado, si alguno cambia podràs pasar sin ningún problema a realizar la inserción.
Saludos y suerte!!
