Hola, en vez de mirar el número de filas que te devuelve la consulta, obtén la columna y después verifica que sea igual a 0.
Código PHP:
<?php
include("db.php");
$proid=$_POST['ITEM'];
$sql ='select cantidad from productos WHERE id=$proid';
$res = mysql_query($sql);
$cantidadActual = mysql_fetch_assoc($res);
$cantidadActual = $cantidadActual["cantidad"];
if ($cantidadActual == 0){
echo 'No quedan' .$res['producto1'. 'en inventario'];
}
else {
mysql_query("UPDATE productos SET cantidad = cantidad -1 WHERE id='$proid'");
header("location: tableedit.php#page=addproitem");
}
?>