Tendrás q hacerlo manualmente...
Cuando vayas a insertar, tendrás q buscar el último de ese mes...
algo así como
Código PHP:
$mes = date('m'); //Devuelve el mes actual;
$anyo = date('Y'); //Devuelve el año actual
$sql = "SELECT registro FROM `tabla` WHERE `fecha`>='01-$mes-$anyo' ORDER BY `registro` DESC LIMIT 1";
$r = mysql_query($sql, $link);
$arr = mysql_fetch_array($r);
$registro = int($arr[0]);
$registro++;
//Y ya tendrías en $registro el valor a insertar!
Esto suponiendo que el campo que quieres se llame "registro", por ejemplo!