es porque se esta animando cuando haces el rollOut o rollOver, lo que podes hacer es dejar hasta arriba un movieClip invisible (alpha=0;) y con un onEnterFrame leer cuando el mouse este sobre este:
Código:
this.onEnterFrame=function(){
if(clip.hitTest(_xmouse,_ymouse)){
//si esta sobre los botones... hacer algo
}else{
//si no, hacer otra cosa
}
}
te puede servir esto:
http://www.geocities.com/pedrodle/ddmenu.fla