Hola,
 
Es un problema de lógica. 
Creo que tienes unos cuantos errores.. En qué posición empieza tu clip, es que pones como condición (>280). En este caso si no has cambiado nada, la pelota al inicio debería de subir de una posición mayor a 280 y con una speed negativa. 
Por otra parte el and de flash es &&, el que tu has puesto es sólo para modo bit. 
posible solución  
 Código PHP:
    initPos=pelota._y;
speed=-63;
 
onEnterFrame = function()
{
    if(pelota._y<20 || pelota._y>initPos)
    {
        speed=-speed;
    }
    if(Key.isDown(Key.UP))
    {
        pelota._y += speed;
    }
} 
    
  No sé como lo tienes montado pero ahí queda un ejemplo muy sencillo. 
Salu2 ;)