No puedes sacar un video con fondo transparente.
Sí puedes hacer un óvalo con css:
http://css-tricks.com/the-shapes-of-css/
Si necesitas el video con esa cosa, para toooodos los navegadores, ponlo directamente DENTRO del video. Pon un layer y lo rendereas simulando estar recortado.
Para hacer lo de la pista adicional revisa la documentación del programa que uses. Pero repito, en ese png vas a poner simulando lo que quieras que parezca que va debajo.