Te paso un ejemplo sencillo de ventana modal, utilizando la libreria de Jquery (las podes descargar de jquery.com
El link a las librerías debe de ir en la cabecera de la pagina
<head runat="server">
<script type="text/javascript" src="js/plugins/jquery-1.7.min.js"></script>
</head>
Script
jQuery("#brub").dialog({
width: 500,
modal: true,
title: "Mis Datos",
closeText: "Cerrar",
open: function (type, data) {
jQuery(this).parent().appendTo("#aspnetForm");
//Esta linea de codigo es importante ya que es necesario agregar el dialog
al form de asp.net, sino no funciona.
}
});
Html
<div id="brub" style="display: none">
Nombre: <asp:TextBox ID="txtrub" runat="server" ></asp:TextBox>
<asp:Button ID="btnsearch" runat="server" Text="Buscar" />
</div>
Saludos.