Saludos...
Con respecto a la pregunta de protocolos, no conozco mucho sobre lo que se maneje actualmente el mercado puesto que no soy un desarrollador de videojuegos todavía (es mi meta, sí. Pero por desgracia en mi país no se da esa carrera).
Volviendo al tema, ciertamente TCP es orientado conexión y UDP no. En lo particular, buscaría recopilar más información acerca de cómo trabajar el protocolo TCP y en cuanto a fiabilidad... no hay nada que hablar; TCP.
Por otro lado, recuerda que la velocidad no lo es todo, y que al utilizar UDP es probable que el usuario deba habilitar el puerto por el cual está entrando y saliendo información. Cosa que no muchos usuarios que tengan un conocimiento decentongo de puertos y firewalls estan dispuestos a hacer. Cabe recordar que los queridos "crackers" siempre andan al acecho y más de un gamer ya habrá pasado sus malos ratos por contratiempos con estos estudiosos (hay que aceptar que lo son) pero desagradables seres.
En cuanto a los juegos on-line, justamente por este detalle del retrazo o pérdida de paquetes de datos, velocidad de conexión, etc; en el desarrollo de videojuegos existen algoritmos avanzados llamados algoritmos de predicción los cuales justamente están diseñados para dar la sensación de suavidad y buena jugabilidad aun cuando existe retrazo o pérdida de paquetes de datos.
Ya por último, te dejo unos enlaces de interés ya que Microsoft en conjunto con otras compañías han lanzado un par de APIs para la creación de videojuegos para entusiastas que quizás te pueda ayudar bastante porque justamente se menciona el tema de multijugadores on-line. Espero no te moleste leer en inglés.
XNA Game Studio Cabe destacar que al final de la página se habal del tema que te interesa, sin embargo te invito a que revises el site completamente.
DarkGDK
Cabe destacar que, hasta donde he leído, el XNA está orientado a ser trabajado en ambiente con C# (orientado a la realización de juegos para Windows y Xbox 360) y el DarkGDK para trabajarlo en ambiente C++. Y según se corre la voz de que si el juego es buenazo, lo puedes poner a la venta en Xbox Live (no hay excusas para no entrar de algún modo u otro en la industria).
Espero que mi respuesta, si bien no ayudó mucho con lo de los protocolos, te haya servido de ayuda y guía para facilitar tu entrada al mundillo.
PD: Como recomendación, te invito a que leas
este artículo