Pues si, la tecnologia de hoy avanzo bastante, Macromedia que ahora es Adobe desarollo un programa llamado "
Flash Media Server" pero el costo de licencia es bastante carisimo al menos para mi, yo he trabajado en una empresa que adquirio la licencia y monto un videochat y dejame decirte que es muy bueno.
Ahora si quieres algo que no cueste nada (Open Source) pues tambien tienes algunas soluciones, como
RED5 de OsFlash nunca he visto su funcionamiento, asi que no podria precisar de ella, pero si lei buenos comentarios.
Lo otro que puedes usar es
VLC he escuchado muy buenos comentarios, y su manejo es bastante sencillo pero las herramientas que poseen muy potentes, tambien es open source (codigo abierto)
Por ultimo que conozco de Videochat es el
ChatBox, es un script bastante sencillo solo hace streaming, trabaja con PHP.
Tienes los vinculos directos puedes investigar sobre ellos y a ver como te va y nos cuentas.
Saludos ;=)