Que tal, podrias usar el siguiente codigo, aclarando con anterioridad que tiene que aceptar la ejecución del ActiveX, ya que le saldra la advertencia de seguridad de IE:
<html>
<head>
<title>Cambiar Resolución</title>
</head>
<body>
<object id="oShell" CLASSID="clsid:13709620-C279-11CE-A49E-444553540000" border="0" width="0" height="0">
</object>
<script language="VBScript">
<!--
function resolucion()
oShell.ControlPanelItem "desk.cpl"
end function
//-->
</script>
<input type="button" value="Cambiar Resolucion" onclick="resolucion()">
</body>
</html>
Más información:
http://msdn.microsoft.com/library/de.../objectmap.asp
Suerte....