En la MSDN, en la función RegSetValue leemos:
dwType
[in] Type of information to be stored. This parameter must be the REG_SZ type. To store other data types, use the RegSetValueEx function.
Por lo tanto, deberás usar RegSetValueEx para tu propósito.
http://msdn.microsoft.com/library/de...setvalueex.asp