Debes indicar como nombre de tu <select> de tipo array ([]):
<select name="materia_referencia[]" size="5" multiple>
Y en el script PHP que recibas ese dato lo accedes como un array común:
Código PHP:
foreach ($_POST['materia_referencia'] as $valor){
echo $valor."<br>";
}
Tienes una FAQ que habla del tema (aplicado a un checkbox . .pero es la misma filosofía).
Un saludo,