Hola,
Pues le metes datos indicando los indices:
Código PHP:
$agenda[0]['nombre']='jose luis';
$agenda[0]['direccion']='castellana';
$agenda[0]['telefono']='2225552225';
$agenda[1]['nombre']='jose';
$agenda[1]['direccion']='ibiza';
$agenda[1]['telefono']='69696969';
Saludos.