Gracias por contestar David, acabo de probar y nada, sigue undefined. 
 
Por las dudas, la función completa donde se crea el botón es:  
Código:
 function muestraTodo(){
        var area = document.getElementById('almacenamientoLocal');
        area.innerHTML = '';
       
        $objCuerpoTablaContactos = $('#tblTablaContactos').find('tbody');
        $objCuerpoTablaContactos.empty();
       
        for (var i=0; i<storage.length; i++) {
            var clave = storage.key(i);
            var valor = storage.getItem(clave);
           
            $objCuerpoTablaContactos.append(
                    $('<tr>').append(
                        $('<td>',{
                            text    : clave,
                            align    : 'left'
                        }),
                        $('<td>',{
                            text    : valor,
                            align    : 'left'
                        }),
                        $('<td>',{
                            align    : 'center',
                            width    : 60
                        }).append('<input type="button" onclick="eliminarRegistro()" value="Eliminame" class="'+clave+'" />').data('contactoparaeliminar',clave)
                    )
                );
           
        }
}
  Alguna otra idea? x_X