Rudolf Kelber, dopo gli studi di pianoforte, violoncello, organo e composizione presso il Conservatorio di Norimberga, ha studiato musica sacra e direzione d'orchestra a Monaco, avendo tra i suoi insegnanti Karl Richter e Franz Lehrndorfer per l’organo e Jan Koetsier e Kurt Eichhorn per la direzione. Al termine di tale periodo ha proseguito la sua carriera rivestendo la carica di Theaterkapellmeister (Maestro ai Teatri lirici) a Gelsenkirchen e Heidelberg e contemporaneamente perfezionandosi in organo e studiando clavicembalo. Tale attività lo ha portato a dirigere opere barocche in diverse città.
Dal 1982 al 2015 è stato organista titolare della chiesa di St. Jacobi in Amburgo, dove ha promosso e condotto a termine il restauro del celebre organo Schnitger. Ha svolto attività concertistica in tutta Europa e negli stati Uniti, esibendosi spesso nell’esecuzione di trascrizioni di brani orchestrali. È stato responsabile del Festival Organistico di Amburgo negli anni 1994, 1996, 1998, 2000, del Festival Bach nel 2004 e del Festival Messiaen nel 2008.
In qualità di concertista si è esibito sia come organista che come direttore d'orchestra in quasi tutti i paesi europei, negli Stati Uniti e in Giappone.
È stato docente presso i conservatori di musica di Brema e di Amburgo.
Nel 2015 è stato insignito della Arp Schnitger Medal of Merit dalla Arp Schnitger Society.
Dal 2016, Rudolf Kelber continua a esibirsi e comporre come organista, clavicembalista e pianista jazz.
Kelber non solo si dedicò alla vecchia musica d'organo nella chiesa principale di Amburgo, ma coltivò la musica sacra in tutta la sua ampiezza. Il repertorio di Monteverdi, Handel, Bach e Mozart a Brahms, Dvorak e Reger è stato integrato da nuovi, come ricostruzioni delle passioni di Bach perse, messe di Eccard e una messa glagolitica di Mussorgsky. Allo stesso tempo, la modernità ha avuto il suo posto. Ci sono state anteprime, ad es. Messia: "La Trasfigurazione", Ernest Bloch: "Avodath Hakodesh", Franz Schmidt: "Il libro con sette sigilli". Anche il Requiem di A. Webber ha trovato la sua prima della Germania del Nord a St. Jacobi.
Come organista dello strumento storico, Rudolf Kelber si occupava in particolare del barocco nord tedesco, ma anche dell'intera musica europea del primo e dell'alto barocco. Ha suonato l'intera opera di Bach più volte, ma è anche interessato al repertorio e alle trascrizioni classico e romantico.
Il 13 febbraio 2018 è stato insignito, dall'assessore alla cultura di Amburgo Carsten Brosda, della "Medaglia del Senatore Biermann Rathjen" durante un concerto d'organo in St. Jacobi. [giugno 2019]