Joachim Rainer Scherf wurde im Jahr 1956 als ältester Sohn des Versicherungsangestellten Alfred Scherf und der Sekretärin Margarete Scherf, geb. Schneck, in Wiesbaden geboren. Nach dem Besuch zweier Grundschulen zwischen 1963 bis 1967 wechselte er an das Gymnasium Oranienschule in Wiesbaden und wählte dort 1973 den sprachlichen Zweig. Im Jahr 1971 wurde er an der evangelischen Bergkirche von Pfr. Lic. Walther Hunzinger konfirmiert. Im Jahr 1975 erwarb Scherf die Allgemeine Hochschulreife und leistete bis zum Jahr 1977 den Zivildienst in der Krankenhausverwaltung der Diakoniegemeinschaft Paulinenstift in Wiesbaden. Im April 1977 immatrikulierte er sich an der Johann-Wolfgang-Goethe-Universität in Frankfurt am Main und studierte bis zum Jahr 1981 Neuere deutsche Literaturwissenschaft, Ältere Germanistik und Mittlere und Neuere Kunstgeschichte. Das Studium wurde im Juni 1982 mit dem Magistertitel abgeschlossen. Zwischen 1983 und 2016 arbeitete Scherf in einer Sozialkasse in Wiesbaden als Verwaltungsangestellter. Im Jahr 1991 heiratete er und hat seit 1997 eine Tochter. Scherf war Mitglied der Kirchenvorstände der Bergkirche in Wiesbaden und der Erlösergemeinde in Wiesbaden-Dotzheim. Besonderes Interesse besteht an theologische Themen und hier im speziellen an der Hymnologie, der Wissenschaft vom Kirchenlied und der Gesangbuchsgeschichte. Seit 2006 sammelt er Kirchengesangbücher und Werke geistlicher Lieddichter und erforscht die Lebensläufe der Autoren. Hierfür steht er in Kontakt mit Staats- und Stadtarchiven, Kirchengemeinden und Heimatforschern. Scherf ist Mitglied der Internationalen Arbeitsgemeinschaft für Hymnologie (IAH) in Bern/Schweiz.