Seine politische Laufbahn begann er als Gemeinderat in Laufen in den 1970er Jahren. Später wurde Rudolf Imhof in den Bezirksrat Laufental gewählt. Der CVP-Politiker präsidierte den Bezirksrat bis zu seiner Wahl in den Nationalrat 1995. Zwei Jahre zuvor hatte das Laufentaler Stimmvolk dem Kantonswechsel zugestimmt. Im Vorfeld des Kantonswechsels des Laufentals von Bern zu Baselland war Rudolf Imhof von 1988 bis 1994 Präsident der Verhandlungsdelegation.
Rudolf Imhof vertrat den Kanton Baselland bis 2003 im Nationalrat. Zwei Jahre lang war er Präsident der Geschäftsprüfungskommission des Nationalrats.