Zu seinen Leistungen als Regierungsrat zählte die Neuregelung des Finanzausgleichs mit den Gemeinden, zahlreiche Revisionen des Steuergesetzes sowie die neu gestaltete Verordnung über die Versicherungskasse des Staatspersonals.
Präsident der CVP-Kantonalpartei
1991 entsandte das St. Galler Stimmvolk den noch amtierenden Finanzdirektor nach Bern in den Ständerat, dem er in der Folge acht Jahre lang angehörte. Der Jurist wirkte in verschiedenen ständerätlichen Kommissionen mit und setzte sich besonders für die Sanierung der Bundesfinanzen ein.
Von 1972 bis 1978 hatte Gemperli die St. Galler CVP-Kantonalpartei präsidiert. Später gehörte er dem Vorstand der CVP Schweiz an. Ab 1989 leitete er die Konferenz der kantonalen Finanzdirektoren (FDK).