Hertz 1857. február 22-én született Hamburgban. Mérnöki pályára készült, de később a természettudományok érdekelték már. Mindössze 23 évesen, 1880-ban doktorált.

1886-ban mutatta ki, hogy az elektromos szikra kisülése közben elektromágneses hullámok keletkeztek. Később bebizonyította, hogy a fény és a hősugárzás is elektromágneses sugár, valamint igazolta, hogy ezek a sugarak légüres térben is terjednek.

Összegyűjtött művei három kötetben jelentek meg 1894-95-ben. Ma nevét viseli a frekvencia (rezgésszám) mértékegysége (Hz), valamint egy német híradástechnikai intézet is.

Hertz magyar tanítványa Lénárd Fülöp volt, aki 1905-ben Nobel-díjat kapott.