Henri Marteau wurde am 31. März 1874 in Reims geboren. Durch sein Elternhaus kam er schon früh mit Musik in Kontakt – sein Vater Charles Marteau spielte Geige, seine Mutter Clara, eine gebürtige Dresdnerin, war eine begabte Pianistin. Zahlreiche Musikveranstaltungen und Abendgesellschaften im Elternhaus sowie der frühe Kontakt zu Musikern prägten seine Kindheit. Bereits als Fünfjähriger erhielt er seine erste Geige.
Anfangs vom Schweizer August Bünzli (1820–1901) unterrichtet, studierte er ab 1881 in Paris bei dem berühmten Violinpädagogen Hubert Léonard (1819–1890). Dieser arrangierte 1884 das Debüt des Zehnjährigen vor 2.000 Zuhörern in Reims. Der Durchbruch für seine Weltkarriere gelang Henri Marteau 1887 in Wien, wo er in Gegenwart von Johannes Brahms (1833–1897) mit dem Violinkonzert von Max Bruch (1838–1920) Presse und Publikum begeisterte. 1891/92 studierte er am „Conservatoire National de Musique“ in Paris und gewann dort den international bedeutenden Preis des Konservatoriums. Anschließend brachten ihm 1893 und 1894 seine ersten beiden Amerika-Tourneen Weltruhm und für damalige Verhältnisse exorbitante Gagen.