Herbin hrál za Saint-Étienne od roku 1957 a hned po ukončení kariéry v roce 1972 se stal ve třiatřiceti letech trenérem. Na lavičce jednoho z tehdy nejlepších francouzských klubů vydržel do roku 1983 a poté ještě absolvoval jedno méně úspěšné období v letech 1987-1990.
Jako hráč získal Herbin se svým osudovým klubem pět francouzských titulů a tři triumfy v poháru. Obdobnou bilanci se čtyřmi tituly a třemi pohárovými triumfy měl i jako trenér.
V roce 1976 musel strávit porážku ve finále předchůdce Ligy mistrů s hvězdami nabitým Bayernem Mnichov. Prohraný zápas 0:1 v glasgowském Hampden Parku je dodnes v paměti fanoušků Saint-Étienne zapsán jako finále „hranatých tyčí“, neboť francouzští hráči dvakrát nastřelili břevno branek, jejichž tyče nebyly zakulacené, a míč se od nich odrazil ven.
Herbin, jenž reprezentoval Francii na ME 1960 a MS 1966, podlehl vážným potížím se srdcem a plícemi. S nemocí covid-19 podle agentury AFP jeho smrt nesouvisela.