In 1934 ontmoet Stéphane Grappelli de gitarist Django Reinhardt in een nachtclub in Montparnasse. Ze improviseren wat en vormen al snel de zigeunerjazz-formatie Le quintette du Hot Club de France, samen met Django’s broer Joseph Reinhardt en Roger Caput op gitaar, en Louis Vola op contrabas. Als op 1 september 1939 de Tweede Wereldoorlog uitbreekt, ligt hij in Londen in het ziekenhuis. Reinhardt reisdt door naar Parijs. Zo valt het quintet uit elkaar. Tijdens de oorlog formeert hij een groep met de pianist George Shearing.
In 1946 komt het quintet weer bij elkaar, maar het zou de toppen van voor de oorlog niet meer halen. Stéphane Grappelli speelt vervolgens samen met vele grootheden uit de jazz, zoals Barney Kessel, Oscar Peterson, McCoy Tyner en Duke Ellington, maar ook met de violisten Jean-Luc Ponty en Yehudi Menuhin, zanger Paul Simon en mandolinespeler David Grisman.
Menuhin merkte over zijn improvisatievermogen op: ‘Stéphane is als een jongleur, die 10 bordjes in de lucht gooit en ze ook allemaal weer opvangt.’
Hij bleef tot ver in de 80 vioolspelen. Op zijn 85e jaar wil hij nog niets van pensioen weten. Muziek is het enige wat hem gaande houdt. Zijn laatste CD verschijnt postuum.
Stéphane Grappelli overlijdt, 1 december 1997, op 89-jarige leeftijd in Parijs na een hernia-operatie en wordt begraven op de Parijse begraafplaats Père-Lachaise.