McGee kreeg een viool van een familielid, leerde zichzelf spelen en speelde een half jaar later op feesten in het zuidwesten van Louisiana. In 1929 ging hij met violist en zwager Sady Courville naar New Orleans, waar hij in maart en oktober een paar platen opnam, zoals 'Madame Young, Give Me Your Sweetest' (ook bekend als 'Colinda') en 'The Happy One-Step'. Op latere opnames speelde hij met de violisten Ernest Frugé en Amédé Ardoin.
McGee beheerste naast de voor de cajun gebruikelijke dansstijlen de wals en two-step, maar ook de one-step, polka, mazurka, reel, cotillion en bijvoorbeeld de varsovienne. Op zijn repertoire stonden honderden oude cajun-songs.
In de jaren zeventig en tachtig speelde hij met Sady Courville op festivals en concerten. Ook maakte hij voor verschillende Amerikaanse en Franse labels plaatopnamen.
