Mamadou Diabaté werd geboren in 1975 in Kita, een Malinese stad die lang bekend stond als centrum van Manding-kunst en -cultuur. Hij komt uit een familie van griots, zoals zijn naam al aangeeft. Mamadou’s vader Djelimory speelde reeds de kora en stond bekend als N’fa Diabaté. Hij speelde bij het nationale Ensemble Instrumental de Mali en was veel te horen op de al even bekende Radio National de Mali. Toen Mamadou vier was, woonde hij bij zijn vader in Bamako, waar het ensemble zijn basis had. Op het moment dat het tijd was om terug te keren naar Kita en naar school te gaan, wist hij dat de kora zijn toekomst zou worden. Zijn vader had hem al geleerd hoe hij het instrument moest bespelen en Mamadou wijdde zich vol overgave aan het beoefenen van de kora, totdat zijn moeder bang begon te worden dat hij niet genoeg concentreerde op school en hem zijn instrument afpakte. Maar zijn interesse in school verminderde alleen maar en hij begon zijn eigen kora te maken zodat hij door kon gaan met het bespelen van het insrument.
De rest van de geschiedenis laat zich raden. Niet veel later speelde hij met een groep tijdens bruilofen en traditionele gelegenheden en werd hij uitgenodigd om te komen spelen met zeer bekende Malinese sterren als Ami Koita, Tata Bambo Kouyaté, Kandia Kouyaté en Babani Koné. Door zijn stijgende bekendheid trad hij zelfs op in New York bij de Verenigde Naties, het Lincoln Center, het Metropolitan Museum en bij het Smithsonian Institute in Washington. Maar daarnaast speelde hij ook met jazzmuzikanten als Donald Byrd en Randy Weston en Afrikaanse collega-muzikanten als de Zimbabwaanse legende Thomas Mapfumo en de Beninese Angélique Kidjo.