In Europa wordt in 1618 voor het eerst melding gemaakt van het principe van de doorslaande tong in een werk van Michael Praetorius.
Het is 1821 als Friedrich Buschmann uit Friedrichsroda in Thüringen op het idee komt meerdere doorslaande tongen van metaal zo op een klankhout te bevestigen, dat men deze met de mond kon aanblazen om het te kunnen gebruiken als stemapparaat. De eerste mondharmonica was geboren. In 1822 bracht hij enkele verbeteringen aan, hij voorzag het geheel van een leren blaasbalg en van dubbeltongen waarvan de een op zuig- en de andere op druklucht reageerde, en voorzag de ventielen van speeltoetsen, hij noemde het apparaat Handäoline.
In 1829 leidden al die probeersels uiteindelijk tot de ontwikkeling van het diatonische accordeon. Op 23 mei van dit jaar vroegen twee uitvinders toevallig tegelijkertijd octrooi aan: Cyrillis Demian (Wenen) voor zijn accordion en Charles Wheatstone voor zijn (nog mondgeblazen) symphonium, dat jaren later tot de eerste eigenlijke concertina zou leiden. Demian had zijn uitvinding "accordion" genoemd omdat zijn instrument vier tonen tegelijkertijd met de melodietonen ten gehore bracht. Het is niet bekend of Demian op de hoogte was van de experimenten van Buschmann.
Dat allereerste accordion van Demian is jammer genoeg niet bewaard gebleven. Het diatonische accordeonEen van de eerste Accordeons werd ontwikkeld van een instrument met 5 toetsen die elk 2 verschillende accoorden konden produceren, tot een instrument met 2 rijen toetsen en enkele tonen die bij het induwen en uittrekken van de balg een verschillende toon vormen. De vibrerende delen waren dunne metaalplaatjes die in een kader doorslaand konden vibreren. Het geheel had een toonomvang van 5 tonen c t/m e.
Kort na dit eerste accordion bouwde Damian grotere modellen met zes toetsen, daarvan zijn er wel bewaard gebleven in het technische Museum van Wenen. Iedere toets gaf 2 verschillende tonen, één bij het uit trekken en één bij het induwen van de balg. Daardoor had een accordion met 5 kleppen een toonomvang van 10 tonen. Bij elke van deze tonen hoorde een akkoord als begeleiding.
In 1831 bouwde Demian het eerste complete accordion, dat in een rij de tonen van de betreffende toonladder omvatte en in de tweede rij de onbrekende tussentonen.
In 1834 liep Demian zijn patent af, waarna de productie van accordeons zich in Europa snel uitbreidde. Een van deze eerste modellen van Demian vond zijn weg naar Italie, waar in 1863 Paolo Soprani een exacte kopie van het origineel nabouwde. Dit was het begin van de Italiaanse accordeon industrie rond Castelfidardo.
Rond 1850 krijgt de linkerkant de eerste 2 toetsen:
1 voor de grondbas en 1 voor het bijbehorende accoord.
Rond 1880 breekt het instrument pas echt door met name door de productie vanuit Duitsland, die het instrument verder ontwikkelden van 1-rijer tot 2 1/2 en 3-rijers met 4 tot 10 bassen.
Prijs-technisch gezien waren deze instrumenten zeer concurrerend en dat heeft er toe geleid dat aanschaf binnen bereik kwam van vele mensen.
In Nederland is de accordeon waarschijnlijk via de Duitse Grens binnengekomen. Nederland heeft een aantal grote accordeon artiesten voortgebracht. Om een aantal bekende namen te noemen: Jan Klein-Hesseling, Arie Maasland, Harry Mooten en John Woodhouse.
