Op 4 mei 1981 werd in Wenen "The European Law Students' Association" opgericht. De oprichters waren studenten van beide kanten van het "IJzeren Gordijn", uit Polen, Oostenrijk, Hongarije en voormalig West-Duitsland. Zij stelden zich enerzijds tot doel te werken aan wederzijds begrip en anderzijds het leggen van internationale contacten te bevorderen. ELSA is de enige vereniging van studenten ter wereld die als Niet Gouvernementele Organisatie (NGO) een .speciale adviserende status. t.o.v. ECOSOC (de Sociaal Economische Raad van de Verenigde Naties) heeft.
In de daarop volgende jaren sloten zich in sneltreinvaart nieuwe landen aan bij deze groep. De organisatie van ELSA begon gestalte te krijgen en zich te ontwikkelen in drie hoofdtakken: Seminars & Conferences, Academic Activities en het Student Trainee Exchange Programme. Het eerste congres werd al binnen een jaar na de oprichting van ELSA gehouden.
ELSA bleef gestaag groeien en had in het begin van de jaren '90 al meer dan 30 lidstaten en observerende landen. Om zo'n grote organisatie te besturen en te coördineren werd in 1993 een kantoortje in Brussel gehuurd voor het Internationale Bestuur. Al in 1995 bleek dit te klein en verhuisde het bestuur naar het huidige ELSA-huis. Rond die tijd deed ook het internet zijn intrede in de ELSA-organisatie. Dit resulteerde in de ingevoerde mogelijkheid om via de site je aanvraag voor het stage-programma (STEP) in te dienen en de open stage-plaatsen te bekijken.
Ruim vijfentwintigjaar na de oprichting zijn er ELSA-groepen in meer dan 200 verschillende steden verspreid over 40 landen.