I 1887 begyndte Robert Kellerstrass, sekretær for Tin and Cornice Makers Association i Peoria, Illinois – en lokal fagforening for metalpladearbejdere – at agitere for dannelsen af en national fagforening for metalpladearbejdere. Kellerstrass tog kontakt til så mange lokale pladesmedeforeninger som muligt og sørgede for, at der blev afholdt en stiftende kongres i januar 1888. Elleve delegerede fra Illinois, Missouri, Nebraska, Ohio og Tennessee mødtes i fire dage. Fagforeningen blev grundlagt den 25. januar 1888 i Toledo, Ohio, som Tin, Sheet Iron and Cornice Workers’ International Association.
I løbet af fem år voksede organisationen til at omfatte 108 lokalafdelinger i USA. Den første lokalafdeling i Canada blev også grundlagt i 1896 i Toronto. En anden canadisk lokalforening blev dannet i Montreal i 1900, og en lokalforening i Vancouver i 1902.
Fagforeningen blev medlem af American Federation of Labor (AFL) i 1889. Panikken i 1893 svækkede dog fagforeningen betydeligt, og fagforeningens økonomi kollapsede. AFL tilbagekaldte Tin, Sheet Iron and Cornice Workers’ charter i 1896, selv om mange lokalafdelinger fortsatte med at eksistere.
Fagforeningen reorganiserede sig i 1897 som Amalgamated Sheet Metal Workers’ International Association, og blev i 1899 genetableret af AFL.
I 1902 indførte Amalgamated Sheet Metal Workers’ Union sin første nationale dødsfaldsydelse til sine medlemmer.
I 1903 fusionerede Amalgamated Sheet Metal Workers’ med Sheet Metal Workers’ National Alliance, en løsrivelsesgruppe, der havde løsrevet sig fra fagforeningen i 1902, hvorved Amalgamated Sheet Metal Workers’ International Alliance blev oprettet.
I 1907 fusionerede fagforeningen med Coppersmiths’ International Union.
Fagforeningen blev indviklet i en voldsom kamp med blikkenslager- og tømrerforeningerne i 1919. Sheet Metal Workers havde organiseret tusindvis af lokomotivfabrikanter i hele landet, men nu hævdede blikkenslagerforbundet, at det havde jurisdiktion over det rørarbejde, der var nødvendigt for at bygge disse lokomotiver. Jernbanearbejdere fra maskinarbejdere, smede og blikkenslagere mødtes i St. Louis, Missouri i 1920, efter at en række lokale blikkenslagerfagforeninger for jernbaner var gået over til Amalgamated Sheet Metal Workers. Selv om arbejderne ikke kunne blive enige om, hvilken fagforening der skulle have jurisdiktion over arbejdet, blev arbejderne enige om at danne Federated Railroad Shopmen’s Union for at beskytte deres arbejde mod at blive overtaget af ikke-jernbanearbejdere. I 1921 opløstes den fødererede fagforening, men Amalgamated Sheet Metal Workers opnåede betydelige indrømmelser fra blikkenslagerne med hensyn til jurisdiktion. Konflikten skulle fortsætte ind i 1950’erne og svækkede Amalgamated Sheet Metal Workers betydeligt. Endelig bekræftede National Mediation Board den 26. april 1955 Amalgamated Sheet Metal Workers jurisdiktion over VVS- og rørarbejde i jernbaneindustrien.
Indførelsen af metallister i bygninger skabte også et problem for fagforeningen. United Brotherhood of Carpenters and Joiners of America hævdede jurisdiktion over trim og lister, som tidligere havde været lavet af træ. Tømrernes fagforening havde vundet en jurisdiktionskendelse fra en voldgiftsmand i New York City i foråret 1909. Men Amalgamated Sheet Metal Workers krævede, at AFL’s Building Trades Department (BTD) afgav en afgørelse. Med et flertal på 3 til 1 stemte de delegerede til Building Trades kongres til fordel for Amalgamated Sheet Metal Workers. Tømrerne, som på det tidspunkt var den næststørste fagforening i AFL, trak sig ud af Building Trades og indledte en række strejker med jurisdiktion mod Amalgamated Sheet Metal Workers på byggepladser i hele landet. BTD tog til genmæle ved at bede AFL’s præsident Samuel Gompers om at tilbagekalde tømrernes fagforeningsrettigheder. I stedet stod Gompers i spidsen for AFL’s forretningsudvalg og krævede, at BTD genindførte tømrernes fagforening. Det gjorde byggefagene i 1910, men fortsatte med at stemme til fordel for Amalgamated Sheet Metal Workers’ krav på arbejde. Tømrernes fagforening meldte sig ud igen. Tømrerforbundet fortsatte med at strejke mod Amalgamated Sheet Metal Workers og vandt i stigende grad støtte fra bygningsentreprenører og lokale byggefaglige råd. National Board of Jurisdictional Awards stemte også til fordel for Amalgamated Sheet Metal Workers. Men presset fra den meget større tømrerforening viste sig at være for stort, og Amalgamated Sheet Metal Workers indrømmede jurisdiktion over interiørarbejde i 1926.
Amalgamated Sheet Metal Workers’ jernbanemedlemmer var dybt involveret i den store jernbanestrejke i 1922, som viste sig at være en katastrofe for fagforeningens jernbanefagforeninger.
The Amalgamated Sheet Metal Workers’ opslugte lysekroner-, messing- og metalarbejderne i 1924 og ændrede endnu en gang sit navn – denne gang til Sheet Metal Workers’ International Association.
I 1926 var Sheet Metal Workers med til at stifte Railway Labor Executives’ Association, en faglig lobbygruppe.
I foråret 1927 bygger medlemmer af Local 206 i San Diego, Californien, strukturelle forstærkninger til Charles Lindberghs fly, “The Spirit of St. Louis”
Under Anden Verdenskrig hjalp medlemmer af Sheet Metal Workers med at bygge bygninger, eksperimentelle maskiner og udstyr til fremstilling af atomvåben i Oak Ridge, Tennessee, som en del af Manhattan-projektet. I 1946 blev Sheet Metal Workers et af de stiftende medlemmer af Atomic Trades and Labor Council.
The Sheet Metal Workers er kendt for at have forhandlet sig frem til en række “første gangs” i byggebranchen. I 1946 forhandlede Local 28 i New York City den første lokale sundheds- og velfærdsplan i byggebranchen. I 1950 forhandlede Local 28 den første pensionsordning i byggebranchen. I 1966 etablerede fagforeningen sine første nationale pensionsplaner (en for byggearbejdere og en for produktionsarbejdere).
I 1960 organiserede Sheet Metal Workers sin første politiske aktionskomité, Political Action League (PAL).