In 1887 begon Robert Kellerstrass, secretaris van de Tin and Cornice Makers Association van Peoria, Illinois – een plaatselijke vakbond van plaatwerkers – te ijveren voor de oprichting van een nationale vakbond van plaatwerkers. Kellerstrass nam contact op met zoveel mogelijk plaatselijke blikwerkers en organiseerde een oprichtingsconventie in januari 1888. Elf afgevaardigden uit Illinois, Missouri, Nebraska, Ohio en Tennessee kwamen gedurende vier dagen bijeen. De vakbond werd op 25 januari 1888 in Toledo, Ohio, opgericht als de Tin, Sheet Iron and Cornice Workers’ International Association.
In vijf jaar groeide de organisatie uit tot 108 locals in de Verenigde Staten. In 1896 werd ook de eerste lokale in Canada opgericht, in Toronto. Een tweede Canadees lokaal werd opgericht in Montreal in 1900, en een lokaal in Vancouver in 1902.
De vakbond sloot zich in 1889 aan bij de American Federation of Labor (AFL). De Paniek van 1893 verzwakte de bond echter aanzienlijk en de financiën van de bond stortten in. De AFL trok het statuut van de Tin, Sheet Iron and Cornice Workers in 1896 in, hoewel veel plaatselijke vakbonden bleven bestaan.
De vakbond reorganiseerde in 1897 als de Amalgamated Sheet Metal Workers’ International Association, en werd in 1899 opnieuw door de AFL gecharterd.
In 1902 stelde de Amalgamated Sheet Metal Workers’ vakbond haar eerste nationale overlijdensuitkering voor haar leden in.
In 1903 fuseerde de Amalgamated Sheet Metal Workers’ met de Sheet Metal Workers’ National Alliance, een afscheidingsbeweging die zich in 1902 van de vakbond had afgescheiden, waardoor de Amalgamated Sheet Metal Workers’ International Alliance ontstond.
In 1907 fuseerde de vakbond met de Coppersmiths’ International Union.
De vakbond raakte in 1919 verwikkeld in een hevige strijd met de vakbonden van loodgieters en timmerlieden. De Sheet Metal Workers hadden in het hele land duizenden machinisten van locomotieven georganiseerd, maar nu was de vakbond van loodgieters van mening dat zij jurisdictie had over het pijpwerk dat bij de bouw van deze locomotieven kwam kijken. Spoorwegarbeiders van de machinisten, smeden en loodgieters kwamen in 1920 bijeen in St. Louis, Missouri nadat een aantal plaatselijke spoorwegvakbonden van loodgieters waren overgelopen naar de Amalgamated Sheet Metal Workers. Hoewel de arbeiders het niet eens konden worden over welke vakbond bevoegd zou moeten zijn voor het werk, kwamen zij overeen de Federated Railroad Shopmen’s Union op te richten om te voorkomen dat hun werk zou worden overgenomen door arbeiders die niet bij de spoorwegen werkzaam waren. In 1921 werd de federatieve vakbond opgeheven, maar de Amalgamated Sheet Metal Workers won aanzienlijke concessies van de loodgieters op het gebied van jurisdictie. Het conflict zou tot in de jaren 1950 voortduren en de Amalgamated Sheet Metal Workers aanzienlijk verzwakken. Uiteindelijk bevestigde de National Mediation Board op 26 april 1955 opnieuw de bevoegdheid van de Amalgamated Sheet Metal Workers over loodgieters- en pijpfittingen in de spoorwegindustrie.
De introductie van metalen lijstwerk in gebouwen creëerde ook een probleem voor de vakbond. De United Brotherhood of Carpenters and Joiners of America eiste jurisdictie op over sier- en lijstwerk, dat voorheen van hout was gemaakt. De vakbond van timmerlieden had in het voorjaar van 1909 van een arbiter in New York City een uitspraak gekregen over de jurisdictie van de vakbond. Maar de Amalgamated Sheet Metal Workers eisten dat de Building Trades Department (BTD) van de AFL een uitspraak zou doen. Met een meerderheid van 3 tegen 1 stemden de afgevaardigden van de Conventie van de Bouwvakarbeiders in het voordeel van de Amalgamated Sheet Metal Workers. De timmerlieden, toen de op één na grootste vakbond in de AFL, trokken zich terug uit de Building Trades en begonnen een reeks stakingen tegen de Amalgamated Sheet Metal Workers op bouwplaatsen in het hele land. De BTD nam wraak door AFL voorzitter Samuel Gompers te vragen het handvest van de timmermansvakbond in te trekken. In plaats daarvan leidde Gompers de uitvoerende raad van de AFL met de eis dat de BTD de timmermansvakbond weer zou oprichten. De Building Trades deden dat in 1910, maar bleven stemmen voor de eisen van de Amalgamated Sheet Metal Workers op het werk. De vakbond van de timmerlieden sloot zich weer af. De timmerliedenbond bleef staken tegen de Amalgamated Sheet Metal Workers en kreeg steeds meer steun van aannemers en plaatselijke bouwvakraden. De Nationale Raad van Jurisdictional Awards stemde ook in het voordeel van de Amalgamated Sheet Metal Workers. Maar de druk van de veel grotere vakbond van timmerlieden bleek te groot, en de Amalgamated Sheet Metal Workers gaven in 1926 hun jurisdictie over binnenwerk op.
De bij de Amalgamated Sheet Metal Workers aangesloten spoorwegmaatschappijen waren nauw betrokken bij de Grote Spoorwegstaking van 1922, die een ramp bleek te zijn voor de spoorwegvakbonden van de vakbond.
De Amalgamated Sheet Metal Workers’ absorbeerde de kroonluchter-, koper-, en metaalarbeiders in 1924, en veranderde opnieuw haar naam – dit keer in de Sheet Metal Workers’ International Association.
In 1926 waren de Sheet Metal Workers medeoprichter van de Railway Labor Executives’ Association, een vakbondslobbygroep.
In het voorjaar van 1927 bouwen leden van Local 206 in San Diego, Californië, structurele versterkingen voor Charles Lindbergh’s vliegtuig, “The Spirit of St. Louis”.
Tijdens de Tweede Wereldoorlog hielpen leden van de Sheet Metal Workers bij de bouw van gebouwen, experimentele machines en apparatuur voor het maken van atoomwapens in Oak Ridge, Tennessee, als onderdeel van het Manhattan Project. In 1946 werden de Sheet Metal Workers een van de stichtende leden van de Atomic Trades and Labor Council.
De Sheet Metal Workers zijn opmerkelijk voor het onderhandelen van een aantal “primeurs” in de bouwindustrie. In 1946 onderhandelde Local 28 in New York City over het eerste lokale gezondheids- en welzijnsplan in de bouwindustrie. In 1950 onderhandelde Local 28 over de eerste pensioenregeling in de bouwindustrie. In 1966 stelde de vakbond zijn eerste nationale pensioenplannen op (één voor bouwvakkers, één voor productiearbeiders).
In 1960 organiseerde de Sheet Metal Workers zijn eerste politieke actiecomité, de Political Action League (PAL).