Gertrude Stein syntyi Alleghenyssä, Pennsylvaniassa 3. helmikuuta 1874 varakkaille saksalais-juutalaisille maahanmuuttajille. Kolmevuotiaana hänen perheensä muutti ensin Wieniin ja sitten Pariisiin. He palasivat Amerikkaan vuonna 1878 ja asettuivat asumaan Oaklandiin, Kaliforniaan. Hänen äitinsä Amelia kuoli syöpään vuonna 1888 ja isänsä Daniel vuonna 1891.
Stein opiskeli Radcliffe Collegessa vuosina 1893-1897, jossa hän erikoistui psykologiaan tunnetun psykologin William Jamesin johdolla. Radcliffestä lähdettyään hän kirjoittautui Johns Hopkinsin yliopistoon, jossa hän opiskeli lääketiedettä neljän vuoden ajan ja lähti sieltä vuonna 1901. Stein ei saanut muodollista tutkintoa kummastakaan oppilaitoksesta.
Vuonna 1903 Stein muutti Pariisiin San Franciscosta kotoisin olleen nuoremman ystävänsä Alice B. Toklasin kanssa, joka pysyi hänen kumppaninaan ja sihteerinä koko hänen elämänsä ajan. Pariskunta ei palannut Yhdysvaltoihin yli kolmeenkymmeneen vuoteen. Ensimmäisen maailmansodan aikana he toimivat yhdessä vapaaehtoisina kuljettaen tarvikkeita Ranskan sairaaloihin.
Yhdessä Toklasin ja hänen veljensä Leon, taidekriitikon ja taidemaalarin, kanssa Stein otti asunnon vasemman rannan tuntumasta. Heidän kodistaan, rue de Fleurus 27:stä, tuli pian monien nuorten taiteilijoiden ja kirjailijoiden, kuten Henri Matissen, Ezra Poundin, Pablo Picasson, Max Jacobin ja Guillaume Apollinairen, kokoontumispaikka.
Hän oli intohimoinen taiteen ”uuden” puolestapuhuja, ja hänen kirjallisiin ystävyyssuhteisiinsa kuuluivat niinkin erilaiset kirjailijat kuin William Carlos Williams, Djuana Barnes, F. Scott Fitzgerald, James Joyce ja Ernest Hemingway. Hemingwaylle Stein keksi sanan ”kadonnut sukupolvi” kuvaamaan sotien välisenä aikana ulkomailla asuneita ekspatriaattikirjailijoita.
Vuoteen 1913 mennessä Steinin tuki kubistisia taidemaalareita ja hänen yhä avantgardistisemmaksi muuttunut kirjoittamisensa aiheuttivat eron hänen veljensä Leon kanssa, joka muutti Firenzeen. Hänen ensimmäinen kirjansa Three Lives (Kolme elämää) julkaistiin vuonna 1909. Sitä seurasi Tender Buttons (Claire Marie) vuonna 1914.Tender Buttons osoitti selvästi modernin maalaustaiteen syvällisen vaikutuksen Steinin kirjoittamiseen. Näissä pienissä proosarunoissa kuvat ja lauseet yhdistyvät usein yllättävillä tavoilla – samalla tavalla kuin kubistisessa maalaustaiteessa. Hänen kirjoituksilleen, joille oli ominaista sanojen käyttö pikemminkin niiden assosiaatioiden ja äänteiden kuin merkitysten vuoksi, oli huomattavaa kiinnostusta muiden taiteilijoiden ja kirjailijoiden keskuudessa, mutta ne eivät löytäneet laajaa yleisöä.
Steinin vaikutusvaltaisimpiin teoksiin kuuluvat The Making of Americans (1925), How to Write (1931), bestselleriksi noussut teos The Autobiography of Alice B. Toklas (1933) ja teos Stanzas in Meditation and Other Poems (1956). Sherwood Anderson kirjoitti teoksen Geography and Plays (1922) johdannossa, että hänen kirjoittamisensa ”koostuu elämän uudelleenrakentamisesta ja kokonaan uudesta muotoilusta sanojen kaupungissa.”
Stein kuoli Neuillyn amerikkalaisessa sairaalassa 27. heinäkuuta 1946 leikkauskelvottomaan syöpään.