Gertrude Stein blev født i Allegheny, Pennsylvania, den 3. februar 1874 som barn af velhavende tysk-jødiske indvandrere. Da hun var tre år gammel, flyttede hendes familie først til Wien og derefter til Paris. De vendte tilbage til Amerika i 1878 og bosatte sig i Oakland, Californien. Hendes mor, Amelia, døde af kræft i 1888, og hendes far, Daniel, døde i 1891.
Stein gik på Radcliffe College fra 1893 til 1897, hvor hun specialiserede sig i psykologi under den kendte psykolog William James. Efter at have forladt Radcliffe indskrev hun sig på Johns Hopkins University, hvor hun studerede medicin i fire år, som hun forlod i 1901. Stein fik ikke en formel eksamen fra nogen af institutionerne.
I 1903 flyttede Stein til Paris sammen med Alice B. Toklas, en yngre veninde fra San Francisco, som skulle blive hendes partner og sekretær hele hendes liv. Parret vendte ikke tilbage til USA i over tredive år. Under Første Verdenskrig meldte de sig frivilligt sammen og kørte forsyninger til hospitaler i Frankrig.
Sammen med Toklas og hendes bror Leo, en kunstkritiker og maler, tog Stein en lejlighed på venstre bred. Deres hjem, 27 rue de Fleurus, blev snart et samlingssted for mange unge kunstnere og forfattere, herunder Henri Matisse, Ezra Pound, Pablo Picasso, Max Jacob og Guillaume Apollinaire.
Hun var en lidenskabelig fortaler for det “nye” i kunsten, og hendes litterære venskaber voksede til at omfatte så forskellige forfattere som William Carlos Williams, Djuana Barnes, F. Scott Fitzgerald, James Joyce og Ernest Hemingway. Det var over for Hemingway, at Stein opfandt udtrykket “den tabte generation” for at beskrive de udstationerede forfattere, der boede i udlandet mellem krigene.
I 1913 forårsagede Steins støtte til kubistiske malere og hendes stadig mere avantgardistiske forfatterskab et brud med hendes bror Leo, som flyttede til Firenze. Hendes første bog, Three Lives, blev udgivet i 1909. Hun fulgte den op med Tender Buttons (Claire Marie) i 1914.Tender Buttons viste tydeligt den dybe effekt, som det moderne maleri havde på hendes forfatterskab. I disse små prosadigte samles billeder og sætninger på ofte overraskende måder – på samme måde som i det kubistiske maleri. Hendes forfatterskab, der er kendetegnet ved at bruge ord for deres associationer og lyde snarere end for deres betydning, vakte stor interesse fra andre kunstnere og forfattere, men fandt ikke et bredt publikum.
Men blandt Steins mest indflydelsesrige værker er The Making of Americans (1925); How to Write (1931); The Autobiography of Alice B. Toklas (1933), som blev en bestseller; og Stanzas in Meditation and Other Poems (1956). Sherwood Anderson skrev i indledningen til Geography and Plays (1922), at hendes forfatterskab “består i en genopbygning og en helt ny omformning af livet i ordets by.”
Stein døde på det amerikanske hospital i Neuilly den 27. juli 1946 af en inoperabel kræftsygdom.