Gertrude Stein wurde am 3. Februar 1874 in Allegheny, Pennsylvania, als Tochter wohlhabender deutsch-jüdischer Einwanderer geboren. Als sie drei Jahre alt war, zog ihre Familie zunächst nach Wien und dann nach Paris. Im Jahr 1878 kehrten sie nach Amerika zurück und ließen sich in Oakland, Kalifornien, nieder. Ihre Mutter Amelia starb 1888 an Krebs und ihr Vater Daniel 1891.
Stein besuchte von 1893 bis 1897 das Radcliffe College, wo sie sich bei dem bekannten Psychologen William James auf Psychologie spezialisierte. Nachdem sie Radcliffe verlassen hatte, schrieb sie sich an der Johns Hopkins University ein, wo sie vier Jahre lang Medizin studierte und 1901 abschloss. Stein erhielt an keiner der beiden Institutionen einen formalen Abschluss.
Im Jahr 1903 zog Stein mit Alice B. Toklas, einer jüngeren Freundin aus San Francisco, die zeitlebens ihre Partnerin und Sekretärin bleiben sollte, nach Paris. Das Paar kehrte erst nach über dreißig Jahren in die Vereinigten Staaten zurück. Während des Ersten Weltkriegs meldeten sie sich gemeinsam als Freiwillige und fuhren Versorgungsgüter zu den Krankenhäusern in Frankreich.
Zusammen mit Toklas und ihrem Bruder Leo, einem Kunstkritiker und Maler, nahm Stein eine Wohnung am linken Ufer. Ihr Haus in der Rue de Fleurus 27 wurde bald zum Treffpunkt vieler junger Künstler und Schriftsteller, darunter Henri Matisse, Ezra Pound, Pablo Picasso, Max Jacob und Guillaume Apollinaire.
Sie war eine leidenschaftliche Verfechterin des „Neuen“ in der Kunst, und ihre literarischen Freundschaften umfassten so unterschiedliche Schriftsteller wie William Carlos Williams, Djuana Barnes, F. Scott Fitzgerald, James Joyce und Ernest Hemingway. Für Hemingway prägte Stein den Ausdruck „die verlorene Generation“, um die im Ausland lebenden Schriftsteller der Zwischenkriegszeit zu beschreiben.
1913 führte Steins Unterstützung der kubistischen Maler und ihre zunehmend avantgardistische Schriftstellerei zum Bruch mit ihrem Bruder Leo, der nach Florenz zog. Ihr erstes Buch, Three Lives, wurde 1909 veröffentlicht. Dem folgte 1914 Tender Buttons (Claire Marie), in dem sich die tiefgreifende Wirkung der modernen Malerei auf ihr Schreiben deutlich zeigt. In diesen kleinen Prosa-Gedichten fügen sich Bilder und Sätze auf oft überraschende Weise zusammen – ähnlich wie in der kubistischen Malerei. Ihr Schreiben, das sich dadurch auszeichnet, dass sie Wörter eher wegen ihrer Assoziationen und Klänge als wegen ihrer Bedeutung verwendet, stieß bei anderen Künstlern und Schriftstellern auf großes Interesse, fand aber kein großes Publikum.
Zu Steins einflussreichsten Werken gehören The Making of Americans (1925); How to Write (1931); The Autobiography of Alice B. Toklas (1933), das ein Bestseller war; und Stanzas in Meditation and Other Poems (1956). Sherwood Anderson schrieb in der Einleitung zu Geography and Plays (1922), dass ihr Schreiben „in einem Wiederaufbau und einer völlig neuen Gestaltung des Lebens in der Stadt der Worte besteht.“
Stein starb am 27. Juli 1946 im American Hospital in Neuilly an inoperablem Krebs.