Gertrude Stein nació en Allegheny, Pennsylvania, el 3 de febrero de 1874, en el seno de una familia de adinerados inmigrantes judíos alemanes. A los tres años, su familia se trasladó primero a Viena y luego a París. Regresaron a Estados Unidos en 1878 y se establecieron en Oakland, California. Su madre, Amelia, murió de cáncer en 1888 y su padre, Daniel, falleció en 1891.
Stein asistió al Radcliffe College de 1893 a 1897, donde se especializó en Psicología con el célebre psicólogo William James. Tras dejar Radcliffe, se matriculó en la Universidad Johns Hopkins, donde estudió medicina durante cuatro años, que abandonó en 1901. Stein no obtuvo un título oficial en ninguna de las dos instituciones.
En 1903, Stein se trasladó a París con Alice B. Toklas, una amiga más joven de San Francisco que seguiría siendo su compañera y secretaria durante toda su vida. La pareja no regresó a Estados Unidos durante más de treinta años. Durante la Primera Guerra Mundial, fueron voluntarias juntas, llevando suministros a los hospitales de Francia.
Junto con Toklas y su hermano Leo, crítico de arte y pintor, Stein tomó un apartamento en la Orilla Izquierda. Su casa, en el número 27 de la rue de Fleurus, pronto se convirtió en punto de encuentro de muchos jóvenes artistas y escritores, como Henri Matisse, Ezra Pound, Pablo Picasso, Max Jacob y Guillaume Apollinaire.
Era una apasionada defensora de lo «nuevo» en el arte, y sus amistades literarias llegaron a incluir a escritores tan diversos como William Carlos Williams, Djuana Barnes, F. Scott Fitzgerald, James Joyce y Ernest Hemingway. Fue a Hemingway a quien Stein acuñó la frase «la generación perdida» para describir a los escritores expatriados que vivían en el extranjero en el periodo de entreguerras.
En 1913, el apoyo de Stein a los pintores cubistas y su escritura cada vez más vanguardista provocaron la ruptura con su hermano Leo, que se trasladó a Florencia. Su primer libro, Tres vidas, se publicó en 1909. Tender Buttons (Claire Marie), en 1914, muestra claramente el profundo efecto que la pintura moderna tuvo en su escritura. En estos pequeños poemas en prosa, las imágenes y las frases se combinan de forma a menudo sorprendente, de manera similar a la pintura cubista. Sus escritos, caracterizados por el uso de las palabras por sus asociaciones y sonidos más que por sus significados, suscitaron un considerable interés entre otros artistas y escritores, pero no encontraron un amplio público.
Entre las obras más influyentes de Stein se encuentran The Making of Americans (1925); How to Write (1931); The Autobiography of Alice B. Toklas (1933), que fue un éxito de ventas; y Stanzas in Meditation and Other Poems (1956). Sherwood Anderson escribió en la introducción de Geografía y obras de teatro (1922) que su escritura «consiste en una reconstrucción, y en toda una nueva refundición de la vida, en la ciudad de las palabras».
Stein murió en el Hospital Americano de Neuilly el 27 de julio de 1946, de un cáncer inoperable.