John von Neumann werd geboren als Janos Lajos Margittai Neumann op 28 december 1903 in Boedapest, Hongarije. Opgegroeid in een niet-praktiserend joods gezin, had hij al op jonge leeftijd een ongelooflijk geheugen: op zesjarige leeftijd kon hij al getallen van acht cijfers in zijn hoofd delen. Hij ging in 1911 naar het Luthers Gymnasium; in 1913 kocht zijn vader een titel en verwierf de familie het Oostenrijkse adellijke teken “von.”
Von Neumann promoveerde op 23-jarige leeftijd in de wiskunde aan de Universiteit van Boedapest. Tegelijkertijd leerde hij scheikunde in Zwitserland. Tussen 1926 en 1930 was hij privédocent in Berlijn, Duitsland. In 1930, het jaar waarin hij trouwde met Mariette Koevesi en ermee instemde zich tot het katholicisme te bekeren om haar familie gunstig te stemmen, nodigde de universiteit van Princeton hem uit om een lezing te geven over mathematische fysica. Op Princeton vroegen de oprichters van het pas opgerichte Institute for Advanced Study hem om een leerstoel in de wiskunde te aanvaarden. Dr. von Neumann werd een van de oorspronkelijke leden van het prestigieuze instituut, waar hij de rest van zijn leven bleef.
In 1937, hetzelfde jaar dat von Neumann scheidde van zijn eerste vrouw, werd hij genaturaliseerd tot staatsburger van de V.S. In 1938 trouwde hij met Klara Dan, en hij kreeg de Bocher Memorial Prize voor zijn werk in de analyse.
In 1943 begon von Neumann te werken aan het Manhattan Project, waar hij zich bezighield met de immense berekeningen die nodig waren voor de bouw van een atoombom. Geconfronteerd met die ontzaglijke taak, raakte hij geïnteresseerd in het gebruik van machines voor de berekening van getallen en de oplossing van specifieke wiskundige problemen. Tijdens en na de oorlog groeide zijn belangstelling voor computers, en hij leverde een grote bijdrage aan de bouw van de eerste moderne computers. Dit werk vestigde de beginselen waarop de huidige computers zijn gebaseerd. Zijn voornaamste interessegebied was echter de speltheorie: de studie van het conflict tussen twee tegenstanders die twee verschillende doelen willen bereiken, waarbij de een de ander wil verslaan.
Een van von Neumanns belangrijkste prestaties was zijn rigoureuze wiskundige formulering van de kwantummechanica in termen van lineaire operatoren op Hilbertruimten. Hij verschafte een rigoureus fundament voor de statistische kwantummechanica en stelde een bewijs voor van de onmogelijkheid van verborgen variabelen, waaruit bleek dat de kwantummechanica diepgaand verschilde van alle voorheen bekende theorieën in de natuurkunde.
Er wordt hem ook minstens één bijdrage aan de studie van algoritmen toegeschreven. Donald Knuth noemt von Neumann de uitvinder, in 1945, van het bekende merge sort algoritme, waarbij de eerste en tweede helft van een array recursief worden gesorteerd en vervolgens worden samengevoegd. Hij hield zich ook bezig met het onderzoeken van problemen op het gebied van de numerieke hydrodynamica.
In 1955 benoemde president Eisenhower von Neumann tot lid van de Commissie voor Atoomenergie, en in 1956 ontving hij de Enrico Fermi Award. Hij stierf aan kanker op 8 februari 1957, in Washington, D.C.