John von Neumann blev født som Janos Lajos Margittai Neumann den 28. december 1903 i Budapest, Ungarn. Han voksede op i en ikke-praktiserende jødisk familie, men havde en utrolig hukommelse i en tidlig alder, idet han var i stand til at dividere ottecifrede tal i sit hoved i en alder af seks år. Han kom ind på det lutherske gymnasium i 1911; i 1913 købte hans far en titel, og familien fik det østrigske adelsmærke “von.”
Von Neumann fik sin ph.d. i matematik fra universitetet i Budapest i en alder af 23. Han lærte samtidig kemi i Schweiz. Mellem 1926 og 1930 var han privatlærer i Berlin, Tyskland. I 1930, samme år som han giftede sig med Mariette Koevesi og indvilligede i at konvertere til katolicismen for at formilde hendes familie, inviterede Princeton University ham til at holde foredrag om matematisk fysik. Mens han var på Princeton, bad grundlæggerne af det nyoprettede Institute for Advanced Study ham om at acceptere en stol i matematik. Dr. von Neumann blev et af de oprindelige medlemmer af det prestigefyldte institut, hvor han forblev resten af sit liv.
I 1937, samme år som von Neumann blev skilt fra sin første kone, blev han naturaliseret statsborger i USA. I 1938 giftede han sig med Klara Dan, og han blev tildelt Bocher Memorial Prize for sit arbejde inden for analyse.
I 1943 begyndte von Neumann at arbejde på Manhattan-projektet, hvor han tog fat på de enorme beregninger, der var nødvendige for at konstruere en atombombe. Stillet over for denne skræmmende opgave blev han interesseret i at bruge maskiner til beregning af tal og løsning af specifikke matematiske problemer. Under og efter krigen voksede hans interesse for computere, og han bidrog i vid udstrækning til konstruktionen af de første moderne computere. Dette arbejde etablerede de principper, som nutidens computere er baseret på. Hans primære interesseområde var dog centreret om spilteori: studiet af konflikten mellem to modstandere, der forsøger at nå to forskellige mål, og som hver især ønsker at slå den anden.
Et af von Neumanns signaturresultater var hans stringente matematiske formulering af kvantemekanikken i form af lineære operatører på Hilbert-rum. Han skabte et stringent grundlag for den statistiske kvantemekanik og fremlagde et bevis for umuligheden af skjulte variabler, hvilket viste, at kvantemekanikken var dybt forskellig fra alle tidligere kendte teorier inden for fysikken.
Han er også krediteret for mindst ét bidrag til studiet af algoritmer. Donald Knuth nævner von Neumann som opfinder i 1945 af den velkendte merge sort-algoritme, hvor første og anden halvdel af et array sorteres hver især rekursivt og derefter slås sammen. Han beskæftigede sig også med udforskning af problemer inden for numerisk hydrodynamik.
I 1955 udnævnte præsident Eisenhower von Neumann til medlem af Atomenergikommissionen, og i 1956 modtog han dens Enrico Fermi-pris. Han døde af kræft den 8. februar 1957 i Washington, D.C.