John von Neumann urodził się jako Janos Lajos Margittai Neumann 28 grudnia 1903 roku w Budapeszcie, na Węgrzech. Wychowany w niepraktykującej rodzinie żydowskiej, już w młodym wieku posiadał niesamowitą pamięć – w wieku sześciu lat potrafił dzielić w głowie ośmiocyfrowe liczby. Wstąpił do gimnazjum luterańskiego w 1911 r.; w 1913 r. jego ojciec nabył tytuł, a rodzina uzyskała austriacki znak szlachecki „von.”
Von Neumann uzyskał tytuł doktora matematyki na Uniwersytecie w Budapeszcie w wieku 23 lat. Jednocześnie uczył się chemii w Szwajcarii. W latach 1926-1930 był prywatnym wykładowcą w Berlinie, w Niemczech. W 1930 r., w tym samym roku, w którym ożenił się z Mariette Koevesi i zgodził się przejść na katolicyzm, aby udobruchać jej rodzinę, Uniwersytet Princeton zaprosił go na wykłady z fizyki matematycznej. Podczas pobytu w Princeton, założyciele nowo powstałego Institute for Advanced Study poprosili go o przyjęcie katedry matematyki. Dr von Neumann został jednym z oryginalnych członków prestiżowego instytutu, gdzie pozostał do końca życia.
W 1937 roku, w tym samym roku, w którym von Neumann rozwiódł się ze swoją pierwszą żoną, został naturalizowanym obywatelem USA. W 1938 roku ożenił się z Klarą Dan i otrzymał nagrodę Bocher Memorial Prize za swoją pracę w dziedzinie analizy.
W 1943 roku von Neumann rozpoczął pracę nad Projektem Manhattan, gdzie zajął się ogromnymi obliczeniami wymaganymi do skonstruowania bomby atomowej. Stojąc w obliczu tego zniechęcającego zadania, zainteresował się wykorzystaniem maszyn do obliczania liczb i rozwiązywania konkretnych problemów matematycznych. W czasie wojny i po jej zakończeniu jego zainteresowanie komputerami rosło, a on sam miał duży wkład w budowę pierwszych nowoczesnych komputerów. Praca ta stworzyła zasady, na których opierają się dzisiejsze komputery. Jego głównym obszarem zainteresowań była jednak teoria gier: badanie konfliktu między dwoma przeciwnikami dążącymi do osiągnięcia dwóch różnych celów, z których każdy chce pokonać drugiego.
Jednym z charakterystycznych osiągnięć von Neumanna było jego rygorystyczne matematyczne sformułowanie mechaniki kwantowej w kategoriach operatorów liniowych na przestrzeniach Hilberta. Dostarczył on rygorystycznych podstaw dla kwantowej mechaniki statystycznej i zaproponował dowód na niemożliwość istnienia ukrytych zmiennych, pokazując, że mechanika kwantowa jest głęboko odmienna od wszystkich wcześniej znanych teorii w fizyce.
Jemu również przypisuje się co najmniej jeden wkład w badanie algorytmów. Donald Knuth cytuje von Neumanna jako wynalazcę, w 1945 roku, dobrze znanego algorytmu merge sort, w którym pierwsza i druga połowa tablicy są sortowane rekurencyjnie, a następnie łączone razem. Zaangażował się również w badanie problemów w dziedzinie hydrodynamiki numerycznej.
W 1955 roku prezydent Eisenhower powołał von Neumanna do Komisji Energii Atomowej, a w 1956 roku otrzymał jej nagrodę im. Enrico Fermiego. Zmarł na raka 8 lutego 1957 roku w Waszyngtonie.