Tämä puisto, joka sijaitsee Cross Island Parkwayn varrella Totten Avenuen varrella Totten ja 15th Roadsin välissä Queensin Bay Terrace -nimisessä kaupunginosassa, on saanut nimensä modernisoidun sisällissodan aikaisen linnoituksen mukaan, jossa se sijaitsee.
Alun perin Matinecock-intiaanien asuttama Baysiden kaupunginosa asutettiin ensimmäisen kerran Amerikan vallankumouksen aikana. Paikka nimettiin aluksi Willets Pointiksi, mutta myöhemmin se nimettiin uudelleen kenraali Joseph Tottenin (1788-1864) mukaan, joka kuoli Washingtonissa vuonna 1864. Kapteeni Robert E. Lee laati suunnitelmat vuonna 1857, ja linnoituksen rakentaminen alkoi vuonna 1862. Totten rakennettiin East Riverin vastakkaiselle puolelle Fort Schuyleristä, ja sen tehtävänä oli alun perin puolustaa New Yorkin sataman itäistä lähestymistapaa. Pian sen valmistumisen jälkeen, kun taistelukenttäinsinöörit ja etelän sisällissodassa taistelleet komentajat kehittyivät nopeasti linnoitussuunnittelussa, Fort Tottenin asema puolustusrakenteena kävi kuitenkin tarpeettomaksi, ja sen tilat siirrettiin haavoittuneiden tukemiseen ja sairaalahoitoon (1864-1965).
Sodan jälkeen linnakkeessa toimi insinöörien sovelluskoulu (1865-1901), itäisen tykistöpiirin esikunta (n.1901), Electric Mines and Army School of Submarine Defense (1921), ilmatorjunnan prototyyppilaitteisto (1922), ilmatorjuntatykistön esikunta (1941-1944), ilmakuljetuskomennuskunnan Pohjois-Atlantin siipi (1944), New Yorkin ja New Jerseyn osa-alueen komentokeskuksen esikunta (1949), Niken ballististen ohjusten torjuntajärjestelmän ensimmäinen alue ARADCOM (1954), ja viimeisimpänä se on toiminut U.S.A.
Lähes kaksi vuosikymmentä kestäneen yhteisön lobbausponnistelujen jälkeen uuden Baysiden alueen puiston rakentamiseksi New Yorkin kaupunki ja puistot hyväksyivät vuonna 1987 Yhdysvaltain puolustusministeriön lahjoittaman kymmenen hehtaarin suuruisen ylijäämäisen Fort Tottenin maa-alueen. Vaikka muut alueet olivat tuolloin vielä armeijaministeriön ja rannikkovartioston käytössä, kaupungin lahjoittama maa sisälsi historiallisen linnakkeen, 1800-luvun tykistöpatterin ja nurmikkoisen, puiden reunustaman alueen, jossa oli pitkiä, mutkittelevia kävelyreittejä. 1980-luvulta lähtien Fort Tottenin tiloja ovat käyttäneet New Yorkin palokunta, St. John’s University, Bayside Historical, ja sitä on käytetty myös Queens Theater in the Park -teatterina.
Vuonna 2001 Parks varmisti suuren osan entisen liittovaltion sotilastukikohdan 93 hehtaarin alueesta puistoalueiden kehittämistä varten. Loput hehtaarista ovat edelleen Yhdysvaltain armeijan ja rannikkovartioston käytössä. Kesäkuussa 2001 esitettiin suunnitelmia ravintolan, välipalabaarin, kävelykadun, uima-altaan, jalkapallokenttien, oleskelu- ja kävelyalueiden, rantapromenadin ja ylimääräisten vierailijoiden pysäköintialueiden rakentamiseksi. Fort Totten Parkissa on myös ”Greenway”, puistoalue, joka on tarkoitettu yksinomaan pyöräilijöille ja jalankulkijoille.