El primer asentamiento más o menos permanente en la actual New Madrid fue establecido por bandas de Shawnee, Delaware, Creek y Cherokee que se convirtieron en refugiados debido a la Guerra de la Independencia de Estados Unidos. Estas bandas de nativos americanos refugiados aceptaron las ofertas españolas para establecerse en la orilla oeste del río Misisipi a principios de la década de 1780. Estos grupos mixtos de nativos americanos establecieron un asentamiento y un puesto de comercio informal donde una curva de herradura del Mississippi hacia el norte se encontraba con el arroyo Chepusa, lo que proporcionaba un lugar fácil para el desembarco de barcos. Los cazadores nativos y los comerciantes europeos-estadounidenses convirtieron el asentamiento en un lugar para procesar la recompensa de las cacerías, incluida la valiosa pero sucia grasa de los osos y los búfalos, que se utilizaba para preparar pieles y cueros. El asentamiento adquirió rápidamente el nombre de L’Anse a la Graise – «Cala de grasa» o «Cala grasienta».
Los americanos europeos rebautizaron el asentamiento con el nombre de Nuevo Madrid hacia 1780 bajo los auspicios del gobernador español Bernardo de Gálvez, designado para gobernar la Luisiana española (la tierra al oeste del río Misisipi), y de Manuel Pérez, teniente de gobernador de la Alta Luisiana en San Luis. Acogieron a los colonos de Estados Unidos, pero les exigieron que se hicieran ciudadanos de España. Además, tenían que aceptar vivir bajo la dirección de su empresario designado, el coronel George Morgan, un veterano de la Guerra de la Independencia estadounidense procedente de Nueva Jersey. Morgan reclutó a varias familias estadounidenses para que se establecieran en Nuevo Madrid, atrayendo a unos cientos de personas a la región. Los asentamientos en la década de 1790 y principios de 1800 se mantuvieron relativamente bajos debido a la geografía física de Nuevo Madrid y sus alrededores. El Mississippi arrasó con frecuencia las riberas de la ciudad, y un fuerte español fue arrasado. Rodeada de tierras bajas y pantanosas, Nueva Madrid desarrolló una bien ganada reputación de enfermedades, especialmente en el verano y el otoño. Los censos españoles realizados a finales de la década de 1790 registraron unos 800 residentes en el pueblo de Nuevo Madrid. New Madrid siguió funcionando como lugar de intercambio entre los nativos americanos del valle del río St. Francis y los comerciantes americanos europeos que operaban desde New Madrid.
En 1800, España negoció la devolución del territorio a Francia en el Tercer Tratado de San Ildefonso. Después de intentar recuperar el control de Saint-Domingue (la actual Haití), donde había una rebelión de esclavos, Napoleón renunció a sus colonias norteamericanas y aceptó vender este territorio a Estados Unidos en 1803 como parte de la Compra de Luisiana.
La zona es conocida por haber sido escenario de una serie de más de 1.000 terremotos en 1811 y 1812, de una magnitud aproximada de 8, el terremoto más potente jamás registrado en Estados Unidos en una zona que no sea de subducción. Nueva Madrid se encuentra lejos de cualquier límite de placas, pero está en la zona sísmica de Nueva Madrid. El gran terremoto se sintió en lugares tan lejanos como la Costa Este.
Durante la Guerra de Secesión, la Batalla de la Isla Número Diez tuvo lugar en el río Misisipi, cerca de Nuevo Madrid.
En el período anterior a la guerra, esta fértil zona de llanura aluvial se desarrolló para las plantaciones de algodón, basadas en el trabajo de los afroamericanos esclavizados. Éstos se emanciparon después de la Guerra Civil y trabajaron para hacer una nueva vida. Cuando los blancos lucharon por restablecer su dominio tras la era de la Reconstrucción, intimidaron y atacaron a los negros bajo la apariencia de las leyes Jim Crow, trabajando para suprimir el voto y controlar sus actividades. Está documentado que tres hombres afroamericanos fueron linchados por los blancos en New Madrid, la sede del condado, cerca del cambio de siglo: Un negro desconocido, el 29 de noviembre de 1898; Louis Wright, un músico de un espectáculo de trovadores acusado de altercados con los blancos, ahorcado el 17 de febrero de 1902; y un negro desconocido, el 30 de mayo de 1910.
A principios del siglo XX, se estaba desarrollando cierta industria en New Madrid, que contaba con dos aserraderos, una fábrica de molienda, una fábrica de duelas y cabezales, y una desmotadora de algodón. Se consideraba una ciudad rústica. Había cuatro iglesias protestantes, dos con congregaciones afroamericanas independientes, y una iglesia católica. En 1900, 1.489 personas vivían en New Madrid; en 1910, la población era de 1.882.