Nieuhof nació en Uelsen, ciudad fronteriza entre Holanda y Alemania. Poco se sabe de su infancia, hasta que entra como funcionario en reserva en la Compañía Holandesa de las Indias Occidentales en 1640. Viaja entonces como sobrecargo a Brasil, donde realiza distintas exploraciones hasta consumarse la victoria portuguesa en 1649 con la insurrección de Pernambuco. Nieuhof regresa a Europa y pasa a formar parte de la Compañía Holandesa de las Indias Orientales.
Al servicio de ésta pasa los siguientes años en la ciudad indonesia de Yakarta (conocida como Batavia), hasta que en 1654 es nombrado administrador de la embajada en China. El objetivo era negociar con el emperador chino para conseguir ampliar las rutas y abrir los puertos a Holanda para facilitar el intercambio comercial, ya que en ese momento el monopolio lo tenía Portugal. Los portugueses habían recibido el permiso de instalarse en Macao en 1553 en pago a la ayuda que prestaron al emperador ante los ataques de piratas holandeses. Los jesuitas (con Mateo Ricci a la cabeza) se habían establecido en Pekín y enviaban noticias a Europa, manteniendo viva la imagen de riqueza y poder de la China imperial. En 1656 la embajada viaja a la corte del emperador en Pekín en misión diplomática, recorriendo más de 2.500 Km de distancia, pero fracasa en la obtención de los derechos comerciales. Sin embargo, Nieuhof realiza durante el viaje multitud de dibujos de ciudades y pueblos, paisajes, palacios, templos, gentes y costumbres, así como la flora y la fauna de China.
Nieuhof regresa a Holanda y publica Het Gezandtschap der Neêrlandtsche Oost-Indische Compagnie... (Ámsterdan, 1665), en donde ofrecía la visión sobre China que había tenido durante su viaje como embajador de la Compañía, con descripciones detalladas de los diferentes lugares visitados. Dado el interés que despierta, pronto aparecen traducciones al francés (1665), alemán (1666), latín (1668) e inglés (1669), ya que la información sobre China en el mundo occidental era extremadamente escasa, mientras el interés comercial aumentaba incesablemente. La obra se ilustraba con más de 150 grabados al cobre basados en los dibujos de Nieuhof, que mostraban con fidelidad los paisajes de China por primera vez en Europa, sus gentes y palacios, ciudades, animales y plantas. Estas ilustraciones calcográficas sirvieron de modelo inspirativo para la Chinoiserie o estilo chinesco, muy popular a finales del siglo XVII y durante el XVIII.
Tras pasar por los Países Bajos es de nuevo enviado como embajador a Kollam, en la costa suroccidental de India. Visita Ambon, Malaca, Sumatra, Comron y Nagapattinam. Después es enviado a Ceilán (Sri Lanka), donde vive hasta 1667. Nieuhof es entonces encarcelado por comerciar ilegalmente con perlas y despedido de la Compañía de las Indias Orientales. Van Rheede, comandante de la compañía y naturalista, le envía de nuevo a Yakarta. En 1671 regresa a su tierra natal, y de vuelta a las indias se detiene en Madagascar en octubre de 1672 para comerciar con las tribus locales y obtener agua potable para la tripulación. Tras adentrarse en la isla se pierde su rastro y no regresará jamás.
En 1682 se publican en Ámsterdam (supuestamente a título póstumo ya que el cadáver de Nieuhof nunca apareció)Gedenkwaerdige zee en lantreize door de voornaemste landschappen van West en Oostindien, dos grandes volúmenes en los que se describen los viajes de Johan Nieuhof a Brasil y las Indias Occidentales (primera parte), y a las Indias Orientales (segunda parte), incluyendo aspectos sobre topografía, etnografía e historia natural. Incluye además una pequeña parte final sobre sus viajes por África. La obra se ilustra con 31 grabados al cobre a doble página en los que se representan mapas y vistas de ciudades, peces y vegetación brasileña, 18 a plena página y 32 grabados más intercalados en el texto con animales, tribus locales, costumbres, etc. Esta obra fue traducida al inglés y publicada en Londres en 1703 (Voyages and travels, into Brasil, and the East-Indies).
Los libros de Johan Nieuhof constituyen el testimonio gráfico más importante sobre Brasil, China y el sureste asiático del siglo XVII, tanto por la maestría en la ejecución como por la riqueza de detalles de sus grabados.