Rondelet nació en Montpellier (Francia). Estudió Humanidades en París y posteriormente se graduó en medicina en su ciudad natal, doctorándose en 1537. Fue médico personal del cardenal Tournon, al que acompañó en diferentes viajes por los Países Bajos e Italia, donde conoció y entabló amistad con Ulisse Aldrovandi. En 1545 comienza a dar clases de medicina en la Universidad de Montpellier, de la cual fue rector en 1556. Rondelet siempre mostró un especial interés por la anatomía, realizando demostraciones de disecciones de cadáveres en el anfiteatro anatómico de Montpellier. Estas demostraciones, así como sus clases en la universidad, dejaron una profunda huella entre sus discípulos, entre los cuales se encuentran médicos y botánicos que destacaron en sus respectivas disciplinas durante el siglo XVI (Charles L'Ecluse, Pierre Richer de Belleval, Johann y Garpard Bauhin, Conrad Gessner, Jacques Daléchamps o Matthias de l'Obel, entre otros).

Rondelet siempre apeló por la observación directa y la disección como metodología de trabajo. Además integró sus amplios conocimientos de botánica para estudiar las funciones curativas de ciertas plantas y los distintos remedios medicinales elaborados con ellas. Sin embargo, sus principales intereses giraban en torno a los peces y otros organismos marinos, estudiando su anatomía con sumo detalle. Rondelet compila sus observaciones zoológicas en su obra más destacada, De Piscibus Marinis, publicada en Lyon entre 1554 y 1555 en folio estrecho. En ella se describen y figuran 244 especies de peces, mamíferos e invertebrados marinos. Sus excelentes xilografías permiten identificar perfectamente cada especie representada, ya que están concebidas para ser imágenes de referencia y no artísticas. Este trabajo fue una referencia fundamental sobre la vida marina del Mediterráneo durante más de un siglo, dejando de lado las leyendas y siendo muy crítico con las fabulaciones tan propias de la época (aunque todavía se incluyen algunas criaturas apócrifas, como el pez obispo o el pez monje). En 1558 se publicará la edición francesa (L'histoire entière des poissons). Rondelet murió el 30 de julio de 1566 de disentería a la edad de 59 años.