Het Nieuwe Kerkhof werd aangelegd tijdens de grote stadsuitbreiding in de eerste helft van de 17e eeuw. Het ligt aan de noordkant van het stadscentrum op een uitloper van de Hondsrug. Op deze plek stond al een kapel met een begraafplaats. Vanwege een aantal pestepidemieën tussen 1624 en 1637 moest de begraafplaats versneld in gebruik worden genomen. De bouw van de Nieuwe Kerk volgde later, in 1664.
De Nieuwe Kerk is een kleinere kopie van de Noorderkerk in Amsterdam en is in renaissancestijl gebouwd. De kerk staat midden op het kerkhof en heeft de vorm van een Grieks kruis met vier even lange armen. Over het kerkhof lopen vier paden. Aan het begin van de 19e eeuw werden aan weerszijden van de voetpaden bomen geplant. Aanvankelijk waren dit lindebomen, maar sinds 1929 staan er esdoorns, waarvan de hoogste ruim 30 meter hoog is. Aan de zuid- en westzijde van de kerk staan 32 groene beuken op het gazon die voor veel schaduw zorgen. Vogels, korstmossen, schimmels en andere organismen vinden hier voedsel en kunnen in de bomen schuilen en nestelen. Insecten leven in het dode hout van de bomen en trekken insectenetende vogels aan. Het Nieuwe Kerkhof is ook aantrekkelijk voor kleine zoogdieren, zoals de steenmarter.
Het kerkhof is omkaderd met een lage muur, een restant van de hoge muur die in de tijd van de pestepidemieën was aangebracht als grondwaterkering. De muur hield het vocht van de begraafplaats tegen, zodat het drinkwater van de omliggende waterputten minder snel vervuild raakte. Maar de hygiënische omstandigheden rond de kerk bleven slecht. Na de ‘rode loop’ epidemie (een vorm van dysenterie) in 1810 bekritiseerde de geneeskundige commissie het grote aantal teraardebestellingen bij de Nieuwe Kerk. Ook tijdens de malaria-epidemie van 1826 werd zestig procent van alle Groninger overledenen hier begraven. Opnieuw klaagden omwonenden over vervuild putwater. Vanaf 1827 werden er geen doden meer op het Nieuwe Kerkhof begraven. In de tweede helft van de 19e eeuw werd het kerkhof geschoond en de grafstenen geruimd.
Ruim zesduizend doden waren op het kerkhof in rijen boven elkaar begraven. Eén op de tien doden had een eigen steen. De beste plaatsen waren dicht bij de kerk. Mennonieten lagen aan de zuidzijde van het kerkhof, armen en minder bedeelden kwamen aan de oostkant terecht. De allerarmsten belandden aan de noordzijde, zo ver mogelijk van de rijke burgers aan de Ossenmarkt. Door het lange en veelvuldige gebruik van het kerkhof is het maaiveld hoger gelegen dan de omgeving. Het lage muurtje rond het kerkhof is nog altijd nat. Het cement van de stenen heeft nog de oude samenstelling en biedt zo een goede voedingsbodem voor muurvarens en unieke mossen en korstmossen.