Η Νόβαγια Ζέμλια αποτελείται από δύο μεγάλα νησιά, το Σέβερνι στα βόρεια και το Γιούζνι στα νότια, καθώς και από πολλά μικρότερα. Τα δύο αυτά νησιά χωρίζονται από το Στενό Ματόχκιν. Η Νόβαγια Ζέμλια χωρίζει τη Θάλασσα Μπάρεντς από τη Θάλασσα Κάρα. Η συνολική έκταση του αρχιπελάγους είναι 90.650 km2.
Η Νόβαγια Ζέμλιγια ήταν γνωστή από τους Ρώσους από τον 11ο αιώνα, όταν κυνηγοί από το Νόβγκοροντ επισκέφθηκαν την περιοχή. Η περιοχή εξερευνήθηκε από εξερευνητές κατά τον 16ο αιώνα στην προσπάθειά τους για την αναζήτηση του Βορειοανατολικού περάσματος.
Ο πρώτος ευρωπαίος εξερευνητής που επισκέφθηκε την περιοχή ήταν ο Χιου Ουΐλοουμπι το 1553, που συνάντησε ρωσικά πλοία που προορίζονταν για το κυνήγι. Το 1594, ο Γουλιέλμος Μπάρεντς έφτασε στη δυτική ακτή της Νόβαγια Ζέμλια (Ο Μπάρεντς χάθηκε κατά τη διάρκεια του ταξιδιού και έχει πιθανότατα ταφεί στο βόρειο τμήμα της Νόβαγια Ζέμλια). Κατά τη διάρκεια ταξιδιού του Φίοντορ Λίτκε την περίοδο 1821-1824, η δυτική ακτή χαρτογραφήθηκε.