Bibliotēka tika izveidota 1987.gadā, kad LPSR Ministru padome izdeva rīkojumu par līdzekļu piešķiršanu Valsts arhīvu speciālās bibliotēkas izveidošanai. Bibliotēkas krājums tika veidots, apvienojot valsts arhīvu sistēmas iestāžu bibliotēku krājumus. 1991.gadā, pēc Latvijas Komunistiskās partijas likvidācijas, Valsts arhīvu speciālajai bibliotēkai tika pievienota bijušā Partijas vēstures institūta bibliotēka.
Bibliotēkas krājumu veido zinātniskā literatūra, periodiskie izdevumi un metodiskie materiāli par arhīvniecības tēmām, tai skaitā ārvalstīs izdotie speciālie arhīvniecības žurnāli un grāmatas, dažādu valstu arhīvu ceļveži, rokasgrāmatas, tematiskie fondu rādītāji, kā arī Latvijas Republikas laika (1918-1940) grāmatas un periodiskie izdevumi, uzziņu izdevumi (enciklopēdijas, adrešu grāmatas, kalendāri, statistikas izdevumi, biogrāfijas, ģenealoģiskie materiāli u.c.), literatūra par Baltijas un Eiropas vēsturi, skrejlapu fonds (1905-1946) un literatūra dokumentu pārvaldībā.
Bibliotēka regulāri komplektē arhīvniecības un Latvijas vēstures tēmām veltītu literatūru un periodiskos izdevumus, kā arī saņem grāmatu dāvinājumus no dažādām institūcijām un privātpersonām. Daudzi dāvinājumi tiek saņemti arī no trimdas organizācijām. Savas grāmatas dāvina arī to autori – bibliotēkas lasītāji, kā arī citu valstu arhīvi.
Latvijas Nacionālā arhīva bibliotēkas krājuma senākā un vērtīgākā daļa ir Vidzemes bruņniecības bibliotēka, ko 1853. gadā izveidojuši Sv. Pētera baznīcas virsmācītājs dr. Liborius Bergmanis un Sv. Jāņa baznīcas virsmācītājs Hermanis Treijs. No 1919. līdz 1987. gadam tā glabājās tagadējā LNA Latvijas valsts vēstures arhīvā. Šajā kolekcijā ir izdevumi par Baltijas vēsturi dažādās jomās, 16. - 18. gs. izdevumu krājums (vairāk kā 2000 eksemplāru), kurā atrodami 16. gs. publicētie M. Lutera darbi, Rīgas pilsētas tipogrāfa Gerharda Šrēdera izdotās grāmatas, dažādas senas 16. gs. grāmatas latīņu valodā.
Latvijas Nacionālā arhīva bibliotēka ir pieejama jebkuram interesentam. Kopš 1993. gada bibliotēkā tiek veidots elektroniskais katalogs, kas ir pieejams internetā.