Šaltojo karo branduolinių ginklų istorija siekia Antrąjį pasaulinį karą, kai JAV numetė dvi branduolines bombas ant Japonijos. Nors tai buvo vienintelės dvi branduolinės bombos, naudotos aktyvaus karo metu, jų panaudojimas sukėlė branduolinio ginklavimosi varžybas, kurios truko daugiau nei pusę amžiaus. Šaltojo karo branduolinių ginklų lenktynės pirmiausia buvo JAV ir Sovietų Sąjungos varžybos, nors tuo metu kitos šalys sukūrė branduolinius ginklus.
Po Antrojo pasaulinio karo užvirė kova dėl pasaulio valdžios ir JAV bei Sovietų Sąjunga ėmėsi lyderių. Tuo metu JAV manė, kad turi branduolinių ginklų monopolį ir prieigą prie vienintelių urano atsargų, reikalingų branduoliniams ginklams gaminti. Netrukus pasaulis sužinojo, kad urano nėra taip mažai, kaip manė amerikiečiai, ir netrukus Sovietų Sąjunga pradėjo kurti savo Šaltojo karo branduolinius ginklus. Pirmąjį branduolinį ginklą jie pagamino anksčiau, nei prognozavo JAV, o tai pasaulį sukrėtė. Kadangi Jungtinės Valstijos buvo atsargios sovietų net per Antrąjį pasaulinį karą, kai šalys buvo sąjungininkės, šis įvykis sukėlė daug baimės Jungtinėse Valstijose, dar labiau pakurstydamas šaltąjį karą ir raudonąjį baimę JAV.
Pirmieji Sovietų Sąjungos Šaltojo karo branduoliniai ginklai buvo beveik identiškos bombos, pavadintos „Fat Man“, kuri buvo amerikiečių branduolinė bomba, numesta ant Nagasakio, kopijos. Po šio vystymosi abi šalys sustiprino branduolinių ginklų gamybą, suprasdamos, kad branduolinės ginkluotės ateitis yra raketose, o ne bombose. Raketos turėjo ilgalaikį poveikį, o kai rusai paleido Sputnik, demonstruodami savo technologinę pažangą, prasidėjo kosminės lenktynės ir JAV pripažino, kad Rusija pirmauja kurdama branduolines raketas.
Tačiau abi šalys, sukūrusios Šaltojo karo branduolinius ginklus, taip pat sukūrė „antrojo smūgio“ sistemas, o tai iš esmės reiškė, kad net jei viena pusė būtų užpulta ir daugiausia sunaikinta, ji vis tiek galėtų pradėti puolimą ir sunaikinti savo priešą. Todėl ir JAV, ir sovietai žinojo, kad jei pradės puolimą, tai reikštų sugriovimą abiem pusėms.
Kadangi vis daugiau šalių, tokių kaip Prancūzija, JK ir Kinija, pradėjo kurti savo Šaltojo karo branduolinių ginklų atsargas, buvo pradėtos formuoti sutartys, skirtos sulėtinti arba sustabdyti branduolinių ginklų platinimą. Nors daugelis šių sutarčių buvo neveiksmingos, Jungtinėms Valstijoms trūko pasitikėjimo savo ginklais ir jos troško sulėtinti ginklų platinimo tempą visame pasaulyje. Sovietų Sąjunga patyrė ekonominių problemų, dėl kurių sulėtėjo branduolinio ginklo platinimas. Kai Ronaldas Reiganas pradėjo eiti pareigas Jungtinėse Valstijose, Šaltasis karas artėjo į pabaigą, o sutarčių ir susitarimų sankaupa sulėtino branduolinę plėtrą. Tačiau pastaraisiais dešimtmečiais kitos šalys pradėjo kurti savo branduolinius ginklus, iš naujo pažadindamos branduolinio karo ir jo ekonominių bei humanitarinių padarinių problemą.