Egzistencinė rizika yra tokia didelė nelaimė, kad ji arba nušluoja visą žmoniją, arba visam laikui mus suluošina. Tai gali būti stichinės nelaimės arba žmogaus sukeltos tyčinės ar atsitiktinės nelaimės. Egzistencinė rizika gali egzistuoti jau seniai arba tik kelis dešimtmečius, o gal ji slypi mūsų ateityje. Egzistencinės rizikos pavyzdžiai yra dideli asteroidų smūgiai, branduolinis karas ir nesąžiningas dirbtinis intelektas.
Egzistencinės rizikos sąvoką pirmą kartą dabartine forma suformulavo Oksfordo filosofas daktaras Nickas Bostromas. Egzistencinei rizikai paaiškinti jis naudoja rizikos diagramą, panašią į toliau pateiktą:
Rizikos mastasPasaulinis El Ninjo miškų sodinimo egzistencinė rizikaVietinė perkūnijameekonominis nuosmukis uraganas Asmeninis popierius įtemptas kulkšnis esate nušautas Rizikos intensyvumas NereikšmingasValdomasTerminalas
Egzistencinė rizika yra pasaulinė ir galutinė, o gal ir beveik galutinė. Egzistencinės rizikos pavyzdys yra itin užkrečiamas virusas, kurio mirtingumas yra 99.9%, nuo kurio niekas nėra apsaugotas.
Bostromas atkreipia dėmesį į tai, kad mūsų protas ir institucijos yra nepakankamai pasirengę mąstyti apie egzistencinę riziką, nes niekada anksčiau to nepatyrėme – jei būtume, nebūtume čia, kad apie jas galvotume. Kaip vaikas, kuris nežino, kad viryklė karšta, kol jos nepaliečia, mes turime mažai patirties su tokio lygio katastrofomis. Viduramžių Europos buboninis maras ir Pirmojo pasaulinio karo ispaniškasis gripas leidžia pajusti, kokia būtų egzistencinė nelaimė. Dešimtys milijonų sveikų žmonių mirė nuo abiejų ligų per kelias valandas.
Savo kanoniniame dokumente šia tema Bostromas išvardija apie tuziną egzistencinių pavojų ir suskirsto jas į kategorijas pagal jų sunkumą ir atkuriamumą. Kai kurie iš labiausiai tikėtinų yra išvardyti čia:
genetiškai modifikuoti virusai
nanotechnologijų ginklavimosi varžybos
katastrofiškas branduolinis karas
nekontroliuojama savaime atkartojanti robotika
superinteligentiškas dirbtinis intelektas, neabejingas žmonėms
fizikos nelaimė dalelių greitintuve
supervulkano sprogimas užstoja saulę
Dėl didelio egzistencinės rizikos sunkumo ir negrįžtamumo verta apgalvoti ir įgyvendinti galimas atsakomąsias priemones. Net jei tikimybė, kad tam tikra egzistencinė grėsmė taps realybe, yra maža, dėl didžiulių sumų reikia rimtos vengimo programos. Žmogaus sukeltų grėsmių atveju atsakomosios priemonės apima sudėtingas stebėjimo ir įspėjimo sistemas ir tam tikrų technologijų reguliavimą, siekiant užtikrinti, kad jos nebūtų naudojamos masiniam naikinimui. Į šalis, įtariamas turinčias masinio naikinimo ginklus, kartais užpuola kitos šalys, nerimaujančios dėl ilgalaikių pasekmių, kaip vaizdžiai rodo Irako karas.