Maža operacinė sistema yra ta, kuri sudaryta iš palyginti nedidelio pagrindinio kodo kiekio. Todėl paprastai jam reikia mažiau išteklių iš įrenginio, kuriame jis veikia.
Kaip labai apibendrinta taisyklė, dauguma sistemų, apibūdinamų kaip maža operacinė sistema, yra pagrįstos Linux branduoliu. Branduolys iš tikrųjų yra kompiuterio smegenys ir tiksliai nusprendžia, ką jis turėtų daryti bet kuriuo konkrečiu momentu. „Linux“ paprastai naudojama atvirojo kodo sistemose, kurios labai skiriasi ir kai kurios yra mažesnės nei kitos. „Microsoft Windows“ ir „Apple“ OSX paprastai laikomos labai didelėmis operacinėmis sistemomis.
Kadangi mažos operacinės sistemos idėja yra lyginamoji, o ne absoliuti, yra „Windows“ leidimų, kuriuos galima apibūdinti kaip mažus. Geriausiai žinomas iš jų yra Windows CE, sukurta labai žemos specifikacijos kompiuteriams ir atskiriems įrenginiams. Naudojant pastarąjį, sistema paprastai įmontuojama tiesiai į patį įrenginį. Kai kuriuose įrenginiuose, kuriuose veikia „Windows CE“, yra interaktyvūs informacijos ekranai ir kai kurių oro linijų pramogų sistemos su sėdynių atlošais.
Pagrindinis mažos operacinės sistemos privalumas yra tas, kad ji gali veikti žemos specifikacijos kompiuteryje ir paprastai nereikalauja tokio greito kompiuterio ar tiek atminties kaip didesnėms sistemoms. Tai palieka daugiau išteklių programoms paleisti. Tai taip pat leidžia ilgiau naudoti senesnius kompiuterius, kol jie nebus laikomi pasenusiais.
Kitas privalumas yra tai, kad mažoje operacinėje sistemoje yra mažiau klaidų. Tačiau tai taikoma tik absoliučiais dydžiais. Blogai parašyta maža operacinė sistema greičiausiai sukels tiek pat problemų ar daugiau nei gerai parašyta didelė.
Kai kurios operacinės sistemos yra tokios mažos, kad jas galima laikyti nešiojamajame įrenginyje ir netgi paleisti iš jo. Tai gali būti USB atmintinė. Tai reiškia, kad operacinę sistemą galima akimirksniu paleisti kompiuteryje, jos nereikia įdiegti. Tai gali būti ypač naudinga dirbant su kompiuteriu, kuriame įdiegta sistema buvo sugadinta.
Mažos operacinės sistemos trūkumai priklauso nuo to, kodėl ji maža. Pavyzdžiui, ji gali būti vykdoma tik komandinėje eilutėje, o tai reiškia, kad informacija įvedama ir rodoma tik teksto forma, o ne grafiškai, o tai daugeliui vartotojų gali pakenkti. Nedidelė sistema taip pat gali sutaupyti vietos, nes turi ribotą techninės įrangos, pvz., spausdintuvų ar modemų, palaikymą.