Japoniški sodai yra švenčiami visame pasaulyje ir pasižymi minimalistiniu požiūriu. Be tam tikrų augalų rūšių, dažnai naudojama erdvės ir tuštumos idėja. Ko nėra, yra beveik taip pat svarbu, kaip ir to, kas yra. Taigi, ieškant augalų japoniškam sodui, žmonėms pirmiausia reikėtų patarti neperpildyti sodo. Keli augalai, kruopščiai išdėstyti, daro daug daugiau nei tonos augalų, kurie gali sumažinti ramybės jausmą, kurį daugelis randa tokiuose soduose.
Kartais žmonės galvoja, kad japoniškame sode nėra žydinčių augalų. Tai tikrai netiesa, o dažniausiai naudojamos daugelio rūšių azalijos. Priklausomai nuo regiono, azalijos gali būti gražiai žalios spalvos ištisus metus ir gražiai žydi. Kai kurios azalijos rūšys žydės du kartus per metus, o žiedai išlieka labai ilgai. Japoniški vilkdalgiai yra dar vienas populiarus augalas, suteikiantis daug spalvų. Žydintys arba dekoratyviniai svarainiai taip pat yra geras pasirinkimas, nes žiemos viduryje jie suteikia spalvų.
Įvairios žemės dangos rūšys yra labai svarbios japoniškame sode, o pagrindinis pasirinkimas yra samanos. Galima rinktis daugybę skirtingų samanų. Kita priimtina žemės danga gali būti, pavyzdžiui, kūdikių ašaros, į samanas panašus augalas, kurio gebėjimas plisti ir su visžaliais lapais.
Kai kurie žydintys medžiai gali būti populiarūs japoniškuose soduose. Tai gali būti vyšnių ir slyvų medžiai, dažnai dekoratyviniai. Daug kalbama apie vyšnias ir Azijos sodus, tačiau į sodus jų nereikia įtraukti. Kiti žydintys medžiai, kuriuos sodininkai gali apsvarstyti, yra krepinė mirta, nors tai, be abejo, yra vienas iš netvarkingiausių medžių, kuriuos žmonės gali pasirinkti, nes skirtingais metų laikais meta lapus, gėles ir žievę.
Kai kurie iš svarbiausių augalų japoniškame sode yra įvairių rūšių japoniniai klevai. Daugelis sodininkystės parduotuvių turės daugybę jų pasirinkimų ir rūšių. Lygiai taip pat svarbūs yra spygliuočiai, dažniausiai mažesnės pušys, kurias galima formuoti ir apkarpyti pagal poreikį. Dideli krūmai, tokie kaip bambukas, taip pat yra populiarūs, o kiti krūmai gali būti rododendrai. Labai dideliuose soduose gali augti daug didesni medžiai, pavyzdžiui, gluosniai, tačiau dėl to mažas sodas gali atrodyti perkrautas ir priblokštas.
Nors akmeniniai sodai paprastai laikomi atskirais nuo japoniškų sodų su augalais, verta pažvelgti į sodo dizainą, kad pamatytumėte, kaip naudojami akmenys ir kartais mažesnės uolos. Viskas, nuo žvyro iki didesnių uolų, gali būti japoniško sodo dalis. Pėsčiųjų takai ir laipteliai taip pat gali būti įtraukti į projektavimo schemą, todėl į tai reikėtų atsižvelgti.