Niesłychanie istotnym elementem, na który powinniśmy zwrócić spostrzeżenie, przygotowując w ogrodzie skalniak, jest stosowny wybór skał. To ponieważ one są odgrywają kluczową rolę w jego trwałości. W zależności od posiadanego poprzez nas projektu, możemy zdecydować się na różne typy skał. Jeśli dysponujemy niewielkim obszarem, warto pomyśleć o skałach z piaskowca. Ten rodzaj drobnoziarnistej skały ma szczególnie walory wizualne. Ponadto piaskowiec jest skałą, jaką można w dowolny sposób modyfikować, osiągając żądane kształty. Jedynym mankamentem tej skały jest jej cena. Dlatego jeżeli myślimy, aby tworzyć z niej skalniaki ogrodowe, to jedynie niewielkie. Chyba iż dysponujemy ogromnym budżetem i możemy sobie na taki wydatek pozwolić.

Z reguły jednakże, budując skalniaki, korzystamy z ogólnodostępnych kamieni. Trafnie dobrane i wyczyszczone mogą na równi konkurować z droższymi skałami. W poniektórzy ogrodnicy do swoich dzieł używają też granitu. Złośliwi twierdzą, iż ten materiał najlepiej nadaje się na cmentarz, a w ogrodzie nie jest mile widziany. To oczywiście nieprawda, ale objaw zazdrości. Albowiem na wykorzystanie skał granitowych w swoim obejściu mogą pozwolić sobie tylko nieliczni. Granit to przecież jedna z najpiękniejszych i najtrwalszych skał. Plusem tego materiału jest jeszcze to, iż nie wpływają na niego niekorzystne warunki pogodowe. Kamienie polne niezmiernie w wielu przypadkach zielenieją i czarnieją, a nawet porastają mchem, glonami, i co jakiś czas musimy dokonywać ich czyszczenia i konserwacji.