Di masa depan yang misterius, organisme kristalin yang disebut Permata mendiami sebuah dunia yang telah dihancurkan oleh enam meteor. Setiap Permata diberi peran untuk melawan orang-orang bulan, spesies yang menyerang mereka untuk menghancurkan tubuh mereka dan menggunakannya sebagai hiasan. Phosphophyllite, juga dikenal sebagai Phos, adalah Permata muda dan rapuh yang bermimpi membantu teman-teman mereka dalam upaya perang. Sebaliknya, mereka diminta untuk menyusun ensiklopedia karena kondisinya yang sulit. Setelah dengan enggan memulai tugas ini, Phos bertemu Cinnabar, permata cerdas yang telah ditugaskan untuk berpatroli di pulau terpencil di malam hari karena racun korosif yang dihasilkan oleh tubuh mereka. Setelah melihat bagaimana Cinnabar yang tidak bahagia, Phos memutuskan untuk menemukan peran yang dapat dinikmati oleh kedua Permata yang ditolak. Houseki no Kuni mengikuti upaya Phos untuk menjadi berguna dan melindungi sesama Permata mereka.