Na organização interna do cerebelo, a substância cinzenta está disposta em uma fina camada periférica, o córtex cerebelar, e por um centro de substância branca, o centro medular do cerebelo.

O cerebelo apresenta três pedúnculos cerebelares: superior, médio e inferior, sendo que o pedúnculo cerebelar inferior conecta o cerebelo à ponte.

Do córtex cerebelar originam-se as lâminas brancas do cerebelo, que juntos recebem a denominação de "árvore da vida".

No córtex cerebelar estão localizados os núcleos fastigial, globosos, emboliforme e denteado.