@irineuburin Você não consegue instalar nada no Recalbox, você só consegue configurar o que já vem instalado.
No seu caso provavelmente o problema é que você ainda não adicionou nenhuma ROM (jogo) do N64, e os consoles só aparecem no EmulationStation (a interface gráfica) se houver ao menos 1 jogo no formato certo dentro da pasta certa.
Não sei em qual hardware você testou, se for no Rpi0 por exemplo não há o emulador de N64 integrado porque ele é muito fraco, mas, se for no PC ou no Rpi3 por exemplo, já vem instalado (mas precisa adicionar jogos).
Veja a lista de compatibilidade aqui:
https://recalbox.gitbook.io/documentation/hardware-compatibility/emulators-compatibility#home-consoles
Veja a documentação atual aqui:
https://recalbox.gitbook.io/documentation/v/portugues/
Veja os vídeo tutoriais oficiais no canal oficial do youtube (boa parte dos vídeos possuem legendas em português, infelizmente ainda não são todos, mas habilite a legenda e escolha português quando houver):
https://www.youtube.com/playlist?list=PL2oNQ0AT7fx2ExiSNrfHUzga5GnogI4sh
Há milhares de vídeos não oficiais no youtube, muitos em português, e também aqui no fórum há muito conteúdo que da pra usar como referência (lembrando que o fórum possui ferramenta de pesquisa, e as vezes você não acha a resposta em português mas acha em inglês, espanhol ou francês) :
https://forum.recalbox.com/category/25/português