Afin de marquer ce sujet comme Résolu, voici ce qu'il faut faire (pour les nuls comme moi).

Une installation propre pour pas hériter de règlages incompatibles avec cet écran

Modification du fichier config.txt en ajoutant ceci à la fin :
hdmi_group=2
hdmi_mode=16
hdmi_cvt 1024 768 60 6 0 0 0
hdmi_drive=1

Modification du fichier recalbox.conf :
global.videomode=default
n64.videomode=default

Enjoy!