Bon, j'essaye de répondre à mes soucis.
Plutôt que d'éditer le fichier es_input.cfg dans /recalbox/share/system/.emulationstation/, j'édite celui dans /recalbox/share_init/system/.emulationstation/. On dirait que celui de share_init est maintenant comparé à celui de share au démarrage, ce qui fait que fichier utilisé par ES (celui qui est dans share) est invalidé.
Idem pour es_systems.cfg qui liste les systèmes autorisés ... j'ai essayé d'ajouter AdvanceMame (je l'ai pourtant ajouté aux packages, et advmame est présent dans /usr/bin/) mais sans succès. Je peux bien le sélectionner dans Advanced Settings > Advanced Emulator Configuration > Mame > Emulator, mais au lancement du jeu retour à ES.
Pour info, avant d'éditer ces fichiers il faut d'abord faire un remount du filesystem pour pouvoir sauver les changements (mount -o remount,rw /) et après édition, rebooter.