@acris, @olivierdroid92, @Pitch64,
Voici un retour sur mes recherches (je ne suis pas expert, je livre les infos telles que je les comprends).
Tout d'abord dans le fichier advmame.rc (+ advmame.rc.origin) j'ai modifié la ligne contenant le paramètre "device_video_clock". Il semble que c'est ça qui permet d'activer ou pas les résolutions vidéo accessibles dans advv. Du coup, pour les activer toutes j'ai mis ceci :
device_video_clock 5 - 150 / 5 - 90 / 5 - 130
Ensuite (en ssh, via terminal) j'ai lancé advv :
advv -rc ~/configs/advancemame/advmame.rc
Toutes les lignes sont en bleu, parfait, je peux sélectionner ce que je veux. Et je sélectionne celle tout en bas (il faut faire défiler, car toutes les lignes n'apparaissent pas sur un écran il y en a trop) qui correspond à du fullHD (1920x1080). Je sélectionne la ligne (touche espace) et je sauve (échap + "y" pour sauver). Dans mon fichier advmame.rc j'ai maintenant ceci :
device_video_modeline ATSC-1080-59.94p 148.352 1920 1960 2016 2200 1080 1082 1088 1125 +hsync +vsync
Je n'ai pas d'autres lignes "device_video_modeline" (je les ai supprimées), et je copie/colle cette ligne vers le fichier advmame.rc.origin.
Ensuite je lance un jeu, et magie ! Ça se lance en plein écran (note : 4/3 vu que c'est un vieux jeu, donc bandes noires sur les côtés évidemment).
Je pourrais dire que les jeux fonctionnent, mais il me reste un souci (évidemment, ce serait trop simple sinon). J'ai l'impression que la façon dont j'ai obtenu un jeu en plein écran n'est pas optimale. Ça tourne sur un OdroidXU4, et c'est plus lent que sur un RPI3b (ça devrait être l'inverse !). J'ai essayé plusieurs jeux, et c'est flagrant. Je pense qu'il faudrait que le jeu tourne en résolution native (donc basse résolution) et que l'image soit étirée ensuite. Là, je pense que le jeu essaye de tourner en fullHD et le système n'aime pas trop ...