J'avais le même soucis.
Dans le dossier mupen64plus.cfg (dans le sous-dossier recalbox\system\configs\mupen64) j'ai changé les lignes suivantes:
[Video-General]
Use fullscreen mode if True, or windowed mode if False
Fullscreen = True
Width of output window or fullscreen width
ScreenWidth = 720
Height of output window or fullscreen height
ScreenHeight = 480
If true, use correct aspect ratio, if false, stretch to fullscreen
AspectRatio = True
If true, activate the SDL_GL_SWAP_CONTROL attribute
VerticalSync = True
Rotate screen contents 0=0 degree, 1=90 degree, 2 = 180 degree, 3=270 degree
Rotate = 0
[Video-General]
En changeant juste le "full screen" en "true", j'avais les jeux en 16/9