De hecho no soy el único que le pasa algo similar, https://forum.recalbox.com/topic/2961/n64-picture-size-on-ctr , nada mas que la imagen que presenta este usuario tiene corrida la imagen tanto hacia abajo, como a la izquierda, y es tanto con el core gliden64 y con rice pero lo que se me hace extraño que al ponerlo en N64 la pantalla se centra, lo malo de ese core es que corre algo lento los juegos o de plano se traba, y como mencionas solo es con el emulador n64. No se si haya alguna opción en el config.txt, o en alguna otro lado donde se pueda mover los ejes x, y, para poder ajustarlo