@makination ¡Hola!
El problema es que usted está salvando los overlays en el núcleo, y si el mismo núcleo se utiliza en otro sistema, los dos sistemas se quedarán con los mismos overlays.
Yo no uso de overlays, pero por lo que yo sé, una opción es guardar overlay por juego, no por núcleo, y en lugar de "Save Core Overrides", usted ir en "Save Game Overrides", pero no sé cuánto sería práctico...
No sé qué tutorial has visto, pero en el wiki de Recalbox existe un tutorial para eso, y parece que hay como hacer esto por sistema (como usted quiere), no por núcleo (como usted está haciendo):
https://github.com/recalbox/recalbox-os/wiki/Retroarch-setup-overlays-(EN)