Bon après deux jours de farfouillage dans les options entrecoupé de réinstallation a vide j'en suis venu à me demander si ça venait pas de ma config physique.
J'ai finalement testé la même combo rom+core+ratio+shader sur recalbox, batocera, retropie et lakka.
Des 4 il n'y a que sur lakka que le shader se comporte correctement.
Donc soit lakka a vraiment quelquechose de différent dans son implémentation de retroarch, soit il y bien quelquepart un paramètre de bas niveau qui change.
J'ai plus qu'à étudier les fichiers de config retroarch par défaut de recalbox et de lakka et voir ce qui diffère.