Das Problem hatte ich anfangs auch.
Es gibt die Möglichkeit "threaded video" auf "true" zu stellen. Standardmäßig ist das ausgeschaltet, da es scheinbar zu Abstürzen mit manchen Emulatoren/cores führen kann.

Dazu musst du im Ordner in dem deine Gameboy Roms liegen eine Textdatei erstellen die folgendes enthält:

video_threaded = true

Die Datei nennst du dann in ".retroarch.cfg" um (ohne die Anführungszeichen aber mit dem Punkt am Anfang) und dann sollten die Spiele flüssiger laufen.
Es kann wie gesagt zu Abstürzen führen, und die Latenz kann auch darunter leiden.

Wenn du das ganze rückgängig machen möchtest, einfach die Datei wieder löschen