Recalbox Forum

    • Register
    • Login
    • Search
    • Recent
    • Tags
    • recalbox.com
    • Gitlab repository
    • Documentation
    • Discord

    [SOFT] Universal XML Scraper V2

    Community projects
    [soft] universal xml scraper
    112
    670
    632854
    Loading More Posts
    • Oldest to Newest
    • Newest to Oldest
    • Most Votes
    Reply
    • Reply as topic
    Log in to reply
    This topic has been deleted. Only users with topic management privileges can see it.
    • screech
      screech last edited by

      supprime vite ces liens avant qu'un modo ne passe ^^ (pas de liens sur des roms s'il te plais 😉 )

      Sinon, tu peux trouver le CRC dans les logs 😉

      Clean your Romset with Universal ROM Cleaner
      Scrape your Romset with Universal XML Scraper

      1 Reply Last reply Reply Quote 0
      • Ramstatlon
        Ramstatlon last edited by

        Pardon d etre un boulet..
        Le log c est celui de /recalbox/share/system/logs/recalbox.log?

        J ai bien les lignes ci-dessous qui apparaissent mais je ne vois de numero CRC ou MD5

        ['retroarch', '-L', '/usr/lib/libretro/fceunext_libretro.so', '--config', '/recalbox/share/system/configs/retroarch/retroarchcustom.cfg', '/recalbox/share/roms/nes/Lode Runner (U) [!].nes']
        Powering on HDMI with explicit settings (CEA mode 4)
        Powering on HDMI with preferred settings
        ['retroarch', '-L', '/usr/lib/libretro/fceunext_libretro.so', '--config', '/recalbox/share/system/configs/retroarch/retroarchcustom.cfg', '/recalbox/share/roms/nes/Lode Runner (U).nes']

        recalboxOS 4.0.0-beta6
        Raspberry pi 3
        manettes 8Bitdo SCF30 & NES30 Pro

        1 Reply Last reply Reply Quote 0
        • screech
          screech last edited by

          oulah ^^ pas du tout ^^
          c'est dans le répertoire d'UXS, tu as un repertoire logs ^^ et dedans un log.txt 😉

          Clean your Romset with Universal ROM Cleaner
          Scrape your Romset with Universal XML Scraper

          1 Reply Last reply Reply Quote 0
          • Ramstatlon
            Ramstatlon last edited by

            Bon ben la ref est CD4BF911 qui correspond a 3-D WorldRunner pourtant c est bien un rom qui lance Lode Runner..

            [21:12:42] - Rom Info (Lode Runner (U).nes) Hash in 0.03s
            [21:12:42] - > Size : 24592
            [21:12:42] - > CRC32 : CD4BF911
            [21:12:42] - > MD5 : 8E074813A094594C29C1D4C43E4BDBC5
            [21:12:42] - > SHA1 : EA09AEC11EFC4B42EBC644EA243C2284001FE34F

            [21:12:42] - Rom Info (Lode Runner (U) [!].nes) Hash in 0.03s
            [21:12:42] - > Size : 24592
            [21:12:42] - > CRC32 : CD4BF911
            [21:12:42] - > MD5 : 8E074813A094594C29C1D4C43E4BDBC5
            [21:12:42] - > SHA1 : EA09AEC11EFC4B42EBC644EA243C2284001FE34F

            Je precise que ce sont 2 roms de Lode Runner qui viennent de sources differentes

            Lode Runner
            http://www.screenscraper.fr/gameinfos.php?gameid=1544
            3-D WorldRunner
            http://www.screenscraper.fr/gameinfos.php?gameid=18548

            recalboxOS 4.0.0-beta6
            Raspberry pi 3
            manettes 8Bitdo SCF30 & NES30 Pro

            1 Reply Last reply Reply Quote 0
            • kevinnash
              kevinnash last edited by

              hello screech,

              Je viens d'essayer la V2, j'ai quelques interrogations :

              => J'ai mis l'ID de mon compte Screenscraper mais cela me dit que mon compte ne me donne accès que à 1 thread, est-ce normal ?

              => le clic pour s'inscrire sur Screenscraper donne une 404

              => Le son de démarrage, est-ce vraiment utile ? Peut-être une option de désactivation de ce son serait possible ?

              => Ne peut-il pas y avoir moins de 5 menus de configuration ? Personnellement je préfèrerais le all-in-one de la V1;)

              Ramstatlon 1 Reply Last reply Reply Quote 0
              • Ramstatlon
                Ramstatlon @kevinnash last edited by

                @kevinnash ah ben tiens, je viens juste de poser la question.. Ca viens juste de changer mais apparemment les nouvelles conditions sont plus interessantes:

                pour les thread, effectivement, il y a eu quelques modificiations en accord avec le grand chef de Screenscraper.
                Il faut au moins 1 participation validé pour avoir 2 threads... mais en contre partie tu peux en gagner d'autre beaucoup plus vite 😉
                Votre nombre de Thread dépend de votre participation :
                (ssuser/uploadsysteme + ssuser/uploadinfos + ssuser/romasso + ssuser/uploadmedia)

                • 1 participations validées : 2 Threads maximum ouvert simultanément
                • 2 à 49 participations validées : 3 Threads maximum ouvert simultanément
                • 50 à 199 participations validées : 4 Threads maximum ouvert simultanément
                • 200 à 499 participations validées : 5 Threads maximum ouvert simultanément
                • 500 à 749 participations validées : 6 Threads maximum ouvert simultanément
                • 750 à 999 participations validées : 7 Threads maximum ouvert simultanément
                  • de 999 participations validées : 8 Threads maximum ouvert simultanément
                    Et si vous faite une participation financière vous gagnez des « Threads Bonus »
                    (ssuser/contribution) : 2 = 1 Thread Supplémentaire / 3 et + = 5 Threads Supplémentaires
                • De 5 à 9 euros : 1 Thread bonus
                • Au-delà de 10 euros : 5 Threads bonus

                recalboxOS 4.0.0-beta6
                Raspberry pi 3
                manettes 8Bitdo SCF30 & NES30 Pro

                1 Reply Last reply Reply Quote 0
                • botte
                  botte last edited by

                  Hi Screech thanks a lot for your dev!

                  I'm new Recalbox user and it allowed me to make things nice!

                  But i'm wondering if you could (or if there already is) add a manual search to find the rom which do not end up with any information ?

                  I could use scrapper in recalbox but I'd like to use same db (and have only french description 😉 ).
                  It mostly happens on translated roms for instance, which cannot be hashed.

                  Thanks and cheers!

                  1 Reply Last reply Reply Quote 0
                  • screech
                    screech last edited by

                    @kevinnash
                    Alors, pour le nombre de thread, on s'est mis d'accord avec le chef de Screenscraper ^^ effectivement. (je suis encore en Beta ^^)
                    Il faut au moins 1 participation pour avoir 1 thread de plus, mais au bout de 2 participations tu en gagne déjà 1 autre ^^... (avant c’était 10 ^^)

                    Pour l'inscription sur Screenscraper, effectivement, petit boulette corrigé dans la prochaine version.

                    Pour le son de démarrage, c'est un chouette jingle que m'a fait Neogeronimo ^^. En fait, ce splash screen cache quelques téléchargements obligatoires au démarrage (la liste des systèmes par exemple) donc je peux pas trop le réduire (au niveau temps)... Mais si tu veux un splash screen "muet" je vais voir ce que je peux faire ^^

                    Enfin pour les menus, l'ancienne version "all-in-one" posait problème à pas mal de monde, et des confusion entre les chemins pour un répertoire unique ou les chemins pour l'autoconfig...

                    La au moins c'est claire ^^ (bon en plus concrètement tu t'en sert 1 ou 2 fois au début... Et encore après tu scrape sans jamais y retoucher ^^ )

                    @botte
                    If UXS don't find it, you cannot find it with the name 😉 (Screenscraper wasn't made this way)
                    The best way is providing us your missing.txt file to add the missing rom to the DB 😉

                    Clean your Romset with Universal ROM Cleaner
                    Scrape your Romset with Universal XML Scraper

                    kevinnash 1 Reply Last reply Reply Quote 0
                    • botte
                      botte last edited by

                      ahhhh ok!

                      Comme ca parle français je m'y met aussi.

                      comment ca se passe pour rajouter les roms à la db ?

                      si je prends un exemple du missing.txt:

                      Final FantASY VI FR ( patch terminus 3.1 - III US 1.1).smc CEE13E08 4 194 304 19:54.00 2015-05-17 F3334DF6425F78C34BEF9AFBC8118150

                      On peut pas du tout retrouver le scrape avec "Final Fantasy VI" donc ?

                      1 Reply Last reply Reply Quote 0
                      • screech
                        screech last edited by

                        si 😉 tu m'envois ton fichier missing (ou tu me le colle dans pastebin) et j'ajouterais les roms dans la DB 😉

                        Clean your Romset with Universal ROM Cleaner
                        Scrape your Romset with Universal XML Scraper

                        botte Ramstatlon 2 Replies Last reply Reply Quote 0
                        • botte
                          botte @screech last edited by botte

                          @screech et bien... bon courage 😄 mais tu as un travail de titan devant toi du coup!

                          1 Reply Last reply Reply Quote 0
                          • kevinnash
                            kevinnash @screech last edited by

                            @screech said in [SOFT] Universal XML Scraper V2:

                            @kevinnash
                            Alors, pour le nombre de thread, on s'est mis d'accord avec le chef de Screenscraper ^^ effectivement. (je suis encore en Beta ^^)
                            Il faut au moins 1 participation pour avoir 1 thread de plus, mais au bout de 2 participations tu en gagne déjà 1 autre ^^... (avant c’était 10 ^^)

                            Ca marche 🙂

                            J'ai une centaine de ROMs snes avec trainers ou trad FR avec les noms valides goodsnes.

                            Elles sont non identifiées sur screenscraper, je peux les ajouter là-bas tu penses ?

                            1 Reply Last reply Reply Quote 0
                            • sassa
                              sassa last edited by sassa

                              D'ailleurs en parlant de chemins des roms, logiquement je suis en recalbox mix v4 mais je me sers aussi du simple v4 pour un autre pi qui n'utilise pas le full back

                              Le fait de basculer entre le mix v4 et le v4 (ou un autre comme le v3), je dois à chaque fois recommencer la partie des chemins car il ne les garde pas en mémoire donc que je scrappe par exemple le dossier snes (qui est sur mon pc) je le fais pour le premier pi, ensuite je lance le v3 pour le second, et après quand je change de système et que je retourne sur le mix v4 je dois de nouveau rentrer les chemins

                              Dans le futur ce sera possible d'avoir les options de sauvegardé selon les profils ?

                              edit : j'ai rien dit aujourd'hui il me redemande pas les chemins lol

                              1 Reply Last reply Reply Quote 0
                              • Ramstatlon
                                Ramstatlon @screech last edited by

                                @screech j ai une autre rom mal reference, en fait meme 2 CRC qui sont pourtant correctement nomme mais dans la mauvaise page:

                                #ERREUR : les 2 CRC C8602800 02A32853 refere au jeu:

                                The Simpsons : Bart vs the Space Mutants
                                http://www.screenscraper.fr/gameinfos.php?gameid=1295

                                et non a:

                                The Simpsons : Bart vs the World
                                http://www.screenscraper.fr/gameinfos.php?gameid=1543)

                                recalboxOS 4.0.0-beta6
                                Raspberry pi 3
                                manettes 8Bitdo SCF30 & NES30 Pro

                                1 Reply Last reply Reply Quote 0
                                • screech
                                  screech last edited by

                                  @botte C'est importé 😉 (pour la majorité ^^) par contre, certaines ne ce sont pas "auto associé" il faudrait donc que tu passe sur le site pour les associer au jeu correspondant 😉

                                  @kevinnash Tu ne peux pas ajouter de rom sur Screenscraper 😉 par contre, tu peux m'envoyer tes fichiers Missing 😉 je les ajouterais, il ne te restera plus qu'à les associer aux jeux correspondant (si ça ne se fait pas en auto)

                                  @sassa Effectivement 😉 normalement le path autoconfig est enregistré dans le profil (seul probleme, il est reset en cas de MaJ d'UXS)

                                  @Ramstatlon c'est corrigé 😉

                                  Clean your Romset with Universal ROM Cleaner
                                  Scrape your Romset with Universal XML Scraper

                                  1 Reply Last reply Reply Quote 0
                                  • sassa
                                    sassa last edited by

                                    @screech oui justement je pense que j'ai un peu confondu avec toutes les dernières versions mais là c'est bon tout est bien enregistré si je change de profil

                                    1 Reply Last reply Reply Quote 0
                                    • screech
                                      screech last edited by

                                      2.0.0.6 Beta is out...

                                      Lot's of change :

                                      • Corrected :
                                      • French, German, spanish and english translation correction.
                                      • First rom sometime doesn't be scrapped corrected.
                                      • Include/Exclude label size corrected
                                      • Registering link with Digimirror corrected.
                                      • Some roms don't be scraped because of "not allowed" characteres corrected.
                                      • Added :
                                      • New XML Include
                                      • Bypass research function (to make dedicated profil for some system like scummvm)
                                      • New Mix Profil to Test SCUMMVM on Recalbox V4 (MIX)
                                      • Rewrite of path option to add some tag :
                                        • %SystemDir% = Full path to the system directory
                                        • %System% = Name of the System directory
                                        • %Source_RootPath% = Path to the local Root
                                      • Rewrite of Retropie Profil to match Retropie Path (to test)
                                      • Merge with verybadsoldier fork :
                                      • Added a new function to scrape IN zip files when zip file rom isn't found. (THANKS A LOT verybadsoldier)

                                      Clean your Romset with Universal ROM Cleaner
                                      Scrape your Romset with Universal XML Scraper

                                      Ramstatlon 1 Reply Last reply Reply Quote 0
                                      • Ramstatlon
                                        Ramstatlon @screech last edited by

                                        @screech On dirait qu il ne trouve pas le fichier des rom a scrapper (en tous cas quand on ne scrappe qu un seul systeme)

                                        recalboxOS 4.0.0-beta6
                                        Raspberry pi 3
                                        manettes 8Bitdo SCF30 & NES30 Pro

                                        1 Reply Last reply Reply Quote 0
                                        • ian57
                                          ian57 Staff last edited by ian57

                                          @screech je suis en train de tester UXS V2 depuis un poste windows... c'est vraiment un bel outil... merci pout ton taf... mon seul regret... il faut être sous windows ;).

                                          je te ferai un retour plus long dès que j'ai compris ou il met les fichiers ;)... mais bon j'ai pas du tout lire ...

                                          "UNIX is basically a simple operating system, but you have to be a genius to understand the simplicity." Dennis Ritchie

                                          1 Reply Last reply Reply Quote 0
                                          • Bertille
                                            Bertille last edited by

                                            Bonjour,

                                            D'abord merci pour ce super soft !
                                            Je poste ici au cas ou cela serait un bug :

                                            Avec la version précédente de ScreenScrapper (1.x) il trouvait toutes les images et descriptions des jeux, or depuis la version 2 certains jeux sont annoncés introuvables.

                                            Un exemple avec le rapport de jeux pour la Lynx :

                                            Bill & Ted's Excellent Adventure (USA, Europe).lnx 1323D4EE 262 208 22:32.00 1996-12-24 B83693A793B3DF48EE566DE2C40E3545
                                            Chip's Challenge (USA, Europe).lnx 7A5C55F1 131 136 22:32.00 1996-12-24 7F98DEC620345005F32CD0056B50F056
                                            Hard Drivin' (USA, Europe).lnx 7DF53E28 131 136 22:32.00 1996-12-24 528BFE5F3C240353BB07322319A232F7
                                            Jimmy Connors' Tennis (USA, Europe).lnx 41B8D581 524 352 22:32.00 1996-12-24 8BBF58DC3C86FF75D37AB05612C49452
                                            Todd's Adventures in Slime World (USA, Europe).lnx BE257835 131 136 22:32.00 1996-12-24 14F02B85AF985487B51AB0DCFB047E1D

                                            Merci.

                                            sassa 1 Reply Last reply Reply Quote 0
                                            • First post
                                              Last post

                                            Want to support us ?

                                            77
                                            Online

                                            99.6k
                                            Users

                                            28.1k
                                            Topics

                                            187.1k
                                            Posts

                                            Copyright © 2021 recalbox.com