Recalbox Forum

    • Register
    • Login
    • Search
    • Recent
    • Tags
    • recalbox.com
    • Gitlab repository
    • Documentation
    • Discord

    [SOFT] Universal XML Scraper V2

    Community projects
    [soft] universal xml scraper
    112
    670
    633357
    Loading More Posts
    • Oldest to Newest
    • Newest to Oldest
    • Most Votes
    Reply
    • Reply as topic
    Log in to reply
    This topic has been deleted. Only users with topic management privileges can see it.
    • johnDoe_1
      johnDoe_1 Banned @supernature2k last edited by johnDoe_1

      @supernature2k said in [SOFT] Universal XML Scraper V2:

      Hi @screech and Happy new year!

      Je viens de me lancer dans un full scrap avec la v2 que je n'avais pas encore testé.
      Je suis en V2.1.0.1

      Et là, c'est le drame!

      Pour les jeux arcades, on dirait qu'il extrait toutes les roms des fichiers zip et du coup il en trouve beaucoup moins qu'avant (et ça met des plombes).

      Problème similaire avec Neo-Geo, avant j'arrivais à le feinter en lui disant que c'était du AES pour avoir les boites, maintenant il ne trouve rien 😕

      Une idée chef?

      P.S.: merci d'avoir converti mes mix images et les avoir mis en download 😉

      Salut,

      J'ai aussi remarqué ce problème avec les .zip, ça scrape quasi rien

      1 Reply Last reply Reply Quote 0
      • cotedeporc
        cotedeporc @supernature2k last edited by

        @supernature2k ,

        Salut et bonne année!
        Même problème de mon côté.

        Il me semble que dans un worklog, screech avait ajouté la lecture à l'intérieur des zip pour le calcul des hash des roms automatiquement.
        Ca ne marche pas avec les roms arcade (zip composées de plusieurs fichiers rom faisant un tout).

        A mon avis, il peut régler le problème avec une seule main!
        (il fera ce qu'il veux de l'autre...)

        Thème FoolScreen / Squared

        1 Reply Last reply Reply Quote 0
        • stamstamstam
          stamstamstam last edited by acris

          Bonjour
          Aucun iso de la section "PSX_on_PSP_ISOs" xxxxxx n'est reconnu par le scrapper, comment les ajouter svp?
          Merci d'avance.

          1 Reply Last reply Reply Quote 0
          • acris
            acris last edited by

            @stamstamstam
            merci d'éviter de citer les sites de roms ils ne sont pas autorisés sur le forum.

            1 Reply Last reply Reply Quote 0
            • screech
              screech last edited by screech

              hum :S c'est des jeux PSX ou des jeus PSP du coup ?

              Sinon, pour ce genre de trucs, UXS ne pourra pas aider 😉

              Je te conseille de downloader http://ffulgore.free.fr/site/f-crc/us/download.htm
              De bien cocher la case "MD5" et de coller tout tes iso dedans puis de lancer un calcul 😉

              Tu m'envois ensuite le fichier finale (ou tu me le colle dans un pastbin 😉 )

              (Bien vu @acris ^^ )

              Clean your Romset with Universal ROM Cleaner
              Scrape your Romset with Universal XML Scraper

              1 Reply Last reply Reply Quote 0
              • stamstamstam
                stamstamstam last edited by

                Hello et merci pour la réponse,

                Oui, ce sont bien des jeux PSX. Les .PBP sont utilisables sur recalbox et surtout ils permettent de regrouper des jeux multi-disques en un seul volume, très pratique pour jouer FFVII sans avoir galérer pour changer les CD. C'est de loin ce qu'il y'a de plus facile pour ce type de jeux sur PSX.

                Le lien pastebin:
                http://pastebin.com/MrvYVdeS

                Encore merci d'avance.

                1 Reply Last reply Reply Quote 0
                • screech
                  screech last edited by

                  Voila 😉 je viens de mettre à dispo toutes tes roms (et les hash correspondant) dans la BDD...

                  Le probleme, c'est que très peu ce sont associé automatiquement à une fiche de jeu...

                  Il faudrait que tu passes sur le site pour les associer 😉

                  Clean your Romset with Universal ROM Cleaner
                  Scrape your Romset with Universal XML Scraper

                  stamstamstam 1 Reply Last reply Reply Quote 0
                  • stamstamstam
                    stamstamstam @screech last edited by

                    @screech
                    Super merci, par contre j'ai beau chercher mais je n'ai pas trouvé comment associer les roms.
                    J'ai regardé la FAQ et le tuto mais je n'ai pas vu de mention a l'association de rom.
                    Est-ce que quelqu'un peut m'indiquer la méthode svp?

                    1 Reply Last reply Reply Quote 0
                    • screech
                      screech last edited by

                      Il faudrait que je redige une procédure 😉

                      Mais le plus simple :

                      Tu vas sur le site : http://www.screenscraper.fr/
                      Tu te log avec ton compte (tu en créer un le cas échéant)
                      Tu clic sur "ROMS" tu choisis la plateforme.
                      Tu clic sur "Afficher... Roms orphelines"
                      tu ne verras plus que les roms "non associées"
                      Tu choisis la 1ere lettre de ta rom et tu clic dessus.
                      Dans le premier menu déroulant tu as les fiches de jeux "présélectionnés" qui peuvent correspondre.
                      Si le jeux est dans la liste, tu sélectionnes et tu "Assignes"
                      S'il n'est pas dans cette première liste tu en as une deuxième qui comprend "tous" les jeux du systèmes choisi.
                      Si le jeux est dans la liste, tu sélectionnes et tu "Assignes"

                      S'il n'est ni dans l'une ni dans l'autre, tu peux faire une recherche sur Gamefaqs (au cas ou le jeux aurait un "deuxième" nom dans une autre langue 😉 )

                      Il t'es ensuite possible de spécifier s'il s'agit d'un "nouveau jeu" ou un nouveau "non jeu" (pour les bios par exemple ou les soft de test). Tu peux préciser le nom du jeu. et tu "valides"

                      Tu peux aussi préciser la région, la langue, s'il s'agit d'un Hack/Proto/Traduction/... Un numéro de série constructeur (utile par exemple pour les ISO)

                      A chaque fois, n'oublis pas de préciser la source pour aider les modérateurs à valider plus facilement ta proposition.

                      Il ne te reste plus qu'à attendre un modo/admin passe par la pour valider ta proposition 😉

                      Clean your Romset with Universal ROM Cleaner
                      Scrape your Romset with Universal XML Scraper

                      1 Reply Last reply Reply Quote 0
                      • stamstamstam
                        stamstamstam last edited by

                        Hello Screech,

                        Je me suis dit que j'allais commencer par Alundra. 🙂
                        Première surprise, la référence que je t'ai donné n'est pas listé comme orpheline.
                        Seconde surprise, plusieurs informations sont fausses (mauvais éditeur/developpeur, ce n'est pas précisé, dans tous les cas pour la rom US les informations disponibles ne sont pas bonnes). Je n'ai pas trouvé comment éditer cette partie.
                        Par exemple, les entrées dispos sont:

                        • Alundra (c) 1998 Psygnosis
                        • Alundra 2 (c) 2000 Matrix Software
                          Concernant Alundra 1, Psygnosis est l'éditeur européen. La version US (celle que j'utilise) a été éditée par Working Design.
                          Mais est-ce que la référence fait référence à l'éditeur ou au développeur? Car le développeur est Matrix Software.
                          Ensuite, concernant Alundra 2, là on propose Matrix Software comme entrée, il s'agit toujours du développeur mais l'éditeur est Activision.
                          Il y'a donc une inconsistance, d'un côté on note l'éditeur (seulement européen pour une rom US) et de l'autre le développeur.
                          Je sais qu'il s'agit d'un détail, mais comme noté plus haut, je n'ai pas trouvé comment "régler l'erreur".

                        En plus de ça, je n'ai pas compris pourquoi la ROM n'est pas considérée comme orpheline et qu'elle ne scrappe pas malgré tout.

                        Je vais essayer sur les autres, mais si je pouvais proposer une amélioration sur le site, ce serait de pouvoir soulever ce genre d'erreur directement sur la page.

                        1 Reply Last reply Reply Quote 0
                        • screech
                          screech last edited by screech

                          certaines ce sont "auto associé" à l'import (mais très peu) Alundra en fait partie 😉
                          (essaye de la rescraper 😉 )

                          Concernant les références, tu peux facilement faire une proposition 😉 n'oublie pas de mettre la "source" et un commentaire si tu le souhaite 😉 (pour faciliter le taf des modérateurs ^^)

                          Pour les Dev / Éditeur, une bonne partie à été récupéré "automatiquement" sur d'autre site... Il se peut donc que certaines infos soient incorrectes 😉 c'est pour ça qu'on compte sur vous pour nous signaler les erreurs et faire de bonnes propositions pour les corriger ^^

                          Enfin, effectivement, l’éditeur /développeur ne sont pas localisé. ça peut être compliqué du coup pour des jeux avec differents éditeurs en fonction des pays... Cependant "très peu" de personne y font attention 😉 du coup c'est loin d’être notre priorité 😉 (mais promis un jour ce sera localisé 😉 )

                          Du coup, en fin de page, tu as une zone commentaire sur chaque fiche 😉 n’hésite pas à t'en servir 😉

                          Clean your Romset with Universal ROM Cleaner
                          Scrape your Romset with Universal XML Scraper

                          1 Reply Last reply Reply Quote 0
                          • stamstamstam
                            stamstamstam last edited by stamstamstam

                            Hey Screech,
                            J'ai commencé a assigner les roms. je peux déjà te dire que je n'ai pas trouvé les entrées suivantes:

                            Final Fantasy VII [NTSC-U] [SCUS-94163].PBP                         320B991A    1 578 863 145    10:44.16 2011-07-29    CDD35B1AD801D1FD2CB7FA0B5501622D

                            Gran Turismo 2 - Arcade Mode [NTSC-U] [SCUS-94455].PBP              D68F2326      541 843 113    19:50.38 2011-07-15    D8CFA746BFD61B87A1DF0284B3CBE5A6

                            Gran Turismo 2 - Simulation Mode [NTSC-U] [SCUS-94488].PBP          D1074F02      548 322 665    19:59.00 2011-07-15    94B3A19541519A4A7376380954663B36

                            Marvel vs. Capcom - Clash of the Super Heroes [U] [SLUS-01059].PBP    2A5527A1      282 181 769    19:59.31 2011-09-08    6A9A64F5E76E46A1B16DCE33DB998D16

                            Metal Gear Solid [SLUS-00594].PBP 29C5DFC9 966 009 929 13:45.19 2011-07-29 DCD9EEE22B282B0AFF4E6ADB97EDEF0E

                            Tomb Raider 2 [U] [SLUS-00437].PBP 6718FB4F 326 491 865 23:27.42 2011-07-31 064A4A77B3677649118321D17B090D1D

                            Aucune référence dispo dans la base de donnée:
                            Resident Evil 3 - Nemesis [U] [SLUS-00923].PBP BDFF286B 446 688 553 22:00.12 2011-07-31 37F0D69FEAECDAAF38399990E6DFC048

                            Merci pour le coup de main!

                            1 Reply Last reply Reply Quote 0
                            • screech
                              screech last edited by

                              peux tu me faire un pastebin ?
                              (Les copié/collé dans le forum casse la mise en page, et j'ai besoin du fichier formaté correctement pour l'importer 😉 )

                              Clean your Romset with Universal ROM Cleaner
                              Scrape your Romset with Universal XML Scraper

                              1 Reply Last reply Reply Quote 0
                              • stamstamstam
                                stamstamstam last edited by

                                Le voici:
                                http://pastebin.com/PQcVb3Kz

                                Merci!

                                1 Reply Last reply Reply Quote 0
                                • screech
                                  screech last edited by

                                  c'est bizarre...

                                  à priori toutes ces roms sont déjà référencées...

                                  Et j'ai cherché la premiere. Le CRC/MD5 est bien présent et déjà associé au bon jeu :

                                  http://www.screenscraper.fr/rominfos.php?romid=197775

                                  Il n'y a que le nom de la rom qui change :S

                                  Mais du coup ça devrait pas ressortir dans les missings et il devrait le scraper :S

                                  Clean your Romset with Universal ROM Cleaner
                                  Scrape your Romset with Universal XML Scraper

                                  stamstamstam 1 Reply Last reply Reply Quote 0
                                  • stamstamstam
                                    stamstamstam @screech last edited by

                                    @screech
                                    J'ai eu beau chercher ces noms dans tous les sens dans la database, aucun moyen de les trouver.
                                    Je me disais que ce serait probablement plus simple de les trouver en utilisant CRC/MD5 - si cette option est déjà dispo, alors je me suis cassé la tête pour rien 🙂

                                    Donc apparemment toutes ces roms sont déjà référencées? C'est vraiment étrange.
                                    Merci pour tes retours rapides en tout cas, c'est vraiment apprécié.

                                    1 Reply Last reply Reply Quote 0
                                    • stamstamstam
                                      stamstamstam last edited by stamstamstam

                                      Hello c'est encore moi (youpi),
                                      Je ne suis pas capable de scrapper. J'ai testé la dernière version, ça bloque sur le hashing de la première rom. Je l'ai laissé tourner 1h30 et c'était toujours bloqué.
                                      J'ai testé a nouveau avec la version 2.1.0.0 avec la modif du fichier UXS-config.ini et ça ne répond plus, ça fait complètement planter l'appli.
                                      Je précise que j'essaye de scrapper les roms PSX.
                                      Une idée?

                                      1 Reply Last reply Reply Quote 0
                                      • screech
                                        screech last edited by

                                        Si tu scrapes tes Roms via le réseau, essaye la nouvelle fonction "expérimentale" (dans la gonfig générale). Elle permet de demander au PI de calculer le Hash. ça évite un rapatriement en local pour le calcul (sur des gros fichiers ça fait gagner beaucoup de temps. Sur des petits ça en fait perdre 😉 )

                                        Pour cela il faut juste que le SSH fonctionne (UXS interroge le PI en SSH 😉 )

                                        Autre solution, scrape en local (en mettant tes roms sur une clef USB 😉 ou en récupérant tes ISO en local par exemple 😉 )

                                        Clean your Romset with Universal ROM Cleaner
                                        Scrape your Romset with Universal XML Scraper

                                        1 Reply Last reply Reply Quote 0
                                        • stamstamstam
                                          stamstamstam last edited by

                                          Merci pour l'info, effectivement c'est logique. J'avais toutes les roms en local du coup c'était très rapide.
                                          Par contre j'ai remarqué que certaines roms n'ont pas récupéré d'info et/ou n'ont pas récupéré les images, y'a t-il un fix pour ça?

                                          Merci pour ta patience en tout cas.

                                          1 Reply Last reply Reply Quote 0
                                          • yrojoue
                                            yrojoue last edited by yrojoue

                                            Bonjour,

                                            Après de long mois à bidouiller dans mon coin un thème pour les écrans 4/3 (que je mettrais bientôt à disposition sur le forum)...
                                            Je redécouvre ton excellent soft, et surtout la nouvelle façon de créer des MIX. Malgré mais recherche sur le wiki je n'ai pas retrouvé la fonction pour faire une rotation d'image. Cette fonction est elle toujours disponible?

                                            par avance merci.

                                            1 Reply Last reply Reply Quote 0
                                            • First post
                                              Last post

                                            Want to support us ?

                                            79
                                            Online

                                            99.6k
                                            Users

                                            28.1k
                                            Topics

                                            187.1k
                                            Posts

                                            Copyright © 2021 recalbox.com