Recalbox Forum

    • Register
    • Login
    • Search
    • Recent
    • Tags
    • recalbox.com
    • Gitlab repository
    • Documentation
    • Discord

    [SOFT] Universal XML Scraper V2

    Community projects
    [soft] universal xml scraper
    112
    670
    633025
    Loading More Posts
    • Oldest to Newest
    • Newest to Oldest
    • Most Votes
    Reply
    • Reply as topic
    Log in to reply
    This topic has been deleted. Only users with topic management privileges can see it.
    • stamstamstam
      stamstamstam last edited by

      Hello et merci pour la réponse,

      Oui, ce sont bien des jeux PSX. Les .PBP sont utilisables sur recalbox et surtout ils permettent de regrouper des jeux multi-disques en un seul volume, très pratique pour jouer FFVII sans avoir galérer pour changer les CD. C'est de loin ce qu'il y'a de plus facile pour ce type de jeux sur PSX.

      Le lien pastebin:
      http://pastebin.com/MrvYVdeS

      Encore merci d'avance.

      1 Reply Last reply Reply Quote 0
      • screech
        screech last edited by

        Voila 😉 je viens de mettre à dispo toutes tes roms (et les hash correspondant) dans la BDD...

        Le probleme, c'est que très peu ce sont associé automatiquement à une fiche de jeu...

        Il faudrait que tu passes sur le site pour les associer 😉

        Clean your Romset with Universal ROM Cleaner
        Scrape your Romset with Universal XML Scraper

        stamstamstam 1 Reply Last reply Reply Quote 0
        • stamstamstam
          stamstamstam @screech last edited by

          @screech
          Super merci, par contre j'ai beau chercher mais je n'ai pas trouvé comment associer les roms.
          J'ai regardé la FAQ et le tuto mais je n'ai pas vu de mention a l'association de rom.
          Est-ce que quelqu'un peut m'indiquer la méthode svp?

          1 Reply Last reply Reply Quote 0
          • screech
            screech last edited by

            Il faudrait que je redige une procédure 😉

            Mais le plus simple :

            Tu vas sur le site : http://www.screenscraper.fr/
            Tu te log avec ton compte (tu en créer un le cas échéant)
            Tu clic sur "ROMS" tu choisis la plateforme.
            Tu clic sur "Afficher... Roms orphelines"
            tu ne verras plus que les roms "non associées"
            Tu choisis la 1ere lettre de ta rom et tu clic dessus.
            Dans le premier menu déroulant tu as les fiches de jeux "présélectionnés" qui peuvent correspondre.
            Si le jeux est dans la liste, tu sélectionnes et tu "Assignes"
            S'il n'est pas dans cette première liste tu en as une deuxième qui comprend "tous" les jeux du systèmes choisi.
            Si le jeux est dans la liste, tu sélectionnes et tu "Assignes"

            S'il n'est ni dans l'une ni dans l'autre, tu peux faire une recherche sur Gamefaqs (au cas ou le jeux aurait un "deuxième" nom dans une autre langue 😉 )

            Il t'es ensuite possible de spécifier s'il s'agit d'un "nouveau jeu" ou un nouveau "non jeu" (pour les bios par exemple ou les soft de test). Tu peux préciser le nom du jeu. et tu "valides"

            Tu peux aussi préciser la région, la langue, s'il s'agit d'un Hack/Proto/Traduction/... Un numéro de série constructeur (utile par exemple pour les ISO)

            A chaque fois, n'oublis pas de préciser la source pour aider les modérateurs à valider plus facilement ta proposition.

            Il ne te reste plus qu'à attendre un modo/admin passe par la pour valider ta proposition 😉

            Clean your Romset with Universal ROM Cleaner
            Scrape your Romset with Universal XML Scraper

            1 Reply Last reply Reply Quote 0
            • stamstamstam
              stamstamstam last edited by

              Hello Screech,

              Je me suis dit que j'allais commencer par Alundra. 🙂
              Première surprise, la référence que je t'ai donné n'est pas listé comme orpheline.
              Seconde surprise, plusieurs informations sont fausses (mauvais éditeur/developpeur, ce n'est pas précisé, dans tous les cas pour la rom US les informations disponibles ne sont pas bonnes). Je n'ai pas trouvé comment éditer cette partie.
              Par exemple, les entrées dispos sont:

              • Alundra (c) 1998 Psygnosis
              • Alundra 2 (c) 2000 Matrix Software
                Concernant Alundra 1, Psygnosis est l'éditeur européen. La version US (celle que j'utilise) a été éditée par Working Design.
                Mais est-ce que la référence fait référence à l'éditeur ou au développeur? Car le développeur est Matrix Software.
                Ensuite, concernant Alundra 2, là on propose Matrix Software comme entrée, il s'agit toujours du développeur mais l'éditeur est Activision.
                Il y'a donc une inconsistance, d'un côté on note l'éditeur (seulement européen pour une rom US) et de l'autre le développeur.
                Je sais qu'il s'agit d'un détail, mais comme noté plus haut, je n'ai pas trouvé comment "régler l'erreur".

              En plus de ça, je n'ai pas compris pourquoi la ROM n'est pas considérée comme orpheline et qu'elle ne scrappe pas malgré tout.

              Je vais essayer sur les autres, mais si je pouvais proposer une amélioration sur le site, ce serait de pouvoir soulever ce genre d'erreur directement sur la page.

              1 Reply Last reply Reply Quote 0
              • screech
                screech last edited by screech

                certaines ce sont "auto associé" à l'import (mais très peu) Alundra en fait partie 😉
                (essaye de la rescraper 😉 )

                Concernant les références, tu peux facilement faire une proposition 😉 n'oublie pas de mettre la "source" et un commentaire si tu le souhaite 😉 (pour faciliter le taf des modérateurs ^^)

                Pour les Dev / Éditeur, une bonne partie à été récupéré "automatiquement" sur d'autre site... Il se peut donc que certaines infos soient incorrectes 😉 c'est pour ça qu'on compte sur vous pour nous signaler les erreurs et faire de bonnes propositions pour les corriger ^^

                Enfin, effectivement, l’éditeur /développeur ne sont pas localisé. ça peut être compliqué du coup pour des jeux avec differents éditeurs en fonction des pays... Cependant "très peu" de personne y font attention 😉 du coup c'est loin d’être notre priorité 😉 (mais promis un jour ce sera localisé 😉 )

                Du coup, en fin de page, tu as une zone commentaire sur chaque fiche 😉 n’hésite pas à t'en servir 😉

                Clean your Romset with Universal ROM Cleaner
                Scrape your Romset with Universal XML Scraper

                1 Reply Last reply Reply Quote 0
                • stamstamstam
                  stamstamstam last edited by stamstamstam

                  Hey Screech,
                  J'ai commencé a assigner les roms. je peux déjà te dire que je n'ai pas trouvé les entrées suivantes:

                  Final Fantasy VII [NTSC-U] [SCUS-94163].PBP                         320B991A    1 578 863 145    10:44.16 2011-07-29    CDD35B1AD801D1FD2CB7FA0B5501622D

                  Gran Turismo 2 - Arcade Mode [NTSC-U] [SCUS-94455].PBP              D68F2326      541 843 113    19:50.38 2011-07-15    D8CFA746BFD61B87A1DF0284B3CBE5A6

                  Gran Turismo 2 - Simulation Mode [NTSC-U] [SCUS-94488].PBP          D1074F02      548 322 665    19:59.00 2011-07-15    94B3A19541519A4A7376380954663B36

                  Marvel vs. Capcom - Clash of the Super Heroes [U] [SLUS-01059].PBP    2A5527A1      282 181 769    19:59.31 2011-09-08    6A9A64F5E76E46A1B16DCE33DB998D16

                  Metal Gear Solid [SLUS-00594].PBP 29C5DFC9 966 009 929 13:45.19 2011-07-29 DCD9EEE22B282B0AFF4E6ADB97EDEF0E

                  Tomb Raider 2 [U] [SLUS-00437].PBP 6718FB4F 326 491 865 23:27.42 2011-07-31 064A4A77B3677649118321D17B090D1D

                  Aucune référence dispo dans la base de donnée:
                  Resident Evil 3 - Nemesis [U] [SLUS-00923].PBP BDFF286B 446 688 553 22:00.12 2011-07-31 37F0D69FEAECDAAF38399990E6DFC048

                  Merci pour le coup de main!

                  1 Reply Last reply Reply Quote 0
                  • screech
                    screech last edited by

                    peux tu me faire un pastebin ?
                    (Les copié/collé dans le forum casse la mise en page, et j'ai besoin du fichier formaté correctement pour l'importer 😉 )

                    Clean your Romset with Universal ROM Cleaner
                    Scrape your Romset with Universal XML Scraper

                    1 Reply Last reply Reply Quote 0
                    • stamstamstam
                      stamstamstam last edited by

                      Le voici:
                      http://pastebin.com/PQcVb3Kz

                      Merci!

                      1 Reply Last reply Reply Quote 0
                      • screech
                        screech last edited by

                        c'est bizarre...

                        à priori toutes ces roms sont déjà référencées...

                        Et j'ai cherché la premiere. Le CRC/MD5 est bien présent et déjà associé au bon jeu :

                        http://www.screenscraper.fr/rominfos.php?romid=197775

                        Il n'y a que le nom de la rom qui change :S

                        Mais du coup ça devrait pas ressortir dans les missings et il devrait le scraper :S

                        Clean your Romset with Universal ROM Cleaner
                        Scrape your Romset with Universal XML Scraper

                        stamstamstam 1 Reply Last reply Reply Quote 0
                        • stamstamstam
                          stamstamstam @screech last edited by

                          @screech
                          J'ai eu beau chercher ces noms dans tous les sens dans la database, aucun moyen de les trouver.
                          Je me disais que ce serait probablement plus simple de les trouver en utilisant CRC/MD5 - si cette option est déjà dispo, alors je me suis cassé la tête pour rien 🙂

                          Donc apparemment toutes ces roms sont déjà référencées? C'est vraiment étrange.
                          Merci pour tes retours rapides en tout cas, c'est vraiment apprécié.

                          1 Reply Last reply Reply Quote 0
                          • stamstamstam
                            stamstamstam last edited by stamstamstam

                            Hello c'est encore moi (youpi),
                            Je ne suis pas capable de scrapper. J'ai testé la dernière version, ça bloque sur le hashing de la première rom. Je l'ai laissé tourner 1h30 et c'était toujours bloqué.
                            J'ai testé a nouveau avec la version 2.1.0.0 avec la modif du fichier UXS-config.ini et ça ne répond plus, ça fait complètement planter l'appli.
                            Je précise que j'essaye de scrapper les roms PSX.
                            Une idée?

                            1 Reply Last reply Reply Quote 0
                            • screech
                              screech last edited by

                              Si tu scrapes tes Roms via le réseau, essaye la nouvelle fonction "expérimentale" (dans la gonfig générale). Elle permet de demander au PI de calculer le Hash. ça évite un rapatriement en local pour le calcul (sur des gros fichiers ça fait gagner beaucoup de temps. Sur des petits ça en fait perdre 😉 )

                              Pour cela il faut juste que le SSH fonctionne (UXS interroge le PI en SSH 😉 )

                              Autre solution, scrape en local (en mettant tes roms sur une clef USB 😉 ou en récupérant tes ISO en local par exemple 😉 )

                              Clean your Romset with Universal ROM Cleaner
                              Scrape your Romset with Universal XML Scraper

                              1 Reply Last reply Reply Quote 0
                              • stamstamstam
                                stamstamstam last edited by

                                Merci pour l'info, effectivement c'est logique. J'avais toutes les roms en local du coup c'était très rapide.
                                Par contre j'ai remarqué que certaines roms n'ont pas récupéré d'info et/ou n'ont pas récupéré les images, y'a t-il un fix pour ça?

                                Merci pour ta patience en tout cas.

                                1 Reply Last reply Reply Quote 0
                                • yrojoue
                                  yrojoue last edited by yrojoue

                                  Bonjour,

                                  Après de long mois à bidouiller dans mon coin un thème pour les écrans 4/3 (que je mettrais bientôt à disposition sur le forum)...
                                  Je redécouvre ton excellent soft, et surtout la nouvelle façon de créer des MIX. Malgré mais recherche sur le wiki je n'ai pas retrouvé la fonction pour faire une rotation d'image. Cette fonction est elle toujours disponible?

                                  par avance merci.

                                  1 Reply Last reply Reply Quote 0
                                  • Takylmor
                                    Takylmor last edited by

                                    Bonjour,

                                    Premièrement, je tenais à te remercier pour ton travail, tu nous simplifie grandement la vie.
                                    Maintenant, j'ai un petit problème, je viens de lancer mon logiciel, qui m'informe d'une mise à jour que je m'empresse de télécharger.
                                    Je met le .exe à la place de l'ancien, mais lorsque je lance ton logiciel, il ne démarre pas et mon curseur tourne sans cesse.
                                    Obliger de redémarrer.
                                    J'ai essayer de modifier la version dans UXSconfig, mais rien n'y fais.
                                    Dois je faire autre chose ?
                                    En remettant l'ancien, ça marche, mais bon......
                                    Merci par avance.

                                    1 Reply Last reply Reply Quote 0
                                    • Ramstatlon
                                      Ramstatlon last edited by

                                      Ici un pastebin de 2 roms pour des traductions fr de Captain Tsubasa 3 sur SNES
                                      http://pastebin.com/hN7GSeHV

                                      recalboxOS 4.0.0-beta6
                                      Raspberry pi 3
                                      manettes 8Bitdo SCF30 & NES30 Pro

                                      1 Reply Last reply Reply Quote 0
                                      • screech
                                        screech last edited by screech

                                        @stamstamstam pas de "fixe" pour ça, hormis venir nous aider à compléter la BDD : http://www.screenscraper.fr/ 😉 il s'agit surement d'information ou de media manquant ^^ (Bonus, en participant à la BDD, on te remerciera en "debloquant" des "threads" avec ton identifiant Screenscraper dans UXS qui te permettrons de scraper encore plus vite 😉 )

                                        @yrojoue Oups ^^ c'est effectivement un oublie ^^ la "fonction" est prete dans le soft mais n'est pas appelable ^^ je corrige ça très vite 😉

                                        @Takylmor essaye de mettre la nouvelle version "toute seule" dans un nouveau repertoire (pas dans l'ancien) pour recreer les fichiers pour voir si ça ne viendrait pas de ça des fois :S

                                        @Ramstatlon c'est fait 😉

                                        Clean your Romset with Universal ROM Cleaner
                                        Scrape your Romset with Universal XML Scraper

                                        1 Reply Last reply Reply Quote 0
                                        • Takylmor
                                          Takylmor last edited by

                                          ça ne fonctionne toujours pas.
                                          Après plusieurs essai, il a réussi à me créer un UXS-config, mais ne veux tout de même pas se lancer.
                                          C'est surtout que je n'ai pas de messages d'erreur, ça mouline continuellement, jusqu'à redémarrage du pc.

                                          1 Reply Last reply Reply Quote 0
                                          • stamstamstam
                                            stamstamstam last edited by

                                            Justement, j'ai vérifié.
                                            Par exemple, Resident Evil 2 ou encore Final Fantasy VIII possèdent des informations complètes sur le site, hors le scrapper ne les a pas récupéré.

                                            1 Reply Last reply Reply Quote 0
                                            • First post
                                              Last post

                                            Want to support us ?

                                            63
                                            Online

                                            99.6k
                                            Users

                                            28.1k
                                            Topics

                                            187.1k
                                            Posts

                                            Copyright © 2021 recalbox.com