Recalbox Forum

    • Register
    • Login
    • Search
    • Recent
    • Tags
    • recalbox.com
    • Gitlab repository
    • Documentation
    • Discord

    [SOFT] Universal XML Scraper V2

    Community projects
    [soft] universal xml scraper
    112
    670
    634471
    Loading More Posts
    • Oldest to Newest
    • Newest to Oldest
    • Most Votes
    Reply
    • Reply as topic
    Log in to reply
    This topic has been deleted. Only users with topic management privileges can see it.
    • screech
      screech last edited by

      Sorry Guys (and girlz), I were on Holiday 😉 and had a Hard drive failure at my come back 😞

      But I'm back ^^

      So :

      @DarthVad3r
      Impossible. Ce n'est pas comme ça que fonctionne l'API et je pense qu'elle ne fonctionnera jamais comme ça. l'idée est d'avoir un HASH fiable pour identifier de maniere correcte une rom.
      Cela passe donc par en premier lieu le Hash, et en deuxieme lieu le nom du fichier de la Rom (qui normalement est "plus unique" que le nom du jeu et permet d'avoir plus d'info (exemple : le tag sur la region)

      Acutellement l'API ne permet pas de retourner une data via une ID (uniquement Hash/nomdefichier) donc pas prévu pour tout de suite...

      @Chris-Johnson
      Is it solved ?

      @Honorbrachios
      Les noms des jeux importent peu pour la recherche seul le HASH ou le nomdefichier sont utilisĂ©. Du coup avec "juste" du renaming, il ne va trouver que par le HASH... (pas bonne idĂ©e de renommer ses roms 😉 never 😉 le scrape est la pour ça 😉 )

      @Pepe
      Look in the Mix file you use for the config.xml
      Open it 😉
      and look for this :
      <Compression>
      <use>yes</use>
      <soft>pngquant.exe</soft>
      <parameter>--force --verbose --ordered --speed=1 --quality=30-90 --ext .png</parameter>
      </Compression>

      As you see you can put your own parameter 😉 and even choose an other software like optipng as post action 😉

      @cotedeporc
      Nice job dude 😉

      Clean your Romset with Universal ROM Cleaner
      Scrape your Romset with Universal XML Scraper

      Pepe 1 Reply Last reply Reply Quote 0
      • jackalpret
        jackalpret Translator last edited by

        Hi ! I'm trying to use UXS and it stay in Please Wait ... testing server connection ...
        I was when I confirm platform to scrap

        And nothing happend 😞

        1 Reply Last reply Reply Quote 0
        • screech
          screech last edited by

          Hi @jackalpret
          Can you check your firewall or antivirus ?
          It's not normal 😉

          Clean your Romset with Universal ROM Cleaner
          Scrape your Romset with Universal XML Scraper

          jackalpret Pepe 2 Replies Last reply Reply Quote 0
          • jackalpret
            jackalpret Translator @screech last edited by

            @screech said in [SOFT] Universal XML Scraper V2:

            Hi @jackalpret
            Can you check your firewall or antivirus ?
            It's not normal 😉

            maybe is memory problem.
            I was running in ubuntu with virtualbox (win7) , and If I tried with only 6 files/roms in mame it works, but when I have 2000 roms it doesnt work

            1 Reply Last reply Reply Quote 0
            • johnDoe_1
              johnDoe_1 Banned last edited by

              @screech Salut, est-ce que le problÚme de scrape mix est fixé depuis ?

              Mon ancien message :

              "Je ne sais pas si c'est un bug mais par moment, le logiciel me sort une image de la jaquette alors que je suis en 4img, ensuite il reprend les 4img normalement et des fois il recommence, une jaquette et op, du 4img

              Et quand je recommence, il me remplace la jaquette par une 4img et peut faire l'inverse avec une 4img en jaquette"

              1 Reply Last reply Reply Quote 0
              • screech
                screech last edited by

                Ce n'est pas logique (et à priori anormal) il faut que je check 😉
                Mais normalement, s'il n'arrive pas à générer le MIX, il prend l'image alternative (ex = jaquette 2D)

                mais si une jaquette 2D existe, alors la 3D aussi 😉 et donc aucune raison qu'il n'arrive pas Ă  gĂ©nĂ©rer le MIX.

                AprÚs il peut s'agir d'autre chose (problÚme d'espace disque, micro déconnexion, ...)

                Je vais faire des essais... (dùs que je trouverais un peu de temps 😉 )

                Clean your Romset with Universal ROM Cleaner
                Scrape your Romset with Universal XML Scraper

                1 Reply Last reply Reply Quote 0
                • Ben2907
                  Ben2907 last edited by

                  Bonjour,
                  J'ai un problÚme, j'ai utilisé pour la premiÚre fois aujourd'hui ce soft. Lors du scrapping tout a bien fonctionné, les images des jeux se sont bien téléchargés dans les dossiers roms de ma recalbox, cependant, les images et les descriptifs des jeux ne s'affichent pas aprÚs avoir rebooté
                  J'avais déjà scrappé quelques jeux sans utiliser XML Scraper et tout s'affichait correctement (en anglais) mais depuis que j'ai fait la manip, il n'y a plus rien
                  Merci d'avance pour votre aide

                  1 Reply Last reply Reply Quote 0
                  • screech
                    screech last edited by

                    @Ben2907
                    ça ressemble à un problÚme de Kill Emulationstation.

                    Avant de scraper, il faut absolument que Emulationstation soit arrĂȘtĂ©.
                    Normalement UXS le propose avant de scraper (mais, je ne sais pas pourquoi) cela ne fonctionne pas toujours....

                    Pour vĂ©rifier qu'ES est bien arrĂȘtĂ©, c'est simple : l’écran de la RB doit ĂȘtre "noir" (tu ne dois plus pouvoir naviguer dans les menu)
                    Si ce n'est pas le cas, au prochain reboot, tu récupÚres l'ancien gamelist.xml qu'ES aura stocké en mémoire...

                    pour l’arrĂȘter : Tu peux le faire avec UXS (menu SSH, ou la question juste avant un scrape) ou manuellement en te connectant en SSH (check le wiki, il y a une fiche la dessus)

                    n’hĂ©site pas Ă  me tenir au courant.

                    Clean your Romset with Universal ROM Cleaner
                    Scrape your Romset with Universal XML Scraper

                    Ben2907 1 Reply Last reply Reply Quote 0
                    • azvarel
                      azvarel last edited by

                      @screech is there possibility to put the flyer of the arcade games in the mix 3 img, in that style?

                      alt text

                      Zodian Theme | #SNESProject

                      1 Reply Last reply Reply Quote 0
                      • screech
                        screech last edited by

                        Yes, it's possible 😉

                        But you need to create a MIX 😉
                        (with the system and game logo with rotation, a "deformed" flyer, and a Fix mask...)

                        I think the only problem right now is the flyer deformation.
                        Actually, Mix deformation can only handle "parallel" deformation (3 Points) I need to look for a "better" deformation routine to handle 4 points 😉

                        Clean your Romset with Universal ROM Cleaner
                        Scrape your Romset with Universal XML Scraper

                        1 Reply Last reply Reply Quote 0
                        • Ben2907
                          Ben2907 @screech last edited by

                          @screech
                          Merci pour la rĂ©ponse rapide 🙂
                          Ça y est ça marche, l’arrĂȘt d'ES avec la question juste avant le scrape ne fonctionne pas chez moi, j'ai du le faire avec le menu SSH
                          Je sais pas si cela a fait quelque chose mais j'ai aussi ouvert UXS en administrateur

                          Merci encore
                          Bonne journée

                          1 Reply Last reply Reply Quote 0
                          • Mydriaze
                            Mydriaze last edited by Mydriaze

                            Bonjour bonjour,

                            Nouveau sur le forum, je viens pour avoir quelques renseignements concernant ce super outil qu'est le Universal XML Scraper.
                            Mon Pi est en réseau, allumé. Je lancé l'outil Universal XML Scraper, tout se passe bien. Sauf que je n'ai aucune jaquette de télécharger, en tout cas je n'en vois aucune apparaßtre quand je sélectionne un jeu dans ma Recalbox. Une idée d'ou peut venir le problÚme?

                            EDIT: je vois bien les fichiers qui ont été téléchargés à la racine de l'émulateur, donc tout va bien. Mais pourquoi alors je ne les vois pas apparaßtre sous ma recalbox? C'est un problÚme de thÚme non compatible? (j'ai le thÚme par défaut)

                            1 Reply Last reply Reply Quote 0
                            • acris
                              acris last edited by acris

                              @screech
                              j'ai téléchargé la derniÚre version du soft pour scrapper 3345 roms advmame, j'ai configuré avec mon compte.
                              je comprend pas pourquoi au bout de 45min il vérifie le hash et quil a fait que 350 roms alors qu'avec des anciennes versions du logiciel en 45 min il avait déjà plus de la moitié.
                              J'ai choisi mix 3img
                              temps estimé : 4h00 pour ce scrap.
                              J'ai testé en semaine le matin de bonne à 5h00 et pareil !

                              azvarel 1 Reply Last reply Reply Quote 0
                              • azvarel
                                azvarel @acris last edited by

                                @acris There must have been a problem on the server, it was redoing the SNES and it was super fast already the NES soon after, it was forgotten in time and it is already more than 4 hours and still not finished

                                Zodian Theme | #SNESProject

                                1 Reply Last reply Reply Quote 0
                                • Mydriaze
                                  Mydriaze last edited by

                                  C'est possible que ca vienne du serveur car j'ai eu un mal fou a recevoir mon mail aprĂšs inscription, et pareil pour ĂȘtre loggĂ© dans UXS, j'ai mis une bonne heure avant de pouvoir y accĂ©der.

                                  Une question s'il vous plait: comment "voir" le mode "mix d'image" dans Recalbox? C'est spécifique a un thÚme en particulier?

                                  1 Reply Last reply Reply Quote 0
                                  • acris
                                    acris last edited by

                                    Wouaaaaaaaaa je suis verte , apres avoir perdu toute l apres midi sur le hash , plantage de USX sur un problÚme de variable non déclaré. Bref une demi journée de perdu.

                                    azvarel 1 Reply Last reply Reply Quote 0
                                    • azvarel
                                      azvarel @acris last edited by

                                      @acris The same thing happened to me now!

                                      Zodian Theme | #SNESProject

                                      azvarel 1 Reply Last reply Reply Quote 0
                                      • azvarel
                                        azvarel @azvarel last edited by

                                        @screech
                                        It's impossible to do scrap mix 3 img I lost the day and has not yet made 1651 roms of NES and is in 1/3 of what is missing and still says that it finishes in 6 hours

                                        Zodian Theme | #SNESProject

                                        1 Reply Last reply Reply Quote 0
                                        • acris
                                          acris last edited by acris

                                          @screech
                                          je ne comprends pas, j'ai enfin réussi à scapper mes roms advmame (parent only avec neogeo) en choissant mame, cependant les roms neogeo ont pas été scrappé (logique)
                                          je recommence en choisissant ajouter les roms manquantes dans la config général puis je choisis neogeo et là
                                          il trouve rien enfin si les images c'est bon mais au niveau des noms rien, et il a supprimé ce qui était déjà existant.
                                          Logiquement il aurait dû laisser le gamelist.xml et ajouté uniquement ce que je lui demandai

                                          <game id="" source="ScreenScraper">
                                          	<path>./005.zip</path>
                                          	<name> (CLONE, BETA, DEMO, PROTO, TRAD, HACK, UNL)</name>
                                          	<desc/>
                                          	<image>./downloaded_images/005-image.png</image>
                                          	<image/>
                                          	<rating>0</rating>
                                          	<releasedate>00000000T000000</releasedate>
                                          	<developer/>
                                          	<publisher/>
                                          	<genre/>
                                          	<players/>
                                          	<region/>
                                          	<hidden/>
                                          </game>
                                          
                                          1 Reply Last reply Reply Quote 0
                                          • Pepe
                                            Pepe @screech last edited by Pepe

                                            @screech, @cotedeporc From what I have been able to verify, modifying the parameters of pngquant in config.xml of the Foolscreen mix does not work. It seems as if the foolscreen mix does not get to use pngquant or even it may not be using by UXS. I have modified the settings in the config.xml of each foolscreen mix, I have scraped and just like before the change, there has been no compression in the png. I have passed pngquant by the result with the same parameters that I put in the config xml and compresses the images leaving them to 20%-25% of its weight. It seems that Foolscreen or UXS are not doing all their work well.

                                            @cotedeporc On the other hand, in the animated gifs you show, there are mix images that do not exist in UXS: Vectrex, PSP, NGPC etc ...

                                            Pepe 1 Reply Last reply Reply Quote 0
                                            • First post
                                              Last post

                                            Want to support us ?

                                            98
                                            Online

                                            99.6k
                                            Users

                                            28.1k
                                            Topics

                                            187.1k
                                            Posts

                                            Copyright © 2021 recalbox.com