Recalbox Forum

    • Register
    • Login
    • Search
    • Recent
    • Tags
    • recalbox.com
    • Gitlab repository
    • Documentation
    • Discord

    [SOFT] Universal XML Scraper V2

    Community projects
    [soft] universal xml scraper
    112
    670
    633252
    Loading More Posts
    • Oldest to Newest
    • Newest to Oldest
    • Most Votes
    Reply
    • Reply as topic
    Log in to reply
    This topic has been deleted. Only users with topic management privileges can see it.
    • DacK
      DacK @voljega last edited by

      @voljega said in [SOFT] Universal XML Scraper V2:

      @dack c'est ça, pas essayé de mon côté donc je ne peux pas te conseiller plus que ça 🙂

      Fonctionne parfaitement (pour les jeux qui fonctionnent), et en plus on gagne de la place ! merci.

      1 Reply Last reply Reply Quote 0
      • Xanarkan
        Xanarkan last edited by

        J'avoue ne pas avoir lu les 600 messages et une recherche sur le forum n'a rien donné (ou alors j'ai pas utilisé les bons mots), mais y a-t'il un moyen pour avoir un screenshot et le boitier de face plutôt qu'en 3D ? Dans la configuration du soft je ne trouve que "screenshot" ou le mix pré-configuré.

        J'imagine qu'il doit y avoir moyen en modifiant le fichier d'avoir un screenshot et le boitier du jeu bien de face, non ?

        Je trouve qu'on ne voit pas bien le boitier dans cette configuration et autant pour des jeux que je ne connais pas les screenshot peuvent être un vrai plus pour me donner envie de lancer le jeu, autant pour ceux que je connais c'est le boitier qui va jouer ce rôle.

        Raspberry Pi 3b @1.3 GHz | Xbox 360 Controllers | Recalbox 4.1
        HTPC: Intel Core i5 4570S @2.9 GHz | Intel HD Graphic 4600 | Kingston KHX1600C9D3 4 Go DDR3 | Asus H81M-PLUS | Asus Xonar DX

        1 Reply Last reply Reply Quote 0
        • screech
          screech last edited by

          @Xanarkan C'est tout à fait possible.
          Mais pour cela il te faut créer un nouveau "Mix" 😉
          https://github.com/Universal-Rom-Tools/Universal-XML-Scraper/wiki/[TUTO]-Making-a-MIX-Template

          @kevinnash et @daminoutav Non désolé...

          @Archangel54 Tu peux. Au niveau des exclusions (option générale) Tu peux préciser des extensions (*.txt par exemple) mais aussi des fichiers (neogeo.zip par exemple) Le problème, c'est qu'il ne seront juste "pas scrapé"... Ils seront toujours dans la liste. Le plus simple c'est de les "cacher" 😉

          Clean your Romset with Universal ROM Cleaner
          Scrape your Romset with Universal XML Scraper

          Archangel54 SUCREFREEMAN 2 Replies Last reply Reply Quote 0
          • Archangel54
            Archangel54 @screech last edited by

            @screech Merci, j'ai trouvé l'option dans les menus après avoir posté ma question mais comme ils apparaissaient toujours dans la liste, cela ne me convenais pas.
            Je contourne le problème d'une autre façon, en enlevant les bios du dossier que je scrappe. Il faut simplement ne pas oublier de les ajouter lors de la copie pc-recalbox

            1 Reply Last reply Reply Quote 0
            • SUCREFREEMAN
              SUCREFREEMAN @screech last edited by

              @screech ,Bonjour, tout d'abord merci pour ton formidable Job!

              J'ai un soucis pour scrapper mes 247 roms neo geo. La totalité de mes roms est reconnu par xml scraper (format 3images) ou directement par la recalbox par screenscraper, cependant aucun affichage dans la liste des jeux sous recalbox.

              Je retrouve bien les images téléchargées dans le fichier néo géo/downloaded_images, en revanche mon fichier gamelist.xml reste vide pour la néo géo, je ne procède pourtant pas différement que pour mon pack nes,supernes...

              Aurais tu une idée car j'avoue que je ne sais plus ou chercher.

              D'avance merci

              1 Reply Last reply Reply Quote 0
              • jaworski75
                jaworski75 last edited by

                Bonjour à tous,

                Les scan des boites de jeux étant un peu petits pour mon thème (Bigshot Eudora), je voulais savoir comment je pouvais charger mes propres images.
                Sur XML, j'ai choisi uniquement la face avant de la boite en 2D mais j'aimerais remplacer les scans de la bank d'image screenscraper par mes propres visuels.
                Est ce que c'est possible?
                Merci d'avance pour votre aide!

                1 Reply Last reply Reply Quote 0
                • screech
                  screech last edited by

                  @SUCREFREEMAN as tu essayé de "supprimer" ton fichier gamelist.xml avant le scrape. J'ai entendu parler de fichier corrompu qui posait probleme.

                  @jaworski75 ce n'est pas possible malheureusement.
                  Par contre, tu peux "changer" la résolution dans le menu config / option Image. En fonction des systemes la résolution n'est pas "toujours" identique. Mais tu peux avoir la résolution "d'origine" ou une interpolation si tu veux vraiment l'image en "très" grand...
                  (De toutes façon, hormis si tu as une collection perso de front 2D de malade, je doute que tu trouve beaucoup de Front en aussi grande quantité dans une qualité raisonnable sur le net...)

                  Clean your Romset with Universal ROM Cleaner
                  Scrape your Romset with Universal XML Scraper

                  voljega 1 Reply Last reply Reply Quote 0
                  • jaworski75
                    jaworski75 last edited by

                    Merci pour les infos Screech, je vais tester cette option.
                    J'ai une autre question : j'ai vu sur le site screenscraper qu'il y a les dos des boites que j'aimerais beaucoup utiliser dans des "Mix" mais je ne vois pas cette possibilité dans Xml.
                    Y a t il un endroit où je pourrais trouver ce genre de templates? Est ce compliquer à créer soi même? Je n'aurais pas de pb pour la partie photoshop mais je n'y connais rien en prog/code....

                    1 Reply Last reply Reply Quote 0
                    • screech
                      screech last edited by

                      @jaworski75 En fait, tu peux créer tes MIX toi même 😉

                      https://github.com/Universal-Rom-Tools/Universal-XML-Scraper/wiki/[TUTO]-Making-a-MIX-Template

                      Clean your Romset with Universal ROM Cleaner
                      Scrape your Romset with Universal XML Scraper

                      1 Reply Last reply Reply Quote 0
                      • voljega
                        voljega Banned @screech last edited by

                        @screech said in [SOFT] Universal XML Scraper V2:

                        Par contre, tu peux "changer" la résolution dans le menu config / option Image. En fonction des systemes la résolution n'est pas "toujours" identique. Mais tu peux avoir la résolution "d'origine" ou une interpolation si tu veux vraiment l'image en "très" grand...
                        (De toutes façon, hormis si tu as une collection perso de front 2D de malade, je doute que tu trouve beaucoup de Front en aussi grande quantité dans une qualité raisonnable sur le net...)

                        L'interpolation n'interpole que dalle, ça sera la résolution d'origine ou rien....

                        Après pas mal de scrape avec UXS ça passe a peu près correctement pour les consoles de salon même avec les eudora big...
                        Par contre les consoles portables, GB ou autres, c'est la cata, c'est pixellisé.

                        En gros il faut que la plus petite des dimensions fasse 700 ou 800 px pour que ça s'affiche correctement.

                        Et avec l'avènement des très grosses résolutions dont la 4K n'est que le début, un gros chantier de recapture de jaquette en très grosse qualité (1000 px minimum pour la dimension voire 2000 px) semble inévitable...

                        Et aussi sur screenscraper en tout cas il y a un moment (pas rescrapé avec depuis un an ou presque) les images de jaquettes ne sont pas très clean, balance des couleurs souvent fade et/ou mauvais découpage de l'image avec des barres blanches sur le côté ou des images légèrement bancales

                        1 Reply Last reply Reply Quote 0
                        • screech
                          screech last edited by

                          @voljega Tu attends donc que UXS te sorte des images full hd nickel de screenshot d'une console portable dont la résolution d'origine était 160x144 pixels.... Ok...
                          Et tu attends aussi que Screenscraper soit 100% perfect sur tout les medias que les bénévoles ont gracieusement mis à dispo dans la BDD... Ok...

                          Proposition : trouve nous des screenshot perfect full hd de gamegear et participe avec la communauté au remplissage de la base de Screenscraper en les proposant. On se fera un plaisir de les héberger....

                          Clean your Romset with Universal ROM Cleaner
                          Scrape your Romset with Universal XML Scraper

                          voljega 1 Reply Last reply Reply Quote 0
                          • voljega
                            voljega Banned @screech last edited by voljega

                            @screech said in [SOFT] Universal XML Scraper V2:

                            Tu attends donc que UXS te sorte des images full hd nickel de screenshot d'une console portable dont la résolution d'origine était 160x144 pixels.... Ok...

                            Le mot 'jaquette' était important dans ma phrase et je répondais à une de tes phrases sur les front 2D 😉
                            Les screenshots quelque soit leur résolution sortent parfaitement sur des grosses résolutions étant donnés qu'ils sont déjà pixellisés.

                            Et je parle de chantier de 'recapture' qui n'a rien à voir en soit avec screenscraper et qui nécessite les boitiers originaux...

                            Et tu attends aussi que Screenscraper soit 100% perfect sur tout les medias que les bénévoles ont gracieusement mis à dispo dans la BDD... Ok...

                            Non je dis juste qu'un petit filtre automatique pour la balance des couleurs et le contraste lors de l'import des images serait une bonne solution, pour cropper les images ce doit bien sûr être fait manuellement.

                            Enfin mon commentaire concernait plus le futur des bases de données de scraping du jeu vidéo en général que screenscraper en particulier, sans recapture en bien meilleur qualité des medias (hors screenshots) ils seront de plus en plus pixellisés / moches sur des télés à la résolution de plus en plus grande...

                            Et d'une certaine façon c'est déjà le cas, impossible d'utiliser le theme Eudora avec affichage de la pochette en très grand sur une télé 4K, il faut prendre celui avec les pochettes de taille moyenne pour limiter un peu la casse.

                            (De toutes façon, hormis si tu as une collection perso de front 2D de malade, je doute que tu trouve beaucoup de Front en aussi grande quantité dans une qualité raisonnable sur le net...)

                            Proposition : trouve nous des screenshot perfect full hd de gamegear et participe avec la communauté au remplissage de la base de Screenscraper en les proposant. On se fera un plaisir de les héberger....

                            Ben pour tout ce qui est boxart front 2D Game Boy ou Game Gear, on trouve très facilement des images de meilleure qualité (encore un poil limite mais c'est mieux) sur Google Images par exemple.
                            Ou dans d'autres bases de scraping.

                            kevinnash 1 Reply Last reply Reply Quote 0
                            • kevinnash
                              kevinnash @voljega last edited by

                              @voljega said in [SOFT] Universal XML Scraper V2:

                              Enfin mon commentaire concernait plus le futur des bases de données de scraping du jeu vidéo en général que screenscraper en particulier, sans recapture en bien meilleur qualité des medias (hors screenshots) ils seront de plus en plus pixellisés / moches sur des télés à la résolution de plus en plus grande...

                              La résolution de la télé n'est absolument pas le problème puisqu'elle upscale pour remplir l'écran.

                              C'est la taille de la télé le problème sur un écran de 65 pouces comme le mien tu auras la même pixellisation, que la télé soit en 4K ou en full HD.

                              voljega 1 Reply Last reply Reply Quote 0
                              • voljega
                                voljega Banned @kevinnash last edited by voljega

                                @kevinnash non hein le résultat d'un upscaling d'une image de 500 par 500 censé s'afficher sur 3/4 de l'écran vers du 4k ou du 1080p ça donne pas la même chose c'est pas de la magie.

                                Dans le cas de la 4K t'auras forcément 2* plus de pixels interpolés en hauteur que dans le cas de la 1080p. Pareil en largeur, donc 4* plus au final

                                Que la différence entre les deux ne soit pas hyper visible ok mais qu'est ce que ça va être dans 10 ans ....

                                1 Reply Last reply Reply Quote 0
                                • kevinnash
                                  kevinnash last edited by kevinnash

                                  Tu as tort, ça donne exactement la même chose à taille d'écran égale, l'upscale multiplie simplement les pixels.

                                  A l'inverse si ton écran était tout petit ton image ne serait pas pixellisée, que l'écran soit full HD ou 4K.

                                  Mais je ne vais pas m'étendre, ce n'est pas le sujet.

                                  1 Reply Last reply Reply Quote 0
                                  • screech
                                    screech last edited by

                                    Bon désolé, faut que j’arrête de répondre le matin au réveil sans café dans les veines 😉 à la relecture de mon post, je suis un peu "virulent" 😉

                                    Donc si je reprend : La qualité des médias de ScreenScraper (et donc d'UXS) dépend énormément (voir exclusivement) des médias proposés par les utilisateurs et ceux récupérés à droite à gauche...

                                    Notre rêve serait de trouver un (ou plusieurs) énorme collectionneur prêt à scanner en très haute définition leur(s) collection(s) complète de covers.
                                    Le problème c'est qu'on en connait pas 😉

                                    On a quand même la chance d'avoir certains "inscrits" qui nous scan leur propre média. En règle général on essaie de récupérer ce qu'il y a de mieux sur le net. Mais concrètement ce n'est pas toujours possible... Et si la qualité d'un média est pourris, tous le monde à la possibilité d'ajouter un media de meilleur qualité 😉

                                    Après, un autre point à prendre en compte c'est l'espace de stockage...
                                    Wheel : 33367
                                    Screenshot : 60850
                                    Vidéo : 27015
                                    Texture Boitier : 26831
                                    Texture Support : 9212
                                    Marquee : 2429
                                    ScreenMarquee : 18739

                                    Si on avait tous en 2400x2400 😉 on arriverait vite en saturation de stockage 😉

                                    mais (spoiler alerte) on change bientot de serveur pour encore plus performant et avec beaucoup plus d'espace 😉

                                    Enfin, en fonction des systèmes, une covers complète c'est autour de 1000x700. Ce qui est tout de même très raisonnable, même sur un écran Full HD (quelque soit sa taille 😉 ) bon sur du 4K, faut faire un x2 en interpolation, mais comme je disais (pas forcement gentiment 😉 ) :
                                    "Qui joue à des jeux qui ont une résolution d'origine de 160x144 sur un écran 4K ?????"
                                    Si c'est le cas, revendez votre télé 4K et achetez un énorme écran CRT ^^ ça passera mieux 😉
                                    (J'imagine effectivement dans 10 ans : "héhé, j'ai ma télé de 16m sur 9 en 360K, la cover pareil, j'ai fait un agrandissement format affiche de cinéma d'une boite en carton qui faisait 12 cm sur 12 à l'epoque. Le jeu ? oui oui, c'est le petit carré de 3 cm sur 3 au milieu la... je joue en pixel perfect dans la résolution d'origine, je suis un puriste moi..." )

                                    Encore une fois le débat est un peu différent entre : "les médias sont dans une résolution trop faible." et "est-ce vraiment pertinent qu'ils soient dans une résolution plus importante ?"

                                    à titre d'exemple (parmi des milliers) voila le genre de cover présente sur ScreenScraper :
                                    https://www.screenscraper.fr/medias/114/106865/box-texture(jp).png

                                    Il s'agit d'un scan d'original d'un de nos membres. (Merci Biblo)

                                    (bon après on a aussi des trucs affreux, et on limite au maximum, il n'y a vraiment que pour les trucs introuvable qu'on garde... mais à la limite on peut lancer un sondage : "vous préférez avoir un scrape 'complet' mais avec quelques trucs moches" ou "rien du tout" ?)

                                    Et tant qu'on est dans les stats :
                                    Voici mes propres stats de "validation" sur Screenscraper :
                                    Media "modérés" : 34650 Validé : 24212 Refusé : 10353
                                    (ça te donne une petite idée de la modération effectuée sur ScreenScraper 😉 )

                                    Voila, donc en gros : on fait au mieux 😉 et si c'est pas assez 😉 viendez nous aider ^^

                                    Clean your Romset with Universal ROM Cleaner
                                    Scrape your Romset with Universal XML Scraper

                                    DacK voljega 2 Replies Last reply Reply Quote 4
                                    • DacK
                                      DacK @screech last edited by

                                      @screech said in [SOFT] Universal XML Scraper V2:

                                      à titre d'exemple (parmi des milliers) voila le genre de cover présente sur ScreenScraper :
                                      https://www.screenscraper.fr/medias/114/106865/box-texture(jp).png

                                      Oh punaise ! J'ai encore la VHS du 1er ep en animé... désolé pour le HS, mais j'avais adoré ce truc quand j'étais un jeunot...

                                      Pour revenir au sujet, la bdd reste très vivante, le temps fera le reste... L'idéal serait, en effet, des images hi-res (c'est le graphiste qui parle) avec un traitement à la demande, mais ça reste un travail considérable...
                                      A titre perso, je préfère une base complète à une base qui n'a que du hi-res mais moins complète.

                                      1 Reply Last reply Reply Quote 0
                                      • voljega
                                        voljega Banned @screech last edited by

                                        @screech merci pour les précisions.

                                        Après le stockage devoent un problème côté recalbox aussi par exemple mon set cpc les jaquettes et les manuels prennent beaucoup plus de place que les roms elles-mêmes

                                        1 Reply Last reply Reply Quote 0
                                        • Archangel54
                                          Archangel54 last edited by

                                          @screech Bonjour et merci pour ton logiciel, je n'arrive plus à m'en passer...

                                          Voici un cas sur lequel je suis tombé et qui ne doit pas être isolé à mon avis :
                                          Le scrappe du jeu "World Series Baseball '95" sur Megadrive me donne comme genre "Action". Sur le site screenscraper.fr, il y a 2 genres renseignés : "Action" et "Sport".

                                          Donc ma question est la suivante : serait-il possible avec UXS de "récupérer" et, pourquoi pas combiner, tous les genres disponibles pour un jeu ?

                                          Cordialement, Mickaël.

                                          1 Reply Last reply Reply Quote 0
                                          • Grosj
                                            Grosj last edited by

                                            Bonjour,

                                            Pour info je n'arrivais pas a lancer une recherche dans Universal Xml Scraper V2 pour l'amiga. J'ai juste rajouté l’extension dans édition/ Configuration générale/ fichiers scrapés: *.adf;

                                            Voilà si ça peut aider.

                                            1 Reply Last reply Reply Quote 0
                                            • First post
                                              Last post

                                            Want to support us ?

                                            101
                                            Online

                                            99.6k
                                            Users

                                            28.1k
                                            Topics

                                            187.1k
                                            Posts

                                            Copyright © 2021 recalbox.com