Forum |  HardWare.fr | News | Articles | PC | S'identifier | S'inscrire | Shop Recherche
2494 connectés 

  FORUM HardWare.fr
  Programmation
  Algo

  Base de données ou fichier de données ?

 


 Mot :   Pseudo :  
 
Bas de page
Auteur Sujet :

Base de données ou fichier de données ?

n°2227463
pusse
Posté le 07-05-2014 à 12:44:06  profilanswer
 

Bonjour,
 
je vais tenté de vous expliquer mon "dilemme".  
 
J'ai prévu de récupérer un quantité importante de données dans un but d'étude statistiques.
Je pense faire mes études via excel ou tout logiciel similaire permettant notamment la création de graph....
Est-il à votre avis préférable, lors de la récupération de ces données, de les stocker en BDD et de générer un excel depuis les données qui m’intéressent (donc de faire la sélection avant l'ouverture dans le logiciel choisi)  ou de récupérer mes données directement dans un énorme fichier json ou xml (que je mettrai à jour au fur et à mesure) qu'il me suffirait d'ouvrir ensuite directement en excel ? Je tiens à préciser que je n'ai aucun problème avec la programmation. Mon problème viens plus du fait de savoir comment traiter cette importante masse de données.
 
Suis-je assez clair dans ma demande ? J'avoue que c'est pas facile à expliquer.
 
Je suis bien sûr preneur de toutes remarques, idées ...
 
Merci d'avance

mood
Publicité
Posté le 07-05-2014 à 12:44:06  profilanswer
 

n°2227469
Yonel
Monde de merde !
Posté le 07-05-2014 à 13:58:17  profilanswer
 

A mon avis le choix de la base de données va s'imposer pour une raison simple : la performance. D'autant que tu parles d'une quantité importante de données.
 
Si tu parses un énorme fichier plat à chaque ouverture de ton fichier excel ce sera difficile à gérer au niveau perf.
 
Par contre tu perds un peu en portabilité, puisqu'il faut installer la base.

n°2227473
pusse
Posté le 07-05-2014 à 14:11:19  profilanswer
 

Je dois avouer que je pensais un peu comme toi mais comme je prévois d'utiliser scrapy et que celui-ci permet l'export en json, csv ou xml, je me disais que plutot que de traiter toutes mes données pour les enregistrer en BDD (+ création de la bDD, de sa structure, des différentes tables....)
 
Je pensais gagner un peu de temps mais c'est sur que si c'est pour en perdre au final a chaque utilisation

n°2227566
Yonel
Monde de merde !
Posté le 08-05-2014 à 03:32:46  profilanswer
 

Ca vaut peut-être le coup d'essayer. Je pense que le parser peut-être rapide, mais c'est plus comment tu manipules tes données après le souci. Ce sera difficile d'être plus rapide qu'une base de données correctement indexée.
 
En fait tout va dépendre du volume de tes données et de leur organisation.

n°2227774
pusse
Posté le 12-05-2014 à 12:29:10  profilanswer
 

Tout ceci confirme bien mon premier choix (BDD + export des données nécessaires en csv).
 
Y'a plus qu'à coder tout ça.
 
Merci en tout cas pour vos réponse et à bientôt

n°2227783
rufo
Pas me confondre avec Lycos!
Posté le 12-05-2014 à 15:03:29  profilanswer
 

+1 pour une BD plus une extraction en csv qui viendra alimenter un onglet d'un fichier Excel. Sur un autre onglet, t'auras tes graphiques qui se mettront à jour en conséquence (au besoin, à l'aide de qq macros VBA). Je fais ça depuis 10 ans pour produire des docs de reporting : ça marche très bien.


---------------
Astres, outil de help-desk GPL : http://sourceforge.net/projects/astres, ICARE, gestion de conf : http://sourceforge.net/projects/icare, Outil Planeta Calandreta : https://framalibre.org/content/planeta-calandreta
n°2227963
pusse
Posté le 14-05-2014 à 11:52:47  profilanswer
 

Je me permets de revenir vers vous car après réflexion, j’arrive pas à me décider sur le choix d'une BDD (SQL ou noSQL). Je vais essayer de vous expliquer plus en détails.
 
Concernant les données à traiter, je récupère un json ou un csv (scrappy permet d'exporter les 2 formats). Il va s'agir de données sportives. Pour donner un exemple, un club de foot avec des joueurs, un entraineur, un stade, des matchs, des données météo suivant le match, le résultat....
 
Le but de tout ça est de faire des études de stats pour un match à venir. Comparaison des équipes suivant la météo, le stade (domicile ou extérieur), l'entraineur qui a changé, les performances sur les derniers matchs , la date dans la saison... Je peux avoir aussi envie de voir tout ce qu'a fait un entraineur (tous ces matchs tout club confondus), idem pour un joueur, pour un type de temps donnée...
 
Globalement, je vais avoir bcp de données, toutes structurées de la même manière (quasiment  :??: ), que j'ai besoin d'écrire une seule fois mais de lire plusieurs fois (extraction vers mon excel).
 
Je tiens à préciser que je suis dans la vie développeur php/mysql/css. J'ai donc des connaissances en SQL mais aucune en NoSQL.
 
Qu'est ce qui d'après-vous serait le plus logique ? Apprendre le NoSQL car je risque d'avoir rapidement bcp de données ? Passer du temps à structurer mes tables parfaitement et parser mes json ou csv avant insertion. Insérer le json directement dans une table NoSQL orientée documents ? orientée graphe ?....
 
Merci à tous pour vos pistes de réflexion
 
ps : si vous pensez que ce serait mieux que j'ouvre un autre topic, n'hésitez pas.

n°2227994
rufo
Pas me confondre avec Lycos!
Posté le 14-05-2014 à 14:17:51  profilanswer
 

Une BD Mysql en MyIsam (vu qu'il y a plus de lecture que d'écriture) bien structurée et surtout, bien indexée, ça devrait le faire sans pb. Faudra surtout bien la structurer par rapport aux traitements (stats) que tu voudras faire. Pour info, j'ai déjà fait des tables de plusieurs millions de lignes, ça passe sans pb ;)


---------------
Astres, outil de help-desk GPL : http://sourceforge.net/projects/astres, ICARE, gestion de conf : http://sourceforge.net/projects/icare, Outil Planeta Calandreta : https://framalibre.org/content/planeta-calandreta
n°2227999
pusse
Posté le 14-05-2014 à 14:34:17  profilanswer
 

J'etais plus parti sur du inno_db car je ne pensais garder des stats que sur 5 ans maxi. Donc quand je voudrais en supprimer, je me disais qu'une bonne structure en inno_db serait plus facile et plus efficace.
 

Citation :

Une BD Mysql en MyIsam (vu qu'il y a plus de lecture que d'écriture) bien structurée et surtout, bien indexée


 
bien indexée c'est a dire ?
 

Citation :

Faudra surtout bien la structurer par rapport aux traitements (stats) que tu voudras faire


 
c'est à dire bis ?  :sweat:  
 

n°2228018
rufo
Pas me confondre avec Lycos!
Posté le 14-05-2014 à 15:05:59  profilanswer
 

bien choisir quels champs indéxer, voire créer des index portant sur plusieurs champs. Ca dépendra de tes requêtes et des jointures que tu feras. Le choix des index n'est pas définitif : à coup de EXPLAIN sur tes requêtes, tu verras quels index sont prix et si c'est ce qui te paraît pertinent. Si c'est pas le cas, tu change les index, tu refais du EXPLAIN et tu vois les temps d'exécutions. Tu fais ça jusqu'à avoir trouvé soit des perfs satisfaisantes, soit la meilleure combinaison d'index qui t'offre le meilleur temps d'exécution.
Au passage, un tuning du fichier de conf de Mysql ne sera probablement pas du luxe, notamment pour augmenter la taille de certains buffers et caches ;)
 
Pour la structuration, difficile de t'en dire plus ne connaissant pas les données que tu manipules ni précisément les stats que tu vas faire dessus. En gros faudra construire tes tables et les liaisons entre-elles de manière à ce que les jointures ne soient pas trop complexes et les calculs sur certains champs minimisés.
Edit : ça veut dire que tu respectera peut-être pas forcément scrupuleusement la forme 3NF de Codd :o
http://fr.wikipedia.org/wiki/Forme [...] me_normale


Message édité par rufo le 14-05-2014 à 15:07:21

---------------
Astres, outil de help-desk GPL : http://sourceforge.net/projects/astres, ICARE, gestion de conf : http://sourceforge.net/projects/icare, Outil Planeta Calandreta : https://framalibre.org/content/planeta-calandreta
mood
Publicité
Posté le 14-05-2014 à 15:05:59  profilanswer
 

n°2228026
pusse
Posté le 14-05-2014 à 15:36:28  profilanswer
 

Je dois avouer que je n'ai jamais utilisé les index (honte à moi  :sweat: ) mais d'après le peu que je viens d'en lire, ça va m'être utile sachant que je ne vais principalement faire des recherches et extraction sur un nombre restreint de champs (nom du joueur, de l'entraineur...).
 
Concernant la structuration, ce qui me fait peur, c'est mes tables de liasions. Je pense que je vais en avoir un paquet avec pas mal de champs liés à la liaison... à voir, je ne sais pas encore trop

n°2228039
rufo
Pas me confondre avec Lycos!
Posté le 14-05-2014 à 16:17:16  profilanswer
 

T'as jamais utilisé d'index dans tes BD :??: C'est à coup à te pourrir grave les perfs ! :pt1cable:
Je te conseille vivement de bien prendre ton temps pour faire le MCD. Sinon, c'est mort... :o


---------------
Astres, outil de help-desk GPL : http://sourceforge.net/projects/astres, ICARE, gestion de conf : http://sourceforge.net/projects/icare, Outil Planeta Calandreta : https://framalibre.org/content/planeta-calandreta
n°2228045
pusse
Posté le 14-05-2014 à 16:26:15  profilanswer
 

Autant pour moi, j'ai déjà utilisé des index  :sweat:  mais jamais dans le cadre d'une consultation. C'était plus dans le sens d'une suppression d'un champ avec suppression en cascades des enregistrement liés.
 
J'ignorais complétement que cela augmenté les perfs en cas de consultation. Pour moi c'était plus une histoire de cascade des MAJ ou suppression

n°2228049
rufo
Pas me confondre avec Lycos!
Posté le 14-05-2014 à 17:03:21  profilanswer
 

pusse a écrit :

Autant pour moi, j'ai déjà utilisé des index  :sweat:  mais jamais dans le cadre d'une consultation. C'était plus dans le sens d'une suppression d'un champ avec suppression en cascades des enregistrement liés.
 
J'ignorais complétement que cela augmenté les perfs en cas de consultation. Pour moi c'était plus une histoire de cascade des MAJ ou suppression


Tu confondrais pas avec les clés étrangères voire avec les triggers, là :??: Parce qu'un index trouve son intérêt principalement dans les requêtes de type SELECT ou d'autres types de requêtes contenant des clauses WHERE (je pense au UPDATE ou DELETE)...


---------------
Astres, outil de help-desk GPL : http://sourceforge.net/projects/astres, ICARE, gestion de conf : http://sourceforge.net/projects/icare, Outil Planeta Calandreta : https://framalibre.org/content/planeta-calandreta
n°2228050
pusse
Posté le 14-05-2014 à 17:19:08  profilanswer
 

Au boulot je m’embête pas, pour les BDD j'utilise phpmyadmin et dedans, quand je fais référence à une clé étrangère, je la signale comme Index et après je défini le comportement en cas d'Update ou Delete dans la gestion des relations de la table; c'est dans ce contexte là que je parles d'index. Mais j'ignorais que cela avais une valeur en terme de Select et de gestion des ressources/vitesse...
 
Donc en gros j'ai l'impression que l'on parle de la même chose non ?  :pt1cable:  
 
Par contre, j'ignorais que tu pouvais définir un Index sur une colonne qui n'est pas une clé étrangère et que cela accélère la remontée de données si tu fais une recherche sur cette colonne

n°2228052
rufo
Pas me confondre avec Lycos!
Posté le 14-05-2014 à 17:31:54  profilanswer
 

Ca accélère la recherche si l'index est bien utilisé. C'est pas aprce que tu définis un index qu'il est utilisé par l'optimiseur de requêtes, en particulier quand tu définis plusieurs index sur une même table, d'où l'utilité de la commande EXPLAIN pour voir comment Mysql traite ta requête (ordre de jointure des tables, index utilisés...).
 
Quasi systématiquement, la clé primaire est un index. Les clés étrangères, en général aussi, mais dans le cas où y'en beaucoup dans une même table, c'est pas forcément judicieux de définir un index sur chacun d'elle.
 
Il me semble que l'optimiseur de requête a une règle qui considère que si un index oblige à parcourir plus du 1/3 du nb de lignes d'une table, il ne l'utilise pas car l'index est considéré comme pas efficace.
C'est pour ça que dans certains cas, ça peut être utile de définir des index composés de 2 ou 3 champs (index composés).


---------------
Astres, outil de help-desk GPL : http://sourceforge.net/projects/astres, ICARE, gestion de conf : http://sourceforge.net/projects/icare, Outil Planeta Calandreta : https://framalibre.org/content/planeta-calandreta
n°2228117
pusse
Posté le 15-05-2014 à 13:46:50  profilanswer
 

Ok Ok, reste plus qu'à s'y mettre. Je passerais peut-être te poser un aperçu de ma base de données et de mes MVC si ca te dérange pas.
 
En tout cas, merci pour ton aide.
 
A bientôt peut-être

n°2228119
rufo
Pas me confondre avec Lycos!
Posté le 15-05-2014 à 13:58:41  profilanswer
 

Pas de quoi ;)


---------------
Astres, outil de help-desk GPL : http://sourceforge.net/projects/astres, ICARE, gestion de conf : http://sourceforge.net/projects/icare, Outil Planeta Calandreta : https://framalibre.org/content/planeta-calandreta
n°2242588
MagicBuzz
Posté le 10-11-2014 à 12:51:02  profilanswer
 

Bonjour,
 
Juste comme ça...
 
Vous parlez d'une base de données : pourquoi utiliser MySQL alors qu'on est en environnement Microsoft -Excel- et donc que SQL Server Express est disponible ?
 
Ensuite, vous parlez d'extraire les données en CSV (ou autre ignominie) avant de les ouvrir dans Excel... Pourquoi ?
Excel est capable de charger des données directement depuis n'importe quelle base de données, du moment qu'il existe un pilote ODBC.
Et même mieux, on peut charger des données à partir d'une requête (et non une simple lecture séquentielle table par table).
 
Bref, vous vous compliquez pas un peu la vie là ?
 
1/ Un DSN sur la machine client.
2/ Un fichier Excel tout bête, configuré pour utiliser le DSN.
3/ 5 minutes de formation pour expliquer à l'utlisateur comment charger des données dans Excel à partir d'une source de données distante
 
Et vous faite des heureux (autant qu'il y a d'utilisateurs).


Aller à :
Ajouter une réponse
  FORUM HardWare.fr
  Programmation
  Algo

  Base de données ou fichier de données ?

 

Sujets relatifs
Comment génerer un fichier csv à partir d'une base de données?fichier .csv vers la base de données
Inserer données fichier excel dans base MysqlCréer/Manipuler base de données à partir d'un fichier .db
Synchroniser un base de données vers un fichier XMLInserser et lire fichier word dans base de donnees SQL
Création d'une base de donneés à partir d'un fichier XML en VB.NETgénération de fichier XML à partir d'une base de données SQL ??
[C#.NET]logiciel GNU et acces a une base de données fichier ?mon fichier base de données sous Linux
Plus de sujets relatifs à : Base de données ou fichier de données ?


Copyright © 1997-2022 Hardware.fr SARL (Signaler un contenu illicite / Données personnelles) / Groupe LDLC / Shop HFR