Jean-François Boulicaut & Mohand-Saïd Hacid

Transcription

1 e siècle! Jean-François Boulicaut & Mohand-Saïd Hacid Laboratoire d'informatique en Image et Systèmes d'information LIRIS UMR 5205 CNRS/INSA de Lyon/Université Claude Bernard Lyon 1/Université Lumière Lyon 2/Ecole Centrale de Lyon Université Claude Bernard Lyon 1, bâtiment Nautibus 43, boulevard du 11 novembre 1918 F Villeurbanne cedex

2 e siècle! Partie 1 Mohand-Saïd Hacid mohand-said.hacid@liris.cnrs.fr Accu

3 Big Data? 1 million characters 1 megabyte 1,000 megabytes 1 gegabyte 1,000 gegabytes 1 terabyte 1,000 terabytes 1 petabyte 1,000 petabytes 1 exabyte Information contenue dans le génome humain Production littéraire annuelle dans le monde Toutes les bibliothèques académiques américaines 2/3 de la production Source:

4 BIG DATA Volume, Variété, Vélocité, Valeur + Véracité, Validation, Vérification, Vivification Plus de données: Nouvelles et meilleurs solutions (pour des problèmes anciens!) Plus de précisions

5 IDC International Data Corporation Décembre EB (2005) 40,000 EB (2020) De 2012 à 2020: numérique doublera chaque année Infrastructure (matériel, logiciel, services, télécommunications, personnel) augmentera de 40% entre 2012 et 2020 par GB passera de 2.00$ à 0.20$ ( ) Investissements liés à la gestion du stockage, sécurité, Cloud: augmenteront de façon significative

6 Une petite fraction de numérique est explorée à des fins. 2020, 33% de numérique contiendra des informations utiles à analyser. En 2020: 40% de de numérique sera accessible via le Cloud Protection des données: 1/3 en 2010 plus de 40% en 2020

7

8

9 Economie dirigée par les données 2009: Google a contribué à hauteur de 54 M$ à américaine Les moteurs de recherche transforment la façon à Nouvelle économie: Google, Yahoo!, Microsoft, Information sur le Web formater pour les rendre utilisables Nouveaux services: Images satellites, systèmes recherche par le contenu,

10 Wall-Mart/HP: entrepôt de données de 4 PB 267 millions de transactions/jour 6000 magasins Application de techniques pour un meilleur impact : Des stratégies des prix Des campagnes publicitaires

11 escience Science dirigée par les données Géoscience: seulement 0.5% de toutes les données collectées ont été examinées. Quelques études: LSST LHC (accélérateur de particules) - comprendre le fonctionnement de 60 TB/jour 15 PB/an (15 millions de GB) Très gros volumes de données Analyse (semi-)automatique LSST (Large Synoptic Survey Telescope) in optical astronomy: LHC (Large Hadron Collider) in HEP (High Energy Physics):

12 Technologie Big Data Capteurs: télescopes, caméras, IRM, puces ADN, individus, organisations, Réseaux Supports de stockage Disque 1 TB (< 100 ) Contenu des livres de la bibliothèque du congrès: 20 TB Clusters (configuration matérielle choisie) Des milliers de (plusieurs disques et processeurs par machine) Verrous algorithmiques

13 Cloud Algorithmes de données Beaucoup de données analyse (semi-)automatique Difficulté: algorithmique Nouvelle forme de calcul Combiner statistique, optimisation et raisonnement

14 Défis! Infrastructure de gestion Distribution Optimisation de requêtes (cas des réseaux de capteurs) traitement parallèle Indexation intelligente Traitement de flux de données Qualité des données (aspects, probabilistes, incomplétude ) Sémantique des données Visualisation et interaction intelligentes Outils de données Intégration de calcul symbolique, de la fouille et de

15 PB Générer des échatillons qui peuvent tenir en données

16 Outils statistiques SAS, Excel, : utilisables seulement si des gros volumes de données sont réduits à des résumés pouvant tenir en mémoire Conséquence: maintenir des schémas relationnels normalisés et complexes peut difficile et coûteux Orientation ensembliste de SQL Interfaces bas niveau ODBC/JDBC Barrières pour les analystes pour utiliser les bases de données Nouveaux langages et modèles qui traduisent naturellement Analyses deviennent plus complexes Reproductibilité de workflows analytiques et leurs résultats devient très important!

17 PetaSky Gestion et exploration des grandes masses de données scientifiques issues LIMOS ( des Systèmes, LIRIS (Laboratoire LPC (Laboratoire de Physique Corpusculaire, APC (AstroParticule et Cosmologie, CC-IN2P3 (

18 Altitude: 2682 mètres Région: Coquimbo Diamètre du télescope: 8 mètres LSST: Large Synoptic Survey Telescope

19 Images: 3.2 Gpix 15 à 30 TB/nuit pendant 10 ans

20

21 Objectifs généraux Proposer une architecture distribuée capable de stocker 140 PB de données Pouvoir évaluer aussi bien des requêtes simples (quelques secondes de calculs) que des requêtes complexes (des jours de calculs) Possibilité à des objets en utilisant des indexes ou en procédant à un parcours (scan) complet des grosses tables (>> 1 PB)

22 Verrous Scientifiques Accès séquentiel: 166 minutes pour lire 1 TB de données * Accès parallèle: avec 100 disques moins de 2 minutes Table Taille #enregistrement s Object 109 TB 38 B 470 Moving Object 5 GB 6 M 100 Source 3.6 PB 5 T 125 Forced Source Difference Image Source CCD Exposure Requêtes très coûteuses Exemple: Une simple opération de tri sur tous les objets 10 Peta => 6 h et 27 min avec 8000 machines LSST sera équipé de seulement 150 machines 1.1 PB 32 T 7 71 TB 200 B TB 17 B 45 Liste complète des requêtes: Défis LSST : ½ million de requêtes par jour ~50 requêtes simples et ~20 requêtes complexes à quel moment * Web Data Management. Serge Abiteboul, Ioana Manolescu, Philippe Rigaux, Marie-Christine Rousset, Pierre Senellart #colonnes (arité) SELECT * FROM Object ORDER BY rgaussianflux DESC

23 Base de données 1 million characters 1 megabyte 1,000 megabytes 1 gegabyte 1,000 gegabytes 1 terabyte 1,000 terabytes 1 petabyte 1,000 petabytes 1 exabyte Table Taille #enregistrements #colonnes (arité) Object 109 TB 38 B 470 Moving Object 5 GB 6 M 100 Source 3.6 PB 5 T 125 Forced Source 1.1 PB 32 T 7 Difference Image Source 71 TB 200 B 65 CCD Exposure 0.6 TB 17 B 45

24 Gestion de données - verrous Méta données + catalogues + alertes: stockées dans 75 tables Axes de recherche Requêtes ( Analyse objet spécifique Analyse de tous les objets satisfaisant certains critères Dans une région Dans tout le ciel Analyse des objets proches objets Analyses qui nécessitent des groupements spécifiques Analyses de séries temporelles Croisements avec des catalogues externes Indexation (classique + sémantique [méta données]) Fragmentation Optimisation (pré-calculer, ordre ) Fouille de données distribuées

25 Axes de Recherche Stockage de données Row, column, tree Partitionnement et duplication Tenant compte de la typologie et de la fréquence des requêtes Tenant compte de la distribution des traitement (MapReduce) 3 attributs => 4 indexes [ABC, AC, BC, C] 25

26 Matériel: 1 machine dotée de 14Go de RAM, 2,5 To de capacité de 3 machines dotées de 4 Go de Ram, 380 Go de capacité de Jeu de données PT1.1: 2 tables avec un volume total de 90 Go Table Source: 85 Go Table Object: 5Go Jeu de requêtes: 10 requêtes SQL standards (sélection, projection, jointure, Group by, Order by, Count)

27 Performances Sans index Avec index HadoopDB HIVE HadoopDB HIVE postgresql Mysql SGBD-Co ,6 1362,17 0, ,19 0, , , ,49 0, ,752 40, , ,61 0, ,936 35, , ,31 0, , , ,642 28,17 39,1 43, , , ,58 38, (> ,7 ( > ,461 (> 27 8 heures) 1646 minutes) minutes) 1424, , ( > 6 heures) 1744, ,6 1744,752 0,005 0,46 0, (> , minutes)

28 Expérimentation ->Analyse->publication Expérimentation-> Organisation des données->analyse->publication La science utilise pour améliorer le processus de découverte permet des découvertes

29 Références Préservation des données NFS: escience Center (Edinburgh): escience Institute: Purdue University Discovery Park: Depuis 1975: VLDB (Very Large Data Bases)- Depuis 2007: XLDB (extremely Large Data Bases)- SciDB : (Open Source Data Management and Analytics Software for Scientific Research)- Mastodons CNRS:

30 BIG DATA FAST (and BIG) DATA (cas de Twitter)! How fast is information chiffres de Mars 2013:

31 e siècle! Partie 2