BIG DATA en Sciences et Industries de l Environnement

Dimension: px
Commencer à balayer dès la page:

Download "BIG DATA en Sciences et Industries de l Environnement"

Transcription

1 BIG DATA en Sciences et Industries de l Environnement François Royer 21 mars 2012 FR Big Data Congress, Paris /23

2 Transport terrestre Traçabilité Océanographie Transport aérien Télémétrie - Argos Imagerie satellite FR Big Data Congress, Paris /23

3 Points clés Vers une Science ultra-empirique? Big Data pour la Recherche et l Industrie : mode d emploi Hadoop et les données géographiques et temporelles FR Big Data Congress, Paris /23

4 Points clés Vers une Science ultra-empirique? Big Data pour la Recherche et l Industrie : mode d emploi Hadoop et les données géographiques et temporelles FR Big Data Congress, Paris /23

5 L ère du Data Scientist L accumulation exponentielle de données transforme la démarche d analyse 1960 E. Wigner, The Unreasonable Effectiveness of Mathematics in the Natural Sciences, Comm. Pure and Applied Mathematics, vol. 13, no. 1, pp A. Halevy, P. Norvig, F. Pereira, The Unreasonable Effectiveness of Data, IEEE Intelligent Systems, vol. 24, no. 2, pp FR Big Data Congress, Paris /23

6 L ère du Data Scientist L accumulation exponentielle de données transforme la démarche d analyse 1960 E. Wigner, The Unreasonable Effectiveness of Mathematics in the Natural Sciences, Comm. Pure and Applied Mathematics, vol. 13, no. 1, pp A. Halevy, P. Norvig, F. Pereira, The Unreasonable Effectiveness of Data, IEEE Intelligent Systems, vol. 24, no. 2, pp FR Big Data Congress, Paris /23

7 All models are wrong, but some are useful. George Box FR Big Data Congress, Paris /23

8 Data Scientist = nouveau métier? Ce qui ne change pas Le besoin en compétences statistiques (Bayésiennes, fréquentistes etc...) La démarche de questionnement et de critique Les protocoles de collecte de données Ce qui change Le stockage et le traitement de données L interaction entre modélisateurs, ingénieurs systèmes et bases de données et... le client FR Big Data Congress, Paris /23

9 Data Scientist = nouveau métier? Ce qui ne change pas Le besoin en compétences statistiques (Bayésiennes, fréquentistes etc...) La démarche de questionnement et de critique Les protocoles de collecte de données Ce qui change Le stockage et le traitement de données L interaction entre modélisateurs, ingénieurs systèmes et bases de données et... le client FR Big Data Congress, Paris /23

10 Data Scientist = nouveau métier? Ce qui ne change pas Le besoin en compétences statistiques (Bayésiennes, fréquentistes etc...) La démarche de questionnement et de critique Les protocoles de collecte de données Ce qui change Le stockage et le traitement de données L interaction entre modélisateurs, ingénieurs systèmes et bases de données et... le client FR Big Data Congress, Paris /23

11 Data Scientist = nouveau métier? Ce qui ne change pas Le besoin en compétences statistiques (Bayésiennes, fréquentistes etc...) La démarche de questionnement et de critique Les protocoles de collecte de données Ce qui change Le stockage et le traitement de données L interaction entre modélisateurs, ingénieurs systèmes et bases de données et... le client FR Big Data Congress, Paris /23

12 Data Scientist = nouveau métier? Ce qui ne change pas Le besoin en compétences statistiques (Bayésiennes, fréquentistes etc...) La démarche de questionnement et de critique Les protocoles de collecte de données Ce qui change Le stockage et le traitement de données L interaction entre modélisateurs, ingénieurs systèmes et bases de données et... le client FR Big Data Congress, Paris /23

13 Data Scientist = nouveau métier? Ce qui ne change pas Le besoin en compétences statistiques (Bayésiennes, fréquentistes etc...) La démarche de questionnement et de critique Les protocoles de collecte de données Ce qui change Le stockage et le traitement de données L interaction entre modélisateurs, ingénieurs systèmes et bases de données et... le client FR Big Data Congress, Paris /23

14 Data Scientist = nouveau métier? Ce qui ne change pas Le besoin en compétences statistiques (Bayésiennes, fréquentistes etc...) La démarche de questionnement et de critique Les protocoles de collecte de données Ce qui change Le stockage et le traitement de données L interaction entre modélisateurs, ingénieurs systèmes et bases de données et... le client FR Big Data Congress, Paris /23

15 Points clés Vers une Science ultra-empirique? Big Data pour la Recherche et l Industrie : mode d emploi Hadoop et les données géographiques et temporelles FR Big Data Congress, Paris /23

16 Définition Big Data = gros volume (> 10 TB) Imagerie satellite 1-10 GB/jour Systèmes géolocalisés (véhicules, personnes) 100 MB/jour Modèles météo 100 GB/jour Simulateurs (traffic routier etc...) 100 GB/run Big Data + Big Process Données pré-traitées (GPS) Coût d analyse - Aggrégation, contextualisation Coût d analyse + Appels BD Coût d analyse +++ Calculs en cascade Coût d analyse +++ FR Big Data Congress, Paris /23

17 Définition Big Data = gros volume (> 10 TB) Imagerie satellite 1-10 GB/jour Systèmes géolocalisés (véhicules, personnes) 100 MB/jour Modèles météo 100 GB/jour Simulateurs (traffic routier etc...) 100 GB/run Big Data + Big Process Données pré-traitées (GPS) Coût d analyse - Aggrégation, contextualisation Coût d analyse + Appels BD Coût d analyse +++ Calculs en cascade Coût d analyse +++ FR Big Data Congress, Paris /23

18 Définition Big Data = gros volume (> 10 TB) Imagerie satellite 1-10 GB/jour Systèmes géolocalisés (véhicules, personnes) 100 MB/jour Modèles météo 100 GB/jour Simulateurs (traffic routier etc...) 100 GB/run Big Data + Big Process Données pré-traitées (GPS) Coût d analyse - Aggrégation, contextualisation Coût d analyse + Appels BD Coût d analyse +++ Calculs en cascade Coût d analyse +++ FR Big Data Congress, Paris /23

19 Définition Big Data = gros volume (> 10 TB) Imagerie satellite 1-10 GB/jour Systèmes géolocalisés (véhicules, personnes) 100 MB/jour Modèles météo 100 GB/jour Simulateurs (traffic routier etc...) 100 GB/run Big Data + Big Process Données pré-traitées (GPS) Coût d analyse - Aggrégation, contextualisation Coût d analyse + Appels BD Coût d analyse +++ Calculs en cascade Coût d analyse +++ FR Big Data Congress, Paris /23

20 Définition Big Data = gros volume (> 10 TB) Imagerie satellite 1-10 GB/jour Systèmes géolocalisés (véhicules, personnes) 100 MB/jour Modèles météo 100 GB/jour Simulateurs (traffic routier etc...) 100 GB/run Big Data + Big Process Données pré-traitées (GPS) Coût d analyse - Aggrégation, contextualisation Coût d analyse + Appels BD Coût d analyse +++ Calculs en cascade Coût d analyse +++ FR Big Data Congress, Paris /23

21 Définition Big Data = gros volume (> 10 TB) Imagerie satellite 1-10 GB/jour Systèmes géolocalisés (véhicules, personnes) 100 MB/jour Modèles météo 100 GB/jour Simulateurs (traffic routier etc...) 100 GB/run Big Data + Big Process Données pré-traitées (GPS) Coût d analyse - Aggrégation, contextualisation Coût d analyse + Appels BD Coût d analyse +++ Calculs en cascade Coût d analyse +++ FR Big Data Congress, Paris /23

22 Définition Big Data = gros volume (> 10 TB) Imagerie satellite 1-10 GB/jour Systèmes géolocalisés (véhicules, personnes) 100 MB/jour Modèles météo 100 GB/jour Simulateurs (traffic routier etc...) 100 GB/run Big Data + Big Process Données pré-traitées (GPS) Coût d analyse - Aggrégation, contextualisation Coût d analyse + Appels BD Coût d analyse +++ Calculs en cascade Coût d analyse +++ FR Big Data Congress, Paris /23

23 Définition Big Data = gros volume (> 10 TB) Imagerie satellite 1-10 GB/jour Systèmes géolocalisés (véhicules, personnes) 100 MB/jour Modèles météo 100 GB/jour Simulateurs (traffic routier etc...) 100 GB/run Big Data + Big Process Données pré-traitées (GPS) Coût d analyse - Aggrégation, contextualisation Coût d analyse + Appels BD Coût d analyse +++ Calculs en cascade Coût d analyse +++ FR Big Data Congress, Paris /23

24 Définition Big Data = gros volume (> 10 TB) Imagerie satellite 1-10 GB/jour Systèmes géolocalisés (véhicules, personnes) 100 MB/jour Modèles météo 100 GB/jour Simulateurs (traffic routier etc...) 100 GB/run Big Data + Big Process Données pré-traitées (GPS) Coût d analyse - Aggrégation, contextualisation Coût d analyse + Appels BD Coût d analyse +++ Calculs en cascade Coût d analyse +++ FR Big Data Congress, Paris /23

25 Définition Big Data = gros volume (> 10 TB) Imagerie satellite 1-10 GB/jour Systèmes géolocalisés (véhicules, personnes) 100 MB/jour Modèles météo 100 GB/jour Simulateurs (traffic routier etc...) 100 GB/run Big Data + Big Process Données pré-traitées (GPS) Coût d analyse - Aggrégation, contextualisation Coût d analyse + Appels BD Coût d analyse +++ Calculs en cascade Coût d analyse +++ FR Big Data Congress, Paris /23

26 Diagnostic Big Data Docteur, ais-je un problème Big Data? Oui, si : Vous avez un réseau d observation autonome (capteurs météo, RFID, GPS, balises Argos, smartphones, télémètres, instruments sur satellites...) Vos données dépendent d une communauté d utilisateurs ou d individus instrumentés (étude de la mobilité humaine, écologie terrestre et marine etc... ) Votre budget, programme de recherche ou business plan prévoit de mesurer d abord, traiter ensuite Ces systèmes de collecte produisent des flots de données plus vite que vous ne pouvez les traiter FR Big Data Congress, Paris /23

27 Diagnostic Big Data Docteur, ais-je un problème Big Data? Oui, si : Vous avez un réseau d observation autonome (capteurs météo, RFID, GPS, balises Argos, smartphones, télémètres, instruments sur satellites...) Vos données dépendent d une communauté d utilisateurs ou d individus instrumentés (étude de la mobilité humaine, écologie terrestre et marine etc... ) Votre budget, programme de recherche ou business plan prévoit de mesurer d abord, traiter ensuite Ces systèmes de collecte produisent des flots de données plus vite que vous ne pouvez les traiter FR Big Data Congress, Paris /23

28 Diagnostic Big Data Docteur, ais-je un problème Big Data? Oui, si : Vous avez un réseau d observation autonome (capteurs météo, RFID, GPS, balises Argos, smartphones, télémètres, instruments sur satellites...) Vos données dépendent d une communauté d utilisateurs ou d individus instrumentés (étude de la mobilité humaine, écologie terrestre et marine etc... ) Votre budget, programme de recherche ou business plan prévoit de mesurer d abord, traiter ensuite Ces systèmes de collecte produisent des flots de données plus vite que vous ne pouvez les traiter FR Big Data Congress, Paris /23

29 Diagnostic Big Data Docteur, ais-je un problème Big Data? Oui, si : Vous avez un réseau d observation autonome (capteurs météo, RFID, GPS, balises Argos, smartphones, télémètres, instruments sur satellites...) Vos données dépendent d une communauté d utilisateurs ou d individus instrumentés (étude de la mobilité humaine, écologie terrestre et marine etc... ) Votre budget, programme de recherche ou business plan prévoit de mesurer d abord, traiter ensuite Ces systèmes de collecte produisent des flots de données plus vite que vous ne pouvez les traiter FR Big Data Congress, Paris /23

30 Diagnostic Big Data Docteur, ais-je un problème Big Data? Oui, si : Vous avez un réseau d observation autonome (capteurs météo, RFID, GPS, balises Argos, smartphones, télémètres, instruments sur satellites...) Vos données dépendent d une communauté d utilisateurs ou d individus instrumentés (étude de la mobilité humaine, écologie terrestre et marine etc... ) Votre budget, programme de recherche ou business plan prévoit de mesurer d abord, traiter ensuite Ces systèmes de collecte produisent des flots de données plus vite que vous ne pouvez les traiter FR Big Data Congress, Paris /23

31 Diagnostic Big Data C est grave, Docteur? Tout ira bien, je vais vous prescrire du DevOps et des calculs distribués. FR Big Data Congress, Paris /23

32 Solutions Big Data FR Big Data Congress, Paris /23

33 Solutions Big Data Dev FR Big Data Congress, Paris /23

34 Solutions Big Data Opérations Dev FR Big Data Congress, Paris /23

35 Solutions Big Data Opérations QA Dev FR Big Data Congress, Paris /23

36 Solutions Big Data Opérations DevOps QA Dev FR Big Data Congress, Paris /23

37 Solutions Big Data Hier Noeuds de stockage périphériques Stockage sur plusieurs niveaux chaud / froid Supercalculateur au centre Data -> Code FR Big Data Congress, Paris /23

38 Solutions Big Data Hier Noeuds de stockage périphériques Stockage sur plusieurs niveaux chaud / froid Supercalculateur au centre Data -> Code FR Big Data Congress, Paris /23

39 Solutions Big Data Hier Noeuds de stockage périphériques Stockage sur plusieurs niveaux chaud / froid Supercalculateur au centre Data -> Code FR Big Data Congress, Paris /23

40 Solutions Big Data Hier Noeuds de stockage périphériques Stockage sur plusieurs niveaux chaud / froid Supercalculateur au centre Data -> Code FR Big Data Congress, Paris /23

41 Solutions Big Data Aujourd hui Noeuds de stockage sur même réseau GB Matériel milieu de gamme ( CPUs) Système de fichiers distribués (DFS) Gestion des jobs et données par des Master Nodes Code -> Data FR Big Data Congress, Paris /23

42 Solutions Big Data Aujourd hui Noeuds de stockage sur même réseau GB Matériel milieu de gamme ( CPUs) Système de fichiers distribués (DFS) Gestion des jobs et données par des Master Nodes Code -> Data FR Big Data Congress, Paris /23

43 Solutions Big Data Aujourd hui Noeuds de stockage sur même réseau GB Matériel milieu de gamme ( CPUs) Système de fichiers distribués (DFS) Gestion des jobs et données par des Master Nodes Code -> Data FR Big Data Congress, Paris /23

44 Solutions Big Data Aujourd hui Noeuds de stockage sur même réseau GB Matériel milieu de gamme ( CPUs) Système de fichiers distribués (DFS) Gestion des jobs et données par des Master Nodes Code -> Data FR Big Data Congress, Paris /23

45 Solutions Big Data Aujourd hui Noeuds de stockage sur même réseau GB Matériel milieu de gamme ( CPUs) Système de fichiers distribués (DFS) Gestion des jobs et données par des Master Nodes Code -> Data FR Big Data Congress, Paris /23

46 Solutions Big Data Aujourd hui Noeuds de stockage sur même réseau GB Matériel milieu de gamme ( CPUs) Système de fichiers distribués (DFS) Gestion des jobs et données par des Master Nodes Code -> Data FR Big Data Congress, Paris /23

47 Solutions Big Data Pourquoi Hadoop? Open source (fondation Apache, ouvert par Yahoo) Projet en maturation, communauté active Parallélisation de tâches et données robuste Standard de facto en analyse de données massives Bonne interopérabilité avec les data warehouse et BDs existantes (ETL, Hive, Sqoop) Offres commerciales (support, packaging, intégration: IBM, Cloudera, AWS...) FR Big Data Congress, Paris /23

48 Solutions Big Data Pourquoi Hadoop? Open source (fondation Apache, ouvert par Yahoo) Projet en maturation, communauté active Parallélisation de tâches et données robuste Standard de facto en analyse de données massives Bonne interopérabilité avec les data warehouse et BDs existantes (ETL, Hive, Sqoop) Offres commerciales (support, packaging, intégration: IBM, Cloudera, AWS...) FR Big Data Congress, Paris /23

49 Solutions Big Data Pourquoi Hadoop? Open source (fondation Apache, ouvert par Yahoo) Projet en maturation, communauté active Parallélisation de tâches et données robuste Standard de facto en analyse de données massives Bonne interopérabilité avec les data warehouse et BDs existantes (ETL, Hive, Sqoop) Offres commerciales (support, packaging, intégration: IBM, Cloudera, AWS...) FR Big Data Congress, Paris /23

50 Solutions Big Data Pourquoi Hadoop? Open source (fondation Apache, ouvert par Yahoo) Projet en maturation, communauté active Parallélisation de tâches et données robuste Standard de facto en analyse de données massives Bonne interopérabilité avec les data warehouse et BDs existantes (ETL, Hive, Sqoop) Offres commerciales (support, packaging, intégration: IBM, Cloudera, AWS...) FR Big Data Congress, Paris /23

51 Solutions Big Data Pourquoi Hadoop? Open source (fondation Apache, ouvert par Yahoo) Projet en maturation, communauté active Parallélisation de tâches et données robuste Standard de facto en analyse de données massives Bonne interopérabilité avec les data warehouse et BDs existantes (ETL, Hive, Sqoop) Offres commerciales (support, packaging, intégration: IBM, Cloudera, AWS...) FR Big Data Congress, Paris /23

52 Solutions Big Data Pourquoi Hadoop? Open source (fondation Apache, ouvert par Yahoo) Projet en maturation, communauté active Parallélisation de tâches et données robuste Standard de facto en analyse de données massives Bonne interopérabilité avec les data warehouse et BDs existantes (ETL, Hive, Sqoop) Offres commerciales (support, packaging, intégration: IBM, Cloudera, AWS...) FR Big Data Congress, Paris /23

53 Solutions Big Data Pourquoi Hadoop? Open source (fondation Apache, ouvert par Yahoo) Projet en maturation, communauté active Parallélisation de tâches et données robuste Standard de facto en analyse de données massives Bonne interopérabilité avec les data warehouse et BDs existantes (ETL, Hive, Sqoop) Offres commerciales (support, packaging, intégration: IBM, Cloudera, AWS...) FR Big Data Congress, Paris /23

54 Solutions Big Data Pourquoi Hadoop? Difficile à tuner pour des jobs complexes Encore confidentiel en France (cf. groupe Hadoop France sur LinkedIn) Difficile de formuler certains algorithmes sous forme map-reduce Embauche et formation de développeurs et analystes Autres alternatives disponibles (BSP, Storm, Disco...) FR Big Data Congress, Paris /23

55 Solutions Big Data Pourquoi Hadoop? Difficile à tuner pour des jobs complexes Encore confidentiel en France (cf. groupe Hadoop France sur LinkedIn) Difficile de formuler certains algorithmes sous forme map-reduce Embauche et formation de développeurs et analystes Autres alternatives disponibles (BSP, Storm, Disco...) FR Big Data Congress, Paris /23

56 Solutions Big Data Pourquoi Hadoop? Difficile à tuner pour des jobs complexes Encore confidentiel en France (cf. groupe Hadoop France sur LinkedIn) Difficile de formuler certains algorithmes sous forme map-reduce Embauche et formation de développeurs et analystes Autres alternatives disponibles (BSP, Storm, Disco...) FR Big Data Congress, Paris /23

57 Solutions Big Data Pourquoi Hadoop? Difficile à tuner pour des jobs complexes Encore confidentiel en France (cf. groupe Hadoop France sur LinkedIn) Difficile de formuler certains algorithmes sous forme map-reduce Embauche et formation de développeurs et analystes Autres alternatives disponibles (BSP, Storm, Disco...) FR Big Data Congress, Paris /23

58 Solutions Big Data Pourquoi Hadoop? Difficile à tuner pour des jobs complexes Encore confidentiel en France (cf. groupe Hadoop France sur LinkedIn) Difficile de formuler certains algorithmes sous forme map-reduce Embauche et formation de développeurs et analystes Autres alternatives disponibles (BSP, Storm, Disco...) FR Big Data Congress, Paris /23

59 Solutions Big Data Pourquoi Hadoop? Difficile à tuner pour des jobs complexes Encore confidentiel en France (cf. groupe Hadoop France sur LinkedIn) Difficile de formuler certains algorithmes sous forme map-reduce Embauche et formation de développeurs et analystes Autres alternatives disponibles (BSP, Storm, Disco...) FR Big Data Congress, Paris /23

60 Solutions Big Data FR Big Data Congress, Paris /23

61 Solutions Big Data HDFS FR Big Data Congress, Paris /23

62 Solutions Big Data Map Reduce HDFS FR Big Data Congress, Paris /23

63 Solutions Big Data Map Reduce HBase HDFS FR Big Data Congress, Paris /23

64 Solutions Big Data Hive Map Reduce HBase HDFS FR Big Data Congress, Paris /23

65 Solutions Big Data Hive Pig Map Reduce HBase HDFS FR Big Data Congress, Paris /23

66 Solutions Big Data Hive Pig Mahout Map Reduce HBase HDFS FR Big Data Congress, Paris /23

67 Solutions Big Data Hive Pig Mahout Map Reduce HDFS HBase Zookeeper FR Big Data Congress, Paris /23

68 Points clés Vers une Science ultra-empirique? Big Data pour la Recherche et l Industrie : mode d emploi Hadoop et les données géographiques et temporelles FR Big Data Congress, Paris /23

69 Hadoop-xyt ou Hadoop et les données géographiques et temporelles Besoin retraitement et fouille de données historiques (géographiques et séries temporelles) Accélérer la découverte d anomalies et l extraction de valeur ajoutée Problématique Données très structurées - solution compétitive? Données corrélées = pb du traitement indépendant? Données stockées en fichiers binaires - distribution? Algorithmes métier à réutiliser - interface Java? FR Big Data Congress, Paris /23

70 Hadoop-xyt ou Hadoop et les données géographiques et temporelles Besoin retraitement et fouille de données historiques (géographiques et séries temporelles) Accélérer la découverte d anomalies et l extraction de valeur ajoutée Problématique Données très structurées - solution compétitive? Données corrélées = pb du traitement indépendant? Données stockées en fichiers binaires - distribution? Algorithmes métier à réutiliser - interface Java? FR Big Data Congress, Paris /23

71 Hadoop-xyt ou Hadoop et les données géographiques et temporelles Besoin retraitement et fouille de données historiques (géographiques et séries temporelles) Accélérer la découverte d anomalies et l extraction de valeur ajoutée Problématique Données très structurées - solution compétitive? Données corrélées = pb du traitement indépendant? Données stockées en fichiers binaires - distribution? Algorithmes métier à réutiliser - interface Java? FR Big Data Congress, Paris /23

72 Hadoop-xyt ou Hadoop et les données géographiques et temporelles Besoin retraitement et fouille de données historiques (géographiques et séries temporelles) Accélérer la découverte d anomalies et l extraction de valeur ajoutée Problématique Données très structurées - solution compétitive? Données corrélées = pb du traitement indépendant? Données stockées en fichiers binaires - distribution? Algorithmes métier à réutiliser - interface Java? FR Big Data Congress, Paris /23

73 Hadoop-xyt ou Hadoop et les données géographiques et temporelles Besoin retraitement et fouille de données historiques (géographiques et séries temporelles) Accélérer la découverte d anomalies et l extraction de valeur ajoutée Problématique Données très structurées - solution compétitive? Données corrélées = pb du traitement indépendant? Données stockées en fichiers binaires - distribution? Algorithmes métier à réutiliser - interface Java? FR Big Data Congress, Paris /23

74 Hadoop-xyt ou Hadoop et les données géographiques et temporelles Besoin retraitement et fouille de données historiques (géographiques et séries temporelles) Accélérer la découverte d anomalies et l extraction de valeur ajoutée Problématique Données très structurées - solution compétitive? Données corrélées = pb du traitement indépendant? Données stockées en fichiers binaires - distribution? Algorithmes métier à réutiliser - interface Java? FR Big Data Congress, Paris /23

75 Hadoop-xyt ou Hadoop et les données géographiques et temporelles Besoin retraitement et fouille de données historiques (géographiques et séries temporelles) Accélérer la découverte d anomalies et l extraction de valeur ajoutée Problématique Données très structurées - solution compétitive? Données corrélées = pb du traitement indépendant? Données stockées en fichiers binaires - distribution? Algorithmes métier à réutiliser - interface Java? FR Big Data Congress, Paris /23

76 Hadoop-xyt ou Hadoop et les données géographiques et temporelles Besoin retraitement et fouille de données historiques (géographiques et séries temporelles) Accélérer la découverte d anomalies et l extraction de valeur ajoutée Problématique Données très structurées - solution compétitive? Données corrélées = pb du traitement indépendant? Données stockées en fichiers binaires - distribution? Algorithmes métier à réutiliser - interface Java? FR Big Data Congress, Paris /23

77 Hadoop-xyt Traitement d images Extraction + tiling + rendering Calculs massivement parallèles = gain de temps +++ FR Big Data Congress, Paris /23

78 Hadoop-xyt Traitement d images Extraction + tiling + rendering Calculs massivement parallèles = gain de temps +++ FR Big Data Congress, Paris /23

79 Hadoop-xyt Traitement d images Extraction + tiling + rendering Calculs massivement parallèles = gain de temps +++ FR Big Data Congress, Paris /23

80 Hadoop-xyt Traitement d images Extraction + tiling + rendering Calculs massivement parallèles = gain de temps +++ FR Big Data Congress, Paris /23

81 Hadoop-xyt Traitement d images Extraction + tiling + rendering Calculs massivement parallèles = gain de temps +++ FR Big Data Congress, Paris /23

82 Hadoop-xyt Traitement d images Extraction + tiling + rendering Calculs massivement parallèles = gain de temps +++ FR Big Data Congress, Paris /23

83 Hadoop-xyt Traitement d images Extraction + tiling + rendering Calculs massivement parallèles = gain de temps +++ FR Big Data Congress, Paris /23

84 Hadoop-xyt Géolocalisation de véhicules FR Big Data Congress, Paris /23

85 Transport terrestre Traçabilité Océanographie Transport aérien Télémétrie - Argos Imagerie satellite FR Big Data Congress, Paris /23

86 Datasio We are Data Scientists Data Mining Prototypage Algorithmie Détection d anomalies Prédiction Machine Learning Spatial data Time series François Royer FR Big Data Congress, Paris /23

L écosystème Hadoop Nicolas Thiébaud ni.thiebaud@gmail.com. Tuesday, July 2, 13

L écosystème Hadoop Nicolas Thiébaud ni.thiebaud@gmail.com. Tuesday, July 2, 13 L écosystème Hadoop Nicolas Thiébaud ni.thiebaud@gmail.com HUG France 250 membres sur la mailing liste 30 présentations 9 meetups organisés, de 20 à 100 invités Présence de Cloudera, MapR, Hortonworks,

Plus en détail

Introduction data science

Introduction data science Introduction data science Data science Master 2 ISIDIS Sébastien Verel verel@lisic.univ-littoral.fr http://www-lisic.univ-littoral.fr/~verel Université du Littoral Côte d Opale Laboratoire LISIC Equipe

Plus en détail

HADOOP ET SON ÉCOSYSTÈME

HADOOP ET SON ÉCOSYSTÈME HADOOP ET SON ÉCOSYSTÈME Mars 2013 2012 Affini-Tech - Diffusion restreinte 1 AFFINI-TECH Méthodes projets Outils de reporting & Data-visualisation Business & Analyses BigData Modélisation Hadoop Technos

Plus en détail

Panorama des solutions analytiques existantes

Panorama des solutions analytiques existantes Arnaud LAROCHE Julien DAMON Panorama des solutions analytiques existantes SFdS Méthodes et Logiciels - 16 janvier 2014 - Données Massives Ne sont ici considérés que les solutions autour de l environnement

Plus en détail

Les technologies du Big Data

Les technologies du Big Data Les technologies du Big Data PRÉSENTÉ AU 40 E CONGRÈS DE L ASSOCIATION DES ÉCONOMISTES QUÉBÉCOIS PAR TOM LANDRY, CONSEILLER SENIOR LE 20 MAI 2015 WWW.CRIM.CA TECHNOLOGIES: DES DONNÉES JUSQU'À L UTILISATEUR

Plus en détail

Formation Cloudera Data Analyst Utiliser Pig, Hive et Impala avec Hadoop

Formation Cloudera Data Analyst Utiliser Pig, Hive et Impala avec Hadoop Passez au niveau supérieur en termes de connaissance grâce à la formation Data Analyst de Cloudera. Public Durée Objectifs Analystes de données, business analysts, développeurs et administrateurs qui ont

Plus en détail

Fouillez facilement dans votre système Big Data. Olivier TAVARD

Fouillez facilement dans votre système Big Data. Olivier TAVARD Fouillez facilement dans votre système Big Data Olivier TAVARD A propos de moi : Cofondateur de la société France Labs Développeur (principalement Java) Formateur en technologies de moteurs de recherche

Plus en détail

Cartographie des solutions BigData

Cartographie des solutions BigData Cartographie des solutions BigData Panorama du marché et prospective 1 1 Solutions BigData Défi(s) pour les fournisseurs Quel marché Architectures Acteurs commerciaux Solutions alternatives 2 2 Quels Défis?

Plus en détail

Big Data. Cyril Amsellem Consultant avant-vente. 16 juin 2011. Talend 2010 1

Big Data. Cyril Amsellem Consultant avant-vente. 16 juin 2011. Talend 2010 1 Big Data Cyril Amsellem Consultant avant-vente 16 juin 2011 Talend 2010 1 Big Data Architecture globale Hadoop Les projets Hadoop (partie 1) Hadoop-Core : projet principal. HDFS : système de fichiers distribués

Plus en détail

FORMATION HADOOP Développeur pour Hadoop (Apache)

FORMATION HADOOP Développeur pour Hadoop (Apache) FORMATION HADOOP Développeur pour Hadoop (Apache) Ce document reste la propriété du Groupe Cyrès. Toute copie, diffusion, exploitation même partielle doit faire l objet d une demande écrite auprès de Cyrès.

Plus en détail

Big Data Concepts et mise en oeuvre de Hadoop

Big Data Concepts et mise en oeuvre de Hadoop Introduction 1. Objectif du chapitre 9 2. Le Big Data 10 2.1 Introduction 10 2.2 Informatique connectée, objets "intelligents" et données collectées 11 2.3 Les unités de mesure dans le monde Big Data 12

Plus en détail

Les datas = le fuel du 21ième sicècle

Les datas = le fuel du 21ième sicècle Les datas = le fuel du 21ième sicècle D énormes gisements de création de valeurs http://www.your networkmarketin g.com/facebooktwitter-youtubestats-in-realtime-simulation/ Xavier Dalloz Le Plan Définition

Plus en détail

For Fun and Profit Datasio 2012

For Fun and Profit Datasio 2012 For Fun and Profit Datasio 2012 130 Nouveaux acteurs Big Data depuis 2009 1 2 3 Agenda Hadoop, poids lourd du Big Data Stats Web avec Hive chez Scoop.it Profession: Data Scientist Agenda 1 Hadoop, poids

Plus en détail

Une brève introduction aux Données Massives - Challenges et perspectives. Romain Picot-Clémente Cécile Bothorel Philippe Lenca

Une brève introduction aux Données Massives - Challenges et perspectives. Romain Picot-Clémente Cécile Bothorel Philippe Lenca Une brève introduction aux Données Massives - Challenges et perspectives Romain Picot-Clémente Cécile Bothorel Philippe Lenca Plan 1 Big Data 2 4Vs 3 Hadoop et son écosystème 4 Nouveaux challenges, nouvelles

Plus en détail

KARMA Le système de Revenue Management d'air France KLM avec Hadoop

KARMA Le système de Revenue Management d'air France KLM avec Hadoop KARMA Le système de Revenue Management d'air France KLM avec Hadoop Conférence BIG DATA - Master MBDS Université de Nice Sophia Antipolis 16 Décembre 2014 Martial AYAS maayas@airfrance.fr 2 Agenda 1. Présentation

Plus en détail

Plan. Pourquoi Hadoop? Présentation et Architecture. Démo. Usages

Plan. Pourquoi Hadoop? Présentation et Architecture. Démo. Usages 1 Mehdi LOUIZI Plan Pourquoi Hadoop? Présentation et Architecture Démo Usages 2 Pourquoi Hadoop? Limites du Big Data Les entreprises n analysent que 12% des données qu elles possèdent (Enquête Forrester

Plus en détail

Les enjeux du Big Data Innovation et opportunités de l'internet industriel. Datasio 2013

Les enjeux du Big Data Innovation et opportunités de l'internet industriel. Datasio 2013 Les enjeux du Big Data Innovation et opportunités de l'internet industriel François Royer froyer@datasio.com Accompagnement des entreprises dans leurs stratégies quantitatives Valorisation de patrimoine

Plus en détail

Déploiement d une architecture Hadoop pour analyse de flux. françois-xavier.andreu@renater.fr

Déploiement d une architecture Hadoop pour analyse de flux. françois-xavier.andreu@renater.fr Déploiement d une architecture Hadoop pour analyse de flux françois-xavier.andreu@renater.fr 1 plan Introduction Hadoop Présentation Architecture d un cluster HDFS & MapReduce L architecture déployée Les

Plus en détail

20 ans du Master SIAD de Toulouse - BigData par l exemple - Julien DULOUT - 22 mars 2013. 20 ans du SIAD -"Big Data par l'exemple" -Julien DULOUT

20 ans du Master SIAD de Toulouse - BigData par l exemple - Julien DULOUT - 22 mars 2013. 20 ans du SIAD -Big Data par l'exemple -Julien DULOUT 20 ans du Master SIAD de Toulouse - BigData par l exemple - Julien DULOUT - 22 mars 2013 20 ans du SIAD -"BigData par l'exemple" -Julien DULOUT Qui a déjà entendu parler du phénomène BigData? Qui a déjà

Plus en détail

Programmation parallèle et distribuée (Master 1 Info 2015-2016)

Programmation parallèle et distribuée (Master 1 Info 2015-2016) Programmation parallèle et distribuée (Master 1 Info 2015-2016) Hadoop MapReduce et HDFS Note bibliographique : ce cours est largement inspiré par le cours de Benjamin Renaut (Tokidev SAS) Introduction

Plus en détail

Offre formation Big Data Analytics

Offre formation Big Data Analytics Offre formation Big Data Analytics OCTO 2014 50, avenue des Champs-Elysées 75008 Paris - FRANCE Tél : +33 (0)1 58 56 10 00 Fax : +33 (0)1 58 56 10 01 www.octo.com 1 Présentation d OCTO Technology 2 Une

Plus en détail

Anticiper et prédire les sinistres avec une approche Big Data

Anticiper et prédire les sinistres avec une approche Big Data Anticiper et prédire les sinistres avec une approche Big Data Julien Cabot Directeur Big Data Analytics OCTO jcabot@octo.com @julien_cabot OCTO 2013 50, avenue des Champs-Elysées 75008 Paris - FRANCE Tél

Plus en détail

API04 Contribution. Apache Hadoop: Présentation et application dans le domaine des Data Warehouses. Introduction. Architecture

API04 Contribution. Apache Hadoop: Présentation et application dans le domaine des Data Warehouses. Introduction. Architecture API04 Contribution Apache Hadoop: Présentation et application dans le domaine des Data Warehouses Introduction Cette publication a pour but de présenter le framework Java libre Apache Hadoop, permettant

Plus en détail

Introduction à MapReduce/Hadoop et Spark

Introduction à MapReduce/Hadoop et Spark 1 / 36 Introduction à MapReduce/Hadoop et Spark Certificat Big Data Ludovic Denoyer et Sylvain Lamprier UPMC Plan 2 / 36 Contexte 3 / 36 Contexte 4 / 36 Data driven science: le 4e paradigme (Jim Gray -

Plus en détail

Big Data : utilisation d un cluster Hadoop HDFS Map/Reduce HBase

Big Data : utilisation d un cluster Hadoop HDFS Map/Reduce HBase Big Data : utilisation d un cluster cluster Cécile Cavet cecile.cavet at apc.univ-paris7.fr Centre François Arago (FACe), Laboratoire APC, Université Paris Diderot LabEx UnivEarthS 14 Janvier 2014 C. Cavet

Plus en détail

avec nos solutions spécialisées pour la microfinance et ses institutions coopératives Big Data

avec nos solutions spécialisées pour la microfinance et ses institutions coopératives Big Data avec nos solutions spécialisées pour la microfinance et ses institutions coopératives Big Data Historique de Big data Jusqu à l avènement d Internet et surtout du Web 2.0 il n y avait pas tant de données

Plus en détail

Labs Hadoop Février 2013

Labs Hadoop Février 2013 SOA - BRMS - ESB - BPM CEP BAM - High Performance Compute & Data Grid - Cloud Computing - Big Data NoSQL - Analytics Labs Hadoop Février 2013 Mathias Kluba Managing Consultant Responsable offres NoSQL

Plus en détail

Organiser vos données - Big Data. Patrick Millart Senior Sales Consultant

Organiser vos données - Big Data. Patrick Millart Senior Sales Consultant Organiser vos données - Big Data Patrick Millart Senior Sales Consultant The following is intended to outline our general product direction. It is intended for information purposes only, and may not be

Plus en détail

Introduction Big Data

Introduction Big Data Introduction Big Data SOMMAIRE Rédacteurs : Réf.: SH. Lazare / F. Barthélemy AXIO_BD_V1 QU'EST-CE QUE LE BIG DATA? ENJEUX TECHNOLOGIQUES ENJEUX STRATÉGIQUES BIG DATA ET RH ANNEXE Ce document constitue

Plus en détail

Préface Dunod Toute reproduction non autorisée est un délit. Les raisons de l émergence du Big Data sont bien connues. Elles sont d abord économiques et technologiques. La chute exponentielle des coûts

Plus en détail

Hadoop dans l entreprise: du concept à la réalité. Pourquoi et comment?

Hadoop dans l entreprise: du concept à la réalité. Pourquoi et comment? Hadoop dans l entreprise: du concept à la réalité. Pourquoi et comment? Jean-Marc Spaggiari Cloudera jms@cloudera.com @jmspaggi Mai 2014 1 2 Avant qu on commence Agenda -Qu est-ce que Hadoop et pourquoi

Plus en détail

Programmation parallèle et distribuée

Programmation parallèle et distribuée Programmation parallèle et distribuée (GIF-4104/7104) 5a - (hiver 2014) Marc Parizeau, Département de génie électrique et de génie informatique Plan Mégadonnées («big data») Architecture Hadoop distribution

Plus en détail

Programmation parallèle et distribuée

Programmation parallèle et distribuée Programmation parallèle et distribuée (GIF-4104/7104) 5a - (hiver 2015) Marc Parizeau, Département de génie électrique et de génie informatique Plan Données massives («big data») Architecture Hadoop distribution

Plus en détail

L analytique en temps réel en un clic. Jean-Michel Franco Directeur Marketing Produit @jmichel_franco

L analytique en temps réel en un clic. Jean-Michel Franco Directeur Marketing Produit @jmichel_franco L analytique en temps réel en un clic Jean-Michel Franco Directeur Marketing Produit @jmichel_franco 2015 Talend Inc. 1 1 Dynamiser l entreprise par ses données Les entreprises orientées données 23X plus

Plus en détail

Implémentation et Benchmark. d une régression linéaire en RMR2

Implémentation et Benchmark. d une régression linéaire en RMR2 Add intelligence to data Anne Gayet Directrice Datamining Implémentation et Benchmark d une régression linéaire en RMR2 16 janvier 2014 Rendez-vous SFdS: : Méthodes et logiciels Données massives (big data)

Plus en détail

Les quatre piliers d une solution de gestion des Big Data

Les quatre piliers d une solution de gestion des Big Data White Paper Les quatre piliers d une solution de gestion des Big Data Table des Matières Introduction... 4 Big Data : un terme très vaste... 4 Le Big Data... 5 La technologie Big Data... 5 Le grand changement

Plus en détail

MapReduce. Nicolas Dugué nicolas.dugue@univ-orleans.fr. M2 MIAGE Systèmes d information répartis

MapReduce. Nicolas Dugué nicolas.dugue@univ-orleans.fr. M2 MIAGE Systèmes d information répartis MapReduce Nicolas Dugué nicolas.dugue@univ-orleans.fr M2 MIAGE Systèmes d information répartis Plan 1 Introduction Big Data 2 MapReduce et ses implémentations 3 MapReduce pour fouiller des tweets 4 MapReduce

Plus en détail

Les données massives à Calcul Québec

Les données massives à Calcul Québec Les données massives à Calcul Québec Marc Parizeau, professeur et directeur scientifique de Calcul Québec Plan Calcul Québec / Calcul Canada Les outils et les services disponibles Un outil en particulier

Plus en détail

New Features. Developed by. BPM Conseil - SARL au capital de 70 000 euros - RCS LYON 479 400 129 9, rue Pierre Blanc - 69001 Lyon - France 1/20

New Features. Developed by. BPM Conseil - SARL au capital de 70 000 euros - RCS LYON 479 400 129 9, rue Pierre Blanc - 69001 Lyon - France 1/20 5 New Features Developed by 1/20 Sommaire 1 Introduction... 3 2 Evolutions des studios de développement et améliorations fonctionnelles... 5 3 Portail Vanilla... 6 3.1 Open Street Maps... 6 3.2 Gestion

Plus en détail

Les journées SQL Server 2013

Les journées SQL Server 2013 Les journées SQL Server 2013 Un événement organisé par GUSS Les journées SQL Server 2013 Romain Casteres MVP SQL Server Consultant BI @PulsWeb Yazid Moussaoui Consultant Senior BI MCSA 2008/2012 Etienne

Plus en détail

Les participants repartiront de cette formation en ayant une vision claire de la stratégie et de l éventuelle mise en œuvre d un Big Data.

Les participants repartiront de cette formation en ayant une vision claire de la stratégie et de l éventuelle mise en œuvre d un Big Data. Big Data De la stratégie à la mise en oeuvre Description : La formation a pour objet de brosser sans concession le tableau du Big Data. Les participants repartiront de cette formation en ayant une vision

Plus en détail

http://blog.khaledtannir.net

http://blog.khaledtannir.net Algorithme de parallélisations des traitements Khaled TANNIR Doctorant CIFRE LARIS/ESTI http://blog.khaledtannir.net these@khaledtannir.net 2e SéRI 2010-2011 Jeudi 17 mars 2011 Présentation Doctorant CIFRE

Plus en détail

Projet de création de SAFRAN ANALYTICS

Projet de création de SAFRAN ANALYTICS Projet de création de SAFRAN ANALYTICS Comité de Groupe 27 février 2015 SOMMAIRE Contexte Enjeux du Big Data pour Safran Projet Safran Analytics Calendrier prévisionnel 1 / CONFIDENTIEL / 27-02-2015 /

Plus en détail

Vos experts Big Data. contact@hurence.com. Le Big Data dans la pratique

Vos experts Big Data. contact@hurence.com. Le Big Data dans la pratique Vos experts Big Data contact@hurence.com Le Big Data dans la pratique Expert Expert Infrastructure Data Science Spark MLLib Big Data depuis 2011 Expert Expert Hadoop / Spark NoSQL HBase Couchbase MongoDB

Plus en détail

Ricco Rakotomalala http://eric.univ-lyon2.fr/~ricco/cours/cours_programmation_r.html. R.R. Université Lyon 2

Ricco Rakotomalala http://eric.univ-lyon2.fr/~ricco/cours/cours_programmation_r.html. R.R. Université Lyon 2 Ricco Rakotomalala http://eric.univ-lyon2.fr/~ricco/cours/cours_programmation_r.html 1 Plan de présentation 1. L écosystème Hadoop 2. Principe de programmation MapReduce 3. Programmation des fonctions

Plus en détail

Surmonter les 5 défis opérationnels du Big Data

Surmonter les 5 défis opérationnels du Big Data Surmonter les 5 défis opérationnels du Big Data Jean-Michel Franco Talend Connect 9 octobre 2014 Talend 2014 1 Agenda Agenda Le Big Data depuis la découverte jusqu au temps réel en passant par les applications

Plus en détail

Tables Rondes Le «Big Data»

Tables Rondes Le «Big Data» Tables Rondes Le «Big Data» 2012-2013 1 Plan Introduc9on 1 - Présenta9on Ingensi 2 - Le Big Data c est quoi? 3 - L histoire 4 - Le monde du libre : Hadoop 5 - Le système HDFS 6 - Les algorithmes distribués

Plus en détail

DATA ANALYST UTILISER PIG, HIVE ET IMPALA AVEC HADOOP DE CLOUDERA

DATA ANALYST UTILISER PIG, HIVE ET IMPALA AVEC HADOOP DE CLOUDERA SI 2.0 DATA ANALYST UTILISER PIG, HIVE ET IMPALA AVEC HADOOP DE CLOUDERA REF : SICL001 DUREE : 4 JOURS TARIF : 2 695 HT Public Analystes de données, business analysts, développeurs et administrateurs.

Plus en détail

Groupe de Discussion Big Data Aperçu des technologies et applications. Stéphane MOUTON stephane.mouton@cetic.be

Groupe de Discussion Big Data Aperçu des technologies et applications. Stéphane MOUTON stephane.mouton@cetic.be Groupe de Discussion Big Data Aperçu des technologies et applications Stéphane MOUTON stephane.mouton@cetic.be Recherche appliquée et transfert technologique q Agréé «Centre Collectif de Recherche» par

Plus en détail

Pentaho Business Analytics Intégrer > Explorer > Prévoir

Pentaho Business Analytics Intégrer > Explorer > Prévoir Pentaho Business Analytics Intégrer > Explorer > Prévoir Pentaho lie étroitement intégration de données et analytique. En effet, les services informatiques et les utilisateurs métiers peuvent accéder aux

Plus en détail

Projet Xdata. Cinequant, Data Publica, EDF, ESRI, Hurence, INRIA, Institut Mines Telecom, La Poste, Orange, Veolia

Projet Xdata. Cinequant, Data Publica, EDF, ESRI, Hurence, INRIA, Institut Mines Telecom, La Poste, Orange, Veolia Projet Xdata Cinequant, Data Publica, EDF, ESRI, Hurence, INRIA, Institut Mines Telecom, La Poste, Orange, Veolia Mutualisation des données XData = Cross Data En croisant des données d origine diverses,

Plus en détail

Stephan Hadinger, Sr. Mgr Solutions Architecture, AWS. Salon du Big Data 11 mars 2015

Stephan Hadinger, Sr. Mgr Solutions Architecture, AWS. Salon du Big Data 11 mars 2015 Stephan Hadinger, Sr. Mgr Solutions Architecture, AWS Salon du Big Data 11 mars 2015 Accélération de l innovation +500 +280 Amazon EC2 Container Service +159 AWS Storage Gateway Amazon Elastic Transcoder

Plus en détail

Comment valoriser votre patrimoine de données?

Comment valoriser votre patrimoine de données? BIG DATA POUR QUELS USAGES? Comment valoriser votre patrimoine de données? HIGH PERFORMANCE HIGH ANALYTICS PERFORMANCE ANALYTICS MOULOUD DEY SAS FRANCE 15/11/2012 L ENTREPRISE SAS EN QUELQUES CHIFFRES

Plus en détail

Big data et données géospatiales : Enjeux et défis pour la géomatique. Thierry Badard, PhD, ing. jr Centre de Recherche en Géomatique

Big data et données géospatiales : Enjeux et défis pour la géomatique. Thierry Badard, PhD, ing. jr Centre de Recherche en Géomatique Big data et données géospatiales : Enjeux et défis pour la géomatique Thierry Badard, PhD, ing. jr Centre de Recherche en Géomatique Événement 25e anniversaire du CRG Université Laval, Qc, Canada 08 mai

Plus en détail

Fouille de données massives avec Hadoop

Fouille de données massives avec Hadoop Fouille de données massives avec Hadoop Sebastiao Correia scorreia@talend.com Talend 2013 AAFD'14 29-30 avril 2014 1 Agenda Présentation de Talend Définition du Big Data Le framework Hadoop 3 thématiques

Plus en détail

Marc AMADOU Technical Sales Analytics on System z amadoum@fr.ibm.com. 18 Mars 2015. Big data et le z. 2015 IBM Corporation

Marc AMADOU Technical Sales Analytics on System z amadoum@fr.ibm.com. 18 Mars 2015. Big data et le z. 2015 IBM Corporation Marc AMADOU Technical Sales Analytics on System z amadoum@fr.ibm.com 18 Mars 2015 Big data et le z 2015 IBM Corporation Agenda Contexte Cas d utilisation DB2 z/os et Hadoop Connecteurs z pour Hadoop 2

Plus en détail

Big Data. Concept et perspectives : la réalité derrière le "buzz"

Big Data. Concept et perspectives : la réalité derrière le buzz Big Data Concept et perspectives : la réalité derrière le "buzz" 2012 Agenda Concept & Perspectives Technologies & Acteurs 2 Pierre Audoin Consultants (PAC) Pierre Audoin Consultants (PAC) est une société

Plus en détail

MapReduce. Malo Jaffré, Pablo Rauzy. 16 avril 2010 ENS. Malo Jaffré, Pablo Rauzy (ENS) MapReduce 16 avril 2010 1 / 15

MapReduce. Malo Jaffré, Pablo Rauzy. 16 avril 2010 ENS. Malo Jaffré, Pablo Rauzy (ENS) MapReduce 16 avril 2010 1 / 15 MapReduce Malo Jaffré, Pablo Rauzy ENS 16 avril 2010 Malo Jaffré, Pablo Rauzy (ENS) MapReduce 16 avril 2010 1 / 15 Qu est ce que c est? Conceptuellement Données MapReduce est un framework de calcul distribué

Plus en détail

Hadoop, les clés du succès

Hadoop, les clés du succès Hadoop, les clés du succès Didier Kirszenberg, Responsable des architectures Massive Data, HP France Copyright 2015 Hewlett-Packard Development Company, L.P. The information contained herein is subject

Plus en détail

FAITES DE LA DONNÉE LE MOTEUR DE VOTRE BUSINESS. Alexandre Vasseur Responsable Avant-Vente Europe du Sud Pivotal, EMC

FAITES DE LA DONNÉE LE MOTEUR DE VOTRE BUSINESS. Alexandre Vasseur Responsable Avant-Vente Europe du Sud Pivotal, EMC FAITES DE LA DONNÉE LE MOTEUR DE VOTRE BUSINESS Alexandre Vasseur Responsable Avant-Vente Europe du Sud Pivotal, EMC 1 Big Data = Volume, Variété, Vélocité et Valorisation Internet des objets Informations

Plus en détail

FORUM NTIC BIG DATA, OPEN DATA Big Data: les challenges, les défis

FORUM NTIC BIG DATA, OPEN DATA Big Data: les challenges, les défis FORUM NTIC BIG DATA, OPEN DATA Big Data: les challenges, les défis Joseph Salmon Télécom ParisTech Jeudi 6 Février Joseph Salmon (Télécom ParisTech) Big Data Jeudi 6 Février 1 / 18 Agenda Contexte et opportunités

Plus en détail

Le BIG DATA????? Big Buzz? Big Bang? Big Opportunity? Big hype? Big Business? Big Challenge? Big Hacking? Gérard Peliks planche 2

Le BIG DATA????? Big Buzz? Big Bang? Big Opportunity? Big hype? Big Business? Big Challenge? Big Hacking? Gérard Peliks planche 2 Le BIG DATA????? Big Bang? Big hype? Big Challenge? Big Buzz? Big Opportunity? Big Business? Big Hacking? Gérard Peliks planche 2 Les quatre paradigmes de la science en marche Paradigme 1 : L empirisme

Plus en détail

DocForum 18 Juin 2015. Réussites d un projet Big Data Les incontournables

DocForum 18 Juin 2015. Réussites d un projet Big Data Les incontournables DocForum 18 Juin 2015 Réussites d un projet Big Data Les incontournables Vos interlocuteurs Mick LEVY Directeur Innovation Business mick.levy@businessdecision.com 06.50.87.13.26 @mick_levy 2 Business &

Plus en détail

Big Data par l exemple

Big Data par l exemple #PARTAGE Big Data par l exemple Alexandre Chauvin Hameau Directeur de la production Malakoff Médéric @achauvin CT BIG DATA 10/12/2015 Soyons pragmatiques BIG DATA beaucoup de bruit pour des choses finalement

Plus en détail

Prototypage et évaluation de performances d un service de traçabilité avec une architecture distribuée basée sur Hadoop

Prototypage et évaluation de performances d un service de traçabilité avec une architecture distribuée basée sur Hadoop Prototypage et évaluation de performances d un service de traçabilité avec une architecture distribuée basée sur Hadoop Soutenance de projet ASR 27/01/2011 Julien Gerlier Siman Chen Encadrés par Bruno

Plus en détail

Le BigData, aussi par et pour les PMEs

Le BigData, aussi par et pour les PMEs Parole d expert Le BigData, aussi par et pour les PMEs Stéphane MOUTON, CETIC Département Software and Services Technologies Avec le soutien de : LIEGE CREATIVE Le Big Data, aussi par et pour les PMEs

Plus en détail

Analytics & Big Data. Focus techniques & nouvelles perspectives pour les actuaires. Université d Eté de l Institut des Actuaires Mardi 8 juillet 2014

Analytics & Big Data. Focus techniques & nouvelles perspectives pour les actuaires. Université d Eté de l Institut des Actuaires Mardi 8 juillet 2014 Analytics & Big Data Focus techniques & nouvelles perspectives pour les actuaires Local Optimization European Minded Université d Eté de l Institut des Actuaires Mardi 8 juillet 2014 Intervenants : Alexandre

Plus en détail

BIG DATA. Veille technologique. Malek Hamouda Nina Lachia Léo Valette. Commanditaire : Thomas Milon. Encadré: Philippe Vismara

BIG DATA. Veille technologique. Malek Hamouda Nina Lachia Léo Valette. Commanditaire : Thomas Milon. Encadré: Philippe Vismara BIG DATA Veille technologique Malek Hamouda Nina Lachia Léo Valette Commanditaire : Thomas Milon Encadré: Philippe Vismara 1 2 Introduction Historique des bases de données : méthodes de stockage et d analyse

Plus en détail

M2 GL UE DOC «In memory analytics»

M2 GL UE DOC «In memory analytics» M2 GL UE DOC «In memory analytics» Alexandre Termier 2014/2015 Sources Travaux Amplab, U.C. Berkeley Slides Ion Stoica Présentations Databricks Slides Pat McDonough Articles de M. Zaharia et al. sur les

Plus en détail

aprevotleygonie.wordpress.com >

aprevotleygonie.wordpress.com > Comment marche le big data??? A part être un sujet marketing faisant couler des flots d encre digitale, le big data, ce sont des concepts, des techniques. Le jour est venu pour appréhender en profondeur

Plus en détail

Entreprise et Big Data

Entreprise et Big Data Entreprise et Big Data Christophe Favart Chef Architecte, SAP Advanced Development, Business Information Technology Public Juin 2013 Agenda SAP Données d Entreprise Big Data en entreprise Solutions SAP

Plus en détail

Formation continue. Ensae-Ensai Formation Continue (Cepe)

Formation continue. Ensae-Ensai Formation Continue (Cepe) CertifiCat de data scientist Formation continue Ensae-Ensai Formation Continue (Cepe) CertifiCat de data scientist La demande de data scientists est croissante mais peu de formations existent. Ce certificat

Plus en détail

DEMARRER UN PROJET BIGDATA EN QUELQUES MINUTES GRACE AU CLOUD

DEMARRER UN PROJET BIGDATA EN QUELQUES MINUTES GRACE AU CLOUD DEMARRER UN PROJET BIGDATA EN QUELQUES MINUTES GRACE AU CLOUD BIGDATA PARIS LE 1/4/2014 VINCENT HEUSCHLING @VHE74! 1 NOUS 100% Bigdata Infrastructure IT + Data Trouver vos opportunités Implémenter les

Plus en détail

Des solutions IBM pour tout le cycle de vie de l information

Des solutions IBM pour tout le cycle de vie de l information Des solutions IBM pour tout le cycle de vie de BUSINESS PROCESS MANAGEMENT & BUSINESS RULES MANAGEMENT INFORMATION ACCESS & ANALYTICS OPERATIONAL APPLICATIONS ENTERPRISE ARCHIVE ENTERPRISE DATA ENTERPRISE

Plus en détail

4 Exemples de problèmes MapReduce incrémentaux

4 Exemples de problèmes MapReduce incrémentaux 4 Exemples de problèmes MapReduce incrémentaux 1 / 32 Calcul des plus courtes distances à un noeud d un graphe Calcul des plus courts chemins entre toutes les paires de noeuds d un graphe Algorithme PageRank

Plus en détail

Document réalisé par Khadidjatou BAMBA

Document réalisé par Khadidjatou BAMBA Comprendre le BIG DATA Document réalisé par Khadidjatou BAMBA 1 Sommaire Avant propos. 3 Historique du Big Data.4 Introduction.....5 Chapitre I : Présentation du Big Data... 6 I. Généralités sur le Big

Plus en détail

Masses de données. 1. Introduction 2. Problématiques 3. Socle de formation (non présenté) 4. Liens avec Formation INSA

Masses de données. 1. Introduction 2. Problématiques 3. Socle de formation (non présenté) 4. Liens avec Formation INSA Masses de données 1. Introduction 2. Problématiques 3. Socle de formation (non présenté) 4. Liens avec Formation INSA Rédacteurs : Mjo Huguet / N. Jozefowiez 1. Introduction : Besoins Informations et Aide

Plus en détail

BIG Data et R: opportunités et perspectives

BIG Data et R: opportunités et perspectives BIG Data et R: opportunités et perspectives Guati Rizlane 1 & Hicham Hajji 2 1 Ecole Nationale de Commerce et de Gestion de Casablanca, Maroc, rguati@gmail.com 2 Ecole des Sciences Géomatiques, IAV Rabat,

Plus en détail

GT Big Data : transformer les données en valeur business pour l entreprise

GT Big Data : transformer les données en valeur business pour l entreprise GT Big Data : transformer les données en valeur business pour l entreprise Bruno Prévost (Dir. Infrastructures IT Groupe, ) Valère Dussaux (GCS d-sisif) Espace Grande Arche Paris La Défense Workshop Big

Plus en détail

Certificat Big Data - Master MAthématiques

Certificat Big Data - Master MAthématiques 1 / 1 Certificat Big Data - Master MAthématiques Master 2 Auteur : Sylvain Lamprier UPMC Fouille de données et Medias Sociaux 2 / 1 Rich and big data: Millions d utilisateurs Millions de contenus Multimedia

Plus en détail

Hadoop, Spark & Big Data 2.0. Exploiter une grappe de calcul pour des problème des données massives

Hadoop, Spark & Big Data 2.0. Exploiter une grappe de calcul pour des problème des données massives Hadoop, Spark & Big Data 2.0 Exploiter une grappe de calcul pour des problème des données massives Qui suis-je? Félix-Antoine Fortin Génie info. (B. Ing, M. Sc, ~PhD) Passionné de Python, Data Analytics,

Plus en détail

R+Hadoop = Rhadoop* Des logiciels libres complémentaires, une implémentation, une réponse au nouveau paradigme du bigdata!

R+Hadoop = Rhadoop* Des logiciels libres complémentaires, une implémentation, une réponse au nouveau paradigme du bigdata! R+Hadoop = Rhadoop* * Des logiciels libres complémentaires, une implémentation, une réponse au nouveau paradigme du bigdata! 27 Janvier 2014 / Université Paul Sabatier / DTSI / David Tsang-Hin-Sun Big

Plus en détail

Jean-François Boulicaut & Mohand-Saïd Hacid

Jean-François Boulicaut & Mohand-Saïd Hacid e siècle! Jean-François Boulicaut & Mohand-Saïd Hacid http://liris.cnrs.fr/~jboulica http://liris.cnrs.fr/mohand-said.hacid Laboratoire d'informatique en Image et Systèmes d'information LIRIS UMR 5205

Plus en détail

Catalogue des stages Ercom 2013

Catalogue des stages Ercom 2013 Catalogue des stages Ercom 2013 Optimisations sur Modem LTE Poste basé à : Caen (14) Analyse et optimisation des performances des traitements réalisés dans un modem LTE. - Profiling et détermination des

Plus en détail

Big Graph Data Forum Teratec 2013

Big Graph Data Forum Teratec 2013 Big Graph Data Forum Teratec 2013 MFG Labs 35 rue de Châteaudun 75009 Paris, France www.mfglabs.com twitter: @mfg_labs Julien Laugel MFG Labs julien.laugel@mfglabs.com @roolio SOMMAIRE MFG Labs Contexte

Plus en détail

Business Intelligence, Etat de l art et perspectives. ICAM JP Gouigoux 10/2012

Business Intelligence, Etat de l art et perspectives. ICAM JP Gouigoux 10/2012 Business Intelligence, Etat de l art et perspectives ICAM JP Gouigoux 10/2012 CONTEXTE DE LA BI Un peu d histoire Premières bases de données utilisées comme simple système de persistance du contenu des

Plus en détail

Technologies et techniques d aujourd hui et de demain 1 Virtualisation Containers Projet Docker Web 3.0 Cloud Big Data Internet des objets 2 1 Virtualisation 3 Virtualisation Logiciels appelés hyperviseurs

Plus en détail

Le potentiel et les défis du Big Data. Mardi 2 et Mercredi 3 Juillet 2013

Le potentiel et les défis du Big Data. Mardi 2 et Mercredi 3 Juillet 2013 Big DATA & ANALYTICS Le potentiel et les défis du Big Data Mardi 2 et Mercredi 3 Juillet 2013 QUI SUIS-JE? AMPLEUR, QUELQUES FAITS SAILLANTS Mantra vertus magiques, vitesse de propagation, amplitude richterienne

Plus en détail

Transformez vos données en opportunités. avec Microsoft Big Data

Transformez vos données en opportunités. avec Microsoft Big Data Transformez vos données en opportunités avec Microsoft Big Data 1 VOLUME Augmentation du volume de données tous les cinq ans Vélocité x10 4,3 Nombre d appareils connectés par adulte VARIÉTÉ 85% Part des

Plus en détail

CENTAI : Big Data & Big Analytics Réunion DGPN / Thales Octobre 2013

CENTAI : Big Data & Big Analytics Réunion DGPN / Thales Octobre 2013 www.thalesgroup.com CENTAI : Big Data & Big Analytics Réunion DGPN / Thales Octobre 2013 2 / Sommaire CENTAI : Présentation du laboratoire Plate-forme OSINT LAB Détection de la fraude à la carte bancaire

Plus en détail

Quels usages des données massives pour les statistiques publiques? Enjeux, méthodes et perspectives

Quels usages des données massives pour les statistiques publiques? Enjeux, méthodes et perspectives Quels usages des données massives pour les statistiques publiques? Enjeux, méthodes et perspectives Stéphanie Combes et Pauline Givord (DMCSI) INSEE-DMSCI 02/04/2015 Plan Qu'est-ce que le Big Data? Les

Plus en détail

Sujet du stage Mise en place et paramétrage d un moteur spécialisé pour la recherche de CV à travers le web

Sujet du stage Mise en place et paramétrage d un moteur spécialisé pour la recherche de CV à travers le web Sujet du stage Mise en place et paramétrage d un moteur spécialisé pour la recherche de CV à travers le web Responsable du stage : Nabil Belcaid Le Guyader Chef de projet : Ali Belcaid Déroulement du stage

Plus en détail

Fouille de données spatiales Mr Dib Abderrahim & Dr Mohamed-Khireddine KHOLLADI

Fouille de données spatiales Mr Dib Abderrahim & Dr Mohamed-Khireddine KHOLLADI Fouille de données spatiales Mr Dib Abderrahim & Dr Mohamed-Khireddine KHOLLADI Introduction On assiste de plus en plus à la création d entrepôts de données. Les raisons sont multiples : 1. le tout numérique

Plus en détail

Exploration des Big Data pour optimiser la Business Intelligence

Exploration des Big Data pour optimiser la Business Intelligence Intel IT Meilleures pratiques IT Business Intelligence Juillet 2012 Exploration des Big Data pour optimiser la Business Intelligence Vue d ensemble La capacité à extraire et analyser les Big Data permet

Plus en détail

Big Data et la santé

Big Data et la santé Big Data, c'est quoi? Big Data et la santé Collecte, stockage et exploitation de masses de données Capter de façon automatique et anonyme une très grande quantité d'informations, les traiter avec des algorithmes

Plus en détail

Vos experts Big Data. contact@hurence.com. Mener un projet Big Data

Vos experts Big Data. contact@hurence.com. Mener un projet Big Data Vos experts Big Data contact@hurence.com Mener un projet Big Data Expert Expert Infrastructure Data Science Spark MLLib Big Data depuis 2011 Expert Expert Hadoop / Spark NoSQL HBase Couchbase MongoDB Expert

Plus en détail

CONSEIL EN STRATÉGIE ET TRANSFORMATION DIGITALE. Leading Digital Together

CONSEIL EN STRATÉGIE ET TRANSFORMATION DIGITALE. Leading Digital Together CONSEIL EN STRATÉGIE ET TRANSFORMATION DIGITALE Leading Digital Together 2 3 Capgemini Consulting, le leader français de la transformation digitale Une force de frappe de 900 consultants en France et de

Plus en détail

Les entrepôts de données pour les nuls... ou pas!

Les entrepôts de données pour les nuls... ou pas! Atelier aideà la Décision à tous les Etages AIDE@EGC2013 Toulouse Mardi 29 janvier 2013 Cécile Favre Fadila Bentayeb Omar Boussaid Jérôme Darmont Gérald Gavin Nouria Harbi Nadia Kabachi Sabine Loudcher

Plus en détail