BIG DATA en Sciences et Industries de l Environnement

Dimension: px
Commencer à balayer dès la page:

Download "BIG DATA en Sciences et Industries de l Environnement"

Transcription

1 BIG DATA en Sciences et Industries de l Environnement François Royer 21 mars 2012 FR Big Data Congress, Paris /23

2 Transport terrestre Traçabilité Océanographie Transport aérien Télémétrie - Argos Imagerie satellite FR Big Data Congress, Paris /23

3 Points clés Vers une Science ultra-empirique? Big Data pour la Recherche et l Industrie : mode d emploi Hadoop et les données géographiques et temporelles FR Big Data Congress, Paris /23

4 Points clés Vers une Science ultra-empirique? Big Data pour la Recherche et l Industrie : mode d emploi Hadoop et les données géographiques et temporelles FR Big Data Congress, Paris /23

5 L ère du Data Scientist L accumulation exponentielle de données transforme la démarche d analyse 1960 E. Wigner, The Unreasonable Effectiveness of Mathematics in the Natural Sciences, Comm. Pure and Applied Mathematics, vol. 13, no. 1, pp A. Halevy, P. Norvig, F. Pereira, The Unreasonable Effectiveness of Data, IEEE Intelligent Systems, vol. 24, no. 2, pp FR Big Data Congress, Paris /23

6 L ère du Data Scientist L accumulation exponentielle de données transforme la démarche d analyse 1960 E. Wigner, The Unreasonable Effectiveness of Mathematics in the Natural Sciences, Comm. Pure and Applied Mathematics, vol. 13, no. 1, pp A. Halevy, P. Norvig, F. Pereira, The Unreasonable Effectiveness of Data, IEEE Intelligent Systems, vol. 24, no. 2, pp FR Big Data Congress, Paris /23

7 All models are wrong, but some are useful. George Box FR Big Data Congress, Paris /23

8 Data Scientist = nouveau métier? Ce qui ne change pas Le besoin en compétences statistiques (Bayésiennes, fréquentistes etc...) La démarche de questionnement et de critique Les protocoles de collecte de données Ce qui change Le stockage et le traitement de données L interaction entre modélisateurs, ingénieurs systèmes et bases de données et... le client FR Big Data Congress, Paris /23

9 Data Scientist = nouveau métier? Ce qui ne change pas Le besoin en compétences statistiques (Bayésiennes, fréquentistes etc...) La démarche de questionnement et de critique Les protocoles de collecte de données Ce qui change Le stockage et le traitement de données L interaction entre modélisateurs, ingénieurs systèmes et bases de données et... le client FR Big Data Congress, Paris /23

10 Data Scientist = nouveau métier? Ce qui ne change pas Le besoin en compétences statistiques (Bayésiennes, fréquentistes etc...) La démarche de questionnement et de critique Les protocoles de collecte de données Ce qui change Le stockage et le traitement de données L interaction entre modélisateurs, ingénieurs systèmes et bases de données et... le client FR Big Data Congress, Paris /23

11 Data Scientist = nouveau métier? Ce qui ne change pas Le besoin en compétences statistiques (Bayésiennes, fréquentistes etc...) La démarche de questionnement et de critique Les protocoles de collecte de données Ce qui change Le stockage et le traitement de données L interaction entre modélisateurs, ingénieurs systèmes et bases de données et... le client FR Big Data Congress, Paris /23

12 Data Scientist = nouveau métier? Ce qui ne change pas Le besoin en compétences statistiques (Bayésiennes, fréquentistes etc...) La démarche de questionnement et de critique Les protocoles de collecte de données Ce qui change Le stockage et le traitement de données L interaction entre modélisateurs, ingénieurs systèmes et bases de données et... le client FR Big Data Congress, Paris /23

13 Data Scientist = nouveau métier? Ce qui ne change pas Le besoin en compétences statistiques (Bayésiennes, fréquentistes etc...) La démarche de questionnement et de critique Les protocoles de collecte de données Ce qui change Le stockage et le traitement de données L interaction entre modélisateurs, ingénieurs systèmes et bases de données et... le client FR Big Data Congress, Paris /23

14 Data Scientist = nouveau métier? Ce qui ne change pas Le besoin en compétences statistiques (Bayésiennes, fréquentistes etc...) La démarche de questionnement et de critique Les protocoles de collecte de données Ce qui change Le stockage et le traitement de données L interaction entre modélisateurs, ingénieurs systèmes et bases de données et... le client FR Big Data Congress, Paris /23

15 Points clés Vers une Science ultra-empirique? Big Data pour la Recherche et l Industrie : mode d emploi Hadoop et les données géographiques et temporelles FR Big Data Congress, Paris /23

16 Définition Big Data = gros volume (> 10 TB) Imagerie satellite 1-10 GB/jour Systèmes géolocalisés (véhicules, personnes) 100 MB/jour Modèles météo 100 GB/jour Simulateurs (traffic routier etc...) 100 GB/run Big Data + Big Process Données pré-traitées (GPS) Coût d analyse - Aggrégation, contextualisation Coût d analyse + Appels BD Coût d analyse +++ Calculs en cascade Coût d analyse +++ FR Big Data Congress, Paris /23

17 Définition Big Data = gros volume (> 10 TB) Imagerie satellite 1-10 GB/jour Systèmes géolocalisés (véhicules, personnes) 100 MB/jour Modèles météo 100 GB/jour Simulateurs (traffic routier etc...) 100 GB/run Big Data + Big Process Données pré-traitées (GPS) Coût d analyse - Aggrégation, contextualisation Coût d analyse + Appels BD Coût d analyse +++ Calculs en cascade Coût d analyse +++ FR Big Data Congress, Paris /23

18 Définition Big Data = gros volume (> 10 TB) Imagerie satellite 1-10 GB/jour Systèmes géolocalisés (véhicules, personnes) 100 MB/jour Modèles météo 100 GB/jour Simulateurs (traffic routier etc...) 100 GB/run Big Data + Big Process Données pré-traitées (GPS) Coût d analyse - Aggrégation, contextualisation Coût d analyse + Appels BD Coût d analyse +++ Calculs en cascade Coût d analyse +++ FR Big Data Congress, Paris /23

19 Définition Big Data = gros volume (> 10 TB) Imagerie satellite 1-10 GB/jour Systèmes géolocalisés (véhicules, personnes) 100 MB/jour Modèles météo 100 GB/jour Simulateurs (traffic routier etc...) 100 GB/run Big Data + Big Process Données pré-traitées (GPS) Coût d analyse - Aggrégation, contextualisation Coût d analyse + Appels BD Coût d analyse +++ Calculs en cascade Coût d analyse +++ FR Big Data Congress, Paris /23

20 Définition Big Data = gros volume (> 10 TB) Imagerie satellite 1-10 GB/jour Systèmes géolocalisés (véhicules, personnes) 100 MB/jour Modèles météo 100 GB/jour Simulateurs (traffic routier etc...) 100 GB/run Big Data + Big Process Données pré-traitées (GPS) Coût d analyse - Aggrégation, contextualisation Coût d analyse + Appels BD Coût d analyse +++ Calculs en cascade Coût d analyse +++ FR Big Data Congress, Paris /23

21 Définition Big Data = gros volume (> 10 TB) Imagerie satellite 1-10 GB/jour Systèmes géolocalisés (véhicules, personnes) 100 MB/jour Modèles météo 100 GB/jour Simulateurs (traffic routier etc...) 100 GB/run Big Data + Big Process Données pré-traitées (GPS) Coût d analyse - Aggrégation, contextualisation Coût d analyse + Appels BD Coût d analyse +++ Calculs en cascade Coût d analyse +++ FR Big Data Congress, Paris /23

22 Définition Big Data = gros volume (> 10 TB) Imagerie satellite 1-10 GB/jour Systèmes géolocalisés (véhicules, personnes) 100 MB/jour Modèles météo 100 GB/jour Simulateurs (traffic routier etc...) 100 GB/run Big Data + Big Process Données pré-traitées (GPS) Coût d analyse - Aggrégation, contextualisation Coût d analyse + Appels BD Coût d analyse +++ Calculs en cascade Coût d analyse +++ FR Big Data Congress, Paris /23

23 Définition Big Data = gros volume (> 10 TB) Imagerie satellite 1-10 GB/jour Systèmes géolocalisés (véhicules, personnes) 100 MB/jour Modèles météo 100 GB/jour Simulateurs (traffic routier etc...) 100 GB/run Big Data + Big Process Données pré-traitées (GPS) Coût d analyse - Aggrégation, contextualisation Coût d analyse + Appels BD Coût d analyse +++ Calculs en cascade Coût d analyse +++ FR Big Data Congress, Paris /23

24 Définition Big Data = gros volume (> 10 TB) Imagerie satellite 1-10 GB/jour Systèmes géolocalisés (véhicules, personnes) 100 MB/jour Modèles météo 100 GB/jour Simulateurs (traffic routier etc...) 100 GB/run Big Data + Big Process Données pré-traitées (GPS) Coût d analyse - Aggrégation, contextualisation Coût d analyse + Appels BD Coût d analyse +++ Calculs en cascade Coût d analyse +++ FR Big Data Congress, Paris /23

25 Définition Big Data = gros volume (> 10 TB) Imagerie satellite 1-10 GB/jour Systèmes géolocalisés (véhicules, personnes) 100 MB/jour Modèles météo 100 GB/jour Simulateurs (traffic routier etc...) 100 GB/run Big Data + Big Process Données pré-traitées (GPS) Coût d analyse - Aggrégation, contextualisation Coût d analyse + Appels BD Coût d analyse +++ Calculs en cascade Coût d analyse +++ FR Big Data Congress, Paris /23

26 Diagnostic Big Data Docteur, ais-je un problème Big Data? Oui, si : Vous avez un réseau d observation autonome (capteurs météo, RFID, GPS, balises Argos, smartphones, télémètres, instruments sur satellites...) Vos données dépendent d une communauté d utilisateurs ou d individus instrumentés (étude de la mobilité humaine, écologie terrestre et marine etc... ) Votre budget, programme de recherche ou business plan prévoit de mesurer d abord, traiter ensuite Ces systèmes de collecte produisent des flots de données plus vite que vous ne pouvez les traiter FR Big Data Congress, Paris /23

27 Diagnostic Big Data Docteur, ais-je un problème Big Data? Oui, si : Vous avez un réseau d observation autonome (capteurs météo, RFID, GPS, balises Argos, smartphones, télémètres, instruments sur satellites...) Vos données dépendent d une communauté d utilisateurs ou d individus instrumentés (étude de la mobilité humaine, écologie terrestre et marine etc... ) Votre budget, programme de recherche ou business plan prévoit de mesurer d abord, traiter ensuite Ces systèmes de collecte produisent des flots de données plus vite que vous ne pouvez les traiter FR Big Data Congress, Paris /23

28 Diagnostic Big Data Docteur, ais-je un problème Big Data? Oui, si : Vous avez un réseau d observation autonome (capteurs météo, RFID, GPS, balises Argos, smartphones, télémètres, instruments sur satellites...) Vos données dépendent d une communauté d utilisateurs ou d individus instrumentés (étude de la mobilité humaine, écologie terrestre et marine etc... ) Votre budget, programme de recherche ou business plan prévoit de mesurer d abord, traiter ensuite Ces systèmes de collecte produisent des flots de données plus vite que vous ne pouvez les traiter FR Big Data Congress, Paris /23

29 Diagnostic Big Data Docteur, ais-je un problème Big Data? Oui, si : Vous avez un réseau d observation autonome (capteurs météo, RFID, GPS, balises Argos, smartphones, télémètres, instruments sur satellites...) Vos données dépendent d une communauté d utilisateurs ou d individus instrumentés (étude de la mobilité humaine, écologie terrestre et marine etc... ) Votre budget, programme de recherche ou business plan prévoit de mesurer d abord, traiter ensuite Ces systèmes de collecte produisent des flots de données plus vite que vous ne pouvez les traiter FR Big Data Congress, Paris /23

30 Diagnostic Big Data Docteur, ais-je un problème Big Data? Oui, si : Vous avez un réseau d observation autonome (capteurs météo, RFID, GPS, balises Argos, smartphones, télémètres, instruments sur satellites...) Vos données dépendent d une communauté d utilisateurs ou d individus instrumentés (étude de la mobilité humaine, écologie terrestre et marine etc... ) Votre budget, programme de recherche ou business plan prévoit de mesurer d abord, traiter ensuite Ces systèmes de collecte produisent des flots de données plus vite que vous ne pouvez les traiter FR Big Data Congress, Paris /23

31 Diagnostic Big Data C est grave, Docteur? Tout ira bien, je vais vous prescrire du DevOps et des calculs distribués. FR Big Data Congress, Paris /23

32 Solutions Big Data FR Big Data Congress, Paris /23

33 Solutions Big Data Dev FR Big Data Congress, Paris /23

34 Solutions Big Data Opérations Dev FR Big Data Congress, Paris /23

35 Solutions Big Data Opérations QA Dev FR Big Data Congress, Paris /23

36 Solutions Big Data Opérations DevOps QA Dev FR Big Data Congress, Paris /23

37 Solutions Big Data Hier Noeuds de stockage périphériques Stockage sur plusieurs niveaux chaud / froid Supercalculateur au centre Data -> Code FR Big Data Congress, Paris /23

38 Solutions Big Data Hier Noeuds de stockage périphériques Stockage sur plusieurs niveaux chaud / froid Supercalculateur au centre Data -> Code FR Big Data Congress, Paris /23

39 Solutions Big Data Hier Noeuds de stockage périphériques Stockage sur plusieurs niveaux chaud / froid Supercalculateur au centre Data -> Code FR Big Data Congress, Paris /23

40 Solutions Big Data Hier Noeuds de stockage périphériques Stockage sur plusieurs niveaux chaud / froid Supercalculateur au centre Data -> Code FR Big Data Congress, Paris /23

41 Solutions Big Data Aujourd hui Noeuds de stockage sur même réseau GB Matériel milieu de gamme ( CPUs) Système de fichiers distribués (DFS) Gestion des jobs et données par des Master Nodes Code -> Data FR Big Data Congress, Paris /23

42 Solutions Big Data Aujourd hui Noeuds de stockage sur même réseau GB Matériel milieu de gamme ( CPUs) Système de fichiers distribués (DFS) Gestion des jobs et données par des Master Nodes Code -> Data FR Big Data Congress, Paris /23

43 Solutions Big Data Aujourd hui Noeuds de stockage sur même réseau GB Matériel milieu de gamme ( CPUs) Système de fichiers distribués (DFS) Gestion des jobs et données par des Master Nodes Code -> Data FR Big Data Congress, Paris /23

44 Solutions Big Data Aujourd hui Noeuds de stockage sur même réseau GB Matériel milieu de gamme ( CPUs) Système de fichiers distribués (DFS) Gestion des jobs et données par des Master Nodes Code -> Data FR Big Data Congress, Paris /23

45 Solutions Big Data Aujourd hui Noeuds de stockage sur même réseau GB Matériel milieu de gamme ( CPUs) Système de fichiers distribués (DFS) Gestion des jobs et données par des Master Nodes Code -> Data FR Big Data Congress, Paris /23

46 Solutions Big Data Aujourd hui Noeuds de stockage sur même réseau GB Matériel milieu de gamme ( CPUs) Système de fichiers distribués (DFS) Gestion des jobs et données par des Master Nodes Code -> Data FR Big Data Congress, Paris /23

47 Solutions Big Data Pourquoi Hadoop? Open source (fondation Apache, ouvert par Yahoo) Projet en maturation, communauté active Parallélisation de tâches et données robuste Standard de facto en analyse de données massives Bonne interopérabilité avec les data warehouse et BDs existantes (ETL, Hive, Sqoop) Offres commerciales (support, packaging, intégration: IBM, Cloudera, AWS...) FR Big Data Congress, Paris /23

48 Solutions Big Data Pourquoi Hadoop? Open source (fondation Apache, ouvert par Yahoo) Projet en maturation, communauté active Parallélisation de tâches et données robuste Standard de facto en analyse de données massives Bonne interopérabilité avec les data warehouse et BDs existantes (ETL, Hive, Sqoop) Offres commerciales (support, packaging, intégration: IBM, Cloudera, AWS...) FR Big Data Congress, Paris /23

49 Solutions Big Data Pourquoi Hadoop? Open source (fondation Apache, ouvert par Yahoo) Projet en maturation, communauté active Parallélisation de tâches et données robuste Standard de facto en analyse de données massives Bonne interopérabilité avec les data warehouse et BDs existantes (ETL, Hive, Sqoop) Offres commerciales (support, packaging, intégration: IBM, Cloudera, AWS...) FR Big Data Congress, Paris /23

50 Solutions Big Data Pourquoi Hadoop? Open source (fondation Apache, ouvert par Yahoo) Projet en maturation, communauté active Parallélisation de tâches et données robuste Standard de facto en analyse de données massives Bonne interopérabilité avec les data warehouse et BDs existantes (ETL, Hive, Sqoop) Offres commerciales (support, packaging, intégration: IBM, Cloudera, AWS...) FR Big Data Congress, Paris /23

51 Solutions Big Data Pourquoi Hadoop? Open source (fondation Apache, ouvert par Yahoo) Projet en maturation, communauté active Parallélisation de tâches et données robuste Standard de facto en analyse de données massives Bonne interopérabilité avec les data warehouse et BDs existantes (ETL, Hive, Sqoop) Offres commerciales (support, packaging, intégration: IBM, Cloudera, AWS...) FR Big Data Congress, Paris /23

52 Solutions Big Data Pourquoi Hadoop? Open source (fondation Apache, ouvert par Yahoo) Projet en maturation, communauté active Parallélisation de tâches et données robuste Standard de facto en analyse de données massives Bonne interopérabilité avec les data warehouse et BDs existantes (ETL, Hive, Sqoop) Offres commerciales (support, packaging, intégration: IBM, Cloudera, AWS...) FR Big Data Congress, Paris /23

53 Solutions Big Data Pourquoi Hadoop? Open source (fondation Apache, ouvert par Yahoo) Projet en maturation, communauté active Parallélisation de tâches et données robuste Standard de facto en analyse de données massives Bonne interopérabilité avec les data warehouse et BDs existantes (ETL, Hive, Sqoop) Offres commerciales (support, packaging, intégration: IBM, Cloudera, AWS...) FR Big Data Congress, Paris /23

54 Solutions Big Data Pourquoi Hadoop? Difficile à tuner pour des jobs complexes Encore confidentiel en France (cf. groupe Hadoop France sur LinkedIn) Difficile de formuler certains algorithmes sous forme map-reduce Embauche et formation de développeurs et analystes Autres alternatives disponibles (BSP, Storm, Disco...) FR Big Data Congress, Paris /23

55 Solutions Big Data Pourquoi Hadoop? Difficile à tuner pour des jobs complexes Encore confidentiel en France (cf. groupe Hadoop France sur LinkedIn) Difficile de formuler certains algorithmes sous forme map-reduce Embauche et formation de développeurs et analystes Autres alternatives disponibles (BSP, Storm, Disco...) FR Big Data Congress, Paris /23

56 Solutions Big Data Pourquoi Hadoop? Difficile à tuner pour des jobs complexes Encore confidentiel en France (cf. groupe Hadoop France sur LinkedIn) Difficile de formuler certains algorithmes sous forme map-reduce Embauche et formation de développeurs et analystes Autres alternatives disponibles (BSP, Storm, Disco...) FR Big Data Congress, Paris /23

57 Solutions Big Data Pourquoi Hadoop? Difficile à tuner pour des jobs complexes Encore confidentiel en France (cf. groupe Hadoop France sur LinkedIn) Difficile de formuler certains algorithmes sous forme map-reduce Embauche et formation de développeurs et analystes Autres alternatives disponibles (BSP, Storm, Disco...) FR Big Data Congress, Paris /23

58 Solutions Big Data Pourquoi Hadoop? Difficile à tuner pour des jobs complexes Encore confidentiel en France (cf. groupe Hadoop France sur LinkedIn) Difficile de formuler certains algorithmes sous forme map-reduce Embauche et formation de développeurs et analystes Autres alternatives disponibles (BSP, Storm, Disco...) FR Big Data Congress, Paris /23

59 Solutions Big Data Pourquoi Hadoop? Difficile à tuner pour des jobs complexes Encore confidentiel en France (cf. groupe Hadoop France sur LinkedIn) Difficile de formuler certains algorithmes sous forme map-reduce Embauche et formation de développeurs et analystes Autres alternatives disponibles (BSP, Storm, Disco...) FR Big Data Congress, Paris /23

60 Solutions Big Data FR Big Data Congress, Paris /23

61 Solutions Big Data HDFS FR Big Data Congress, Paris /23

62 Solutions Big Data Map Reduce HDFS FR Big Data Congress, Paris /23

63 Solutions Big Data Map Reduce HBase HDFS FR Big Data Congress, Paris /23

64 Solutions Big Data Hive Map Reduce HBase HDFS FR Big Data Congress, Paris /23

65 Solutions Big Data Hive Pig Map Reduce HBase HDFS FR Big Data Congress, Paris /23

66 Solutions Big Data Hive Pig Mahout Map Reduce HBase HDFS FR Big Data Congress, Paris /23

67 Solutions Big Data Hive Pig Mahout Map Reduce HDFS HBase Zookeeper FR Big Data Congress, Paris /23

68 Points clés Vers une Science ultra-empirique? Big Data pour la Recherche et l Industrie : mode d emploi Hadoop et les données géographiques et temporelles FR Big Data Congress, Paris /23

69 Hadoop-xyt ou Hadoop et les données géographiques et temporelles Besoin retraitement et fouille de données historiques (géographiques et séries temporelles) Accélérer la découverte d anomalies et l extraction de valeur ajoutée Problématique Données très structurées - solution compétitive? Données corrélées = pb du traitement indépendant? Données stockées en fichiers binaires - distribution? Algorithmes métier à réutiliser - interface Java? FR Big Data Congress, Paris /23

70 Hadoop-xyt ou Hadoop et les données géographiques et temporelles Besoin retraitement et fouille de données historiques (géographiques et séries temporelles) Accélérer la découverte d anomalies et l extraction de valeur ajoutée Problématique Données très structurées - solution compétitive? Données corrélées = pb du traitement indépendant? Données stockées en fichiers binaires - distribution? Algorithmes métier à réutiliser - interface Java? FR Big Data Congress, Paris /23

71 Hadoop-xyt ou Hadoop et les données géographiques et temporelles Besoin retraitement et fouille de données historiques (géographiques et séries temporelles) Accélérer la découverte d anomalies et l extraction de valeur ajoutée Problématique Données très structurées - solution compétitive? Données corrélées = pb du traitement indépendant? Données stockées en fichiers binaires - distribution? Algorithmes métier à réutiliser - interface Java? FR Big Data Congress, Paris /23

72 Hadoop-xyt ou Hadoop et les données géographiques et temporelles Besoin retraitement et fouille de données historiques (géographiques et séries temporelles) Accélérer la découverte d anomalies et l extraction de valeur ajoutée Problématique Données très structurées - solution compétitive? Données corrélées = pb du traitement indépendant? Données stockées en fichiers binaires - distribution? Algorithmes métier à réutiliser - interface Java? FR Big Data Congress, Paris /23

73 Hadoop-xyt ou Hadoop et les données géographiques et temporelles Besoin retraitement et fouille de données historiques (géographiques et séries temporelles) Accélérer la découverte d anomalies et l extraction de valeur ajoutée Problématique Données très structurées - solution compétitive? Données corrélées = pb du traitement indépendant? Données stockées en fichiers binaires - distribution? Algorithmes métier à réutiliser - interface Java? FR Big Data Congress, Paris /23

74 Hadoop-xyt ou Hadoop et les données géographiques et temporelles Besoin retraitement et fouille de données historiques (géographiques et séries temporelles) Accélérer la découverte d anomalies et l extraction de valeur ajoutée Problématique Données très structurées - solution compétitive? Données corrélées = pb du traitement indépendant? Données stockées en fichiers binaires - distribution? Algorithmes métier à réutiliser - interface Java? FR Big Data Congress, Paris /23

75 Hadoop-xyt ou Hadoop et les données géographiques et temporelles Besoin retraitement et fouille de données historiques (géographiques et séries temporelles) Accélérer la découverte d anomalies et l extraction de valeur ajoutée Problématique Données très structurées - solution compétitive? Données corrélées = pb du traitement indépendant? Données stockées en fichiers binaires - distribution? Algorithmes métier à réutiliser - interface Java? FR Big Data Congress, Paris /23

76 Hadoop-xyt ou Hadoop et les données géographiques et temporelles Besoin retraitement et fouille de données historiques (géographiques et séries temporelles) Accélérer la découverte d anomalies et l extraction de valeur ajoutée Problématique Données très structurées - solution compétitive? Données corrélées = pb du traitement indépendant? Données stockées en fichiers binaires - distribution? Algorithmes métier à réutiliser - interface Java? FR Big Data Congress, Paris /23

77 Hadoop-xyt Traitement d images Extraction + tiling + rendering Calculs massivement parallèles = gain de temps +++ FR Big Data Congress, Paris /23

78 Hadoop-xyt Traitement d images Extraction + tiling + rendering Calculs massivement parallèles = gain de temps +++ FR Big Data Congress, Paris /23

79 Hadoop-xyt Traitement d images Extraction + tiling + rendering Calculs massivement parallèles = gain de temps +++ FR Big Data Congress, Paris /23

80 Hadoop-xyt Traitement d images Extraction + tiling + rendering Calculs massivement parallèles = gain de temps +++ FR Big Data Congress, Paris /23

81 Hadoop-xyt Traitement d images Extraction + tiling + rendering Calculs massivement parallèles = gain de temps +++ FR Big Data Congress, Paris /23

82 Hadoop-xyt Traitement d images Extraction + tiling + rendering Calculs massivement parallèles = gain de temps +++ FR Big Data Congress, Paris /23

83 Hadoop-xyt Traitement d images Extraction + tiling + rendering Calculs massivement parallèles = gain de temps +++ FR Big Data Congress, Paris /23

84 Hadoop-xyt Géolocalisation de véhicules FR Big Data Congress, Paris /23

85 Transport terrestre Traçabilité Océanographie Transport aérien Télémétrie - Argos Imagerie satellite FR Big Data Congress, Paris /23

86 Datasio We are Data Scientists Data Mining Prototypage Algorithmie Détection d anomalies Prédiction Machine Learning Spatial data Time series François Royer froyer@datasio.com FR Big Data Congress, Paris /23

L écosystème Hadoop Nicolas Thiébaud ni.thiebaud@gmail.com. Tuesday, July 2, 13

L écosystème Hadoop Nicolas Thiébaud ni.thiebaud@gmail.com. Tuesday, July 2, 13 L écosystème Hadoop Nicolas Thiébaud ni.thiebaud@gmail.com HUG France 250 membres sur la mailing liste 30 présentations 9 meetups organisés, de 20 à 100 invités Présence de Cloudera, MapR, Hortonworks,

Plus en détail

HADOOP ET SON ÉCOSYSTÈME

HADOOP ET SON ÉCOSYSTÈME HADOOP ET SON ÉCOSYSTÈME Mars 2013 2012 Affini-Tech - Diffusion restreinte 1 AFFINI-TECH Méthodes projets Outils de reporting & Data-visualisation Business & Analyses BigData Modélisation Hadoop Technos

Plus en détail

Formation Cloudera Data Analyst Utiliser Pig, Hive et Impala avec Hadoop

Formation Cloudera Data Analyst Utiliser Pig, Hive et Impala avec Hadoop Passez au niveau supérieur en termes de connaissance grâce à la formation Data Analyst de Cloudera. Public Durée Objectifs Analystes de données, business analysts, développeurs et administrateurs qui ont

Plus en détail

Panorama des solutions analytiques existantes

Panorama des solutions analytiques existantes Arnaud LAROCHE Julien DAMON Panorama des solutions analytiques existantes SFdS Méthodes et Logiciels - 16 janvier 2014 - Données Massives Ne sont ici considérés que les solutions autour de l environnement

Plus en détail

Big Data. Cyril Amsellem Consultant avant-vente. 16 juin 2011. Talend 2010 1

Big Data. Cyril Amsellem Consultant avant-vente. 16 juin 2011. Talend 2010 1 Big Data Cyril Amsellem Consultant avant-vente 16 juin 2011 Talend 2010 1 Big Data Architecture globale Hadoop Les projets Hadoop (partie 1) Hadoop-Core : projet principal. HDFS : système de fichiers distribués

Plus en détail

Cartographie des solutions BigData

Cartographie des solutions BigData Cartographie des solutions BigData Panorama du marché et prospective 1 1 Solutions BigData Défi(s) pour les fournisseurs Quel marché Architectures Acteurs commerciaux Solutions alternatives 2 2 Quels Défis?

Plus en détail

Fouillez facilement dans votre système Big Data. Olivier TAVARD

Fouillez facilement dans votre système Big Data. Olivier TAVARD Fouillez facilement dans votre système Big Data Olivier TAVARD A propos de moi : Cofondateur de la société France Labs Développeur (principalement Java) Formateur en technologies de moteurs de recherche

Plus en détail

Les technologies du Big Data

Les technologies du Big Data Les technologies du Big Data PRÉSENTÉ AU 40 E CONGRÈS DE L ASSOCIATION DES ÉCONOMISTES QUÉBÉCOIS PAR TOM LANDRY, CONSEILLER SENIOR LE 20 MAI 2015 WWW.CRIM.CA TECHNOLOGIES: DES DONNÉES JUSQU'À L UTILISATEUR

Plus en détail

Les enjeux du Big Data Innovation et opportunités de l'internet industriel. Datasio 2013

Les enjeux du Big Data Innovation et opportunités de l'internet industriel. Datasio 2013 Les enjeux du Big Data Innovation et opportunités de l'internet industriel François Royer froyer@datasio.com Accompagnement des entreprises dans leurs stratégies quantitatives Valorisation de patrimoine

Plus en détail

Big Data Concepts et mise en oeuvre de Hadoop

Big Data Concepts et mise en oeuvre de Hadoop Introduction 1. Objectif du chapitre 9 2. Le Big Data 10 2.1 Introduction 10 2.2 Informatique connectée, objets "intelligents" et données collectées 11 2.3 Les unités de mesure dans le monde Big Data 12

Plus en détail

Offre formation Big Data Analytics

Offre formation Big Data Analytics Offre formation Big Data Analytics OCTO 2014 50, avenue des Champs-Elysées 75008 Paris - FRANCE Tél : +33 (0)1 58 56 10 00 Fax : +33 (0)1 58 56 10 01 www.octo.com 1 Présentation d OCTO Technology 2 Une

Plus en détail

Les datas = le fuel du 21ième sicècle

Les datas = le fuel du 21ième sicècle Les datas = le fuel du 21ième sicècle D énormes gisements de création de valeurs http://www.your networkmarketin g.com/facebooktwitter-youtubestats-in-realtime-simulation/ Xavier Dalloz Le Plan Définition

Plus en détail

20 ans du Master SIAD de Toulouse - BigData par l exemple - Julien DULOUT - 22 mars 2013. 20 ans du SIAD -"Big Data par l'exemple" -Julien DULOUT

20 ans du Master SIAD de Toulouse - BigData par l exemple - Julien DULOUT - 22 mars 2013. 20 ans du SIAD -Big Data par l'exemple -Julien DULOUT 20 ans du Master SIAD de Toulouse - BigData par l exemple - Julien DULOUT - 22 mars 2013 20 ans du SIAD -"BigData par l'exemple" -Julien DULOUT Qui a déjà entendu parler du phénomène BigData? Qui a déjà

Plus en détail

Big Data : utilisation d un cluster Hadoop HDFS Map/Reduce HBase

Big Data : utilisation d un cluster Hadoop HDFS Map/Reduce HBase Big Data : utilisation d un cluster cluster Cécile Cavet cecile.cavet at apc.univ-paris7.fr Centre François Arago (FACe), Laboratoire APC, Université Paris Diderot LabEx UnivEarthS 14 Janvier 2014 C. Cavet

Plus en détail

Anticiper et prédire les sinistres avec une approche Big Data

Anticiper et prédire les sinistres avec une approche Big Data Anticiper et prédire les sinistres avec une approche Big Data Julien Cabot Directeur Big Data Analytics OCTO jcabot@octo.com @julien_cabot OCTO 2013 50, avenue des Champs-Elysées 75008 Paris - FRANCE Tél

Plus en détail

Préface Dunod Toute reproduction non autorisée est un délit. Les raisons de l émergence du Big Data sont bien connues. Elles sont d abord économiques et technologiques. La chute exponentielle des coûts

Plus en détail

Déploiement d une architecture Hadoop pour analyse de flux. françois-xavier.andreu@renater.fr

Déploiement d une architecture Hadoop pour analyse de flux. françois-xavier.andreu@renater.fr Déploiement d une architecture Hadoop pour analyse de flux françois-xavier.andreu@renater.fr 1 plan Introduction Hadoop Présentation Architecture d un cluster HDFS & MapReduce L architecture déployée Les

Plus en détail

Hadoop dans l entreprise: du concept à la réalité. Pourquoi et comment?

Hadoop dans l entreprise: du concept à la réalité. Pourquoi et comment? Hadoop dans l entreprise: du concept à la réalité. Pourquoi et comment? Jean-Marc Spaggiari Cloudera jms@cloudera.com @jmspaggi Mai 2014 1 2 Avant qu on commence Agenda -Qu est-ce que Hadoop et pourquoi

Plus en détail

Labs Hadoop Février 2013

Labs Hadoop Février 2013 SOA - BRMS - ESB - BPM CEP BAM - High Performance Compute & Data Grid - Cloud Computing - Big Data NoSQL - Analytics Labs Hadoop Février 2013 Mathias Kluba Managing Consultant Responsable offres NoSQL

Plus en détail

API04 Contribution. Apache Hadoop: Présentation et application dans le domaine des Data Warehouses. Introduction. Architecture

API04 Contribution. Apache Hadoop: Présentation et application dans le domaine des Data Warehouses. Introduction. Architecture API04 Contribution Apache Hadoop: Présentation et application dans le domaine des Data Warehouses Introduction Cette publication a pour but de présenter le framework Java libre Apache Hadoop, permettant

Plus en détail

Introduction à MapReduce/Hadoop et Spark

Introduction à MapReduce/Hadoop et Spark 1 / 36 Introduction à MapReduce/Hadoop et Spark Certificat Big Data Ludovic Denoyer et Sylvain Lamprier UPMC Plan 2 / 36 Contexte 3 / 36 Contexte 4 / 36 Data driven science: le 4e paradigme (Jim Gray -

Plus en détail

Organiser vos données - Big Data. Patrick Millart Senior Sales Consultant

Organiser vos données - Big Data. Patrick Millart Senior Sales Consultant Organiser vos données - Big Data Patrick Millart Senior Sales Consultant The following is intended to outline our general product direction. It is intended for information purposes only, and may not be

Plus en détail

Les quatre piliers d une solution de gestion des Big Data

Les quatre piliers d une solution de gestion des Big Data White Paper Les quatre piliers d une solution de gestion des Big Data Table des Matières Introduction... 4 Big Data : un terme très vaste... 4 Le Big Data... 5 La technologie Big Data... 5 Le grand changement

Plus en détail

Introduction Big Data

Introduction Big Data Introduction Big Data SOMMAIRE Rédacteurs : Réf.: SH. Lazare / F. Barthélemy AXIO_BD_V1 QU'EST-CE QUE LE BIG DATA? ENJEUX TECHNOLOGIQUES ENJEUX STRATÉGIQUES BIG DATA ET RH ANNEXE Ce document constitue

Plus en détail

Programmation parallèle et distribuée (Master 1 Info 2015-2016)

Programmation parallèle et distribuée (Master 1 Info 2015-2016) Programmation parallèle et distribuée (Master 1 Info 2015-2016) Hadoop MapReduce et HDFS Note bibliographique : ce cours est largement inspiré par le cours de Benjamin Renaut (Tokidev SAS) Introduction

Plus en détail

Les journées SQL Server 2013

Les journées SQL Server 2013 Les journées SQL Server 2013 Un événement organisé par GUSS Les journées SQL Server 2013 Romain Casteres MVP SQL Server Consultant BI @PulsWeb Yazid Moussaoui Consultant Senior BI MCSA 2008/2012 Etienne

Plus en détail

http://blog.khaledtannir.net

http://blog.khaledtannir.net Algorithme de parallélisations des traitements Khaled TANNIR Doctorant CIFRE LARIS/ESTI http://blog.khaledtannir.net these@khaledtannir.net 2e SéRI 2010-2011 Jeudi 17 mars 2011 Présentation Doctorant CIFRE

Plus en détail

Surmonter les 5 défis opérationnels du Big Data

Surmonter les 5 défis opérationnels du Big Data Surmonter les 5 défis opérationnels du Big Data Jean-Michel Franco Talend Connect 9 octobre 2014 Talend 2014 1 Agenda Agenda Le Big Data depuis la découverte jusqu au temps réel en passant par les applications

Plus en détail

MapReduce. Nicolas Dugué nicolas.dugue@univ-orleans.fr. M2 MIAGE Systèmes d information répartis

MapReduce. Nicolas Dugué nicolas.dugue@univ-orleans.fr. M2 MIAGE Systèmes d information répartis MapReduce Nicolas Dugué nicolas.dugue@univ-orleans.fr M2 MIAGE Systèmes d information répartis Plan 1 Introduction Big Data 2 MapReduce et ses implémentations 3 MapReduce pour fouiller des tweets 4 MapReduce

Plus en détail

Groupe de Discussion Big Data Aperçu des technologies et applications. Stéphane MOUTON stephane.mouton@cetic.be

Groupe de Discussion Big Data Aperçu des technologies et applications. Stéphane MOUTON stephane.mouton@cetic.be Groupe de Discussion Big Data Aperçu des technologies et applications Stéphane MOUTON stephane.mouton@cetic.be Recherche appliquée et transfert technologique q Agréé «Centre Collectif de Recherche» par

Plus en détail

Les participants repartiront de cette formation en ayant une vision claire de la stratégie et de l éventuelle mise en œuvre d un Big Data.

Les participants repartiront de cette formation en ayant une vision claire de la stratégie et de l éventuelle mise en œuvre d un Big Data. Big Data De la stratégie à la mise en oeuvre Description : La formation a pour objet de brosser sans concession le tableau du Big Data. Les participants repartiront de cette formation en ayant une vision

Plus en détail

Programmation parallèle et distribuée

Programmation parallèle et distribuée Programmation parallèle et distribuée (GIF-4104/7104) 5a - (hiver 2014) Marc Parizeau, Département de génie électrique et de génie informatique Plan Mégadonnées («big data») Architecture Hadoop distribution

Plus en détail

Programmation parallèle et distribuée

Programmation parallèle et distribuée Programmation parallèle et distribuée (GIF-4104/7104) 5a - (hiver 2015) Marc Parizeau, Département de génie électrique et de génie informatique Plan Données massives («big data») Architecture Hadoop distribution

Plus en détail

Big data et données géospatiales : Enjeux et défis pour la géomatique. Thierry Badard, PhD, ing. jr Centre de Recherche en Géomatique

Big data et données géospatiales : Enjeux et défis pour la géomatique. Thierry Badard, PhD, ing. jr Centre de Recherche en Géomatique Big data et données géospatiales : Enjeux et défis pour la géomatique Thierry Badard, PhD, ing. jr Centre de Recherche en Géomatique Événement 25e anniversaire du CRG Université Laval, Qc, Canada 08 mai

Plus en détail

Stephan Hadinger, Sr. Mgr Solutions Architecture, AWS. Salon du Big Data 11 mars 2015

Stephan Hadinger, Sr. Mgr Solutions Architecture, AWS. Salon du Big Data 11 mars 2015 Stephan Hadinger, Sr. Mgr Solutions Architecture, AWS Salon du Big Data 11 mars 2015 Accélération de l innovation +500 +280 Amazon EC2 Container Service +159 AWS Storage Gateway Amazon Elastic Transcoder

Plus en détail

Comment valoriser votre patrimoine de données?

Comment valoriser votre patrimoine de données? BIG DATA POUR QUELS USAGES? Comment valoriser votre patrimoine de données? HIGH PERFORMANCE HIGH ANALYTICS PERFORMANCE ANALYTICS MOULOUD DEY SAS FRANCE 15/11/2012 L ENTREPRISE SAS EN QUELQUES CHIFFRES

Plus en détail

Fouille de données massives avec Hadoop

Fouille de données massives avec Hadoop Fouille de données massives avec Hadoop Sebastiao Correia scorreia@talend.com Talend 2013 AAFD'14 29-30 avril 2014 1 Agenda Présentation de Talend Définition du Big Data Le framework Hadoop 3 thématiques

Plus en détail

Tables Rondes Le «Big Data»

Tables Rondes Le «Big Data» Tables Rondes Le «Big Data» 2012-2013 1 Plan Introduc9on 1 - Présenta9on Ingensi 2 - Le Big Data c est quoi? 3 - L histoire 4 - Le monde du libre : Hadoop 5 - Le système HDFS 6 - Les algorithmes distribués

Plus en détail

Projet Xdata. Cinequant, Data Publica, EDF, ESRI, Hurence, INRIA, Institut Mines Telecom, La Poste, Orange, Veolia

Projet Xdata. Cinequant, Data Publica, EDF, ESRI, Hurence, INRIA, Institut Mines Telecom, La Poste, Orange, Veolia Projet Xdata Cinequant, Data Publica, EDF, ESRI, Hurence, INRIA, Institut Mines Telecom, La Poste, Orange, Veolia Mutualisation des données XData = Cross Data En croisant des données d origine diverses,

Plus en détail

Analytics & Big Data. Focus techniques & nouvelles perspectives pour les actuaires. Université d Eté de l Institut des Actuaires Mardi 8 juillet 2014

Analytics & Big Data. Focus techniques & nouvelles perspectives pour les actuaires. Université d Eté de l Institut des Actuaires Mardi 8 juillet 2014 Analytics & Big Data Focus techniques & nouvelles perspectives pour les actuaires Local Optimization European Minded Université d Eté de l Institut des Actuaires Mardi 8 juillet 2014 Intervenants : Alexandre

Plus en détail

Document réalisé par Khadidjatou BAMBA

Document réalisé par Khadidjatou BAMBA Comprendre le BIG DATA Document réalisé par Khadidjatou BAMBA 1 Sommaire Avant propos. 3 Historique du Big Data.4 Introduction.....5 Chapitre I : Présentation du Big Data... 6 I. Généralités sur le Big

Plus en détail

Pentaho Business Analytics Intégrer > Explorer > Prévoir

Pentaho Business Analytics Intégrer > Explorer > Prévoir Pentaho Business Analytics Intégrer > Explorer > Prévoir Pentaho lie étroitement intégration de données et analytique. En effet, les services informatiques et les utilisateurs métiers peuvent accéder aux

Plus en détail

Le BIG DATA????? Big Buzz? Big Bang? Big Opportunity? Big hype? Big Business? Big Challenge? Big Hacking? Gérard Peliks planche 2

Le BIG DATA????? Big Buzz? Big Bang? Big Opportunity? Big hype? Big Business? Big Challenge? Big Hacking? Gérard Peliks planche 2 Le BIG DATA????? Big Bang? Big hype? Big Challenge? Big Buzz? Big Opportunity? Big Business? Big Hacking? Gérard Peliks planche 2 Les quatre paradigmes de la science en marche Paradigme 1 : L empirisme

Plus en détail

Le potentiel et les défis du Big Data. Mardi 2 et Mercredi 3 Juillet 2013

Le potentiel et les défis du Big Data. Mardi 2 et Mercredi 3 Juillet 2013 Big DATA & ANALYTICS Le potentiel et les défis du Big Data Mardi 2 et Mercredi 3 Juillet 2013 QUI SUIS-JE? AMPLEUR, QUELQUES FAITS SAILLANTS Mantra vertus magiques, vitesse de propagation, amplitude richterienne

Plus en détail

Le BigData, aussi par et pour les PMEs

Le BigData, aussi par et pour les PMEs Parole d expert Le BigData, aussi par et pour les PMEs Stéphane MOUTON, CETIC Département Software and Services Technologies Avec le soutien de : LIEGE CREATIVE Le Big Data, aussi par et pour les PMEs

Plus en détail

Ricco Rakotomalala http://eric.univ-lyon2.fr/~ricco/cours/cours_programmation_r.html. R.R. Université Lyon 2

Ricco Rakotomalala http://eric.univ-lyon2.fr/~ricco/cours/cours_programmation_r.html. R.R. Université Lyon 2 Ricco Rakotomalala http://eric.univ-lyon2.fr/~ricco/cours/cours_programmation_r.html 1 Plan de présentation 1. L écosystème Hadoop 2. Principe de programmation MapReduce 3. Programmation des fonctions

Plus en détail

R+Hadoop = Rhadoop* Des logiciels libres complémentaires, une implémentation, une réponse au nouveau paradigme du bigdata!

R+Hadoop = Rhadoop* Des logiciels libres complémentaires, une implémentation, une réponse au nouveau paradigme du bigdata! R+Hadoop = Rhadoop* * Des logiciels libres complémentaires, une implémentation, une réponse au nouveau paradigme du bigdata! 27 Janvier 2014 / Université Paul Sabatier / DTSI / David Tsang-Hin-Sun Big

Plus en détail

Vos experts Big Data. contact@hurence.com. Le Big Data dans la pratique

Vos experts Big Data. contact@hurence.com. Le Big Data dans la pratique Vos experts Big Data contact@hurence.com Le Big Data dans la pratique Expert Expert Infrastructure Data Science Spark MLLib Big Data depuis 2011 Expert Expert Hadoop / Spark NoSQL HBase Couchbase MongoDB

Plus en détail

FORUM NTIC BIG DATA, OPEN DATA Big Data: les challenges, les défis

FORUM NTIC BIG DATA, OPEN DATA Big Data: les challenges, les défis FORUM NTIC BIG DATA, OPEN DATA Big Data: les challenges, les défis Joseph Salmon Télécom ParisTech Jeudi 6 Février Joseph Salmon (Télécom ParisTech) Big Data Jeudi 6 Février 1 / 18 Agenda Contexte et opportunités

Plus en détail

Hadoop, les clés du succès

Hadoop, les clés du succès Hadoop, les clés du succès Didier Kirszenberg, Responsable des architectures Massive Data, HP France Copyright 2015 Hewlett-Packard Development Company, L.P. The information contained herein is subject

Plus en détail

Le traitement du Big Data inclue la collecte, la curation, le stockage, l enrichissement, le croisement, la partage, l analyse et la visualisation.

Le traitement du Big Data inclue la collecte, la curation, le stockage, l enrichissement, le croisement, la partage, l analyse et la visualisation. Les infrastructure du Big Data Le «Big Data» vise à tirer un avantage concurrentiel au travers de méthodes de collecte, d analyse et d exploitation des données qu on ne pouvait utiliser jusqu à présent

Plus en détail

BIG Data et R: opportunités et perspectives

BIG Data et R: opportunités et perspectives BIG Data et R: opportunités et perspectives Guati Rizlane 1 & Hicham Hajji 2 1 Ecole Nationale de Commerce et de Gestion de Casablanca, Maroc, rguati@gmail.com 2 Ecole des Sciences Géomatiques, IAV Rabat,

Plus en détail

Transformez vos données en opportunités. avec Microsoft Big Data

Transformez vos données en opportunités. avec Microsoft Big Data Transformez vos données en opportunités avec Microsoft Big Data 1 VOLUME Augmentation du volume de données tous les cinq ans Vélocité x10 4,3 Nombre d appareils connectés par adulte VARIÉTÉ 85% Part des

Plus en détail

Prototypage et évaluation de performances d un service de traçabilité avec une architecture distribuée basée sur Hadoop

Prototypage et évaluation de performances d un service de traçabilité avec une architecture distribuée basée sur Hadoop Prototypage et évaluation de performances d un service de traçabilité avec une architecture distribuée basée sur Hadoop Soutenance de projet ASR 27/01/2011 Julien Gerlier Siman Chen Encadrés par Bruno

Plus en détail

Introduction aux algorithmes MapReduce. Mathieu Dumoulin (GRAAL), 14 Février 2014

Introduction aux algorithmes MapReduce. Mathieu Dumoulin (GRAAL), 14 Février 2014 Introduction aux algorithmes MapReduce Mathieu Dumoulin (GRAAL), 14 Février 2014 Plan Introduction de la problématique Tutoriel MapReduce Design d algorithmes MapReduce Tri, somme et calcul de moyenne

Plus en détail

CENTAI : Big Data & Big Analytics Réunion DGPN / Thales Octobre 2013

CENTAI : Big Data & Big Analytics Réunion DGPN / Thales Octobre 2013 www.thalesgroup.com CENTAI : Big Data & Big Analytics Réunion DGPN / Thales Octobre 2013 2 / Sommaire CENTAI : Présentation du laboratoire Plate-forme OSINT LAB Détection de la fraude à la carte bancaire

Plus en détail

Big Data. Concept et perspectives : la réalité derrière le "buzz"

Big Data. Concept et perspectives : la réalité derrière le buzz Big Data Concept et perspectives : la réalité derrière le "buzz" 2012 Agenda Concept & Perspectives Technologies & Acteurs 2 Pierre Audoin Consultants (PAC) Pierre Audoin Consultants (PAC) est une société

Plus en détail

Formation continue. Ensae-Ensai Formation Continue (Cepe)

Formation continue. Ensae-Ensai Formation Continue (Cepe) CertifiCat de data scientist Formation continue Ensae-Ensai Formation Continue (Cepe) CertifiCat de data scientist La demande de data scientists est croissante mais peu de formations existent. Ce certificat

Plus en détail

LES ENJEUX DU BIG DATA

LES ENJEUX DU BIG DATA LES ENJEUX DU BIG DATA POUR LA MISE EN PLACE DES SMART-GRIDS EDF R&D Marie-Luce Picard Projet SIGMA² 16 Janvier 2014 SMART GRIDS SMART METERS SMART DATA Partout dans le monde des projets smart-grids voient

Plus en détail

Hadoop, Spark & Big Data 2.0. Exploiter une grappe de calcul pour des problème des données massives

Hadoop, Spark & Big Data 2.0. Exploiter une grappe de calcul pour des problème des données massives Hadoop, Spark & Big Data 2.0 Exploiter une grappe de calcul pour des problème des données massives Qui suis-je? Félix-Antoine Fortin Génie info. (B. Ing, M. Sc, ~PhD) Passionné de Python, Data Analytics,

Plus en détail

DocForum 18 Juin 2015. Réussites d un projet Big Data Les incontournables

DocForum 18 Juin 2015. Réussites d un projet Big Data Les incontournables DocForum 18 Juin 2015 Réussites d un projet Big Data Les incontournables Vos interlocuteurs Mick LEVY Directeur Innovation Business mick.levy@businessdecision.com 06.50.87.13.26 @mick_levy 2 Business &

Plus en détail

Le projet Gaïa, le Big Data au service du traitement de données satellitaires CRIP - 16/10/2013 Pierre-Marie Brunet

Le projet Gaïa, le Big Data au service du traitement de données satellitaires CRIP - 16/10/2013 Pierre-Marie Brunet Le projet Gaïa, le Big Data au service du traitement de données satellitaires CRIP - 16/10/2013 Pierre-Marie Brunet 1 SOMMAIRE Le calcul scientifique au CNES Le BigData au CNES, le cas Gaïa HPC et BigData

Plus en détail

Big Data On Line Analytics

Big Data On Line Analytics Fdil Fadila Bentayeb Lb Laboratoire ERIC Lyon 2 Big Data On Line Analytics ASD 2014 Hammamet Tunisie 1 Sommaire Sommaire Informatique décisionnelle (BI Business Intelligence) Big Data Big Data analytics

Plus en détail

IBM BigInsights for Apache Hadoop

IBM BigInsights for Apache Hadoop IBM BigInsights for Apache Hadoop Gérer et explorer efficacement le Big Data pour exploiter tous les signaux Points clés : Plateforme Hadoop prête à l'emploi pour le traitement, le stockage et l'analyse

Plus en détail

Data 2 Business : La démarche de valorisation de la Data pour améliorer la performance de ses clients

Data 2 Business : La démarche de valorisation de la Data pour améliorer la performance de ses clients Data 2 Business : La démarche de valorisation de la Data pour améliorer la performance de ses clients Frédérick Vautrain, Dir. Data Science - Viseo Laurent Lefranc, Resp. Data Science Analytics - Altares

Plus en détail

Big Data et la santé

Big Data et la santé Big Data, c'est quoi? Big Data et la santé Collecte, stockage et exploitation de masses de données Capter de façon automatique et anonyme une très grande quantité d'informations, les traiter avec des algorithmes

Plus en détail

4 Exemples de problèmes MapReduce incrémentaux

4 Exemples de problèmes MapReduce incrémentaux 4 Exemples de problèmes MapReduce incrémentaux 1 / 32 Calcul des plus courtes distances à un noeud d un graphe Calcul des plus courts chemins entre toutes les paires de noeuds d un graphe Algorithme PageRank

Plus en détail

Jean-François Boulicaut & Mohand-Saïd Hacid

Jean-François Boulicaut & Mohand-Saïd Hacid e siècle! Jean-François Boulicaut & Mohand-Saïd Hacid http://liris.cnrs.fr/~jboulica http://liris.cnrs.fr/mohand-said.hacid Laboratoire d'informatique en Image et Systèmes d'information LIRIS UMR 5205

Plus en détail

BIG DATA : une vraie révolution industrielle (1) Les fortes évolutions liées à la digitalisation

BIG DATA : une vraie révolution industrielle (1) Les fortes évolutions liées à la digitalisation BIG DATA : une vraie révolution industrielle (1) Les fortes évolutions liées à la digitalisation - définition - étapes - impacts La révolution en cours du big data - essai de définition - acteurs - priorités

Plus en détail

Machine Learning 9:HSMBKA=\WU\YX: Big Data et machine learning. Manuel du data scientist. InfoPro

Machine Learning 9:HSMBKA=\WU\YX: Big Data et machine learning. Manuel du data scientist. InfoPro type d ouvrage se former retours d expérience Pirmin Lemberger, Marc Batty Médéric Morel, Jean-Luc Raffaëlli Management des systèmes d information applications métiers études, développement, intégration

Plus en détail

MapReduce. Malo Jaffré, Pablo Rauzy. 16 avril 2010 ENS. Malo Jaffré, Pablo Rauzy (ENS) MapReduce 16 avril 2010 1 / 15

MapReduce. Malo Jaffré, Pablo Rauzy. 16 avril 2010 ENS. Malo Jaffré, Pablo Rauzy (ENS) MapReduce 16 avril 2010 1 / 15 MapReduce Malo Jaffré, Pablo Rauzy ENS 16 avril 2010 Malo Jaffré, Pablo Rauzy (ENS) MapReduce 16 avril 2010 1 / 15 Qu est ce que c est? Conceptuellement Données MapReduce est un framework de calcul distribué

Plus en détail

Location Analytics. Astrid GLADYS Thierry BABELAERE Pierre TEYSSENDIER. SIG 2013 Conférence Francophone 2 & 3 Octobre Versailles Atelier Technique

Location Analytics. Astrid GLADYS Thierry BABELAERE Pierre TEYSSENDIER. SIG 2013 Conférence Francophone 2 & 3 Octobre Versailles Atelier Technique SIG 2013 Conférence Francophone 2 & 3 Octobre Versailles Atelier Technique Astrid GLADYS Thierry BABELAERE Pierre TEYSSENDIER Plan de session La solution Focus Esri Maps for Cognos Focus Esri Maps for

Plus en détail

Big Data Jean-Michel Franco

Big Data Jean-Michel Franco 28/03/2014 Big Data Tendances, perspectives et cas d usage Jean-Michel Franco Directeur de l innovation et des solutions jean-michel.franco@businessdecision.com Twitter : @jmichel_franco Définition Le

Plus en détail

Catalogue des stages Ercom 2013

Catalogue des stages Ercom 2013 Catalogue des stages Ercom 2013 Optimisations sur Modem LTE Poste basé à : Caen (14) Analyse et optimisation des performances des traitements réalisés dans un modem LTE. - Profiling et détermination des

Plus en détail

M2 GL UE DOC «In memory analytics»

M2 GL UE DOC «In memory analytics» M2 GL UE DOC «In memory analytics» Alexandre Termier 2014/2015 Sources Travaux Amplab, U.C. Berkeley Slides Ion Stoica Présentations Databricks Slides Pat McDonough Articles de M. Zaharia et al. sur les

Plus en détail

BIGDATA AN 3 : UNE NOUVELLE ERE DE B.I.

BIGDATA AN 3 : UNE NOUVELLE ERE DE B.I. BIGDATA AN 3 : UNE NOUVELLE ERE DE B.I. QUELLES PERSPECTIVES POUR LES 20 PROCHAINES ANNEES? 22 MARS 2013 CHARLES PARAT, DIR. INNOVATION adoption L ADOPTION DES EVOLUTIONS B.I. EST LENTE BIGDATA BUZZ MAINFRAME

Plus en détail

Exploration des Big Data pour optimiser la Business Intelligence

Exploration des Big Data pour optimiser la Business Intelligence Intel IT Meilleures pratiques IT Business Intelligence Juillet 2012 Exploration des Big Data pour optimiser la Business Intelligence Vue d ensemble La capacité à extraire et analyser les Big Data permet

Plus en détail

1 er Avril 2015 Data Science & Big Data Etat de l art Donner plus d intelligence aux données

1 er Avril 2015 Data Science & Big Data Etat de l art Donner plus d intelligence aux données 1 er Avril 2015 Data Science & Big Data Etat de l art Donner plus d intelligence aux données Votre interlocuteur Didier Gaultier Directeur Data Science Business & Decision Professeur de Statistique à l

Plus en détail

Business Intelligence, Etat de l art et perspectives. ICAM JP Gouigoux 10/2012

Business Intelligence, Etat de l art et perspectives. ICAM JP Gouigoux 10/2012 Business Intelligence, Etat de l art et perspectives ICAM JP Gouigoux 10/2012 CONTEXTE DE LA BI Un peu d histoire Premières bases de données utilisées comme simple système de persistance du contenu des

Plus en détail

AVRIL 2014. Au delà de Hadoop. Panorama des solutions NoSQL

AVRIL 2014. Au delà de Hadoop. Panorama des solutions NoSQL AVRIL 2014 Panorama des solutions NoSQL QUI SOMMES NOUS? Avril 2014 2 SMILE, EN QUELQUES CHIFFRES 1er INTÉGRATEUR EUROPÉEN DE SOLUTIONS OPEN SOURCE 3 4 NOS EXPERTISES ET NOS CONVICTIONS DANS NOS LIVRES

Plus en détail

Big Data? Big responsabilités! Paul-Olivier Gibert Digital Ethics

Big Data? Big responsabilités! Paul-Olivier Gibert Digital Ethics Big Data? Big responsabilités! Paul-Olivier Gibert Digital Ethics Big data le Buzz Le Big Data? Tout le monde en parle sans trop savoir ce qu il signifie. Les médias high-tech en font la nouvelle panacée,

Plus en détail

BIG DATA. Veille technologique. Malek Hamouda Nina Lachia Léo Valette. Commanditaire : Thomas Milon. Encadré: Philippe Vismara

BIG DATA. Veille technologique. Malek Hamouda Nina Lachia Léo Valette. Commanditaire : Thomas Milon. Encadré: Philippe Vismara BIG DATA Veille technologique Malek Hamouda Nina Lachia Léo Valette Commanditaire : Thomas Milon Encadré: Philippe Vismara 1 2 Introduction Historique des bases de données : méthodes de stockage et d analyse

Plus en détail

11/01/2014. Le Big Data Mining enjeux et approches techniques. Plan. Introduction. Introduction. Quelques exemples d applications

11/01/2014. Le Big Data Mining enjeux et approches techniques. Plan. Introduction. Introduction. Quelques exemples d applications Plan Le Big Data Mining enjeux et approches techniques Bernard Dousset Professeur des universités Institut de Recherche en Informatique de Toulouse UMR 5505 Université de Toulouse 118, Route de Narbonne,

Plus en détail

Workshop Big Data Valère DUSSAUX (GCS-D-SISIF) Bruno PREVOST (SAFRAN) Point d avancement

Workshop Big Data Valère DUSSAUX (GCS-D-SISIF) Bruno PREVOST (SAFRAN) Point d avancement Workshop Big Data Valère DUSSAUX (GCS-D-SISIF) Bruno PREVOST (SAFRAN) Point d avancement Les réunions Démarrage : septembre 2012 3 ateliers menés - Attentes/témoignages - RETEX client - RETEX Fournisseur

Plus en détail

Authentification, Sécurisation, & Tracking de vos équipements et produits

Authentification, Sécurisation, & Tracking de vos équipements et produits Authentification, Sécurisation, & Tracking de vos équipements et produits La sécurisation de vos produits par l implémentation d une solution fiable, économique et performante Sommaire 1. L intérêt de

Plus en détail

Big Data, un nouveau paradigme et de nouveaux challenges

Big Data, un nouveau paradigme et de nouveaux challenges Big Data, un nouveau paradigme et de nouveaux challenges Sebastiao Correia 21 Novembre 2014 Séminaire Thématique : Traitement et analyse statistique des données massives, Poitiers. 1 Présentation Sebastiao

Plus en détail

Big Data: développement, rôle des ARS?? Laurent Tréluyer, ARS Ile de France Alain Livartowski Institut Curie Paris 01/12/2014

Big Data: développement, rôle des ARS?? Laurent Tréluyer, ARS Ile de France Alain Livartowski Institut Curie Paris 01/12/2014 Big Data: développement, rôle des ARS?? Laurent Tréluyer, ARS Ile de France Alain Livartowski Institut Curie Paris 01/12/2014 1 Classiquement, le Big Data se définit autour des 3 V : Volume, Variété et

Plus en détail

Entreprise et Big Data

Entreprise et Big Data Entreprise et Big Data Christophe Favart Chef Architecte, SAP Advanced Development, Business Information Technology Public Juin 2013 Agenda SAP Données d Entreprise Big Data en entreprise Solutions SAP

Plus en détail

Performances. Gestion des serveurs (2/2) Clustering. Grid Computing

Performances. Gestion des serveurs (2/2) Clustering. Grid Computing Présentation d Oracle 10g Chapitre VII Présentation d ORACLE 10g 7.1 Nouvelles fonctionnalités 7.2 Architecture d Oracle 10g 7.3 Outils annexes 7.4 Conclusions 7.1 Nouvelles fonctionnalités Gestion des

Plus en détail

ETAT DE L ART ET PERSPECTIVES POUR LES SERVICES NUMÉRIQUES APPLIQUÉS À LA VITICULTURE.

ETAT DE L ART ET PERSPECTIVES POUR LES SERVICES NUMÉRIQUES APPLIQUÉS À LA VITICULTURE. ETAT DE L ART ET PERSPECTIVES POUR LES SERVICES NUMÉRIQUES APPLIQUÉS À LA VITICULTURE. UMR ITAP Montpellier Christophe.guizard@irstea.fr www.irstea.fr PLAN Introduction Toujours + Les TICs L écosystème

Plus en détail

Programme ASI Développeur

Programme ASI Développeur Programme ASI Développeur Titre de niveau II inscrit au RNCP Objectifs : Savoir utiliser un langage dynamique dans la création et la gestion d un site web. Apprendre à développer des programmes en objet.

Plus en détail

Big Data et Prévisions. Philippe Picard, le 24 juin 2015. Page 1

Big Data et Prévisions. Philippe Picard, le 24 juin 2015. Page 1 Big Data et Prévisions Philippe Picard, le 24 juin 2015. Page 1 Vous dites prévisions et prédictions? Neptune Météo Marées Boson de Higgs Loto PMU Economie Sismique + Nostradamus _ Philippe Picard, le

Plus en détail

DEMARRER UN PROJET BIGDATA EN QUELQUES MINUTES GRACE AU CLOUD

DEMARRER UN PROJET BIGDATA EN QUELQUES MINUTES GRACE AU CLOUD DEMARRER UN PROJET BIGDATA EN QUELQUES MINUTES GRACE AU CLOUD BIGDATA PARIS LE 1/4/2014 VINCENT HEUSCHLING @VHE74! 1 NOUS 100% Bigdata Infrastructure IT + Data Trouver vos opportunités Implémenter les

Plus en détail

Masses de données. 1. Introduction 2. Problématiques 3. Socle de formation (non présenté) 4. Liens avec Formation INSA

Masses de données. 1. Introduction 2. Problématiques 3. Socle de formation (non présenté) 4. Liens avec Formation INSA Masses de données 1. Introduction 2. Problématiques 3. Socle de formation (non présenté) 4. Liens avec Formation INSA Rédacteurs : Mjo Huguet / N. Jozefowiez 1. Introduction : Besoins Informations et Aide

Plus en détail

Big Data -Comment exploiter les données et les transformer en prise de décisions?

Big Data -Comment exploiter les données et les transformer en prise de décisions? IBM Global Industry Solution Center Nice-Paris Big Data -Comment exploiter les données et les transformer en prise de décisions? Apollonie Sbragia Architecte Senior & Responsable Centre D Excellence Assurance

Plus en détail

FINI LA RÉCRÉ PASSONS AUX MÉGADONNÉES

FINI LA RÉCRÉ PASSONS AUX MÉGADONNÉES 1 FINI LA RÉCRÉ PASSONS AUX MÉGADONNÉES «Dans le concret, projets de transformation vers le BigData» V1-10/03/15 ABED AJRAOU CONNAISSEZ-VOUS PAGESJAUNES? CONNAISSEZ-VOUS PAGESJAUNES? LES MEGADONNEES RÉPONDENT

Plus en détail

Londres 1854 Des problèmes (re)connus Faire plus avec moins Tendances et défis «BYOD» WIN INTUNE «Nouveaux paradigmes» «Big Data» «Cloud» Windows Server Gestion Sys. Center Identité & Virt CLOUD OS Microsoft

Plus en détail

Certificat Big Data - Master MAthématiques

Certificat Big Data - Master MAthématiques 1 / 1 Certificat Big Data - Master MAthématiques Master 2 Auteur : Sylvain Lamprier UPMC Fouille de données et Medias Sociaux 2 / 1 Rich and big data: Millions d utilisateurs Millions de contenus Multimedia

Plus en détail