Catégories
Meetup

Où va la Modern Data Stack ?

REPLAY – Conférence DATANOSCO


👉 Être notifié de la prochaine rediffusion

Renseignements ? envoyer un email à : stephane (at) datanosco.com
Follow DATANOSCO

Entre les besoins de simplification, de performance ou de gouvernance des uns et les usages temps réels répondant à des contraintes opérationnelles fortes des autres, où va la Modern Data Stack ? Allons-nous vers un marché encore plus fragmenté ou vers une plateforme data “all in one” dans le Cloud ? Quelle place la Modern Data Stack peut-elle encore tenir face aux incontournables Snowflake et Databricks ? Venez vous faire votre avis en écoutant les témoignages de Michelin, Decathlon, BPCE, La Poste, OVH …

Criteo

Quelle stack faut-il pour gérer 200 000 tables contenant 25 milliards de partitions pour une volumétrie de 85 PB ?

Criteo

Comment coordonner une équipe de 300 data engineers, du développement à la mise en production? Comment gérer la non régression tout en assurant la qualité de la donnée, la documentation et la mise à disposition des KPIs nécessaires à la gouvernance et à la supervision ? Raphaël Claude et Miguel Liroz retracent l’histoire de la construction de la stack et comment Criteo a rationalisé l’expérience de travail en consolidant tous ces besoins dans une solution intégrée de bout en bout.

Michelin

L’importance de Kafka chez Michelin. Architecture du nouveau socle technique. Témoignage.

Michelin

Retour d’expérience sur la migration d’un socle monolithique BPM/ERP essentiel aux opérations des flux logistiques du groupe vers une nouvelle chorégraphie micro-services & streaming. Marie-Laure Momplot et Olivier Jauze retracent l’histoire de la mise en œuvre de Kafka et Kafka Stream, et de l’écriture de librairies additionnelles facilitant l’industrialisation et le monitoring de Kafka : Kstreamplify.

Decathlon

Comment aligner la stack data sur une organisation métier en silos sans faire exploser les coûts ? Stratégie et roadmap Data.

Decathlon

De la transformation dans Databricks orchestrée par dbt cloud à la publication des sources dans Tableau pour accélérer le self-service, Martin Lang et Dimitri Antakly nous montrent comment mutualiser les ressources sans perdre ni en vélocité, ni en qualité ! Ils vont aborder les problématiques de gouvernance, de monitoring, de scalabilité et de montée en compétence des équipes.

BPCE

Comment concilier innovation data et régulation dans une banque ? Témoignage.

Groupe BPCE

Aucun métier n’est plus régulé que celui de la Banque et doit de surcroit composer avec un héritage IT contraignant. Comment le groupe BPCE jongle entre une stack data hybride, On Premise pour le Corporate, Cloud pour les besoins analytiques du Retail Banking, en passant par Kubernetes pour garantir la portabilité des services. Florian Caringi nous dévoile la roadmap du groupe.

La Poste Groupe

Optimisation des flux Colissimo en temps réel avec Pathway. Témoignage.

La Poste Groupe

Jean-Paul Fabre, Responsable Innovation Technologique au sein du Groupe La Poste montrera comment de multiples cas d’usage analytiques – optimisation du réseau, amélioration du taux d’utilisation des actifs, gestion des flux, préparation pour les Jeux Olympiques, etc. – sont permis grâce à un jumeau numérique et un modèle de données combinant les données batch et streaming via le moteur unifié Pathway.

OVHcloud

La nouvelle Data Plateform as a Service d’OVHcloud, un « All-In-One » dans le Cloud. Témoignage.

OVHcloud

Construction d’une stack DATA et de son infrastructure, de l’ingestion à la Dataviz en passant par le stockage, le processing, le machine learning et l’IA générative. Quels sont les défis rencontrés, le choix des solutions, l’assemblage des composants, la sécurité, l’automatisation, l’orchestration, l’observabilité, … Stéphane Ligneul et François Vaillant vont nous livrer une partie des secrets de la nouvelle offre OVHcloud.

Data ingénierie en furie !

DuckDB, un aperçu du futur et pourquoi ça va changer la manière dont on fait de la donnée. REPLAY disponible

Christophe Blefari

On a déjà le choix entre 343 databases, pourquoi une de plus ? DuckDB, la nouvelle base de données OLAP en mémoire permet de faire du SQL sur tous vos fichiers très facilement. Christophe Blefari va nous montrer quelques cas d’usages, au sein de la Modern Data Stack, mais aussi dans le navigateur via la version en Web Assembly. Alors ? DuckDB ? phénomène marketing ou pas ?

👉 Être notifié de la prochaine rediffusion

Catégories
Data

DataOps 2025

By 2025, a Data Engineering team guided by DataOps practices and tools will be 10 times more productive than teams that do not use DataOps !

Gartner’s Strategic Planning Assumption

By 2025, one-half of organizations will have adopted a DataOps approach to their data engineering processes, enabling them to be more flexible and agile.

Ventana Research

Definition(s)

DataOps is an engineering methodology and set of practices for rapid, reliable, and repeatable delivery of production-ready data and operations-ready analytics and data science models

First and foremost, DataOps is a mindset of continuous improvement of data development practices. Secondly, it’s a set of processes for delivering data faster, better, cheaper to improve customer satisfaction. And thirdly, it’s tools to support those processes.

Wayne Eckerson, Eckerson Group

Operationalizing Data Integration for constant change and continuous delivery1

DataOps is a collaborative data management practice focused on improving the communication, integration and automation of data flows between data managers and data consumers across an organization.

Gartner

DataOps is the new way of thinking about working with data, it provides practitioners like architects & developers an ability to onboard and scale data projects quickly while giving operators and leaders visibility and confidence that the underlying engines are working well. It is a fundamental mindshift that requires changes in people, processes, and supporting technologies2.

Data Operations (DataOps) is a methodology focused on the delivery of agile business intelligence (BI) and data science through the automation and orchestration of data integration and processing pipelines, incorporating improved data reliability and integrity via data monitoring and observability. DataOps has been part of the lexicon of the data market for almost a decade and takes inspiration from DevOps, which describes a set of tools, practices and philosophy used to support the continuous delivery of software applications in the face of constant changes.

Matt Aslet, Ventana Research

Gartner Key Findings

DataOps is becoming a necessity. Care capabilities include:

  • Orchestration
  • Observability
  • Test Automation
  • Deployment Automation
  • Environment Management

Gartner Recommendations

  • Procure as a cost optimization solution
  • Understand the diverse market landscape and focus on a desired set of core capabilities
  • Prioritize single pane of glass tools

Resources

  1. Source StreamSets ↩︎
  2. Source StreamSets ↩︎
Catégories
Data

Data Sommelier

Les épisodes

Live Talks, Interviews, Reviews, Démonstrations.
All things DATA !
Contact stephane (at) datanosco.com – LinkedIn profile
LinkedIn Company Page DATANOSCO

S1E1
Apache Iceberg, vers un nouveau standard du stockage de la donnée ? avec Victor Coustenoble. Replay LinkedIn.

S1E2
Découverte de The Apache Software Foundation Foundation, avec JB Onofré. Replay LinkedIn.

S1E3
FinOps, halte au gaspillage … où les bonnes pratiques à mettre en place pour optimiser les coûts d’une plateforme data, avec Matthieu Rousseau et Ismael Goulani. Replay LinkedIn.

S1E4
Un Lakehouse dans un cloud français, économiquement abordable et basé sur des composants opensource interchangeables, c’est possible ? avec Vincent HEUSCHLING. Replay LinkedIn.

S1E5
Talaxie, le fork Talend Open Studio. L’initiative de Jean Cazaux. Replay LinkedIn.

S1E6
De PowerMart à IDMC, en passant par PowerCenter, Christophe Fournel retrace les 30 dernières années d’Informatica. Replay LinkedIn.

S1E7
Le retour des ‘Data Platforms’. Interview de Eric Mattern. Replay LinkeIn.

S1E8
Le projet Icehouse avec Victor Coustenoble, une plateforme Lakehouse intégralement gérée, qui combine le moteur de requête opensource Trino et Apache Iceberg.

S1E9
Retour sur la conférence Subsurface, organisée par Dremio qui s’est déroulée les 2 et 3 mai 2024 à New York. Charly Clairmont en profite pour nous rappeler ce qu’est Dremio et ses différents cas d’usages. Replay LinkedIn.

S1E10
La gouvernance de données, c’est d’abord une question organisationnelle ! Daniel MALOT nous parle de son expérience terrain et décrit les étapes nécessaires pour mener à bien un projet de gouvernance en nous faisant découvrir quelques aspects de sa solution META ANALYSIS. Replay LinkedIn.

S1E11
Pierre Villard retrace l’histoire de la solution Apache NiFi, véritable gateway universelle permettant le développement de pipelines de mouvements de données, aussi bien en mode batch qu’en streaming. Replay LinkedIn.

S1E12
Le streaming, une nouvelle façon de penser l’architecture des applications et d’améliorer les usages de la data ! Fred CECILIA constate que le streaming s’impose naturellement lorsqu’on a vainement essayé d’optimiser les batch existants. Replay LinkedIn.

S1E14
Alexandre Guillemine de chez Foodles nous détaille toutes les étapes de son projet de migration de PostgreSQL vers Snowflake ! Replay LinkedIn.

S1E15
Amphi, un ETL opensource pour faire du RAG, développé par Thibaut Gourdel ! Replay LinkedIn.

S1E16
Cloudera, de l’ère Bigdata à l’ère de l’IA, interview de Denis Fraval. Replay LinkedIn.

S1E17
DCP, la Data Platform ClickOps Self Service, avec le témoignage d’EDF. Interview de Frederic Collin et Edouard Rousseaux. Replay LinkedIn.

S1E18
Qu’est que la Data Observability ? avec Mahdi Karabiben de la société Sifflet. Replay LinkedIn.

S1E19
On en parle depuis quelques temps, de la Composable Data Platform, l’architecture émergente multi-engine qui va changer la façon dont on pense l’ingénierie des données. Julien Hurault explique comment Apache Iceberg, un format de table ouvert, peut servir de couche de stockage commune à différents moteurs tels que DuckDB, Snowflake ou SQLMesh. Replay LinkedIn.

S1E20
IBM watsonx, la plateforme DATA et IA, avec Mehdi Boulaymen. Replay LinkedIn.

S1E21
Open Metadata, un open source pour la gouvernance des données, la gestion de la qualité des données et la Data Observability, avec Teddy Crépineau. Replay LinkedIn.

S1E22
DuckDB, le moteur OLAP open source qui se distingue par sa légèreté, sa performance et sa capacité à traiter des volumes importants de données. Interview de Antoine Giraud. Replay LinkedIn.

S1E23
On explore la solution n8n, outil d’automatisation low-code. Intégration de PDF complexes via l’AI et APIs, avec Valérian Lebert. Replay LinkedIn.

S1E24
On découvre la nouvelle fonctionnalité Google SQL Pipe Syntax qui fonctionne entre autre pour BigQuery, avec Axel Thevenot. Replay LinkedIn.

S1E25
On parle temps réel, Change Data Capture (CDC) et de son rôle dans la modernisation des systèmes d’information, avec Benjamin Djidi. Replay LinkedIn.

S1E26
Data Mesh, Data Contract, Data Product, … où en sommes nous ? Avec Philippe Nieuwbourg de Decideo. Replay LinkedIn.

S1E27
« Medium Code », un nouveau type de programmation qui se situe entre le « low code » et le « hard code ». On fait le point avec Pierre Pilleyre. Replay LinkedIn.

S1E28
On plonge dans l’univers fascinant du stream processing, avec Fred CECILIA, en mettant l’accent sur Apache Flink, un outil puissant qui gagne en popularité. Replay à venir: LinkedIn.

S1E29
Gilles Barbier nous présente Infinitic, framework EDA (Event Driven Architecture) open source pour l’orchestration de processus métier, qui s’appuie sur Apache Pulsar. Replay à venir: LinkedIn.

Catégories
Data

The Definitive Guide to Data Integration

Covering essential concepts, techniques, and tools, this book is a compass for every data professional seeking to create value and transform their business.

Stéphane Heckel, Data Sommelier

1998, Ignition

My journey into the data integration world started in 1998 when the company I served as a database consultant was acquired by an American software vendor specializing in this field. Back then, the idea of a graphical ETL solution seemed far-fetched; drawing lines with a mouse between sources and target components to craft data movement interfaces for analytical applications appeared unconventional. We were accustomed to developing code in C++, ensuring the robustness and performance of applications. Data warehouses were fed through batch-mode SQL processes, with orchestration and monitoring managed in shell scripts.

The 3Vs and more !

Little did we anticipate that this low-code, no-code ETL solution would evolve into a standard embraced by global companies, marking the onset of the data integration revolution. The pace was swift1. Growing data volumes, expanding sources to profile, operational constraints, and tightening deadlines propelled changes in data tools, architectures and practices. Real-time data integration, data storage, data quality, metadata and master data management, enhanced collaboration between business and technical teams through governance programs, and the development of cloud-based applications became imperative challenges for data teams striving for operational excellence.

Ready for the AI Era !

The past 25 years flashed by, and the revolution persists, keeping my passion for data ablaze. The rise of artificial intelligence, exemplified by the success of ChatGPT, necessitates vast data processing for model building. This, in turn, compels a deeper reliance on data engineering techniques. Authored by seasoned data professionals with extensive project deployments, this book offers a comprehensive overview of data integration. My sincere gratitude to them, Pierre-Yves, Emeric, Raphaël and Mehdi for crafting this invaluable resource! Covering essential concepts, techniques, and tools, this book is a compass for every data professional seeking to create value and transform their business. May your reading journey be as enjoyable as mine!

  1. The 3Vs of Big Data: Volume, Velocity, Variety ↩︎
Catégories
Meetup

Modern Data Stack Septembre 2023

De la collecte des données au développement d’applications analytiques. Meetup du 12 septembre 2023 chez Criteo avec Kestra, Snowflake et Pernod Ricard

Nous avons le plaisir de nous retrouver chez Criteo le Mardi 12 septembre 2023 dès 18h00 pour le prochain meetup Modern Data Stack sur le thème de la collecte des données au développement d’applications analytiques. Nous remercions les sociétés Snowflake et CRITEO qui sponsorisent ce meetup, ainsi que Pernod Ricard pour son retour d’expérience.

Programme

Première session à 18h30 avec Kestra, startup Française, qui a conçu un ordonnanceur de données open-source basé sur les événements, qui vise à rendre les flux de données accessibles à un large public. Le produit offre une interface déclarative YAML pour la définition des flux de travail, permettant ainsi à chaque membre d’une organisation de participer au processus de création des pipelines de données. Benoit Pimpaud illustrera l’utilisation de Kestra dans un contexte d’ingestion de données vers Snowflake en mode DataMesh.

On enchaîne vers 19h00 avec Streamlit, framework open source python pour créer des applications de façon simplifiée. Pensé pour les Data Scientists, il permet à toute personne connaissant python de créer une interface utilisateur, sans avoir besoin de développer une expertise front-end. Concrètement, Streamlit aide les Data Scientists à mettre leurs modèles prédictifs entre les mains des utilisateurs métiers. Acheté par Snowflake en mars 2022, Streamlit demeure un projet open source. Arnaud Miribel présentera à la fois Streamlit open source et montrera comment l’intégration de Streamlit dans Snowflake permet d’héberger des applications data au plus près des données.

Dernière session vers 19h30 avec le témoignage de Swamynathan Candassamy et Stéphane Texier de Pernod Ricard. Dans le cadre de sa stratégie data, Pernod Ricard a développé un portail Data qui sert de comptoir unique pour centraliser et rendre disponibles les données à l’échelle et en libre-service au travers d’un portail web présentant dashboards, jeux de données et applications python. Les équipes Data Science utilisent depuis plusieurs années Streamlit dans sa version open source pour faciliter le « Fast Prototyping » et créer des applications sur des sujets comme la computer vision et le monitoring de modèles.

De 20h00 à 21h00 drinks & causeries au coin de la DATA (merci à nos sponsors Snowflake et CRITEO)

Inscription

https://www.meetup.com/fr-FR/modern-data-stack-france/