Auteur/autrice : Stéphane Heckel

Catégories
Data

The Definitive Guide to Data Integration

Covering essential concepts, techniques, and tools, this book is a compass for every data professional seeking to create value and transform their business.

Stéphane Heckel, Data Sommelier

1998, Ignition

My journey into the data integration world started in 1998 when the company I served as a database consultant was acquired by an American software vendor specializing in this field. Back then, the idea of a graphical ETL solution seemed far-fetched; drawing lines with a mouse between sources and target components to craft data movement interfaces for analytical applications appeared unconventional. We were accustomed to developing code in C++, ensuring the robustness and performance of applications. Data warehouses were fed through batch-mode SQL processes, with orchestration and monitoring managed in shell scripts.

The 3Vs and more !

Little did we anticipate that this low-code, no-code ETL solution would evolve into a standard embraced by global companies, marking the onset of the data integration revolution. The pace was swift1. Growing data volumes, expanding sources to profile, operational constraints, and tightening deadlines propelled changes in data tools, architectures and practices. Real-time data integration, data storage, data quality, metadata and master data management, enhanced collaboration between business and technical teams through governance programs, and the development of cloud-based applications became imperative challenges for data teams striving for operational excellence.

Ready for the AI Era !

The past 25 years flashed by, and the revolution persists, keeping my passion for data ablaze. The rise of artificial intelligence, exemplified by the success of ChatGPT, necessitates vast data processing for model building. This, in turn, compels a deeper reliance on data engineering techniques. Authored by seasoned data professionals with extensive project deployments, this book offers a comprehensive overview of data integration. My sincere gratitude to them, Pierre-Yves, Emeric, Raphaël and Mehdi for crafting this invaluable resource! Covering essential concepts, techniques, and tools, this book is a compass for every data professional seeking to create value and transform their business. May your reading journey be as enjoyable as mine!

  1. The 3Vs of Big Data: Volume, Velocity, Variety ↩︎
Catégories
Meetup

Où va la Modern Data Stack ?

REPLAY – Conférence DATANOSCO


👉 Être notifié de la prochaine rediffusion

Renseignements ? envoyer un email à : stephane (at) datanosco.com
Follow DATANOSCO

Entre les besoins de simplification, de performance ou de gouvernance des uns et les usages temps réels répondant à des contraintes opérationnelles fortes des autres, où va la Modern Data Stack ? Allons-nous vers un marché encore plus fragmenté ou vers une plateforme data “all in one” dans le Cloud ? Quelle place la Modern Data Stack peut-elle encore tenir face aux incontournables Snowflake et Databricks ? Venez vous faire votre avis en écoutant les témoignages de Michelin, Decathlon, BPCE, La Poste, OVH …

Criteo

Quelle stack faut-il pour gérer 200 000 tables contenant 25 milliards de partitions pour une volumétrie de 85 PB ?

Criteo

Comment coordonner une équipe de 300 data engineers, du développement à la mise en production? Comment gérer la non régression tout en assurant la qualité de la donnée, la documentation et la mise à disposition des KPIs nécessaires à la gouvernance et à la supervision ? Raphaël Claude et Miguel Liroz retracent l’histoire de la construction de la stack et comment Criteo a rationalisé l’expérience de travail en consolidant tous ces besoins dans une solution intégrée de bout en bout.

Michelin

L’importance de Kafka chez Michelin. Architecture du nouveau socle technique. Témoignage.

Michelin

Retour d’expérience sur la migration d’un socle monolithique BPM/ERP essentiel aux opérations des flux logistiques du groupe vers une nouvelle chorégraphie micro-services & streaming. Marie-Laure Momplot et Olivier Jauze retracent l’histoire de la mise en œuvre de Kafka et Kafka Stream, et de l’écriture de librairies additionnelles facilitant l’industrialisation et le monitoring de Kafka : Kstreamplify.

Decathlon

Comment aligner la stack data sur une organisation métier en silos sans faire exploser les coûts ? Stratégie et roadmap Data.

Decathlon

De la transformation dans Databricks orchestrée par dbt cloud à la publication des sources dans Tableau pour accélérer le self-service, Martin Lang et Dimitri Antakly nous montrent comment mutualiser les ressources sans perdre ni en vélocité, ni en qualité ! Ils vont aborder les problématiques de gouvernance, de monitoring, de scalabilité et de montée en compétence des équipes.

BPCE

Comment concilier innovation data et régulation dans une banque ? Témoignage.

Groupe BPCE

Aucun métier n’est plus régulé que celui de la Banque et doit de surcroit composer avec un héritage IT contraignant. Comment le groupe BPCE jongle entre une stack data hybride, On Premise pour le Corporate, Cloud pour les besoins analytiques du Retail Banking, en passant par Kubernetes pour garantir la portabilité des services. Florian Caringi nous dévoile la roadmap du groupe.

La Poste Groupe

Optimisation des flux Colissimo en temps réel avec Pathway. Témoignage.

La Poste Groupe

Jean-Paul Fabre, Responsable Innovation Technologique au sein du Groupe La Poste montrera comment de multiples cas d’usage analytiques – optimisation du réseau, amélioration du taux d’utilisation des actifs, gestion des flux, préparation pour les Jeux Olympiques, etc. – sont permis grâce à un jumeau numérique et un modèle de données combinant les données batch et streaming via le moteur unifié Pathway.

OVHcloud

La nouvelle Data Plateform as a Service d’OVHcloud, un « All-In-One » dans le Cloud. Témoignage.

OVHcloud

Construction d’une stack DATA et de son infrastructure, de l’ingestion à la Dataviz en passant par le stockage, le processing, le machine learning et l’IA générative. Quels sont les défis rencontrés, le choix des solutions, l’assemblage des composants, la sécurité, l’automatisation, l’orchestration, l’observabilité, … Stéphane Ligneul et François Vaillant vont nous livrer une partie des secrets de la nouvelle offre OVHcloud.

Data ingénierie en furie !

DuckDB, un aperçu du futur et pourquoi ça va changer la manière dont on fait de la donnée. REPLAY disponible

Christophe Blefari

On a déjà le choix entre 343 databases, pourquoi une de plus ? DuckDB, la nouvelle base de données OLAP en mémoire permet de faire du SQL sur tous vos fichiers très facilement. Christophe Blefari va nous montrer quelques cas d’usages, au sein de la Modern Data Stack, mais aussi dans le navigateur via la version en Web Assembly. Alors ? DuckDB ? phénomène marketing ou pas ?

👉 Être notifié de la prochaine rediffusion

Catégories
Data

DataOps 2025

By 2025, a Data Engineering team guided by DataOps practices and tools will be 10 times more productive than teams that do not use DataOps !

Gartner’s Strategic Planning Assumption

By 2025, one-half of organizations will have adopted a DataOps approach to their data engineering processes, enabling them to be more flexible and agile.

Ventana Research

Definition(s)

DataOps is an engineering methodology and set of practices for rapid, reliable, and repeatable delivery of production-ready data and operations-ready analytics and data science models (source

Wayne Eckerson, Eckerson Group

Operationalizing Data Integration for constant change and continuous delivery1

DataOps is a collaborative data management practice focused on improving the communication, integration and automation of data flows between data managers and data consumers across an organization.

Gartner

DataOps is the new way of thinking about working with data, it provides practitioners like architects & developers an ability to onboard and scale data projects quickly while giving operators and leaders visibility and confidence that the underlying engines are working well. It is a fundamental mindshift that requires changes in people, processes, and supporting technologies2.

Data Operations (DataOps) is a methodology focused on the delivery of agile business intelligence (BI) and data science through the automation and orchestration of data integration and processing pipelines, incorporating improved data reliability and integrity via data monitoring and observability. DataOps has been part of the lexicon of the data market for almost a decade and takes inspiration from DevOps, which describes a set of tools, practices and philosophy used to support the continuous delivery of software applications in the face of constant changes.

Matt Aslet, Ventana Research

Gartner Key Findings

DataOps is becoming a necessity. Care capabilities include:

  • Orchestration
  • Observability
  • Test Automation
  • Deployment Automation
  • Environment Management

Gartner Recommendations

  • Procure as a cost optimization solution
  • Understand the diverse market landscape and focus on a desired set of core capabilities
  • Prioritize single pane of glass tools

Resources

  1. Source StreamSets ↩︎
  2. Source StreamSets ↩︎
Catégories
Meetup

Modern Data Stack Septembre 2023

De la collecte des données au développement d’applications analytiques. Meetup du 12 septembre 2023 chez Criteo avec Kestra, Snowflake et Pernod Ricard

Nous avons le plaisir de nous retrouver chez Criteo le Mardi 12 septembre 2023 dès 18h00 pour le prochain meetup Modern Data Stack sur le thème de la collecte des données au développement d’applications analytiques. Nous remercions les sociétés Snowflake et CRITEO qui sponsorisent ce meetup, ainsi que Pernod Ricard pour son retour d’expérience.

Programme

Première session à 18h30 avec Kestra, startup Française, qui a conçu un ordonnanceur de données open-source basé sur les événements, qui vise à rendre les flux de données accessibles à un large public. Le produit offre une interface déclarative YAML pour la définition des flux de travail, permettant ainsi à chaque membre d’une organisation de participer au processus de création des pipelines de données. Benoit Pimpaud illustrera l’utilisation de Kestra dans un contexte d’ingestion de données vers Snowflake en mode DataMesh.

On enchaîne vers 19h00 avec Streamlit, framework open source python pour créer des applications de façon simplifiée. Pensé pour les Data Scientists, il permet à toute personne connaissant python de créer une interface utilisateur, sans avoir besoin de développer une expertise front-end. Concrètement, Streamlit aide les Data Scientists à mettre leurs modèles prédictifs entre les mains des utilisateurs métiers. Acheté par Snowflake en mars 2022, Streamlit demeure un projet open source. Arnaud Miribel présentera à la fois Streamlit open source et montrera comment l’intégration de Streamlit dans Snowflake permet d’héberger des applications data au plus près des données.

Dernière session vers 19h30 avec le témoignage de Swamynathan Candassamy et Stéphane Texier de Pernod Ricard. Dans le cadre de sa stratégie data, Pernod Ricard a développé un portail Data qui sert de comptoir unique pour centraliser et rendre disponibles les données à l’échelle et en libre-service au travers d’un portail web présentant dashboards, jeux de données et applications python. Les équipes Data Science utilisent depuis plusieurs années Streamlit dans sa version open source pour faciliter le « Fast Prototyping » et créer des applications sur des sujets comme la computer vision et le monitoring de modèles.

De 20h00 à 21h00 drinks & causeries au coin de la DATA (merci à nos sponsors Snowflake et CRITEO)

Inscription

https://www.meetup.com/fr-FR/modern-data-stack-france/