RBI-Solutions blog

Metagegevens als motor: hoe gebruik van information_schema je dataplatform slimmer kan maken

Hopelijk weet iedereen die met databases werkt van het bestaan van standaard metagegevens waarmee er gemakkelijk inzicht verkregen kan worden over de structuur, data en opzet van de database. Ook voor dataplatforms zijn deze objecten enorm waardevol. Toch wordt het potentieel van metagegevens nog vaak onderschat, terwijl vrijwel elke (moderne) relationele database, van PostgreSQL tot Snowflake, een krachtig en vaak onderbenut startpunt biedt in de vorm van information_schema. In deze blog duiken we dieper in hoe metagegevens via information_schema je dataplatform slimmer, transparanter en beheersbaarder maken. Voor zowel data engineers die pipelines bouwen, als analisten die vertrouwen op stabiele datasets, bieden deze metagegevens enorme voordelen. Van automatisch documenteren tot het voorkomen van incidenten: wie information_schema goed gebruikt, bouwt een robuuster platform.

Wat is information_schema precies?
Information_schema is een gestandaardiseerde set views die beschikbaar is in vrijwel elke relationele database. Denk aan tabellen als tables, columns, views, constraints, procedures en nog veel meer. Deze views bieden inzicht in de structuur van je database zonder dat je toegang nodig hebt tot de daadwerkelijke data. Je kunt ermee opvragen welke tabellen er zijn, welke kolommen in die tabellen zitten, welke constraints er gelden, welke views afhankelijk zijn van welke tabellen, enzovoorts.

Wat information_schema bijzonder maakt, is dat het dynamisch is: het verandert mee met je database. Voeg je een kolom toe? Dan zie je dat direct terug. Wordt een view aangepast? Ook die wijziging is inzichtelijk. Dit maakt het een ideaal fundament voor metadata-gedreven toepassingen, zowel over het dataplatform waar je aan werkt, als over de bronnen die je binnen je platform ontsluit.

Praktische toepassingen van information_schema
Laten we dit concreet maken met een veelvoorkomende situatie: je werkt aan een dataplatform waarin meerdere teams hun eigen datasets publiceren in een gedeelde warehouse-omgeving, bijvoorbeeld Snowflake of BigQuery. Op een dag besluit Team Marketing een kolom te hernoemen in hun tabellen. Als daar views of dashboards op gebaseerd zijn in andere teams, dan breekt er van alles, tenzij je proactief zicht hebt op deze afhankelijkheden. Met information_schema kun je dit soort afhankelijkheden in kaart brengen. Door te query’en op bijvoorbeeld view_table_usage of referential_constraints, zie je wie op wie bouwt. Dit stelt je in staat om impactanalyses te doen voordat wijzigingen live gaan. Het helpt je ook om automatisch waarschuwingen te genereren bij wijzigingen, of zelfs deployment pipelines te blokkeren als ze downstream impact hebben.

Een ander sterk voorbeeld is documentatie. Veel datateams worstelen met het actueel houden van technische documentatie. Waarom zou je dat handmatig doen, als je met één query uit information_schema.columns een volledig overzicht kunt genereren van alle kolommen, inclusief datatypes, nullable flags en default values? Combineer dit met tools als dbt of DataHub, en je hebt een dynamisch bijgewerkte catalogus.

Ook in de context van datakwaliteit is information_schema waardevol. Wil je monitoren of tabellen groeien zoals verwacht? Of weten welke tabellen al maanden niet meer worden aangeraakt, en dus misschien opgeruimd kunnen worden? Door information_schema.tables te combineren met usage logs, kun je grip krijgen op gedrag en gebruik van datasets.

Uitdagingen en kanttekeningen
Hoewel information_schema krachtig is, kent het ook beperkingen. De standaard views zijn niet altijd volledig consistent tussen systemen. Wat in PostgreSQL beschikbaar is, kan net anders heten of zelfs ontbreken in bijvoorbeeld Redshift of Databricks. Het is dus belangrijk om je platform-specifieke documentatie goed te kennen.

Dit kan ook van invloed zijn als je data uit verschillende bronnen ontsluit naar je dataplatform. Als je een overzicht wil hebben van alle bronnen en structuren, op kolom niveau, gebruik je voor SQL Server en PostgreSQL information_schema.columns, terwijl je uit Oracle de view all_tab_columns nodig hebt. Daarbij komt ook nog dat de verschillende databases andere data-types gebruiken, dus een integraal beeld krijgen soms lastig kan zijn.

Metadatagedreven ontsluiten van bronnen
Elke ETL-specialist of data engineer kent het wel, een bronsysteem past een kolomnaam aan en de volgende run loopt je ontsluiting vast. Ook al heb je een datacontract of een gegevensleveringsovereenkomst, de ontwikkelaars waren even vergeten dat hun data ook gebruikt wordt in het dataplatform, wat cruciaal kan zijn voor stuur- en verantwoordingsinformatie (of andere toepassingen).

Maar wat nou als je dit had kunnen zien aankomen? Of er automatisch op had kunnen reageren? Dat kan dus op basis van de metagegevens uit het bronsysteem! Wanneer er in de information_schema views een extra kolom meegegeven wordt, zou je deze ook automatisch in je dataplatform op kunnen nemen. Of bij een ‘all or nothing aanpak, kun je direct die nieuwe tabel meenemen in je volgende loads. Dan is de data ook in het dataplatform al beschikbaar voordat de business je kan vragen om die nieuwe tabel op te nemen. Dit kan daarmee zorgen voor een robuustere pipeline, die tegen een stootje kan wanneer structuur gewijzigd wordt.

Vraag dus bij je volgende te ontsluiten bronsysteem ook toegang tot deze views, op die manier ben je voorbereid op alle databasewijzigingen.

Conclusie
Het gebruik van information_schema is misschien niet het spannendste onderwerp binnen data engineering, maar wel een van de meest onderschatte krachten in het bouwen van een schaalbaar, onderhoudbaar en slim dataplatform. Juist doordat deze metagegevens standaard beschikbaar zijn in vrijwel elke relationele database, is het verbazingwekkend hoeveel grip je ermee kunt krijgen op structuur, afhankelijkheden en gebruik van data.

Door information_schema actief te benutten, kun je beter anticiperen op wijzigingen in bronnen, automatisch documentatie genereren, inzicht krijgen in lineage en datakwaliteit borgen. Of je nu werkt met Snowflake, PostgreSQL, SQL Server of BigQuery, overal ligt een schat aan metadata voor het oprapen. Voor data engineers betekent dit minder incidenten en stabielere pipelines. Voor analisten betekent het vertrouwen in de datasets waarmee ze werken.

Metagegevens vormen daarmee niet alleen de smeerolie van je dataplatform, maar ook het motorblok. Wie investeert in het goed ontsluiten en benutten van deze metadata, legt een fundament voor flexibiliteit, schaalbaarheid en toekomstbestendigheid. Dus de volgende keer dat je een bron ontsluit of een datamodel aanpast, vergeet dan niet: information_schema weet hoe alles in elkaar zit.

Lees verder over data en de diensten van RBI-Solutions in deze blog's:

Data mesh: principes en praktische implementatie

Data mesh: principes en praktische implementatie

Elk relatief groot bedrijf bestaat uit verschillende afdelingen, elk met zijn eigen vraagstukken. Op datagebied is dat niet anders: marketing wil weten hoe campagnes performen, operations wil de huidige voorraad kunnen inzien, finance bewaakt de cashflow en productontwikkeling volgt klantgedrag.

Datamigratie afgerond… en nu?

Datamigratie afgerond… en nu?

Binnen veel organisaties is een datamigratie een enorme mijlpaal. Maandenlang werk je toe naar dat ene moment waarop alle data succesvol is overgezet naar de nieuwe operationele applicatie. Tijdens dat migratietraject worden allerlei controles ingericht: validatieregels, datakwaliteits­checks en integriteitscontroles die ervoor zorgen dat iedere klant, transactie of productrecord correct wordt overgezet. In de praktijk zien we alleen dat die regels direct na de migratie verdwijnen uit beeld. Terwijl ze juist ook dan van grote waarde zijn.

Meggie over haar werk bij de klant

Meggie over haar werk bij de klant

Meggie van den Boom, data engineer bij RBI Solutions, werkt al anderhalf jaar als data consultant bij een financiële dienstverlener. Ze geeft ons vandaag een kijkje in hoe haar werkzaamheden binnen haar team bij de klant eruit zien.

Metadata: je geheime wapen voor observability & governance

Metadata: je geheime wapen voor observability & governance

Metadata voor observability en governance: verder dan information_schema
Een aantal weken geleden, wijdden we een blog aan het gebruik van metadata voor het slimmer ontwikkelen en onderhouden van dataplatforms. Metadata wordt helaas nog vaak gezien als het saaie bijproduct van data: een paar kolomnamen, datatypes en misschien een timestamp, maar in moderne dataplatformen is dat nog maar het topje van de ijsberg. Metadata kan, mits goed benut, een krachtig fundament vormen voor zowel observability als governance. Het kan helpen bij het opsporen van problemen, het begrijpen van datastromen, het garanderen van compliance en zelfs het optimaliseren van prestaties.

Data migratie test en validatiestrategieën: hoe je zeker weet dat je data klopt na een migratie

Data migratie test en validatiestrategieën: hoe je zeker weet dat je data klopt na een migratie

Data migraties zijn voor veel organisaties een uitdaging: je stapt over van een oud systeem naar een nieuw, je moderniseert je datawarehouse of je integreert een nieuw platform na een fusie. Ondanks dat het technisch ‘slechts’ het verplaatsen van data lijkt, komt er meer bij kijken om een goede datamigratie uit te voeren. Hoe weet je zeker dat de data na migratie nog klopt? Dat er niets verloren is gegaan, of erger nog: dat je geen subtiele fouten hebt geïntroduceerd die maanden later pas boven water komen?
In deze blog staan we stil bij test- en validatiestrategieën bij data migraties. We bespreken waarom het testen van een datamigratie fundamenteel anders is dan het testen van een standaard applicatie, welke technieken je kunt gebruiken om betrouwbaarheid te garanderen, en hoe je omgaat met de praktische uitdagingen die je onderweg tegenkomt.

Waarom AI en automatisering niet werken zonder goede data engineering

Waarom AI en automatisering niet werken zonder goede data engineering

AI is hot. Iedereen wil er iets mee. Van slimme voorspellingen tot volledige automatisering van bedrijfsprocessen; organisaties investeren massaal in artificial intelligence. Maar wie verder kijkt dan de hype, ziet dat veel AI-projecten stranden nog voordat ze echt waarde opleveren. Niet vanwege de modellen of de tooling, maar vanwege iets veel fundamentelers: de onderliggende data en hoe je ermee omgaat. Of specifieker: de data engineering erachter. Want zonder robuuste data-infrastructuur is AI net zo betrouwbaar als een kompas in een magneetveld. 

Data-APK: inzicht en zekerheid voor jouw bedrijfsdata

Data-APK: inzicht en zekerheid voor jouw bedrijfsdata

In een tijd waarin beslissingen steeds meer op data leunen, is het essentieel om zeker te weten dat die data klopt. Net als een auto die regelmatig een APK nodig heeft om veilig te blijven rijden, vraagt ook jouw bedrijfsdata om een periodieke check. Bij RBI Solutions noemen we dat de Data-APK: een slimme, laagdrempelige manier om jouw data in kaart te brengen, problemen te signaleren en waardevolle inzichten te bieden die jouw organisatie helpen sneller en beter beslissingen te nemen.

de transitie met Microsoft Fabric

de transitie met Microsoft Fabric

In veel MKB-organisaties is het verzamelen en rapporteren van data nog steeds een tijdrovende en foutgevoelige klus. Excel-bestanden circuleren overal, gegevens worden handmatig gecorrigeerd in verschillende systemen en rapportages worden met de hand bijgewerkt. Het gevolg is dat managers en analisten vaak worstelen met verouderde inzichten, inconsistente cijfers en een gebrek aan overzicht. Hierdoor duurt het langer voordat er goede beslissingen genomen kunnen worden en het vertrouwen in de data neemt af.

Een bekend probleem is dat data uit verschillende systemen, zoals een boekhoudpakket, CRM of HR-software, niet automatisch met elkaar verbonden zijn. Dit leidt tot dubbel werk, handmatige controles en fouten bij het overzetten van data. Denk bijvoorbeeld aan het handmatig aanpassen van uitzonderingen in BTW-tarieven of het dubbel moeten invoeren van klantgegevens. Deze werkwijze kost veel tijd en brengt risico’s met zich mee.

Van tijd naar trigger: De weg naar een event-driven data architectuur

Van tijd naar trigger: De weg naar een event-driven data architectuur

Sinds het begin van het gebruik van Business Intelligence hebben organisaties vertrouwd op periodieke dataverwerking, de zogenaamde ’batch jobs’ die elke nacht draaien. Sindsdien is de behoefte aan snelheid, flexibiliteit en realtime inzichten enorm toegenomen. Die behoefte zorgt dan ook voor een fundamentele verschuiving in hoe we data-architecturen ontwerpen: weg van batch processen, op weg naar een event-driven benadering.

Maar wat betekent dat eigenlijk: ’event-driven’? En waarom zou je hier als data engineer, analist, data scientist of business gebruiker wakker van moeten liggen? In deze blog duiken we in de wereld van event-driven data-architecturen, hun voordelen, uitdagingen, en de tools die deze transitie mogelijk maken.

DataOps, DevOps en MLOps: Oude wijn in nieuwe zakken of écht anders?

DataOps, DevOps en MLOps: Oude wijn in nieuwe zakken of écht anders?

In een data gedreven organisatie vliegen de samenwerkingstermen je om de oren: DevOps, DataOps, MLOps. Deze drie termen, die inderdaad erg hetzelfde klinken (en door sommige organisaties ingevuld worden door een beheerder in een ontwikkelteam te zetten), verschillen in de praktijk aanzienlijk in toepassing, focus en doel. Voor wie dagelijks werkt met data of systemen die op data drijven, is het essentieel om deze termen niet alleen te kennen, maar ook te begrijpen wat ze betekenen en hoe ze zich tot elkaar verhouden. Daar nemen we jullie in deze blog dan ook in mee.

INTERVIEW MET DATA ENGINEER/BI CONSULTANT Said Saoud

INTERVIEW MET DATA ENGINEER/BI CONSULTANT Said Saoud

Wat begon met een goed gesprek en een flinke dosis enthousiasme, groeide uit tot een veelzijdige carrière in data engineering bij RBI. In dit interview deelt Said Saoud zijn reis bij RBI: hoe hij begon, waar hij aan werkt en waarom hij zich thuis voelt in de wereld van data engineering en BI. Benieuwd naar zijn ervaringen, tools en visie op de toekomst van data? Lees het hele verhaal in deze blogpost.

Data Science: Een eenmalig model of integratie in de dagelijkse operatie?

Data Science: Een eenmalig model of integratie in de dagelijkse operatie?

In veel organisaties is data science inmiddels geen onbekende meer. Data scientists bouwen geavanceerde voorspellende modellen, werken met machine learning en experimenteren met AI om waarde te halen uit grote hoeveelheden data. Er zit echter vaak een kloof tussen het bouwen van een model en het daadwerkelijk creëren van impact in de dagelijkse operatie.