+31 (0) 10 808 10 20 info@sparkelon.nl

Hoe begeleid ik het testen van BI applicaties doelmatig?

Het testen van Data warehouse/Business Intelligence (DW/BI) applicaties heeft een geheel andere benadering dan het traditionele testen van transactionele applicaties. Deze vereisen namelijk een gecentraliseerde sturing.

Het testen van DW/BI implementaties bevat een aantal uitdagende typerende struikelblokken:

  • De volume, variëteit en complexiteit van data.
  • Data-afwijkingen als gevolg van diverse data bronnen.
  • Dataverlies tijdens het data integratie proces ‘handshaking between sources’.
  • Tijdrovend.
  • Toenemende kosten als gevolg van het ontbreken van controle en hergebruik.
  • Het uitvoeren, bekrachtigen en verifiëren van data vereisen specifieke vaardigheden.

Om er verzekerd van te zijn dat de data compleet, accuraat, consistent en betrouwbaar is, is het van belang om de data reeds te testen aan het begin van de opbouw van de data en niet alleen aan het eind via rapporten en dashboards.

BI Test Strategie:

Het doel van het testen van BI applicaties is het behalen van betrouwbare data en informatie. Deze betrouwbaarheid kan tot stand worden gebracht door het testtraject  doeltreffend te maken.

Hiervoor is een omvangrijke teststrategie belangrijk. Deze strategie zou een testplanning moeten omvatten voor elke fase. Zo moeten alle verantwoordelijkheden van elke stakeholder hierin vermeld staan. Om ervan verzekerd te zijn dat het testen volledig is vanuit alle aspecten, dient de teststrategie te moeten voldoen aan de volgende punten:

  • Het bereik van het testen: een beschrijving van de verschillende soorten testtechnieken die gebruik zullen worden.
  • Het opzetten van een testomgeving.
  • Beschikbaarheid van testdata; het is aan te bevelen om ook over data te beschikken die elke denkbare kritieke situatie kan indekken.
  • Datakwaliteit en performance acceptatiecriteria.

Zo geeft de onderstaande afbeelding de ingangspunten van de data en de verificatie punten bij elke fase weer: data acquisitie, data integratie, data documentatie en data presentatie.

Zo geeft deze afbeelding de ingangspunten van de data en de verificatie punten bij elke fase weer: data acquisitie, data integratie, data documentatie en data presentatie

Zo geeft deze afbeelding de ingangspunten van de data en de verificatie punten bij elke fase weer: data acquisitie, data integratie, data documentatie en data presentatie

Data Acquisitie:

Het uiteindelijk doel van het verzamelen van een algehele volledigheid aan gegevens is ervan verzekerd te zijn, dat men over de juiste relevante data beschikt die voldoet aan de opzet van het testen. Tijdens het vergaren van data is het belangrijk om de verschillende bronnen en de tijdsgrenzen van de data in de gaten te houden. Het is belangrijk om in deze fase te focussen op het volgende:

  • Het goedkeuren van de vereiste data en kijken naar de beschikbaarheid van de gegevensbronnen van waaruit deze gegevens gehaald moeten worden.
  • Data profiling is belangrijk om de gegevens beter te begrijpen met name als het gaat om het identificeren van verschillende waarden van de gegevens, de grenswaarden of het ontdekken van enige afwijkingen in een vroeg stadium. Het ontdekken van afwijkingen in de gegevens in een vroeg stadium zal ongetwijfeld de kosten doen verlagen, dan in het latere stadium van de testcyclus.

Data integratie:

De essentie van het testen binnen de data-integratie fase is de focus die wordt gelegd op de transformatie van de  gegevens. De business requirements worden dan vertaald naar business rules (logica). Zodra dit eenmaal is gebeurd, dan wordt een grondige test uitgevoerd om ervan verzekerd te zijn dat deze gegevens voldoen aan de verwachte volgorde van de transformatie. In deze fase moet men focussen op het volgende:

  • Valideren van het datamodel. Dit houdt in het valideren van de gegevensstructuur met  specificaties van de business. Dit kan worden gedaan middels een vergelijking van de kolommen en hun datatypes  met de specificaties van de business and reportage requirements ter dekking van de gegevens bij de bron.
  • Verifiëren van de data dictionary: het verifiëren van metadata die constraints  bevatten zoals Nulls, Default Values, Primary Keys, Check Constraints, Referential Integrity, Surrogate keys, Cardinality (1:1, m: n), etc.
  • Het goedkeuren van de bronnen tot target mapping; algehele traceerbaarheid zal de kwaliteitsaspecten zoals consistentie, nauwkeurigheid en betrouwbaarheid helpen opbouwen.

 

Data opslag

Deze fase refereert aan het laden van de gegevens binnen de data warehouse/data mart of OLAP cubes. Het laden van deze gegevens kan slechts on time , incrementeel of real-time plaatsvinden. Hierbij dient men te letten op het volgende:

  • Het valideren van het laden van de gegevens is gebaseerd op tijdsintervallen.
  • Performance and Scalability: het testen van de eerste en opeenvolgende loads met Performance and Scalability aspecten om ervan verzekerd te zijn dat het systeem binnen de acceptabele grenzen de verdere groei van de gegevens ondersteund.
  • Parallelle uitvoering en prioriteit: tijdens het ETL proces is het belangrijk om de parallelle uitvoering en prioriteit te verifiëren, aangezien deze impact kan hebben op de directe uitvoering en schaalbaarheid van het systeem.
  • Het valideren van de Archivering and Purge Policy: dit beleid verzekert de data historie welke gebaseerd is op de requirements.
  • Het valideren van error loggingexception handling en recovery vanaf het moment van de signalering van de gebreken.

Data Presentatie:

Dit is de eindfase van de testcyclus en heeft een grafische interface voor het testen van de gegevens. In deze fase dient men te focussen op het volgende:

  • Het goedkeuren van het Report model.
  • Het bevestigen van de report layout per mockups en het valideren van de gegevens met de  business requirements.
  • End to End testing: alhoewel de afzonderlijke componenten van de data warehouse naar verwachting zich correct zullen zijn , is er geen garantie dat de gehele keten juist werkt. Daarom is het aan te bevelen om de end-to end runs uit te voeren. Hierbij zullen de afwijkende data samengevoegd worden zodat allerlei impasse en tegenstrijdige bronbewerkingen aan de oppervlak kunnen komen. De end-to-end runs zijn een hulpmiddel om te kijken of de kwaliteit van de gegevens voldoet aan de acceptatiecriteria.

 Conclusie:

Het testen van BI applicaties verschilt enorm van het traditionele testen van bedrijfsapplicaties. Om zeer betrouwbare informatie te genereren, is het van belang om bij het  testen al deze stappen van de testcyclus te doorlopen: data acquisitie, data integratie, data opslag en data presentatie.

Het uiteindelijke doel van een DW/BI test is het bewerkstelligen van de volgende doelstellingen:

• End to end traceerbaarheid bereiken middels het rapporteren van de herkomst van de bronnen.
• 100% dekking van requirements en testgegevens middels testgevallen.
• Automatiseren van standaard controles levert aanzienlijke tijdsbesparing op.
• 50% tijdsbesparing middels automatische regressie testen.
• Alle stakeholders bij betrekken bij het traceren van defecten of bugs.
• Het verbeteren van het testcyclus middels herbruikbaarheid.
• Het verbeteren van het testproces middels een presentatie van een analytische rapportage van test data, testgevallen en defect trends

Wilt u weten wat wij voor uw bedrijf kunnen betekenen?
Neem hieronder dan snel contact met ons op.

4 + 13 =