Inleiding
Deze rapportage beschrijft de wijzigingen van NWM release 2.4.0.0 en de testbevindingen van de FAT (Functionele Acceptatie Test) voor de upgrade van de NWM Testomgeving met een geactualiseerde modellentrein bestaande uit het LHM4.3 model en het LSM3 model. De oude modellentrein blijft ook nog beschikbaar in deze release.
Een nieuwe release van de NWM-applicatie doorloopt de stappen van het OTAP-proces (Ontwikkeling, Test, Acceptatie en Productie). Deze stappen bestaan op hoofdlijnen uit:
- Controle invoer: check op volledigheid en consistentie bij uitlevering van nieuwe datasets
- Functionele acceptatietesten (FAT) bij oplevering: check op functionaliteit en plausibiliteit aan de hand van standaard testprotocollen
- Testen bij installatie: controle op installatie (doorlopen workflows op alle rekenservers)
- Gebruikers acceptatietesten: controle voor start berekeningen check op de workflow technisch en zijn resultaten plausibiliteit
- Vinger-aan-de-pols tijdens berekeningen: monitoring en controles op steekproef tijdens het rekenproces (doel vroegtijdig signaleren van hickups en resultaten o.b.v. expert judgement i.s.m. project)
- Controle van de uitkomsten: technische toets op volledigheid (datavalidatie)
Op basis van de FAT wordt door Rijkswaterstaat-WVL besloten om wel/niet over te gaan tot installatie van de applicatie op de acceptatieomgeving waar Rijkswaterstaat de GAT (Gebruikers Acceptatie Test) uitvoert. De GAT focust zich binnen deze release niet op het herhalen van de FAT-testen, maar op het vaststellen of de berekeningen op de productieomgeving bij SSC Campus dezelfde uitkomsten opleveren als op de Testomgeving waar de FAT wordt uitgevoerd; om die reden bevat de FAT ook een aantal acties gericht op het produceren van voor GAT-vergelijking bedoelde exportbestanden.
Release 2.4.0.0: aangebrachte wijzigingen t.o.v. release 2.3.0.0
NWM 2.4.0.0 gebruikt een geactualiseerde modellentrein t.o.v. de modellentrein in de vorige release 2.3.0.0. Omdat de nieuwe KNMI 2023 scenario's nog niet volledig beschikbaar zijn binnen de NWM FEWS omgeving is in deze release alleen het scenario REF2017BP18 ingebouwd voor een beperkt aantal jaren (1980-2011). In een volgende release waarin de nieuwe KNMI scenario's worden aangesloten komen ook de andere scenario's en jaren beschikbaar. De nieuwe modellentrein bestaat uit het LHM model versie 4.3 en het LSM3 model. De volledige modellentrein ziet er als volgt uit: LHMZ0 (zonder zoutbeperking) - LSM3 (chloride berekening) - LHM (met zoutbeperking) - LSM3 (waterverdeling en temperatuur (en chloride)).
Overzicht issues behorende bij deze release
Meegenomen JIRA-issues in deze release
Tabel TR.01a: Issues die in deze release zijn meegenomen
Issuenummer | Issue beschrijving | Opmerking |
|---|---|---|
| Inbouw LSM3 (vervanging LSM-light, NDB en LTM-light door LSM3) | geplande issue (doel van deze release); de sub-issues NWM-1198, NWM-1160 zijn niet apart vermeld, zie hiervoor Releasenotes 2.4.0.0 | |
| Inbouw LHM4.3 (vervanging LHM3.3) | geplande issue (doel van deze release); de sub-issues NWM-1179, NWM-1188, NWM-1180, NWM-1189, NWM-1177, NWM-1174, NWM-1173, NWM-1199 zijn niet apart vermeld, zie hiervoor Releasenotes 2.4.0.0 | |
| juiste eenheid voor chloride definiëren bij de LHM data. | Aanbeveling nav GAT2.3.0.0 | |
| na aanpassing eenheidsconversie voor import chloridereeksen LSM3 (betreft aanpassing importUnitConversion met factor 0.554285626 (chloriniteit in g/l vs. saliniteit in ppt)) zijn de resultaten tussen NDB en LSM3 heel vergelijkbaar (soms perfecte match, soms wat verschillen maar wel zelfde bereik) | herstelde issues (geconstateerd tijdens FAT (testfase LSM3)) | |
| na aanpassing uitvoer LSM3 van average (gemiddelde waarde binnen rekentijdstap) naar current (laatste waarde binnen rekentijdstap) is er geen discontinuïteit meer | herstelde issues (geconstateerd tijdens FAT (testfase LSM3)) | |
na aanpassing van warmstate afhandeling MOZART in FEWS worden alle stateid's behalve Default nu gezien als warme start en worden de mozartin uitvoerbestanden (lswvalue, dwvalue en wavalue) alleen bij een koude start gebruikt | herstelde issues (geconstateerd tijdens FAT (testfase LHM4.3)) | |
na klaarzetten apart maaiveld bestand in meters voor postprocessing MODFLOW staan de resultaten nu wel in de juiste eenheden | herstelde issues (geconstateerd tijdens FAT (testfase LHM4.3)) | |
na oppakken neerslag en verdamping tijdreeksen van NHI server ipv OpenDAP liggen de MODFLOW resultaten van NHI server en FEWS beter op elkaar | herstelde issues (geconstateerd tijdens FAT (testfase LHM4.3)) |
Geconstateerde en/of geplande JIRA-issues die nog niet zijn meegenomen in deze release
Tabel TR.01b: Issues die in de eerstvolgende release moeten worden meegenomen
Issuenummer | Issue beschrijving | geplande release |
|---|---|---|
| Aansluiten KNMI 2023 meteodata (vervanging KNMI'17) | doel eerstvolgende release (2.4.1.0) | |
| Inbouw nieuwe deltascenarios | doel eerstvolgende release (2.4.1.0) | |
| Doorvoeren wijzigingen koppeling LHM4.3-LSM3 (update tov koppeling LHM3.3-LSM3) | meenemen eerstvolgende release (2.4.1.0) | |
| NWM-1192 | WhatIf in batchtask op kunnen geven | meenemen eerstvolgende release (2.4.1.0) |
| Aanbeveling nav GAT2.3.0.0: Klaarzetten van initial states automatiseren | meenemen eerstvolgende release (2.4.1.0) | |
| FAT bevinding LHM: Vergelijking LHM-data run4 versus run5: GHG grote verschillen na restart | meenemen eerstvolgende release (2.4.1.0) |
FAT-testen
Hieronder staat de lijst van testen opgesomd die tijdens de FAT (tweeledig) zijn uitgevoerd.
1) Ten behoeve van de upgrade naar LSM3 (vervanging LSM-light, NDB en LTM-light) zijn testen met zowel de nieuwe modellentrein als de oude modellentrein uitgevoerd voor de jaren 1911 t/m 1912 met 'scenario':
- REF2017BP18.
Het jaar 1911 is gestart met een koude start.
De volgende modellen zijn gedraaid:
- LHM zonder zoutbeperking (versie 3.3.1)
- LSM3 chloride berekening
- LHM (versie 3.3.1)
- LSM3 waterverdeling en watertemperatuur berekening
Technische test LSM3
FAT 2.4.0.0 Test 1.1: Check of smoketesten voor LSM3 in de NWM modellentrein technisch goed draaien.
FAT 2.4.0.0 Test 1.2: Check of de exports voor LSM3 in de NWM modellentrein technisch goed draaien.
Inhoudelijk test LSM3
De inhoudelijke testen (of plausibiliteitstesten) met het LSM3 zijn door Huib Tanis uitgevoerd. Deze gerapporteerde bevindingen zijn opgenomen in JIRA, issues NWM-1137 t/m NWM-1152.
Hieronder is een schematische weergave gegeven van de vergelijkingen die als onderdeel van de LSM3 plausibiliteitstesten zijn uitgevoerd.
Toelichting van de 4 tests:
FAT 2.4.0.0 Test 2.1: vergelijken van chloride
De volgende twee modellentreinen zijn doorgerekend:
- LHM (zonder zout) => LSMLT (zonder zout) => NDB (run 4)
- LHM (zonder zout) => LSM3 (chloride) (run 5)
Chloride concentraties worden vergeleken tussen LSM3Z0 (run 5) en NDB (run 4).
FAT 2.4.0.0 Test 2.2: vergelijken van balancecheck, demand_wmtot, drainage_sh, infiltration_sh, Takdebiet, Tekort_doorspoeling, Watervraag_peilbeheer, GHG, GLG en GVG
De volgende twee modellentreinen zijn doorgerekend:
- LHM (zonder zout) => LSMLT (zonder zout) => NDB => LHM (run 4)
- LHM (zonder zout) => LSM3 (chloride) => LHM (run 5)
Balancecheck, demand_wmtot, drainage_sh, infiltration_sh, Takdebiet, Tekort_doorspoeling, Watervraag_peilbeheer, GHG, GLG en GVG worden vergeleken tussen LHM (run 5) en LHM (run 4).
FAT 2.4.0.0 Test 2.3: vergelijken van debieten, waterstanden, waterhoogten en temperatuur
De volgende twee modellentreinen zijn doorgerekend:
- LHM (zonder zout) => LSMLT (zonder zout) => NDB => LHM => LSMLT/LTMLT (run 4)
- LHM (zonder zout) => LSMLT (zonder zout) => NDB => LHM => LSM3 (run 4b)
Debieten, waterstanden, waterhoogten en temperatuur worden vergeleken tussen LSM3 (run 4b) en LSMLT/LTMLT (run 4).
FAT 2.4.0.0 Test 2.4: vergelijken van debieten, waterstanden en temperatuur
De volgende twee modellentreinen zijn doorgerekend:
- LHM (zonder zout) => LSMLT (zonder zout) => NDB => LHM => LSMLT/LTMLT (run 4)
- LHM (zonder zout) => LSM3 (chloride) => LHM => LSM3 (run 5)
Debieten, waterstanden en temperatuur worden vergeleken tussen LSM3 (run 5) en LSMLT/LTMLT (run 4).
2) Ten behoeve van de upgrade naar LHM4.3 zijn testen met de nieuwe modellentrein uitgevoerd voor de jaren 2007 t/m 2011 met 'scenario':
- REF2017BP18.
Het jaar 2007 is gestart met een koude start.
De volgende modellen zijn gedraaid:
- LHM zonder zoutbeperking (versie 4.3)
- LSM3 chloride berekening
- LHM (versie 4.3)
- LSM3 waterverdeling en watertemperatuur berekening
Technische test LHM
FAT 2.4.0.0 Test 3.1: Check of smoketesten voor alle modellen in de nieuwe NWM modellentrein technisch goed draaien.
FAT 2.4.0.0 Test 3.2: Check of de exports voor alle modellen in de nieuwe NWM modellentrein technisch goed draaien.
Inhoudelijk test LHM
FAT 2.4.0.0 Test 4.1: Vergelijken modflow grondwaterstanden GLG en GHG
FAT 2.4.0.0 Test 4.2: Vergelijken van DM takdebieten
FAT 2.4.0.0 Test 4.3: Vergelijken van Mozart oppervlaktepeilen (lsw's)
Ten behoeve van de inhoudelijke testen is LHM4.3 gedraaid voor de jaren 2009 t/m 2011 met 'scenario':
- REF2017BP18.
Het jaar 2009 is gestart met een warme start '20090101'.
De resultaten van het jaar 2009 en 2011 zijn vergeleken met een LHM4.3 run buiten NWM (NHI server).
Overzicht van de resultaten van het pakket aan FAT-testen
Tabel TR.02: Legenda
Icoon / Beschrijving | Betekenis |
|---|---|
 | succesvol |
| issue gevonden; in review na herstelactie of nadere analyse nodig |
| niet succesvol |
| n.v.t. | de reden hiervoor staat beschreven in veld opmerkingen |
| — | nog niet uitgevoerd |
In onderstaande tabellen worden de uitgevoerde testen weergegeven. Bovenstaande legenda geeft verdere uitleg over de gebruikte icoontjes/afkortingen in de tabellen.
Tabel TR.03a: Testen voor de jaren 1911-1912 voor Deltascenario's Referentie 2017
| Testen | Scenario | Beschrijving test | Model schematisatie (Z0 = zonder zoutbeperking) | Opmerkingen | Screenshot beschikbaar (zie Tabel TR.05) | |||
LHMZ0 | LSM3 chloride of | LHM | LSM3 | |||||
|---|---|---|---|---|---|---|---|---|
| FAT 2.4.0.0 Test 1.1 | Referentie 2017 | Draaien van de smoketesten | | | | | smoketesten succesvol doorlopen | ja |
| FAT 2.4.0.0 Test 1.2 | Referentie 2017 | Draaien van de exports | | | | | smoketesten succesvol doorlopen | - |
| FAT 2.4.0.0 Test 2.1 | Referentie 2017 | vergelijken chloride | n.v.t. |
| n.v.t. | n.v.t. | twee issues (NWM-1137; NWM-1139) hersteld, vergelijkbare resultaten; nadere analyse nodig voor één issue (NWM-1140) | ja |
| FAT 2.4.0.0 Test 2.2 | Referentie 2017 | vergelijken doorwerken effect LSM3 vs. NDB op LHM | n.v.t. | n.v.t. |
| n.v.t. | nadere analyse nodig voor vijf issues (NWM-1141; NWM-1142; NWM-1143; NWM-1144; NWM-1145) na uitvoering herstelberekening n.a.v. NWM-1137 | - |
| FAT 2.4.0.0 Test 2.3 | Referentie 2017 | vergelijken van debieten, waterstanden, waterhoogten en temperatuur | n.v.t. | n.v.t. | n.v.t. |
| nadere analyse nodig voor één issue (NWM-1148) | - |
| FAT 2.4.0.0 Test 2.4 | Referentie 2017 | vergelijken oude en nieuwe modellentrein | n.v.t. | n.v.t. | n.v.t. |
| nadere analyse nodig voor drie issue (NWM-1150; NWM-1151; NWM-1152) | - |
Tabel TR.03b: Testen voor de jaren 2009-2011 voor Deltascenario's Referentie 2017
| Testen | Scenario | Beschrijving test | Model schematisatie (Z0 = zonder zoutbeperking) | Opmerkingen | Screenshot beschikbaar (zie Tabel TR.05) | |||
LHMZ0 | LSM3 chloride | LHM | LSM3 | |||||
|---|---|---|---|---|---|---|---|---|
| FAT 2.4.0.0 Test 3.1 | Referentie 2017 | Draaien van de smoketesten | |
|
|
| LHMZ0 v4.3 technisch succesvol gedraaid | ja |
| FAT 2.4.0.0 Test 3.2 | Referentie 2017 | Draaien van de exports | — | — | — | — | - | - |
| FAT 2.4.0.0 Test 4.1 | Referentie 2017 | Vergelijken GLG en GHG (kaartlagen GLG_20100101000000.asc en GHG_20100101000000.asc) | 2009: 2011: | nvt | nvt | nvt | na herstelacties voor twee issues (NWM-1185 (m vs. cm); NWM-1186 (verschil imod versie)) en een 1-op-1 vergelijking van executables en invoerbestanden (van modflow, metaswap mozart) tussen de NHI server en NWM omgeving zijn de resultaten nagenoeg identiek, dwz. dat er voor hele kleine gebieden (o.a. in Limburg) beperkte verschillen te zien zijn, zie screenshots. | ja |
| FAT 2.4.0.0 Test 4.2 | Referentie 2017 | Vergelijken van DM debieten (tijdreeksen uit "Debieten in het netwerk.mpx") | 2009: 2011: | nvt | nvt | nvt | Vrijwel alle debietreeksen liggen perfect over elkaar. Voor een aantal locaties zijn zeer kleine verschillen te zien. | - |
| FAT 2.4.0.0 Test 4.3 | Referentie 2017 | Vergelijken van Mozart peilen van het 'lsw' oppervlaktewater (tijdreeksen uit "*.mms, *.mz" bestanden) | 2009: 2011: | nvt | nvt | nvt | Er zijn voor hele kleine gebieden (o.a. in Limburg) beperkte verschillen te zien, zie screenshots. | |
Tabel TR.04: Testen voor meegenomen JIRA-issues
Issuenummer | Model | Beschrijving test | Resultaat | Opmerkingen | Screenshot |
|---|---|---|---|---|---|
| - | - | - | - | - | - |
Tabel TR.05: Beschikbare screenshots behorende bij de uitgevoerde testen
(door een automatische export van WIKI naar PDF is de tabel mogelijk onhandig verdeeld over de pagina's en kunnen de figuren soms wat onscherp zijn, de oorspronkelijke figuren zijn te bekijken via deze link: https://publicwiki.deltares.nl/display/NW/Rapportage+FAT+Release+2.4.0.0 )
Testen | Screenshot |
|---|---|
| FAT 2.4.0.0 Test 1.1 |
|
| FAT 2.4.0.0 Test 1.2 | - |
| FAT 2.4.0.0 Test 2.1 | voor fix issue NWM-1137 (BenedenMerwede en Gat van Kampen):
voor fix NWM-1139:
na fix NWM-1139:
|
| FAT 2.4.0.0 Test 3.1 |
|
| FAT 2.4.0.0 Test 4.2 | NWM-1185: GLG  NWM-1185: GLG na fix maaiveld in meters voor postprocessing MODFLOW
NWM-1186: verschillen GLG FEWS vs NHI server
NWM-1186: verschillen head's (20091228) FEWS vs NHI server na fix meteo plus IMOD versie en warme start ipv koude start. Verkeerde inititiële condities MODFLOW verklaren waarschijnlijk overige verschillen.
|
Overige testbevindingen
-
