...
Tabel TR.01a: Issues die in deze release zijn meegenomen
IssuenummerdeIssuenummer | Issue beschrijving | Opmerking |
|---|---|---|
| Inbouw LSM3 (vervanging LSM-light, NDB en LTM-light door LSM3) | geplande issue (doel van deze release); de sub-issues NWM-1198, NWM-1160, NWM-1138, NWM-1149 zijn niet apart vermeld, zie hiervoor Releasenotes 2.4.0.0 | |
| Inbouw LHM4.3 (vervanging LHM3.3) | geplande issue (doel van deze release); de sub-issues NWM-1179, NWM-1188, NWM-1180, NWM-1189, NWM-1177, NWM-1174, NWM-1173, NWM-1199 zijn niet apart vermeld, zie hiervoor Releasenotes 2.4.0.0 | |
| What-if template voor keuze model versie LHM | geplande issue; nodig om naast de nieuwe modellentrein ook de oude modellentrein (met LHM3.3) te kunnen blijven gebruiken | |
What-if template voor keuze oppakken NDB of LSM3 chloridereeksen | geplande issue; nodig om naast de nieuwe modellentrein ook de oude modellentrein (met NDB) te kunnen blijven gebruiken | |
| WhatIf in batchtask op kunnen geven | In de batchmaker kan een (in de NWM applicatie aangemaakte) WhatIf meegegeven worden. Het betreft de whatIfId die via de exportknop van de betreffende whatIf achterhaald kan worden. | |
| juiste eenheid voor chloride definiëren bij de LHM data. | Aanbeveling nav GAT2.3.0.0 | |
| na aanpassing eenheidsconversie voor import chloridereeksen LSM3 (betreft aanpassing importUnitConversion met factor 0.554285626 (chloriniteit in g/l vs. saliniteit in ppt)) zijn de resultaten tussen NDB en LSM3 heel vergelijkbaar (soms perfecte match, soms wat verschillen maar wel zelfde bereik) | herstelde issues (geconstateerd tijdens FAT (testfase LSM3)) | |
| na aanpassing uitvoer LSM3 van average (gemiddelde waarde binnen rekentijdstap) naar current (laatste waarde binnen rekentijdstap) is er geen discontinuïteit meer | herstelde issues (geconstateerd tijdens FAT (testfase LSM3)) | |
na aanpassing van warmstate afhandeling MOZART in FEWS worden alle stateid's behalve Default nu gezien als warme start en worden de mozartin uitvoerbestanden (lswvalue, dwvalue en wavalue) alleen bij een koude start gebruikt | herstelde issues (geconstateerd tijdens FAT (testfase LHM4.3)) | |
na klaarzetten apart maaiveld bestand in meters voor postprocessing MODFLOW staan de resultaten nu wel in de juiste eenheden | herstelde issues (geconstateerd tijdens FAT (testfase LHM4.3)) | |
na oppakken neerslag en verdamping tijdreeksen van NHI server ipv OpenDAP liggen de MODFLOW resultaten van NHI server en FEWS beter op elkaar | herstelde issues (geconstateerd tijdens FAT (testfase LHM4.3)) |
...
Issuenummer | Issue beschrijving | geplande release | |||||
|---|---|---|---|---|---|---|---|
| Aansluiten KNMI 2023 meteodata (vervanging KNMI'17) | doel eerstvolgende release (2.4.1.0) | ||||||
| Inbouw nieuwe deltascenariosdeltascenario's | doel eerstvolgende release (2.4.1.0) | ||||||
| Doorvoeren wijzigingen koppeling LHM4.3-LSM3 (update tov koppeling LHM3.3-LSM3) | meenemen eerstvolgende release (2.4.1.0) | ||||||
| 1192 | WhatIf in batchtask op kunnen geven | meenemen eerstvolgende release (2.4.1.0) | Aanbeveling nav | Aanbeveling nav GAT2.3.0.0: Klaarzetten van initial states automatiseren | meenemen eerstvolgende release (2.4.1.0) | ||
| FAT bevinding LHM: Vergelijking LHM-data run4 versus run5: GHG grote verschillen na restart | meenemen eerstvolgende release (2.4.1.0) |
...
...
Hieronder staat de lijst van testen opgesomd die tijdens de FAT (tweeledig) zijn uitgevoerd.
1) Ten behoeve van de upgrade naar LSM3 (vervanging LSM-light, NDB en LTM-light) zijn testen met zowel de nieuwe modellentrein als de oude modellentrein uitgevoerd voor de jaren 1911 t/m 1912 met 'scenario':
- REF2017BP18.
Het jaar 1911 is gestart met een koude start.
De volgende modellen zijn gedraaid:
- LHM zonder zoutbeperking (versie 3.3.1)
- LSM3 chloride berekening
- LHM (versie 3.3.1)
- LSM3 waterverdeling en watertemperatuur berekening
Technische test LSM3
FAT 2.4.0.0 Test 1.1: Check of smoketesten voor LSM3 in de NWM modellentrein technisch goed draaien.
FAT 2.4.0.0 Test 1.2: Check of de exports voor LSM3 in de NWM modellentrein technisch goed draaien.
Inhoudelijk test LSM3
De inhoudelijke testen (of plausibiliteitstesten) met het LSM3 zijn door Huib Tanis uitgevoerd. Deze gerapporteerde bevindingen zijn opgenomen in JIRA, issues NWM-1137 t/m NWM-1152.
Hieronder is een schematische weergave gegeven van de vergelijkingen die als onderdeel van de LSM3 plausibiliteitstesten zijn uitgevoerd.
...
FAT bevinding LSM3Z0: bakjesmodel (preprocessing stap van LSM3 temperatuur) start eerder dan 1 jan (bij warme start op 1 jan) en faalt indien voorgaande jaar niet gedraaid heeft; Oorzaak ligt bij het niet goed importeren van de statefile en vertaalt zich naar een rood kruisje in de NWM-FEWS display, zoals hiernaast getoond: | meenemen eerstvolgende release (2.4.1.0) | |
| FAT bevinding LSM3Z0: de data van de laatste dag van het jaar ontbreekt | meenemen eerstvolgende release (2.4.1.0) | |
| FAT bevinding LSM3: debiet, merkwaardige jaarovergangen (run5) | meenemen eerstvolgende release (2.4.1.0) | |
| Bijwerken wiki pagina n.a.v. laatste release | meenemen eerstvolgende release (2.4.1.0) |
FAT-testen
Hieronder staat de lijst van testen opgesomd die tijdens de FAT (tweeledig) zijn uitgevoerd.
1) Ten behoeve van de upgrade naar LSM3 (vervanging LSM-light, NDB en LTM-light) zijn testen met zowel de nieuwe modellentrein als de oude modellentrein uitgevoerd voor de jaren 1911 t/m 1912 met 'scenario':
- REF2017BP18.
Het jaar 1911 is gestart met een koude start.
De volgende modellen zijn gedraaid:
- LHM zonder zoutbeperking (versie 3.3.1)
- LSM3 chloride berekening
- LHM (versie 3.3.1)
- LSM3 waterverdeling en watertemperatuur berekening
Technische test LSM3
FAT 2.4.0.0 Test 1.1: Check of smoketesten voor LSM3 in de NWM modellentrein technisch goed draaien.
FAT 2.4.0.0 Test 1: vergelijken van chloride
De volgende twee modellentreinen zijn doorgerekend:
- LHM (zonder zout) => LSMLT (zonder zout) => NDB (run 4)
- LHM (zonder zout) => LSM3 (chloride) (run 5)
.2: Check of de exports voor LSM3 in de NWM modellentrein technisch goed draaien.
Inhoudelijk test LSM3
De inhoudelijke testen (of plausibiliteitstesten) met het LSM3 zijn door Huib Tanis uitgevoerd. Deze gerapporteerde bevindingen zijn opgenomen in JIRA, issues NWM-1137 t/m NWM-1152.
Hieronder is een schematische weergave gegeven van de vergelijkingen die als onderdeel van de LSM3 plausibiliteitstesten zijn uitgevoerd.
Toelichting van de 4 tests:Chloride concentraties worden vergeleken tussen LSM3Z0 (run 5) en NDB (run 4).
FAT 2.4.0.0 Test 2.21: vergelijken van balancecheck, demand_wmtot, drainage_sh, infiltration_sh, Takdebiet, Tekort_doorspoeling, Watervraag_peilbeheer, GHG, GLG en GVGchloride
De volgende twee modellentreinen zijn doorgerekend:
- LHM (zonder zout) => LSMLT (zonder zout) => NDB => LHM (run 4)
- LHM (zonder zout) => LSM3 (chloride) => LHM (run 5)
Chloride concentraties worden vergeleken tussen LSM3Z0 (run 5) en NDB (run 4).
FAT 2.4.0.0 Test 2.2: vergelijken van balancecheckBalancecheck, demand_wmtot, drainage_sh, infiltration_sh, Takdebiet, Tekort_doorspoeling, Watervraag_peilbeheer, GHG, GLG en GVG worden vergeleken tussen LHM (run 5) en LHM (run 4).
FAT 2.4.0.0 Test 2.3: vergelijken van debieten, waterstanden, waterhoogten en temperatuur
De volgende twee modellentreinen zijn doorgerekend:
De volgende twee modellentreinen zijn doorgerekend:
- LHM (zonder zout) => LSMLT (zonder zout) =LHM (zonder zout) => LSMLT (zonder zout) => NDB => LHM => LSMLT/LTMLT (run 4)
- LHM (zonder zout) => LSMLT LSM3 (zonder zoutchloride) => NDB => LHM => LSM3 (run 4b5)
Debieten, waterstanden, waterhoogten en temperatuur Balancecheck, demand_wmtot, drainage_sh, infiltration_sh, Takdebiet, Tekort_doorspoeling, Watervraag_peilbeheer, GHG, GLG en GVG worden vergeleken tussen LSM3 LHM (run 4b5) en LSMLT/LTMLT LHM (run 4).
FAT 2.4.0.0 Test 2.43: vergelijken van debieten, waterstanden, waterhoogten en temperatuur
De volgende twee modellentreinen zijn doorgerekend:
- LHM (zonder zout) => LSMLT (zonder zout) => NDB => LHM => LSMLT/LTMLT (run 4)
- LHM (zonder zout) => LSM3 LSMLT (chloridezonder zout) => NDB => LHM => LSM3 (run 54b)
Debieten, waterstanden, waterhoogten en temperatuur worden worden vergeleken tussen LSM3 (run 54b) en LSMLT/LTMLT (run 4).
2) Ten behoeve van de upgrade naar LHM4.3 zijn testen met de nieuwe modellentrein uitgevoerd voor de jaren 2007 t/m 2011 met 'scenario':
- REF2017BP18.
Het jaar 2007 is gestart met een koude start.
De volgende modellen zijn gedraaid:
- LHM zonder zoutbeperking (versie 4.3)
- LSM3 chloride berekening
- LHM (versie 4.3)
- LSM3 waterverdeling en watertemperatuur berekening
Technische test LHM
FAT 2.4.0.0 Test 3.1: Check of smoketesten voor alle modellen in de nieuwe NWM modellentrein technisch goed draaien.
FAT 2.4.0.0 Test 2.4: vergelijken van debieten, waterstanden en temperatuur
De volgende twee modellentreinen zijn doorgerekend:
- LHM (zonder zout) => LSMLT (zonder zout) => NDB => LHM => LSMLT/LTMLT (run 4)
- LHM (zonder zout) => LSM3 (chloride) => LHM => LSM3 (run 5)
Debieten, waterstanden en temperatuur worden vergeleken tussen LSM3 (run 5) en LSMLT/LTMLT (run 4).
2) Ten behoeve van de upgrade naar LHM4.3 zijn testen met de nieuwe modellentrein uitgevoerd voor de jaren 2007 t/m 2011 met 'scenario':
- REF2017BP18.
Het jaar 2007 is gestart met een koude start.
De volgende modellen zijn gedraaid:
- LHM zonder zoutbeperking (versie 4.3)
- LSM3 chloride berekening
- LHM (versie 4.3)
- LSM3 waterverdeling en watertemperatuur berekening
Technische test LHM
FAT 2.4.FAT 2.4.0.0 Test 3.21: Check of de exports smoketesten voor alle modellen in de nieuwe NWM modellentrein technisch goed draaien.
...
FAT 2.4.0.0 Test 43.1: Vergelijken modflow grondwaterstanden GLG en GHG
FAT 2.4.0.0 Test 4.2: Vergelijken van DM takdebieten
...
2: Check of de exports voor alle modellen in de nieuwe NWM modellentrein technisch goed draaien.
Inhoudelijk test LHM
Ten behoeve van de inhoudelijke testen is LHM4.3 gedraaid voor de jaren 2009 t/m 2011 met 'scenario':
...
De resultaten van het jaar 2009 en 2011 zijn vergeleken met een LHM4.3 run buiten NWM (NHI server).
FAT 2.4.0.0 Test 4.1: Vergelijken modflow grondwaterstanden GLG en GHG
FAT 2.4.0.0 Test 4.2: Vergelijken van DM takdebieten
FAT 2.4.0.0 Test 4.3: Vergelijken van Mozart oppervlaktepeilen (lsw's)
Overzicht van de resultaten van het Overzicht van de resultaten van het pakket aan FAT-testen
Tabel TR.02: Legenda
...
Tabel TR.03b: Testen voor de jaren 2009-2011 voor Deltascenario's Referentie 2017
| Testen | Scenario | Beschrijving test | Model schematisatie (Z0 = zonder zoutbeperking) | Opmerkingen | Screenshot beschikbaar (zie Tabel TR.05) | |||
LHMZ0 | LSM3 chloride | LHM | LSM3 | |||||
|---|---|---|---|---|---|---|---|---|
| FAT 2.4.0.0 Test 3.1 | Referentie 2017 | Draaien van de smoketesten |  | |||||
|
|
| smoketesten succesvol doorlopen | ja |
| FAT 2.4.0.0 Test 3.2 | Referentie 2017 | Draaien van de exports |
|
|
|
| Alle jaren 2009 t/m 2011 zijn succesvol geëxporteerd | - | |||||
| FAT 2.4.0.0 Test 4.1 | Referentie 2017 | Reproductietest - Vergelijken GLG en GHG (kaartlagen GLG_20100101000000.asc en GHG_20100101000000.asc) | 2009: 2011: | nvt | nvt | nvt | na herstelacties voor twee issues (NWM-1185 (m vs. cm); NWM-1186 (verschil imod versie)) en een 1-op-1 vergelijking van executables en invoerbestanden (van modflow, metaswap mozart) tussen de NHI server en NWM omgeving zijn de resultaten nagenoeg identiek voor 2009, dwz. dat er voor hele kleine gebieden (o.a. in Limburg) beperkte verschillen te zien zijn, zie screenshots. |
Voor 2011 zijn er iets meer verschillen te zien, o.a. in het het westen van Nederland. De verschillen lijken te liggen op de randen van Mozart lsw's. Nadere analyse is nodig om deze verschillen te kunnen duiden (NWM-1201). | ja | |
| FAT 2.4.0.0 Test 4.2 | Referentie 2017 | Reproductietest - |
| Vergelijken van DM debieten (tijdreeksen uit "Debieten in het netwerk.mpx") | 2009: 2011: |
| nvt | nvt | nvt | Vrijwel alle debietreeksen liggen perfect over elkaar. Voor een aantal locaties zijn zeer kleine verschillen te zien. Voor het jaar 2011 zijn er zelfs geen verschillen meer te zien in de figuren. |
| ja | ||||||||
| FAT 2.4.0.0 Test 4.3 | Referentie 2017 | Reproductietest - Vergelijken van Mozart peilen van het 'lsw' oppervlaktewater (tijdreeksen uit "*.mms, *.mz" bestanden) | 2009: 2011: | nvt | nvt | nvt | Er zijn voor het eerste jaar 2009 voor hele kleine gebieden (o.a. in Limburg) beperkte verschillen te zien, zie screenshots. Voor 2011 zijn er iets meer verschillen te zien, met name in het voorjaar. Nadere analyse is nodig om deze verschillen te kunnen duiden (NWM-1201). | ja |
Tabel TR.04: Testen voor meegenomen JIRA-issues
Issuenummer | Model | Beschrijving test | Resultaat | Opmerkingen | Screenshot |
|---|---|---|---|---|---|
| LHM |
| Voor de LHM berekeningen is een WhatIf beschikbaar waarmee de modelversie (LHM3.3 of LHM4.3) aangepast kan worden |
| What-if template voor keuze model versie LHM is beschikbaar | ja |
| LHM | Voor de LHM berekeningen is een WhatIf beschikbaar waarmee de chloridereeksen randvoorwaarde (NDB of LSM3) aangepast kan worden |
|
| What-if template voor keuze oppakken NDB of LSM3 chloridereeksen is beschikbaar | ja | |
| LHM | Check of juiste eenheid |
| getoond wordt voor Zoutgehalte in NWM tijdreeksen grafiek voor DM districten |
| Zoutgehalte eenheid wordt nu getoond in mg/l (waardes waren correct, alleen naamgeving parameter foutief in voorgaande versies) | ja |
| LSM3 |
| Check of NDB en LSM3 chloridereeksen beter overeenkomen |
| na aanpassing eenheidsconversie voor import chloridereeksen LSM3 (betreft aanpassing importUnitConversion met factor 0.554285626 (chloriniteit in g/l vs. saliniteit in ppt)) zijn de resultaten tussen NDB en LSM3 heel vergelijkbaar (soms perfecte match, soms wat verschillen tussen beide modellen maar wel zelfde bereik) | ja | ||
| LSM3 | Check of de tijdreeks zonder discontinuïteit doorloopt bij de jaarovergang |
| na aanpassing uitvoer LSM3 van average (gemiddelde waarde binnen rekentijdstap) naar current (laatste waarde binnen rekentijdstap) is er geen discontinuïteit meer | ja | |
| LHM | Controleer of na aanpassing van |
| de nhi.exe de opgeven 'warme start' bestanden (in FEWS opgegeven via 'yyyy0101') nu ook zonder tussenkomst van mozartin worden opgepakt door LHM |
| na aanpassing van warmstate afhandeling MOZART in FEWS worden alle stateid's behalve Default nu gezien als warme start en worden de mozartin uitvoerbestanden (lswvalue, dwvalue en wavalue) alleen bij een koude start gebruikt | - | |
| LHM | zie FAT 2.4.0.0 Test 4.1 |
| na klaarzetten apart maaiveld bestand in meters voor postprocessing MODFLOW staan de resultaten nu wel in de juiste eenheden |
| ja | ||||
| LHM | zie FAT 2.4.0.0 Test 4.1 |
| na oppakken neerslag en verdamping tijdreeksen van NHI server ipv OpenDAP liggen de MODFLOW resultaten van NHI server en FEWS beter op elkaar |
| ja |
Tabel TR.05: Beschikbare screenshots behorende bij de uitgevoerde testen
(door een automatische export van WIKI naar PDF is de tabel mogelijk onhandig verdeeld over de pagina's en kunnen de figuren soms wat onscherp zijn, de oorspronkelijke figuren zijn te bekijken via deze link: https://publicwiki.deltares.nl/display/NW/Rapportage+FAT+Release+2.4.0.0 )
Testen | Screenshot | ||
|---|---|---|---|
| FAT 2.4.0.0 Test 1.1 |
| ||
| FAT 2.4.0.0 Test 1.2 | - | ||
| FAT 2.4.0.0 Test 2.1 |
| ||
voor fix issue NWM-1137 (BenedenMerwede en Gat van Kampen):
voor fix NWM-1139:
na fix NWM-1139:
| FAT 2.4.0.0 Test 3.1 |
| FAT 2.4.0.0 Test 4.2 |
Overige testbevindingen
| |
| FAT 2.4.0.0 Test 4.1 | GLG (links) en GHG (rechts), verschilkaart NWM berekening met berekening NHI-server: 2009:
2011:
detailkaart van GLG verschil 2011; de zwarte lijnen tonen de Mozart LSW's:
|
| FAT 2.4.0.0 Test 4.2 | Vergelijking DM takdebieten tussen berekening NHI-server (Referentie, blauwe lijn) en NWM berekening (NWM, oranje lijn). Als alleen de oranje lijn zichtbaar is liggen de resultaten perfect over elkaar heen. 2009:
2011:
|
| FAT 2.4.0.0 Test 4.3 | Vergelijken van Mozart peilen van het 'lsw' oppervlaktewater voor twee decades (1 april en 1 september): 2009:
2011:   |
| NWM-1173 en NWM-1199 | Voor de LHM workflow zijn modelversie en randvoorwaarde aan te passen:
De WhatIf met aangepaste LHM versie heeft succesvol gedraaid:
|
| NWM-1162 | LHM DM Zoutgehalte wordt nu in de juiste eenheid (mg/l) getoond:
|
| NWM-1137 | voor de fix (BenedenMerwede en Gat van Kampen):
|
| NWM-1139 | voor de fix:
na de fix:
|
| NWM-1185 | GLG voor de fix:
GLG na de fix maaiveld in meters voor postprocessing MODFLOW
|
| NWM-1186 | verschillen GLG FEWS vs NHI server voor de fix:
Na fix veel minder verschillen: verschillen head's (20091228) FEWS vs. NHI server na fix meteo plus IMOD versie en warme start ipv koude start. Verkeerde inititiële condities MODFLOW verklaren de overige verschillen, zie het resultaat van de definitieve vergelijking bij FAT 2.4.0.0 Test 4.1.
|
Overige testbevindingen
- Tijdens het testen is gebleken dat een aantal (oudere) executables falen na verwijderen van Microsoft redistributable 2010 (vcredist.exe) (NWM-1196). Het betreft o.a. LHM postprocessing scripts en Delwaq. Voor het Delwaq bakjesmodel (onderdeel LSM3 workflow) is daarom overgestapt op een nieuwere Delwaq versie (rev652). Maar omdat ook meerdere LHM postprocessing scripts afhankelijk zijn van deze redistributables is besloten om op de NWM-Testomgeving de Microsoft redistributable 2010 opnieuw uit te rollen, waarmee het issue is verholpen.
- Voor de LSM3 berekening zijn er nog twee openstaande issues bekend in de preprocessing stappen van de LSM3 workflow, met als gevolg dat nieuwe LSM3 berekeningen bij een volgende release (NWM 2.4.1.0) mogelijk (naar verwachting kleine) verschillen in uitkomsten zullen tonen:
...