...
Issuenummer | Issue beschrijving | geplande release |
---|---|---|
Aansluiten KNMI 2023 meteodata (vervanging KNMI'17) | doel eerstvolgende release (2.4.1.0) | |
Inbouw nieuwe deltascenario's | doel eerstvolgende release (2.4.1.0) | |
Doorvoeren wijzigingen koppeling LHM4.3-LSM3 (update tov koppeling LHM3.3-LSM3) | meenemen eerstvolgende release (2.4.1.0) | |
Aanbeveling nav GAT2.3.0.0: Klaarzetten van initial states automatiseren | meenemen eerstvolgende release (2.4.1.0) | |
FAT bevinding LHM: Vergelijking LHM-data run4 versus run5: GHG grote verschillen na restart | meenemen eerstvolgende release (2.4.1.0) | |
FAT bevinding LSM3Z0: bakjesmodel (preprocessing stap van LSM3 temperatuur) start eerder dan 1 jan (bij warme start op 1 jan) en faalt indien voorgaande jaar niet gedraaid heeft; Oorzaak ligt bij het niet goed importeren van de statefile en vertaalt zich naar een rood kruisje in de NWM-FEWS display, zoals hiernaast getoond: | meenemen eerstvolgende release (2.4.1.0) | |
FAT bevinding LSM3Z0: de data van de laatste dag van het jaar ontbreekt | meenemen eerstvolgende release (2.4.1.0) | |
FAT bevinding LSM3: debiet, merkwaardige jaarovergangen (run5) | meenemen eerstvolgende release (2.4.1.0) | |
Bijwerken wiki pagina n.a.v. laatste release | meenemen eerstvolgende release (2.4.1.0) |
...
FAT 2.4.0.0 Test 3.2: Check of de exports voor alle modellen in de nieuwe NWM modellentrein technisch goed draaien.
Inhoudelijk test LHM
Ten behoeve van de inhoudelijke testen is LHM4.3 gedraaid voor de jaren 2009 t/m 2011 met 'scenario':
- REF2017BP18.
Het jaar 2009 is gestart met een warme start '20090101'.
De resultaten van het jaar 2009 en 2011 zijn vergeleken met een LHM4.3 run buiten NWM (NHI server).
FAT 2.4.0.0 Test 4.FAT 2.4.0.0 Test 4.1: Vergelijken modflow grondwaterstanden GLG en GHG
...
FAT 2.4.0.0 Test 4.3: Vergelijken van Mozart oppervlaktepeilen (lsw's)Ten behoeve
Overzicht van de
...
resultaten van het pakket aan FAT-testen
Tabel TR.02: Legenda
Icoon / Beschrijving | Betekenis |
---|---|
succesvol | |
issue gevonden; in review |
- REF2017BP18.
Het jaar 2009 is gestart met een warme start '20090101'.
De resultaten van het jaar 2009 en 2011 zijn vergeleken met een LHM4.3 run buiten NWM (NHI server).
Overzicht van de resultaten van het pakket aan FAT-testen
Tabel TR.02: Legenda
Icoon / Beschrijving | Betekenis |
---|---|
succesvol | |
issue gevonden; in review na herstelactie of nadere analyse nodig | |
niet succesvol | |
n.v.t. | de reden hiervoor staat beschreven in veld opmerkingen |
— | nog niet uitgevoerd |
...
Tabel TR.03b: Testen voor de jaren 2009-2011 voor Deltascenario's Referentie 2017
Testen | Scenario | Beschrijving test | Model schematisatie (Z0 = zonder zoutbeperking) | Opmerkingen | Screenshot beschikbaar (zie Tabel TR.05) | |||
LHMZ0 | LSM3 chloride | LHM | LSM3 | |||||
---|---|---|---|---|---|---|---|---|
FAT 2.4.0.0 Test 3.1 | Referentie 2017 | Draaien van de smoketesten | smoketesten succesvol doorlopen | ja | ||||
FAT 2.4.0.0 Test 3.2 | Referentie 2017 | Draaien van de exports |
Alle jaren 2009 t/m 2011 zijn succesvol geëxporteerd | - | ||||||
FAT 2.4.0.0 Test 4.1 | Referentie 2017 | Reproductietest - Vergelijken GLG en GHG (kaartlagen GLG_20100101000000.asc en GHG_20100101000000.asc) | 2009: 2011: | nvt | nvt | nvt | na herstelacties voor twee issues (NWM-1185 (m vs. cm); NWM-1186 (verschil imod versie)) en een 1-op-1 vergelijking van executables en invoerbestanden (van modflow, metaswap mozart) tussen de NHI server en NWM omgeving zijn de resultaten nagenoeg identiek voor 2009, dwz. dat er voor hele kleine gebieden (o.a. in Limburg) beperkte verschillen te zien zijn, zie screenshots. Voor 2011 zijn er iets meer verschillen te zien, o.a. in het het westen van Nederland. De verschillen lijken te liggen op de randen van Mozart lsw's. Nadere analyse is nodig om deze verschillen te kunnen duiden (NWM- |
1201). | ja | |||||||
FAT 2.4.0.0 Test 4.2 | Referentie 2017 | Reproductietest - Vergelijken van DM debieten (tijdreeksen uit "Debieten in het netwerk.mpx") | 2009: 2011: | nvt | nvt | nvt | Vrijwel alle debietreeksen liggen perfect over elkaar. Voor een aantal locaties zijn zeer kleine verschillen te zien. Voor het jaar 2011 zijn er zelfs geen verschillen meer te zien in de figuren. | ja |
FAT 2.4.0.0 Test 4.3 | Referentie 2017 | Reproductietest - Vergelijken van Mozart peilen van het 'lsw' oppervlaktewater (tijdreeksen uit "*.mms, *.mz" bestanden) | 2009: 2011: | nvt | nvt | nvt | Er zijn voor het eerste jaar 2009 voor hele kleine gebieden (o.a. in Limburg) beperkte verschillen te zien, zie screenshots. Voor 2011 zijn er iets meer verschillen te zien, met name in het voorjaar. Nadere analyse is nodig om deze verschillen te kunnen duiden (NWM- |
1201). | ja |
Tabel TR.04: Testen voor meegenomen JIRA-issues
Issuenummer | Model | Beschrijving test | Resultaat | Opmerkingen | Screenshot |
---|---|---|---|---|---|
LHM |
Voor de LHM berekeningen is een WhatIf beschikbaar waarmee de modelversie (LHM3.3 of LHM4.3) aangepast kan worden | , zie ook Opmerkingen | What-if template voor keuze model versie LHM is beschikbaar |
ja | |
LHM |
Voor de LHM berekeningen is een WhatIf beschikbaar waarmee de chloridereeksen randvoorwaarde (NDB of LSM3) aangepast kan worden | , zie ook Opmerkingen | What-if template voor keuze oppakken NDB of LSM3 chloridereeksen |
is beschikbaar | ja |
LHM |
Check of juiste eenheid |
getoond wordt voor Zoutgehalte in NWM tijdreeksen grafiek voor DM districten | , zie ook Opmerkingen | Zoutgehalte eenheid wordt nu getoond in mg/l (waardes waren correct, alleen naamgeving parameter foutief in voorgaande versies) | ja |
LSM3 |
Check of NDB en LSM3 chloridereeksen beter overeenkomen | , zie ook Opmerkingen | na aanpassing eenheidsconversie voor import chloridereeksen LSM3 (betreft aanpassing importUnitConversion met factor 0.554285626 (chloriniteit in g/l vs. saliniteit in ppt)) zijn de resultaten tussen NDB en LSM3 heel vergelijkbaar (soms perfecte match, soms wat verschillen tussen beide modellen maar wel zelfde bereik) |
ja | |
LSM3 |
Check of de tijdreeks zonder discontinuïteit doorloopt bij de jaarovergang | , zie ook Opmerkingen | na aanpassing uitvoer LSM3 van average (gemiddelde waarde binnen rekentijdstap) naar current (laatste waarde binnen rekentijdstap) is er geen discontinuïteit meer |
ja | |
LHM |
Controleer of na aanpassing van de nhi.exe de opgeven 'warme start' bestanden (in FEWS opgegeven via 'yyyy0101') nu ook zonder tussenkomst van mozartin worden opgepakt door LHM | , zie ook Opmerkingen | na aanpassing van warmstate afhandeling MOZART in FEWS worden alle stateid's behalve Default nu gezien als warme start en worden de mozartin uitvoerbestanden (lswvalue, dwvalue en wavalue) alleen bij een koude start gebruikt |
- | ||||
LHM | zie FAT 2.4.0.0 Test 4.1 | , zie ook Opmerkingen | na klaarzetten apart maaiveld bestand in meters voor postprocessing MODFLOW staan de resultaten nu wel in de juiste eenheden |
ja | ||||
LHM | zie FAT 2.4.0.0 Test 4.1 | , zie ook Opmerkingen | na oppakken neerslag en verdamping tijdreeksen van NHI server ipv OpenDAP liggen de MODFLOW resultaten van NHI server en FEWS beter op elkaar |
ja |
Tabel TR.05: Beschikbare screenshots behorende bij de uitgevoerde testen
(door een automatische export van WIKI naar PDF is de tabel mogelijk onhandig verdeeld over de pagina's en kunnen de figuren soms wat onscherp zijn, de oorspronkelijke figuren zijn te bekijken via deze link: https://publicwiki.deltares.nl/display/NW/Rapportage+FAT+Release+2.4.0.0 )
Testen | Screenshot | ||
---|---|---|---|
FAT 2.4.0.0 Test 1.1 | |||
FAT 2.4.0.0 Test 1.2 | - | ||
FAT 2.4.0.0 Test 2.1 | BIJWERKEN | ||
FAT 2.4.0.0 Test 3.1 | BIJWERKEN | ||
FAT 2.4.0.0 Test 4.1 | BIJWERKENGLG (links) en GHG (rechts), verschilkaart NWM berekening met berekening NHI-server: 2009: 2011: | FAT 2.4.0.0 Test 4.2 | detailkaart van GLG verschil 2011; de zwarte lijnen tonen de Mozart LSW's: BIJWERKEN 2009: 2011: |
FAT 2.4.0.0 Test 4.3BIJWERKEN2 | Vergelijking DM takdebieten tussen berekening NHI-server (Referentie, blauwe lijn) en NWM berekening (NWM, oranje lijn). Als alleen de oranje lijn zichtbaar is liggen de resultaten perfect over elkaar heen. 2009: 2011: 2011: | ||
FAT 2.4.0.0 Test 4.3 | Vergelijken van Mozart peilen van het 'lsw' oppervlaktewater voor twee decades (1 april en 1 september): 2009: 2011: | ||
NWM-1173 en NWM-1199 | Voor de LHM workflow zijn modelversie en randvoorwaarde aan te passen: De WhatIf met aangepaste LHM versie heeft succesvol gedraaid: | ||
NWM-11371162 | LHM DM Zoutgehalte wordt nu in de juiste eenheid (mg/l) getoond: | ||
NWM-1137 | voor de voor de fix (BenedenMerwede en Gat van Kampen): | ||
NWM-1139 | voor de fix: na de fix: | ||
NWM-1185 | GLG voor de fix: GLG na de fix maaiveld in meters voor postprocessing MODFLOW | ||
NWM-1186 | verschillen GLG FEWS vs NHI server voor de fix: Na fix veel minder verschillen: verschillen head's (20091228) FEWS vs. NHI server na fix meteo plus IMOD versie en warme start ipv koude start. Verkeerde inititiële condities MODFLOW verklaren de overige verschillen, zie het resultaat van de definitieve vergelijking bij FAT 2.4.0.0 Test 4.1. |
Overige testbevindingen
- Tijdens het testen is
...
- gebleken dat een aantal (oudere) executables falen na verwijderen van Microsoft redistributable 2010 (vcredist.exe) (NWM-1196). Het betreft o.a. LHM postprocessing scripts en Delwaq. Voor het Delwaq bakjesmodel (onderdeel LSM3 workflow) is daarom overgestapt op een nieuwere Delwaq versie (rev652). Maar omdat ook meerdere LHM postprocessing scripts afhankelijk zijn van deze redistributables is besloten om op de NWM-Testomgeving de Microsoft redistributable 2010 opnieuw uit te rollen, waarmee het issue is verholpen.
- Voor de LSM3 berekening zijn er nog twee openstaande issues bekend in de preprocessing stappen van de LSM3 workflow, met als gevolg dat nieuwe LSM3 berekeningen bij een volgende release (NWM 2.4.1.0) mogelijk (naar verwachting kleine) verschillen in uitkomsten zullen tonen: