Pretesten
Voordat u uw formulier daadwerkelijk gaat uitreiken aan de doelgroep, kunt u deze voorleggen aan vertegenwoordigers van de doelgroep. Verschillende methoden kunnen hiervoor ingezet worden.
Probleem
Burgers ervaren bij het invullen van formulieren problemen waar tijdens het ontwerpen geen rekening mee is gehouden.
Oplossing
Voorspel praktijkproblemen vooraf aan de hand van een goede checklist.
- 1. Ontwerp voor de organisatie een algemene checklist en vul deze per formulier met specifieke aandachtspunten aan
- 2. Controleer zorgvuldig of de checklist niet te oppervlakkig is en of alle belangrijke aspecten erin opgenomen zijn
- 3. Laat mensen uit de organisatie die niet direct betrokken zijn geweest bij het ontwerpen van het formulier de checklist invullen. Voorwaarde is dat zij: a) De regeling en procedure kennen b) Een goed oog voor redactie en vormgeving hebben
- 4. Analyseer de resultaten
- 5. Maak een lijst met verbetermogelijkheden
Wanneer
Als de overheidsorganisatie de problemen wil voorspellen die zich kunnen voordoen bij het invullen van het formulier.
Achtergrond
Een goede checklist beslaat vele aspecten die voor de kwaliteit van het formulier relevant zijn. Een checklist kan verschillende soorten controlepunten bevatten, zoals redactie, vormgeving, huisstijl, competentiekwesties, interne organisatieaspecten (Jansen e.a. 1989, p. 173). Vanwege de verscheidenheid aan mogelijkheden zal elke organisatie – en vaak zelfs elk formulier - een ander soort checklist nodig hebben, met verschillende aandachtspunten. Meer voorbeelden: Een algemene checklist voor redactionele aspecten van het formulier is te vinden in: - Formulierenwijzer. Handboek formulieren redigeren. Door Jansen, Steehouder, Edens, Mulder, Maat en Slot, 1989 (checklist voor redactionele aspecten van het formulier) Lees ook over andere pretestmethodes voor formulieren: Gebruikersonderzoek Expertanalyse Praktijkonderzoek Het opstellen en gebruiken van een checklist is simpel, snel en goedkoop (Jansen e.a., 1989, p. 173). Jansen e.a. (1989) wijzen er echter ook op dat een ingevulde checklist wel problemen kan blootleggen, maar niet automatisch ook oplossingen hiervoor geeft. Nadat aan de hand van de checklist verbeterpunten boven water zijn gekomen, moet dus ook nog worden nagedacht over de vraag hóe die punten verbeterd kunnen worden. Een ander risico van checklists is dat ze te oppervlakkig zijn om alle problemen te voorspellen (de Jong & Lentz, 2006; Welle Donker-Kuijer, de Jong & Lentz, 2010). Welle Donker-Kuijer, de Jong en Lentz (2010) bestudeerden verschillende checklists (genaamd ‘heuristieken’ in hun artikel) die dienden als leidraad voor ontwikkelaars van overheidssites. De meeste checklists bleken voornamelijk te focussen op het medium en de presentatiemogelijkheden daarbinnen, en minder op de inhoud. Daarnaast was het vaak onduidelijk waarop de heuristieken waren gebaseerd en waren de documenten waar ze in stonden niet altijd even gebruiksvriendelijk.
Literatuur
Jansen e.a., 1989; de Jong & Lentz, 2006; Welle Donker-Kuijer & Lentz, 2010none
Probleem
Overheidsorganisaties weten niet hoe begrijpelijk het formulier is voor burgers.
Oplossing
Maak een expertanalyse, gebaseerd op het perspectief van de invuller.
- 1. Analyseer het formulier vanuit het perspectief van de invuller met behulp van persona’s en scenario’s uit de doelgroep analyse
- 2. Controleer de kwaliteit van het formulier zowel op inhoud als invulgemak
- 3. Vraag, indien mogelijk, mensen met verschillende expertisegebieden binnen de organisatie om feedback te geven op het formulier
- 4. Maak aan de hand van de resultaten een lijst met verbetermogelijkheden
Wanneer
Als de overheidsorganisatie de problemen wil voorspellen die zich kunnen voordoen bij het invullen van het formulier.
Achtergrond
Persona’s zijn verzonnen personen die kenmerken van de doelgroep hebben. Scenario’s zijn beschrijvingen van de omstandigheden en handelingen van de persona’s. Hoe realistischer de persona’s zijn, hoe makkelijker het wordt om het formulier vanuit hun perspectief te bekijken. De persona’s geven inzicht in het mogelijke doel en gebruik van het formulier en de beste manieren om de invullers hierin tegemoet te komen (Jarrett & Gaffney, p. 28). Analyses aan de hand van persona’s en scenario’s zijn niet alleen nuttig in de ontwikkelingsfase van een formulier, maar ook in de testfase. Uit onderzoek van de Jong en Lentz (2006) blijkt dat evaluatie van overheidswebsites met behulp van scenario’s erg effectief was. De problemen betreffende vindbaarheid en begrijpelijkheid van informatie kwamen feilloos naar voren. Experts vinden moeiteloos veel van die problemen, die met checklists alleen niet waren opgespoord. Volgens de onderzoekers is de kracht van de testmethode met scenario’s dat het een context- en inhoudsgevoelige benadering is (de Jong & Lentz, 2006 p. 184). Tijdens een expertanalyse moet het formulier zowel op inhoud als invulgemak worden gecontroleerd (Jansen, 1987, 1988). Er moet bijvoorbeeld worden gecontroleerd of de inhoud klopt met de achterliggende regeling, en of er geen vragen ontbreken of juist overbodig zijn. De mate van invulgemak kan gecontroleerd worden door – aan de hand van de persona’s en scenario’s – na te gaan of het taalgebruik is aangepast aan de doelgroep en of de instructies duidelijk genoeg zijn (Jansen, 1987, 1988). Het is belangrijk om feedback van mensen met verschillende expertisegebieden te krijgen, aangezien iedereen zijn eigen visie op het formulier kan geven (Dillman, 2000, p. 141). Experts op het gebied van redactie zullen bijvoorbeeld andere problemen ontdekken dan beleidsmakers of vormgevers. Meer voorbeelden: Lees ook over andere pretestmethodes voor formulieren: Gebruikersonderzoek Checklist Praktijkonderzoek
Literatuur
Dillman, 2000; Grudin & Pruitt, 2003; Jansen, 1987; Jansen, 1988; Jarrett & Gaffney, p. 28; de Jong & Lentz, 2006none
Probleem
Ontwerpers kunnen de invulproblemen van burgers moeilijk inschatten
Oplossing
Laat het formulier door enkele personen uit de doelgroep invullen terwijl zij hardop nadenken, en gebruik de resultaten om het formulier te verbeteren.
- 1. Laat het formulier in een pretest invullen door een steekproef van de toekomstige gebruikers
- 2. Gebruik minimaal 5 proefpersonen voor een beperkte test en minimaal 20 proefpersonen voor een grootschalige test
- 3. Werk met een realistische versie van het formulier, ook qua vormgeving
- 4. Analyseer de resultaten van het gebruikersonderzoek
- 5. Maak een lijst met verbetermogelijkheden
Wanneer
Als de overheidsorganisatie de problemen wil achterhalen die zich voordoen bij het invullen van het formulier.
Achtergrond
Ondanks een zorgvuldig ontwerpproces kunnen invullers tegen problemen aanlopen tijdens het invullen van een formulier. Uiteraard kunnen deze problemen het beste worden ontdekt voordat het formulier in omloop gaat (Gaffney, 2009, p. 4). Een kwaliteitscontrole in de vorm van een pretest met proefpersonen uit de doelgroep kan licht werpen op invulproblemen waarbij ontwerpers niet stilstaan (Jansen, 1987, p. 10). Met de gegevens uit dergelijk gebruikersonderzoek kan het formulier worden aangepast (Jansen e.a., 1989, p. 193). Dit kan leiden tot effectievere communicatiemiddelen (Jarrett & Gaffney, 2008, p. 174; Fichter, 2003). Het hardopdenken is een eenvoudige, kleinschalige pretestmethode die erg nuttige informatie oplevert over praktijkproblemen van het formulier (Jansen e.a., 1989). Uit onderzoek van Haak, Jong en Schellens (2002) blijkt dat synchrone (hardopdenken tijdens de taakuitvoering) en retrospectieve (verbaliseren van gedachten achteraf) hardopdenkprotocollen kunnen worden beschouwd als gelijkwaardige maar duidelijk verschillende evaluatiemethoden (p. 250). Een argument voor het gebruik van retrospectieve hardopdenkprotocollen is dat ze minder gevoelig zijn voor de invloed van taakcomplexiteit (p. 250). Volgens Dillman (2000, p. 142) bestaat de mogelijkheid dat proefpersonen bij synchroon hardop denken hun aandacht verdelen tussen de testleider en het formulier, of dat ze langzamer gaan lezen. Hierdoor vullen ze het formulier anders in dan ze normaalgesproken zouden doen. Dit kan vermeden worden door de proefpersoon in stilte het formulier te laten invullen, terwijl de testleider observeert en aantekeningen maakt, en achteraf vragen stelt (Dillman, 2000, p. 142). Een andere mogelijkheid is om gegevens uit synchroon hardopdenken aan te vullen door een nagesprek te houden (Jansen e.a., 1989). Jansen en Steehouder (1989) gebruikten in hun onderzoek naar overheidsformulieren een combinatie van vier cognitief-psychologische onderzoeksmethoden: hardopdenken, gedragsobservatie tijdens het invullen, productanalyse (analyse van fouten in de ingevulde formulieren) en interviews met de respondenten na afloop. Meer voorbeelden: Voor instructies voor het uitvoeren van hardopdenk usability testen: - Formulierenwijzer. Handboek formulieren redigeren. Door Jansen, Steehouder, Edens, Mulder, Maat en Slot, 1989 - ‘Protocol analysis: Verbal reports as data’ door Ericksson & Simon, 1993 - ‘Usability engineering’ door Nielsen, 1993 - ‘Handbook of usability testing: How to plan, design, and conduct effective tests.’ door Rubin, 1994 - ‘A practical guide to usability testing.’ door Dumas & Redish, 1999 - ‘Usability testing and research.’ door Barnum, 2002 - ‘Mail and Internet Surveys. The tailored design Method.’ door Dillman, 2000, p.141 – 146 (inclusief voorbeeldprotocolen voor hardopdenk onderzoek) - Lees ook over andere pretestmethodes voor formulieren: Checklist Expertanalyse Praktijkonderzoek
Literatuur
Dillman, 2000; Fichter, 2003; Gaffney, 2009; Haak, de Jong & Schellens, 2002; Jansen, 1987; Jansen e.a., 1989; Jansen & Steehouder, 1989; Jarrett & Gaffney, 2008none
Probleem
Overheidsorganisaties zijn niet op de hoogte van problemen die burgers met formulieren hebben.
Oplossing
Voer een praktijkonderzoek uit.
- 1. Bekijk welke fouten burgers hebben gemaakt in ingevulde formulieren uit de praktijk
- 2. Verstuur eventueel verschillende versies van het formulier en vergelijk deze op bijvoorbeeld snelheid waarmee de invuller het ingevuld retourneert en invulfouten
- 3. Interview de invullers eventueel achteraf voor aanvullende informatie over hun invulgedrag en problemen die ze tegenkwamen
- 4. Analyseer de resultaten
- 5. Maak een lijst met actiepunten voor verbeteringsmogelijkheden
Wanneer
Als de overheidsorganisatie de problemen wil achterhalen die zich kunnen voordoen bij het verwerken van ingevulde formulieren
Achtergrond
Door het uitvoeren van een praktijkonderzoek kunnen de daadwerkelijke problemen die invullers van formulieren hebben en verbeteringsmogelijkheden worden opgespoord (Jansen, Klatter & de Vet, 1991). Een praktijkonderzoek wordt niet gedaan met een concept van een nieuw formulier, maar met een bestaand formulier dat al in de praktijk wordt gebruikt (Jansen & Steehouder, 1989b, p. 175). Jansen, Klatter en de Vet (1991) stuurden twee verbeterde versies van een formulier voor aanvraag van studiefinanciering daadwerkelijk naar burgers die het formulier moesten invullen. Vervolgens vergeleken zij de ingevulde formulieren op snelheid van retourneren en invulfouten (p. 199). Een praktijkonderzoek kan aanvullende informatie geven op het gebruikersonderzoek met de hardopdenkmethode. Als invullers werken met een situatieschets en hardop moeten nadenken, is dit geen natuurlijke situatie. Mogelijk levert dit extra of andere invulproblemen op dan in werkelijke situaties (Jansen, Klatter & de Vet, 1991, p. 201). Bij de analyse van ingevulde formulieren uit de praktijk, kunnen daarom andere problemen naar voren komen. Een nadeel is echter dat de informatie uit praktijkonderzoek beperkt is: de werkwijze van de invuller is niet bekend, en van sommige ingevulde gegevens kan niet makkelijk worden gecontroleerd of deze juist zijn (Jansen, Klatter & de Vet, 1991, p. 201). Een mogelijke oplossing hiervoor is om achteraf interviews te houden met de invullers (Jansen & Steehouder, 1989b, p. 177). Meer voorbeelden: Lees ook over andere pretestmethodes voor formulieren: Gebruikersonderzoek Checklist Expertanalyse