Aktuellt

Boktipset: Rorschach Assessment of Psychotic Phenomena, By James H. Kleiger

: Clinical, Conceptual, and Empirical Developments.

With the publication of the present volume, we are even more indebted to Dr. Kleiger for the single best introduction to a century of theory and research on applications of the Rorschach to an understanding of disordered thinking. Of particular importance in this regard is his inclusion of recent cutting-edge applications of the technique such as the Rorschach Performance Assessment System (R-PAS) and abbreviated card set methods. Yet what is most significant about the book is that it is not simply an updated, second edition of his earlier work. Rather, it has been an occasion for reexamining and deepening his analyses of a host of critical issues, For example, he offers readers a multidimensional conception of disordered thinking, moves beyond the focus of Rorschach scores to an appreciation of their linkage to a host of psychological, psychoanalytic, developmental, and neuropsychological concepts, and suggests more sophisticated clinical applications of the Rorschach to the diagnoses of psychotic conditions. Supplanting its predecessor, Dr. Kleiger’s new work is now the essential reference for researchers and clinicians with serious interest in the Rorschach and the study and treatment of disordered thinking. ur förordet av Martin Leichtman

Facebooktwitterredditpinterestlinkedinmail

Friday 21 july, 2017 Plenary Session: Case study

 

Samma material – Rorschach och TAT ifrån en ung man med Aspergers, som Justine McCarthey, Tavistock London, träffat för bedömning inför psykoterapi, och sedan fortsatt att träffa en gång i veckan under tre år – behandlades av tre personer ifrån tre rorschach-skolor; CS (Noriko Nakamura Japan), R-PAS (Greg Meyer USA) och Parisskolan (Catherine Azoulay Frankrike).
http://www.rorschachparis2017.org/Programme/Vendredi_21_juillet_2017/en

Väldigt intressant, och berörde indirekt ett underliggande tema för konferensens – ett försök att åter överbrygga splittringen mellan R-PAS och CS som uppstått efter John Exners död.

Fallet handlade dock om en man med Aspergers och tyvärr kom frågor upp mot slutet om diagnosen verkligen kunde stämma, baserat på personens svar i Rorschach. Både frågor och svar tyckte jag visade hur lång väg det är kvar till att få en mer koherent förståelse av vad kognitiva ”funktionsutmaningar” inom AST är, och hur de är en del av grunden i en persons interagerande med världen och kan vara – inte synonyma med utan – en bidragande orsak till en persons psykiatriska symtom och negativa föreställningar om sig själva och omvärlden.

Om personen via en psykoterapi kan få hjälp att överbrygga de svårigheter som uppstår i de utmaningar som alla möter under utvecklingen – som t ex formandet av en sammanhängande identitet och självbild eller förståelse av andra som realistiska och sammanhängande personer med ett eget tänkande, kan personen mogna och må bättre psykiskt.

Det är fantastiskt om performancebaserade personlighetstest kan hjälpa oss att överbrygga den klyfta som ofta uppstår i själva kommunikationen – den svårighet personer med AST har att kommunicera sin inre värld på direkt fråga, och även de svårigheter vi kan ha att förstå dem när de försöker göra det – the double empathy problem. Rorschach och andra performancebaserade test innebär möjligheter som behöver utforskas vidare, och vi kanske kan utveckla extended inquiries som passar personer med npf bättre. Inte för diagnostik av ett tillstånd utan för att bättre förstå personen och kunna göra rekommendationer för behandling.

Facebooktwitterredditpinterestlinkedinmail

RORSCHACH CONGRESS PARIS 17-21 July 2017 – Developments in projective research and practice. Emerging issues and discoveries

Nu har jag kommit hem från Paris; trött men glad! Kongressen var intressant men för min del var nog det allra mest värdefulla att få umgås med kollegor; både från Sverige och från andra delar av världen. Jag tycker att mångfalden av bidrag visade på att Rorschach och andra metoder (projektiva) används på ganska många olika sätt beroende på vilken syn på vetenskaplighet och användbarhet som råder i olika länder. Jag tycker mig se att det har utvecklats två dominerande skolor: den amerikanska och den franska (Obs! helt egna beteckningar!). Här i Sverige ligger vi definitivt mycket nära det amerikanska sättet att tänka kring evidens, klinisk tillämpning osv. medan det franska sättet att förhålla sig till forskning och tillämpning sannolikt är mer troget klassisk psykoanalys. Metoder som berördes, förutom Rorschach, var Wartegg, TAT och andra narrativa metoder och teckningstest.

Flera saker har fastnat i minnet och här kommer några:

  • Den panelpresentation som Therapeutic Assessment-gänget gjorde under ledning av Stephen Finn, med berättelser från terapier där processen lett fram till ”safe surprises”. Det var verkligen kliniskt relevanta historier som delgavs oss från alla möjliga delar av världen. Vår egen Lena Lillieroth var med och gjorde en mycket fin presentation av ett utmanande case som hon arbetade med under flera år.
  • Björn Sahlbergs genomgång av Vargmannens Rorschach-protokoll var spännande och anknöt till den franska psykoanalytikern Piera Aulagniers teori om pictogram; en teori för att kunna begripliggöra representationer och psykotiskt fungerande. Jag var med i höstas då han på en av föreningens seminariekvällar berättade om protokollet och att få höra detta igen, i en något omarbetad form, gjorde att teorin blev lite mer begriplig för mig.
  • Malin Holm och jag presenterade också och vi fick mycket positiv respons. Kanske kan vi göra om det på ett seminarium i höst? Det är ett mycket intressant case och det skulle verkligen vara roligt att få diskutera materialet.
  • En briljant poster av Jim Kleiger om ett komplicerat fall där Rorschach kunde bidra med ovärderlig information om en väl dold, psykotisk tankeprocess.
  • Och mycket annat…

Sedan har vi i föreningen också passat på att prata med andra föreningsrepresentanter om hur de arbetar. Vi åt till exempel en lunch med Greg Meyer, Joni Mihura och Phil Erdberg för att stärka banden mellan R-PAS och oss. De var angelägna om att få veta vad de kan hjälpa till med när det gäller undervisningsmaterial och fortbildning. Förhoppningsvis kommer vi att kunna ha handledningsseminarier via webben för erfarna rorschachare, i smågrupper med Joni som handledare. Hon var mycket entusiastisk inför idén. Fortsättning följer!

Sommarhälsningar från Cilla Kallenberg

Facebooktwitterredditpinterestlinkedinmail

Öppet styrelsemöte måndag 26 juni, 18.00, för samtliga medlemmar

Vi har vårt sista styrelsemöte före sommaren måndag 26 juni, 18.00, och bjuder in samtliga medlemmar till detta.

Vi har börjat en diskussion om föreningens framtid som det är angeläget att också ni deltar i. Varför finns föreningen? Vi vill utbilda, sprida information, dela forskningsläget men också påverka och bilda opinion. Vad kan vi göra för att tydligare igen ta plats inom psykologkåren, inom vård och behandling och på universiteten. Hur många arbetar idag med personbedömningar på ett mer heltäckande sätt? Hur kan vi använda sociala medier, Facebook etc. Behövs det en förening eller räcker det med diskussionsforum? Eller både en Rorschachförening som specifikt värnar denna metod samt ett mer öppet diskussionsforum på nätet som mer övergripande driver frågan om test, personbedömning och personlighetstestning. Ska föreningen byta namn? Om vi ska ta en tydlig plats på psykologidagarna om två år hur ska vi då strategiskt jobba redan idag? Hur tar vi debatten och forskning och evidens?

Detta är ett exempel på frågor vi idag diskuterar i styrelsen. Kom och gör din röst hörd måndag 26 juni, 18.00. Åsögatan 148, Sahlberg Analys & Urval, Stockholm. Vi undersöker möjligheten att vara med på Skype och t ex livechatta. Det går också bra att maila synpunkter och idéer.

Bästa Hälsningar

Björn

Facebooktwitterredditpinterestlinkedinmail

Heldagsseminarium med Lotta Svensson om barnorienterad familjeterapi och Tejping 21/4-2017

Vi var åtta deltagare från olika verksamheter: socialtjänsten, BUP, skola som kom till Ericastiftelsen för att vara med på seminariet om BOF och Tejping. Jag hade egentligen ingen kunskap om metoderna innan, förutom det lilla jag fått veta på Lottas kvällsseminarium i våras. Mitt eget intresse handlade primärt om att bredda min repertoar av metoder för att arbeta med kris- och traumabearbetning. Jag möter mycket sällan yngre barn utan träffar främst tonåringar och unga vuxna och BOF riktar sig ju primärt mot barn upp till elva års ålder, medan Tejping däremot kan passa alla åldrar. Många gånger är orden svåra att få tag på för den som bär på svåra upplevelser som en aldrig egentligen har kunnat prata om eller beskriva, och då behövs vägar för att kunna kommunicera ”icke-språkligt”. Tejping kan säkert vara en sån väg för gestaltning av upplevelser och jag skulle tro att det kan vara en metod som kan passa ganska många, oavsett ålder.

Lotta arbetar som skolpsykolog i Uppsala och använder BOF och Tejping både med barnen hon möter i utredning och behandling och med personal och föräldrar. Att använda lekmaterial för diagnostik och behandling tillsammans med barn är ju etablerat och välkänt, men att även använda lekmaterialet med vuxna är kanske inte lika självklart. Lotta menar att det kan fungera klargörande i handledning att använda dockorna för att gestalta situationer i jobbet och det kan också hjälpa föräldrar att förstå sitt barns erfarenheter och upplevelser bättre; med andra ord stärka mentaliseringsförmågan. En viktig poäng som Lotta lyfte upp var att det, i arbete med vuxna, är bra att alltid ha materialet nära tillhands så att det enkelt går att introducera sandlådan, dockorna eller tejpingen utan att det uppfattas som en så stor sak: ”Det här hjälper mig att se/förstå hur det var/vad som hände”.

Förmiddagen ägnades åt en genomgång av teori och metod och Lotta hade med sig dockor, möbler, djur och annat som hör till BOF-materialet. En liten portabel sandlåda hade också fått följa med från Uppsala. På eftermiddagen fick vi tillgång till ett terapirum på Erica och fick chansen att träna lite med hjälp av rollspel och Lottas coachning. En intressant, intensiv och rolig dag! Tack, Lotta!

Cilla Kallenberg

Facebooktwitterredditpinterestlinkedinmail

Cecilia Kallenberg berättar om Rorschach i Morgonpasset SR P3

(Från Morgonpasset:) De allra flesta har någon gång sett en film eller serie där en terapipatient får svara på vad de tycker att en bläckfläck ser ut som. Just det där – Rorschachtestet, som det heter – ska Martina, David och Victor prata med psykologen och Rorschachspecialisten Cecilia Kallenberg med. Hur gör man det? Varför gör man det? Och vem var Rorschach? Lyssna på Morgonpassets gästpodd genom att klicka här!

 

Facebooktwitterredditpinterestlinkedinmail

Debatt om klinisk vs mekanisk personbedömning i psykologtidningen

2013-08-15

Malin Holm och Björn Sahlberg:
”Statistik är inte mer tillförlitlig
än professionellt omdöme”

När det gäller tester och chefsurval finns i samtiden en tilltagande och alltmer högljudd argumentation som menar att statistik är tillförlitligare än det professionella omdömet, att en matematisk formel som beslutsgrund är att föredra. Tonfallet är självsäkert.

Man talar om evidensbaserat urval och alternativet beskrivs ofta i termer av ett mer eller mindre kvalificerat beslutsfattande med magen. Grundläggande i denna statistiska linje – eller Big Data som den också benämnts – är att:
1) kandidater i en rekryteringsprocess bör rangordnas med hjälp av kvoten från ett traditionellt intelligenstest och vissa delskalor i ett självskattningsinventorium, och
2) erfarenhet hos en professionell yrkesperson kan – tillsammans med intervjuer, referenstagning eller försök att använda omdömesgillt tänkande – bara störa bedömningen.

Big Data-ideologin har en fördel i att den minskar utrymmet för godtycke i bedömningar, men vi menar att flera fakta manar till ödmjukhet:
• Metoden anger inte om personen även tillhör någon oönskad grupp, till exempel gruppen patologiska lögnare eller rasister
• Det som gäller för en grupp i allmänhet gäller inte med nödvändighet för alla individer i gruppen. I det enskilda fallet kan ovanliga men kritiska faktorer göra att den renodlade statistiska bedömningen blir gravt missvisande.

Hur fel det kan gå belyses till exempel av en kvinna som kontaktade en av oss och berättade att hon blev nekad ett chefsjobb i en svensk kommun eftersom hennes resultat på BASIQ ”enbart” var stanine 5 jämfört med normalpopulationen. Det hade varit okej om resultatet hade varit 5 jämfört med akademikergruppen.

Vi menar inte att begåvning är oviktigt, men man kan och bör tänka längre än en kvot eller siffra. Man bör relatera detta till annat som omdöme, strategisk förmåga, tolerans för osäkerhet och komplexitet, typen av försvarsmönster och reaktioner på stress, personlig och känslomässig mognad. Sedan – och detta är avgörande – bör man som professionell bedömare kunna väga samman intryck, ställa sig nya frågor och till sist med hjälp av sitt omdöme ta ställning. Man överlåter inte avgörandet till metoden utan tar ansvar för en egen bedömning.

Inom rättspsykiatrin, där kostnaderna för felaktiga beslut pressar på metodutvecklingen, brukar Big Data hänföras till den andra generationens bedömningar; ett redan lämnat steg på vägen mot mer användbarara system. I stället har en tredje generationens metod utvecklats; En syntes av klinisk bedömning och Big Data, ofta kallad strukturerad klinisk bedömning. Där ska bedömaren låta sig styras av checklistor med empiriskt välstuderade faktorer, men utifrån klinisk erfarenhet och även sunt förnuft kunna lägga till och dra ifrån specifika faktorer av betydelse.

Vi oroas också av den kulturella påverkan som Big Data innebär. Om tänkande och berättande helt ersätts av empiri och statistik blir det svårt att skapa begrepp kring personligt ansvar och moral. Att alla sidor hittar stöd i forskning visar bara att ämnet är komplext, och vi skulle önska att vi psykologer kunde göra gemensam sak i en verkligt vetenskaplig ansats – att ackumulera kunskap med de landvinningar vi gör i stället för att på ett arrogant sätt påstå att någon har det enda rätta synsättet.

Anders Sjöberg, Maria Åkerlund och Sara Henrysson Eidvall om tester:
”Alla metoder bör utvärderas i förhållande till målet”

Evidensbaserat urval handlar inte bara om ett intelligenstest och ett självskattnings-inventorium. Den beräkningsgrund som används har ingen begränsning hur många faktorer som vägs in, dock ska det som vägs in bygga på en rational och på belägg för att det fungerat i andra sammanhang. Det som vägs in ska naturligtvis också vara reliabelt. Det skriver psykologerna Anders Sjöberg, Maria Åkerlund och Sara Henrysson Eidvall.

När det gäller tester och chefsurval finns i samtiden en tilltagande och alltmer högljudd argumentation som menar att statistik är tillförlitligare än det professionella omdömet, skriver psykologerna Björn Sahlberg och Malin Holm. Tonfallet är självsäkert, man talar om evidensbaserat urval och alternativet beskrivs ofta i termer av ett mer eller mindre kvalificerat beslutsfattande med magen fortsätter Sahlberg och Holm, som också menar att båda sidor i denna fråga finner stöd i forskning. Vi uppfattar att huvuddragen i insändaren är att det inte är bra att rangordna kandidater i en rekryteringsprocess med hjälp av formler som väger ihop flera olika testpoäng och att erfarenhet hos en professionell yrkesperson intar en central plats i personbedömningen.

Inom arbetspsykologin har under ett antal decennier funnits två skolor inom bedömning och urval. Den ena traditionen har kallats klinisk, holistisk eller individuell bedömning och den andra mekanisk, statistisk eller psykometrisk bedömning. Det är riktigt att båda traditionerna vidhåller att data ska samlas in på ett strukturerat sätt. Det som skiljer de båda traditionerna åt är hur informationen sedan omvandlas till en rekommendation som i sin tur leder till ett urvalsbeslut.

Kliniska bedömningar kan definieras som bedömningar av olika aspekter som en expert anser vara av betydelse i ett visst sammanhang. Bedömningen är intuitiv eller åtminstone inte en standardiserad sammanvägning av dessa olika aspekter. Mekaniska bedömningar kan definieras som standardiserade sätt att mäta och sedan statistiskt sammanväga de aspekter som forskningen visat är av betydelse för urvalsbeslut. Dessa två skolor har alltså funnits parallellt under väldigt lång tid (de första artiklarna publicerade på 20-talet) och den mekaniska ansatsen är inte något som uppstått i ”samtiden”.

Det är helt rätt att evidensbaserat urval handlar om en siffra som ska ligga till grund för beslut och att denna siffra beräknas genom att man väger ihop den information om kandidaten som i forskning visat sig fungera i urval. EBU handlar emellertid inte om att begränsa detta till ett intelligenstest och ett självskattnings-inventorium. Den beräkningsgrund som används har ingen som helst begränsning hur många faktorer som vägs in, dock ska det som vägs in bygga på en rational och på belägg för att det fungerat i andra sammanhang. Det som vägs in ska naturligtvis också vara reliabelt, alltså fritt från mätfel. Således kan även intervjuer, referenstagning och omdömesgillt tänkande läggas in i samma formel tillsammans med poäng från intelligenstest och personlighetstest så länge även dessa mått är reliabla och valida. På detta sätt bildar samtliga informationskällor beslutsunderlag vid urval, i en s k kompensatorisk modell där vissa faktorer kan viktas tyngre än andra eller kompensera varandra.

Författarna argumenterar för att den mekaniska metoden inte kan upptäcka patologiska lögnare eller rasister och att det som gäller för en grupp i allmänhet inte med nödvändighet gäller för alla individer i gruppen. De ger också ett exempel på vad de anser är ett felaktigt grundat urvalsbeslut där en kvinna blev nekad ett jobb pga av att hon var normalbegåvad.

Ett urvalsunderlag som endast innehåller en intelligenspoäng och fem personlighetspoäng (av Big 5-karaktär) kan naturligtvis inte upptäcka patologiska lögnare eller rasister. Om det finns information som predicerar lögnaktighet och rasism som är reliabel kan denna emellertid vägas in i EBU. Vad gäller argumentet att det som gäller gruppen inte säkert gäller för individen är detta förvisso korrekt, men vi kan aldrig förutsäga enskilda beteenden hos en individ till 100 procent. Det är därför all bedömning handlar om sannolikhet. Det är den professionella personbedömarens (leverantörens) ansvar att redogöra för uppdragsgivaren med vilken grad av säkerhet hon eller han kan säga att det är rätt person som föreslås till anställningen. Idag upplever vi att alltför mycket tid ägnas åt oändliga beskrivningar av kandidater och att dessa beskrivningar endast är diffust kopplade till sannolikheten att lyckas i det arbete som söks.

Kvinnan som nekades anställning på grund av normalbegåvning är inte nödvändigtvis ett exempel på evidensbaserat urval. EBU förordar inte att endast en informationskälla ska användas vid urvalsbeslut.

Vi menar, till skillnad från författarna, att båda sidor inte alls får stöd i forskningen. Redan på 40-talet gjordes utvärderingar av stora urvalsprojekt i USA där det visade sig att de samlade bedömningar av testresultat och andra data som gjordes i slutet av urvalsprocessen hade lägre validitet än de enskilda testerna var för sig. Under de 70 år som följt därefter har man varje gång man jämfört kliniska/holistiska och mekaniska/psykometriska bedömningar kommit fram till samma resultat. Forskningen ger tydligt besked, mekanisk sammanvägning vinner överlägset när samma information bedöms.

När det undersökts hur bedömningsexperter inom olika områden kommer fram till beslut har man funnit att de förlitar sig på begränsad information, är oklara över och inte kan redovisa hur de har kommit fram till sina bedömningar, att interbedömar-reliabiliteten är låg samt att de blir mer säkra på sina ursprungliga slutsatser när irrelevant information tillförs. Det finns alltså inget stöd i forskningen för att den professionella bedömaren har en unik förmåga att väga samman intryck, ställa relevanta frågor och till sist med hjälp av sitt omdöme fatta bättre urvalsbeslut. Snarare visar forskningen att professionella bedömare överskattar sin förmåga.

Ett av psykologins stora bidrag till samhället är forskningen och kunskapen om människans omdöme och beslutsfattande. Genom detta bidrag har vi lärt oss mer om hur vårt omdöme påverkas av ovidkommande faktorer, hur svårt vi har att uppskatta sannolikhet och hur vi föredrar och låter oss påverkas mer av berättelser än av enstaka fakta hur relevanta de än är. Denna psykologiska kunskap förklarar varför validiteten sjunker när vi försöker ”tolka” testresultat och annan data som insamlats.

Vi menar att alla metoder bör utvärderas i förhållande till det mål man har med dem. Om målet när man gör ett urval är att exempelvis bemanna en roll med den person som med så stor sannolikhet som möjligt kommer att göra det bästa jobbet, till fromma för alla intressenter såsom medarbetare, kolleger, brukare/kunder, skattebetalare/ägare och samhället i stort, bör man välja den säkraste metoden för detta.

Den som använder metoden bör kunna göras ansvarsskyldig, det vill säga kunna redogöra för hur och med vilket stöd hon eller han kommit fram till sin slutsats. Det bör gå att spåra processen fram till beslut och om flera bedömare använder samma metod på samma data ska de komma till samma slutsats. Personligt ansvar och moral är i detta sammanhang förknippat med att vara tydlig med vad som bedöms, hur det vägs ihop och till slut ligger till grund för ett beslut baserat på empiri. Vi har alla arbetat inom urvalsområdet i ett 20-tal år. Vår erfarenhet är att urvalsbedömare sällan görs ansvarsskyldiga och i princip aldrig avkrävs en redovisning av rationalen och forskningsstödet för sina metoder. Vi uppmanar kunder och andra intressenter att avkräva oss detta och göra oss ansvarsskyldiga!

2014-01-08

Malin Holm och Björn Sahlberg:
”Finns ingen bra ursäkt att inte använda sitt professionella omdöme”

Vi skrev ett debattinlägg i Psykologtidningen nr 6/2013 samt på psykologtidningen.se med kritisk udd mot den så kallade evidensbaserade urvalsmetoden. Nu har Sara Henrysson Eidvall, Anders Sjöberg och Maria Åkerlund gått i svaromål och överskriften är: ”Alla metoder bör utvärderas i förhållande till målen”, vilket vi givetvis inte motsäger. Snarare belyser det kanske grunden i vårt resonemang – vilket värde tillför egentligen de olika metoderna?

Författarna skriver också att de slagits av att de genom åren sällan behövt ställas till svars för sina bedömningar. Vi anser också det som självklart att man ska kunna ställas till svars för sin bedömning, och är vana att ha denna diskussion med uppdragsgivare, och vi vill betona att detta inte är en diskussion om att ha en sund metodologi, robusta tester eller grunda sina metoder i forskning. Där är vi helt eniga. Vad vi vill diskutera är vad personbedömning är och vad en kvalificerad yrkesperson kan tillföra utöver själva testen.

Vi argumenterar för att psykologens/konsultens eget omdöme måste användas när vi drar slutsatser och att vi inte ska förlita oss enbart på en siffra från en formel. På detta svarar författarna att forskning entydigt visat att mekanisk/psykometrisk bedömning är bättre än klinisk/holistisk. Den senare beskrivs som intuitiv och som att konsulten inte kan redogöra för hur han/hon kommit fram till sina resultat. Hur är den forskningen genomförd? Tar den hänsyn till exempel till metodologin och skickligheten hos bedömaren?

I Psykologtidningen nr 1/2013 skriver Sara Henrysson Eidvall i en recension av Kahnemans bok Att tänka snabbt eller långsamt om vådan av hastigt vanetänkande. Vi är överens med författarna om att det är ett långsamt, analytiskt tänkande som behövs. Poängen med boken, och recensionen, är att detta inte sker bara på basis av en persons begåvning, utan mer är en fråga om insikt, professionalism och självdisciplin. Vi skulle kunna kalla det snabba tänkandet intuitivt och i vissa fall omedvetet, medan det långsamma strävar efter att vara medvetet och rationellt. Vi skulle också kunna säga att detta berör faktorn omdöme.

Vi tolkar att författarna vill bygga bort den riskfaktor som finns i den starka frestelsen att luta sig mot intuitivt tänkande, och att man därför inte ska tänka alls när man väl fastställt sin formel. Vi förstår poängerna med en sådan basnivå eftersom den rensar bort osunda metoder, men tycker att det är otillfredsställande att inte sträva vidare utifrån det kunnande som finns. Detta kräver dock specialisering, expertis och professionalism vilket berör en annan kritik vi har mot resonemanget, att frågan om olika bedömares olika skicklighet helt faller bort. Genom att kategoriskt onödiggöra bedömaren, oavsett dennes skicklighet, så tror vi man gör testbolagen en större tjänst, än kunderna.

Testresultaten är inte i sig bedömningen, utan indikationer på ett fungerande som behöver analyseras till en större helhet. För det behövs en kvalificerad personbedömare, som tar det yttersta ansvaret för att integrera relevanta testdata mot bakgrund av en personlighetsteori. En förståelse behövs av individens relativt stabila fungerande, som vi kallar personlighet, och en matchning av denna mot befattningen. En förståelse av de specifika förhållandena i organisationen, som relationer, tyst kunskap med mera ökar ytterligare träffsäkerheten. Ibland är det enkelt – alla resultat går i samma riktning/har hög konvergens – och talar ett tydligt språk. Ibland är det svårt. Testresultaten överensstämmer inte utan kräver en fördjupad analys, eller de kandidater som ska bedömas har olika styrkor och riskområden, men ingen är 100 procent matchad till kontexten. Men detta är något som är ytterst svårt att skapa en formel omkring.

En optimal formel har minst en variabel för kontext, och en för faktorn personlighetsorganisation, eller mognad. Dit känns det långt. Vi menar att det inte finns någon bra ursäkt att inte använda sitt professionella omdöme även om detta inte är hundraprocentigt.

Oavkortad version Endast på Psykologtidningen.se 2013-10-13

Anders Sjöberg, Maria Åkerlund och Sara Henrysson Eidvall om tester:
”Alla metoder bör utvärderas i förhållande till målet”

”När det gäller tester och chefsurval finns i samtiden en tilltagande och alltmer högljudd argumentation som menar att statistik är tillförlitligare än det professionella omdömet”, skriver psykologerna Björn Sahlberg och Malin Holm (Psykologtidningen 6/2013).

Vi uppfattar att huvuddragen i debattinlägget är att det inte är bra att rangordna kandidater i en rekryteringsprocess med hjälp av formler som väger ihop flera olika testpoäng och att erfarenhet hos en professionell yrkesperson intar en central plats i personbedömningen.

Inom arbetspsykologin har under ett antal decennier funnits två skolor inom bedömning och urval. Den ena traditionen har kallats klinisk, holistisk eller individuell bedömning och den andra mekanisk, statistisk eller psykometrisk bedömning. Båda traditionerna vidhåller att data ska samlas in på ett strukturerat sätt. Det som skiljer är hur informationen sedan omvandlas till en rekommendation som leder till ett urvalsbeslut.
Författarna argumenterar för att den mekaniska metoden inte kan upptäcka patologiska lögnare eller rasister och att det som gäller för en grupp i
allmänhet inte med nödvändighet gäller för alla individer i gruppen.

Ett urvalsunderlag som endast innehåller en intelligenspoäng och fem personlighetspoäng (av Big 5-karaktär) kan naturligtvis inte upptäcka
patologiska lögnare eller rasister. Vi menar att alla metoder bör utvärderas i förhållande till det mål man har med dem. Om målet när man gör ett urval är att exempelvis bemanna en roll med den person som med så stor sannolikhet som möjligt kommer att göra det bästa jobbet bör man välja den säkraste metoden. Den som använder metoden bör kunna göras ansvarsskyldig, kunna redogöra för hur och med vilket stöd hon eller han
kommit fram till sin slutsats. Personligt ansvar och moral är i detta sammanhang förknippat med att vara tydlig med vad som bedöms, hur det vägs ihop och ligger till grund för ett beslut baserat på empiri.

Vår erfarenhet är att urvalsbedömare sällan görs ansvarsskyldiga och i princip aldrig avkrävs en redovisning av rationalen och forskningsstödet för sina metoder. Vi uppmanar kunder och andra intressenter att avkräva oss detta och göra oss ansvarsskyldiga!

SKRIBENT

2014-02-26

Malin Holm och Björn Sahlberg
Den kliniska bedömningen är central

Vi startade en debatt i Psykologtidningen mot den så kallade evidensbaserade urvalsmetoden för att vi utifrån lång erfarenhet av personbedömningar fann det svårsmält att bli betraktade som felkällor. Att hävda att den rent mekaniska urvalsmetoden är den mest vetenskapliga och bästa metoden för urval som psykologer kan erbjuda är i vår mening en extremt förenklad syn på vad som driver lönsamhet och framgång i organisationer, som ju består av människor. Det medför en stor risk för att urholka respekten för både psykologisk forskning och för den kompetens psykologer med en specialiserad kunskap och skicklighet i strukturerad personbedömning kan tillföra i både urval och utveckling.

För att lugna våra opponenter Sara Eidvall, Anders Sjögren och Maria Åkerlund vill vi först säga att det naturligtvis är viktigt att vissa faktorer på metanivå visat sig relaterade till framgång och lönsamhet hos individen. En strukturerad klinisk bedömning står inte i motsats till den typen av fakta, utan allt relevant integreras i bedömningen. Personlighet förstås som ett dynamiskt system av förmågor, drivkrafter, motivation och eventuella urspårningstendenser. Intervju, självskattningar och performancebaserade test av begåvning och personlighet ger alla relevanta data som är indikationer på ett fungerande. Målet är att inte bara beskriva gränserna för personens förmåga, utan även personens motivation att utföra uppgiften.

Ibland är det enkelt – alla resultat går i samma riktning/har hög konvergens. Beroende på skillnader i testers förmåga att mäta olika fenomen, varierar dock graden av konvergens i resultaten bland annat med grad av insikt och förmåga hos en person att beskriva sig själv. Det i sin tur är relaterat till grad av struktur och mognad i personligheten, vilket i sig är en högst önskvärd faktor att fånga i en personbedömning av lämplighet.

Även den forskare som väljer att studera människan utifrån vissa konstanta faktorer torde erkänna att människor kan beskrivas som dynamiska system som påverkar och påverkas av sin omgivning i interaktion, det vill säga något mycket mer komplext som kan behöva förstås och förklaras. I författarnas synsätt verkar förståelse ha liten eller ingen relevans. Härmed tappar man hela det humanistiska perspektivet och synen på människan blir minst sagt endimensionell.
Det intressanta ligger också ofta i det man inte förstår – i den okända variansen, relaterat till förmågan att uppfatta och märka det som avviker från det man trodde. Att undantagen är irrelevanta eftersom det enligt författarna inte finns ”anledning att inte vara nöjd med … ” deras egen mekaniska metod, är ett i vår mening knappast bevisat antagande.

Vad skapar mer lönsamhet för en organisation – att de flesta sannolikt är framgångsrika som individer eller att man inte gör allvarliga felrekryteringar? Det är en relevant fråga eftersom klinisk strukturerad bedömning är bättre på att identifiera de individer som är definitivt olämpliga, på grund av olika typer av underliggande problematik som oftast inte visar sig förrän under en tid eller under ökad press. Hogan och Kaiser (2005) anser att misslyckande snarare beror på oönskade kvalitéer än brist på önskade sådana. Jackson och Parry (2008) hävdar att studier av misslyckande i ledarskapet visat att emotionella aspekter av ledarskapet varit mer avgörande än kognitiva. En chef eller medarbetare med personlighetsstörning orsakar ofta med tiden organisationen stora kostnader och lidanden till exempel på grund av oförmåga att ta ansvar för sina brister och tillkortakommanden. Som en kund uttryckte det – ”It’s 1 % (av rekryterad personal) but it’s 50 % of our costs”.

Att enbart luta sig mot korrelationer i stora metastudier räcker inte heller som perspektiv. Kunskapen om det allmänna räcker inte för att ge ledning i det enskilda chefsurvalet. Inte minst tenderar kandidaterna på högre nivåer att samtliga scora ganska högt på den nu kända formeln som, vad än författarna säger är hypotetiskt möjligt, fortfarande inskränker sig till olika kombinationer av generell begåvning, samt C och E, och kanske lite av N-faktorn i 5-faktor modellen. Generellt vilar deras mekanik mycket tungt mot faktorn begåvning, men det är inte nödvändigtvis så att den högsta begåvningen gör en person lämpligast för alla typer av jobb. Till exempel har framgångsrika ledare en god allmän intelligens, dominans, självförtroende, känslomässig balans och kontroll, självständighet, kreativitet, ansvarskänsla, prestationsbehov och god social kompetens, och det är framför allt kombinationen av dessa egenskaper man har sett ha samband med framgång, inte varje enskild egenskap för sig (Thylefors, 2007).

Våra kunder förstår att det är många olika faktorer som driver framgång och lönsamhet i en organisation. Deras rekryteringar strävar efter att inte bara selektera, utan också integrera och påverka medarbetare in i organisationen som system, där individen skall tillföra ett värde men också interagera med organisationen till ett generera ett gemensamt högre värde. Vidare finns ambitioner med rekryteringarna att vara en del i en övergripande HR-strategi och en möjlighet till utveckling hos både den som får, och den som inte får tjänsten, och i den processen menar vi att psykologisk kunskap kan tillföra värde. Det behovs inga psykologer i den typ av urvalsbedömningar som Eidvall, Sjögren och Åkerlund förespråkar eftersom bedömningen görs helt mekaniskt. För dem är den enda meningsfulla psykologen i sammanhanget forskaren. Vi menar tvärt om att psykologer inte bör abdikera ifrån uppgiften att försöka förstå och förklara mänskliga system.

2014-04-08

Om testning och personlighetsbedömningar:
Mekanisk sammanvägning har högre validitet

I sitt senaste debattinlägg skriver Holm och Sahlberg att de ”fann det svårsmält att bli betraktade som felkällor”. Det är lätt att identifiera sig och sympatisera med den reflektionen. Icke desto mindre har vi att förhålla oss till den forskning som faktiskt finns och som vi i våra inlägg refererat till.

Kuncel et al. (2013) visar i sin metaanalys att mekanisk sammanvägning har högre prediktiv validitet än klinisk och att validiteten sjunker med 25 procent när vi gör kliniska sammanvägningar jämfört med när vi gör mekaniska. Om det stämmer går stora mänskliga värden förlorade med dessa 25 procent. Vi menar att om man inte tror att det stämmer behöver man visa var felen i forskningen finns. Det räcker inte att bara bortse ifrån den.

Detsamma gäller Nobelpristagaren Daniel Kahnemans och andras forskning om bedömning och beslutsfattande som förklarar varför och hur vi alla, även urvalsexperter, faktiskt är felkällor. Det räcker inte att hävda att psykologisk forskning har fel utan att precisera vari felen ligger om vi vill bidra till områdets utveckling.

Med detta vill vi för denna gång avsluta vår medverkan i debatten med Holm och Sahlberg. Vi skulle gärna se inlägg också från andra psykologer och ser fram emot att fortsätta diskussionen vid andra tillfällen och i andra fora. Vi tackar Holm och Sahlberg för deras engagerande inlägg och för att de genom att starta debatten skapade detta tillfälle till fördjupning i en angelägen fråga.

Facebooktwitterredditpinterestlinkedinmail

Performancebaserade personlighetstest – vad är det?

Den största skillnaden mellan självskattningstest och performancebaserade personlighetstest, är att de senare strävar efter att få en uppfattning om drivkrafter och beslutsprocesser bakom en persons synliga beteende.

Samma beteende kan ha olika drivkrafter. Det kan vara relativt okomplicerade uttryck för lust och strävan. Det kan vara ambivalent. Det kan vara reaktivt och ett uttryck för försvar, eller en blandning.

Denna testtradition förhåller sig inte primärt till det som är gemensamt hos de flesta, utan har ifrån början haft som målsättning att förstå det specifika hos en viss individ. Det handlar om att få en bild av personens inre dynamik. Vilka olika inre processer pågår i termer av drivkrafter och mål, rädslor och hinder, i relation till eventuella brister och trauman, föreställningar, förväntningar och förhoppningar och även kognitiva förutsättningar?

Hur stabil är personligheten, hur integrerade är beteenden och typiska sätt att lösa situationer och hur håller de för ökade påfrestningar? Är personens förmågor ansträngda till det yttersta eller finns det flexibilitet och utrymme för att möta större utmaningar och snabb förändring? Skulle personens sätt att beskriva sig själv och tillvaron bekräftas av andra, eller pågår det olika typer av försvar mot att se tillvaron som den är, och så vidare beroende på frågeställning.

Testen fungerar så, att en person presenteras för uppgiften att ge svar på halvstrukturerade stimuli, med den mening och form som hen kan skapa utifrån sig själv. På så vis kommer typiska mönster att uppfatta, tolka, reagera på och hantera situationer till uttryck. Teststimuli är utprövade under lång tid och på stora grupper för att kunna relatera personens svar till andras genom normer. Graden av struktur för att bedöma svaren på ett reliabelt sätt, liksom de teoretiska grunderna för att tolka svaren valitt, har förfinats under de hundra år som testen har använts.

Det ursprungliga namnet projektiva test speglar en tidig föreställning under psykoanalysens framväxt, om att personer projicerar sitt inre på testen. Projektion av inre mer eller mindre outhärdligt material på omgivningen är ett sätt som människor kan hantera inre spänning och räknas som ett psykologiskt försvar, och är därför något som kan uppträda i ett performancebaserat testprotokoll eller inte, beroende på personlighet. Typiskt för ett svar som bygger på projektion, är hög subjektivitet och en ansträngd logik, långt ifrån de flestas uppfattning, som antyder hur den inre världen pressas på den yttre utan att det finns så mycket grund.

Namnet projektiva test får allt mer ge vika för benämningen performancebaserade personlighetstest som alltså betonar det faktum att personligheten kommer till uttryck i beteendet som svar på uppgiften, snarare än att en person skattar sitt beteende och sin personlighet.

Föreningen för psykologisk personlighetsbedömning är en förening för alla med intresse för psykodiagnostik och personlighetsbedömning med performancebaserade testmetoder. Dit räknas till exempel Rorschachtestet, Warteggs teckningstest, Adult Attachment Projective Picture System (AAP), Object Relations Technique (ORT), Defense Mechanism Test (DMT) och Thematic Apperception Test (TAT).

Utbildningar i R-PAS (Rorschach – Performance Assessment System) och CWS (Crisi Wartegg System) är specialistackrediterade grundkurser, liksom TA (Therapeutic Assessment) utvecklad av den amerikanske psykologen Stephen E Finn, där utredning och psykoterapi förenas i en process som kan kallas utredning som djuplodande korttidsterapi. TA ställer krav på kunskap om olika typer av test och utredningsinstrument, bland andra performancebaserade.

Facebooktwitterredditpinterestlinkedinmail

Rorschach godkänt som specialistkurs

Goda nyheter!

I juni i år fick jag besked från Specialistrådet, Sveriges Psykologförbund, att utbildningen i Rorschach äntligen godkänts som specialistkurs. Den tidigare tvååriga Rorschachutbildningen (Personlighetsdiagnostiska kursen PDK) som gavs på Ericasstiftelsen fram till 2010 var ackrediterad som specialistkurs och motsvarade 30 ”gamla” poäng (nuvarande 45hp). Tyvärr lades PDK ner på grund av att utbildningen ansågs för lång av arbetsgivare och det var alldeles för få psykologer som fick gå utbildningen. I rorschachföreningen diskuterade vi länge och väl hur vi skulle kunna tillgodose psykologers önskan om att få lära sig Rorschach när klimatet på arbetsplatserna inte gör det möjligt att gå längre utbildningar som inte är tydligt riktade mot psykiatri eller psykoterapi. Jag skapade då en kort kurs, med tanken att erbjuda en grundutbildning i Rorschach som sedan kan byggas på genom eget arbete och fördjupning genom individuell handledning och deltagande i seminariegrupper. Den första kursomgången, med nio deltagare, gick av stapeln i Gnesta 2010-2011. Under den här tiden arbetade vi, liksom resten av världen, med Rorschach Comprehensive System som skapats av John Exner. Därefter introducerades R-PAS som är en modernare och enklare metod för att administrera, koda och tolka Rorschach. Jag ”omskolade mig” från ”exnerian” till ”R-PASare” under sommaren 2011 på en inledande kurs i San Diego och jag fick en extra duvning i Oslo då R-PAS-skaparna Greg Meyer och Joni Mihura kom till Oslo universitet som gästföreläsare.

Under hösten-vintern 2011-2012 genomfördes en första kursomgång med R-PAS på Stockholms universitet för sex entusiastiska studenter på terminerna 8-9, psykologprogrammet, (7,5 hp), då Thomas Rosén var med som hjälplärare. Därefter har jag gett tre kurser för verksamma psykologer och leder seminarier. En ytterligare kursomgång på universitet har jag också hunnit med.

Nästa kursomgång kommer sannolikt att börja i februari-mars 2015 och den omfattar åtta heldagar. Vi inleder med tre intensiva dagar i följd och därefter ses vi en dag i taget med några veckors mellanrum. Kursen avslutas med en examination, dag 8 på kursen. För att lära sig metoden på den här korta tiden krävs mycket hemarbete! Man behöver göra flera övningstestningar som vi går igenom på kursdagarna och finslipar administration och tränar kodning och tolkning. Jag har dessutom begränsat antalet deltagare till max sex personer så att jag säkert hinner med att följa upp och hjälpa alla. Fokus under kursen ligger på att lära sig administrera och koda ordentligt. Att tolka testet är både lätt och svårt. En rorschachtestning ger så ofantligt mycket information om en persons sätt att möta sin omvärld och sitt eget inre och det tar lång tid att känna sig säker på fördjupad tolkning/analys av resultatet. Men en enklare tolkning går ganska snabbt att få kläm på, med hjälp av manualen. Tolkning tränas på seminarierna som ges efter avslutad kurs eller givetvis i individuell handledning.

Intresset för Rorschach har alltid varit stort bland psykologer och det finns nog ingen metod som väcker så starka känslor både hos dess utövare och hos kritiker. Detta har gjort att man kritiskt har granskat metoden på längden och tvären under snart 100 år (testet publicerades 1921) vilket har lett till att man tryggt kan luta sig mot både mycket forskning och mycket erfarenhet i sina tolkningar av testresultaten. Förhoppningsvis kan alla ni som är intresserade av att lära er Rorschach få det lite lättare gentemot arbetsgivarna, nu när kursen blivit specialistkurs!

Facebooktwitterredditpinterestlinkedinmail

Rorschach och NEO som urvalsmetoder inom norskt militärt specialurval

I maj 2009 besökte Ellen Hartmann, Norge, för andra gången Rorschachföreningen i Stockholm för att berätta om sina studier med Rorschach som militärt urvalsinstrument. Hartmann är en aktiv forskare med bred och pragmatisk ansats, och bedriver forskning i både kliniska sammanhang och urvalssammanhang. Här följer några av de intressanta resultat som redovisades på dagens första halva.

 

2003 genomfördes av Hartmann et al blindstudien ”Psych Measures as Predictors of Military Training Performance” med främsta syfte att undersöka produktivitet och i vilken mån psykologiska tester som NEO och Rorschach tillför något utöver andra tester (incremental validity) för att predicera förmågan att klara av ett extremt krävande träningsprogram, vilket också innebär kvalificering till Norska Marinkårens specialstyrkor (NFS). Testerna var NEO (eg en norsk snarast exakt motsvarighet kallad 5PFmil) och Rorschach (relevanta skalor), och G, mätt med flera WAIS-delskalor, En norsk arbetsanalys bedömde att NFS kräver hög intelligens, övergenomsnittlig affektkontroll, mycket god realitetstestning, förmåga att hantera stress och otydlighet, hög inlärningskurva både teoretiskt och praktiskt och hög uthållighet.

 

Första nivån i antagen till NSF innebär fysiska, tekniska och intelligenstester. Andra nivån innebär en mer omfattande hälsokontroll, kognitiva tester och tester av förmåga, tillsammans med individuella intervjuer. Ca 30% blir normalt godkända på denna nivå. För studiens syften gjorde rekryterna här även NEO och Rorschach, som för dem presenterades som ordinarie testmetoder. Tredje nivån består av ett fyra dagar långt rigoröst träningsprogram med extremt krävande övningar, både psykiskt och fysiskt. Endast ca10% av rekryterna från ursprungsgruppen, passerar även denna nivå och antas som NSF kandidater. 90% bortfall är kostsamt och om personlighetstester som NEO och Rorschach kan predicera en del av detta bortfall skulle de alltså kunna komma till stor nytta.

 

Fem Rorschachvariabler visade sig signifikant kunna predicera genomförande av alla steg inklusive träningsprogrammet; (m, Sum Y, XA% , X-% , and WSum6 Lvl2). Ingen som hade något WSum6 Lvl2 svar klarade sig, vilket tydligt visar behovet av adekvat realitetstestning. Rorschachmetoden var bättre på att predicera dem som inte klarade av programmet, än vilka som blev antagna. Framgång eller ej kunde inte prediceras av vare sig de kognitiva testerna (WAIS) eller någon skala eller delskala av NEO.

 

2008 replikerades studien, publicerad under namnet “Rorschach variables and Big Five Scales as Predictors of Military Training Completion: A repl. Study of the Selection of Candidates to the Naval Special Forces in Norway”. Denna gång ville man också undersöka inverkan på resultaten av den stressfyllda miljön, eftersom kandidaterna testats under själva träningsprogrammet, under stark fysisk och psykologisk påverkan. De Rorschachvariabler som valdes i denna studie byggde på resultaten av den första, och rörde adekvat social perception, empati, och adekvata interpersonella relationer (M+), adekvat perception and social anpassning (XA%), stressrelaterade ångestkänslor, låg stresstolerans, och uppgivenhet (m).

 

140 norska män i åldrarna 19-33 år deltog i studien. Samtliga var alltså kandidater som klarat tester av förmåga, den medicinska undersökningen, den personliga intervjun och fått påbörja marinens specialstyrkors träningsprogram. 30 personer, eller 22% fullföljde träningsprogrammet och 78% gjorde det inte, de allra flesta på eget initiativ. Alla hypoteser bekräftades med signifikans, och liksom i första studien var Rorschach bättre på att predicera vilka som inte skulle klara relativt vilka som skulle klara av programmet. NEO-skalor eller delskalor visade inte heller denna gång något prediktivt värde. Ellen Hartmanns hypotes angående detta är att detta speglar s k ”fake normal” i önskan att passera, och att ”fake normal” hos denna generellt välanpassade grupp är så subtil att det inte blir synligt statistiskt. Mellan den lugna och den mindre lugna situationen var M+ den enda variabeln som skilde sig signifikant (lite förvånande).

 

I denna den andra studien ville man också pröva begreppet illusorisk psykisk hälsa (Illusory mental health) i relation till genomförande av programmet. NEO delskala N (emotionell stabilitet, eller neuroticisnm) illustrerade individens uppfattning om sin psykiska hälsa, och en bedömning av desamma gjordes med Rorschachvariablerna M+, XA%, m, Sum Y+V+FD, X-%, Wsum6Level2, AG)

 

Rorschach

 

Good

 

Poor
 

 

 

 

 

 

NEO-N

Good Robust

22/45

(33%)

Illusorisk hälsa (en troligtvis sårbar grupp*)

1/26

(4%)

23/71

(24%)

Poor Poor selfrepresentation. Framställer sig sämre än man är. ”Rop på hjälp”’

6/23

(21%)

Distressed

1/14

(7%)

7/37

(16%)

Total 28/68

(29%)

2/40

(5%)

30/108

(22%)

 

Alla hypoteser angående Rorschach bekräftades om än inte med lika höga siffror som vid den första studien. Rorschach var fortsatt bättre på att förutsäga vilka som inte skulle klara sig än vilka som skulle göra det. NEO ensamt hade fortsatt inget predicerande värde. Kombinationen av NEO-N och Rorschachvariabler visade dock intressanta resultat där det inte minst kan noteras att endast två individer som uppmätte negativ psykisk hälsa med Rorschach, klarade träningen.

 

Fynden från båda studierna (2003 och 2008) visar att finns Rorschachvariabler, inte minst m och WSum6Lvl2 och även störd perception, som kan förutsäga vilka som inte kommer att klara  intagningen till Norska Marinens Specialstyrkor. Det är relativt obetydlig skillnad om testningen sker under stress eller lugna betingelser. Rorschachtestning är en situation där personen möter något nytt och främmande, få regler och hållpunkter finns för hur hen skall svara och personen blir satt i en slags experimentell mini-krissituation som liknar den som personen utsätts för i denna träning, och troligen mentalt liknar det personer kan utsättas för ute i fält och krig, varför Rorschachmetoden kan förutsäga något om stressfungerande som självskattningsmetoder inte kan.

 

Ellen Hartmann Cato Gr⊘nner⊘d (2009) Rorschach Variables and Big Five Scales as Predictors of Military Training Completion: A Replication Study of the Selection of Candidates to the Naval Special Forces in Norway, Journal of Personality Assessment, 91:3, 254-264, DOI: 10.1080/00223890902794309

Ellen Hartmann Tor Sunde Wenche Kristensen Monica Martinussen (2003) Psychological Measures As Predictors of Military Training Performance, Journal of Personality Assessment, 80:1, 87-98, DOI: 10.1207/S15327752JPA8001_17

 

 

Facebooktwitterredditpinterestlinkedinmail