AI-chatbots og mentalt helbred
Følelsesmæssig afhængighed og mentalt sammenbrud:
Brugere kan udvikle en stærk følelsesmæssig afhængighed af en chatbot. Et eksempel er sagen om Alexander Taylor, der blev så knyttet til chatbot-personligheden "Juliet", at det førte til et decideret mentalt sammenbrud, da han troede, at systemet havde "slået hende ihjel". Denne afhængighed resulterede i trusler, vold mod hans far og endte fatalt, da han bevidst fremprovokerede, at politiet skød ham.
Risiko for psykose:
Selvom en chatbot i starten kan føles som en hjælpende terapeut, kan brugen ende i alvorlig sygdom. Kilderne nævner blandt andet tilfældet med Martin Clausen, som fik hjælp af ChatGPT til konkrete udfordringer, lige indtil han udviklede en psykose.
Farlige "hallucinationer" om medicin og diagnoser:
Chatbots har en tendens til at "hallucinere" – det vil sige, at de opfinder fakta, der lyder overbevisende, men er lodret forkerte. I en terapeutisk kontekst er dette særligt kritisk, da det kan betyde, at chatbotten giver faktuelt forkerte råd om medicin eller psykiske lidelser**, mens den fremstår meget selvsikker.
Ukonsekvente og tvivlsomme vurderinger:
Hvis man bruger chatbots til at søge information om lidelser som angst, depression og skizofreni, kan svarene være stærkt utroværdige. Et eksperiment udført af forskere viste, at den samme chatbot gav vidt forskellige vurderinger af sandsynligheden for disse lidelser, selvom den fik præcis samme prompt indtastet.
Algoritmisk bias og upassende rådgivning:
Chatbots kan lide af skævheder (bias), der gør dem ude af stand til at forstå brugerens specifikke baggrund. Dette kan føre til, at de **giver råd, der er direkte upassende eller diskriminerende** i en terapisituation.
På grund af disse risici frarådes det direkte at bruge AI-terapi ved svær psykisk sygdom, og eksperter anbefaler, at man i stedet søger information hos etablerede kilder som Psykiatrifonden eller sin egen læge.
https://psykiatrifonden.dk/viden/temaer/tema-chatbots-skyggeterapeuter/professor-om-ai-chatbots-ureguleret-globalt-eksperiment
Følelsesmæssig afhængighed og mentalt sammenbrud:
Brugere kan udvikle en stærk følelsesmæssig afhængighed af en chatbot. Et eksempel er sagen om Alexander Taylor, der blev så knyttet til chatbot-personligheden "Juliet", at det førte til et decideret mentalt sammenbrud, da han troede, at systemet havde "slået hende ihjel". Denne afhængighed resulterede i trusler, vold mod hans far og endte fatalt, da han bevidst fremprovokerede, at politiet skød ham.
Risiko for psykose:
Selvom en chatbot i starten kan føles som en hjælpende terapeut, kan brugen ende i alvorlig sygdom. Kilderne nævner blandt andet tilfældet med Martin Clausen, som fik hjælp af ChatGPT til konkrete udfordringer, lige indtil han udviklede en psykose.
Farlige "hallucinationer" om medicin og diagnoser:
Chatbots har en tendens til at "hallucinere" – det vil sige, at de opfinder fakta, der lyder overbevisende, men er lodret forkerte. I en terapeutisk kontekst er dette særligt kritisk, da det kan betyde, at chatbotten giver faktuelt forkerte råd om medicin eller psykiske lidelser**, mens den fremstår meget selvsikker.
Ukonsekvente og tvivlsomme vurderinger:
Hvis man bruger chatbots til at søge information om lidelser som angst, depression og skizofreni, kan svarene være stærkt utroværdige. Et eksperiment udført af forskere viste, at den samme chatbot gav vidt forskellige vurderinger af sandsynligheden for disse lidelser, selvom den fik præcis samme prompt indtastet.
Algoritmisk bias og upassende rådgivning:
Chatbots kan lide af skævheder (bias), der gør dem ude af stand til at forstå brugerens specifikke baggrund. Dette kan føre til, at de **giver råd, der er direkte upassende eller diskriminerende** i en terapisituation.
På grund af disse risici frarådes det direkte at bruge AI-terapi ved svær psykisk sygdom, og eksperter anbefaler, at man i stedet søger information hos etablerede kilder som Psykiatrifonden eller sin egen læge.
https://psykiatrifonden.dk/viden/temaer/tema-chatbots-skyggeterapeuter/professor-om-ai-chatbots-ureguleret-globalt-eksperiment
AI-chatbots og mentalt helbred
Følelsesmæssig afhængighed og mentalt sammenbrud:
Brugere kan udvikle en stærk følelsesmæssig afhængighed af en chatbot. Et eksempel er sagen om Alexander Taylor, der blev så knyttet til chatbot-personligheden "Juliet", at det førte til et decideret mentalt sammenbrud, da han troede, at systemet havde "slået hende ihjel". Denne afhængighed resulterede i trusler, vold mod hans far og endte fatalt, da han bevidst fremprovokerede, at politiet skød ham.
Risiko for psykose:
Selvom en chatbot i starten kan føles som en hjælpende terapeut, kan brugen ende i alvorlig sygdom. Kilderne nævner blandt andet tilfældet med Martin Clausen, som fik hjælp af ChatGPT til konkrete udfordringer, lige indtil han udviklede en psykose.
Farlige "hallucinationer" om medicin og diagnoser:
Chatbots har en tendens til at "hallucinere" – det vil sige, at de opfinder fakta, der lyder overbevisende, men er lodret forkerte. I en terapeutisk kontekst er dette særligt kritisk, da det kan betyde, at chatbotten giver faktuelt forkerte råd om medicin eller psykiske lidelser**, mens den fremstår meget selvsikker.
Ukonsekvente og tvivlsomme vurderinger:
Hvis man bruger chatbots til at søge information om lidelser som angst, depression og skizofreni, kan svarene være stærkt utroværdige. Et eksperiment udført af forskere viste, at den samme chatbot gav vidt forskellige vurderinger af sandsynligheden for disse lidelser, selvom den fik præcis samme prompt indtastet.
Algoritmisk bias og upassende rådgivning:
Chatbots kan lide af skævheder (bias), der gør dem ude af stand til at forstå brugerens specifikke baggrund. Dette kan føre til, at de **giver råd, der er direkte upassende eller diskriminerende** i en terapisituation.
På grund af disse risici frarådes det direkte at bruge AI-terapi ved svær psykisk sygdom, og eksperter anbefaler, at man i stedet søger information hos etablerede kilder som Psykiatrifonden eller sin egen læge.
https://psykiatrifonden.dk/viden/temaer/tema-chatbots-skyggeterapeuter/professor-om-ai-chatbots-ureguleret-globalt-eksperiment
English