AI lyder overbevisende, selv når den siger noget vrøvl – og det er den største fare.
Chatbots har hurtigt infiltreret vores hverdag: Vi beder dem om at planlægge en ferie, vælge aftensmad ud fra maden i køleskabet eller finde ud af, hvorfor printeren ikke vil printe. Svarene dukker op på et sekund og lyder selvsikre og overbevisende – som om det ikke bare er en AI, men en personlig ekspert i et hvilket som helst spørgsmål.
Indtil du støder på et råd om at behandle ondt i halsen med limonade eller oplade din telefon i mikrobølgeovnen. Så bliver det klart, at glatte formuleringer kan skjule komplet nonsens.
Og alt sammen fordi neurale netværk opererer med en begrænset base af fakta, har tendens til at gætte på ikke-eksisterende detaljer og ikke ved noget om dine omstændigheder. I dagligdagen er prisen for en fejl lille, men på nogle områder er en bommert forbundet med reelle tab – penge, omdømme eller endda helbred.
Nedenfor er ni områder, hvor det er bedre at dobbelttjekke tre gange, før du stoler på kunstig intelligens.
1. Mental sundhed
Det virker som en no-brainer: Du åbner en chatbot og skriver noget i retning af “Jeg har ikke lyst til at stå op om morgenen, er det normalt?”. Et sekund senere ser du en detaljeret ‘redningsplan’ på skærmen: Boten råder dig til at gå flere ture, droppe koffein og helt sikkert ‘arbejde med dine holdninger’. Det lyder logisk og tillidsvækkende, indtil du beder om noget mere alvorligt: Algoritmen kan ikke skelne mellem langvarig depression og sæsonbetinget nedtrykthed og vil gerne klassificere angstlidelse som ‘stress efter en deadline’.
Problemet er, at robotten ikke har nogen diagnose, ingen kontekst og ingen forståelse for, hvad der foregår bag kulisserne. Den skelner ikke mellem forbigående nedtrykthed og klinisk depression, og den kan endda komme med ‘støtte’ i stil med ‘du skal bare tage dig sammen’. Og en undersøgelse fra Stanford University i juni viste, at fem populære ‘terapeutiske’ chatbots ofte opfordrer til farlig adfærd og udtrykker fordomme over for mennesker med psykiske problemer.
Så hvis der er alvorlige bekymringer, er det bedst at opsøge en rådgiver eller i det mindste ringe til en hotline. Når det gælder mental sundhed, er det ikke værd at eksperimentere.
2. Akutmedicin og diagnoser
Du føler et tryk i brystet om natten, og din første tanke er at spørge chatbotten: »Er det dit hjerte, eller har du bare spist for meget pizza?«. AI’en begynder straks at give råd, som ofte er beroligende: Tag et syreneutraliserende middel, få noget søvn og hold øje med symptomer.
Men ChatGPT kan både tage fejl og berolige for meget, hvilket en publikation fra University of Washington bekræfter. I forskernes test gav ChatGPT-4 forskellige estimater af risikoen for hjerteanfald i næsten halvdelen af tilfældene på trods af de samme symptomer. Variationen strakte sig fra ‘intet at bekymre sig om’ til ‘akut intensivbehandling’. Næppe en læge, der er værd at stole på.
Hvis symptomerne er akutte, skal du ringe til 103 eller tage på skadestuen. Og når en rigtig læge stiller en diagnose, kan chatbotten bruges til at dechifrere uforståelige medicinske termer.
3. Diæter og ernæring
Det er et spørgsmål om et par klik at oprette en uges måltider med ChatGPT. Den vælger venligt en ‘afbalanceret’ kost, giver opskrifter og tæller kalorier. Men problemet er, at alle tallene er taget ‘på øjemål’. Det påpeger forskerne udtrykkeligt i en publikation fra februar i det fagfællebedømte tidsskrift Nutrients. Ifølge deres resultater undervurderer ChatGPT-4 konsekvent portioner, protein og mikronæringsstoffer, især når maden på billedet ser ‘almindelig’ ud – for eksempel når der vises salater, pasta eller gryderetter.
Læg dertil, at der mangler oplysninger om dine laboratorieprøver, allergier og den medicin, du tager – og den anbefalede morgensmoothie er allerede i fare for at få jernmangel eller komme i konflikt med et antidepressivt middel.
Før du følger sådan en diæt, skal du i det mindste konsultere en ernæringsekspert – en gang, men grundigt. Ernæring er ikke et område, hvor du skal gætte dig frem. Robotten ser ikke din krop – den lader bare, som om den ved alt.
4. Juridisk rådgivning
Forestil dig: Du har fået en stævning, en bøde eller er ved at udarbejde en kontrakt – og det første, du gør, er at skrive til chatten: “Hvad skal jeg gøre, hvor skal jeg gå hen, hvilke rettigheder har jeg?”. Det neurale netværk svarer detaljeret, med henvisninger til love, en sikker tone og endda med færdige dokumentskabeloner. Det ser ud til, at du kan klare dig uden en advokat.
Men så begynder det mest interessante: Modellen kender ikke dit lands love til bunds, tager ikke højde for lokale nuancer og forveksler let begreber. Hun kan henvise til ophævede love, glide uden om udenlandske realiteter eller endda opfinde ikke-eksisterende artikler.
Hvis sagen er alvorlig – fra arv til en arbejdskonflikt – er det bedre at kontakte en advokat end en bot. Fejl i dokumenter kan på alle måder koste dyrt.
5. Finansiering og investering
Du vil gerne sætte dine penge i arbejde – så du spørger en AI-rådgiver, hvor du skal investere i 2025. Han kommer med gode råd – fra køb af meme-mønter til refinansiering af dit realkreditlån ’til en ussel rente’. Det ser alt sammen glimrende ud, indtil man graver dybere. I en test af Investing in the Web, hvor ChatGPT besvarede 100 rigtige spørgsmål om privatøkonomi, var 29 procent af svarene ufuldstændige eller misvisende, og yderligere seks procent var helt forkerte.
Og da forskere fra Edinburgh og Oxford testede AI-strategier på en 20-årig historie med aktiekurser, var resultaterne også svage. I perioder med markedsvækst tjente algoritmerne mindre end en typisk indeksfond, og i nedgangsperioder tabte de endnu mere, end hvis de blot havde beholdt aktierne og ikke dumpet dem.
Finansielle beslutninger kræver menneskelig ekspertise. Det er bedre at rådføre sig med en specialist eller i det mindste dobbelttjekke dataene på specialiserede ressourcer. Penge kan ikke lide forhastede beslutninger. Især ikke baseret på råd fra nogen, der ikke engang har et bankkort.
6. Ingeniør- og konstruktionsberegninger
Når du skal bestemme belastningen på pladen, vælge armering eller forstå, om væggen kan modstå kedlen, og der ikke er nogen at spørge – går mange af os til neuro-hjælperen, og han giver muntert formler, koefficienter og forklaringer. For en, der er langt fra byggeriet, ser det hele lige så plausibelt ud som råd fra en erfaren designer. Især når chatten også forsikrer, at “det vil passe med reserven”.
Men ikke alt er så glat i virkeligheden. Når alt kommer til alt, ser ChatGPT hverken dit hus, materialer, klima eller fejl i problemformuleringen. Algoritmen kan forveksle måleenheder, glemme sikkerhedsfaktorer og anvende forældede standarder. Og så siger den bare:
Undskyld, jeg begik en fejl, lad os prøve at bygge din terrasse igen.
Inden for byggeri og teknik er der ingen små ting. Alle beregninger skal udføres af specialiserede specialister.
7. Programmering og softwareudvikling
Hvis du skal rette en fejl, tilføje et script eller finde ud af, hvordan du forbinder et bibliotek, går du til en chatbot igen. Og den jonglerer med hele kodestykker som en erfaren udvikler. Den vil endda tilføje kommentarer, som om det var skrevet af et menneske. Det kompileres og ser ud til at virke. Sådan!
Men alt kan gemme sig under motorhjelmen: sårbarheder, forkert logik, ubekræftede afhængigheder. Modellen kender ikke alle detaljerne i dit projekt og miljøets begrænsninger. For en erfaren udvikler er kunstig intelligens en praktisk måde at automatisere rutineopgaver på. Men en nybegynder, der beslutter sig for at ‘lave en hjemmeside fra bunden med AI’, risikerer at bygge en skrøbelig ‘frankencode’, der vil falde sammen ved ethvert nys.
At stole blindt på ChatGPT i programmering er som at afskrive en andens algebra-lektier uden at se nærmere på dem. Der vil helt sikkert komme fejl, men senere.
8. Cybersikkerhed
Åbner webstedet ikke? Vil du tjekke, om e-mailen fra din bank er ægte? Eller ved du ikke, hvordan du skal beskytte dit wi-fi? Selvfølgelig vil chatbotten hjælpe og give gode råd: Skift din adgangskode, aktiver to-faktor-autorisation, lad være med at klikke på links. Alt ser ud til at være lige på kornet – som om du talte med en kyndig specialist i teknisk support.
Men djævlen ligger som altid i detaljerne. Neurale netværk bemærker måske ikke et phishing-underdomæne, ved ikke, at det ‘sikre’ websted har lækket data i et år, eller kan let råde til at deaktivere beskyttelsen for nemheds skyld. Nyt arbejde udført af japanske forskere har vist, at ChatGPT ikke skelner mellem reelle og fiktive sårbarheder. I 97 % af anmodningerne udsender den overbevisende, men fuldstændig opdigtede advarsler om »sårbarheder« med falske CVE-koder, dvs. den skræmmer dig med et problem, der ikke findes.
Så når det drejer sig om sikkerhed, er det bedre at stole på en specialist – ellers kan én fejl koste dig alle dine data.
9. Opdragelse af børn
Dit barn får et raserianfald, vil ikke lave sine lektier eller kræver den 10. tegnefilm i træk – så du kalder desperat på hjælp fra en chatbot. Svaret kommer hurtigt, AI’en henviser til ‘moderne tilgange’, tilbyder teknikker til positiv forstærkning og giver endda et eksempel på dialog. Du læser og tror: Her er han, en personlig digital pædagog, som skrev metoder sammen med Montessori.
Det er en farlig misforståelse. AI’en kender trods alt ikke din baby. Den kender ikke dit barns temperament eller dit familiemiljø. Tips kan være selvmodsigende, hentet fra forskellige kulturelle og aldersmæssige systemer. Og vigtigst af alt: Der findes ingen universalløsninger inden for børneopdragelse. Hvad der hjælper ét barn, vil hos et andet føre til protest eller tilbagetrækning.
I sådanne sager er det bedre at konsultere børnelæger, psykologer og lærere. Eller i det mindste til dokumenterede kilder som bøger og podcasts med ekspertmoderation. Og sørg for at tjekke rådene med din egen sunde fornuft og barnets reaktion.
