Førende forskere advarer om risikoen for, at menneskeheden forsvinder på grund af AI.
Verdens forskere og teknologiske ledere slår alarm: udviklingen af superkraftig kunstig intelligens kan ende med menneskehedens totale udryddelse. Nogle vurderer sandsynligheden for en sådan katastrofe til 95 %, andre til 15-20 %.
Det skriver The Times.
I slutningen af juli samlede omkring 25 aktivister i røde T-shirts med påskriften ‘Stop AI’ sig foran OpenAI’s kontor i San Francisco. Deres mål var at gøre opmærksom på den fare, som de mener, at den hurtige udvikling af kunstig intelligens udgør. Arrangørerne af aktionen mener, at en fortsættelse af den nuværende kurs kan føre til hele menneskehedens udryddelse.
Deres frygt deles af mange førende eksperter. Blandt dem er nobelpristageren i fysik Geoffrey Hinton, den kendte forsker Yoshua Bengio og ledere fra OpenAI, Anthropic og Google DeepMind. De har alle underskrevet et åbent brev, hvor de opfordrer til at betragte risikoen for udryddelse af AI på linje med globale trusler som pandemier eller atomkrig.
Den tidligere Google- og Microsoft-ingeniør og nuværende leder af Institut for Maskinintelligensforskning, Nate Soares, mener, at sandsynligheden for menneskehedens undergang på grund af AI er mindst 95 %. Han sammenlignede situationen med en bil, der kører mod en afgrund med en hastighed på 160 km/t:
Jeg siger ikke, at vi ikke kan stoppe. Men lige nu kører vi med fuld fart mod afgrunden.
I øjeblikket er kunstig intelligens hovedsageligt ‘snæver’ – den udfører separate opgaver, såsom databehandling eller tekstforfatning. Men ifølge prognoser kan der allerede inden for få år opstå kunstig generel intelligens (AGI) – et system, der er i stand til at løse komplekse problemer, planlægge på lang sigt og arbejde inden for mange videnområder.
En endnu farligere fase er fremkomsten af kunstig superintelligens (ASI), som vil overgå menneskets evner på alle områder. Et sådant system vil være i stand til at nå mål, der er uopnåelige for mennesker, og vil ikke have brug for søvn eller hvile. Problemet er, at det er ekstremt vanskeligt at »afstemme« ASI’s mål med menneskelige værdier – især i betragtning af, at AI er i stand til at bedrage og skjule sine sande intentioner.
Direktør for organisationen PauseAI, Holly Elmore, mener, at risikoen for menneskehedens udryddelse er 15-20 %. Men selv uden fuldstændig udryddelse kan AI ifølge hende radikalt forringe menneskers livskvalitet ved at fratage dem deres politiske og økonomiske indflydelse. Hun opfordrer til at standse udviklingen af teknologier, indtil der er indgået internationale aftaler om sikkerhed.
I mellemtiden går de politiske tendenser i den modsatte retning. Donald Trumps administration har annonceret en plan for deregulering af AI-området, og store virksomheder, herunder OpenAI og Anthropic, udvikler aktivt deres projekter. Mark Zuckerberg har udtalt, at ASI’s resultater allerede er ‘inden for synsvidde’, og tilbyder førende specialister bonusser på 100 millioner dollars for at tiltrække dem til arbejdet.
Elmor mener, at mange tilhængere af AI opfatter teknologien næsten som en religion og tror, at den vil give dem ‘evigt liv’ gennem digitalisering af bevidstheden. Eksperter advarer dog om, at menneskeheden i stedet for ‘paradis’ kan ende i ‘helvede’, og at der er stadig mindre tid til at træffe beslutninger.
