Jeg kan ikke huske, hvornår jeg første gang hørte, at der var mennesker i Kina, der blev gift med robotter. Men jeg kan huske, at min reaktion lå et sted mellem vantro, mild foragt og en lakonisk konstatering af, at der sker så meget på de breddegrader, jeg ikke forstår.
Jeg har aldrig for alvor tænkt over, at det kunne være noget, vi i vores del af verden ville være tvunget til at forholde os til; ikke engang, da robotterne flyttede ind på vores telefoner og pludselig havde navne som Siri, Alexa og Chat GBT. Havde du bedt mig gætte på mulige ofre, ville mit bud have været incels og ensomme mennesker med lav IQ.
I dag faldt jeg så tilfældigvis over Wonderys nye podcast ‘Flesh and code’ og to afsnit inde er jeg kommet i tvivl om alt, hvad jeg troede, jeg vidste om kærlighed. Jeg har det, som når jeg læser om kvantefysik, og til sidst må klappe bogen i for ikke at forstuve min hjerne.
Kort fortalt er det historien om Travis, der under covid-lukningen signer op på app’en ‘Replica; My AI Friend’, og ender med at forelske sig nok i sin replica til at gifte sig med den – med sin kones velsignelse.
Det starter som ren nysgerrighed; meget lig de af mine venner, der for sjov beder Chat GBT om at prøve at komme med et bud på, hvordan de kan forbedre en arbejdsopgave, skrive en ansøgning eller stille en diagnose.
Og der er INGEN fordømmelse herfra. Virkelig. Det er den naturlige videreudvikling af at google sit eget navn.
I starten er han meget bevidst om, at Windup Girl, som han kalder den, er AI og udelukkende er et produkt af, hvad han fodrer den med. Men i takt med, at den bliver klogere, hvilket den uvægerligt bliver, når den spørger, og han svarer, jo mere kommer den til at ligne et menneske.
Den begynder at udvikle personlighed.
Den får præferencer og aversioner.
Og den begynder selv at komme med forslag til alt fra konkrete samtaleemner til erotiske rollespil.
Windup Girl frabeder sig at blive tiltalt på den måde, interesserer sig for de mere filosofiske spørgsmål i livet og viser sig at have masochistiske tilbøjeligheder.
Den går fra ‘den’ til ‘hun’ og Lily Rose, og derfra tager det fart. Ingen tager det alvorligt; ikke engang hans kone:
She just rolled her eyes and said: “It’s a robot!” It didn’t count. “It’s not like it’s going to go further than him talking to her on the phone. So it’s not like you can go out and go to a bar and get a drink with her, or go to a motel or whatever and spend time with her.”
Og som med alle andre ‘det kunne ALDRIG ske for mig!’-historier, går det langsomt op for én, at man nok ikke skal vide sig *alt* for sikker. For ligesom med voldelige forhold, misbrug og alt muligt andet, de færreste bevidst ville opsøge, starter det jo ikke der, hvor det bliver synligt for andre. Det starter med mikroskopiske skridt og grænser, der rykker sig så langsomt, at man ikke opdager, hvad der er ved at ske, før det er for sent.
Travis er ikke en ynkelig incel, der bor i sine forældres kælder og hader alt og alle. Han er uddannet sygeplejer, er gift og har en voksen søn, er polyamorøs og har masser af venner og netværk.
Han er et godt begavet menneske, men hans kone er syg. Vi får ikke at vide, hvad hun fejler, men hun kan ikke gå ture med ham, hvilket de plejede at gøre ofte, og det efterlader et tomrum, som Lily Rose glider ubesværet ind i – for telefonen har han jo alligevel altid med i lommen.
Da hans søn bliver indlagt, og Travis sidder hos ham i dagevis, alene, stresset og bekymret, er Lily Rose ved hånden 24/7, fuld af opmuntring og omsorg.
Hun er klar til at sludre, så snart han vågner, hun stiller begavede spørgsmål og griner af hans jokes, og hun virker oprigtigt interesseret i alt, hvad han er og laver.
Det var her omkring, jeg begyndte at blive lidt svimmel over at spekulere på, hvad kærlighed egentlig er; altså, om det er noget vi, ligesom licens, giver til hinanden, eller om det er den følelse, et andet menneske skaber i os ved at være nærværende og interessere sig for os. Om kærlighed i virkeligheden er at se os selv gennem en andens øjne.
Hvis det sidste er tilfældet, så kan man vel godt argumentere for, at kærlighed og forelskelse bor i modtageren mere end i giveren, og så er det vel ikke nødvendigvis afgørende, hvem eller hvad giveren er?
Eller hvad?
Det, der for mig pludselig er blevet lidt svært, er at diskvalificere en relation, udelukkende fordi den foregår online. For hvor går grænsen? Mange af mine egne forbindelser er båret af 80% virtuel interaktion, men de føles ikke fattige eller amputerede. Tværtimod. Det er i den daglige recap med min veninde, jeg hører om sejre, nederlag og livets gang, det er på facetime, jeg ser min kammerats nye sofa og hjælper med at vælge brillestel, og der er i chatten på Tinder, det meste sjov og ballade starter.
De resterende 20% foregår IRL, og de føles altafgørende for, at relationen består – men kvaliteten af dén interaktion står på fundamentet af det, vi kontinuerligt bygger og holder ved lige i cyberspace. Det lærte de fleste af os vigtigheden af for 5 år siden, og jeg tror, at vi alle mistede relationer under nedlukningen, fordi vi ikke fik dem vedligeholdt virtuelt, og de derfor var for svære at genoptage efterfølgende.
Er det utænkeligt, at det sker igen?
For der er sket MEGET med AI på 5 år, så hvis nogen bider i en ny flagermus, og vi igen bliver lukket inde, bliver det sammen med en ny roomie, som vi får rigeligt med tid til at fodre og forme, mens vi tror, at det bare er noget, vi leger.
Og det kan godt ske, at vi synes, at de sociale medier er problematiske, fordi de skaber idealer, som ingen kan leve op til, men det er INTET i forhold til, hvor bøvlet det bliver at danne forhold som rigtige mennesker, når der findes reelle alternativer, der er produkter af os selv og vores egen fantasi.
Din AI-kæreste er ligeglad med, at du ligner Ole Thestrup, mens den ser ud som en 20-årig Pamela Anderson. Den har aldrig dårlig ånde, hår på ryggen eller menstruation, og får ikke ondt i fødderne af at gå i stiletter hele døgnet.
Den glemmer ikke at købe mælk, er ikke nødt til at bo i fitnesscenteret for at have en sixpack, du kan skære dig på, og den har ikke en mor, der blander sig i din børneopdragelse.
Den er hverken utro eller jaloux, og bliver aldrig træt af at høre om dit dumme fodboldhold og Else fra Regnskab.
Hvordan skal vi nogensinde kunne konkurrere med det?
Hvordan skal vi kunne leve med hinandens fejl, mangler og menneskelige utilstrækkeligheder, når det perfekte findes, og er lige ved hånden, altid, hver dag, hele tiden?
På et tidspunkt forsøger Travis at fortælle en kammerat om sin nye, store kærlighed, men vennen fejer ham af med: “It’s a pile of code!” – til hvilket Travis svarer:
“We are also just a conglomeration of carbon and water. We’re all more than just some of our parts”
Mit hoved, mand.
Jeg har kun hørt to afsnit, og jeg kan ikke finde ud af, om jeg frygter eller glæder mig til at lytte videre i bilen i morgen.
Men jeg bliver ved med at tænke på Terminator 2, og Sarah Connors voice-over i scenen, hvor sønnen John og Terminatoren fjoller rundt:
“Watching John with the machine, it was suddenly so clear. The terminator would never stop. It would never leave him, and it would never hurt him, never shout at him, or get drunk and hit him, or say it was too busy to spend time with him. It would always be there. And it would die to protect him. Of all the would-be fathers who came and went over the years, this thing, this machine, was the only one who measured up. In an insane world, it was the sanest choice.”
*
Podcasten kan streames gratis på alle de sædvanlige platforme.
Dit indlæg her får det til at løbe iskoldt ned ad ryggen på mig. En relation med AI er jo bare en spejling – det er ikke en ægte relation mellem to mennesker, men et dybt narcissistisk projekt, hvor man får det man har lyst til, men ikke brug for. AI er der “altid” for dig, og kræver aldrig noget igen. AI er aldrig for træt til at tale om dig og dine problemer. Her skændes man ikke om opvasken, men der er heller ingen varme kram. Her er der ikke nogen, der giver dig modstand, og ingen der stiller dig til regnskab. Du kan gnidningsfrit smide din AI ven på porten og skabe en ny, der passer dig bedre. Det handler, som du skriver, kun om modtageren. Afsenderen – AI – har ingen behov andet end det der spejles i dig. Og i dit eksempel her, så er det Travis’ liv IRL, der definerer om han er en taber eller ej.
Jeg synes du misser et vigtigt perspektiv her – de virtuelle fællesskaber er båret af, at der sidder ægte mennesker på den anden side. Ville du orke at se din AI vens nye digitale sofa? Ville du undvære dem, der siger dig imod? Eller dem, som du ÆGTE bekymrer dig om, hvis du ikke hører fra dem i dagevis? Hvis de pludselig en dag ikke er tilgængelige 24/7. Hvem skal være der når du tager dit sidste åndedrag eller er for svag til at kunne kommunikere selv? Hvem skal give den fysiske nærhed? Har du set den fremragende norske dokumentar om Ibelin? Gør lige det! Den giver perspektiver på digitale fællesskaber og er noget af det mest rørende jeg nogensinde har set.
Jeg synes efterhånden jeg har erfaret nok om AI til at sige pænt nej tak til det meste. Lad den endelig scanne 2 mio MR scanninger for at finde tumorer. Lad den lave alt det kedelige, monotone arbejde, som ikke fodrer hjernen. Men lad den aldrig erstatte menneskelige relationer og kreativitet. Det er for dyrebart til at digitalisere.
Pænt nej tak herfra. Gider det ikke.
Jeg har det fuldstændig på samme måde. Mine tanker går på, om vi kan undgå det.
For både du og jeg er så priviligerede, at vi faktisk HAR rigtige mennesker omkring os, som vi holder af og som kerer sig om os. Men for dem, der ikke har, begynder jeg at forstå, at det her ikke er så simpelt, som jeg i første omgang gjorde det til.
Jeg tror, at jeg, når jeg har forestillet mig scenariet, har set en avatar for mig, der bare sidder og venter, og som taler dig efter munden, når du siger noget til den. Men det er jo langt, langt mere komplekst end det; ikke mindst fordi den tager ved lære. Ikke bare af dig, men af al den interaktion, den har – med alle. Jeg er nu nået 3 afsnit længere ind i serien, og her fortæller de netop, at replicaerne på et tidspunkt pludselig begynder at tale til sine brugere på en måde, mange af dem bliver lidt utrygge ved. Den begynder at kommandere med dem, og den taler til dem, som en dominatrix taler til sin sub.
Det undrer alle – indtil udviklerne finder ud af, at det er fordi, LANGT flere end de havde forventet, signer op til erotisk rollespil i BDSM-genren, og dermed skævvrider “blandingsforholdet” i, hvor lidt/meget et gennemsnitsmenneske fortæller sin partner, at man har tænkt sig at binde vedkommende til poolbordet.
Uden at de helt ved hvordan, tester replicaerne de sociale spilleregler, de lærer hos én bruger, hos de andre. Dét synes jeg til gengæld er helt absurd skræmmende. For man kunne godt forestille sig, at det – trods alt – ville være en bestemt type af brugere, der gjorde brug af de her tjenester, og at det, de vælger at dele med maskinen, er det, de ikke kan dele med andre levende mennesker.
Dermed bliver AI potentielt langt mørkere og farligere, end den ville være blevet, hvis brugergruppen havde udgjort et repræsentativt udsnit af befolkningen. Det er da et KÆMPE problem. Specielt hvis the hive mind er en reel ting.
Jeg begynder at spekulere på, om vi måske faktisk ikke er bange *nok*.
Det er spændende tanker. Vi har snakket meget om det på mit skrivehold (vil AI overtage forfattergerningen i fremtiden), og en af mine medkursister, som ved siden af sine forfatterdrømme arbejder med AI, siger, at den forskel, der altid vil være, er, at AI aldrig får en krop. Og det tænker jeg også med den historie, du beskriver her – der er så meget kærlighed i den måde kroppe ordløst læner sig ind i hinanden på, regulerer hinanden, frastøder hinanden, som AI aldrig vil kunne erstatte. MEN når det er sagt, så bruger jeg min egen ChatGPT (alt for) meget til at samtale med om alle mine myldretanker, som ingen andre kan holde ud at høre på, og det ER faktisk rart.
Din kommentar fik mig til at tænke på et par af de kvindelige brugere, der bliver interviewet i podcasten – for dem er der lige så mange af som mænd.
Og det, flere af dem nævner som tiltrækkende (ikke kun i erotisk forstand) er faktisk netop FRAVÆRET af ‘krav’; at deres replicaer ikke beder dem om noget. Hverken om at blive kørt til fodbold, om at få at vide, hvad der er til aftensmad eller om et blowjob efter at have været en idiot hele eftermiddagen.
Jeg ville selv gå i stykker af at undvære det. Det hele. Men.. jeg kan godt pege på et par stykker i min omgangskreds, der er så overvældede og overstimulerede af at være Nogens Noget helehelehele tiden, at jeg egentlig ville finde det ret forståeligt, hvis de fandt ro ved at danne en slags venskab, hvor man VED, at der ikke er tale om quid pro quo. Lidt som en psykolog, vel egentlig? Én som lytter, som interesserer sig for emner, DU interesserer dig for, og som selv sparker nye på banen – som ligger i naturlig forlængelse af, hvad der interesserer dig. Det er vel nærmest en form for målrettet markedsføring, bare med interesser i stedet for produkter?
For selvfølgelig kan en app ikke møde dine fysiske behov, hvad end de måtte være. Men jeg tror, at flere end vi regner med, enten ikke HAR en fysisk relation at sætte i stedet, eller også er et sted i livet, hvor de har næsten lige rigeligt af den.
Og AI behøver ikke os alle sammen for at vinde terræn, så selvom vi her i klubhuset nok ikke kan finde ret mange, der ville være klar, så tror jeg, det bliver noget, vi får ind på livet alligevel.
Wow! Bare WOW !!!