AI og kunsten at vedligeholde en race

Dette indlæg er blevet til på baggrund af et ønske fra en af jer – og det er LANGT. Jeg deler det en smule op undervejs, så det ikke bliver fuldstændig uoverskueligt, men AI er komplekst, og derfor kræver udforskningen af det lidt mere spalteplads, end vi ellers forkæler os selv med herinde.

For god ordens skyld vil jeg lige deklarere, at jeg ingen faglige forudsætninger har for at mene noget om det her – men altså. Det har jo aldrig rigtig stoppet mig før.

Jeg synes bare, at vi stille og roligt kaster os over det, og prøver at udforske emnet i fællesskab. Skulle jeg få skrevet noget, der er decideret forkert, må man meget gerne gøre mig opmærksom på det, så jeg ikke uforvarende kommer til at sprede misinformation.

For at starte med konklusionen, tror jeg, at vi er forbi det punkt, hvor vi kan rulle udviklingen tilbage: Kunstig intelligens er en kendsgerning, og den forsvinder ikke, uanset hvad vi måtte mene om den.

Men allerede her vil jeg også gerne første gang appellere til, at vi begynder at bidrage til at forme udviklingen ved at sætte os lidt ind i, hvad AI egentlig er og kan, i stedet for bare at “være imod AI”, som jeg har hørt flere sige.

Jeg tror, at AI er vor tids internet, forstået på den måde, at det er ligeså gennemgribende forandrende for verden og måden, vi opfatter den på, som internettet var, da det for alvor blev udrullet i slut-80’erne.

Der er et før og et efter, og det bliver vi nødt til at forholde os til.

For at være “imod AI” svarer til at være imod internettet; det er for bredt til overhovedet at give mening. Hvis man lige har et fedt øjeblik over, hvor analog man er, kan man bare prøve at mindes sidst, nettet gik ned. I den situation bliver det for de fleste af os klart, at selvom vi måske ikke FØLER, at vi er ret meget på nettet, så bruger vi det faktisk til stort set alt.

Det er ikke kun selvforskyldt; det handler også om, at alt omkring os er bundet op på virtuelle løsninger, lige fra bestilling af nye skraldeposer over svar på de seneste blodprøver til kontakten til barnets klasselærer.

Cyberangreb og hybride trusler er en del af den nye virkelighed, og derfor er vi nu begyndt at forholde os til, om det måske ville være smart at lave en kombinationsløsning, hvor alt ikke bryder sammen, hvis nogen har held med at finde hovedafbryderen – men selv ikke i de mest dystopiske fremtidsscenarier, tror jeg, at nogen af os reelt forestiller os, at vi ender med at slukke for internettet for good.

At vi er ved at lære det, samtidig med, at AI for alvor får fat, er nok i virkeligheden meget godt. Hvis AI var blevet rullet ud for 10 år siden, er jeg ret sikker på, at vi ikke havde forholdt os til de trusler, det kan medføre, på samme måde, som vi gør i dag.

Når alt det er sagt, så tror jeg, at vi som enkeltpersoner bidrager til problemet ved at undlade at sætte os ind i, hvad AI er.

Ikke, at jeg ikke forstår det. Det virker fuldstændig uoverskueligt at sætte sig ind i noget så komplekst, og det udvikler sig så hurtigt, at vores hjerner ikke kan nå at følge med.

Samtidig er der flere clicks i skrækhistorier om Onde Maskiner, end i beskrivelser af Lone fra Horsens, der har brugt ChatGPT til at alfabetisere sin liste over venner fra folkeskolen, og det tegner måske også et uforholdsmæssigt skævt billede af fordele kontra ulemper.

Men jeg tror, at vejen til en form for fornuftig integrering at tage sin del af ansvaret for at forstå, hvad det er, så vi – altså, du og jeg – kan være den forælder, medarbejder eller ven, der stiller de kritiske spørgsmål, som forhindrer det i at løbe løbsk.

Det er en tunet Ferrari, der står til fri afbenyttelse på p-pladsen, og den forsvinder ikke, fordi vi hader den. Tværtimod risikerer vi bare, at Mike, der har ‘No Regrets!’ og billeder af de børn, han aldrig ser, tatoveret på brystet, stikker af med nøglerne, og gør vejene usikre for os alle sammen.

*

Første skridt er at forsøge at forstå, hvad udtrykket AI egentlig dækker over – hvilket desværre er så bredt, at det er umuligt at koge ned til et enkelt indlæg.

Derfor vil jeg fokusere på opgavespecifik (smal) AI og generativ AI.

1.

Smal AI refererer til systemets bredde; altså, at det er designet til at udføre én/få opgaver. Det kan f.eks. være at anbefale køb/musik/serier, baseret på din historik, eller at genkende dit ansigt, når du skal låse din telefon op.

Det bruges i mange sammenhænge, som f.eks. til de chatbots, der på hjemmesider kan besvare de mest almindelige spørgsmål, og i telefonen kan stille os videre, og det kan vha. mønstergenkendelse lave simple analyser af f.eks. røntgen- og scanningsbilleder.

Smal AI er hurtig og præcis, men kan kun dét, den er designet til at gøre. Du kan altså ikke bruge ‘You might also like’-assistenten i iTunes til at skrive en ansøgning, og de fleste af os har også oplevet chatbots, der melde pas, så snart vi spørger dem om noget, der er bare en lille smule skævt.

I langt de fleste tilfælde bruger man maskinlæring til at træne smal AI, hvilket betyder, at man fodrer den med massive mængder af data, så den over tid har tilgængelig information nok til at kunne at genkende mønstre.

I starten skal den have at vide, at ‘det her er et ansigt, og det her er et ansigt og det her er et ansigt’, men jo flere ansigter, den udsættes for, jo flere punkter i et billede har den til at afkode, at en given form er et ansigt.

Derudover ‘underviser’ man den også ved manuelt at be- eller afkræfte billeder, den er i tvivl om, og på den måde bliver den hele tiden bedre. Det er faktisk det, vi alle sammen bidrager til, når vi bliver bedt om at bekræfte, at vi ikke er robotter, og skal klikke på de firkanter, der viser lyssignaler/busser/osv.: Her træner vi simpelthen Googles AI, så den bliver bedre til at genkende mønstre og objekter. Den bruger somme tider billeder, hvor den allerede kender svaret, men den bruger også de billeder, den er i tvivl om: Når tusindvis af mennesker så alle sammen klikker på de samme firkanter i et billede, lærer maskinen, at en given form på et grynet billede, er et fodgængerfelt.

*

Fordelene ved smal AI er nemme at få øje på: Den er effektiv, fordi den kan sortere uhyrlige mængder af data lynhurtigt, hvilket betyder, at man f.eks. langt hurtigere vil opdage mønstre i noget, der ellers ikke ser ud til at hænge sammen.

Den laver ikke sjuskefejl, fordi den er træt, den har ikke brug for frokostpauser eller barsel, og den er aldrig syg. Den kan køre hele døgnet, skal ikke have fri mellem jul og nytår, og den er ligeglad med, at arbejdet er monotont.

Det betyder, at du i dag har større chancer for at få den rigtige hjælp, hvis du lider af en sjælden genfejl, og tilfældigvis er bosat i Lemvig. Fordi der i sparsomt befolkede områder vil været meget, meget få tilfælde af sjældne sygdomme, er risikoen for fejldiagnosticering, stor, for lægerne kan af gode grunde ikke have erfaring med noget, de aldrig støder på. I dag kan de, takket være AI, læne sig op ad bunkevis af data, indsamlet over hele verden.

Hvis man skal være lidt aktuel, kan smal AI kan også øge den nationale sikkerhed, fordi man med den kan overvåge den virtuelle infrastruktur langt mere effektivt, og dermed hurtigt kan reagere, hvis man f.eks. kan se, at 3 lokale vandværker, 3 forskellige steder i Danmark, pludselig sætter ud samtidigt.

Endelig nævnes det også ofte som en fordel, at smal AI kan varetage de rutineprægede opgaver, så menneskelige ressourcer kan frigøres til komplekse opgaver, men det tror jeg mest er i teorien. I praksis ser det ud til, at virksomheder rundt omkring er meget hurtige til at reducere medarbejderstaben, når de har implementeret AI, og så har man jo bare udskiftet menneskelig arbejdskraft med robotter.

Ulemperne er ligeså indlysende: Det koster arbejdspladser, og det kommer til at koste mange flere.

På den helt lange bane er det muligt, at vi får samfundet indrettet, så alle skal arbejde mindre, hvilket jo sådan set ville være meget fint. Men for nu er hele faggrupper på vej ud af arbejdsmarkedet, og ingen ved vist helt, hvor det giver mening at sluse dem hen.

Derudover er den manglende transparens et problem; altså, at man ikke kan se, HVORFOR AI er kommet frem til en bestemt løsning. Jeg tænker, at vi alle har prøvet at Netflix anbefaler et eller andet HELT vanvittigt, hvor man spekulerer på, hvad i alverden, der har ledt den frem til, at dét var et muligt match. Det er umuligt at finde ud af, og så længe vi ikke kan komme ind i dén del af maskinen, vil der altid være en del af det her værktøj, vi bruger uden at have forstået, hvordan det fungerer.

2.

Generativ AI kan, som navnet antyder, skabe (generere) nyt indhold, f.eks. billeder, musik og tekst, baseret på mønstre, den har lært at genkende ved at tygge sig igennem helt enorme mængder data; f.eks. hele internettet.

Det mest kendte eksempel på generativ AI, er nok ChatGPT – og så måske den opsummering af søgeresultater, der i dag altid står øverst på siden, når vi laver en googlesøgning.

Generativ AI kan sagtens være designet til at løse én specifik opgave; altså være både smal og generativ, men hvor ikke-generativ AI analyserer og klassificerer allerede eksisterende data, så bruger generativ AI eksisterende data til at producere nye data – dog med den vigtige detalje, at den, i hvert fald i sin nuværende form, skaber indhold, som tager udgangspunkt i det materiale, den er fodret med.

Det betyder, at den, hvis du beder den om at designe en bil med optimalt reduceret vindmodstand, stadig vil spytte en beholder på 4 hjul ud til dig, fordi den tager udgangspunkt i data, som bygger på vores eksisterende definition af begrebet ‘bil’.

*

Generativ AI øger ikke tempoet ift. automatisering og løsning af rutineopgaver, men også kan generere nye løsninger og muligheder på rekordtid.

Den kan bruges til reel sparring, hvor man f.eks. kan bede den om at komme med forslag til forbedring af en ansøgning eller med input til illustrationer af en artikel.

Endelig kan den være en hjælp ift. at skabe mere lighed mellem store og små aktører, altså, at Mogens fra Skive, som er ordblind, kan formulere en klage over Familieretshusets afgørelse, som i tone og lixtal ligner det, Familieretshuset sender til ham.

Et langt stykke hen ad vejen synes jeg faktisk, at fordelene ved generativ og ikke-generativ AI ligner hinanden.

Men ulemperne er, set med mine øjne, lidt mere alvorlige ved generativ AI end ved ikke-generativ AI.

A.

Dels kan den hallucinere, hvilket betyder, at den giver overbevisende, men forkerte svar, hvilket bl.a. kan skyldes, at den drager fejlslutninger ud fra de data, den har til rådighed.

Det så jeg selv et eksempel på for nogle måneder siden, hvor jeg skulle bruge en Tro & Love erklæring fra Esbjerg Kommunes Jobcenter, og bare googlede ‘tegnsprogstolk Jobcenter Esbjerg’, fordi jeg ikke kunne huske, hvor på hjemmesiden den lå. AI resultatet, som lå øverst på Google, var en anvisning til, hvordan man blev ansat som tegnsprogstolk ved Jobcenter Esbjerg – og det kan man ikke.

Men der var INTET i teksten, der så mærkeligt ud, og havde jeg ikke selv været tegnsprogstolk, ville jeg have godtaget forklaringen uden at blinke med øjnene.

B.

Så er der hele problematikken omkring deep fakes, som er videoer, billeder eller tekster, som er kunstigt skabte, men som ser virkelige ud.

Noget af det er så godt lavet, at det er umuligt for det menneskelige øje at se forskel, og problemet er, at de programmer, der udvikler deep fakes, i dag bruger programmerne, der er lavet for at afsløre deep fakes, som træningsbaner. Taylor Swifts nøgenbilleder er det eksempel, der typisk nævnes, men i dag bruges redskabet også i høj grad politisk – af begge fløje – for at miskreditere modparten.

Jeg har set flere hundrede videoer fra Minneapolis, hvor jeg var oprigtigt i tvivl om, hvad der var AI, og hvad der var ægte.

Samtidig tænker jeg, at det er et spørgsmål om tid, før nogle af de mennesker, der er nævnt i Epstein-filerne får den ide, at man kan bruge Deep Fake som forsvarsstrategi ved at påstå, at billede eller videomateriale er AI-genereret. Jeg ved ikke, hvem man skulle bede om at faktatjekke det?

C.

Endelig er der problemet omkring ophavsrettigheder, som er svært at undgå, og nok desværre også svært at gøre ret meget ved. For når en ny løsning bygger på allerede tilgængeligt materiale, så vil nogle af de forslag, AI kommer op med, læne sig op af designs, som allerede eksisterer, og dermed er udtænkt og produceret af rigtige mennesker, der gerne vil leve af det, de laver.

Men når man ser, hvor svært det allerede er for en designer at vinde en sag mod et fast-fashion-brand, der kopierer et par bukser og får dem syet til en tiendedel af prisen i Kina, er det svært at se, hvordan man i fremtiden skal håndtere det her på en ordentlig måde. For hvem trækker man i retten? I de sager, der et begyndt at køre i udlandet, hvor unge mennesker har taget deres eget liv, og forældrene nu trækker nogle af de store platforme i retten, kan man gå efter manglende flagging, og dermed manglende hjælp eller indgriben, men der er ingen, der kan sidde og overvåge, hvilke billeder af vaser, AI bruger til at generere et nyt design, som sættes i produktion – så hvem skal man straffe?

D.

Et af de allerstørste problemer ved både generativ og ikke-generativ AI er dog, at deres udgangspunkt er en verden, der er fuld af fejl og fordomme og bias – og det reproducerer de.

Et meget konkret eksempel er sagen mod Robert Williams, som i 2020 blev anholdt foran sit hjem i Detroit uden den fjerneste anelse om, hvad han var mistænkt for at have gjort.

Lang historie kort blev han anholdt for et røveri, som det senere viste sig, at han ikke havde begået.

Grunden til, at han blev anholdt var, at at politiet i Detroit i 2018 begyndte at bruge ansigtsgenkendelse til at sammenholde billeder fra overvågningskameraer med billeder i kørekorts-databasen. Her havde AI vurderet, at Robert Williams var en mulig gerningsmand til røveriet.

Robert Williams er sort. Og det har betydning, for ansigtsgenkendelsessystemer bliver trænet på datasæt, som er trukket fra internettet og sociale medier. Men fordi hvide mennesker er overrepræsenterede på nettet, og dermed også i de repræsentative datasæt, man trækker ud, så får systemet færre data at arbejde med, når det skal udpege en mulig gerningsmand ved at analysere afstanden mellem øjnene, næsens bredde osv. osv.

Derudover er billeder af sorte mennesker på nettet ofte af dårligere kvalitet end billeder af hvide, fordi kameraindstillingerne i mange smartphones er sat op til lyse/hvide hudtoner, og dermed ikke fanger nuancer i hudtoner med mere pigment.

Derfor havde politiets AI udpeget Robert Williams som gerningsmand; ganske enkelt fordi ansigtsgenkendelse 1:1 bygger på data, som stadig i dag er forfordeler minoriteter og har en slagside af racisme og misogyni.

Garbage in, garbage out er ikke som sådan noget nyt, men det bliver yderst problematisk her, fordi vi bruger et værktøj, som er meget, meget overbevisende, men som 85% af os ikke forstår godt nok til at kunne fejlkorrigere, og som hele tiden er to skridt foran.

E.

Som om alt det ikke var nok, belaster AI også miljøet ret voldsomt.

Dels koster det enorme mængder af elektricitet at holde de fysiske faciliteter kørende, og dertil kommer vandforbruget til at afkøle både datacentrene og køletårnene på de kraftværker, der skal levere elektriciteten til dem.

*

Ovenstående er nogle af de relativt konkrete fordele og ulemper ved AI, men derudover rejser kunstig intelligens også en nærmest uendelig række af etiske dilemmaer, som ingen kan nå at forholde sig til, før de er forældede og nye kommer til.

Hvor langt ind i privatsfæren ønsker vi eksempelvis at tillade overvågning?

Er der forskel på, om det er virksomheder eller myndigheder, der gør det?

Helliger målet midlet?

For AI er tilgængeligt for alle, og dermed er der ikke som sådan begrænsning på, hvad det kan bruges til.

Jeg kunne f.eks. sagtens forestille mig et smartwatch, der kom med software, som gjorde det muligt for udviklerne at høste bio-data om dig – og med terms and conditions, der gav dem ret til at udveksle disse med 3. mand. Du kan ikke bruge uret uden software, og det meste software styres i dag gennem apps – men hvis du accepterer ‘vilkår for brug’ af app’en, og dermed siger ja til, at udviklerne må indsamle og udveksle den form for data, er der intet til hinder for, at det kan logges, hvordan du reagerer på det, du ser og læser på din telefon. Hvis din puls stiger, når du læser en artikel om klimaforandringer, kan man skræddersy algoritmen, så du i dit feed får reklamer for terapeuter med speciale i angst, hvor de ting, din puls reagerer på, er fremhævet.

Er det godt eller skidt? Tja. Man kan anlægge begge synsvinkler. At sælge dig et produkt til et behov, du ikke selv har identificeret, er da etisk lidt uldent. Specielt, når det er handler om mental sundhed.

Men hvis terapien kan hjælpe dig –  er det så godt alligevel?

Jeg ved det ikke.

Men jeg ved, at AI er kommet for at blive, og at vi lige nu, i realtid, er ved at lære, at det ikke er en garanti for etik og ordentlighed, at man bestrider et offentligt embede. Så længe politikere og partier er filtret ind i store spillere med specifikke, økonomiske interesser, er det nok en god ide at antage, at meget af det, vi foretager os på nettet, bliver logget og analyseret med helt specifikke mål og interesser for øje.

Hvis noget er gratis, er du produktet, og lige nu synes jeg, at det er svært at vurdere, hvem der forsøger at manipulere os, og hvem der oprigtigt prøver at varetage vores interesser.

Det er problematisk, når vi står overfor de store forandringer og uendelige muligheder, som AI synes at komme med.

Men frygt er ikke i sig selv et argument imod udvikling, og AI har potentiale til at redefinere verden, som vi kender den, og være nøglen til at løse problemer, vi ikke selv evner at knuse.

Den stiller enorme krav til vores sunde fornuft og evne til fortsat at forholde os kritisk til det, vi præsenteres for, men de dyder og egenskaber tror jeg sådan set godt, vi kan bevare.

Det er bare helt vanvittig vigtigt, at vi ikke har hele segmenter, der misser muligheden for at påvirke, hvilken retning udviklingen skal tage, ved i afmagt at melde sig ud, og dermed vige pladsen for mennesker med en dagsorden, og en maskine, der taler dem efter munden.

*

Hvis man gerne vil dykke lidt mere ned i emnet, uden at det bliver alt for teknisk, kommer her lige et par anbefalinger af gode podcasts at gå hjem på:

Flesh & Code

DR – Prompt

The Guardian – Black box

Long Shadow: Breaking the internet