#simpleai Maskinlæringssystemer er problematiske

En af de mest nyttige tekster for alle, der dækker teknologiindustrien, er George Orwells berømte essay, Politik og det engelske sprog. Orwells fokus i essayet var på den politiske brug af sprog til, som han udtrykte det, “at få løgne til at lyde sandfærdige og mord respektable og at give et skær af soliditet til ren vind.” Men analysen kan også anvendes på de måder, hvorpå nutidige virksomheder bøjer sproget for at aflede opmærksomheden fra de beskidte realiteter i det, de laver.

Teknologibranchen har været særligt dygtig til denne type sprogteknologi. “Del” er for eksempel at klikke på et link for at efterlade et dataspor, der kan bruges til at forfine den profil, virksomheden har om dig. Du giver dit “samtykke” til et ensidigt forslag: accepter disse vilkår og betingelser eller gå tabt. Indholdet er “modereret”, ikke censureret. Annoncører “når ud” til dig med uønskede beskeder. Medarbejdere, der afskediges, “slippes”. Defekte produkter “tilbagekaldes”. Og så videre.

I øjeblikket er den mest skadelige eufemismen i ordbogen af dobbelttalende AI, som i løbet af de sidste to eller tre år er blevet allestedsnærværende. Oprindelse, det er en forkortelse for kunstig intelligens, defineret af OED som “computeres eller andre maskiners kapacitet til at udvise eller simulere intelligent adfærd; det fagområde, der vedrører dette”. Et Ngram-værktøj (som viser mønstre for ordbrug) afslører, at AI og kunstig intelligens indtil 1960’erne var mere eller mindre synonyme, men at de efterfølgende adskiller sig, og nu trives AI i teknologibranchen, massemedierne og den akademiske verden.

Hvorfor kan det være tilfældet? Dovenskab har uden tvivl noget at gøre med det; Når alt kommer til alt er to bogstaver typografisk lettere end 22. Men det er en rationalisering, ikke en forklaring. Hvis du ser på det gennem en orwellsk linse, skal du spørge: hvad gør denne sproglige kompression for arbejde? Og for hvem? Og det er her, tingene bliver interessante.


Men her er sagen: branchen er nu afhængig af en teknologi, der har store tekniske og samfundsmæssige ulemper


Som emne og begreb er intelligens uendeligt fascinerende for os mennesker. Vi har skændtes om det i århundreder – hvad det er, hvordan man måler det, hvem der har det (og hvem der ikke har) og så videre. Og lige siden Alan Turing foreslog, at maskiner kunne tænke, er interessen for kunstig intelligens vokset og er nu i feber med spekulationer om udsigterne til superintelligente maskiner – undertiden kendt som AGI (for kunstig generel intelligens).

Alt dette er interessant, men har lidt at gøre med, hvad teknologiindustrien kalder AI, som er navnet på maskinlæring, en hyggelig og kulstofintensiv teknologi, der undertiden er god til at løse komplekse, men meget veldefinerede problemer. For eksempel kan maskinlæringssystemer spille Go verdensklasse, forudsige, hvordan proteinmolekyler vil foldes, og foretage højhastigheds nethindescanningsanalyse for at identificere tilfælde, der kræver yderligere undersøgelse af en menneskelig specialist.

Alt godt, men grunden til, at teknologiindustrien er besat af teknologi, er fordi det giver det mulighed for at bygge maskiner, der lærer af internetbrugernes adfærd for at forudsige, hvad de kan gøre næste gang, og især hvad de er tilbøjelige til at kunne lide, værdsætte og måske vil købe. Derfor praler teknologiledere med at have “AI overalt” i deres produkter og tjenester. Og det er derfor, at når Mark Zuckerberg og co. bliver angrebet for deres manglende evne til at holde giftigt indhold fra deres platforme, svarer de altid, at AI snart vil løse problemet.

Men her er sagen: branchen er nu afhængig af en teknologi, der har store teknologiske og samfundsmæssige ulemper. CO2-udledningen fra træning af store maskinlæringssystemer er for eksempel enorm. De er for skrøbelige og fejlbehæftede til, at man kan stole på dem i sikkerhedskritiske applikationer, f.eks. selvkørende køretøjer. De inkorporerer racistiske, kønsmæssige og etniske fordomme (delvis fordi de har absorberet de fordomme, der er implicit i de opgaver, de blev uddannet på). Og de er uigenkaldeligt uigennemsigtige – i den forstand, at selv deres skabere ofte ikke kan forklare, hvordan deres maskiner når frem til klassifikationer eller forudsigelser – og opfylder derfor ikke demokratiske ansvarlighedskrav. Og det er bare til at begynde med.

Så hvordan håndterer branchen den grimme virkelighed, at den satser ranchen på en stærk, men problematisk teknologi? Svar: ved at undgå at kalde det dets rigtige navn og i stedet pakke det ind i et navn, der antyder, at det på en eller anden måde er en del af et større, større romantisk projekt – forfølgelsen af kunstig intelligens. Som Orwell måske udtrykker det, er det branchens måde at give “en antydning af soliditet til ren vind”, mens man fortsætter med den virkelige forretning med at tjene formuer.


Posted

in

,

by

Tags:

Comments

Skriv et svar

Din e-mailadresse vil ikke blive publiceret. Krævede felter er markeret med *