#simpleai Maskininlärningssystem är problematiska

En av de mest användbara texterna för alla som täcker teknikindustrin är George Orwells berömda essä, Politik och det engelska språket. Orwells fokus i essän låg på politisk användning av språket för att, som han uttryckte det, ”få lögner att låta sanningsenliga och mörda respektabla och för att ge en sken av soliditet åt ren vind”. Men analysen kan också tillämpas på de sätt på vilka samtida företag böjer språket för att distrahera uppmärksamheten från de smutsiga verkligheterna i vad de håller på med.

Den tekniska industrin har varit särskilt skicklig på denna typ av språkteknik. ”Dela” är till exempel att klicka på en länk för att lämna ett dataspår som kan användas för att förfina profilen företaget har om dig. Du ger ditt ”samtycke” till ett ensidigt förslag: acceptera dessa villkor eller gå vilse. Innehållet är ”modererat”, inte censurerat. Annonsörer ”når ut” till dig med oönskade meddelanden. Anställda som blir uppsagda ”släpps taget”. Defekta produkter ”återkallas”. Och så vidare.

För tillfället är den mest skadliga eufemismen i ordboken för dubbeltalande AI, som under de senaste två eller tre åren har blivit allestädes närvarande. Ursprunget är det en förkortning för artificiell intelligens, definierad av OED som ”kapaciteten hos datorer eller andra maskiner att uppvisa eller simulera intelligent beteende; det studieområde som rör detta”. Ett Ngram-verktyg (som visar mönster för ordanvändning) avslöjar att fram till 1960-talet var AI och artificiell intelligens mer eller mindre synonyma, men att de därefter skiljde sig åt och nu frodas AI inom teknikindustrin, massmedia och akademin.

Varför kan det nu vara så? Utan tvekan har lättja något med saken att göra; två bokstäver är ju typografiskt lättare än 22. Men det är en rationalisering, inte en förklaring. Om du tittar på det genom en orwellsk lins måste du fråga: vad gör den här språkliga komprimeringen för arbete? Och för vem? Och det är där saker och ting blir intressanta.


But here’s the thing: the industry is now addicted to a technology that has major technical and societal downsides


Som ämne och koncept är intelligens oändligt fascinerande för oss människor. Vi har bråkat om det i århundraden – vad det är, hur man mäter det, vem som har det (och vem som inte har det) och så vidare. Och ända sedan Alan Turing föreslog att maskiner skulle kunna tänka, har intresset för artificiell intelligens vuxit och är nu i feber med spekulationer om utsikterna för superintelligenta maskiner – ibland känd som AGI (för artificiell allmän intelligens).

Allt detta är intressant men har lite att göra med vad teknikindustrin kallar AI, vilket är dess namn för maskininlärning, en mysig och kolintensiv teknik som ibland är bra på att lösa komplexa men mycket väldefinierade problem. Till exempel kan maskininlärningssystem spela Go i världsklass, förutsäga hur proteinmolekyler kommer att vikas och göra höghastighetsanalyser av näthinneskanningar för att identifiera fall som kräver ytterligare undersökning av en mänsklig specialist.

Allt bra, men anledningen till att teknikindustrin är besatt av tekniken är att den gör det möjligt för den att bygga maskiner som lär sig av internetanvändarnas beteende för att förutsäga vad de kan göra härnäst och i synnerhet vad de är benägna att gilla, värde och kanske vill köpa. Det är därför teknikchefer skryter om att ha ”AI överallt” i sina produkter och tjänster. Och det är därför närhelst Mark Zuckerberg och co attackeras för sin oförmåga att hålla giftigt innehåll från sina plattformar, svarar de undantagslöst att AI kommer att lösa problemet snart nu.

Men här är grejen: branschen är nu beroende av en teknik som har stora tekniska och samhälleliga baksidor. CO2-utsläppen från att träna stora maskininlärningssystem är till exempel enorma. De är för ömtåliga och felbenägna för att kunna förlitas på i säkerhetskritiska tillämpningar, såsom autonoma fordon. De införlivar rasistiska, könsmässiga och etniska fördomar (delvis för att de har insupat de fördomar som är implicita i de uppgifter som de utbildats på). Och de är oåterkalleligt ogenomskinliga – i den meningen att även deras skapare ofta inte kan förklara hur deras maskiner kommer fram till klassificeringar eller förutsägelser – och därför inte uppfyller demokratiska krav på ansvarighet. Och det är bara till att börja med.

Så hur hanterar branschen den elaka verkligheten att den satsar ranchen på en kraftfull men problematisk teknik? Svar: genom att undvika att kalla det för dess riktiga namn och istället slå in det i ett namn som antyder att det på något sätt är en del av ett större, större romantiskt projekt – strävan efter artificiell intelligens. Som Orwell kanske uttrycker det, är det branschens sätt att ge ”en sken av soliditet åt ren vind” samtidigt som man fortsätter med den verkliga verksamheten att tjäna förmögenheter.


by

Tags:

Comments

Lämna ett svar

Din e-postadress kommer inte publiceras. Obligatoriska fält är märkta *