Det som hotar mänskligheten med datoriseringen av hela vårt liv

2024 Författare: Seth Attwood | [email protected]. Senast ändrad: 2023-12-16 16:17

Smartphones, robotar och datorer gör vårt liv enklare, men kanske tappar vi något i detta? Reportern pratade med den amerikanske författaren Nicholas Carr om farorna och till och med hoten med överautomatisering.

Det är en allmän uppfattning att automatisering av allt och alla förbättrar kvaliteten på vårt liv. Datorer hjälper oss att uppnå toppprestanda. Programvaror gör uppgifter snabbare och enklare. Robotar tar på sig det tråkiga och hårda arbetet. Den ständiga strömmen av innovationer från Silicon Valley förstärker bara människors tro på att ny teknik gör livet bättre.

Det finns dock en annan åsikt. Författaren Nicholas Carr utsätter den moderna digitala världens postulat för en opartisk analys. Hans essä "Does Google Make Us Stupid?", publicerad i Atlantic 2008, är fortfarande kontroversiell, liksom hans bästsäljare från 2010, The Shallows.

Förespråkare av teorin att teknik kommer att rädda vår värld ser Carr som en av deras mäktigaste motståndare. Och de som är försiktiga med konsekvenserna av tekniska framsteg för mänskligheten respekterar den för dess balanserade argumentation.

Nu är Carr intresserad av en ny fråga: ska vi vara rädda för att det gradvis inte kommer att bli några svåra uppgifter för oss i världen? Kommer våra liv att bli för effektiva tack vare ny teknik?

Jag träffade författaren för ett tag sedan för att prata om hans nya bok, The Glass Cage: Automation and Us, och vad som fick honom att skriva den.

1. Avslöja huvudmyten om ny teknik

Tom Chatfield:Om jag förstår det rätt, så försöker du i boken "Glasburen" slå hål på myten om att förenklingen av våra liv tack vare tekniska framsteg nödvändigtvis är ett positivt fenomen.

Nicholas Carr:På både den personliga och institutionella nivån är vi vana vid att tro att effektivitet och komfort är bra som standard, och att maximera dem är verkligen ett värdigt mål. Det förefaller mig som att detta förhållningssätt till teknik i alla dess former, särskilt i form av datorautomatisering, är ganska naivt. Detta gäller även våra egna önskningar och det verkliga livet i den moderna världen.

Kommer datorer någonsin att ersätta människor?

T. Ch.:Och ändå håller de flesta anhängare av tekniska framsteg fast vid den utilitaristiska synpunkten, enligt vilken de största misstagen vi gör beror på försummelsen av effektivitet och logik, och i själva verket vet vi inte själva vad som är bra för oss. Därför, från deras synvinkel, är uppgiften för tekniska framsteg att identifiera bristerna i mänskligt tänkande, och sedan skapa system som skulle kompensera för dessa brister. Är denna åsikt fel?

N. K.: Å ena sidan har många innovationer inom utvecklingen av datorteknik och utvecklingen av automatiserade system ingenting att göra med det svepande påståendet att människor är mycket ofullkomliga jämfört med datorer. Ja, en dator kan programmeras att utföra vissa operationer på obestämd tid med jämn kvalitet. Och det är sant att en person inte är kapabel till något sådant.

Men en del går ännu längre och hävdar att människor är för ofullkomliga, att deras roll bör begränsas så mycket som möjligt och att datorer bör ansvara för alla grundläggande uppgifter. Det här handlar inte bara om att försöka kompensera för mänskliga tillkortakommanden - tanken är att ta bort den mänskliga faktorn helt och hållet, som ett resultat av vilket, hävdas det, vårt liv kommer att bli mycket bättre.

T. Ch.: Det verkar som att detta inte är den bästa idén. Finns det en optimal nivå av automatisering?

N. K.: Enligt min mening är frågan inte om vi behöver automatisera den eller den komplexa uppgiften. Frågan är hur vi använder automation, exakt hur man använder datorer för att komplettera mänskliga kunskaper och färdigheter, kompensera för brister i mänskligt tänkande och beteende, och även för att stimulera människor att göra det bästa av sin egen erfarenhet för att nå nya höjder.

Vi förvandlas till datormonitorer

Övertillit till programvara kan göra oss till datorövervakningsvakter och processflödesoperatörer. Datorer kan spela en mycket viktig roll eftersom vi bara är människor – vi kan falla offer för fördomar eller gå miste om viktig information. Men faran är att det är för lätt att lägga ut alla våra funktioner på datorer, vilket enligt mig skulle vara fel beslut.

2. Behöver du föra det verkliga livet närmare scenariot med ett tv-spel?

T. Ch.: Det gläder mig att notera att du i din bok nämner videospel som ett exempel på interaktion mellan människa och maskin, där poängen är att övervinna svårigheter, inte undvika dem. De mest populära spelen är ett slags arbete som ger spelaren en känsla av tillfredsställelse. Vi kan bara klaga på att det arbete som många av oss måste göra varje dag kräver mycket mindre skicklighet och ger oss mycket mindre glädje.

TV-spel stimulerar spelaren att anstränga sig extra och använda hjärnan så mycket som möjligt

N. K.: Videospel är intressanta eftersom deras koncept går emot de allmänt accepterade principerna för att skapa programvara. Syftet med datorspel är inte alls att befria användaren från besväret. Tvärtom stimulerar de spelaren att anstränga sig extra och att använda hjärnan så mycket som möjligt. Vi gillar tv-spel just för att de utmanar oss med ständigt ökande utmaningar. Vi befinner oss hela tiden i svåra situationer – men inte i situationer som orsakar förtvivlan. Att övervinna varje ny nivå förbättrar bara våra färdigheter.

Denna process är mycket lik hur en person får livserfarenhet i verkligheten. Som vi vet, för att utveckla förmågor, måste en person möta allvarliga hinder om och om igen och övervinna dem om och om igen, med alla sina kunskaper och färdigheter. Gradvis når en person en ny nivå, varefter komplexiteten hos hindren ökar.

Jag tror att folk älskar tv-spel av samma anledning som de blir nöjda av att skaffa sig nya erfarenheter och övervinna hinder. Lösningen av en svår uppgift, i vilken ny kunskap förvärvas, nödvändig för att övervinna nya, ännu mer komplexa svårigheter, ger en person stort nöje.

Total underkastelse inför datorn kommer att leda oss till ett liv där det kommer att finnas lite utrymme för självförverkligande

En av de främsta farhågorna som jag uttrycker i boken är att vår inställning till framsteg är förknippad med viljan att i möjligaste mån undvika att lösa svåra problem. Det förefaller mig som om denna synvinkel motsäger själva begreppet livstillfredsställelse och självförverkligande.

3. Kommer datorer att eliminera behovet av människor?

T. Ch.: Till skillnad från videospel, i den verkliga världen, är hårt arbete inte nödvändigtvis belönat. Den verkliga världen är orättvis och obalanserad. Den kanske mest oroväckande trenden här är att individens intressen (psykologiskt, personligt och till och med när det gäller överlevnad) i allt högre grad faller ur linje med företagens och regeringens föreställningar om ändamålsenlighet. Är du rädd för att datorer äntligen kommer att ersätta människor?

Många spel är svåra att passera och kräver ovanliga färdigheter och uppfinningsrikedom från spelare. Så varför skulle resten av tekniken bara göra vårt liv enklare?

N. K.: När jag samlade material till boken blev jag väldigt skrämd av en artikel (citat från som jag citerar i texten), skriven av en specialist på militär strategi. Enligt honom, med tanke på den växande omfattningen av användningen av datorteknik på slagfältet, kan det mycket snart helt enkelt inte finnas utrymme för en person i militära angelägenheter. Hastigheten i beslutsfattandet har ökat så mycket att människor helt enkelt inte kan hänga med datorer. Vi går oundvikligen mot helautomatisk krigföring: obemannade flygfarkoster kommer själva att bestämma när de ska skjuta missiler mot mål, och robotsoldater på marken kommer själva att bestämma när de ska skjuta.

Enligt min åsikt observeras denna situation inte bara i militära angelägenheter, utan också på många andra områden - till exempel i finansvärlden. Folk hänger helt enkelt inte med i datorer när de handlar till exempel med finansiella instrument.

Vad väntar oss? Vi kanske inte bara förlorar förmågan som skiljer oss från datorer för kritisk bedömning av våra egna handlingar - kanske kommer vi att implementera sådana system tanklöst och tro att det viktigaste är beslutsfattandets snabbhet. Och sedan, om vi är övertygade om att vi hade fel, kommer vi att finna att det inte finns någon återvändo. Mycket ofta visar sig det vara omöjligt att integrera en person i ett system som ursprungligen byggt på datorteknik.

T. Ch.: Jag blev också förskräckt när jag läste ett avsnitt i din bok om automatiserad krigföring. Jag fick en känsla av att processen som kommer att leda oss till helt autonoma stridssystem inte går att stoppa. En del av min fasa kommer från minnen av finanskrisen 2008, som praktiskt taget utplånade biljoner dollar. Åtminstone nu är folk mer ansvariga för sin ekonomi. Men om detta händer inom den militära sfären kommer inte dollar att förstöras, utan människoliv.

En framtid utan människor?

N. K.: Det är inte bara så att ny teknik, särskilt mjukvaruteknik, idag kan replikeras och distribueras mycket snabbt. Poängen är att alla dessa processer sker i en konkurrensutsatt miljö. Oavsett om vi talar om en kapprustning eller affärstävling, så snart en av rivalerna får en kortsiktig fördel på bekostnad av en eller annan teknik, introduceras denna teknik omedelbart där det är möjligt - eftersom ingen vill vara med nackdel.

Jag tror att det i den här situationen är för lätt att tappa det faktum att vi i grunden är djur. Människor har gått igenom en evolutionär väg i årtusenden för att kunna leva och överleva. Mänsklighetens roll, såväl som våra känslor av tillfredsställelse och självförverkligande, är nära besläktade med vår upplevelse av att leva i en värld som sätter vår vanliga takt.

Därför, när vi motsätter en person, med alla hans fysiska fördelar och nackdelar, en snabb och exakt dator, finns det en önskan att ge upp hela vårt liv till datorer. Men vi glömmer att total underkastelse inför datorn kommer att leda oss till ett liv där det kommer att finnas lite utrymme för självförverkligande.

4. Hur automatiserar vi världen?

T. Ch.: Jag tror att vi måste vara kritiska mot ny teknik, men jag är oroad över att människor förvandlar onödiga svårigheter och antiteknologisk "äkthet" till en fetisch. Det finns en sådan modern tankeskola som hyllar hårt fysiskt arbete och hävdar att allt vi gör måste vara hantverksmässigt och autentiskt. Enligt min mening luktar en sådan ståndpunkt av snobbi och tar inte hänsyn till det enorma antal positiva landvinningar som demokratiseringen av tekniska framsteg har fört med sig.

N. K.: Jag håller helt med dig. I en intervju fick jag frågan om hur min försiktiga inställning till framsteg skulle hjälpa till exempel människor som arbetar under tuffa förhållanden på köttförädlingsanläggningar. Jag svarade att det naturligtvis alltid kommer att finnas en plats för automatisering av produktionen där arbetsvillkoren för människor behöver förbättras. Det är bara det att du kan förnya smart, eller så kan du göra det tanklöst; vi kan hitta ett sätt att ta hänsyn till värdet av mänsklig erfarenhet och vikten av självförverkligande, eller så kan vi helt enkelt berömma datorernas förmåga. Att göra rätt val är inte lätt. Om vi uppfattar denna uppgift uteslutande svart på vitt - antingen står vi blint upp för hårt, utmattande fysiskt arbete i alla situationer, eller omvänt ser meningen med livet i sybarism - kommer det inte att hjälpa orsaken.

Det svåraste och mest krävande precisionsarbetet lämnas bäst till maskiner

Människor skapar och använder ständigt verktyg. Sedan urminnes tider måste vi fatta beslut relaterade till arbetsfördelningen, med fördelningen av mängden arbete mellan en person och de verktyg som står till hans förfogande. Och det förefaller mig som att datorernas fantastiska effektivitet när det gäller att utföra ett brett spektrum av uppgifter bara komplicerar processen att fatta sådana beslut.

5. Vad väntar oss?

T. Ch.: Så går mänskligheten mot framgång?

N. K.: Naturhistorikern Thomas Hughes, som gick bort förra året, föreslog konceptet med ett "teknologiskt momentum". Han trodde att teknologier inbäddade i sociala strukturer och processer börjar utvecklas på egen hand, vilket drar samhället med sig. Det är fullt möjligt att vår bana redan är satt och att vi kommer att fortsätta på vår nuvarande väg, utan att ställa frågor om vi går i rätt riktning. Jag vet verkligen inte vad som kommer att hända. Det mesta jag kan göra är att försöka resonera kring dessa riktigt svåra frågor efter bästa förmåga.

Jag hoppas att vi, som individer och som medlemmar av samhället, kommer att kunna behålla en viss nivå av förståelse för vad som händer oss, samt en viss nivå av nyfikenhet, och kommer att fatta beslut utifrån våra långsiktiga intressen, och inte på basis av våra vanliga koncept om bekvämlighet, hastighet, noggrannhet och effektivitet.

Dagen kommer, och robotar kommer att befria oss från alla svårigheter. Behöver vi det?

Det verkar för mig att vi måste sträva efter att se till att datorer berikar vår livserfarenhet och öppnar upp nya möjligheter för oss, och inte gör oss till passiva observatörer av bildskärmar. Jag tror fortfarande att om vi får ut mer av ny teknik kommer de att kunna göra det som teknik och verktyg har gjort genom mänsklighetens historia – skapa en mer intressant värld omkring oss och hjälpa oss att bli bättre själva. I slutändan beror allt på oss själva.