Hur USA försökte skapa Skynet på 1980-talet

2024 Författare: Seth Attwood | [email protected]. Senast ändrad: 2023-12-16 16:17

För trettio år sedan försökte USA tänja på gränserna för datoranvändning, artificiell intelligens och robotik. De ville skapa något nytt, som mycket påminner om den dystopiska framtiden från Terminator-filmerna, eller Skynet.

Från 1983 till 1993 spenderade Defense Advanced Research Projects Agency (DARPA) över en miljard dollar på ett program som kallas Strategic Computing Initiative. DARPAs mål var att tänja på gränserna för datoranvändning, artificiell intelligens och robotik, och skapa något som liknar den dystopiska framtiden från Terminator-filmerna. Det ville skapa Skynet.

Liksom Ronald Reagans Star Wars-program visade sig SKI-idén vara för futuristisk för sin tid. Men idag, när vi ser fantastiska framsteg i skapandet av artificiell intelligens och oberoende robotar av militären, är det vettigt att återvända till detta halvglömda program och ställa oss själva frågan: är vi redo att leva i en värld av mördarmaskiner sammankopplade av elektroniska hjärnor? Och en till, möjligen värdelös fråga. Om vi vill stoppa detta, är vi för sena med vår önskan?

"Möjligheterna är verkligen fantastiska …"

Detta är ett utdrag ur ett föga känt dokument som presenterades för kongressen i oktober 1983. Den anger målen för det nya strategiska datainitiativet. Och precis som allt annat som DARPA har gjort tidigare och sedan, har detta program visat sig vara extremt ambitiöst.

Konceptet med Strategic Computer Initiative förkroppsligades i ett helt nytt system, vars utveckling leddes av Robert Kahn, som då var chef för Information Processing Techniques på DARPA. Som rapporterats i hans bok från 2002 Strategic Computing, var Kahn inte den första som fick en uppfattning om systemet, men han var den första som beskrev konceptet och strukturen för det framtida Strategic Computing Initiative. Han startade detta projekt och definierade dess innehåll tidigt. SKI tog ett eget liv, ledd av andra människor, men behöll Kahns inflytande."

Detta system var tänkt att skapa en värld där oberoende fordon inte bara samlar in spaningsdata om fienden runt om i världen, utan också har förmågan att slå till med dödlig precision från land, hav och luft. SKI skulle bli ett globalt nätverk som kopplar samman alla aspekter av USA:s militärtekniska potential – en potential baserad på nya och otroligt snabba datorer.

Men detta nätverk var inte bara avsett för kall och opartisk automatiserad behandling av information. Nej, det nya systemet var tvungen att se, höra, agera och reagera. Och viktigast av allt, hon var tvungen att förstå, och utan någon uppmaning från en person.

Ekonomisk kapprustning

Ursprunget till SQI förknippas ofta med teknisk konkurrens som uppstod mellan USA och Japan i början av 1980-talet. Japanerna ville skapa en ny generation superdatorer, som skulle ligga till grund för det artificiella intelligenssystemet. Genom att kombinera den japanska statens ekonomiska makt och de nya kapaciteterna hos landets mikroelektronik och datorindustri, började de skapa ett femte generationens datorsystem för att uppnå sitt mål.

Målet var att utveckla otroligt snabba datorer som skulle göra det möjligt för Japan att bryta sig loss från andra länder (först och främst från USA och från "Silicon Valley" som var på väg där) i kapplöpningen om teknisk överlägsenhet. Japanerna gav sig själva 10 år på sig att slutföra denna uppgift. Men oavsett hur de accelererade sina bilar kunde de, liksom amerikanerna, inte göra datorer "smartare" på bekostnad av kraftfull artificiell intelligens.

Japanska strävanden skrämde många amerikaner. De var oroliga att Amerika höll på att tappa sitt tekniska försprång. Dessa farhågor drevs till stor del av The Fifth Generation: Artificial Intelligence och Japans Computer Challenge to the World, publicerad 1983 av Edward A. Feigenbaum och Pamela McCorduck. Challenge to the world), som har blivit litteratur som måste läsas på Capitol Hill.

För att popularisera idéerna om SKI bland det amerikanska folket och näringslivet, insisterade DARPA på att syftet med initiativet från början endast var att främja landets ekonomiska intressen. Avknoppningarna från denna teknik borde ha skapat nya incitament för den amerikanska ekonomin, som rapporterats i DARPA-planeringsdokumentet:

Uppropet till den privata sektorn och till universitetssystemet var också tänkt att ge hjälp till de smartaste och mest begåvade för att fullgöra uppgifterna i programmet för Office of Advanced Research and Development:

Och vad är slutsatsen? Regeringen gav garantier till den privata sektorn att den utvecklade tekniken inte skulle överföras till konkurrerande företag.

Men ekonomisk konkurrens med japanerna, om än en viktig drivkraft, orsakade bara sekundär oro bland politiker som var insnärjda i det kalla krigets växlingar. GOP-hökarna var mest angelägna om militär uppbyggnad och militär uppbyggnad. Många av dem ansåg att det viktigaste var det militära hotet från Sovjetunionen. Och Strategic Computer Initiative var tänkt att eliminera detta hot.

Star Wars-anslutning

Lanseringen av SKI-programmet och DARPA:s uppdrag, som växte fram 1983 och 1984, väckte en het debatt i forskarvärlden – den som i slutändan gynnades av finansieringen från detta projekt. Någon uttryckte tvivel om möjligheten att genomföra ambitiösa planer för att skapa en avancerad artificiell intelligens. Någon oroade sig för att skapandet av artificiell intelligens för militära ändamål skulle börja en fruktansvärd era av oberoende robotarméer.

Och det var en välgrundad oro. Om målet för Star Wars (det populära namnet för Ronald Reagans strategiska försvarsinitiativ och dåtidens populära politiska fotboll) är ett automatiskt eller halvautomatiskt svar på ett kärnvapenmissilhot från sovjeterna, då skulle det helt enkelt vara löjligt att inte inkludera det i ett större system av verkligt intelligenta maskiner. Målen för de två projekten, för att inte tala om institutionerna som utvecklade dem, överlappade och överlappade för mycket för att vara en ren tillfällighet, även om var och en insisterade på att det var en slump.

Från verk av Chris Hables Gray, skrivet 1988:

Om du frågar någon som har arbetat i ledningen för SKI-programmet får du envist höra att Strategic Computer Initiative inte hade något att göra med Reagans Star Wars-dröm. Men människor från början av implementeringen av SKI skapade en koppling mellan det och SDI. Delvis uppstod dessa föreningar på grund av likheten i namn och på grund av det faktum att dessa namn gavs av en person - Robert Cooper, som tjänstgjorde som direktör för Advanced Research and Development Directorate vid det amerikanska försvarsdepartementet från 1981 till 1985. Eller så kanske folk såg sambandet på grund av att de datorgränssnittssystem som utvecklats för SKI var ganska logiskt lämpliga som en applikation för en rymdmissilförsvarsstrategi.

Användning av strategisk datateknik på land, till sjöss och i luften

En allmän översikt över SQI som utarbetades 1983 angav syftet med detta initiativ. Målet var tydligt och förståeligt: att utveckla en stor bas av artificiell intelligensteknologi för att stärka nationell säkerhet och ekonomisk makt. Men för att uppnå det var kongressen och de militära avdelningar som skulle använda SKI och dess fördelar i framtiden, tvungna att se detta system i funktion.

SKI hade tre hårdvaruinkarnationer som skulle bevisa sin stridspotential, även om man i slutet av 1980-talet planerade att utveckla ännu fler sådana system. I spetsen för SKI:s tekniska utveckling stod det autonoma markfordonet ALV, pilotens assistent och hangarfartygets stridsstyrningssystem.

Dessa verktyg var planerade att utrustas med otroligt avancerade datorer, som designades av Cambridge-företaget BBN, mest känt för sitt arbete med den första versionen av Internet. Datorer gjorde det möjligt att uppnå banbrytande framsteg inom områden som synsystem, språkförståelse och navigering. Och dessa är de viktigaste verktygen för att skapa en integrerad människa-maskin militär styrka.

Bil utan förare - 1985

Den mest olycksbådande produkten som kom från SKIs tarmar var det autonoma markfordonet ALV. Detta förarlösa, åttahjuliga fordon var tre meter högt och fyra meter långt. Den var utrustad med en kamera och sensorer som var monterade på taket och styrde bilens rörelser, som var dess "ögon".

Martin Marietta, som slogs samman med Lockheed Corporation 1995 för att skapa Lockheed Martin, vann ett anbud sommaren 1984 för att skapa ett experimentellt autonomt markfordon. Under de tre och ett halvt åren av SKI-programmet borde det ha fått 10,6 miljoner dollar (justerat för inflation är det 24 miljoner), plus ytterligare 6 miljoner om projektet uppfyller vissa riktmärken.

I oktobernumret 1985 av Popular Science fanns det en artikel om testerna som utfördes på den hemliga Martin Marietta träningsplatsen sydväst om Denver.

Författaren till artikeln, Jim Schefter, beskrev testscenen på provningsplatsen på följande sätt:

DARPA har gått samman med Martin Marietta och University of Maryland, som har gjort ett fantastiskt jobb med att skapa ett visionssystem. En sådan kombination verkade nödvändig för att säkerställa framgången för utvecklingen av landfordon.

Att bygga ett videosystem för ett autonomt fordon har visat sig vara otroligt svårt. Hon kan bli vilseledd av ljus och skuggor, och därför var hon inte tillräckligt pålitlig. Under dagen hittade hon vägkanten utan problem, men på grund av kvällsskuggorna vid solnedgången kunde hon gott glida ner i diket.

Alla förändringar i miljön (säg, smuts från hjulen på en annan bil) förvirrade också synsystemet. Detta var oacceptabelt även under testförhållanden på provningsplatsen. Om maskinen inte klarar sådana enkla hinder, hur kommer den då att agera under svåra och oförutsägbara stridsförhållanden med otaliga varierande faktorer?

I november 1987 hade det autonoma markfordonet förbättrats avsevärt, men i slutet av året övergavs det faktiskt. Även om fordonet var ganska primitivt, ansåg vissa på DARPA att det hade avfärdats för snabbt.

Som ett resultat kunde hon inte övervinna sin oförberedelse för strid. Som Alex Roland noterar i sin bok Strategic Computing, "En officer som inte alls förstod avsikten med ALV-programmet klagade på att maskinen var militärt värdelös: mycket långsam och vit, vilket gjorde den till ett enkelt mål på slagfältet." I april 1988 upphörde byrån för avancerad forskning och utveckling officiellt arbetet med det.

R2-D2, men i verkligheten

Den andra praktiska utföringsformen av Strategic Computer Initiative var pilotens assistent. Utvecklarna föreställde sig det som en osynlig R2-D2-robot - en intelligent satellit som förstår pilotens enkla språk. Denna assistent kan till exempel upptäcka ett fientligt mål och fråga piloten om det är nödvändigt att förstöra det. Något som "The best shooter" i sällskap med den personliga assistenten Siri från iPhone.

I detta scenario låg det slutliga beslutet kvar hos piloten. Men hans assistent var tvungen att bli smart nog inte bara för att veta vem som ställde frågorna, vad han frågade och hur han själv skulle ställa frågorna. Han var tvungen att förstå varför.

Här är raderna från SKI-planeringsdokumentet:

Och det var här som Direktoratet för avancerad forskning och utveckling beslutade att det behövde ett eget Skynet. Nya funktioner i stridsoperationer i samband med den snabba utvecklingen av militär teknik krävde en tydlig interaktion mellan en maskin och en person - och detta blev nyckeln till framgång i strid. Piloten tryckte fortfarande på knapparna, men dessa datorer var tvungna att tänka minst hälften för honom. Om mänskligheten inte har tid är det nödvändigt att koppla maskiner för att fungera.

Pilotens assistentprogram bevakades inte i amerikansk press i samma utsträckning som det autonoma markfordonet. Förmodligen berodde detta på att det var mycket svårare att föreställa sig det än en enorm tank som körde längs vägen utan förare. Men om man tittar på dagens taligenkänningsteknologier blir det tydligt vad all denna forskning om "pilotens assistent" ledde till.

Osynlig robotrådgivare

Stridskontrollsystemet har blivit den tredje praktiska utföringsformen av SKI-programmet, designat för att bevisa dess genomförbarhet.

Roland skriver om detta i sin bok Strategic Computing:

Kommando- och kontrollsystemet var i huvudsak hjärnan i hela operationen, och av denna anledning hölls det hemligt, till skillnad från ALV. En robot som kör på vägen utan förare kan skrämma många. En osynlig robot med ett osynligt finger på en kärnkraftsknapp? Tja, knappast någon vill publicera pressmeddelanden om detta ämne.

Stridskontrollsystemet utformades som en mjukvaruapplikation specifikt för marinen. (Ett autonomt markfordon skapades specifikt för markstyrkorna, och en "assistentpilot" för flygvapnet.) Men i verkligheten var det bara en täckmantel för ett mer mångsidigt system. Alla dessa teknologier var planerade att användas i framtiden där de behövs som mest. Programmet för taligenkänning som utvecklats för "pilotens assistent" var planerat att användas inom alla grenar av försvarsmakten, inte bara inom flygvapnet. Och lednings- och kontrollsystemet måste vara lämpligt för alla – utom, förstås, fienden.

Att sätta ihop Skynet

Alla de olika komponenterna i Strategic Computer Initiative var en del av ett större hypotetiskt system som radikalt kunde förändra krigets karaktär under 2000-talet.

Föreställ dig ett globalt trådlöst nätverk som styr många andra underordnade nätverk inom den amerikanska militären. Föreställ dig arméer av robotstridsvagnar som pratar med svärmar av drönare på himlen och obemannade ubåtar till havs – och interaktionen mellan dem är mycket snabbare än någon mänsklig befälhavare kunde. Föreställ dig nu att allt detta är mycket mer komplicerat och med kärnvapenmissiler som väntar på uppskjutning i rymden.

Konceptet med Strategic Computer Initiative var otroligt vågat, och ändå lite ovanligt när man tänker på hur långt det kan ta oss. Logiken i vidareutvecklingen av artificiell intelligens och det världsomspännande nätverket av mördarmaskiner är lätt att föreställa sig, om så bara för att vi har sett det otaliga gånger i böcker och filmer.

Framtiden för krig och fred

Det strategiska datorinitiativet i början av 90-talet förstördes slutligen av insikten att det helt enkelt var omöjligt att skapa kraftfull artificiell intelligens som den som DARPA hade föreställt sig. Men om alla dessa teknologier och tekniska innovationer som utvecklades på 1980-talet verkar konstigt bekanta för oss så är det på grund av det faktum att de i början av 2000-talet pratar och skriver om i media.

Synsystem från ett autonomt markfordon har hittat sin gestaltning i Atlas-robotar från Boston Dynamics. Vi kan se att ett taligenkänningssystem som Siri från "pilotens assistent" används i det amerikanska flygvapnet. Och autonoma bilar testas av Google, tillsammans med många andra företag. Alla dessa är teknologier för framtidens krig. Och om du tror på Google, så är detta också tekniken i framtidens värld.

Google köpte nyligen Boston Dynamics, vilket har överraskat dem som är oroliga för en framtid med arméer av oberoende robotar. Google säger att Boston Dynamics kommer att uppfylla alla sina gamla kontrakt med militärkunder, men kommer inte att ingå nya.

Men oavsett om Google kommer att acceptera order från militären eller inte (vilket är fullt möjligt, eftersom de kan göra det i hemlighet, med hjälp av medel från sin "svarta" budget), råder det ingen tvekan om att gränsen mellan civil och militär teknik alltid har varit suddig. Om Boston Dynamics aldrig mer samarbetar med organisationer som DARPA, men Google drar nytta av militärfinansierad forskning, så kan nog systemet sägas fungera.

Militären fick vad de ville genom att driva robotforskning genom ett privat företag. Och nu kommer resultaten av dessa militära teknologier att göra sig gällande i vårt dagliga civila liv - såväl som många andra tekniker, inklusive Internet.

I sanning är den här artikeln bara en droppe i hinken bland de idéer som Forsknings- och utvecklingsdirektoratet har kläckt inom ramen för SKI. Låt oss hoppas att vi genom att fortsätta utforska gårdagens perspektivkoncept kan få lite historisk erfarenhet och bättre förstå att våra nya prestationer inte kom ur tomma luften. Även de kan inte alltid kallas innovationer. Detta är resultatet av år av forskning och miljarder dollar i anslag som har bemästrats av hundratals organisationer, både offentliga och privata.

I slutändan avvecklades inte Strategic Computing Initiative av rädsla för vad det skulle kunna tillföra vår värld. Det är bara det att teknikerna för dess implementering inte utvecklades tillräckligt snabbt - detta gäller artificiell intelligens och autonoma fordon. Men under de tjugo år som gått sedan SKI lades ner har alla dessa smarta maskinutvecklingar fortsatt.

En framtid med mycket intelligenta och sammankopplade robotar är nästan verklig. Vi behöver inte älska honom, men vi kan inte säga att ingen varnade oss för honom.