Djævlen med siliciumtungen

Oversat fra engelsk med tilladelse fra The Silicon-Tongued Devil, Jacobin, 25. januar 2024. Mellemrubrikkerne er redaktionens.

“Kom nu, mand. Jeg har haft en hård nat,” siger Jeffrey “the Dude” Lebowski. “Og jeg hader de forpulede Eagles, mand.”

Umiddelbart efter denne replik i Coen-brødrenes film The Big Lebowski fra 1998 bliver Dude fysisk fjernet fra den taxa, han tager hjem fra Malibu – det strandsamfund, han også lige er blevet smidt ud af – mens Eagles’ hit fra 1972 “Peaceful Easy Feeling” triller ud af bilradioen. Det er en bøn, der indkapsler konflikten i filmens hjerte: Den aldrende nye venstrefløj, der driver om uden ror og er på tilbagetog i George H. W. Bushs Amerika.

Men det stikker dybere end det. The Dudes præference for den sublime, autentiske lyd af Creedence Clearwater Revival – hvis album han mister, da hans bils båndoptager bliver stjålet – trækker en klar linje mellem god og dårlig kultur. Det er hippiernes ønske om bevidsthedsoverskridelse – i dette tilfælde rock ‘n’ roll fra slutningen af 1960’erne i stedet for stoffer – der får ham til at hade Eagles, en global easy-listening hitgruppe, der i 1970’erne definerede lyden lige så meget, som Creedence gjorde det i slutningen af 1960’erne.

Det er ikke svært at finde analogier i nutiden. Hvis man hader Taylor Swift, kan man blive smidt ud fra en polterabend eller råbt ad på gaden, hvis man da ikke bliver smidt ud af en taxa. Men det er sværere at finde et direkte modstykke til Creedence. Det skyldes til dels, at avantgardekulturen i vores tid i den grad er splintredes, at alle påstande om, at en popgenre er essensen af et æstetisk fremskridt, på forhånd er absurd. Man kan sige, hvad man vil om det nye venstres fiaskoer – det var i det mindste et etos, mand.

Kapløbet mellem pop og avantgarde

Denne episode fra The Big Lebowski rækker længere end til hippiernes fald. Kampen mellem pop og avantgarde er lige så gammel som oplysningstiden – sandsynligvis ældre. En konstant regn af teorier har siden 1970’erne hævdet, at poppen ville overhale eller endda eliminere avantgarden; faktisk er denne påstand dybest set det, som filosoffen Jean-François Lyotard og litteraturforskeren Fredric Jameson hver især kaldte “postmodernisme”. Denne regn blev kun stærkere, da internettet overtog alt. Der ligger trods alt en demokratiserende overflade i oprettelsen af en global platform for udgivelser, der forbinder personer med personer. Læg dertil sociale medier og så det, vi kalder “generativ AI”, så bliver det let at se, hvorfor troen på Creedence virker så gammeldags.

Som forfatteren Chuck Klosterman for nylig har hævdet, var 90’erne sidste gang, nogen virkelig mente, at det var dårligt eller kontroversielt at “sælge ud”. Fra et æstetisk synspunkt er vi alle faldet i det, jeg kalder et “strømhul“, hvor algoritmer udnytter massepopulariteten og lover os individualiserede resultater, mens de faktisk homogeniserer indholdet. De, der holder fast i deres tro på avantgarden, er som de mennesker, der er undsluppet Matrix, og som samles i Zion for at planlægge den revolution, som kun en gud kan tilbyde. (Det er ikke tilfældigt, at The Matrix skildrer raves som en højt værdsat frihed for de oplyste).

Denne splittelse mellem Creedence og Eagles, mellem den gode avantgarde og den dårlige pop, stiller faktisk nogle dybe, næsten metafysiske spørgsmål om kultur. Og nu sætter eksplosionen af generativ AI – og især store sprogmodeller, eller LLM’er, som ligger til grund for chatbots som ChatGPT og Bard – igen dette gamle æstetiske spørgsmål højt på dagsordenen. AI og truslen om en kulturel automatisering tvinger os til at undersøge forholdet mellem sprog, fortolkning og politik på en ny måde.

Hvad skal en marxist tro om en automatisering af sproget?

Spørgsmålet er grundlæggende: Hvad skal en marxist tro om en automatisering af sproget? Forslag om, at kapitalismen er blevet “semiotisk”, baseret på filosoffen Félix Guattaris tanker, er ikke tekniske nok, hvad angår sproget, til direkte at kunne besvare dette spørgsmål, mens marxistiske sprogfilosofier – som Raymond Williams’ eller Valentin Voloshinov – aldrig har integreret maskinernes verden [i deres tænkning]. Et muligt svar vil være tvunget til at kombinere en af det 19. århundredes største tænkere Karl Marx’ ideer med ideerne hos en af det 20. århundredes største intellektuelle – Noam Chomsky.

Marx’ interesse for økonomi voksede dag for dag, og han og Friedrich Engels brugte en stor del af 1840’erne på så hurtigt som muligt at udarbejde en materialistisk filosofi. Men de ønskede, at materialismen skulle være dynamisk. Med det mente de, at det ikke skulle være en filosofi baseret på den virkelige og forudgående eksistens af atomer i bevægelse, men i stedet på menneskers aktivitet. Det var denne filosofi, der gødede jorden for første bind af Kapitalen, hvor Marx lagde alle sine kræfter i forestillingen om et “stofskifte mellem mennesket og naturen” og definerede menneskelivet som den sociale transformation af det fysiske miljø. Denne transformation var også filosofiens oprindelse – dens første princip, dens drivende motor og dens eneste kilde til legitimitet. Marx’ filosofi er til dato uden tvivl den eneste materialisme af sin art.

For Marx er “stofskiftet” udgangspunktet for bevidstheden. Gennem vores transformation af naturen “indgår vi i relationer” med hinanden. Når man hører marxister tale om produktionsforhold, er det det, de tænker på. Kapitalismen er et sådant sæt af relationer (en “produktionsmåde”), den eneste, vi kender grundigt af erfaring. Bevidstheden, mente Marx, var et produkt af disse produktionsforhold, og “i sidste instans” er den bestemt af den materielle aktivitet. Denne idé er blevet videregivet som en spinkel skelnen mellem en “base” af økonomisk aktivitet og en “overbygning” af love, regeringer og kultur. Grunden til, at vi bekymrer os om det, er, at et eller andet sted i denne abstraktion ligger ideologien gemt.

Marx mener, at hvert eneste køb, vi foretager, og hver eneste time, vi arbejder, er indhyllet i et trick, der dækker over den værdi, som arbejdet tilfører varerne. Bevidstheden – og sproget – er ikke uskyldige i forhold til produktionsmåden. Som han og Engels udtrykker det i Den tyske ideologi, blev menneskets “ånd”

ramt af den forbandelse, det var at være “bebyrdet” med materie, som her viser sig i form af oprørte luftlag, lyde, kort sagt sprog. Sproget er lige så gammelt som bevidstheden, sproget er den praktiske bevidsthed, som også eksisterer for andre mennesker…. Bevidstheden er fra begyndelsen af et samfundsmæssigt produkt og vedbliver at være det, så længe der overhovedet findes mennesker.

Det, Marx i sin højtflyvende stil her siger, er, at sproget er produktionens medie – for selve vores materielle eksistens i verden. Vi flytter ikke bare tilfældigt rundt på ting i den fysiske verden; vi skaber ting med vilje til vores brug. Og vi gør det i samarbejde med andre, ikke som ensomme individer.

Den sædvanlige måde at tænke basis og overbygning på er, at den ene bestemmer den anden. Det fremgår tydeligt af maksimen om, at det er “lettere at forestille sig verdens undergang end kapitalismens undergang”, noget der forklarer megen dystopisk fiktion, som selv i den mest dystre fremtid stadig ikke kan tænke længere end profit og værdi. Kritikeren Mark Fisher kaldte dette “kapitalistisk realisme”, en ide om at vores fortællinger og endda vores fantasi er indhegnet af kapitalismen. Men når det kommer til sproget – lige præcis det, vi i dag “automatiserer” med AI – er dette billede ikke helt tilstrækkeligt.

Mens jeg skriver dette, har OpenAI, som blandt andre AI-produkter driver ChatGPT og DALL-E, netop haft en mærkelig weekend. Først fyrede bestyrelsen den administrerende direktør, Sam Altman, for derefter at vende på en tallerken og ansætte ham igen. Striden handlede om “alignment”, dvs. idéen om, at vi er nødt til at producere en “kunstig generel intelligens” (AGI), som er fuldstændig ude af stand til at skade os. Hvis det lyder som science fiction, er det fordi, det er det. Det er også den ideologi, der driver meget af AI-produktionen i dag.

Når dette trykkes, var Altman allerede blevet genindsat i sin stilling, og hvis man har brug for et eksempel på, hvor Marx’ materialisme kan være nyttig, er dette ret velegnet. Kampen hos OpenAI var tilsyneladende drevet af Ilya Sutskever, en ingeniør, der var ansat til at skabe “superalignment” – dybest set en skudsikker garanti for, at AI ikke vil køre af sporet og føre til menneskets udryddelse. Hvis det lyder bizart, så er det det også. Men det er også et af grundprincipperne i virksomheden, som startede som en nonprofit-organisation, der var dedikeret til at producere en sikker AGI. Kampen mellem Altman og Sutskever handler ikke om, hvorvidt man kan nå frem til AGI, eller om, hvorvidt den kan udgøre en eksistentiel risiko for menneskene. Det handler om, hvilken vej man skal følge for at sikre, at den er sikker. Det kan man da kalde metafysik på direktørgangen.

Men det, alle ignorerer midt i al den metafysik, er, at denne kamp handler om sprog. Det er AI’s evne til at forstå det menneskelige sprogs kompleksitet, der har udløst OpenAI’s meteoragtige opstigen, som startede med GPT-2 i 2019. Det er forudsætningen for alle de andre systemer, vi forsøger at koble til “generativ AI” – selv DALL-E kører på parrede ord og billeder. Sprogalgoritmerne er nu på vej til at blive den grundlæggende infrastruktur for stort set hele den globale økonomi. Det er ingen overraskelse, at de administrerende direktører er fanget i den mystifikation, der ligger i kapitalistiske fantasier, som ingen vegne fører, selv om netop disse fantasier synes mere tåbelige end nogensinde. Det, der er mere overraskende, er, at venstrefløjen ikke er i stand til at levere den materialistiske, marxistiske kritik af AI, som den burde. Det skyldes, at venstrefløjen har nægtet at tage sproget alvorligt og henvist det til blot at være en “overbygning” og holdt det på god afstand af den økonomiske materialisme.

Marxister har nærmet sig dette problem på forskellige måder, men har generelt støttet sig til forestillingen om, at sproget er materielt, dynamisk og situationsbestemt. Ingen af disse tilgange har nogensinde leveret en sprogfilosofi, der er teknisk nok til at håndtere det, AI nu gør, og det betyder, at alle veje til en venstreorienteret kritik af automatiseringen af sproget går gennem den mest berømte lingvist i vores tid: Noam Chomsky.

Venstreorienteret kritik af det automatiserede sprog – Noam Chomsky

Chomsky er måske den største nulevende intellektuelle. Hans arbejde med sproget har ikke bare forandret lingvistikken; det er delvist ansvarligt for det, der kaldes den “kognitive revolution”, den store forandring i videnskaberne, der fandt sted i anden halvdel af det tyvende århundrede. I 1990’erne, da Dude stadig klyngede sig til det bevidsthedsoverskridende i et Creedence-bånd, var Chomskys syn på sind og sprog blevet til videnskabeligt grundfjeld på tværs af psykologi, lingvistik, filosofi, neurovidenskab og det stadig unge felt, kunstig intelligens.

Det betyder ikke, at det ikke var kontroversielt: Chomskys hurtige opstigning i 1960’erne medførte bitre kampe. Men de fandt sted under et generationsskifte, hvor den generative grammatik, det “instrument for tilegnelse af sproget”, som Chomsky hævdede fandtes et sted i hjernen, og det “minimalistiske program” til forståelse af sproget blev symboler på en hel gruppe af videnskaber og deres nye tilgang. Denne tilgang er baseret på en bred analogi mellem hjernen (eller sindet) og computeren – “teorien om sindets indretning som en computer”. Chomsky er forblevet ambivalent over for denne analogi, alt imens han har været dybt engageret i den videnskabelige undersøgelse af sindets egenskaber, som han mener, udelukkende er tilgængelige for os gennem sproget.

Men Chomskys karriere har fra begyndelsen af i virkeligheden været to karrierer. Fra en tidlig modstand mod Vietnamkrigen – som han påpegede, at den amerikanske propaganda konsekvent benægtede overhovedet var en krig eller en invasion – til hans kampagner mod de grusomme konflikter, som USA stod bag i Mellemamerika i 1980’erne, har Chomsky været en af de få venstreorienterede stemmer i den amerikanske offentlige debat gennem to generationer. Han har udnyttet sin enorme autoritet inden for sprog og sind til at være enestående i et smuldrende imperiums mediekaos. Han mener, at et teknologisk samfund ikke har nogen grund til at begrænse de enkelte borgeres grundlæggende kreative kræfter, og at borgernes fri forening – et synspunkt, der almindeligvis kaldes anarko-syndikalisme – ville fjerne statens undertrykkelse og dens imperialistiske propaganda.

Da jeg var teenager og kæmpede med at forstå først Bill Clinton-æraens underlige overmod og derefter den onde drejning efter 11. september, gav min far mig bøger af Howard Zinn og Chomsky at læse. For mig blev disse bøger sandheden, hvorefter næsten alt i medierne blot var propaganda, der specifikt var konstrueret for at skjule sandhederne om det amerikanske imperium – sandheder, som en ensom Chomsky havde råbt fra hustagene i årevis.

Spol så tre årtier frem til marts 2023, hvor Chomsky og to medforfattere offentliggjorde en kronik i New York Times med titlen “The False Promise of ChatGPT“. Det, de der sagde, er desværre en meget sofistikeret version af, hvor meget The Dude hader de lede Eagles.

ChatGPT’s falske løfte

Kronikken anerkender stiltiende, at der faktisk er et politisk problem med AI. Chomsky og hans medforfattere hævder, at maskinlæring – disciplinen bag generativ AI og andre kraftige algoritmer – vil “nedbryde videnskaben og forringe etikken ved at inkorporere en fundamentalt fejlagtig opfattelse af sprog og viden i vores teknologi.” Chomsky har kæmpet mod netop denne opfattelse siden 1950’erne, så det er ikke overraskende, at han mener, det er problematisk, at den tages i brug til kommercielle formål. Det står mindre klart, om hans særlige blanding af kognitionsvidenskab og politik virkelig kan forklare, hvad ChatGPT og lignende systemer er ude på.

Jeg er ikke sikker på, at det af både logistiske og juridiske årsager er muligt at kvantificere, hvor meget data – tekst, billede og også al slags sporingsdata – der nu produceres eller påvirkes af AI-systemer. Men det er en langt større andel, end man nok tror. LLM’er [Large Language Models, store sprogmodeller] kobles til søgninger og til “personlige assistenter”. Den udforskning af anvendelsesområder lige fra ansættelser, jetjagere, matematiske beviser og til kemi, der finder sted, er ikke bremset, men accelereret.

I en kronik i Wall Street Journal, der konkurrerede om opmærksomheden, forfattet af nu afdøde Henry Kissinger – Chomskys nemesis fra samme generation – og nogle medforfattere, argumenterede de for, at ChatGPT var et lige så vigtigt skridt som trykpressen med tilsvarende vidtrækkende konsekvenser for politik – både udenrigs og indenrigs – og den indstilling viden indtager. På en underlig måde er Chomsky faktisk enig i denne vurdering, om end ikke i de forslag, den følges op af. Fordi den nye AI er en “klodset statistisk motor til mønstertilpasning” og ikke besidder nogen evne til sandhed eller moral, er den ifølge Chomskys kronik kulturelt farlig. Kissinger anbefaler, at de politiske beslutningstagere kommer på forkant med udviklingen. Chomsky benægter dybest set bare, at der overhovedet sker noget meningsfuldt.

Det er et problem, og jeg tror, det ligger i det skrøbelige forhold mellem Chomskys lingvistik og hans politik. Han har engang sagt, at han “ikke kan finde intellektuelt tilfredsstillende forbindelser mellem disse to domæner”, men i stedet kun spinkle forbindelser. Men han skelner faktisk mellem det, han kalder “Platons problem” og “Orwells problem”.

“Platons problem” – det gode, sandheden og skønheden; over for “Orwells problem” – newspeak

Platons problem er, at vores viden overgår vores erfaring. Som Chomsky i mere end seks årtier har iagttaget, lærer børn korrekt grammatik uden nogensinde at blive udsat for alle dens variationer. De lærer at opfinde nye ord og sætninger og at forstå dem langt tidligere, end nogen maskine ville kunne. Menneskelig læring ser ud til at ske med store spring, ikke med små skridt. Platon mente, at mennesker havde en slags hukommelse for tankens rene former – det gode, sandheden og skønheden – og Chomsky påberåber sig denne idé for at beskrive, hvad han mener, at sprog virkelig er.

Orwells problem handler om det, romanforfatteren kaldte “newspeak”, den systematiske manipulation af sprog og mening, som den totalitære regering i 1984 stod bag. Chomsky bruger udelukkelsen af forestillingen om, at USA invaderede Vietnam, til at argumentere for, at demokratiske systemer gennem mediemanipulation har “geniale” apparater til “tankekontrol”. Denne konklusion går faktisk et skridt videre end Orwells, da totalitære regeringer bruger truslen om vold til at bakke deres påtvungne sprog op. Chomsky hævder, at falske modsatrettede opfattelser ofte bruges i medierne som fortællinger med det formål at “fabrikere samtykke”, en sætning, han låner fra den offentlige menings berømte teoretiker, Walter Lippmann. Medierne “kan være en fantastisk kraft, når de mobiliseres til støtte for det statslige propagandasystem,” skriver Chomsky.

Propaganda er for demokratiet, hvad vold er for totalitarisme

Sloganet for Platon-Orwell-distinktionen er: “Propaganda er for demokratiet, hvad vold er for totalitarisme.” Det er en glimrende beskrivelse af, hvordan forskellige typer stater anvender tvang over for deres borgere, men hvordan forholder det sig til sproget? Det gør Chomsky ikke klart, og det tror jeg heller ikke, han kan. Han overser det faktum, at newspeak er sprog. Det er ganske rigtigt et meget vilkårligt, reproducerbart sprog – men dets demokratiske modstykke er også sprog, der bare holdes inden for visse grænser. Men er disse grænser for, hvad der kan siges, virkelig skabt af en klike af medieeksperter? Hvordan er de i stand til at undertrykke den ægte grammatiske kreativitet, som vi alle har i os?

Problemet er dette: De propagandamaskiner, som Chomsky mener fabrikerer samtykke, er nu tæt på hundrede procent AI-drevne. Det er ikke en stat eller en regering, der gør det arbejde – det er AI’s sproglige formåen i en kulturel skala, vi simpelthen aldrig har set før. I den marxistiske tradition kaldes dette ideologi. Kontinuiteten mellem produktion og kultur har aldrig været mere bogstavelig. Vi har nu maskiner, der kan automatisere ikke bare Taylor Swift (vi krydser fingre), men også den type af undertrykkende påvirkning, som Chomsky fandt i medierne. LLM’er kobler Platons problem til Orwells problem. Resultatet er et virkeligt kaos, fordi vi ikke kan se, hvad der er sprog, og hvad der bare er maskiner. Måske har den distinktion fra begyndelsen af aldrig været klar.

Det, der står mellem Platon og Orwell, er kulturen, og med fremkomsten af generativ AI står vi med et kulturproblem. Den generelle, intellektuelle forvirring i 2023 er ikke kun et Chomsky-problem. Det er en tendens, vi har til at undervurdere kulturen, selv når det er selve den, der driver os til vanvid. Vi vil måske gerne tro, at den “menneskelige kreativitet” – der er et konstant omkvæd i Chomskys forfatterskab – ikke er modtagelig over for statistiske teknikker. Men selvom det giver mening at forbeholde sig retten til at dømme avantgarden, synes jeg, det er klart, at Taylor Swift virkelig kunne være en AI, til dels fordi hyperproducerede medieprodukter som hendes musik eller Marvel-film finder en slags statistisk centrum i kulturens enorme omfang – hvilket præcis er det, generativ AI gør. Der ligger en menneskelig sprogproduktion i ufattelig stor skala mellem alle former for formel lingvistik og de typer af farer, som Chomsky og Kissinger begge diagnosticerer. GPT-systemer afslører simpelthen denne skala, og vi bryder os ikke om resultaterne. Men vi har ikke råd til at ignorere dem.

Ifølge Chomsky fremtvinger AI i sin nuværende form grove korrelationer mellem datasæt. Det er en fundamentalt anderledes proces end den, mennesker udfører med sproget, nemlig at skabe forklaringer. Vi har en “universel grammatik”, der gør det muligt for os at lære med “næsten matematisk elegance”, hvor disse programmer lærer menneskeligt mulige og “menneskeligt umulige” sprog på samme måde. De “handler blot med sandsynligheder, der ændrer sig over tid”, uden nogen relation til sandheden, og – understreger Chomsky – de er ude af stand til at frembringe moralske bedømmelser.

Alt dette er rigtigt. Især LLM’er fodres med enorme mængder tekst i størrelsesordenen en billion ord, en helt utænkelig mængde trykt sprog. Derefter “lærer” de ved at komprimere data til mønstre ved hjælp af en omfattende, men matematisk simpel algoritme. ChatGPT, der brød igennem i den offentlige debat i slutningen af 2022 (den er siden blevet opdateret mange gange), opdelte sine billioner af træningsord i omkring halvtreds tusind “tokens”, for det meste ord, men også små stykker af ord, der er nyttige til at få sproget til at fungere, som fx “-ing”.

Det oprindelige resultat er – efter den “pretraining”, som er det, p’et i GPT står for – et fuldt ud fastlagt netværk, hvor hver enhed har en grad af sandsynlighed for at komme efter den, der kommer før den. Hvis jeg siger “kommunist”, stiger sandsynligheden for “manifest”, og det samme gør sandsynligheden for “svin”. LLM’er samler en lille pulje af sandsynlige næste ord og scanner derefter sammenhængen for at vælge, hvilket der skal placeres som det næste. Hvis man har chattet med et af disse systemer, ved man, at det faktisk producerer godt engelsk (og mange, mange andre sprog også). Fra næsten alle teoretiske perspektiver, inklusive Chomskys, var det bare ikke meningen, at det skulle være tilfældet.

Chomsky har været modstander af den statistiske indfangning af sprog i næsten halvfjerds år. Det er værd at forstå, hvordan hans analyse fungerer, for det viser os, hvad det er, AI gør, som tvinger Platon og Orwell sammen.

I 1957 udgav Chomsky Syntactic Structures, en lille bog, der skulle omforme lingvistikken og kognitionsvidenskaben i bredere forstand i to generationer. Han ville vise, at et sprogs grammatik – det, der gør det muligt for os at skelne mellem gode og dårlige sætninger – var uafhængig af andre faktorer, herunder ordenes betydning.

Han fremlagde sin sag ved hjælp af sætninger, der blev næsten lige så berømte, som han selv er: “Farveløse grønne ideer sover rasende” og “Rasende sover ideer grønne farveløse.” Den første sætning er grammatisk [korrekt] – den betyder ikke noget, men den er umiddelbart genkendelig som en dansk sætning. Den anden sætning er lige så meningsløs, men den er heller ikke en rigtig sætning. Man snubler, når man læser den højt. Der er noget, der ikke stemmer.

For Chomsky var det mere end ordstillingen, der var gal. Et af målene for dette tankeeksperiment var Claude Shannon, grundlæggeren af informationsteorien, som i vid udstrækning betragtes som primært fundament for det digitale univers. Shannon var interesseret i kommunikation, som han opfattede som afsendelse af information ad en kanal til en modtager. Han var ligeglad med, om det, der blev sendt, var sprog eller meningsløse signaler eller hvad som helst – det eneste, der betød noget, var at få styr på strukturen. Han brugte det engelske sprog som forsøgskanin for at finde ud af, hvordan man laver en sikker kanal, som information kan sendes sikkert ad. De formler, han opfandt til det formål, ligger til grund for al digital kommunikation i dag.

Shannon var også interesseret i sprog, men på en anden måde end Chomsky. Han argumenterede for, at hvis man har bogstavet q på en side, kan man teknisk set have seksogtyve forskellige bogstaver efter det (inklusive et mellemrum). Men det er overvejende sandsynligt, at u vil være det efterfølgende bogstav. Denne idé gør Shannon til den intellektuelle grundlægger af autokorrektur – men også af generativ AI. Det er en statistisk tilgang til sprog, som udelukkende er baseret på hyppigheden af bogstaver eller ord. LLM’er, som jeg beskrev dem ovenfor, følger denne idé: Find ordfrekvenserne og reproducer dem. Shannon opfandt aldrig en maskine, der rent faktisk kunne spytte sprog ud, men vi lever med produkterne af hans ideer.

Chomsky tog direkte sigte på Shannon. Ingen maskine, mente han, kunne virkelig skelne de to sætninger fra hinanden. Engelsk grammatik var ikke bare en “høj grad af statistisk tilnærmelse til engelsk.” Man er nødt til at kunne grammatik, ikke bare forudsige ord eller bogstaver.

I sin kronik fra 2023 bruger Chomsky et af sine eksempler fra Syntactic Structures tilbage i 1957 og skriver, at

fordi disse programmer ikke kan forklare reglerne for engelsk syntaks, kan de f.eks. godt forkert forudsige, at “John er for stædig til at tale med” betyder, at John er så stædig, at han hverken vil tale med den ene eller den anden (snarere end at han er for stædig til at blive talt til fornuft) …. De korrekte forklaringer på sprog er komplicerede og kan ikke læres bare ved at marinere dem i big data.

Jeg besluttede mig for at gå til kilden:

Anonym: Hvad betyder denne sætning? “John er for stædig til at tale med”

ChatGPT: Udtrykket “John er for stædig til at tale med” antyder, at John er meget modstandsdygtig over for at ændre sine meninger eller sin adfærd, hvilket gør det vanskeligt eller frustrerende at føre en samtale med ham. Det antyder, at Johns stædighed er en barriere for effektiv kommunikation eller diskussion, fordi han måske ikke er villig til at overveje forskellige perspektiver eller gå på kompromis med sine synspunkter.

Til dem, der holder regnskab derhjemme: Shannon (og Sam Altman): 1, Chomsky: 0.

Så spurgte jeg ChatGPT om de farveløse grønne ideer i begge versioner. Den gav mig en lille historie om den gode sætning og forklarede Chomskys lingvistik i grundlæggende, men holdbare termer. Den kaldte den ugrammatiske sætning (“furiously sleep ideas green colorless”) for en “meningsløs sammenstilling” og betegnede chatten som en “usammenhængende forespørgsel, tilfældige ord.” Efter en del tilskyndelse erkendte den, at den anden sætning var en omskrivning af den første og konkluderede, at grammatik “alene ikke garanterer meningsfuld kommunikation.” Det er næsten det modsatte af Chomskys pointe – men det er også sandt. Flere point til ChatGPT.

Her kommer så problemet: Intet af det, maskinen producerede, kan regnes som bevis i den ene eller anden retning. Kender den disse sætninger, eller er statistisk forudsigelse bare langt kraftigere, end vi var i stand til at iagttage i 1940’erne og 50’erne? Det er den debat, der driver balladen hos OpenAI. Hvis de rigtige svar kommer frem, hvordan kan man så benægte, at der er tale om intelligens?

AI producerer virkeligt sprog – men fortæller os ikke, hvordan menneskehjerner fungerer

Problemet er, at selve spørgsmålet er forkert: AI producerer virkeligt sprog – men ikke den slags, der fortæller os, hvordan menneskehjerner fungerer. OpenAI’s metafysik kan ikke besejres inden for Chomskys ramme, fordi han ikke kan forbinde sit syn på menneskeligt sprog og sin analyse af propaganda. Det manglende begreb er kultur.

Den måde, vi skal opfatte AI på, er mere som Eagles end som Creedence, mere de underlige dele af den digitale kultur end sindets indre funktion, som avantgardekunsten kildrer og inspirerer. Men det er ikke kun Chomsky, der hader Eagles. Det gør vi alle sammen.

I august afslørede journalister, at LLM’er blandt andet bliver trænet på en masse bøger. Books3-datasættet indeholder hundredtusindvis af bøger, hvoraf mange er copyright-beskyttede, og værker af William Shakespeare, Stephen King og Toni Morrison har en fremtrædende plads. Forfatterne var hurtige til at reagere på denne afsløring. Komikeren Sarah Silverman står i spidsen for et søgsmål mod OpenAI og Meta. Margaret Atwood, der er bedst kendt for at have skrevet The Handmaid’s Tale, skrev et sønderlemmende stykke om AI’s brug af romaner. Stephen King udviste ligegyldighed og sagde, at han ikke troede, at AI inden for den nærmeste fremtid ville være i stand til at gøre det, han gør. Men pointen er ikke, om AI er i stand til at skrive bøger. Pointen er, at AI er bøger.

Selv kognitionsforskere har erkendt, at LLM’er er “kulturmaskiner“. Men rammerne for kognitionsvidenskab, herunder den stadig mærkbare indflydelse fra Chomsky, dominerer vores forståelse af disse afgørende algoritmer. Så længe det er tilfældet, vil vi ikke være i stand til at konstruere en venstreorienteret politik for AI’s tidsalder.

Kognitive teorier om kunstig intelligens har misforstået den store pointe. Teorierne er ikke skaleret i takt med big data og den massive databehandling, der kræves for at drive maskinintelligens. Marx’ grundlæggende overbevisning om sproget giver et udgangspunkt for at opbygge en alternativ forståelse, der forbinder sprog og politik, som disse maskiner faktisk gør i realtid. Men indtil nu har marxistisk kulturteori ikke været særlig opmærksom på det problem, Chomsky udgør.

Vi tager det for givet, at kunstværker på en eller anden måde bygger på hinanden. Det er måske mest tydeligt i tv eller i serier. Man kan ikke forstå [filmen] Avengers: Endgame, hvis man ikke har set alle forgængerne (jeg prøvede engang, og det var … forfærdeligt). Men det er ikke kun inden for fiktive universer, at dette sker. Stilen i en film, smagen i en roman – det er effekter i stor skala sammenlignet med de sætninger og billeder, der udgør dem. Selv i hverdagssproget, den slags vi bruger til at organisere os som et produktivt samfund, stirrer vi ikke bare på individuelle ord hele tiden. Lange samtaler er normen, hvor en reel relation er på spil. Par kæmper om implicit mening på måder, der er svære at udrede. Chefer fyrer og forfremmer medarbejdere på grund af det, der sker i indirekte kommunikation, ikke kun på grund af deres “præstationer”. Alt dette spiller, som Marx påpegede, en rolle i produktionsforholdene.

Den måde, produktionen er organiseret på, er emnet for Kapitalens første bind, hvoraf en stor del er dedikeret til fabrikken med maskiner. Marx argumenterer for, at maskiner og arbejdere er sat op mod hinanden i et nulsumsspil, der marginaliserer arbejdet ved at omdanne det til justering af indstillinger og knapper, til at passe maskiner. Tænk på selvbetjeningskassen i supermarkedet – der skal stadig være nogen til stede, men der er brug for radikalt færre arbejdere, og de er der mest for at forhindre butikstyveri og hjælpe med uundgåelige fejl ved maskinen. Marx mente, at maskinerne opfyldte kapitalens mission: At beherske og at bringe arbejdskraften helt under sin kontrol. Fabrikken er en eneste maskine; arbejderne er blot organiske, levende maskindele.

Men fabrikken skal stadig organiseres ved hjælp af sprog, så forholdet mellem arbejdere og chefer og den organisation, som ledelsen udfører – dybest set hele virksomheden – har stadig dette fuldstændigt menneskelige medium som sit bankende hjerte. Det er det, der kan ændre sig med automatiseringen af sproget.

Digitale teknologier har gjort den samlede fabrik til en del af et globalt maskinsystem. Dette system holdes sammen af data, der forbinder forsyningskæder, salgssteder, fabrikker og stort set alle forbrugere på jorden. Dette datasystem er blevet et vilkår for den moderne kapitalisme. Men der har stadig fundet en kommunikation sted mellem mennesker langs forsyningskæderne og i den globale kapitals skyttegrave. LLM’er automatiserer, afhængigt af hvordan de anvendes nu – noget ingen endnu kan vide – dette generelle medium for global produktion og bytte. De tager det sprog, som Chomsky mener, kun kan eksistere dybt inde i det menneskelige sind, og kobler det til den globale kapitals ufatteligt komplekse netværk. Hvis vi anvender kulturfrembringelse i det rum, kan vi helt miste overblikket – ikke bare kontrollen – over kapitalens intriger.

Alt dette er for at sige, at sprogfilosofien er mere presserende for venstrefløjen, end den nogensinde har været. Kulturanalysen må nu ind i billedet – omfanget og virkningerne af sproget i den automatiserede verden kan ikke beskrives korrekt uden den. Man er nødt til at forstå, at kulturen ikke længere blot er en “overbygning”, men de skinner som kapitalen kører på.

I et interview i 2012 sagde Chomsky, at “hvis et molekyle bliver for stort, giver [fysikerne] det til kemikerne”. Og når det så bliver for stort for dem, giver de det videre til biologerne, derefter til psykologerne, indtil “det til sidst ender i hænderne på litteraturkritikerne.” AI har gjort denne vittighed bogstavelig – og det enorme digitale sprog er det hængsel, som kritikken af kapitalismen drejer sig om i AI’s tidsalder.

Leif Weatherby er lektor i tysk ved New York University og forfatter til ”Transplanting the Metaphysical Organ: German Romanticism Between Leibniz and Marx”.