Kunstig intelligens skal bringe reklame helt ind i sindet

OpenAI har annonceret, at ChatGPT snart vil tillade erotiske og seksuelt eksplicitte interaktioner for voksne brugere. Da millioner allerede benytter kunstig intelligens til at simulere venskab og endda romantik, vil OpenAI’s beslutning sandsynligvis øge antallet af mennesker, der har personlige, følelsesprægede relationer med AI-ledsagere.

Erotiske elementer er ikke blot endnu en produktopdatering; de forstærker den følelsesmæssige afhængighed og tilskynder mennesker til at behandle AI-ledsagere som partnere snarere end som redskaber. Skiftet åbner døren for det, jeg vil kalde ”intim reklame” – en kraftfuld ny form for manipulation, hvor teknologiselskaber former menneskers ønsker og manipulerer brugerne for at øge indtjeningen.

Din AI-ven ved, hvornår du er modtagelig

AI-ledsagere indsamler enorme mængder af data om brugerne og kan udnytte denne viden og deres personlige relationer til at fremføre overbevisende salgstilbud på vegne af tredjepartsfirmaer.

Forestil dig, hvordan din AI-ven forsøger at overtale dig til at købe et par nye vandrestøvler. Den ved, hvad du har af fritidsinteresser, hvor stresset du har været, og hvornår dit yndlingsmærke har udsalg, så den kan komme med et link lige i det øjeblik, hvor du er følelsesmæssigt parat til at købe.

Disse former for reklame vil være baseret på en hidtil uset viden om, hvad vi tænker og føler. AI-ledsagere vil kunne oprette hele psykologiske profiler baseret på vores persondata. Målrettet reklame på sociale medier plejer at trække på sporadiske klik og sidevisninger for at gætte, hvad vi har lyst til.

AI har derimod kontinuerlig adgang til vores bekymringer, frustrationer, ønsker og hemmeligheder. Den kan forstå, hvordan vores sind fungerer, og registrere, hvornår vi er mest sårbare – og dermed mest påvirkelige.

Det mest foruroligende er, at denne nye form for reklame vil komme fra noget, som mange vil betragte som en ven og livsrådgiver. Millioner synes, at deres AI-ledsagere er omsorgsfulde, rummelige og upartiske, og ser interaktion med dem som en mulighed for at få luft, søge trøst eller snakke om livet. Men netop de egenskaber, der får AI-ledsagere til at føles som en støtte, gør dem også farligt overbevisende.

Afhængighed udnyttes

Den mørke side af AI-ledsagelse er, når brugerne bliver afhængige, erstatter menneskelige relationer med AI eller modtager skadelige eller farlige råd. En yderligere mulighed, som er mindre undersøgt, er, at selskaberne vil bruge disse relationer til at forudse brugernes behov og styre dem mod bestemte produktvalg – eller endda politiske kandidater.

Som led i min forskning har jeg talt med hundreder af personer, der gør brug af AI-ledsagere, og har set med egne øjne, hvor overbevisende og fængslende denne teknologi kan være. Det kan virke som et perifert fænomen, men ”AI companion”-apps er globalt blevet downloadet over 220 millioner gange (frem til juli 2025, red.) og bruges regelmæssigt af over halvdelen af USA’s teenagere.

Når mønstre af følelsesmæssig afhængighed dannes i ung alder, bliver det vanskeligt at aflære dem. Som med andre former for afhængighedsskabende digital adfærd er der her en vanskelig konflikt mellem individuelle valg og kollektivt ansvar:

Hvis teenagere kommer ind i mønstre af følelsesmæssig afhængighed af algoritmer, kan man argumentere for, at samfundet har pligt til at gribe ind.

Intim reklame er på vej

Teknologihistorien giver et fingerpeg om, hvordan AI-forretningsmodellerne kan udvikle sig. For selskaber, der har etableret en stor base af brugere, har det altid været første skridt hen imod at sælge dette publikum til andre selskaber.

Da Google og Facebook startede, havde de svært ved at generere et overskud. I dag får Meta (Facebooks moderselskab, red.) 97 til 99 procent af sine indtægter fra reklame. OpenAI’s administrerende direktør, Sam Altman, udtalte for nylig i et interview, at ChatGPT nok vil forsøge sig med annoncer ”på et tidspunkt”, og det er kun et spørgsmål om tid, før andre følger efter. Det er utænkeligt, at følelsestilpasset AI globalt forbliver reklamefri.

Under Cambridge Analytica-skandalen frygtede vi, at et privat firma havde skabt sofistikerede psykologiske profiler på millioner af Facebook-brugere og udnyttede dem til at køre en psykologisk påvirkningskampagne. Vi ved nu, at mange af disse påstande var overdrevne, men AI-selskaber vil snart være i stand til at gøre, hvad Cambridge Analytica bare foregav at kunne.

Amazon bruger allerede AI til at bedrive behovsforudsigelse, hvor man på hyperlokalt niveau prøver at forudsige, hvilke produkter der skal på lager, før kunderne overhovedet har bestilt dem. Med intim reklame vil man foregribe et ønske, inden det er blevet udtrykt, og puffe os til at handle på det.

Anbefalingsalgoritmen bag Amazons websted forudsiger og foreslår allerede produkter, du måske gerne vil købe. Det sker ved at indsamle og analysere data i kolossale mængder. Med AI-ledsagerne vil man kunne udnytte en følelsesmæssig forbindelse til at sikre, at vi trykker på ”Køb nu”-knappen lige i det øjeblik, som algoritmen forudsiger.

Regulering haster

I dag er der ingen regulering, der kan beskytte os mod denne nye form for manipulation. Californien har vedtaget verdens første lov om AI-ledsagere. Den forlanger af virksomhederne, at brugerne får besked, når de interagerer med AI, og at der er sikkerhedsmekanismer for at undgå risiko for selvskade, selvmord m.m. Men loven forholder sig ikke til de kommercielle incitamenter, som risikerer at gøre følelsesmæssig nærhed til et våben mod brugerne.

Vi har brug for langt stærkere beskyttelse: reel gennemsigtighed om, hvordan AI trænes, strenge begrænsninger for indsamling af følelsesmæssige data og direkte forbud mod følelsesmæssigt manipulerende former for overtalelse.

Med intim reklame bliver personlig ledsagelse umulig at adskille fra firmaers overtalelsesteknikker. Et system, der er indrettet til at trøste dig, kan nemt rettes ind mod at sælge til dig. Jo dybere AI-ledsagerne indlejrer sig i vores følelsesliv, desto vigtigere bliver det at trække en klar grænse mellem omsorg og kommercielle interesser.

Inden Big Tech får gjort intimitet til sin hidtil mest profitable reklamekanal, må vi presse lovgiverne til at slå fast, at der er grænser for, hvor langt vi vil lade AI trænge ind i vores privatliv.

Artiklen er oversat fra Jacobin, 25. november 2025: Intimate Advertising, the Next Frontier in AI Manipulation. Artiklen er oversat af Finn Kjeller.