Waarom AI-bedrijven je bang willen maken: 'We denken al snel aan The Terminator'

Je raakt je baan kwijt. Alles wordt straks gehackt. De mensheid wordt vernietigd. De doemscenario's over kunstmatige intelligentie verschillen, maar ze hebben hetzelfde doel: je ervan overtuigen dat AI zó krachtig is, dat je er een beetje bang voor moet zijn. "De beeldvorming rond AI is heel hardnekkig: we denken al snel aan The Terminator."

Grote AI-bedrijven vertellen graag hoe gevaarlijk hun nieuwste AI-programma is. En daarna doen ze elke keer hetzelfde: ze brengen het toch op de markt. Zo zei OpenAI al zeven jaar geleden dat het zich zorgen maakte over misbruik van de technologie die het had ontwikkeld. Het is dan begin 2019, bijna vier jaar voordat het bedrijf grote bekendheid krijgt met ChatGPT. OpenAI werkt dan aan een vroege versie van het AI-programma waarop de chatdienst is gebouwd.

Dit AI-programma heet GPT-2 en kan volgens OpenAI weleens voor grote problemen gaan zorgen. Bijvoorbeeld dat mensen het gebruiken om misleidende nieuwsberichten te maken, teksten te schrijven om mensen op te lichten of kwetsende berichten op sociale media te sturen. Daarom wordt het maar op beperkte schaal uitgebracht.

De terughoudendheid duurt niet lang: negen maanden later wordt GPT-2 alsnog volledig beschikbaar, terwijl OpenAI nog wel even opmerkt dat het tekstprogramma gebruikt kan worden voor racisme of terrorisme.

'Enorme gevolgen voor de veiligheid'

Eerder dit jaar deed AI-bedrijf Anthropic hetzelfde. Met zijn AI-programma Mythos zou iedereen zonder technische kennis kunnen hacken, beweerde het bedrijf. "De gevolgen voor de economie, de openbare veiligheid en de nationale veiligheid kunnen enorm zijn." Daarom maakte het bedrijf het AI-programma naar eigen zeggen alleen beschikbaar voor een kleine groep bedrijven en organisaties.

"De naam Mythos is natuurlijk al briljant", zegt Hannes Cools van de Universiteit van Amsterdam. Hij doet onderzoek naar het taalgebruik rond kunstmatige intelligentie. "Het doet denken aan de Griekse mythologie, alsof het een soort god is. Daardoor denk je al snel dat het heel krachtig of machtig is."

De aandacht voor Mythos hielp Anthropic toen het een paar maanden later Fable uitbracht, een variant van Mythos die "wel veilig is voor algemeen gebruik", denkt Cools. "Door Mythos kreeg Fable ook dezelfde aantrekkingskracht. Uiteindelijk willen ze natuurlijk iets verkopen."

Slecht nieuws omzetten in goed nieuws

Dit is wat AI-bedrijven de hele tijd doen, zegt technologiedeskundige Bert Hubert. "Dit soort bedrijven zegt elke paar maanden: 'Onze technologie is zo gevaarlijk en zo vreselijk, daar moeten we heel voorzichtig mee omgaan.' Dat zorgt elke keer voor bergen met aandacht. Om dan zes weken later te zeggen dat je het daar kan krijgen."

Afgelopen week zag hij het weer, dit keer opnieuw bij OpenAI. Het bedrijf maakte bekend dat het met een van zijn AI-programma's per ongeluk een ander bedrijf heeft gehackt. "Normaal noemen we dat een misdaad. Maar OpenAI zet het slechte nieuws om in goed nieuws. Ze zeggen dat ze iets doms hebben gedaan, maar ook hoe krachtig hun technologie is."

Ook volgens UvA-onderzoeker Cools heeft OpenAI goed in de smiezen dat ze dit in hun voordeel kunnen gebruiken. Dat kun je verwachten van een commercieel bedrijf, zegt hij. Het probleem zit volgens Cools vooral in hoe media erover schrijven: het AI-programma zou 'op hol zijn geslagen'. "Dat is niet wat hier is gebeurd. Maar het klinkt wel alsof alle alarmen afgaan."

De beeldvorming rond AI doet mensen denken aan de sciencefictionfilm The Terminator, zegt Cools. "Woorden als 'op hol slaan' zorgen ervoor dat we niet goed begrijpen wat deze technologie wel en niet kan. Het is kwalijk, omdat het OpenAI helpt in hun verhaal dat de AI fout was, en niet zij. Terwijl OpenAI hiervoor verantwoordelijk is."

'Bedrijven verkopen een verhaal'

"OpenAI en Anthropic willen bepalen hoe een verhaal naar buiten komt", zegt Andrea Reyes Elizondo. Zij is onderzoeker aan het Centrum voor Wetenschaps- en Technologiestudies van de Universiteit Leiden, waar onderzoek wordt gedaan naar de impact van wetenschap en technologie. "Ze vertellen hun verhaal zo dat mensen denken dat AI goed of eng is. Of in ieder geval veel mogelijkheden heeft."

Wees dus kritisch als een bedrijf iets roept, zegt ze. "Hun verhaal richt zich op verschillende mensen. Als een topman zegt dat AI onze banen gaat overnemen, hebben ze het tegen hun klanten: de directeuren van andere bedrijven. Zodat zij denken dat zij hun personeel kunnen vervangen door AI, om hun kosten te verlagen. De AI-bedrijven verkopen verhalen, omdat ze geld willen verdienen."

"Deze bedrijven hebben een interesse: ze willen geld verdienen. Wat ze willen, is niet per se in het belang van gewone mensen. Of van de maatschappij. Vraag je dus af: waarom vertelt het bedrijf dit?"

In deze video laat NOS op 3 meer voorbeelden zien van hoe de AI-industrie doemscenario's gebruikt, en waarom: ...