NAVO neemt omstreden AI-systeem van Amerikaans bedrijf Palantir in gebruik

Het defensieplatform Maven Smart System is klaar voor gebruik door de NAVO. Daarmee zet het bondgenootschap een grote stap in zijn digitale transformatie, zo zegt de NAVO op haar site. Maar Palantir, de leverancier van Maven Smart System (MSS), is omstreden.

Software van Palantir wordt door Israël ingezet in de oorlog in Gaza. In de VS gebruikt ICE diensten van Palantir bij het opsporen van immigranten. Daarbij worden volgens Amnesty International mensenrechten geschonden.

De oprichter van Palantir, de omstreden techmiljardair Peter Thiel, vindt hard geweld noodzakelijk voor het handhaven van orde.

Palantir zelf zegt binnen de grenzen van het oorlogsrecht te opereren.

Razendsnel

Europese landen gebruiken, ondanks bezwaren tegen het bedrijf, al langer andere software van Palantir. De banden verbreken is lastig: Palantirs Maven Smart System is momenteel het toonaangevende systeem als het gaat om de inzet van AI op het slagveld.

MSS kan razendsnel doelwitten selecteren. Informatie uit verschillende bronnen wordt verzameld en met behulp van AI met elkaar gecombineerd. Bij de aanvallen van de VS en Israël op Iran werd MSS door het Amerikaanse leger op grote schaal ingezet.

Met MSS verwacht de NAVO dat het als bondgenootschap sneller en efficiënter kan opereren en dat militaire onderdelen van lidstaten beter met elkaar kunnen samenwerken.

Kleine schaal

Volgens staatssecretaris Boswijk (CDA) van Defensie gebruikt Nederland sinds 2010 op kleine schaal software van Palantir. Maven Smart System van Palantir wordt momenteel door Defensie geëvalueerd.

Voor de verdere ontwikkeling van een modern leger wil Defensie data en AI een belangrijke rol laten spelen.

Nederland wil daarbij, samen met andere Europese landen, beheer van en controle over militaire data in eigen hand houden. Een toekomstig AI-platform voor Europese strijdmachten zou daarom uit Europa moeten komen.

Maar een alternatief voor Palantir als leverancier van de benodigde software is er nog niet.

Eerder maakte NOS op 3 al deze video over de werkzaamheden van het bedrijf:

NOS op 3 maakte eerder dit jaar deze uitlegvideo over Palantir:

Ondertussen verklaarde de NAVO onlangs MMS van Palantir als "technisch volledig operationeel", een jaar nadat het het systeem had aangeschaft.

Het militair bondgenootschap geeft MSS volledige toegang tot zijn geclassificeerde netwerk, dat verder alleen toegankelijk is voor medewerkers met speciale toestemming.

Transparantie

Zo lijken Nederland en andere Europese NAVO-leden in een spagaat te zitten. Enerzijds leeft de wens de nationale strijdmacht minder afhankelijk te laten zijn van Palantir. Frankrijk maakte onlangs bekend dat de inlichtingendienst stopt met Palantir. Anderzijds nemen Europese landen deel aan een militair bondgenootschap dat een systeem van Palantir volledige toegang geeft tot zijn informatienetwerk.

Staatssecretaris Boswijk noemt het in een brief aan de Kamer een "tweesporenbeleid".

"Maar hoe je die twee met elkaar kunt laten rijmen, dat vereist meer transparantie van de Nederlandse overheid", zegt Jessica Dorsey. Zij is universitair docent internationaal recht aan de Universiteit Utrecht en doet onderzoek naar doelwitten die zijn gekozen met hulp van AI.

Volledige controle

Palantir benadrukt dat het als leverancier van MSS geen toegang heeft tot data binnen het systeem. "Vergelijk het met een artikel dat je schrijft in Word", zegt Louis Mosley, Executive Vice President UK & Europe van Palantir. "Microsoft heeft er geen toegang toe en kan de tekst niet lezen. Precies zo is de relatie van Palantir met zijn klanten."

Ook mogelijke controle van de Amerikaanse overheid over in een cloud opgeslagen data binnen MSS wordt tegengesproken. Mosley: "Er is geen kill switch en geen achterdeur. NAVO controleert volledig de toegang tot het platform."

Bezwaren

Dorsey heeft grote bezwaren tegen de grootschalige inzet van AI op het slagveld. Die bezwaren gaan onder meer over de juistheid van informatie die het systeem gebruikt.

Ze noemt het bombardement op een lagere school in Iran, waarbij naar schatting zo'n 120 kinderen werden gedood, volgens onderzoek van persbureau Bloomberg het gevolg van het niet goed verwerken van informatie van een militair analist.

Geen doelwit

Die analist zou wel hebben doorgegeven dat het gebouw geen militair doelwit meer was, maar het systeem waarin hij die informatie verwerkte, was niet gekoppeld aan het Maven-systeem van het Amerikaanse leger.

Ook de snelheid waarmee MSS informatie aanlevert, stuit op weerstand. "In de eerste 96 uur van de operatie tegen Iran werden 5000 doelwitten geraakt. Dat is gemiddeld 70 seconden per doelwit om te beslissen of de aangeleverde informatie correct is en de legitimiteit van de doelwitten te verifiëren. In zo'n korte tijd lijkt dat bijna onmogelijk", zegt Dorsey. ...