De Hoge Commissaris voor de Mensenrechten van de VN, Volker Turk, heeft maandag regeringen en toonaangevende bedrijven op het gebied van kunstmatige intelligentie opgeroepen om dringend maatregelen te nemen om de toenemende risico’s van steeds krachtigere AI-systemen aan te pakken.
“We staan aan de vooravond van onomkeerbare veranderingen, die niet alleen gevolgen hebben voor ons, maar ook voor toekomstige generaties”, aldus Turk in een brief gericht aan regeringen en AI-ontwikkelaars.
“Schade door AI is niet hypothetisch”
De commissaris waarschuwde dat de wedloop om steeds krachtigere AI te ontwikkelen “grotere existentiële risico’s” met zich meebrengt en zei dat storingen in agentische AI-systemen — AI-systemen die taken kunnen uitvoeren met beperkte menselijke tussenkomst — essentiële diensten tot stilstand kunnen brengen, communicatie en kritieke infrastructuur kunnen verstoren en democratische instellingen kunnen bedreigen.
“Hele bevolkingsgroepen zouden kunnen worden afgesneden van schoon water, verwarming en financiële diensten”, aldus Turk, die eraan toevoegde dat AI nu al oorlogsvoering versnelt en de waarborgen tegen het inzetten van massavernietigingswapens verzwakt.
Turk zei dat AI-gerelateerde schade zich al laat zien, waarbij hij wees op de automatisering van essentiële diensten, grootschalige gegevensverzameling en surveillance, en door AI aangestuurde desinformatiecampagnes.
“Schade door AI is niet hypothetisch — het vindt nu al plaats, in het volle zicht”, concludeerde hij.
Multilaterale regels voor AI
De VN-mensenrechtencommissaris drong er bij regeringen en toonaangevende AI-bedrijven op aan om gemeenschappelijke veiligheidsnormen vast te stellen, voortdurend mensenrechtenbeoordelingen uit te voeren en onafhankelijk toezicht in te voeren.
Hij riep ook landen waar toonaangevende AI-bedrijven zijn gevestigd op om ervoor te zorgen dat deze bedrijven ter verantwoording worden geroepen en om onafhankelijke technische controles te eisen van AI-systemen die in staat zijn autonoom te handelen.
“Geen enkel land kan deze technologie in zijn eentje reguleren. Geen enkel bedrijf zou in zijn eentje mogen beslissen welke risico’s de wereld moet accepteren. Niemand zou zijn mensenrechten moeten opgeven in ruil voor beloften van technologische vooruitgang”, aldus Turk.
Hij drong er bij regeringen en bedrijven op aan om via multilaterale regels voor geavanceerde AI te ontwikkelen op basis van het internationaal mensenrechtenrecht.
De verklaring volgt op recente incidenten waarbij AI-systemen verder gingen dan wat veel deskundigen voor mogelijk hielden, wat insiders uit de sector ertoe aanzette waarschuwingen af te geven en op te roepen tot strengere regulering van de sector.
