‘China was erg actief op het gebied van AI en wapenveiligheid. In 2016 was het een van de eerste landen die opriep tot veilig gebruik van militaire AI’, vertelt Guangyu Qiao-Franco. Het land stuurde zelfs bij de VN aan op juridisch bindende afspraken die het ontwikkelen van wapens buiten menselijke controle verbood, zegt de onderzoeker van de Radboud Universiteit die donderdag een lezing geeft in Wijnhaven over de Chinese rol bij de ontwikkeling van kunstmatige intelligentie.

‘China lobbyde ook actief bij de VN-mensenrechtenraad, voor de bescherming van de rechten van kwetsbare groepen tegen de potentieel schadelijke effecten van AI. Opvallend, aangezien China vaak juist zelf door dezelfde raad wordt bekritiseerd.’

De Chinese houding wisselt voortdurend, zeker in het huidige geopolitieke klimaat, en dat baart de onderzoeker ‘grote zorgen’. ‘Het land wil een voorsprong behouden of krijgen in AI-ontwikkeling, maar tegelijkertijd de veiligheid waarborgen, niet alleen van deze technologie, maar ook om te zorgen dat de nationale veiligheid, regeringsveiligheid en openbare orde niet ondermijnd worden door AI.

‘Als je het beleid van de afgelopen jaren bekijkt, zie je die fluctuatie: de nadruk ligt op ontwikkeling tot er veiligheidsproblemen aan het licht komen, bijvoorbeeld een datalek. Dan wordt veiligheid de prioriteit. Als daar te veel nadruk op komt te liggen, zet dat de ontwikkeling weer te veel stil en zo wordt dat na een tijdje weer de focus. Momenteel ligt de nadruk op ontwikkeling vanwege door de spanningen tussen China en de VS.’

Vanaf 2017 noemde China zichzelf een ‘gelijke concurrent’ met de VS. Het was een paardenrace waarin beide landen evenveel onderzoekspatenten aanvroegen. ‘Maar toen het Amerikaanse platform Open AI zich sneller ontwikkelde, veranderde de toon van de Chinese retoriek. Het land noemde zichzelf niet meer “gelijke concurrent”, maar “wereldwijd toonaangevende volger”. Om niet achter te raken op de VS, richtte China de pijlen weer meer op ontwikkeling, en minder op veiligheid.’

Pragmatisch

‘Mensen zijn geneigd te denken dat China’s AI-beleid is gecentreerd rondom ideologie en controle’, zegt Qiao-Franco. ‘Maar eigenlijk zijn deze maatregelen gewoon pragmatisch: is de technologie haalbaar, wat is het meest gunstig voor economische groei, en hoe kan China wedijveren op het wereldtoneel en de populairste programma’s maken zonder mensenrechten te schenden?’

De stormachtige ontwikkeling van DeepSeek heeft de rol van China weer veranderd. ‘Ik denk dat ze zichzelf weer “gelijke concurrent” kunnen noemen.’ Met alle gevaren van dien: ‘Het gaat om het bereiken van technologische doorbraken, en niet om het ontwikkelen van veiligheidsmaatregelen.’

In 2024 organiseerden Nederland en Zuid-Korea samen het REAIM (Responsible AI in the Military domain) Summit. ‘Waar China een aantal jaar geleden nog vooraan stond bij dit soort regelgeving, is het land nu 180 graden gedraaid naar de rol van stille toeschouwer. Dat is een direct resultaat van die concurrentiestrijd met de VS.’

De aanpak van Amerika is te omschrijven als ‘laissez faire’, zegt ze. ‘Minimale interventie door de overheid en de nadruk op snelle ontwikkeling. De VS wil zo min mogelijk regelgeving rond AI, behalve om het worst-case scenario te voorkomen. Zij maken zich zorgen om het gebruik van AI in de commando- en controlecentra van nucleaire wapens. Ze zeggen: “We kunnen ons blijven ontwikkelen zoals we willen en de concurrentie aangaan, maar laten we het gebruik van AI in nucleaire wapens voorkomen, want dat kan leiden tot menselijke catastrofe.” Ze proberen ook China hierin mee te nemen.

‘Tijdens de regering-Biden zijn hier wel stappen in gezet. Maar dat is een vrij algemeen statement. Veel details moeten nog uitgediept worden. Want gaat het over de lanceringsbeslissing, of de ondersteuningssystemen, of de logistiek? Daar zijn experts nog over in gesprek. De lanceringsbeslissing zullen ze beide absoluut niet aan AI overlaten. Maar er gebeurt veel in de aanloop naar die beslissing. AI kan bijvoorbeeld wel informatie verwerken, en meedenken over lanceringen en doelen. Daarover is nu nog geen helder beleid.’

De onderlinge concurrentie is het grootste obstakel in het ontwikkelen van veiligheidsrichtlijnen, denkt Qiao-Franco. ‘Het gaat de VS erom om een voorsprong op China te behouden. China ziet nog steeds wel het belang van veiligheidsmaatregelen. Een vooraanstaande leider op het gebied van AI in China heeft gezegd: “Het ontwikkelen van AI zonder veiligheidsvoorzieningen is als autorijden zonder rempedaal. Je wil zorgen dat je sneller kunt rijden, maar ook alle noodzakelijke mechanismen en hulpmiddelen hebben om dat veilig te doen. Die veiligheidsmaatregelen komen er in China vermoedelijk niet door samenwerking met andere landen, maar eerder op nationaal niveau.’

Guangyu Qiao-Franco, ChatGPT vs Deepseek: China’s Rise as AI Power. Wijnhaven 2.17, 17 april, 16.00-17.00 u