Aanleiding voor de vragen zijn recente waarschuwingen vanuit de AI-sector zelf. Stoffer verwijst onder meer naar het vertrek van onderzoeker Jacob Coxon bij AI-bedrijf Anthropic. Coxon uitte scherpe kritiek op de wedloop tussen AI-bedrijven en waarschuwde voor de mogelijke gevolgen van toekomstige systemen die de menselijke intelligentie ver zouden overstijgen.

Stoffer vraagt de staatssecretaris van Digitale Economie en Soevereiniteit hoe het kabinet de waarschuwing beoordeelt dat de ontwikkeling van zeer geavanceerde AI mogelijk sneller verloopt dan het treffen van voldoende veiligheidsmaatregelen. 'Welke conclusies verbindt u daaraan?', vraagt de SGP’er. Ook wil hij weten of het kabinet scenarioanalyses heeft laten uitvoeren naar de gevolgen van geavanceerde AI voor de nationale veiligheid.

Cyberaanvallen en vitale infrastructuur
Daarbij kijkt Stoffer verder dan de vraag of AI in de toekomst daadwerkelijk ‘superintelligent’ kan worden. Hij noemt concrete veiligheidsrisico’s die nu al relevant zijn of door krachtigere systemen groter kunnen worden. De SGP’er vraagt daarnaast welke extra maatregelen nodig zijn om Nederland digitaal weerbaarder te maken. Hij noemt daarbij vitale infrastructuur, overheidsorganisaties, defensie en de bescherming van burgers.

Een ander punt is het voorzorgsbeginsel. Stoffer vraagt hoe het kabinet daarmee omgaat bij AI-systemen 'waarvan de maatschappelijke gevolgen mogelijk verstrekkend en onomkeerbaar zijn'. Ook de internationale concurrentiestrijd tussen technologiebedrijven en landen baart hem zorgen. Hij vraagt of het kabinet het risico deelt dat 'veiligheidsbelangen ondergeschikt raken aan technologische en economische belangen'.

Die vraag sluit aan bij de kritiek van Coxon. De voormalige Anthropic-onderzoeker stelt dat grote AI-bedrijven verwikkeld zijn in een wedloop om steeds krachtigere systemen te ontwikkelen. Hij pleit daarom voor een tijdelijke pauze in de ontwikkeling van de sterkste modellen. Andere veiligheidsonderzoekers bij Anthropic hebben eveneens zeer vergaande waarschuwingen geuit over een toekomst waarin AI zich aan menselijke controle zou kunnen onttrekken. Het gaat daarbij om inschattingen en toekomstscenario’s; hoe waarschijnlijk zulke scenario’s daadwerkelijk zijn, is onderwerp van stevige discussie.

AI raakt ook christelijke mensvisie
De discussie is voor christenen niet alleen een technisch of politiek veiligheidsvraagstuk. Ook op Cvandaag komt regelmatig de vraag aan de orde wat kunstmatige intelligentie betekent voor het christelijke mensbeeld, menselijke verantwoordelijkheid en de plaats die technologie in het leven mag innemen.

Zo waarschuwde voormalig RD-hoofdredacteur Steef de Bruijn onlangs dat AI "dichter dan ooit bij de kern van ons mens-zijn" komt. Doordat chatbots steeds menselijker overkomen en worden ingezet bij bijvoorbeeld geloofsvragen, huwelijkstwijfels en preekvoorbereiding, ontstaat volgens hem het gevaar dat gebruikers aan AI een gezag toekennen dat het niet bezit. "AI is geen neutrale autoriteit", stelde hij.

In eerdere Cvandaag-publicaties kwam tegelijk naar voren dat christenen technologie niet per definitie hoeven af te wijzen. Communicatieadviseur Eric van den Berg wees erop dat AI kansen biedt voor onder meer kerken en evangelisatie, maar benadrukte daarbij dat "AI geen vervanging van de Heilige Geest" is. Ook waarschuwde hij tegen een visie waarin de mens wordt gereduceerd tot een verzameling data.

Recent bleek bovendien uit Amerikaans onderzoek dat bijna alle ondervraagde protestantse voorgangers zich zorgen maken over het risico dat AI de Bijbel verkeerd interpreteert.