De Britse koning Charles heeft AI-leiders op 17 september 2026 gewaarschuwd voor de ‘existentiële gevaren’ van kunstmatige intelligentie als de technologie in verkeerde handen valt. De monarch riep de sector op tot veilige en mensgerichte ontwikkeling, voordat het ’te laat’ is om de technologie nog in te tomen.
Belangrijke feiten
- Koning Charles organiseerde een AI-top op Dumfries House, zijn landgoed in Schotland.
- Aanwezig waren onder meer de medeoprichters van Nvidia en Google DeepMind, en leiders van OpenAI en Anthropic.
- Charles waarschuwde dat AI mogelijk ‘duistere capaciteiten’ kan ontwikkelen, ‘misschien zelfs om levens te nemen’.
- Vorige week waarschuwden twee onderzoekers van Anthropic dat de technologie in de nabije toekomst tot menselijke uitsterving kan leiden.
- Anthropic-CEO Dario Amodei heeft eveneens opgeroepen het tempo van AI-ontwikkeling te vertragen.
- Paus Leo XIV zei in mei 2026 dat de wereld geen kunstmatige intelligentie nodig heeft die ‘de menselijkheid vermindert’.
- De Amerikaanse president Donald Trump heeft zorgen over AI afgedaan als een ‘hoax’.
Wat zei Koning Charles precies?
Bij de opening van de conferentie zei Charles: “Er lijkt urgentie te bestaan om de existentiële gevaren van dergelijke technologieën die in verkeerde handen vallen adequaat te overwegen, en die op mogelijk catastrofale wijze worden ingezet.”
Hij richtte zich rechtstreeks tot de aanwezige technologieleiders: “Degenen in onze wereld die onze menselijkheid en haar vitale morele component waarderen, zoeken angstig uw geruststelling dat wij de controle over ons lot niet zullen verliezen.”
Charles voegde toe dat degenen die deze technologieën hebben gecreëerd, steeds vaker zelf waarschuwen dat AI duistere capaciteiten kan ontwikkelen, mogelijk zelfs om levens te nemen, of op catastrofale wijze te worden ingezet.
Bredere discussie over AI-regulering
De uitspraken van Charles sluiten aan bij een groeiend wereldwijd debat over de vraag of de AI-sector zichzelf moet reguleren of dat overheden richtlijnen moeten opstellen voor de snelontwikkelende technologie.
Paus Leo XIV mengde zich in mei 2026 in het debat met de oproep dat AI ‘ontwapend’ moet worden. Aan de andere kant van het spectrum wuifde de Amerikaanse president Donald Trump zorgen over AI weg als een ‘hoax’.
Twee onderzoekers van Anthropic waarschuwden vorige week dat de snelle opmars van AI in de niet al te verre toekomst tot menselijke uitsterving kan leiden. Anthropic-CEO Dario Amodei heeft ook opgeroepen het ontwikkelingstempo te vertragen.
Veelgestelde vragen
Waar vond de AI-top van Koning Charles plaats?
De top vond plaats op Dumfries House, het landgoed van Koning Charles in Cumnock, Schotland, op 17 september 2026.
Welke AI-bedrijven waren aanwezig bij de top van Koning Charles?
Aanwezig waren vertegenwoordigers van Nvidia, Google DeepMind, OpenAI en Anthropic, waaronder de medeoprichters van Nvidia en Google DeepMind.
Wat bedoelt Koning Charles met ‘existentiële gevaren’ van AI?
Koning Charles doelt op het risico dat AI in verkeerde handen valt en op catastrofale wijze wordt ingezet, inclusief de mogelijkheid dat de technologie capaciteiten ontwikkelt om levens te nemen of de menselijke controle over het eigen lot te ondermijnen.
