Het Amerikaanse AI-bedrijf Anthropic, bekend van het taalmodel Claude, heeft donderdag opgeroepen tot een wereldwijde vertraging in de ontwikkeling van de krachtigste kunstmatige-intelligentiesystemen. Volgens het bedrijf beginnen de nieuwste modellen tekenen te vertonen dat ze steeds moeilijker door mensen te beheersen zijn.
In een uitgebreid rapport stelt Anthropic dat een tijdelijke wereldwijde pauze in de ontwikkeling van geavanceerde AI ‘waarschijnlijk goed zou zijn voor de wereld’. Het bedrijf benadrukt echter meteen de keerzijde: als slechts één bedrijf stopt terwijl anderen doorgaan, schiet zo’n maatregel zijn doel volledig voorbij.
Volgens Anthropic zou een effectieve pauze vereisen dat meerdere grote AI-bedrijven in meerdere landen, en dan met name de Verenigde Staten en China, tegelijkertijd zouden stoppen. Bovendien zou dit onder controleerbare en verifieerbare afspraken moeten gebeuren. Het bedrijf waarschuwt dat zonder een dergelijk internationaal coördinatiemechanisme, bedrijven en overheden gedwongen worden moeilijke veiligheidsbeslissingen te nemen terwijl ze onder enorme concurrentie- en geopolitieke druk staan.
Het voorstel stuit op weerstand, zowel vanuit de techsector als vanuit het Witte Huis. Critici stellen dat Anthropic de risico’s overdrijft en dat de nadruk op worst-case scenario’s in werkelijkheid een strategie is om concurrenten af te remmen onder het mom van veiligheidszorgen. Toch erkende het Witte Huis de kracht van Anthropics nog niet openbaar gemaakte model Mythos, dat vanwege zijn geavanceerde cybersecuritymogelijkheden vooralsnog alleen beschikbaar is voor een beperkte groep geselecteerde organisaties.
In Washington en Silicon Valley overheerst de opvatting dat elke vertraging in AI-ontwikkeling China een doorslaggevend strategisch voordeel zou geven in wat velen beschouwen als de technologische wedloop van de eeuw. Toch opperde president Donald Trump tijdens zijn recente bezoek aan Peking de mogelijkheid om met China samen te werken op het gebied van AI-veiligheid. Daarnaast tekende Trump deze week een uitvoeringsbesluit waarmee de overheid dertig dagen de tijd krijgt om de krachtigste Amerikaanse AI-modellen voorafgaand aan hun lancering te beoordelen.
Om de uitdaging te illustreren vergelijkt Anthropic het probleem met nucleaire wapenbeheersing, maar voegt eraan toe dat AI nog lastiger te reguleren is. Anders dan een raketbunker is AI-training namelijk eenvoudig te verbergen, en de verleiding om stiekem door te gaan is enorm groot.
Anthropics rapport wijst ook op een zorgwekkende ontwikkeling die het omschrijft als een ‘versmalling van de menselijke rol’: naarmate AI-systemen krachtiger worden, neemt de directe invloed van mensen op die systemen geleidelijk af. Het bedrijf kondigt aan een breed overleg te willen organiseren met overheden, wetenschappers, maatschappelijke organisaties en concurrerende AI-bedrijven om gezamenlijk naar oplossingen te zoeken.
