OpenAI, Anthropic en Google onderhandelen over de oprichting van een gezamenlijk AI-normenorgaan, zo maakte OpenAI dinsdag bekend. Het initiatief komt voort uit een voorstel van Demis Hassabis, CEO van Google DeepMind, voor een zelfregulerende instantie naar het model van de Amerikaanse Financial Industry Regulatory Authority (FINRA), die toezicht houdt op makelaars en beleggingsbedrijven in de VS.
Belangrijke feiten
- OpenAI, Anthropic en Google zijn in gesprek over een gezamenlijk AI-normenorgaan.
- Het concept is afkomstig van Demis Hassabis (Google DeepMind), die het in juli 2025 voorstelde.
- Het orgaan zou modelleren op FINRA, de Amerikaanse financiële toezichthouder.
- Hassabis pleitte voor substantiële financiering vanuit de industrie om toptalent aan te trekken en grootschalige tests mogelijk te maken.
- Aiden Gomez, CEO van het Canadese Cohere, beschuldigt de grote Amerikaanse AI-labs van het vormen van een “kartel” onder het mom van veiligheid.
- Jacob Coxon verliet Anthropic en waarschuwde dat AI-bedrijven “gokken met ons leven”; hij werkte eerder ook bij OpenAI.
- Voormalig Google DeepMind-onderzoeker Bilal Chughtai schreef maandag op sociale media dat AI “ons allemaal kan doden”.
- Dario Amodei (Anthropic) riep zaterdag op tot een vertraging in de AI-ontwikkeling; Sam Altman, Elon Musk en Hassabis steunden dit standpunt.
- De Amerikaanse president Donald Trump noemde waarschuwingen over AI-risico’s een “hoax”.
- Nvidia-CEO Jensen Huang noemde dergelijke voorspellingen “alarmerend, verontrustend en onverantwoordelijk”.
Achtergrond: voorstel van Hassabis
In juli riep Hassabis de Verenigde Staten op een organisatie op te richten die de krachtigste AI-systemen test vóór ze worden vrijgegeven aan het publiek. Volgens Hassabis zou de financiering “substantieel moeten zijn en grotendeels uit de industrie komen”, zodat toptalent aangetrokken kan worden en grootschalige tests uitgevoerd kunnen worden.
Kritiek: wie schrijft de regels?
Over de aanpak bestaat geen consensus. Aiden Gomez, medeoprichter en CEO van het Canadese AI-bedrijf Cohere, beschuldigde de dominante Amerikaanse AI-labs zondag in een blogpost van het vormen van een kartel. “AI heeft vangrails nodig. Dat is niet het geschilpunt en dat is het nooit geweest. Het geschilpunt gaat over wie ze schrijft, wie mag meedoen en wiens belangen de regels beschermen”, aldus Gomez.
Ontslagen medewerkers waarschuwen voor gevaren
De zorgen over AI-veiligheid zijn de afgelopen weken geëscaleerd. Jacob Coxon verliet Anthropic vorige week en waarschuwde dat AI-bedrijven “gokken met ons leven”. Hij had eerder ook bij OpenAI gewerkt. Maandag sloot voormalig Google DeepMind-onderzoeker Bilal Chughtai zich aan bij die zorgen. “Ik geloof oprecht dat AI het potentieel heeft om ons allemaal te doden, en dat we misschien geen tijd meer hebben om deze uitkomst te vermijden”, schreef Chughtai op sociale media.
Verdeelde reacties van topfiguren
Zaterdag riep Anthropic-CEO Dario Amodei op tot een vertraging in het tempo van AI-ontwikkeling. OpenAI-CEO Sam Altman, Elon Musk en Demis Hassabis steunden dit standpunt. President Donald Trump verwierp de waarschuwingen als een “hoax”. Nvidia-CEO Jensen Huang noemde dergelijke uitspraken en voorspellingen maandag op een conferentie “alarmerend, verontrustend en onverantwoordelijk”.
Veelgestelde vragen
Wat is het voorgestelde AI-normenorgaan van OpenAI, Anthropic en Google?
Het gaat om een zelfregulerende instantie voor de AI-industrie, gemodelleerd naar de Amerikaanse financiële toezichthouder FINRA. Het idee komt van Google DeepMind-CEO Demis Hassabis en is bedoeld om krachtige AI-systemen te testen vóór ze publiek worden vrijgegeven. OpenAI, Anthropic en Google zijn momenteel in gesprek over de oprichting ervan.
Waarom is er kritiek op dit AI-normenorgaan?
Cohere-CEO Aiden Gomez stelt dat de grote Amerikaanse AI-labs een kartel vormen onder het mom van veiligheid. Zijn kritiek richt zich op de vraag wie de regels mag schrijven en wiens belangen daarbij centraal staan, niet op de noodzaak van AI-regulering zelf.
Welke AI-experts waarschuwen voor existentiële risico’s van AI?
Jacob Coxon, voormalig medewerker van zowel Anthropic als OpenAI, en Bilal Chughtai, voormalig onderzoeker bij Google DeepMind, hebben beiden publiekelijk gewaarschuwd voor ernstige gevaren van AI-ontwikkeling. Anthropic-CEO Dario Amodei riep op tot een vertraging, een standpunt dat ook Sam Altman, Elon Musk en Demis Hassabis steunden.
