Ex-Anthropic-onderzoeker Jacob Coxon waarschuwt dat medewerkers bij AI-bedrijven ‘oprecht bang’ zijn voor de toekomst van de mensheid als de huidige ontwikkelingssnelheid van kunstmatige intelligentie niet wordt afgeremd. “Als we niet vertragen, is er een grote kans dat we allemaal in de nabije toekomst sterven,” zei de 27-jarige onderzoeker in een interview met de BBC.
Belangrijke feiten
- Jacob Coxon, 27 jaar, werkte eerder bij OpenAI en daarna bij Anthropic voordat hij ontslag nam.
- Zijn ontslagpost over de gevaren van AI ging viraal.
- Anthropic-directeur Dario Amodei riep zaterdag in een essay op tot vertraging van AI-ontwikkeling.
- Sam Altman (OpenAI) en Elon Musk (xAI) zeggen het eens te zijn met Amodei’s voorstel voor vertraging en regulering.
- Coxon schat dat een scenario waarbij een zwerm bots als supercomputer het internet overneemt, al over zes maanden tot een jaar realistisch kan zijn.
- Sommige AI-medewerkers overwegen land te kopen vanwege angst voor instabiliteit door snelle AI-vooruitgang.
Coxon spreekt BBC na viraal ontslagbericht
Jacob Coxon sprak zondag met het programma Sunday with Laura Kuenssberg op de BBC. Hij stelde dat medewerkers bij AI-bedrijven dagelijks met de mogelijke gevaren in hun hoofd werken. “Ze plannen wat ze met hun leven gaan doen en denken na over de impact van hun werk,” aldus Coxon. Sommigen overwegen zelfs land te kopen omdat ze zo bang zijn voor de instabiliteit die snelle AI-vooruitgang met zich meebrengt.
Oproep tot internationale vertraging
Coxon verwelkomde het voorstel van Amodei voor een vertraging, maar benadrukte dat een dergelijke stap gecoördineerd moet worden met China om een internationale wedloop te voorkomen. “De mensen die bij deze bedrijven werken, menen het volledig serieus als ze om regulering vragen, omdat ze zich gevangen voelen in een race. En ze zijn bang voor de uitkomsten van die race,” zei hij.
Amodei schreef in zijn essay dat de ontwikkeling van AI zelf niet ter discussie staat, maar dat de bijbehorende risico’s ‘ernstig’ zijn. Bedrijven en overheden moeten de tijd krijgen om deze risico’s aan te pakken. Zowel Sam Altman van OpenAI als Elon Musk van xAI sloten zich aan bij zijn oproep voor vertraging, regulering en onafhankelijk toezicht op de ontwikkeling van AI-modellen.
Reactie van Anthropic
In reactie op het vertrek van Coxon liet een woordvoerder van Anthropic aan BBC News weten: “We zijn altijd transparant geweest over het feit dat AI zowel enorme voordelen als ongekende risico’s met zich meebrengt.” Het bedrijf stelt dat het modellen bouwt met enkele van de sterkste veiligheidsmaatregelen in de sector. Anthropic was volgens de woordvoerder het eerste bedrijf dat een raamwerk publiceerde voor het beperken van risico’s bij AI-ontwikkeling, en test zijn modellen ‘agressief’ om zogenoemde AI-misalignment te voorkomen. “Daarom geloven wij dat de wereld gebaat is bij een wettelijke, verifieerbare manier voor de sector om samen te werken aan het tempo van de uitrol van krachtige modellen,” aldus de woordvoerder.
Veelgestelde vragen
Wie is Jacob Coxon en waarom nam hij ontslag bij Anthropic?
Jacob Coxon is een 27-jarige AI-onderzoeker die eerder bij OpenAI werkte en daarna bij Anthropic. Hij nam ontslag vanwege zijn zorgen over de gevaren van de snelle ontwikkeling van kunstmatige intelligentie. Zijn ontslagpost over deze gevaren ging viraal.
Wat houdt het voorstel van Dario Amodei voor AI-vertraging in?
Anthropic-directeur Dario Amodei riep in een essay op zaterdag op tot een vertraging van AI-ontwikkeling. Hij stelt dat de risico’s ernstig zijn en dat bedrijven en overheden de tijd moeten krijgen om deze aan te pakken. Sam Altman en Elon Musk zeiden het eens te zijn met dit voorstel, inclusief onafhankelijk toezicht op AI-modellen.
Hoe snel kan een AI-rampscenario zich volgens Coxon voordoen?
Coxon stelt dat een scenario waarbij een zwerm bots als supercomputer het internet overneemt al over zes maanden tot een jaar realistisch kan zijn. Zijn collega’s vrezen dat gevaarlijke situaties zelfs binnen twee jaar kunnen optreden.
