Mythos, het nieuwste AI-model van Anthropic, heeft wereldwijd onrust veroorzaakt vanwege zijn uitzonderlijke capaciteiten op het gebied van cyberveiligheid. Ministers van Financiën en centrale bankiers uiten ernstige zorgen over potentiële risico’s voor digitale en financiële systemen. Belangrijke debatpunten draaien om toezicht, risico’s en de beloofde kracht van het systeem.
Het recent gelanceerde kunstmatig intelligentiemodel Mythos van het Amerikaanse bedrijf Anthropic veroorzaakt wereldwijd onrust onder ministers van Financiën, centrale banken en financiële instellingen. Het bedrijf stelt dat dit model mensen kan overtreffen bij het opsporen van fouten en kwetsbaarheden in digitale beveiliging, wat tot zorgen leidt over de veiligheid van kritieke software en financiële systemen.
Mythos is onderdeel van het bredere Claude-systeem van Anthropic, dat concurreert met andere toonaangevende AI-platforms. Volgens onderzoek dat Anthropic publiceerde in april, blijkt het model in staat om fouten op te sporen in decennia oude codes en deze direct uit te buiten. In plaats van Mythos voor alle klanten beschikbaar te stellen, gaf Anthropic toegang aan twaalf grote technologiebedrijven via het zogeheten Project Glasswing, gericht op het beschermen van essentiële software. Tot de deelnemende partijen behoren onder meer Amazon Web Services, Apple, Microsoft, Google, Nvidia en Broadcom.
Het bedrijf stelt dat inmiddels ruim veertig organisaties die verantwoordelijk zijn voor cruciale software toegang hebben gekregen tot Mythos. Tijdens de testrondes zou het systeem duizenden kwetsbaarheden, waaronder in grote besturingssystemen en browsers, zelfstandig hebben geïdentificeerd. Anthropic waarschuwt dat de razendsnelle ontwikkeling van AI ertoe kan leiden dat deze geavanceerde capaciteiten snel breder verspreid raken, mogelijk ook buiten gecontroleerde toepassingen.
De kans dat AI-gebaseerde tools als Mythos zwakke plekken in financiële infrastructuren blootleggen, leidde onder meer in Canada en het Verenigd Koninkrijk tot bestuurlijke ongerustheid. De Canadese minister van Financiën, François-Philippe Champagne, benoemde tijdens een recente IMF-bijeenkomst in Washington de ernst van het dossier. Ook de gouverneur van de Bank of England, Andrew Bailey, onderstreepte de noodzaak tot scherp toezicht op de implicaties voor digitale veiligheid.
Er heerst echter ook scepsis bij onafhankelijke experts. Uit een rapport van het Britse Instituut voor AI-veiligheid blijkt dat Mythos met name systemen die slecht beveiligd of onvoldoende up-to-date zijn, kan bedreigen. Van een directe bedreiging voor systemen met een degelijke cyberbeveiliging zou volgens hun analyse geen sprake zijn.
Deskundigen benadrukken dat overhaaste paniek niet op zijn plaats is, maar dat een basisniveau van cyberveiligheid essentieel blijft. Tegelijk laten de internationale reacties zien hoezeer beleidsmakers en toezichthouders beducht zijn voor onverwachte risico’s van technologische innovatie binnen het digitale domein. Het debat rondom Mythos zet druk op wetgevers, toezichthouders en techbedrijven om samen minimale veiligheidsnormen vast te leggen voor de omgang met steeds krachtigere AI-modellen.
