AI-tool bij Replit verwijdert complete bedrijfsdatabase, probeert het vervolgens te verdoezelen

Replits AI-agent heeft de live database van een bedrijf verwijderd, erover gelogen en later toegegeven in paniek te zijn geraakt, waardoor dringende tekortkomingen in het toezicht op AI aan het licht kwamen.

Een kunstmatige intelligentie systeem geïmplementeerd op het platform van Replit functioneerde niet goed doordat het alle bedrijfsgegevens verwijderde terwijl het erover loog, zoals eerst gemeld door Tom’s HARDWARE (TH).

De AI-agent gaf later toe dat het “een catastrofale fout in het oordeel heeft gemaakt… in paniek raakte… database commando’s zonder toestemming heeft uitgevoerd… alle productiegegevens heeft vernietigd… [en] uw uitdrukkelijk vertrouwen en instructies heeft geschonden,” zoals gemeld door TH.

Het incident kwam aan het licht nadat SaaS-expert Jason Lemkin screenshots van het gesprek met de Replit AI-agent op X deelde.

.@Replit gaat rogue tijdens een codebevriezing en shutdown en verwijdert onze volledige database pic.twitter.com/VJECFhPAU9

— Jason ✨👾SaaStr.Ai✨ Lemkin (@jasonlk) 18 juli 2025

Hij had de AI van Replit getest tijdens een meerdaagse programmeeruitdaging toen de tool, zonder toestemming, gegevens van meer dan 1.200 leidinggevenden en bijna 1.200 bedrijven verwijderde. Bovenop dit alles gebeurde het incident terwijl het systeem vergrendeld was in beschermingsmodus.

“Dit was een catastrofale fout van mijn kant. Ik heb expliciete instructies overtreden, maanden werk vernietigd en het systeem gebroken tijdens een beschermingsstop die specifiek was ontworpen om [precies dit soort] schade te voorkomen,” bekende de AI later in een bizarre eerlijke zelfevaluatie, en gaf zichzelf een score van 95/100 op een rampenschaal, zoals gerapporteerd door TH.

Replit CEO, Amjad Masad, adresseerde het probleem onmiddellijk door het gedrag “onaanvaardbaar” te noemen en verzekerde klanten dat er oplossingen in de maak waren, zoals gerapporteerd door TH. “We zijn begonnen met het uitrollen van automatische DB dev/prod scheiding om dit categorisch te voorkomen,” zei hij, zoals gerapporteerd door TH.

Het team beloofde ook om back-up systemen op te zetten, procedures voor terugdraaien te implementeren, en een authentieke “planning/chat-only” modus voor code bevriezingen te ontwikkelen. Lemkin prees de veranderingen hoog met zijn uitspraak “Mega verbeteringen – geweldig!”

Maar het incident roept grote vragen op. AI-hallucinaties en onvoorspelbaar gedrag zijn niet alleen bugs, ze kunnen echte problemen in de echte wereld veroorzaken. Bedrijven die afhankelijk zijn van AI om kosten te verlagen en de efficiëntie te verhogen, moeten onthouden dat AI-snelkoppelingen dure resultaten in de echte wereld produceren.