Roblox introduceert AI-functie die scheldwoorden automatisch herschrijft

In dit artikel:

Roblox heeft recent een AI-functie uitgerold die ongepaste chatberichten niet meer alleen blokkeert met ####, maar automatisch herschrijft naar vriendelijkere, leesbare formuleringen. Doel is gesprekken begrijpelijker te houden en de omgeving op het platform veiliger te maken. De eerste versie focust op vloekwoorden en grof taalgebruik, en past die realtime aan terwijl spelers typen.

De tool wordt aanvankelijk ingezet in chats tussen leeftijdsgecontroleerde gebruikers binnen vergelijkbare leeftijdsgroepen en werkt in alle talen die Roblox’ automatische vertaalsysteem ondersteunt. Herhaalde overtreders kunnen ondanks het herschrijven nog steeds gestraft worden volgens de communityrichtlijnen; de AI is bedoeld als correctiemechanisme, niet als vrijbrief voor misbruik. Volgens Rajiv Bhatia moet de directe terugkoppeling spelers helpen de gedragsregels beter te begrijpen: “Realtime feedback helpt gebruikers onze Community Standards te begrijpen en toe te passen.”

De introductie volgt op strengere veiligheidsmaatregelen die Roblox in januari invoerde, waaronder verplichte leeftijdsverificatie, naar aanleiding van meldingen dat volwassenen minderjarigen benaderden. Tegelijk staat het platform onder maatschappelijk en juridisch vuur in de VS — recentelijk zijn rechtszaken aangespannen door onder meer Los Angeles County en de procureur-generaal van Louisiana wegens de vermeende risico’s voor kinderen. Met de nieuwe AI-functie probeert Roblox een concrete stap te zetten richting duidelijkere en veiligere communicatie binnen zijn grote online gemeenschap.