Roblox zet AI in om scheldwoorden in chat te vervangen

•2 min leestijd

1 artikelen · 1 bronnen

Kernpunten

1Roblox gebruikt AI om scheldwoorden in de chat te vervangen.
2Het doel is een veiligere omgeving voor gebruikers te creëren.
3AI detecteert en vervangt ongepaste taal.
4Roblox heeft al filters en ouderlijk toezicht tools.
5Het AI-systeem wordt voortdurend geëvalueerd en verbeterd.

Roblox, het online platform voor het creëren en spelen van games, implementeert kunstmatige intelligentie (AI) om scheldwoorden en andere ongepaste taal in de chatfuncties te detecteren en te vervangen door meer acceptabele bewoordingen. Het doel is om een veiligere en positievere omgeving voor gebruikers te creëren, met name voor de jongere doelgroep die het platform frequent bezoekt.

De inzet van AI voor moderatie is een groeiende trend in de online wereld, waar platforms worstelen met de uitdaging om een veilige omgeving te handhaven. Traditionele methoden, zoals handmatige moderatie en het filteren van specifieke woorden, blijken vaak ontoereikend om de constante stroom aan nieuwe en creatieve manieren van online misbruik aan te pakken. AI biedt de mogelijkheid om patronen en context te herkennen, waardoor het effectiever kan reageren op potentieel schadelijke communicatie.

Roblox heeft in het verleden al maatregelen genomen om de veiligheid van gebruikers te waarborgen, waaronder het implementeren van filters en het aanbieden van tools voor ouders om de activiteiten van hun kinderen op het platform te monitoren. De integratie van AI in de chatmoderatie is een volgende stap in deze inspanningen. Het systeem zal niet alleen expliciete scheldwoorden detecteren, maar ook pogingen om deze te omzeilen, evenals andere vormen van ongepaste taal, zoals bedreigingen en haatzaaien. De vervangen bewoordingen zijn bedoeld om de communicatie respectvoller te maken, zonder de context van het gesprek volledig te veranderen. De effectiviteit van het AI-systeem zal voortdurend worden geëvalueerd en verbeterd op basis van feedback en data-analyse. Het is nog niet bekend of en hoe gebruikers de AI-moderatie kunnen aanpassen of uitschakelen.

Jouw Mening

Vind je de berichtgeving over dit onderwerp gebalanceerd?

Hel je over naar één kant, of is het spectrum breed genoeg?

Wekelijkse nieuwsbrief

Ontvang elke week het belangrijkste nieuws, belicht van links tot rechts.

Over dit verhaal

Artikelen

Uniek

Bronnen

Kernfeiten

Dit overzicht is een synthese van 1 verschillende publicaties. Door middel van automatische bronvergelijking zijn uitsluitend de feiten opgenomen die door meerdere onafhankelijke redacties worden bevestigd.

Gerelateerde verhalen

Politiek · Sinds

Amerikaanse Congres blokkeert resolutie inperking Trumps oorlogsbevoegdheden Iran

Het Amerikaanse Congres heeft een resolutie verworpen die de macht van president Donald Trump om militaire acties tegen Iran te ondernemen, zou inperken. Zowel de Senaat als het Huis van Afgevaardigden stemden tegen de resolutie. De resolutie was ingediend te midden van oplopende spanningen tussen de Verenigde Staten en Iran. Deze spanningen zijn toegenomen sinds Trump zich in 2018 terugtrok uit de nucleaire deal met Iran, een overeenkomst die bedoeld was om te voorkomen dat Iran een kernwapen zou ontwikkelen. Sindsdien hebben de VS sancties tegen Iran ingesteld, wat heeft geleid tot economische problemen in Iran en toenemende frustratie bij de Iraanse regering. Er waren diverse incidenten in de Perzische Golf, waarbij onder meer olietankers werden aangevallen, wat de spanningen verder opdreef. De resolutie beoogde te voorkomen dat Trump zonder toestemming van het Congres een oorlog met Iran zou beginnen. Voorstanders van de resolutie uitten hun bezorgdheid over het feit dat Trump mogelijk een conflict met Iran zou kunnen escaleren zonder voldoende overleg met het Congres. Zij wezen op de grondwettelijke bevoegdheid van het Congres om oorlog te verklaren. Tegenstanders van de resolutie argumenteerden dat het de president zou belemmeren in zijn vermogen om snel en daadkrachtig te reageren op bedreigingen van Iran. Zij benadrukten de noodzaak voor de president om flexibel te kunnen opereren in het buitenlands beleid en de nationale veiligheid te waarborgen. De stemming in de Senaat en het Huis van Afgevaardigden weerspiegelde de verdeeldheid binnen het Congres over de aanpak van Iran. Hoewel er brede overeenstemming bestaat over de noodzaak om Iran te ontmoedigen een kernwapen te ontwikkelen en destabiliserende activiteiten in de regio te staken, verschillen de meningen over de beste manier om dit te bereiken. Sommigen zijn voorstander van een harde lijn met economische sancties en militaire dreiging, terwijl anderen de voorkeur geven aan diplomatie en onderhandelingen. Door de blokkade van de resolutie behoudt president Trump voorlopig de mogelijkheid om militair op te treden tegen Iran, zonder voorafgaande toestemming van het Congres. De uitkomst van de stemming betekent echter niet dat het Congres volledig achter het Iran-beleid van Trump staat. De discussie over de oorlogsbevoegdheden van de president en de aanpak van Iran zal naar verwachting de komende tijd voortduren.

5 bronnen

Veiligheid · Sinds

Odido datalek: gegevens van miljoenen klanten en werknemers openbaar

Telecomprovider Odido is getroffen door een grootschalig datalek waarbij de gegevens van miljoenen klanten en duizenden werknemers zijn gelekt. Het datalek, dat wordt beschouwd als het grootste ooit in Nederland, omvat gegevens van ongeveer 6,5 miljoen klanten en 16.000 werknemers, waaronder personeel werkzaam in strategische sectoren zoals ASML en Defensie. De gegevens zijn gepubliceerd op het darkweb door de hackersgroep ShinyHunters. Het datalek kwam aan het licht nadat de hackersgroep de gestolen data openbaar maakte. De omvang van het datalek is aanzienlijk, gezien het feit dat Nederland ongeveer 17,5 miljoen inwoners telt. Dit betekent dat de gegevens van een aanzienlijk deel van de Nederlandse bevolking mogelijk zijn gecompromitteerd. Onder de gelekte gegevens bevinden zich mogelijk gegevens van bedreigde personen en ministers, zo meldt RTL Nieuws. De gelekte data omvat een breed scala aan persoonlijke informatie, waaronder namen, adressen, telefoonnummers, e-mailadressen en mogelijk ook bankrekeningnummers en burgerservicenummers. De publicatie van deze gegevens kan leiden tot identiteitsfraude, phishing-aanvallen en andere vormen van cybercriminaliteit. Klanten van Odido wordt aangeraden alert te zijn op verdachte e-mails en telefoontjes en hun bankrekeningen en creditcardafschriften nauwlettend in de gaten te houden. De politie heeft inmiddels een website gelanceerd waar mensen kunnen controleren of hun gegevens zijn gelekt in het Odido-datalek. Deze service is bedoeld om slachtoffers van het datalek te helpen identificeren en hen in staat te stellen de nodige maatregelen te nemen om zichzelf te beschermen. Het is nog onduidelijk hoe de hackers toegang hebben gekregen tot de gegevens van Odido en welke beveiligingsmaatregelen de telecomprovider had getroffen om datalekken te voorkomen. Een onderzoek naar het datalek is gestart om de oorzaak te achterhalen en de verantwoordelijken te identificeren.

5 bronnen

Veiligheid · Sinds

Beschuldigingen van huiselijk geweld tegen Marius Borg Høiby onderzocht

Marius Borg Høiby, de zoon van de Noorse kroonprinses Mette-Marit, wordt beschuldigd van huiselijk geweld door zijn ex-vriendin Nora Haukland. De beschuldigingen omvatten wurging, slaan en vernieling. De aantijgingen komen naar voren in getuigenissen en appjes die inzicht geven in de relatie tussen Høiby en Haukland. Volgens getuigenissen van een vriendin van Haukland, was er sprake van mishandeling. Deze vriendin getuigt over ruzies en heeft een foto gedeeld van een verwonding die Haukland zou hebben opgelopen. Buren van Høiby verklaren dat ze tijdens een ruzie 'de pleuris hoorden uitbreken'. Haukland zelf beweert dat Høiby tijdens een ruzie compleet is doorgedraaid. De aard en omvang van de vermeende vernielingen zijn niet gespecificeerd in de beschikbare bronnen. Marius Borg Høiby ontkent de beschuldigingen. Hij stelt dat het verhaal van zijn ex-vriendin overdreven en onwaar is. Hij herkent zich niet in het geschetste beeld.

4 bronnen

Veiligheid · Sinds

Beschieting woning en explosies in Amsterdam

In Amsterdam hebben zich recentelijk meerdere incidenten voorgedaan, waaronder een beschieting van een woning in Amsterdam-West en een explosie in Amsterdam-Noord. Deze incidenten vonden plaats naast andere gebeurtenissen in de regio Noord-Holland. Over de exacte locatie en tijdstippen van de beschieting en de explosie zijn geen details verstrekt in de beschikbare bronnen. Wel is duidelijk dat de politie een onderzoek is gestart naar de toedracht en mogelijke daders. Er is melding gemaakt van een explosief dat door een brievenbus is gegooid, wat wijst op een gerichte actie. De beschieting van de woning duidt eveneens op een ernstig incident. Naast deze incidenten in Amsterdam waren er ook andere meldingen in Noord-Holland. In Velsen-Noord werden meerdere schoten gehoord. In Zaandam vond een poging tot straatroof plaats, waarbij twee aanhoudingen zijn verricht. In Edam woedde een brand in de voortuin van een woning, waarbij metershoge vlammen werden geblust. Verder was er sprake van verkeershinder op de A9 en een man die in het water belandde na een trap langs de kade. In Huizen is een man aangehouden voor drugshandel. Ook is gebleken dat het luchtalarm niet is afgegaan in de Gooi en Vechtstreek. De politie heeft nog geen details vrijgegeven over mogelijke verbanden tussen de verschillende incidenten. Het onderzoek naar de beschieting en explosies in Amsterdam is in volle gang. De autoriteiten roepen getuigen op zich te melden.