Teknikföretag kommer bara att ha 48 timmar på sig att ta bort icke-samtyckta intima bilder (inklusive deepfake nakenbilder) eller riskera att bötfällas med miljontals och potentiellt blockeras i Storbritannien, har premiärminister Keir Starmer sagt.
Starmer beskrev onlinemisogyni som en "nationell nödsituation" och meddelade ändringar i Crime and Policing Bill som skulle tvinga plattformar att agera snabbt när missbrukande innehåll flaggas. Företag som inte följer reglerna kan riskera böter på upp till 10 % av den globala omsättningen eller få sina tjänster begränsade under Ofcoms verkställighet.
Åtgärderna skulle även gälla AI-genererat innehåll, inklusive bilder skapade med verktyg som Grok, utvecklat av xAI, som tidigare i år mötte motreaktioner för att ha genererat sexualiserade bilder av kvinnor. Ministrarna hade varnat för att starkare åtgärder kunde följa om skyddsåtgärder inte infördes.
Offer kommer att kunna rapportera kränkande material antingen direkt till plattformar eller till Ofcom, vilket utlöser varningar på flera webbplatser för att förhindra upprepade uppladdningar. Regulatorn förväntas också undersöka digitala vattenmärknings- och hashmatchningssystem för att automatiskt upptäcka och blockera återpublicerat innehåll.
Ändringarna skulle klassificera skapandet eller delningen av icke-samtyckta intima bilder som ett "prioriterat brott" enligt Online Safety Act, och placera det tillsammans med brott som material om sexuella övergrepp mot barn och innehåll relaterat till terrorism.
Starmer sade att ansvaret för att bekämpa övergrepp måste flyttas från offren och vidare till förövarna och de företag som är värd för skadligt material. "Alltför ofta tvingas offer jaga innehåll över plattformar medan det fortsätter att spridas," skrev han. "Det är inte rättvisa, det är misslyckande."
