Bara dagar efter att den brittiska kommunikationsmyndigheten Ofcom först uttryckte oro över Rok har tillsynsmyndigheten nu trappat upp sitt svar och inlett en formell utredning av Elon Musks X angående AI-chattbotens bildgenereringskapacitet.
Som de meddelade idag på X: "Vi har inlett en formell utredning av X enligt Online Safety Act för att avgöra om den har uppfyllt sina skyldigheter att skydda människor i Storbritannien från olagligt innehåll."
Tidigare denna månad bekräftade Ofcom att de kontaktat X och xAI för att bedöma om Grok användes för att skapa "avklädda bilder av människor och sexualiserade bilder av barn." Idag har den initiala kontakten nu utvecklats till en fullständig utredning för att avgöra om plattformen har brutit mot sina juridiska skyldigheter enligt Storbritanniens Online Safety Act.
I uttalandet som släpptes på måndagen sade Ofcom att de undersöker om X inte korrekt bedömt risken för att brittiska användare (särskilt barn) kan exponeras för olagligt sexuellt innehåll, inklusive icke-samtyckta intima bilder och AI-genererat material om sexuella övergrepp mot barn.
Frågan har sedan dess dragits till direkt politisk intervention. Premiärminister Keir Starmer beskrev de Grok-genererade bilderna som "avskyvärda" och "olagliga" och sade att X måste "få grepp" om hur deras AI-verktyg används. Ministrar har bekräftat att sanktioner (inklusive plattformsnivåbegränsningar) finns på bordet om överträdelser upptäcks.
X har hävdat att de tar bort olagligt innehåll, stänger av kränkande konton och samarbetar med myndigheterna, och säger att alla som använder Grok för att skapa olagliga bilder kommer att ställas till svar. Ofcom har varnat för att i de allvarligaste fallen kan verkställighetsåtgärder inkludera att reklam- och betalningstjänster stängs av, eller till och med blockeras åtkomst till plattformen i Storbritannien.
Läs denna berättelse i kronologisk ordning:
- Grok tar bort mediafliken efter att för många användare bett den ta bort damkläder.
- Den brittiska kommunikationsregulatorn Ofcom riktar kritik mot Grok för "sexualiserade bilder av barn".
- Storbritannien skulle kunna förbjuda X på grund av Grok-fiaskot med generativ bild.
