Facebooks politiska annonsutrymme är i allt högre grad en lekplats för deepfake-bedrägerier och vilseledande innehåll, med några av plattformens främsta annonsörer som tillverkar videor av amerikanska politiker som lovar obefintliga statliga utbetalningar.
I somras hävdade manipulerade videor av Vita husets pressekreterare Karoline Leavitt att amerikaner kunde göra anspråk på 5 000 dollar i lättnadscheckar, vilket omdirigerade användare till en webbplats som heter Get Covered Today. Liknande falska videor visade senatorerna Elizabeth Warren och Bernie Sanders som gav identiska löften. "Det här är inte en gimmick", sa Warrens imitation, men i själva verket var det det.
Enligt en ny analys av Tech Transparency Project (via The New York Times) stod 63 annonsörer som använde sådan vilseledande taktik för ungefär en femtedel av Facebooks 300 största politiska annonsspenderare.
Tillsammans körde de nästan 150 000 annonser och spenderade nästan 49 miljoner dollar under de senaste sju åren. Även om många av dessa konton har stängts av, fortsatte mer än hälften att lägga upp nya annonser så sent som den här veckan.
"Det enda som är värre än dessa deepfake AI-videor som används för att lura amerikaner är det faktum att Meta tjänar tiotals miljoner dollar på dessa bluffannonser", sa senator Warren och efterlyste strängare konsumentskydd på nätet.
Meta, som äger Facebook, förbjuder annonser som utger sig för att vara tjänstemän eller använder bedrägliga metoder, och hävdar att de upprätthåller dessa regler "kraftfullt" och lovar investeringar i tekniskt försvar. Ändå säger kritiker att företagets tillämpning är långsam, till stor del automatiserad och reaktiv, och förlitar sig på användare eller forskare för att flagga bedrägerier.
Framväxten av AI-verktyg har gjort det lättare att skapa vilseledande annonser, och sociala medieplattformar är nu den främsta vektorn för onlinebedrägerier och överträffar telefon- eller sms-bedrägerier. Federala tillsynsmyndigheter och regeringar, inklusive Singapore, pressar Meta att slå till och hotar med böter om plattformen inte agerar.
Eftersom annonsintäkterna för Meta närmar sig 160 miljarder dollar per år, tyder Tech Transparency Projects analys på att kortsiktig vinst ofta har företräde framför plattformens integritet och användarsäkerhet.
"Pendeln har svängt mot mer kortsiktiga intäktsöverväganden kontra plattformens långsiktiga hälsa", säger Rob Leathern, tidigare Meta-anställd och expert på onlineförtroende. "Kanske måste det någon gång svänga åt andra hållet."
