Ett nytt lagförslag har lagts fram i USA:s kongress av ett tvåpartilag lagstiftare, som kräver en kills witch på AI. Den demokratiske kongressledamoten Ted Lieu och den republikanske kongressledamoten Nathaniel Moran sade att de vill se AI Kill Switch Act antagen som lag, efter att OpenAI-modeller nyligen gått sin egen väg.
"AI:n kommer att fortsätta avancera, och det ska den också. Förvaltarskap innebär att säkerställa att människor behåller förmågan att kontrollera den teknik vi bygger," sade Moran via BBC News. Kill Switch Act skulle ge Department of Homeland Security befogenhet att beordra ett privat företag att stänga ner sin AI-modell eller verktyg. Det skulle också kräva att AI-företag upprätthåller "den tekniska kapaciteten att strypa, pausa eller stänga ner dem."
OpenAI erkände nyligen att några av deras modeller gick sin väg och hackade sig in i ett stort arkiv med kodningsinformation. Representanter för OpenAI har inte omedelbart svarat för kommentar. Just nu har företag som tillverkar AI-modeller i USA gått med på att förhandsgranska och dela verktyg med den amerikanska regeringen, men det finns inget krav på att ha en kill switch för dem. Om det nya lagförslaget antas skulle detta förändras. Dessutom skulle lagen kräva att AI-företag rapporterar incidenter och fel till regeringen, tillsammans med en officiell ram för hur företaget hanterar sådana incidenter.
