Ted Chiang: "Ska Amazon verkligen fatta dina beslut?"

Ted Chiang är inte bara en välkänd science fiction-författare, med verk som The Story of Your Life (som senare filmatiserades som Arrival) och novellsamlingen Exhalation. Han är också en av de mest insiktsfulla tänkarna när det gäller artificiell intelligens och dess roll i dagens samhälle. Under Celsius 232 hade vi nöjet att prata länge med Chiang för en intervju.

Av alla ämnen vi tog upp var kanske det mest intressanta frågan om utvecklingen av artificiell intelligens fortfarande följer den bana som Chiang beskrev i sina tidigare verk. Hans svar var lika avslöjande som förödande:

"Under stora delar av science fiction-historien har idén om tänkande maskiner eller artificiell intelligens varit mycket vanlig, och den har ständigt återkommit. Jag tror att det alltid har funnits många intressanta filosofiska frågor kring det här ämnet. Men det vi har sett under de senaste fem åren eller så, med generativ AI:s framväxt, liknar överhuvudtaget inte det som utforskades i science fiction. De frågor som intresserade science fiction gäller egentligen inte den situation vi befinner oss i nu.

Låt mig ge ett sätt att se på saken.

Tidigare frågade science fiction: "Ska man låta en maskin fatta ens beslut?" Jag tycker att det är en intressant filosofisk fråga, eftersom idén om en maskin som fattar beslut bättre än människor (eller helt enkelt på ett annat sätt än människor) ger upphov till giltiga argument både för och emot att lita på den. I dag ser frågan mer ut ungefär så här: "Ska man låta Amazon fatta ens beslut?"

Jag tycker inte att det är en intressant filosofisk fråga. Jag anser att svaret tydligt är "nej, det ska man inte". Jag kan inte se något bra filosofiskt argument för att låta Amazon fatta ens beslut.

Det jag menar är att generativ AI (den programvara som för närvarande beskrivs som AI) inte är en tänkande maskin. I grunden är den ett verktyg för korporativ makt. Jag tycker inte att det finns något bra filosofiskt argument för att bara kapitulera inför korporativ makt. Det ligger i företagens intresse att lyfta fram dessa frågor om tänkande maskiner och antyda att de kanske tänker bättre än du gör.

Men det är inte vad vi har just nu. Det är inte den situation vi står inför. Varje gång de talar om dessa idéer är det inget annat än en rökridå, eftersom det de egentligen är intresserade av är att öka sin makt över människor.

Så jag tycker att det är mycket viktigt att ha klart för sig vilken situation vi faktiskt befinner oss i. Den situation vi befinner oss i i dag är inte den som science fiction brukade intressera sig för. Den situation vi befinner oss i handlar om att göra motstånd mot korporativ makt."