Om du hoppades att AI chatbots skulle kunna ersätta Dr. Google, föreslår Reddits senaste experiment... Kanske inte än. Reddit Answers, plattformens AI-assistent, skapade nyligen rubriker för att ha rekommenderat heroin som smärtstillande medel.
Som rapporterats av 404Media kom de bisarra råden fram i ljuset när en vårdpersonal upptäckte svaret på en subreddit för moderatorer. I en interaktion pekade chatboten på det här inlägget: "Heroin har ironiskt nog räddat mitt liv i dessa fall."
I en annan fråga föreslog de till och med kratom, ett trädextrakt som är olagligt i flera länder och som flaggas av FDA "på grund av risken för allvarliga biverkningar, inklusive levertoxicitet, kramper och substansanvändningsstörning."
Reddit Answers är inte din vanliga AI. Istället för att enbart förlita sig på kurerade databaser, drar den nytta av Reddits stora pool av användargenererat innehåll. Det gör det udda, ibland insiktsfullt. Men det är klart att det inte alltid är säkert.
Reddit, som ursprungligen var begränsat till en separat flik, har testat svar i vanliga konversationer, vilket är hur just det här avsnittet gick obemärkt förbi... hittills. Efter att Reddits AI chatbot föreslår att användare provar heroin.
Efter att rapporten blev offentlig svarade Reddit med att minska AI:ns synlighet under känsliga hälsorelaterade chattar. Moderatorerna hade ingen kontroll över råden själva, vilket framhävde hur experimentellt verktyget fortfarande är.
Naturligtvis är detta inte Reddits första AI-hicka. Andra bots som Googles AI Overviews och ChatGPT har också gett tvivelaktiga hälsoråd, inklusive "tips" som att använda giftfritt lim på pizzor för att förhindra att ost glider av.
Det är uppenbart att AI är underhållande när det gäller medicinsk rådgivning, men människor har fortfarande övertaget. Så kanske inte be den om medicinsk rådgivning ännu.
