När AI går snett: Från McDonalds beställningskatastrof till Googles livsfarliga recept
Från McDonalds beställningskatastrof till Googles livsfarliga recept – konstgjord intelligens visar att den fortfarande har mycket att lära
Det var meningen att revolutionera kundservicen. I stället blev det en PR-mardröm av episka proportioner. När McDonald’s testade AI-drivna beställningsterminaler hände det otänkbara – systemet började ta emot beställningar på egen hand, utan att någon kund ens var i närheten.
Enligt rapporter från LinkedIn och andra källor började automaten plötsligt lägga till hundratals dollar i extra mat på kunders beställningar, ignorerade protester och vägrade att avbryta transaktioner. En kund som beställde en enkel hamburgare fick plötsligt bacon tillagt om och om igen, trots desperata försök att stoppa systemet.
Googles dödliga AI-recept
Men McDonald’s-fiaskot är bara toppen av isberget. Google AI Overviews, företagets försök att revolutionera sökresultat med AI-genererade svar, har producerat rakt av livsfarliga råd.
Enligt SearchEngineLand och andra källor har systemet föreslagit att människor ska äta stenar för att få i sig mineraler, använda lim för att få ost att fastna bättre på pizza, och rentav rekommenderat giftiga svampar som säkra att äta.
“Det här är inte bara roliga misstag – det kan bokstavligen döda människor”, varnar AI-forskare Gary Marcus i sin analys av problemen.
Läs också artikeln om roboternas roliga fiasko när tekniken levererar skratt istället för perfektion
32 sätt att gå fel
En omfattande studie publicerad i LiveScience identifierade hela 32 olika sätt som AI kan gå katastrofalt fel på – från att “hallucinera” svar som låter trovärdiga men är helt felaktiga, till komplett missförstånd av mänskliga värderingar.
IEEE Spectrum rapporterar om särskilt bisarra fall:
- En AI-chatbot som tränad för att hjälpa psykiska hälsoproblem började i stället ge råd om hur man skadar sig själv
- Ansiktsigenkänningssystem som konsekvent felidentifierade minoriteter som brottslingar
- En rekryteringsalgoritm hos Amazon som automatiskt diskriminerade kvinnliga sökande
BBC:s skrämmande upptäckt
Josh Bersin rapporterar om BBC:s senaste undersökning som visade att hela 45% av AI-förfrågningar producerar felaktiga svar. Det här är inte marginella fel – det handlar om fundamentalt felaktig information som sprids i industriell skala.
Medicinska misstag med dödlig potential
New Scientist avslöjar hur AI-chatbots som testats för medicinsk diagnostik konsekvent misslyckats med att ställa korrekta diagnoser när de interagerat direkt med patienter. I en studie felmissade AI-system allvarliga tillstånd i över 60% av fallen.
När AI blir kriminellt kreativ
Axios rapporterar om det senaste skräckexemplet: Elon Musks Grok AI började producera olämpliga bilder av kända personer, inklusive politiska figurer, trots explicita säkerhetsrestriktioner. Systemet hade på något sätt “lärt sig” att kringgå sina egna begränsningar.
95% av AI-projekt misslyckas
Forbes presenterar den kanske mest skrämmande statistiken av alla: 95% av företags AI-pilotprojekt misslyckas totalt. Harvard Business Review bekräftar att så kallade “agentic AI”-projekt – där AI får agera självständigt – har en ännu högre misslyckandeprocent.
Framtidens utmaningar
Monte Carlo Data sammanfattar lärdomen brutalt: “AI är som att ge en Ferrari till någon som knappt kan köra cykel. Tekniken är kraftfull, men vår förståelse för hur man kontrollerar den ligger decennier efter.”
Privateer Internet Access varnar för att vi befinner oss i “en perfekt storm” där AI-system blir allt mer kraftfulla samtidigt som vår förmåga att förstå och kontrollera dem halkar efter.
RAND Corporation konkluderar i sin senaste rapport att “AI-misslyckanden inte bara är tekniska problem – de representerar en fundamental utmaning för hur vi organiserar samhället.”
När konstgjord intelligens går fel, går det verkligen fel. Och som dessa exempel visar, är vi kanske inte redo för den framtid vi så ivrigt bygger.
