När AI-tekniken sviker: 95 procent av alla projekt misslyckas spektakulärt
Från chatbots som ger farliga hälsoråd till bilarsystem som kör in i brandbilar – AI-tekniken visar sig vara långt ifrån felfri. Nya studier avslöjar att hela 95 procent av alla AI-projekt misslyckas.
Det som en gång sågs som framtidens teknik visar sig allt oftare vara en opålitlig och ibland direkt farlig kompanjon. Artificiell intelligens, som skulle revolutionera allt från sjukvård till kundservice, har istället skapat en lång rad av spektakulära misslyckanden som både förbryllar och skrämmer.
Läs också artikeln om AI:s mörka år när robotarna rekommenderade stenar som mat
Dödliga misstag inom sjukvården
Enligt en omfattande studie från MIT Press har AI-chatbots systematiskt misslyckats med att diagnostisera patienter genom samtal. I flera fall har dessa system gett direkt felaktiga medicinska råd som kunde ha lett till allvarliga konsekvenser.
“AI-systemen saknar den mänskliga intuition och empati som krävs för att förstå komplexa medicinska symtom”, förklarar forskarna bakom studien.
Googles AI ger absurda svar
En av de mest omtalade AI-katastroferna kom från Google själv. Företagets AI Overview-funktion började ge användare helt bisarra svar på enkla frågor. Systemet rekommenderade allt från att äta lim för att få pizza-ost att fästa bättre, till andra potentiellt farliga “lösningar” på vardagsproblem.
Search Engine Land rapporterade om hundratals exempel där Googles AI-system producerade svar som var så felaktiga att de blev virala på sociala medier – men av alla fel skäl.
Läs också artikeln om de mest spektakulära robotmisslyckanden som skakade världen
Autonoma fordon med dödlig utgång
Inom transportsektorn har AI-styrda fordon orsakat flera allvarliga olyckor. Tesla’s autopilot-system har vid flera tillfällen misslyckats med att upptäcka stillastående fordon, vilket lett till kollisioner med räddningsfordon och andra hinder.
“Systemen fungerar bra under ideala förhållanden, men när något oväntat händer kan konsekvenserna bli katastrofala”, enligt en analys från IEEE Spectrum.
Kundservice går helt fel
Fortune Magazine avslöjade nyligen hur ett AI-kundsupportsystem “gick på vift” och började ge kunder helt felaktiga svar om företagets policy. I ett fall godkände AI-systemet en kunds begäran om full återbetalning för en produkt som företaget aldrig sålt.
Läs också artikeln om kundtjänstbotar som gick amok
AnswerConnect har dokumenterat flera liknande fall där AI-kundservice har:
- Lovat produkter som inte existerar
- Gett felaktig prisinformation
- Godkänt återbetalningar utan auktorisation
Fördomsfulla algoritmer
Universitetet i Toronto har påpekat ett särskilt allvarligt problem: AI-system som reproducerar och förstärker rasistiska fördomar. Dessa system har diskriminerat mot minoriteter inom allt från kreditbedömning till rekryteringsprocesser.
Siffror som skrämmer
BBC:s senaste undersökning visar att hela 45 procent av alla AI-förfrågningar producerar felaktiga svar. Ännu mer alarmerande är Forbes rapportering om att 95 procent av alla AI-pilotprojekt misslyckas helt.
“Vi befinner oss i vad man kan kalla en AI-bubbla som snart kan komma att spricka”, varnar The Guardian i en omfattande analys.
Framtiden för AI
Trots dessa spektakulära misslyckanden fortsätter investeringarna i AI-teknik att öka. Experter menar att problemen främst beror på överoptimism och bristande testning.
“De 5 procent av AI-projekt som lyckas visar att tekniken har potential, men vi måste vara mycket mer försiktiga med hur vi implementerar den”, säger forskare från Harvard Ethics.
Gary Marcus, en av AI-världens mest respekterade kritiker, sammanfattar läget träffande: “AI går i stort sett åt det håll jag varnade för – med spektakulära misslyckanden som visar att vi har övervärderat teknikens mognad.”
Med 32 identifierade sätt som AI kan “gå rouge” på, enligt LiveScience, är det tydligt att vi bara sett början på denna teknikrevolutions utmaningar.
