Artificiell intelligens har på många sätt ersatt den traditionella sökmotorn när det gäller informationssökning. Kan man lita på de svar den ger? Elli Inoranta, ansvarig för synlighet och innehåll på Vikes, reflekterar i sin blogg över förhållandet mellan artificiell intelligens och människor i dagens informationssökning.
När AI trodde på ett aprilskämt
På första april 2025 drog Somero och Salo kommuner ett aprilskämt. Det uppgavs på städernas sociala medier att städerna sammanförs.
” IDAG 1.4. HAR VI GLÄDJEN ATT MEDDELA att Somero och Salo kommer att slås samman år 2026. Den nya storkommunen kommer att heta Salmero. ”I och med kommunsammanslagningen blir Salmero Finlands 18:e största kommun sett till folkmängd och därmed går förbi bland annat S:t Michel och Borgå”, hyllades det i publikationen.
Google AI Overview presenterade å sin sida kommunsammanslagningen som ett fakta i en sökning om invånarantalet i Somero. Den artificiella intelligensen hade tolkat skämtet som korrekt information. Även om felet snabbt rättades framkom ett allvarligt problem: artificiell intelligens kan framställa felaktig information på ett övertygande sätt som om den vore korrekt.
Artificiell intelligens bygger på sannolikheter, inte på fakta
Tjänster som ChatGPT bygger på stora språkmodeller, så kallade LLM:er (Large Language Model). De har tränats på en enorm mängd text, som till exempel består av webbinnehåll, böcker och artiklar. Språkmodellen tränas att känna igen strukturer och sammanhang samt att på basis av dessa generera sannolik text. Den kontrollerar dock inte om den genererade texten är sann.
Vissa språkmodeller kan även hämta aktuell information från nätet, men inte heller det garanterar ett korrekt svar. I Salmero-fallet tolkades ett skämt som ett faktum. AI kan inte alltid känna igen till exempel felaktig information, bedrägeri eller skämt, vilket innebär att felaktig information kan hamna i det svar som AI:n ger. Även valet av träningsdata och de beslut som modellutvecklarna fattar påverkar svaren. Användaren kan vanligtvis inte se exakt varför AI:n gav just detta svar.
Språkmodellen kan också generera information som låter trovärdig men som är felaktig, det vill säga hallucinera. AI-tjänsterna är utformade för att vara hjälpsamma och konversationsinriktade, vilket gör att de kan svara med självförtroende även när det inte finns tillräckligt med information. AI kan också ändra sitt svar om användaren omformulerar frågan, även om ingen ny information har tillkommit. En konverserande och medgörlig stil kan ge intrycket att AI förstår användaren på samma sätt som en annan människa och är en pålitlig samtalspartner.
Sökmotorn ger källorna, AI serverar svaret
Innan AI-funktioner blev vanliga var det vanligaste sättet att söka information på nätet att läsa de nätsidor som visades i sökresultaten. Sökmotorn erbjuder olika källor och användaren måste själv bedöma deras tillförlitlighet. Sökresultaten är förstås inte heller opartiska: de påverkas till exempel av sökmotoroptimering och marknadsföring.
Artificiell intelligens underlättar informationssökningen eftersom den sammanställer svaret åt användaren. Samtidigt går användaren miste om möjligheten att granska informationen kritiskt utifrån källan. Om svaret kombinerar information från exempelvis nyheter, bloggar och sociala medier bör användaren ändå fråga sig varifrån påståendena härstammar och hur tillförlitliga källorna är.
Artificiell intelligens ersätter inte eget omdöme
I takt med att artificiell intelligens blir allt vanligare ökar vikten av källkritik. Artificiell intelligens kan försnabba informationssökning och skrivande, men användaren måste fortfarande bedöma svarens tillförlitlighet. Om man aldrig kontrollerar vad AI påstår, riskerar man att inte se de fel som AI gör. AI underlättar informationssökning och skrivande, men denna enkelhet kan också leda till att ens egna färdigheter i källkritik försämras. Hur ofta kontrollerar du själv källorna till den information som AI serverar?
Informationssökning är aldrig perfekt. Människor är benägna att göra misstag och har förutfattade meningar. Ändå har mänsklig informationssökning en betydande fördel jämfört med artificiell intelligens: människan kan bedöma, ifrågasätta och ändra sin åsikt utifrån informationen. Artificiell intelligens kan underlätta informationshanteringen, men ansvaret för att bedöma informationen ligger fortfarande hos användaren. Att svaret är snabbt tillgängligt, tydligt formulerat och låter övertygande innebär inte att det är korrekt.
Det är viktigt att upprätthålla sina egna färdigheter utan hjälp av artificiell intelligens. Språkmodellerna har bara varit i allmänt bruk under en kort tid. AI är ett praktiskt hjälpmedel, men det befriar inte användaren från källkritik. Ju enklare det blir att söka information, desto viktigare är det att kunna ställa frågorna: varifrån kommer denna information och varför borde jag lita på den?
Elli Inoranta
Skribenten är synlighets- och innehållsutvecklare på Vikes och är särskilt oroad över hur artificiell intelligens påverkar informationssökning och journalistik.
