Så avslöjar du när AI hittar på

AI kan göra krångliga texter mer begripliga, men hur vet du att sammanfattningen stämmer? I Superintelligens artikel”När AI hittar på – och hur du avslöjar det” beskrivs ett praktiskt arbetssätt som gör svaren lättare att kontrollera och använda som beslutsunderlag.

En språkmodell bygger svar utifrån mönster den lärt sig i stora textmängder. Den slår inte automatiskt upp varje uppgift i en faktagranskad databas. Därför kan den skriva övertygande även när ett årtal är fel eller en hänvisning är påhittad.

Ett sätt att förbättra underlaget är att låta AI:n söka fram dokument innan den svarar. En kundtjänst kan exempelvis använda företagets aktuella returvillkor. Då får modellen relevant information att arbeta med, i stället för att enbart förlita sig på inlärda mönster.

Det finns redan AI-tjänster med webbsökning eller stöd för egna dokument. Välj gärna en där källhänvisningarna går att öppna och granska.

Anta att du vill förstå garantin inför ett köp. Be AI:n använda enbart tillverkarens villkor, ange avsnitt för viktiga uppgifter och tydligt markera sådant som inte framgår.

Dela sedan upp kontrollen: Hur länge gäller garantin? Omfattas batteriet? Gäller dokumentet rätt produkt och land? Läs också undantagen i originalet.

Låt gärna AI:n först plocka fram relevanta avsnitt och därefter sammanfatta dem. Det gör det enklare att se var en slutsats kommer ifrån.

En verklig källa behöver inte stödja AI:ns påstående. Även citat kan bli fel, och två chattbotar som håller med varandra kan upprepa samma misstag.

Lägg därför mest kontrollarbete på uppgifterna som avgör ditt beslut. Vid stora ekonomiska, medicinska eller juridiska konsekvenser kan expertis behövas. AI:ns styrka blir då att strukturera underlaget och synliggöra frågor – medan avgörande fakta kontrolleras utanför chatten.

Vill du fördjupa dig i ämnet?

Läs hela artikeln hos Superintelligens.