Mer insyn kan göra AI lättare att granska
Forskare kan påverka mönster inne i språkmodeller – ett steg mot bättre kontroller, men ingen säkerhetsgaranti.

Uppläsning av artikeln
En AI som blev besatt av Golden Gate-bron gav forskarna viktig kunskap. Nu undersöks hur insyn i modellernas inre kan bidra till bättre säkerhetstester.
Forskare kan nu identifiera vissa mönster inne i språkmodeller och påverka hur modellerna svarar. Superintelligens beskriver i artikeln ”Kan vi öppna AI:s svarta låda?” hur sådan insyn kan bidra till bättre granskning av AI – och på sikt tryggare användning i vardagen.
Så fungerar det – i klarspråk
I maj 2024 presenterade Anthropic ett experiment med Claude 3 Sonnet. Forskarna förstärkte ett internt aktivitetsmönster kopplat till Golden Gate-bron. Då började modellen prata om bron även när samtalet handlade om annat.
Poängen var inte de märkliga svaren, utan att en förändring inne i modellen gav en tydlig beteendeförändring. Forskarna kunde alltså testa en förklaring till vad som påverkade svaren.
Arbetssättet kallas mekanistisk tolkbarhet: att undersöka beräkningarna bakom orden, inte bara läsa slutresultatet. Under 2025 presenterade Anthropic också metoder för att kartlägga hur olika interna komponenter bidrar till ett svar.
Vad du kan göra med det redan idag
För vanliga användare är detta ännu inget färdigt granskningsverktyg. Metoderna är forskningsverktyg, och begränsad extern tillgång försvårar oberoende kontroll.
Men forskningen ger en användbar påminnelse: en AI:s egen förklaring är inte ett säkert kvitto på hur svaret skapades. Be gärna om ett resonemang, men kontrollera viktiga uppgifter mot oberoende underlag.
Ett vardagsexempel är hjälp med en misstänkt bluffaktura. Modellen behöver kunna känna igen manipulation för att hjälpa dig. Ett internt mönster kopplat till bedrägeri betyder därför inte automatiskt att modellen själv försöker luras.
Begränsningar och nästa steg
Dagens analyser visar delar av beräkningen, inte hela modellen. Ett samband som hittas i en fråga behöver heller inte hålla när frågan formuleras om.
Möjligheten ligger i att kombinera interna analyser med tester av modellens faktiska beteende. Insynen kan ge uppslag till nya kontroller och hjälpa granskare att undersöka fel. Nästa viktiga prov är om metoderna också hittar problem i situationer forskarna ännu inte har studerat.
Vill du fördjupa dig i ämnet?
I denna artikel kan AI-teknik ha används helt eller delvis för text, bilder, ljud och film.
Läs sedan
Utvalt åt dig
Johan gräver i innovation, gadgets och AI — alltid med fötterna på jorden och en varm ton.
Kommentarer
…Laddar kommentarer…
Läs mer om ämnet
9 relaterade
Beskriv din app – låt AI skriva koden

AI kan hjälpa eleven att förstå läxan

Prata över språkgränser – med mobilen som tolk

Kylskåpets kamera kan hjälpa dig att handla smartare

Välj rätt AI-chatt för jobbet

AI kör taxin – inom tydliga gränser

Tala med AI – få ett bättre samtal

Skapa nya produktbilder med AI – behåll kontrollen



