Bättre kontroll av militär AI är möjlig

AI har styrt ett verkligt testflygplan i simulerad luftstrid, men vad säger det om teknikens förmåga? I artikeln ”AI:s hemliga militär” undersöker Superintelligens de dokumenterade framstegen och hur bättre granskning kan stärka kontrollen över system med stora konsekvenser för människor.

Militär AI använder ofta samma grundteknik som civila verktyg: den hittar mönster i bilder, sorterar information och sammanställer text. Ett möjligt försprång ligger i tillgången till militära sensordata och hur systemen kopplas till exempelvis flygplan, snarare än i någon hemlig allmän överlägsenhet.

I september 2023 styrde AI testflygplanet X-62A VISTA under simulerad närstrid med en bemannad F-16. Människor fanns ombord och kunde ta över. Enligt DARPA behövdes inget sådant ingripande under de redovisade luftstridsmomenten. Resultatet visar en avgränsad förmåga, inte en pilot som klarar alla uppdrag.

För dig som läser tekniknyheter är den omedelbara nyttan ett bättre sätt att bedöma stora AI-påståenden. Fråga vilken uppgift systemet klarar, vad det jämförs med, under vilka förhållanden det testats och vem som kontrollerat resultatet.

Tänk på en AI-sammanfattning av ett långt mötesunderlag: att texten låter säker betyder inte att varje slutsats stämmer. Samma skillnad mellan övertygande språk och tillförlitligt innehåll gäller militärt beslutsstöd, där konsekvenserna kan bli betydligt större.

De beskrivna militära systemen är inte konsumentverktyg; delar av tekniken och testunderlagen omfattas av sekretess.

Källans underlag, som sträcker sig till 2024, ger inga offentligt verifierbara belägg för en dold generell superintelligens. Sekretessen gör samtidigt verkliga försprång svåra att bedöma.

En konstruktiv väg är dokumenterade tester, spårbara beslutsunderlag och oberoende tillsyn med säkerhetsbehörighet. Mänsklig kontroll behöver också innebära tid och möjlighet att ifrågasätta AI:s förslag. Då kan snabbare informationshantering kombineras med ansvar, utan att känsliga operationsplaner offentliggörs.

Vill du fördjupa dig i ämnet?

Läs hela artikeln hos Superintelligens.