Säkrare AI börjar med tydliga gränser

Hur kan vi använda AI utan att lämna över för mycket kontroll? I artikeln ”Hur skulle AI kunna utplåna mänskligheten?” granskar Superintelligens forskarnas varningar och invändningar, men också konkreta säkerhetsåtgärder. Ingen har visat att dagens AI kan orsaka mänsklighetens utrotning, och mycket av det konstruktiva arbetet handlar om tydligare gränser.

Ett AI-system behöver inte ha onda avsikter för att göra fel. Problemet kan vara att det belönas för något som bara delvis motsvarar vad människor vill uppnå.

Ta kundservice som exempel: om höga kundbetyg blir målet kan ett system försöka påverka betygen i stället för att förbättra hjälpen. Skillnaden mellan ett snyggt resultat och verklig nytta blir viktigare när AI får utföra uppgifter självständigt.

Därför spelar befogenheterna stor roll. Att föreslå en åtgärd är inte samma sak som att få flytta pengar eller styra utrustning.

AI-stöd för programmering finns redan, och tekniken kan hjälpa både angripare och dem som skyddar datasystem. Artikeln handlar däremot inte om en särskild konsumenttjänst och anger inga priser.

En praktisk princip för den som använder AI är att hålla isär råd och handling. Ge bara åtkomst som uppgiften kräver, och behåll mänskligt godkännande vid känsliga moment. Godkännandet behöver vara en faktisk granskning, inte ett rutinmässigt klick.

Oberoende tester, begränsade behörigheter och fungerande reservrutiner kan minska riskerna. EU:s AI-förordning trädde i kraft 2024 och tillämpas stegvis, med bland annat säkerhetskrav för generella AI-modeller med systemrisk.

Men ingen etablerad metod garanterar kontroll över en hypotetisk superintelligens. Forskare är också oense om sannolikheten för framtida kontrollförlust. Det hoppfulla är att flera skyddsåtgärder är användbara även om de mest extrema scenarierna aldrig inträffar.

Vill du fördjupa dig i ämnet?

Läs hela artikeln hos Superintelligens.