Den brittiska regeringen har lagt fram sina fem ambitioner för det kommande AI Safety Summit, som kommer att hållas på Bletchley Park i början av november.
Toppmötet, som först tillkännagavs av premiärminister Rishi Sunak i juni under ett besök i Washington för att träffa USA:s president Joe Biden, ska sammanföra regeringstjänstemän, AI-företag och forskare vid Bletchley Park för att överväga riskerna och utvecklingen av AI-teknik och diskutera hur de kan minskas genom internationellt samordnade åtgärder.
I mars publicerade den brittiska regeringen ett white paper om sin AI-strategi, där den uppgav att den ville undvika vad den kallade ”hårdhänt lagstiftning” och i stället uppmana befintliga tillsynsorgan att använda nuvarande regler för att se till att AI-applikationer följer riktlinjerna, snarare än att utarbeta nya lagar.
Tillsynsmyndigheterna förväntas börja utfärda praktisk vägledning till organisationer under de kommande månaderna, dela ut mallar för riskbedömning och ange hur man implementerar regeringens principer om säkerhet, trygghet och robusthet; öppenhet och förklarbarhet; rättvisa; ansvarsskyldighet och styrning; samt ifrågasättande och gottgörelse.
”Storbritannien ser fram emot att arbeta nära med globala partner i dessa frågor för att göra framkants-AI säker och för att säkerställa att nationer och medborgare globalt kan realisera dess fördelar, nu och i framtiden”, säger Department for Science, Innovation and Technology i ett uttalande och tillägger att de fem mål som beskrivs av avdelningen bygger på ”inledande samråd med intressenter och insamling av bevis och kommer att inrama diskussionen vid toppmötet.”
Termen ”frontier AI”, framkants-AI, definieras i ett akademiskt dokument från juli 2023 av Anderljung et al som ”mycket kapabla grundmodeller som kan uppvisa farliga förmågor”. Grundmodeller är en typ av generativ AI, och de faror som nästa generation av sådana modeller kan utgöra inkluderar ”betydande fysisk skada eller störning av viktiga samhällsfunktioner i global skala, till följd av avsiktlig felanvändning eller olycka”, varnade författarna till skriften.
De fem målen för den brittiska regeringens toppmöte är:
Utveckla en gemensam förståelse för riskerna med framkants-AI och behovet av åtgärder. Lägga fram en process för internationellt samarbete om AI-säkerhet , inklusive hur man bäst kan stödja nationella och internationella ramverk. Föreslå lämpliga åtgärder som enskilda organisationer bör vidta för att öka säkerheten vid framkants-AI. Identifiera områden för potentiellt samarbete om AI-säkerhetsforskning, inklusive utvärdering av modellkapacitet och utveckling av nya standarder för att stödja styrning. Visa hur säker utveckling av AI kommer att göra det möjligt att använda AI för goda ändamål globalt.
Den fullständiga listan över inbjudna har ännu inte offentliggjorts.