Storbritanniens konkurrens- och marknadsmyndighet, CMA, varnar för de potentiella riskerna med artificiell intelligens i en ny granskning av AI-grundmodeller.
Grundmodeller är AI-system som har tränats på massiva, omärkta datauppsättningar. De ligger till grund för stora språkmodeller – som Open AI:s GPT-4 och Googles Palm – för generativa AI-tillämpningar som Chat GPT, och kan användas för en rad olika uppgifter, till exempel översättning av text och analys av medicinska bilder.
I den nya rapporten föreslås ett antal principer som ska vägleda den pågående utvecklingen och användningen av grundmodeller, baserat på synpunkter från 70 intressenter, inklusive en rad utvecklare, företag, konsument- och branschorganisationer, akademiker och offentligt tillgänglig information.
De föreslagna principerna är följande:
Ansvarsskyldighet: Utvecklare och distributörer av AI-grundmodeller är ansvariga för de resultat som levereras till konsumenterna. Tillgång: Löpande tillgång till viktig input, utan onödiga restriktioner. Mångfald: Bibehållen mångfald av affärsmodeller, inklusive både öppna och slutna. Valmöjligheter: Tillräckliga valmöjligheter för företagen så att de kan bestämma hur de vill använda grundmodellerna. Flexibilitet: Att ha flexibilitet att byta och/eller använda flera grundmodeller beroende på behov. Rättvist agerande: Inget konkurrensbegränsande beteende, inbegripet självreferenser, kopplingsförbehåll eller kombinationserbjudanden. Öppenhet: Konsumenter och företag får information om riskerna och begränsningarna med innehåll som genererats av grundmodeller så att de kan göra välgrundade val.
Dåligt utvecklade AI-modeller kan leda till skada för samhället
CMA-rapporten belyser hur människor och företag kan dra nytta av korrekt implementerade och välutvecklade grundmodeller, men varnar för att om konkurrensen är svag eller AI-utvecklare inte följer konsumentskyddslagar kan det leda till skada för samhället. Som exempel nämns att medborgare utsätts för ”betydande nivåer” av falsk och vilseledande information och AI-aktiverade bedrägerier.
CMA varnar också för att marknadsdominans från ett litet antal företag på längre sikt kan leda till konkurrensproblem, där etablerade aktörer använder grundmodeller för att befästa sin ställning och leverera produkter och tjänster till överpris eller av dålig kvalitet.
”Den hastighet med vilken AI blir en del av vardagen för människor och företag är dramatisk. Det finns en verklig potential för denna teknik att öka produktiviteten och göra miljontals vardagliga uppgifter enklare – men vi kan inte ta en positiv framtid för given”, säger Sarah Cardell, chef för CMA, i kommentarer som publicerades tillsammans med rapporten.
”Det finns fortfarande en verklig risk att användningen av AI utvecklas på ett sätt som undergräver konsumenternas förtroende eller domineras av ett fåtal aktörer som utövar marknadsmakt som förhindrar att de stora fördelarna märks i hela ekonomin.”
CMA säger att man som en del av sitt dialogprogram kommer att fortsätta att tala med ett brett spektrum av berörda parter, inklusive konsumentgrupper, regeringar, andra tillsynsmyndigheter och ledande AI-grundmodellutvecklare som Anthropic, Google, Meta, Microsoft, NVIDIA och Open AI.
I början av 2024 kommer tillsynsmyndigheten att lämna en uppdatering om sina överväganden, bland annat om hur principerna har tagits emot och antagits.
Vad är CMA:s nästa steg?
CMA är bara en av de tillsynsmyndigheter som den brittiska regeringen har gett i uppdrag att ta ställning till landets AI-policy. I mars publicerade regeringen en vitbok med sina riktlinjer för ”ansvarsfull användning” av tekniken.
Men för att ”undvika tungrodd lagstiftning som kan kväva innovation” har regeringen valt att ge ansvaret för AI-styrning till sektoriella tillsynsmyndigheter som kommer att behöva förlita sig på befintliga befogenheter i avsaknad av nya lagar.
– CMA har visat en lovvärd vilja att proaktivt engagera sig i den snabbt växande AI-sektorn, för att säkerställa att dess konkurrens- och konsumentskyddsagendor engageras så tidigt som möjligt, säger Gareth Mills, partner på advokatfirman Charles Russell Speechlys.
Han tillägger att även om principerna i rapporten är ”nödvändigtvis breda”, har de tydligt utformats för att skapa ett lågt inträdeskrav för sektorn, så att mindre aktörer kan konkurrera effektivt med mer etablerade namn, samtidigt som de motverkar potentialen för att AI-teknik ska påverka konsumenterna negativt.
– Det kommer att bli spännande att se hur CMA försöker reglera marknaden för att säkerställa att konkurrensproblemen hanteras, säger Russell.