Forskare vid Indiana University Bloomington i USA har upptäckt ett botnät på X (tidigare Twitter) som drivs med hjälp av den textgenererande chattbotten Chat GPT, rapporterar Ars Technica.
Bottnätet, som forskarna givit namnet ”Fox8”, består av 1140 konton där flera tycks använda Chat GPT för att både skapa inlägg och skriva svar till andra kontons inlägg. Målet tycks vara att generera fram innehåll som kan få uppmärksamhet från X:s algoritm så att mänskliga användare luras till att klicka på länkar till webbsidor för olika kryptoprojekt.
Enligt forskarna var Fox8 enkelt att hitta men bottnätet kan vara ett tecken på en betydligt större trend där avancerade chattbottar används för att driva andra bottnät som ännu inte har identifierats. En situation som förväntas kunna bli ännu svårare att hantera i takt med att AI-modeller blir allt mer avancerade.
Open AI, företaget bakom Chat GPT, har än så länge inte kommenterat forskarnas upptäckt. I användaravtalet för Chat GPT står det att chattbotten inte får användas för bedrägerier eller spridning av desinformation.
Läs också: Därför behöver ditt företag en policy för generativ AI – och så tar ni fram den