Open AI medddelar nu att de instiftar ett Red Teaming Network som ska hårdtesta och utvärdera riskerna med företagets AI-modeller. Red teaming är när en grupp agerar angripare och letar efter sårbarheter i ett system.
AI-företaget, som är mest känt för Chat GPT, letar efter intresserade externa domänexperter inom en rad olika områden som kognitiv vetenskap, kemi, biologi, fysik, datavetenskap, steganografi, politisk vetenskap, psykologi, retorik, ekonomi, antropologi, sociologi, människa–datorinteraktion, rättvisa och partiskhet, inriktning, utbildning, sjukvård, juridik, barnomsorg, cybersäkerhet, finans, desinformation, politisk användning, integritet, biometrik och språk och lingvistik. Tidigare erfarenhet av AI-system eller språkmodeller är inte ett krav, men kan vara användbart.
Som en del i nätverket kan vissa deltagare bli kontaktade av Open AI för att hjälpa till under olika steg i utvecklingen av en AI-modell eller produkt. Den individuella tiden som en deltagare är med i ett projekt kan vara så lite fem till tio timmar på ett år. Alla deltagare kommer kompenseras för sitt arbete i ett red teaming-projekt.
Utöver dessa kampanjer som anordnas av Open AI kommer deltagarna också kunna interagera med varandra gällande generell red teaming. Enligt Open AI är målet att kunna göra red teaming till mer av en iterativ process.
Läs också: Google testar sin GPT 4-utmanare Gemini