IT-nyheter från

OJCO Secure IT

Open AI lanserar företagsanpassat Chat GPT

Open AI lanserar nu Chat GPT Enterprise, en version av sin generativa AI-tjänst som gör det möjligt för företag att bestämma hur modellen tränas och hur länge den kan lagra företagsdata som används för detta ändamål.

Den nya Chat GPT-tjänsten erbjuder också ökad säkerhet och integritet genom att använda kryptering för data i vila (AES-256) och i transit (TLS 1.2+) och Security Assertion Markup Language (SAML) single sign-on för autentisering av företag.

OpenAI säger också att man har öppnat upp bandbredden för organisationer att ansluta till GPT-4, den stora språkmodellen, LLM, som Chat GPT är baserad på och tränas på. Företaget planerar att erbjuda ”obegränsat snabbare” tillgång till LLM och 32k token context windows inputs och uppföljningar som är fyra gånger längre än vad som tidigare varit tillgängligt.

En token är ungefär 4 tecken eller 0,75 ord. Som en referenspunkt är Shakespeares samlade verk cirka 900 000 ord eller 1,2 miljoner tokens, enligt OpenAI.

”Detta är ytterligare ett steg mot en AI-assistent för arbetet som hjälper till med alla uppgifter, skyddar din företagsdata och är anpassad för din organisation”, skriver OpenAI i ett blogginlägg.

”Du äger och kontrollerar dina affärsdata i Chat GPT Enterprise. Vi tränar inte på dina affärsdata eller konversationer, och våra modeller lär sig inte av din användning. Chat GPT Enterprise tar bort alla användningsbegränsningar och är upp till två gånger snabbare.”

OpenAI erbjuder också ett ”tokenizer-verktyg” genom vilket användare kan se hur många tokens text producerar.

Den San Francisco-baserade startupen sa också att Enterprise-versionen av Chat GPT har en ny adminkonsol med massmedlemshantering, domänverifiering och en analytisk dashboard-plugin för insikter kring användning – tidigare känd som Code Interpreter.

”Den här funktionen gör det möjligt för både tekniska och icke-tekniska team att analysera information på några sekunder, oavsett om det gäller finansiella forskare som analyserar marknadsdata, marknadsförare som analyserar undersökningsresultat eller datavetare som felsöker ett ETL-skript (ETL står för extract, transform and load).”

Chat GPT och andra generativa AI-modeller har tränats för att förstå naturligt språk och kod och kan ge textutdata som svar på användarens inmatningar eller frågor. Inmatningen till GPT:er kallas också för prompter. Att utforma prompter är i huvudsak hur användare ”programmerar” en GPT-modell, vanligtvis genom att ge instruktioner eller några exempel på hur man framgångsrikt slutför en uppgift; processen är känd som prompt engineering.

GPT:er kan användas för en mängd olika uppgifter, inklusive innehålls- eller kodgenerering, sammanfattning, konversation, kreativt skrivande och mycket mer.

De flesta LLM:er, som OpenAI:s GPT-4, är förtränade som prediktionsmotorer för nästa ord eller innehåll – det är så de flesta företag använder dem från start, så att säga. Och även om LLM-baserade chattbottar har gjort en del fel, fungerar förtränade LLM relativt bra för att producera mestadels korrekt och övertygande innehåll som, åtminstone, kan användas som utgångspunkt för andra uppgifter.

Många branscher kräver dock mer anpassade LLM:er, sådana som förstår specifik jargong och producerar innehåll som är skräddarsytt för deras användare.

LLM:er för hälso- och sjukvårdsbranschen kan till exempel behöva bearbeta och tolka elektroniska patientjournaler, föreslå behandlingar eller skapa en sammanfattning av patientens hälsotillstånd baserat på läkaranteckningar eller röstinspelningar. En LLM som är inriktad på finansbranschen kan sammanfatta finansiell rapportering, skapa mötesutskrifter och utföra bedrägerianalyser för att skydda konsumenterna.

Open AI-kunder kommer att kunna utöka Chat GPT:s kunskap med ett företags data på ett säkert sätt genom att ansluta den till de applikationer de redan använder, men den funktionen är fortfarande under utveckling, enligt en talesperson. Därför erbjuder Open AI sina kunder gratis krediter för att använda sina API:er om de behöver utöka Open AI till en helt anpassad lösning för en organisation.

Chat GPT Enterprise är tillgängligt nu; OpenAI har inte specificerat någon prissättning, den är beroende av företagets behov.

 

Akriv - Nyheter