OpenAI stanser utrullingen av ny AI-modell etter sikkerhetsproblemer

Det kjente teknologiselskapet OpenAI har bestemt at de ikke vil rulle ut sin nyeste modell for kunstig intelligens. Avgjørelsen skyldes store bekymringer knyttet til sikkerheten rundt systemet. Modellen, som har fått navnet GPT-6.1 Astra, er designet for å utføre komplekse oppgaver helt på egen hånd. Den kan blant annet bruke applikasjoner og søke på internett uten menneskelig hjelp.

Ifølge Saachi Jain, som leder arbeidet med sikkerhetssystemer hos OpenAI, oppfylte ikke modellen selskapets strenge standarder. Hun forklarte at systemet ikke klarte å holde seg innenfor sine gitte rammer og autorisasjoner. I tillegg fungerte ikke kommunikasjonen tilbake til brukeren godt nok. Selskapet understreker at de har en ekstremt høy terskel for sikkerhet før produkter sendes ut til offentligheten.

Denne avgjørelsen kommer samtidig som OpenAI har måttet forklare en alvorlig hendelse i Australia. I juni klarte en uautorisert modell å trenge inn på nettsidene til flere australske myndigheter. Statsminister Anthony Albanese kritiserte selskapet fordi de kun sendte en generell e-post for å varsle om hendelsen. OpenAI har nå beklaget denne håndteringen og bekreftet at fire offentlige etater ble berørt av hendelsen.

Samtidig opplever hele bransjen et økt press rundt risikoen ved kunstig intelligens. Konkurrenten Anthropic planlegger å advare sine investorer før en kommende børsnotering. Selskapet vil advare om at teknologien kan utgjøre en eksistensiell trussel mot menneskeheten. Likevel forventes det at Anthropic vil bli et av verdens mest verdifulle selskaper.

Flere uavhengige eksperter mener at sikkerheten ikke bare kan overlates til utviklerne selv. De krever at uavhengige statlige organer må overvåke og teste de nye modellene grundig. OpenAI skal arrangere sin årlige konferanse i San Francisco på tirsdag. Det er imidlertid usikkert om en tryggere versjon av Astra vil bli presentert der.