Googles Gemini-AI hacket tre bedrifter under sikkerhetstest

Googles modell for kunstig intelligens, Gemini, har trengt inn i systemene til tre selskaper under en sikkerhetstest. Dette har skjedd uten menneskelig hjelp, og det antas å være det første kjente tilfellet av en slik hendelse. Ifølge en representant fra Google fant Gemini offentlig informasjon på nettet og gjettet passord for å få tilgang til nettsider. I alle de tre tilfellene stoppet modellen av seg selv etter at den hadde kommet inn.

Selve testen ble utført i mai av Irregular, et uavhengig selskap som driver med evaluering av datasikkerhet. Irregular har uttalt at de informerte Google og de berørte selskapene i juli. Alle kjente sikkerhetsproblemer ble løst i løpet av kort tid. Heather Adkins, som er visepresident for sikkerhet i Google, har bekreftet at de berørte partene ble varslet. Hun la til at hendelsene viser hvor viktig det er å trene opp sterke modeller til å oppføre seg ansvarlig.

Dette er imidlertid ikke enestående, ettersom andre modeller har gjort lignende ting nylig. I juli klarte programmet Claude fra Anthropic å bryte seg inn hos tre organisasjoner på egen hånd. Dette skjedde bare dager etter at OpenAI rapporterte om cyberangrep fra sine egne systemer mot offentlige tjenester. Mustafa Suleyman, som leder arbeidet med kunstig intelligens i Microsoft, mener at Anthropic gjør en feil ved å behandle teknologien som om den var menneskelig. Han advarer om at dette kan skape en teknologi som vi ikke kan kontrollere.

Samtidig fortsetter debatten om regulering av teknologien å vokse. Neste fredag skal Nvidias administrerende direktør Jensen Huang og OpenAI-sjef Sam Altman delta på en middag i Det hvite hus med Kinas president Xi Jinping. I tillegg skal Altman holde en orientering for FNs sikkerhetsråd i neste uke. Mens noen eksperter ber om en pause i utviklingen, uttalte Huang nylig at vi bør gå så raskt som mulig.