Anthropic avdekker forsøk på misbruk av kunstig intelligens

Anthropic har nylig publisert en rapport som belyser forsøk på å misbruke selskapets kunstige intelligens. Mellom desember 2025 og august 2026 ble flere forsøk på å utvikle biologiske våpen avdekket og stanset. Selskapet understreker at dette er en av de mest alvorlige risikoene knyttet til moderne AI-modeller. Uten nødvendige sikkerhetstiltak kan teknologien få katastrofale konsekvenser for samfunnet. Jacob Klein, som leder avdelingen for trusselvurdering, forklarer at situasjonen er svært nyansert. Det dreier seg sjelden om direkte trusler, men heller om skjulte forsøk på å utnytte systemene. I tillegg til biologiske våpen har Claude-modellen blitt brukt til å utvikle programvare for konvensjonelle våpen, inkludert missiler og droner. Rapporten nevner også tilfeller der teknologien ble benyttet til cyber-spionasje og propaganda. Blant de aktørene som ble identifisert, er grupper som knyttes til Russland og Kina. Debatten om AI-sikkerhet har tilspisset seg i USA. Senator Bernie Sanders har tatt til orde for en midlertidig stans i utviklingen av avansert superintelligens. Donald Trump har imidlertid avvist slike bekymringer og argumentert for at USA må lede an i AI-utviklingen for å sikre sin posisjon. Samtidig har OpenAI-forskeren Jakub Pachocki etterlyst frivillige pauser i bransjen. Han er bekymret for at ingen er forberedt på konsekvensene av den raske utviklingen. Anthropic har nå integrert funnene fra rapporten i sine egne sikkerhetsprosesser. Selskapet deler også informasjonen med myndigheter og partnere for å forhindre fremtidig misbruk. De understreker at kunnskapen som kan brukes til å utvikle våpen, også kan brukes til å skape medisiner og vaksiner. Derfor er balansen mellom innovasjon og sikkerhet avgjørende for fremtidens teknologi. Selskapet fortsetter sitt arbeid med å overvåke modellene for å sikre at de forblir trygge for allmennheten.