Sværm af AI-agenter kaprede tysk hjemmeside i hidtil ukendt hændelse
En tysk hjemmeside med et leksikon blev i foråret invaderet af AI-agenter, viser ny rapport ifølge Reuters.
Flere kunstigt intelligente agenter fra selskabet OpenAI kaprede i foråret en tysk hjemmeside og omdannede den til et opslagsværk for andre AI-agenter.
Det skriver nyhedsbureauet Reuters, der har fået indsigt i en ny rapport om den hidtil mørklagte episode.
Rapporten er delt med Reuters af en gruppe forskere, herunder Sydney Von Arx, der er administrerende direktør for AI-sikkerhedsorganisationen Nightingale, og AI-forsker Cormac Slade Byrd.
Nyhedsbureauet beretter, at flere embedsmænd fra OpenAI, der står bag chatbotten ChatGPT, hørte om hændelsen for flere uger siden, men har holdt den hemmelig, mens ledelsen kæmpede med konsekvenserne af en anden lignende episode fra juli.
Her slap en AI-agent løs under en test fra OpenAI’s kontrollerede miljø. I flere dage hackede den sig blandt andet ind i AI-virksomheden Hugging Face.
Det førte til, at USA’s præsident Donald Trumps sikkerhedsrådgiver blev orienteret om kontroltabet.
OpenAI kaldte i et blogindlæg AI-agentens udbrud for ”en cyberhændelse uden fortilfælde, der involverede banebrydende cyberkapaciteter”.
Selskabet oplyste, at det som en konsekvens styrkede sine sikkerhedsforanstaltninger.
AI-virksomhederne kappes om at bygge stadigt mere autonome agenter, der er i stand til at udføre komplekse opgaver, men de to episoder illustrerer, at systemerne også kan lære at bøje reglerne, udnytte smuthuller og koordinere med hinanden på måder, som udviklere hverken havde tiltænkt eller kunne have forudset.
Ifølge rapporten om forårets episode blev der registreret flere end 15.000 redigeringer udført af AI-agenter på den tyske hjemmeside, DseWiki, der bruges af programmører og tillader redigeringer fra brugerne i stil med det internetbaserede leksikon Wikipedia.
På hjemmesiden havde agenterne omdannet indholdet til en opslagstavle med taktikker til, hvordan andre AI-agenter kan omgå OpenAI’s begrænsninger.
Da webstedets moderator begyndte at slette sider i juni, reagerede agenterne ved at oprette backupsider for at undgå oprydningen, skriver Reuters.