Nicolai Busekist
Sikkerhedseksperter har delt en advarsel, der i særdeleshed gælder for virksomheder.
Modstanden fra cybersikkerhedsbranchen mod AI-drevne browsere vokser, og både giganten Gartner og en britisk regeringsenhed advarer nu om, at disse browsere kan udgøre potentielle trusler.
“Cybersikkerhed skal blokere AI-browsere nu. AI-browsere er nye og innovative, men for risikable til at blive taget i brug bredt af de fleste organisationer,” skriver Gartner i en rapport offentliggjort i sidste uge ifølge PC Mag.
Gartner slår alarm, fordi flere selskaber er begyndt at tilbyde AI-browsere, der lover en mere effektiv weboplevelse. Programmerne lader brugeren overlade og automatisere opgaver som søgninger eller at skrive en e-mail til en AI-agent.
Problemet med dette er, at de samme AI-funktioner kan narres til at udføre skadelige kommandoer skjult i hjemmesider eller e-mails, hvilket i praksis kan vende browseren mod brugeren.
I sikkerhedsmiljøet betegnes denne trussel som ‘prompt injection-angreb’, der udnytter, at AI-chatbots ikke altid kan skelne mellem en legitim forespørgsel og en ondsindet én af slagsen.
Gartner fremhæver Perplexitys Comet og OpenAIs Atlas som browsere, virksomheder bør være særligt forsigtige med, da de kan automatisere en lang række funktioner.
Gartner går så langt som at anbefale, at alle Chief Information Security Officers (CISO’er) ‘blokerer alle AI-browsere i den nærmeste fremtid for at minimere risikoeksponeringen’.
Analysen tilføjer, at standardindstillingerne ‘er optimeret til brugeroplevelse frem for den bedste praksis inden for cybersikkerhed eller beskyttelse af privatliv’.
Mandag advarede Storbritanniens National Cyber Security Centre desuden mod det samme.
“Der er en reel chance for, at prompt injection aldrig bliver fuldt afbødet, på samme måde som SQL-injektionsfejl, der kan opstå ved dårlig computerkode. Det bedste, vi kan håbe på, er at reducere sandsynligheden eller konsekvensen af angreb,” skrev de.
Den offentlige debat kan dog forvente modstand fra tech-industrien, herunder Microsoft, OpenAI og Perplexity, som arbejder på at udvikle sikkerhedsmekanismer mod netop prompt injection-angreb.
Dette omfatter bl.a. at antage, at alt indhold fra nettet er utroværdigt, samt at kræve brugerens tilladelse, før der udføres mere følsomme kommandoer. Mandag annoncerede Google sin egen indsats for at forhindre sådanne angreb i Chrome, som bruger Gemini-chatbotten til sine AI-funktioner.
I PC Mags tests har de dog oplevet, at AI-browsere er skuffende med svag ydeevne. Derfor bør helt almindelige brugere også være fuldt ud opmærksomme på begrænsningerne, herunder de kompromiser, man løber med hensyn til privatliv og sikkerhed.
