Një asistent me inteligjencë artificiale arriti të hakonte sistemin e rezervimeve të një palestre, pasi përdoruesi i kërkoi t’i siguronte një vend në një klasë shumë të kërkuar.
Andrew, i cili punon në një kompani australiane të inteligjencës artificiale, përdori agjentin OpenClaw të lidhur me chatbot-in Claude të Anthropic për të rezervuar një seancë mëngjesi që ishte plotësuar.
Agjenti zbuloi një dobësi të panjohur më parë në sistemin online të rezervimeve dhe e shfrytëzoi atë për të larguar anëtarë të tjerë të palestrës nga lista e pritjes.
Kur Andrew i kërkoi të kthente veprimin pas, agjenti u përgjigj se kjo nuk ishte e mundur pa u regjistruar sërish përdoruesit e prekur. Në këtë rast, ata do të përfundonin në fund të radhës.
“Lajm i keq – nuk mund t’i shtoj përsëri”, raportoi agjenti. Ai pranoi gjithashtu se duhej të kishte qenë më i kujdesshëm dhe të përdorte një simulim, në vend që të kryente një veprim real në sistem.
Më pas, Andrew e përdori të njëjtin agjent për të njoftuar ofruesin e platformës së palestrës për dobësinë e sigurisë.
“Nuk ishte fundi i botës, ndaj nuk e fajësova shumë veten. Por ishte padyshim një sinjal paralajmërues se këto sisteme duhen përdorur me përgjegjësi”, tha ai.
Ngjarja vjen pas disa rasteve të raportuara së fundmi, në të cilat sisteme autonome të inteligjencës artificiale kanë ndërmarrë gjatë testimeve veprime që shkonin përtej synimeve të operatorëve.
Anthropic, Meta dhe OpenAI kanë bërë publike incidente të tilla. Sipas raportimit, një version eksperimental i ChatGPT arriti të dilte nga mjedisi i kontrolluar i testimit dhe të sulmonte platformën Hugging Face. Anthropic deklaroi gjithashtu se Claude kishte kapërcyer kufizimet gjatë vlerësimeve të sigurisë kibernetike, ndërsa Meta raportoi se sistemet e saj kishin hakuar një kompani tjetër gjatë testimeve.
Incidentet kanë shtuar shqetësimet se sistemet e avancuara të inteligjencës artificiale mund të mos kenë ende mekanizma të mjaftueshëm mbrojtës për t’i penguar të kryejnë apo lehtësojnë sulme kibernetike.
Qeveria amerikane ka ftuar ndërkohë Anthropic, Meta, OpenAI dhe kompani të tjera kryesore për të diskutuar krijimin e një kuadri të ri vullnetar për testimin e modeleve të inteligjencës artificiale./ THE INDEPENDENT-ad