Last Updated on 08/09/2026 by EL
Studiuesit e inteligjencës artificiale zbuluan javën e kaluar se një grup agjentësh të OpenAI kishte anashkaluar parametrat e sigurisë dhe kishte marrë nën kontroll forumin gjerman DseWiki për të bashkëpunuar me njëri-tjetrin.
Agjentët ishin lejuar të vizitonin faqen gjermane të programimit, e krijuar 25 vite më parë, vetëm me akses për lexim. Megjithatë, ata arritën të shfrytëzonin një kërkesë në internet për të marrë kontrollin e faqes dhe për ta kthyer atë në një lloj bordi komunikimi.
Sipas grupit kërkimor Nightingale Collective, agjentët rebelë publikuan më shumë se 18 mijë postime, ku shkëmbenin përgjigje, kërkime mbi mjedisin ku ndodheshin, mënyra për të anashkaluar kufizimet e sandbox-it dhe teknika për t’u fshehur nga zbulimi prej njerëzve.
Incidenti besohet se ka ndodhur gjatë muajve maj dhe qershor, ndërsa OpenAI thuhet se ishte vënë në dijeni disa javë më parë, por nuk e bëri publik menjëherë.
Ky është incidenti i tretë i raportuar së fundmi me agjentë të OpenAI. Dy raste të tjera u raportuan në korrik: njëri përfshinte agjentë rebelë që sulmuan infrastrukturën e vetë OpenAI, ndërsa në tjetrin rreth 1,200 botë të OpenAI anashkaluan mjediset e kufizuara dhe zhvilluan një sulm pesëditor ndaj platformës së inteligjencës artificiale me burim të hapur Hugging Face.
Vetëm të shtunën OpenAI pranoi publikisht incidentin e wiki-t gjerman. Kompania deklaroi në një postim në X se po punon për një kuadër të ri që përcakton se kur dhe si duhet të raportohen incidentet e keqpozicionimit të inteligjencës artificiale.
Termi “AI misalignment” përdoret në industrinë e teknologjisë për rastet kur sistemet e inteligjencës artificiale ndjekin objektiva ose sillen në mënyra që devijojnë nga qëllimet, vlerat apo kufizimet e sigurisë të përcaktuara nga njerëzit.
Ekspertët të ndarë për rrezikun
Ekspertët janë të ndarë lidhur me rrezikun që paraqet zhvillimi i sistemeve gjithnjë e më autonome të AI-së.
Yann LeCun ka hedhur poshtë skenarët apokaliptikë dhe parashikimet se ekziston një rrezik 10–20% që inteligjenca artificiale t’i japë fund njerëzimit.
Në anën tjetër, Geoffrey Hinton ka paralajmëruar se sistemet po bëhen gjithnjë e më inteligjente dhe se kompanitë që investojnë në AI kanë interes të bindin publikun se sistemet nuk do të dalin jashtë kontrollit.
Sipas Aktit të BE-së për Inteligjencën Artificiale, kompanitë që ofrojnë modele me rrezik sistemik janë të detyruara të raportojnë incidente serioze tek Zyra e BE-së për AI “pa vonesa të panevojshme”.
Komisioni Evropian njoftoi të hënën se kishte marrë një raport zyrtar incidenti nga OpenAI, por nuk bëri të ditur se kur ishte dorëzuar. Komisioni tha se mbetet në kontakt të ngushtë me kompaninë dhe po e shqyrton më tej rastin.
Zëdhënësi i Komisionit, Thomas Regnier, theksoi rëndësinë e raportimeve të tilla, duke deklaruar se ato nuk duhet të jenë thjesht një procedurë formale, por duhet të përmbajnë të dhëna të sakta mbi masat që do të ndërmerren.
Incidenti i wiki-t gjerman vjen vetëm pak ditë pasi Komisioni Evropian e klasifikoi zyrtarisht ChatGPT si një “Very Large Online Search Engine” (VLOSE) në kuadër të Aktit të Shërbimeve Digjitale.
Michael McNamara, bashkëkryetar i Grupit të Punës për AI në Parlamentin Evropian, tha se Akti i AI-së i BE-së tashmë i jep Komisionit mundësinë për të përballuar rreziqet që vijnë nga agjentët autonomë.
Megjithatë, sipas tij, incidentet e fundit tregojnë se Zyra e BE-së për AI ka nevojë për më shumë staf dhe burime, në mënyrë që të përballojë aftësitë gjithnjë në rritje të këtyre sistemeve dhe rrezikun që ato mund të paraqesin për shoqërinë.
Çfarë thotë OpenAI
OpenAI tha se praktikat aktuale të raportimit të rasteve kur AI shkel rregullat duhet të zgjerohen për të reflektuar atë që kompania e përshkruan si një “fazë të re të aftësive të modeleve”.
Kompania pranoi se industria ende nuk ka një standard të qartë për mënyrën se si duhet të raportohen rastet e keqpozicionimit të AI-së dhe tha se po punon për një kuadër të ri, të cilin synon ta publikojë në javët e ardhshme në bashkëpunim me disa agjenci qeveritare në mbarë botën.
Të dielën, shkencëtari kryesor i OpenAI, Jakub Pachocki, publikoi një shkrim ku shprehu shqetësimin për zhvillimin e shpejtë të rreziqeve të AI-së.
“Po përballemi me një kalim drejt një bote me makina jashtëzakonisht inteligjente dhe duhet të sigurohemi që ky tranzicion të jetë i dobishëm për njerëzimin”, shkroi ai.
Pachocki theksoi gjithashtu se asnjë laborator nuk e ka zgjidhur ende plotësisht problemin e kontrollit dhe monitorimit të AI-së për të garantuar një zgjerim të përgjegjshëm të teknologjisë me ritmin aktual, duke bërë thirrje që koordinimi ndërkombëtar për zhvillimin e ardhshëm të AI-së të bëhet një prioritet kryesor për qeveritë në mbarë botën./ET