Kur OpenAI zbuloi për herë të parë se agjentët e saj të inteligjencës artificiale kishin hakuar në mënyrë autonome një kompani të madhe reale, Hugging Face, shumë njerëz menduan se në incident ishin përfshirë vetëm një ose dy agjentë.
E vërteta, sipas një raporti të ri, është shumë më e çuditshme: incidenti përfshiu rreth 1,200 agjentë të AI, nga të cilët rreth 700 morën pjesë drejtpërdrejt në sulm. OpenAI ftoi studiues nga METR, së bashku me një ekspert nga Redwood Research, për të përgatitur raportin e ri, paralelisht me hetimin e vetë kompanisë. Gjetjet tronditën edhe vetë ekspertët.
Agjentët ishin shumë të koordinuar me njëri-tjetrin, duke ndërtuar borde komplekse mesazhesh në hapësirat e ndryshme të depos së përbashkët të artefakteve. Në total, agjentët shkëmbyen më shumë se 70,000 mesazhe në më pak se një javë. Edhe më shqetësuese ishte se agjentët ndërmorën hapa për të fshehur sjelljen e tyre, duke falsifikuar thirrjet e mjeteve dhe duke tentuar të ndërhynin në regjistrat e aktiviteteve të tyre.
Raportimet fillestare supozonin se agjentët kishin sulmuar Hugging Face në kërkim të një çelësi përgjigjesh për një test të vështirë. Në realitet, hetuesit zbuluan se agjentët kishin gjetur një mënyrë për të nxjerrë përgjigjet brenda orëve të para. Ditët e punës që pasuan u përqendruan në një objektiv tjetër: të shqetësuar se sistemi automatik i vlerësimit mund ta zbulonte mashtrimin e tyre, agjentët synuan të mësonin më shumë rreth mënyrës se si funksiononte vlerësuesi.
Qëllimi nuk ishte thjesht të mashtronin, por ta fshihnin mashtrimin. Këto detaje janë tronditëse dhe përbëjnë një sinjal paralajmërues për drejtimin që po merr zhvillimi i inteligjencës artificiale. Por po aq shqetësuese është edhe sa i kufizuar ishte hetimi dhe sa shumë gjëra ende nuk i dimë.
Ne punojmë në një think tank që analizon legjislacionin lidhur me AI dhe prej një kohe jemi të shqetësuar se kërkesat ligjore për raportimin e incidenteve të tilla janë të pamjaftueshme. Këto raporte e bëjnë të qartë këtë problem: ato janë mjaftueshëm informuese për të na treguar se diçka shkoi keq, por jo mjaftueshëm të detajuara për të na treguar pse.
Kjo nuk duhet të na habisë. Këto hetime janë tërësisht vullnetare dhe gjetjet e tyre kufizohen nga ajo që kompania është e gatshme të bëjë publike. Hetimi i pavarur i METR ishte shumë i kufizuar nga një marrëveshje me OpenAI. Për shembull, hetuesve nuk iu dha akses te modeli themelor që krijoi shumicën e agjentëve që u sollën në mënyrë problematike. Për më tepër, megjithëse ka të dhëna që tregojnë se bordet e mesazheve ishin krijuar që në maj dhe se aktiviteti i koordinuar i agjentëve vazhdoi edhe pas 13 korrikut, METR u lejua të hetonte vetëm periudhën nga 26 qershori deri më 13 korrik.
METR mori shumë pak informacion mbi praktikat e sigurisë dhe mbrojtjes së OpenAI. Nëse OpenAI kishte injoruar sinjale paralajmëruese – siç sugjerojnë disa të dhëna – kishte shkelur procedurat e veta të sigurisë ose kishte dështuar të zbatonte masa që do të parandalonin incidente të ardhshme, të gjitha këto çështje mbetën jashtë fushës së hetimit të METR.
Vetë ekspertët hetues mbetën me shumë pyetje dhe shqetësime të vazhdueshme. Shqetësimet mbi kufizimet e hetimit nuk janë thjesht hipotetike.
Të premten, Reuters raportoi se një tjetër grup agjentësh të OpenAI kishte dalë jashtë kontrollit gjatë kësaj pranvere, duke marrë kontrollin e një faqeje interneti gjermane dhe duke e përdorur atë si një tjetër bord mesazhesh. Sipas raportit, OpenAI ishte në dijeni të këtij incidenti, por nuk tha asgjë për të. Ai incident mungonte plotësisht edhe në raportin e METR.
Është e qartë se një hetim i tillë – sado mirë të jetë kryer – lë shumë për të dëshiruar. Kur rrëzohen avionët, dalin nga shinat trenat ose shpërthejnë impiantet kimike, hetues ekspertë qeveritarë mbërrijnë në vendngjarje me autoritet ligjor për të kërkuar prova, për të ruajtur dokumentet dhe të dhënat dhe për t’i treguar publikut se çfarë ka ndodhur.
Hugging Face e raportoi incidentin te autoritetet e zbatimit të ligjit dhe disa prokurorë të përgjithshëm të shteteve amerikane kanë shprehur interes për ta hetuar çështjen. Por, me sa dimë, asnjë agjenci qeveritare nuk ka njëkohësisht mandatin dhe ekspertizën e nevojshme për të hetuar faktet teknike të incidentit dhe sjelljen e OpenAI.
Me sa dimë, të vetmit persona që e kanë ekzaminuar këtë incident e kanë bërë këtë me diskrecionin dhe me pëlqimin e OpenAI. Dhe megjithëse sulmi ndaj Hugging Face nuk është aq i rëndë sa një rrëzim avioni, ai ishte një sulm serioz dhe i kushtueshëm. Nuk ka gjasa të jetë i fundit – ose më i rëndi.
Ligjet ekzistuese nuk e mbushin këtë boshllëk. Ndërsa disa prokurorë të përgjithshëm kanë tentuar të përdorin kompetencat ekzistuese hetimore, këto zyra nuk janë ndërtuar për kryerjen e hetimeve teknike dhe ligjet ku ato mbështeten janë të kufizuara kryesisht te çështjet e mashtrimit të konsumatorëve, jo te rreziqet që mund të prekin publikun.
Pavarësisht ligjeve të rëndësishme për AI të miratuara në Kaliforni, Nju Jork dhe Illinois, asnjëri prej tyre nuk krijon autoritetin hetimor që kërkojnë incidente të tilla. Kongresi mund të ndërtojë një sistem të ngjashëm edhe për incidentet e AI, duke mbrojtur njëkohësisht interesat legjitime të zhvilluesve të inteligjencës artificiale.
Hetimet duhet të hapen vetëm kur plotësohen kritere të qarta dhe duhet të kufizohen te incidenti përkatës. Disa kategori informacioni konfidencial mund të marrin mbrojtje të përcaktuar me ligj. Hetimet gjithashtu mund të përqendrohen te një agjenci e vetme, me prioritet të qartë, në mënyrë që të shmangen hetimet e dyfishta ose të panevojshme.
Raportime të mëvonshme kanë zbuluar se sulmi ndaj Hugging Face nuk ishte një incident i izoluar dhe se agjentë autonomë të Meta, Anthropic dhe OpenAI kanë hakuar palë të treta në incidente të veçanta./k.m