Ligjet e reja nevojiten urgjentisht për të mbajtur mjetet e fuqishme me burim të hapur që të mos merren nga aktorë keqdashës
Nga David Evan Harris
Aresearcher iu dha akses në fillim të këtij viti nga kompania mëmë e Facebook, Meta, në një softuer tepër të fuqishëm të inteligjencës artificiale – dhe e zbuloi atë në botë. Si një ish-kërkues për integritetin qytetar të Metës dhe ekipet përgjegjëse të AI, jam i tmerruar nga ajo që mund të ndodhë më pas.
Megjithëse Meta u dhunua nga rrjedhja e informacionit, ai doli si fitues: studiuesit dhe koduesit e pavarur tani po garojnë për të përmirësuar ose ndërtuar në anën e pasme të LLaMA (Large Language Model Meta AI – versioni i markës së Metës i një modeli të madh gjuhësor ose LLM, lloji i softuerit që qëndron në themel të ChatGPT), me shumë njerëz që ndajnë punën e tyre hapur me botën.
Kjo mund ta pozicionojë Metën si pronarin e pjesës qendrore të platformës mbizotëruese të AI, në të njëjtën mënyrë që Google kontrollon sistemin operativ Android me burim të hapur që është ndërtuar dhe përshtatur nga prodhuesit e pajisjeve globalisht. Nëse Meta do të siguronte këtë pozicion qendror në ekosistemin e AI, do të kishte fuqi për të formuar drejtimin e AI në një nivel themelor, duke kontrolluar si përvojat e përdoruesve individualë, ashtu edhe duke vendosur kufij për atë që kompanitë e tjera mund dhe nuk mund të bënin. Në të njëjtën mënyrë që Google korr miliarda nga reklamat në Android, shitjet e aplikacioneve dhe transaksionet, kjo mund të krijojë Meta për një periudhë shumë fitimprurëse në hapësirën e AI, struktura e saktë e së cilës ende nuk është shfaqur.
Kompania me sa duket lëshoi njoftime për heqjen e kodit për të marrë kodin e rrjedhur jashtë linje, pasi supozohej të ishte i aksesueshëm vetëm për përdorim kërkimor, por pas rrjedhjes, shkencëtari kryesor i AI i kompanisë, Yann LeCun, tha: “Platforma që do të fitojë do të jetë atë të hapur”, duke sugjeruar që kompania mund të funksionojë thjesht me modelin me burim të hapur si një strategji konkurruese.
Megjithëse Bard i Google dhe ChatGPT i OpenAI janë falas për t’u përdorur, ato nuk janë me burim të hapur. Bard dhe ChatGPT mbështeten në ekipet e inxhinierëve, moderatorëve të përmbajtjes dhe analistëve të kërcënimeve që punojnë për të parandaluar përdorimin e platformave të tyre për dëm – në përsëritjet e tyre aktuale, ata (shpresojmë) nuk do t’ju ndihmojnë të ndërtoni një bombë, të planifikoni një sulm terrorist ose të bëni false përmbajtje e krijuar për të prishur një zgjedhje. Këta njerëz dhe sistemet që ata ndërtojnë dhe mirëmbajnë e mbajnë ChatGPT dhe Bard në përputhje me vlerat specifike njerëzore.
Megjithatë, LLaMA me burim gjysmë të hapur të Meta-s dhe modelet e tij të gjuhëve të mëdha (LLM) mund të drejtohen nga kushdo me pajisje kompjuterike të mjaftueshme për t’i mbështetur ato – pasardhësit e fundit mund të përdoren në laptopët e disponueshëm në treg. Kjo i jep kujtdo – nga konsulencat e paskrupullta politike deri tek agjencia e inteligjencës GRU me burime të mira të Vladimir Putinit – lirinë për të drejtuar AI pa asnjë sistem sigurie në vend.
Nga viti 2018 deri në vitin 2020 kam punuar në ekipin e integritetit qytetar në Facebook. I kushtova vite të jetës sime për të luftuar ndërhyrjet online në demokraci nga shumë burime. Unë dhe kolegët e mi luajtëm lojëra të gjata me diktatorë në mbarë botën që përdorën “sjellje joautentike të koordinuara”, duke punësuar ekipe njerëzish për të krijuar manualisht llogari të rreme për të promovuar regjimet e tyre, për të vëzhguar dhe ngacmuar armiqtë e tyre, për të nxitur trazira dhe madje. promovojnë gjenocidin.
Unë do të merrja me mend se ekipi i Putinit është tashmë në treg për disa mjete të shkëlqyera të inteligjencës artificiale për të prishur zgjedhjet presidenciale në SHBA 2024 (dhe ndoshta edhe ato në vende të tjera). Unë mund të mendoj për disa shtesa më të mira në arsenalin e tij sesa LLM-të e disponueshme lirshëm si LLaMA, dhe grumbullimi i softuerit që po ndërtohet rreth tyre. Mund të përdoret për ta bërë përmbajtjen e rreme më bindëse (shumica e përmbajtjes ruse të përdorur në 2016 kishte mangësi gramatikore ose stilistike) ose për të prodhuar shumë më tepër prej saj, ose madje mund të ripërdoret si një “klasifikues” që skanon platformat e mediave sociale për përmbajtje veçanërisht nxitëse nga amerikanët e vërtetë për t’u përforcuar me komente dhe reagime të rreme. Mund të shkruajë gjithashtu skenarë bindës për falsifikime të thella që sintetizojnë video të kandidatëve politikë që thonë gjëra që nuk i kanë thënë kurrë.
Ironia e gjithë kësaj është se platformat e Metës (Facebook, Instagram dhe WhatsApp) do të jenë ndër fushat më të mëdha të betejës në të cilat do të vendosen këto “operacione ndikimi”. Mjerisht, ekipi i integritetit qytetar në të cilin punova u mbyll në vitin 2020 dhe pas raundeve të shumta të tepricave, kam frikë se aftësia e kompanisë për të luftuar këto operacione është penguar.
Megjithatë, edhe më shqetësuese është se tani kemi hyrë në “epokën e kaosit” të mediave sociale dhe përhapja e platformave të reja dhe në rritje, secila me ekipe të veçanta dhe shumë më të vogla të “integritetit” ose “besimit dhe sigurisë”, mund të jetë madje. më pak i pozicionuar se Meta për të zbuluar dhe ndaluar operacionet e ndikimit, veçanërisht në ditët dhe orët e fundit të zgjedhjeve të ndjeshme ndaj kohës, kur shpejtësia është më kritike.
Por shqetësimet e mia nuk ndalen me erozionin e demokracisë. Pasi punova në ekipin e integritetit qytetar në Facebook, vazhdova të menaxhoj ekipe kërkimore që punojnë në AI përgjegjëse, duke kronizuar dëmet e mundshme të AI dhe duke kërkuar mënyra për ta bërë atë më të sigurt dhe të drejtë për shoqërinë. Pashë sesi vetë sistemet e inteligjencës artificiale të punëdhënësit tim mund të lehtësonin diskriminimin e strehimit, të bënin shoqata raciste dhe të përjashtonin gratë nga shikimi i listave të punës të dukshme për burrat. Jashtë mureve të kompanisë, sistemet e AI kanë rekomanduar padrejtësisht dënime më të gjata me burg për njerëzit me ngjyrë, nuk kanë arritur të njohin me saktësi fytyrat e grave me lëkurë të errët dhe kanë shkaktuar incidente të panumërta të dëmtimit, mijëra prej të cilave janë kataloguar në bazën e të dhënave të Incidentit të AI.
Megjithatë, pjesa e frikshme është se incidentet që përshkruaja më lart ishin, në pjesën më të madhe, pasojat e paqëllimshme të zbatimit të sistemeve të AI në shkallë. Kur AI është në duart e njerëzve që e abuzojnë qëllimisht dhe me qëllim të keq, rreziqet e mospërputhjes rriten në mënyrë eksponenciale, të komplikuara edhe më tej me rritjen e aftësive të AI.
Do të ishte e drejtë të pyesim: a nuk do të bëhen LLM në mënyrë të pashmangshme gjithsesi burim i hapur? Që nga rrjedhja e LLaMA-s, shumë kompani dhe laboratorë të tjerë i janë bashkuar garës, disa LLM botuese që rivalizojnë LLaMA-n në pushtet me licenca më lejuese me burim të hapur. Një LLM i ndërtuar mbi LLaMA reklamon me krenari natyrën e tij “të pacensuruar”, duke përmendur mungesën e kontrolleve të sigurisë si një veçori, jo një defekt. Meta duket se qëndron i vetëm sot, megjithatë, për aftësinë e tij për të vazhduar të nxjerrë modele gjithnjë e më të fuqishme, kombinuar me gatishmërinë për t’i vënë ato në duart e kujtdo që i dëshiron. Është e rëndësishme të mbani mend se nëse aktorët me qëllim të keq mund të kapin kodin, ata nuk kanë gjasa të kujdesen për atë që thotë marrëveshja e licencës.
Ne po jetojmë një moment të përshpejtimit kaq të shpejtë të teknologjive të AI që edhe ngecja e lëshimit të tyre – veçanërisht lëshimi i tyre me burim të hapur – për disa muaj mund t’u japë qeverive kohë për të vendosur rregulla kritike. Kjo është ajo për të cilën bëjnë thirrje CEO si Sam Altman, Sundar Pichai dhe Elon Musk. Kompanitë e teknologjisë duhet gjithashtu të vendosin kontrolle shumë më të forta se kush kualifikohet si “studiues” për akses të veçantë në këto mjete potencialisht të rrezikshme.
Platformat më të vogla (dhe ekipet e zbrazura në ato më të mëdha) gjithashtu kanë nevojë për kohë që ekipet e tyre të besimit dhe sigurisë/integritetit të arrijnë me implikimet e LLM-ve, në mënyrë që të mund të ndërtojnë mbrojtje kundër abuzimeve. Kompanitë gjeneruese të AI dhe platformat e komunikimit duhet të punojnë së bashku për të vendosur filigranë për të identifikuar përmbajtjen e krijuar nga AI dhe nënshkrime dixhitale për të verifikuar që përmbajtja e prodhuar nga njeriu është autentike.
Gara deri në fund për sigurinë e AI që po shohim tani duhet të ndalet. Në seancat dëgjimore të muajit të kaluar përpara Kongresit të SHBA, si Gary Marcus, një ekspert i AI, ashtu edhe Sam Altman, CEO i OpenAI, bënë thirrje për krijimin e organeve të reja ndërkombëtare të qeverisjes posaçërisht për AI – të ngjashme me organet që drejtojnë sigurinë bërthamore. BE-ja është shumë përpara SHBA-së për këtë, por fatkeqësisht Akti i saj pionier i BE-së për Inteligjencën Artificiale mund të mos hyjë plotësisht në fuqi deri në vitin 2025 ose më vonë. Është shumë vonë për të bërë një ndryshim në këtë garë.
Derisa të vendosen ligjet e reja dhe organet e reja qeverisëse, ne, për fat të keq, do të duhet të mbështetemi në durimin e CEO-ve të teknologjisë për të ndaluar që mjetet më të fuqishme dhe të rrezikshme të bien në duar të gabuara. Pra, ju lutemi, CEO: le të ngadalësojmë pak përpara se të thyejmë demokracinë. Dhe ligjvënësit: nxitoni.
*David Evan Harris është studiues publik i kancelarit në UC Berkeley, studiues i lartë në Institutin Ndërkombëtar të Shkencave Kompjuterike, këshilltar i lartë për etikën e AI në Institutin e Psikologjisë së Teknologjisë, një studiues i lidhur në Laboratorin e Politikave CITRIS dhe një autor kontribues në Qendrën për Ndërkombëtare Inovacioni i Qeverisjes