Mark Zuckerberg thotë se kompanitë që zhvillojnë Inteligjencë Artificiale nuk kanë nevojë për një marrëveshje të përbashkët të gjithë industrisë për të ngadalësuar zhvillimin e teknologjisë kur shfaqen shqetësime serioze për sigurinë.
Në një postim në X, CEO i Meta argumentoi se vetë presioni i tregut do ta shndërrojë sigurinë dhe “alignment”, pra aftësinë e sistemeve të inteligjencës artificiale për të vepruar në përputhje me qëllimet dhe udhëzimet e përdoruesve – në një avantazh konkurrues. “Çdo laborator ka përgjegjësinë dhe njëkohësisht interesin për të ecur me ritmin e nevojshëm për t’i trajnuar modelet e tij në mënyrë të sigurt”, deklaroi Zuckerberg.
Sipas tij, besimi dhe përafrimi i AI me interesat e përdoruesve po kthehen me shpejtësi në disa prej elementeve kryesore që do të bëjnë diferencën mes modeleve dhe agjentëve të inteligjencës artificiale. “Çdo laborator që nuk fokusohet te alignment do të mbetet prapa”, shtoi ai.
Zuckerberg solli si shembull vendimin e Meta për të shtyrë me disa muaj lançimin e modelit të saj Muse, në mënyrë që kompania të kishte më shumë kohë për të përmirësuar aspektet e sigurisë dhe mbrojtjes së sistemit. “Ne nuk kërkuam që të gjithë të tjerët të bënin të njëjtën gjë përpara se ta bënim ne. Thjesht e bëmë”, tha Zuckerberg. Deklaratat e tij vijnë në një moment kur industria globale e inteligjencës artificiale po përballet me një debat gjithnjë e më intensiv: a duhet zhvillimi i modeleve më të avancuara të AI të ngadalësohet përmes mekanizmave të koordinuar dhe të verifikueshëm të sigurisë, apo secila kompani duhet të mbajë individualisht përgjegjësinë për vendimet e saj?
Anthropic ka kërkuar rregullim nga qeveritë dhe krijimin e mekanizmave që do t’u mundësonin laboratorëve kryesorë të AI të ndalonin ose ngadalësonin zhvillimin nëse shfaqen sinjale serioze rreziku.
Nga ana tjetër, drejtues të tjerë të industrisë, përfshirë CEO-n e Nvidia, Jensen Huang, kanë mbështetur më shumë përdorimin e vlerësimeve të pavarura dhe përgjegjësinë individuale të kompanive që zhvillojnë inteligjencë artificiale.
Edhe Chief AI Officer i Meta, Alexandr Wang, mbështeti qëndrimin e Zuckerberg. Në një postim të tij, Wang theksoi nevojën për qeverisje të fortë, vlerësues të jashtëm dhe mbikëqyrje të pavarur përpara lançimit të modeleve të reja.
Sipas Wang, një nga skenarët më të rrezikshëm është gara drejt asaj që njihet si “recursive self-improvement” (RSI), pra aftësia e sistemeve të AI për të përmirësuar në mënyrë të përsëritur vetveten. “Gara drejt përmirësimit rekurziv të vetvetes është një nga rrugët më të rrezikshme që mund të çojë në humbjen potenciale të kontrollit ndaj modeleve shumë të fuqishme”, deklaroi Wang.
Ai shtoi se Meta po angazhon pjesën dërrmuese të kapaciteteve të saj kompjuterike për krijimin e produkteve dhe shërbimeve që u shërbejnë njerëzve, në vend që t’i përdorë ato për një garë drejt RSI. “AI është një teknologji jashtëzakonisht e fuqishme dhe zhvillimi i saj në mënyrë të sigurt, së bashku me mekanizmat e duhur të kontrollit dhe balancës, sjell një përgjegjësi të jashtëzakonshme”, përfundoi Wang.
Debati prek një nga pyetjet më të rëndësishme të momentit për industrinë e AI: a mund t’i besohet vetërregullimit të kompanive që njëkohësisht po konkurrojnë për të ndërtuar modelet më të fuqishme, apo nevojiten rregulla dhe mekanizma të përbashkët që përcaktojnë se kur duhet të ngadalësohet gara?