Jacob Coxon, ish-kërkues në Anthropic dhe OpenAI, ka dhënë një intervistë për CNN pas dorëheqjes së tij, duke përsëritur paralajmërimin se zhvillimi i pakontrolluar i inteligjencës artificiale mund të përbëjë një kërcënim ekzistencial për njerëzimin.
Në bisedën me gazetarin Anderson Cooper, Coxon tha se problemi nuk është se inteligjenca artificiale sot është në gjendje të zhdukë njerëzimin, por shpejtësia me të cilën ajo po përmirësohet dhe mundësia që shumë shpejt të nisë të përmirësojë vetveten.
Sipas tij, skenari më shqetësues është ai i “përmirësimit rekursiv”, ku një sistem AI bëhet i aftë të krijojë ose përmirësojë versionet pasuese të vetes. Coxon paralajmëroi se kjo mund të ndodhë “vitin tjetër ose një vit më pas”, duke krijuar një situatë në të cilën njerëzit mund të humbin kontrollin mbi teknologjinë.
“Ekziston një mundësi shumë reale që në të ardhmen e afërt të ndodhë përmirësimi rekursiv i AI-së dhe të hyjmë në fazën ku ekziston mundësia që të gjithë të vdesim”, tha ai në intervistë, sipas raportimeve mbi bisedën e tij me CNN.
Coxon kishte njoftuar më herët dorëheqjen nga Anthropic, kompania që zhvillon modelin Claude, duke akuzuar kompanitë kryesore të AI-së se po garojnë drejt superinteligjencës vetëpërmirësuese dhe po “luajnë bixhoz me jetët tona”. Ai kishte punuar për rreth tre vjet në kërkimin e trajnimit të modeleve, si në Anthropic ashtu edhe në OpenAI.
Një tjetër detaj i rëndësishëm i intervistës është se Coxon nuk e përshkruan AI-në aktuale si një kërcënim të menjëhershëm. Frika e tij lidhet me atë që mund të ndodhë kur sistemet të bëhen dukshëm më inteligjente dhe të afta të veprojnë në mënyrë autonome. Sipas tij, ato mund të përdoren për sulme kibernetike, manipulim, ndërhyrje në infrastrukturë kritike apo edhe zhvillimin e armëve biologjike.
Paralajmërimi i Coxon mori një tjetër dimension pasi u mbështet publikisht nga Evan Hubinger, një kërkues i lartë i Anthropic, i cili tha se kompania ende nuk ka një plan të zgjidhjes së problemit të “alignment” për superinteligjencën dhe se, sipas vlerësimit të tij personal, ekziston më shumë se 10% mundësi që AI të vrasë të gjithë njerëzit brenda dekadës së ardhshme.
Coxon thotë se pikërisht kjo është arsyeja pse vendosi të largohej, edhe pse dorëheqja nënkuptonte heqjen dorë nga një përfitim i konsiderueshëm financiar. Ai argumenton se kompanitë e AI-së janë futur në një garë ku secila druhet se, nëse ngadalëson, konkurrentët do të ecin përpara.
“Ky skenar tingëllon si fantashkencë, por është tmerrësisht real”, është mesazhi që Coxon përcolli në intervistën për CNN, duke kërkuar që zhvillimi i AI-së të shoqërohet me rregulla dhe mekanizma shumë më të fortë sigurie.
Paralajmërimet e tij vijnë në një kohë kur edhe brenda industrisë së AI-së po shtohen zërat për nevojën e kontrollit dhe rregullimit të teknologjisë. CNN ka raportuar se më shumë se 1,300 punonjës të kompanive të AI-së kanë mbështetur më herët një thirrje për ngadalësimin e zhvillimit për arsye sigurie./mxh