Çetboti i parë në botë e shqetësoi thellësisht krijuesin e tij.
Nga: Kelli María Korducki / History
Në vitin 1966, shkencëtari i kompjuterëve Joseph Weizenbaum ndërtoi një program kompjuterik primitiv, të cilin e quajti ELIZA. Pothuajse menjëherë, u pendua për krijimin e tij.
E zhvilluar për të imituar shkëmbime të thjeshta psikoterapeutike, ELIZA papritmas shkaktoi reagime të thella. Përdoruesit u hapën, ndanë hollësi intime për veten dhe e trajtuan programin sikur të ishte njeri. Reagimi ishte aq i fortë, saqë thuhet se edhe sekretarja e Weizenbaumit në Institutin e Teknologjisë të Masaçusetsit (MIT) i kërkoi atij të dilte jashtë, që ajo të mund të fliste privatisht me programin.
ELIZA njihet gjerësisht si çetboti i parë në botë dhe një version i saj është ende i qasshëm në internet sot. Krijimi i saj e bëri Weizenbaumin pionier të IA-së [inteligjencës artificiale] dhe të modeleve të përpunimit të gjuhës – programe të krijuara për të analizuar dhe gjeneruar përgjigje duke njohur modelet në tekst.
“Ajo që nuk kisha kuptuar ishte se ekspozime jashtëzakonisht të shkurtra ndaj një programi relativisht të thjeshtë kompjuterik mund të nxisnin mendim të fuqishëm delirant te njerëzit krejt normalë”, kujtonte Weizenbaum në librin e tij të vitit 1976, Fuqia kompjuterike dhe arsyeja njerëzore [Computer Power and Human Reason]. Ky fenomen, i cili u bë i njohur si “efekti ELIZA”, e shqetësoi thellësisht atë.
Deri në vdekjen e tij në vitin 2008, ai ia kushtoi jetën të qenit një nga kritikët më të ashpër dhe më të zëshëm të teknologjisë.
Fuqitë e projeksionit
Çetboti i parë në botë nuk ishte menduar kurrë për t’i shtyrë kufijtë e inteligjencës artificiale.
“Weizenbaumi e projektoi ELIZA-n më shumë si një eksperiment psikologjik sesa teknologjik”, shpjegon Brian Merchant, autor i Gjaku në makineri: Zanafilla e rebelimit kundër gjigantëve të teknologjisë [Blood in the Machine: The Origins of the Rebellion Against Big Tech]. “Atij i interesonte mënyra se si njerëzit ndërveprojnë me makinat dhe e projektoi ELIZA-n si një mjet për ta hetuar atë marrëdhënie”.
ELIZA funksiononte duke skanuar tekstin e shtypur nga përdoruesi, për fjalë kyçe, dhe duke gjeneruar, në bazë të përputhjes së modeleve, përgjigje që ngjanin me bisedën njerëzore. “Mos asgjë tjetër, ELIZA tregon se sa e lehtë është të krijosh dhe të ruash iluzionin e të kuptuarit”, shkroi Weizenbaum. Ai besonte se, sapo të zbuloheshin mekanizmat e programit, “magjia” do të “shkërmoqej”.
Por, Merchanti thotë se Weizenbaumi ishte “i tmerruar” nga mënyra se si përdoruesit kërkonin afërsi emocionale me botin, sidomos duke pasur parasysh se sa bazike ishte teknologjia. Edhe pasi u thuhej se programi ishte rudimentar, përdoruesit vazhdonin t’i atribuonin ELIZA-s të kuptuarit, empatinë dhe qëllimin. Reagimi zbuloi një të vërtetë shqetësuese për dinamikën njeri-makinë.
“Weizenbaumi e kuptoi se dëshira jonë për të krijuar marrëdhënie, dhe lehtësia me të cilën një program kompjuterik mund të ndërtohej dhe të shitej për ta shfrytëzuar atë dëshirë, do t’i linte njerëzit të cenueshëm ndaj shfrytëzimit masiv nga kushdo që zotëronte dhe operonte sistemet kompjuterike”, thotë Merchant.
Joseph Weizenbaum demonstron ELIZA-n (maj 2005)Alamy Stock Photo
Luke Fernandez, profesor i asociuar në Shkollën e Informatikës të Universitetit Shtetëror Veber, vë në dukje në mënyrë të ngjashme se Weizenbaumi e shihte “fuqinë e projeksionit” të njerëzve si një faktor të mundshëm rreziku në marrëdhënien në zhvillim midis njerëzve dhe makinerive.
“Weizenbaumi e hidhte poshtë idenë se kishte diçka të pashmangshme në drejtimin ku mund të na çonte teknologjia ose se aftësia për të vepruar qëndronte te vetë teknologjia”, thotë Fernandezi. Ai shqetësohej se, nëse njerëzit do t’u jepnin tepër besim makinave, mund ta rrezikonim përgjegjshmërinë tonë ndaj njëri-tjetrit.
Si krijohet kuptimi
Weizenbaumi besonte fuqishëm se gjykimi dhe arsyetimi njerëzor mbartnin një përgjegjësi morale, gjë që formësoi mënyrën se si ai e kuptonte teknologjinë dhe IA-në.
I detyruar të ikte nga Gjermania naziste kur ishte adoleshent i ri, Weizenbaumi pa nga afër se si agjenda gjenocidale e nazistëve ishte ndihmuar nga dhjetëra njerëz të zakonshëm që kthenin kokën nga ana tjetër. Ai gjithashtu e kuptoi ndikimin e fuqishëm të propagandës antisemite të nazistëve, e cila i çnjerëzonte familjet hebreje – si ajo e tija – në shërbim të përpjekjes eugjenike të nazistëve për të krijuar një të ashtuquajtur racë të përsosur. Kjo fushatë çnjerëzimi mbolli vetëkënaqësi te publiku i gjerë.
Duke pasur parasysh prejardhjen e tij, Weizenbaumi shqetësohej veçanërisht nga gjuha çnjerëzore që përdornin disa nga kolegët e tij kur krahasonin arsyetimin njerëzor me mundësitë e IA-së. Ai u zemërua nga përshkrimi që studiuesi i MIT-it, Marvin Minsky, u bëri qenieve njerëzore si “makina prej mishi” dhe irritohej nga nënkuptimi i teknologëve kryesorë se robotët e së ardhmes mund të përbënin “një korrigjim dhe përmirësim të natyrës”. Weizenbaumi theksonte se kjo mënyrë të menduari kishte ushqyer disa nga mizoritë më të mëdha në histori.
“Në epokën naziste, hebrenjtë paraqiteshin si parazitë, një metaforë që legjitimoi vrasjen masive”, i tha Weizenbaumi gazetarit gjerman Bernhard Pörksen në vitin 1998. “Sot … ideja se njeriu është thjesht një makinë për përpunimin e informacionit, që mund të zëvendësohet nga një robot, po fiton përmbajtje dhe fuqi”.
Weizenbaumi paralajmëroi se “fuqia e jashtëzakonshme e një imazhi çnjerëzor të njeriut” mund “të përhapet si virus në shoqëri” dhe se njerëzimi duhet të ruhet me vendosmëri prej tij.
Megjithëse Weizenbaumi nuk i shpërfillte kurrë aftësitë e ardhshme të teknologjive si IA-ja, fuqia e mundshme e makinave nuk ishte kurrë shqetësimi i tij kryesor. Përkundrazi, ai druhej se projeksionet e njerëzve mbi këto makina do t’ua pengonin gjykimin më të mirë. Në vitet 1970-2000, ai ishte përkrahës i etikës së teknologjisë, duke i nxitur shkencëtarët të përballeshin me pasojat shoqërore të punës së tyre.
Rreziku që ai parashikonte nuk ishte se teknologjitë, si IA-ja, do të evoluonin në përbindësha që shkatërrojnë qytetërimin, por se shoqëria do t’i shihte ato si idhuj të rremë. Kërcënimi i vërtetë për njerëzimin vinte nga brenda, besonte ai; teknologjia thjesht ia jepte atij një rrugëdalje.
Weizenbaumi u përsëriste miqve të tij: “Nuk jam kritik i IA-së. Jam kritik i shoqërisë”. /et