Algoritmet nuk e parashikojnë të ardhmen

Ish presidente e Këshillit Europian të Kërkimit (ERC), Docente e Merituar e Studimeve Shkencore dhe Teknologjike në Politeknikun Federal të Zyrihut, Helga Nowotny është ndër ekspertet më të mëdha të Inteligjencës Artificiale (AI). Kemi dialoguar me të duke filluar nga libri i saj Makinat e Zotit, në dalje për LUISS University Press.

Në librin tuaj të ri ju flisni për «mendimin katedral» (cathedral thinking). Çfarë do të thotë?

Ndërtuesit e katedraleve që admirojmë akoma sot në Europë kishin një vizion afatgjatë. Asnjë katedrale nuk mund të ndërtohet në një gjeneratë, prandaj është një përpjekje komunitare që ka përshkuar gjeneratat. Të gjithë e dinin se do të duhej shumë kohë. Sot kemi nevojë të shikojmë edhe më përpara dhe të kemi një objektiv që na bashkon. Kjo është e natyrshme nëse marrim në konsideratë kërcënimet iminente të ndryshimit klimaterik, por edhe kur tani duhet të përballemi me ndërprerjen e papritur të furnizimit energjitik apo të sigurisë ushqimore në të gjithë botën. Mendimi katedral mund të na japin një pikë ankorimi në të ardhmen. Mund të na shtyjë të vihemi në një përpjekje bashkëpunuese të përbashkët. Bëhet fjaë për krijimin e një të ardhmjeje të përbashkët.

«Mendimi katedral» duket shumë i ngjashëm me disa zhvillime aktuale të pakontrolluara të teknologjive. Mendojmë parasëgjithash për rrjetet sociale dhe përdorimin e tyre të Inteligjencës Artificiale si Orakulli i Delfit për të bërë parashikime mbi të ardhmen. Mbi bazën e një sasie të mëdha të dhënash të kaluara (Big Data) këto algoritme pretendojnë se kanë zgjidhur problemin humiano të pamundësisë të paraqitjes të së ardhmes nga e kaluara. Bertrand Russell e kishte thjeshtëzuar mirë me gjeldetin e varfër nxitës kaq të lumtur të familjes që e kishte adoptuar dhe ushqyer deri në vigjiljen fatale të Ditës së Falenderimit.

Pula e Bertrand Russell (e transformuar vetëm në gjeldeti më pas) pret ushqimin kur shikon njeriun që e ushqen, por një ditë njeriu nuk e kofirmon më shpresën dhe ia pret fytin. Mund të ndodhë diçka më pak dramatike ku u besojmë verbërisht parashikimeve të AI dhe harorjmë se bazohen mbi nxjerrjen e të dhënave nga e kaluara. Përvoja nuk është garanci se do të përsëritet në të ardhmen. Kjo është sidomos e vërtetë për evolucionin e shpejtë të shoqërisë. David Hume mendonte se induksioni përcakton terrenin për probabilitetin, «i bazuar mbi prezumimin e ngjashmërisë midis objekteve, disa prej të cilëve kemi përvojë dhe të tjerë për të cilët nuk kemi përvojë». Kjo nënkupton se duhet të mbesim të hapur për të ardhmen. Në këtë moment asistojmë në një konvergjencë ngjarjesh të paprecedent, secila prej tyre futet në kategorinë e «të panjohurave të njohura», domethënë dijmë se do të ndodhin, por nuk dijmë se kur dhe ku: fillimisht pandemia, më pas inflacioni dhe tani lufta në Ukrainë, të gjitha me pasoja të tmerrshme. Kjo e vetme duhet të na bëjë shumë të matur përsa i përket parashikimeve të Inteligjencës Artificiale që afirmojnë se e «njohin» të ardhmen.

Kohë më parë «Financial Times» titullonte një artikull me pyetjen Do të flasësh me financat e tua me një chatbot? Chatbot-et janë algoritme të Inteligjencës Artificiale që i përgjigjen pyetjeve të klientëve në një chat. Ja tashmë të ndryshëm në treg, si MyEva e Wealth Wizard, një kompani konsulence dixhitale britanike, apo chatbot-et e amerikanes Pefin, që pohon se ka qenë e para në botë që ka ofruar konsulencë mbi Inteligjencën Artificiale. Këshillat që shkojnë nga konsulenca mbi pensionet tek investimet financiare shpejt do të ofrohen në gjuhën e folur. Kështu AI po zëvendëson konsulencën njerëzore në botën e financës? Do ta vendosim të ardhmen tonë financiare me robotët? Cilat janë rreziqet reale për konsumatorët e këtij ndryshimi dhe sa ndodhet i mbrojtur nga legjislacioni aktual?

Studiuesit e shkencës dhe teknologjisë (STS) dijnë se ligji është gjithmonë në vonesë karshi zhvillimeve efektive të teknologjisë. Në rastin e AI nuk është vetëm vonesa, por një «hendek realiteti»: përshpejtimi i mundësive teknologjike ngre shumë problematika që ose nuk janë aspak të rregulluara, ose janë të vështira për t’u përballuar pasi kompanitë e mëdha operojnë në nivel transkombëtar. Komisioni Europian ka miratuar para pak kohësh një seri «Digital Act» legjislative që shkojnë në drejtimin e duhur, por duhet të zbatohen dhe kanë nevojë për azhurime të vazhdueshme.

Ju shkruani se parashikimet e AI gjenerojnë iluzionin e sigurisë.

Edhe gjeldeti apo pula proverbiale e Russell është kapur në iluzionin e sigurisë.

Përpara ardhjes së AI, iluzioni dhe sharmi i pushtetit parashikues qenë ndarë nga modelet ekonometrike të institucioneve financiare mbi të cilat janë bazuar dhe vazhdojnë të mbështeten zgjedhjet e qeverive tona, megjithëse të vetëdijshëm se janë empirikisht false.

Iluzioni ka qenë i madh dhe tragjik në vazhdën e krizës financiare të 2007 – 2008. Megjithatë, vazhdojmë t’u besojmë atyre.

Shoshana Zuboff analizon qasjen grabitqare dhe manipuluese të ndërmarrjeve dixhitale në vitet e fundit nga një perspektivë komportamentale. Në epokën e internetit, kompanitë synojnë që bëjnë shumë më tepër se mbledhja dhe analizimi i të dhënave të klientëve për të mundësuar përmirësimin e e produkteve, shërbimeve dhe impenjimeve të tyre. Faktikisht duan t’i përmbahen të ashtuquajturit surplus komportamental, domethënë të dhëna që shkojnë përtej përdorimit të produkteve dhe shërbimeve online. Mund të përfshihen informacione lidhur me pozicionin, moshën, profesionin, stimulin e jetesës, zakoneve dhe një serie preferencash të një njeriu. Surplusi përfaqëson transformimet komportamentale. Facebook dhe Google e përdorin për të bërë parashikime që u mundësojnë atyre jo vetëm të adresojnë publicitetin në mënyrë më efikase, por edhe për të implementuar arkitektura të zgjedhjeve që mund të influencojnë komportamentin. profili komportamental bazohet mbi algoritmet e AI dhe u mundëson kompanive që të provojnë dhe t’u paraprijnë zgjedhjeve të konsumatorëve dhe t’i adresojnë drejt produktesh të preferuara dhe më fitimprurëse për kompaninë.

Zuboff na paralajmëron për faktin që shumëkombëshet e mëdha rivendikojnë përvojën njerëzore si lëndë të parë falas që përkthehet në të dhëna komportamentale që pastaj deklarohen si surplus komportamentale pronësor i tyre. Por kjo është logjika e kapitalizmit. Modeli i biznesit për të nxjerrë të dhëna nga ne dhe për t’i transformuar në shërbime fitimprurëse, që jemi në ankth për t’i marrë, nuk bën gjë tjetër veçse e konfirmon.

Çfarë mendoni për propozimin e Gerd Gigerenzer mbi regjistrimin me pagesë, në vend të aksesit falas në rrjetet sociale, për të shmangur format e ndryshme të manipulimit psikologjik që kanë objektivin që ta rrisin kohën e kaluar online nga përdoruesit me qëllim që të fitojnë më shumë nga publiciteti tregëtar?

Propozimi është shumë i arësyeshëm, por siç i është dashur vetë Gerd Gigerenzer të konstatojë me shpejtësi, personat preferojnë aksesin falas, edhe pse e dijnë që kjo e bën objektiv të publicitetit. Jami përzier me furnizuesit e rrjetit, të vetëdijshëm se vetë ne do të bëhemi «produkti» për t’ju shitur reklamistëve. Jemi të gatshëm të heqim dorë nga privatësia jonë në kombim të komoditetit të shërbimeve me të cilat jemi bërë të varur.

Si luftohen fake news? Prania e informacioneve false dhe pranimi automatik i tyre janë kryesisht një refleks i mungesës së vetëdijes të individëve dhe të mendimit të dobët kritik të tyre. ka disa teknika për t’i kundërshtuar. Detyra themelore e debunking është ajo e zbulimit të dizinformacioneve dhe fake news, dhe format e ndryshme të tyre, si sajesa apo teoritë e komplotit. Megjithatë, pavarësisht aplikimit të debunking ndaj aktivitetit gazetaresk online, në shumë raste personat vazhdojnë t’i besojnë dizinformacionit. Një zgjidhje për t’i inkurajuar personat të dallojnë sinjalizimet false bazohet mbi teorinë e injektimit (prebunking). Ideja është se kur një argument i dobët paraqitet në «mesazhin e vaksinimit» në fazën e formimit, proceset e ngatërrimit apo mjetet e tjera të proteksionit na përgatisin për të përballuar argumente më të forta dhe më të vështirë më tej. Çfarë mendoni për instrumentat e prebunking (injektimit) dhe debunking?

Gjatë pandemisë i jemi përkushtuar zhbërjes së dizinformacionit lidhur me vaksinat, në bazë të idesë se duke krijuar vetëdije lidhur me fake news, personat do të bëhen rezistentë, domethënë të vaksinuar. Por kemi parë edhe se instrumentat e pre dhe debunking nuk funksionojnë siç mendonim. Personat janë pjesë e rrjeteve sociale dhe influencojnë njëri tjetrin; kërkojnë t’u përkasin atyre që e shohin botën në mënyrë të ngjashme. Prandaj është konteksti social që duhet marrë në konsideratë, ashtu si një vaksinë funksionon vetëm pak më sipër një pragu të caktuar të atyre që janë vaksinuar.

E lidhur me dizinbformacionin është prirja e AI për të shtyrë stereotipe dhe paragjykime raciale. E gjitha është pjesë e një artikulli që Timnit Gebru, ish informaticien i Google, ka firmosur në 2020 bashkë me 6 bashkëpunëtorëve (midis të cilëve 4 punonjës të Google) ku propozohej të paralajmërohej nga zhvillimi i modeleve intleigjente të përpunimit të gjuhës, të cilët, të «stërvitur» me përdorimin e një mase të jashtëzakoshme tekstesh të nxjerra në pjesën më të madhe nga webi, janë në rrezik të përkthejnë terma dhe koncepte seksiste, raciste dhe të dhunshme. AI është e influencuar nga paragjykime raciste dhe gjinore?

Jemi të gjithë të ardhur në mënyra të ndryshme dhe shumë paragjykime përshkojnë shoqëritë tona, por sapo që të dhënat mblidhen dhe përpunohen nga AI, këto paragjykime tentojnë të përsëriten dhe të forcohen. Nga këtu kërkesa për një AI të «përgjegjëshme», «benefike» apo «etike». Edhe pse jemi dakord mbi parime për ta garantuar një AI të tillë, zbatimi praktik mbetet i vështirë për arësye teknike, por edhe politike.

Le të kthehemi tek tema e parashikimeve. Në analizën e modeleve të parashikimit ju jeni dakord mbi ndarjen e paraqitur nga Frank Knight midis probabilitetit a priori (për shembull loja me zara), probabilitetit statistikor (kur ke një kampion domethënës të dhënash të kaluara) dhe paqartësisë (kur e ardhmja nuk është e parashikueshme edhe statistikisht). Apo besoni se përveç probabilitetit a priori (hedhjes së një zari) të gjithë ngjarjet e tjera bëhen të pasigurta, që nuk është një probabilitet statistikor që të jetë imune nga devijime, supriza dhe paparashikime?

Për mua dallimi më i rëndësishëm i bërë nga Knight është midis rrezikut dhe paqartësisë. Rreziku është i kalkulueshëm a priori dhe mund të konsiderohet një kosto. Përvoja mund të na mësojë dëmet e parashikueshme të mund të përfshihen në llogaritjen e kostove. Disa mund të sigurohen. Përkundrazi, paqartësia nuk është e sigurueshme pasi rezultatet e mundshme nuk mund të llogariten si më parë. Situata ku procesi vendimmarrës ndodhet përballë rezultatesh të panjohura, por shpërndarjsh probabiliteti ex ante note, ndryshojnë në një kuptim të thellë nga ato ku shpërndarja e probabilitetit të rezultatit është e panjohur.

Gjithmonë në raport me parashikimin, Robert Shiller shkruan se fenomenet ekonomike udhëhiqen nga narrativa dhe se kjo është një lloj profecie që të vetëvërtetohet dhe që i transformon paqartësitë në realitet. Për shembull, kur në 1987 thashethemet në Wall Street qenë se ndodheshim përballë një situate si ajo e 1929, pati një rënie prej 23% në një ditë të vetme.

Narracionet janë pjesë e jetëve tona dhe Shiller tregon se vlejnë edhe në ekonomi. Por ka shumë përtej narrativës. Profecitë do të vetëvërtetohen kur një parashikim bëhet thjesht e vërtetë sepse njerëzit besojnë dhe veprojnë për pasojë. Ky është rreziku që shikoj në algoritmet parashikuese. U atribuojmë atyre arbirtrin e lirë dhe, nëse ndiqen verbërisht, transformohen në profeci që vetëvërtetohen. Në libër flas për paradoksin e parashikimit: shfrytëzojmë AI për të rritur kontrollin tonë mbi të ardhmen, ndërsa njëkohësisht performanca e AI, pushtetin që ka për të na bërë të sillemi në mënyra që parashikohen, redukton influksin e aksionit tonë mbi të ardhmen.

Sipas shumë prej nesh, por limitet e zhvillimit nga një pikëpamje e mbështetshmërisë mjedisore e sociale dhe rreziqeve mbi mirëqënien individuale të teknologjive informatike dhe biologjike duhet të na çojnë t’i rikonsiderojmë disa propozime të Klubit të Romës mbi ngadalshmërinë e rritjes ekonomike. Çfarë mendoni për këtë propozime të rritjes së ngadaltë apo të zvogëlimit?

Jemi në kërkim të dëshpruar mënyrash alternative për të organizuar shoqëritë dhe ekonomitë tona, dora dorës që bëhemi gjithnjë e më shumë të vetëdijshëm se po të vazhdojmë si më parë do të çojë në katastrofa. Nuk mund të bëjmë as pa rritjen, as nuk mund të konvertohet në zvogëlim. Ndërprerja e sotme e zinxhirëve të furnizimit zbulon shkallën çuditërisht të lartë të ndërvarësive në botë, por edhe një tërheqje në sovranitetin kombëtar është iluzor. Kështu, jemi sfiduar ta zgjerojmë imagjinatën tonë dhe të shpikim modele të rinjë ekonomikë me një vëmendje më të madhe ndaj së mirës publike.

Një prej limiteve të rritjes së hiperpërshpejtuar duket gjithnjë e më i madh se ajo që nuk është koherente me këtë model kapitalist. Për shembull, kërkimi themelor (i udhëhequr vetëm nga kurioziteti) dhe në mënyrë të veçantë ajo humanistike po dobësohet progresivisht prej mungesës nga ana e qeverive dhe e botës private, siç ka shkruajtur Martha Nussbaum disa kohë më parë.

Ky është saktësisht problemi që Këshilli Europian i Kërkimit (CER) ka përballuar qysh nga fillimet e tij më 2007. Qysh atëehre buxheti i tij është më shumë se dyfishuar. Qysh nga fillimi shkencat sociale dhe humaniste janë përfshirë në modalitetetet e financimit bottom-up, drejtuar nga kurioziteti, bazuar mbi kërkesën e komunitetit shkencor që aktualisht shkon në rreth 18% të buxhetit total.

Cili është opinioni juaj mbi rezultatet e CER për të cilin keni qenë themeluese më 2007 dhe presidente nga 2010 deri më 2013? Çfarë lloj vlere të shtuar ka realizuar? Është kryer ndonjëherë një vlerësim krahasimor me institucione të ngjashme në Shtetet e Bashkuara apo në Kinë?

CER është konsideruar në histori suksesi e Komisionit Europian në financimin e kërkimit bazë. Është indnvidualizuar nga shkencëtarë dhe agejcni financimi nga e gjithë bota. CER e ka vënë kërkimin themelor të prodhuar në Bashkimin Europian (përfshi kërkimin e beneficarëve joBashkim Europian) në vendin e parë të prodhimit botëror. Ndoshta akoma më e rëndësishme, ka ndryshuar komplet jetët dhe karrierat shkencore e mijëra kërkuesve të rinj. Midis tyre shumë janë italianë që punojnë jashtë Italie. Sikur kushtet të përmirësoheshin në Itali, do të rritej edhe numri i beneficarëve të CER. Botimet shkencore e bazuara mbi subvencionet e CER figurojnë midis 1% e botimeve më të mira në nivel global. Ndoshta për t’u çuditur, kanë kontribuar edhe në novatorizmin, të paktën për sa i përket patentave, respektivisht pjesëve të tjera të programit kuadër europian.

Në çfarë mënyre lufta në Ukrainë do të ndryshojë prioritetet europiane në politikën e kërkimit dhe rinovimit?

Prioritet e financimit do të spostohen padyshim drejt mbrojtjes, në kahje të kundërt, ndërsa novatoritmi do të përqëndrohet mbi arritjen e një sovraniteti teknologjik europian më të madh.

(nga La Lettura)

Përgatiti

ARMIN TIRANA