Login
Za boljšo kritiko umetne inteligence
Področje umetne inteligence se je v zadnjih dveh letih zaradi prepleta ekonomskih, političnih in socioloških razlogov umetno napihnilo ter povzročilo, da smo se vsi prisiljeni pogovarjati o temu ekonomsko-tehničnemu fenomenu.
Vprašanja o prihodnosti dela, aktivnega državljanstva, človekovih pravic in drugih elementov družbe naj bi bila neločljivo povezana z vedno večjim razrastom tehnologij umetne inteligence, čeprav hkrati še vedno ne vemo, kakšen bo njihov dejanski vpliv na vse prej omenjene elemente družbe.
Hkrati se v javnosti dogaja ekstremna radikalizacija mnenj o umetni inteligenci, ki je povezana s financiranjem tega področja. Zagovorniki umetne inteligence in z njimi povezane inštitucije, ki se financirajo z razpisi projektov umetne inteligence, so seveda veliki zagovorniki, na drugi strani se družbena kritika tega fenomena vedno bolj reducira na digitalni ludizem, ki mu botrujeta neznanje in želja po javnemu ugajanju.
Polarizacija področja javne besede na področju umetne inteligence škoduje tako zagovornikom kot tudi nasprotnikom tega fenomena. Prisilno navijaštvo vodi v zabrisane meje med dejansko uporabnostjo tehnologij umetne inteligence za specifične rešitve ter smrtonosnih napak te tehnologije na drugih področjih, digitalni ludizem pa zaradi svojega inherentnega nepoznavanja podrobnosti in partikularnosti posameznega izziva hitro zapade v irelevanco.
V čem je pravzaprav problem?
Predavanje Mihe Mazzinija na konferenci Mreža znanja, ki jo vsako leto organizira Akademska in raziskovalna mreža Slovenije (ARNES), sodi med primere vrhunskega digitalnega ludizma. Avtor namreč večletne ekonomsko-sociološke procese razvijanja, sprejemanja in zavračanja tehnologij umetne inteligence splošči do nerazpoznavnosti ter jim brez utemeljene razlage dodaja negativno konotacijo.
V predavanju se avtor najprej ne more odločiti, ali bo njegova kritika umetne inteligence temeljila na njeni neučinkovitosti ali njeni šokantni zmogljivosti spreminjanja družbenih pogodb. Primeri, ki jih uporablja v svojem predavanju, namreč hkrati opozarjajo na uporabnost in neuporabnost tehnologij in rešitev umetne inteligence.
Predavatelj v uvodu predavanja pojasni, da »nihče točno ne ve«, kako umetna inteligenca v resnici deluje in za podkrepitev citira naslov članka, v katerem avtorji povzemajo nastop izvršnega direktorja podjetja Google, Sundar Pinchaija, kjer Pinchai opozori, da gre pri umetni inteligenci za razvijajoče se področje, kjer raziskovalci razrešujejo neznanke (The Standard, 2023). Mazzini ne opozori, da gre pri temu odgovoru za vprašanje generativne umetne inteligence in se hkrati očitno ne zaveda, da gre za novinarsko raco. Hkrati Mazzini ne pojasni, da problem »črne skrinjice« razrešuje cela veja znanosti umetne inteligence (New York Times, 2024).
Nato preide na fenomen »halucinacij umetne inteligence« in zaradi sploščevanja tega procesnega izziva problem poenostavi na nefunkcionalno umetno inteligenco, ki je kot »izjemno aroganten človek.« To trditev sicer podkrepi z dobrim primerom izmišljenega pisatelja Eda Kovača, ki naj bi bil rojen na Prulah, a spet ne pojasni mogočih izvorov te napake pri uporabi enega od večih klepetalnih robotov umetne inteligence. Hkrati iz tega dela predavanja ni razumljivo, v čem naj bi bil točno problem. Je problem, da se generativna umetna inteligenca moti ali v tem, da ljudje mislijo, da je nezmotljiva? Prvo je zagotovo res in nihče ne trdi drugače, zmotljivost ljudi pa ni stvar umetne inteligence, temveč… ljudi.
Nato Mazzini nadaljuje z opozarjanjem na problem halucinacij umetne inteligence in navede dva primera – eksperimentalna uporaba umetne inteligence za pisanje novinarskih člankov medija CNet iz januarja 2024, ki jo je medij nato prekinil zaradi prevelikega števila napak ter primer »halucinacije« na primeru generativne umetne inteligence fotografije natakarice z nogami na mestu rok. Tukaj trčimo ob nov problem Mazzinija – nekorektno uporabo primerov za dokazovanje trditev. Slika natakarice je namreč znana spletna šala in kritika generativne umetne inteligence, ki je imela na začetku težave pri izrisovanju določenih delov človeškega telesa (Britannica, 2024).
Generativna umetna inteligenca in ustvarjanje
Mazzini nato preide na področje generativne umetne inteligence in pisateljstva. Mazzini si spet izmisli trditev, da so »amazonovi strežniki klonili pod količino knjig, ki jih je generirala umetna inteligenca,« česar ni mogoče dokazati.
Nato pravilno uvede primer družine, ki se je zastrupila z gobami, saj je uporabljala knjigo, ki jo je »napisala« umetna inteligenca, a pozabi omeniti, da so na ta problem več let opozarjali strokovnjaki (The Guardian, 2023) in da ne gre za sistemsko relevanten problem.
Mazzini nato spet zapade v površno branje in citira članek z naslovom »Huge Proportion of Internet Is AI-Generated Slime, Researchers Find« (Futurism, 2024) s trditvijo, da je »60% interneta govno, generirano iz AI« (sic). Spet gre za napačno povzemanje, saj članek v prvem stavku pojasni, da gre za »generirane in prevedene stavke«, v študiji sami pa lahko najdemo opozorilo, da so uporabili podatke, zbrane med leti 2017 in 2020 (Arvix, 2024). Mazzinijev stavek, »Internet je neskončen in že pred enim letom je bilo 60% te neskončnosti blodnje AI (sic),« tako napačno povzema članek in raziskavo, ki jo citira kot dokaz za to trditev.
Mazzini se nato osredotoči na Amazon in izjavi, da je Amazon »v obrambi svojih strežnikov blokiral pisatelje« in omejil objavo samozaložniških knjig na tri dnevno. Sicer je res, da je Amazon omejil samozaložništvo zaradi poplave knjig, ki jih je generirala umetna inteligenca (NPR, 2024), a tega ni storil zaradi »obrambe svojih strežnikov«, temveč zaradi pritiska javnosti.
Iz knjig se nato Mazzini premakne na področje glasbe in zatrdi, da je »ameriško vrhovno sodišče originalno odstranilo, kar naredi…umetna inteligenca nima copyrighta (sic).« Za to trditev ni mogoče najdi virov, je pa res, da se trenutno na področju založniške industrije in umetne inteligence odvija več primerov tožb (TechTarget, 2024).
Kot primer problema na področju generativne umetne inteligence in glasbe Mazzini nato predstavi primer Johana Röhra, ki je na storitvi Spotify zaslovel pod večimi psevdonimi in z glasbo, ki jo je generirala umetna inteligenca (Guardian, 2024). Mazzini pojasni, da se je Spotify odzval na to temo in pojasnil, da Johanova glasba ne dosega širokega občinstva in ne predstavlja konkurence resničnim umetnikom na tej platformi, saj ima njegova glasba posebno kategorijo (MusicBusinessWorldWide, 2024).
Mazzini nato poveže Röhra in glasbeno skupino Abba ter naprej omeni, da je Röhr prehitel Abbo po številu predvajanih sklab na omrežju Spotify, nato pa doda, da je Abba v sedemdesetih letih »dobila nagrado, ker je izvozila več kot Volvo« in, »da je v državnem proračunu Abba zgenerirala več kot Volvo«. Teh trditev ni mogoče potrditi, hkrati ni jasno, kakšno povezavo ima število predvajanj na storitvi Spotify in obseg izvoza Abbe v sedemdesetih letih dvajsetega stoletja. Mazzini zaključi, da »boste na Spotify slej kot prej zapadli v AI generirano musko…zakaj? Ker Spotifyju potem ni treba nič plačat (sic),« kar spet ni res. Spotify tudi za glasbo, ki jo generira umetna inteligenca, plačuje avtorjem objav take glasbe, hkrati pa eksplicitno zanika, da bi se v prihodnosti Spotify lahko sam lotil objave glasbe, ko jo generira umetna inteligenca (MusicRadar, 2024).
Izumiranje poklicev
Nato Mazzini preide na analizo trendov, ki že obstajajo, a se sedaj soočajo z umetno inteligenco in začne: »Izumiranje poklicev je normalno.« Nato uvede primer poljske radijske postaje, »ki je nekaj tednov nazaj odpustila vse…članke jim piše AI in AI glasovi jih tud preberejo, normalno. Vmes vržejo še malo AI muske, pa smo vsi zadovoljni (sic).« Ta trditev ne drži.
Mazzini opisuje primer poljske radijske postaje Radio Kraków, ki je v manj kot enemu tednu začelo in prekinilo z eksperimentalnim kanalom, ki ga je producirala s pomočjo generativne umetne inteligence (Notes from Poland, 2024), odpuščanja pa niso bila povezana z generativno umetno inteligenco, temveč s tržno neuspešnostjo prejšnjih izvedb (Notes from Poland, 2024). Eksperiment so odgovorni na postaji prekinili zaradi hudega upora občinstva in druge javnosti.
Nato Mazzini nadaljuje s trditvijo, da »poklici izumirajo in množice tega ne opazijo.« Gre za logičen nesmisel, saj so v prvem primeru »izumiranja« novinarjev množice to definitivno opazile, hkrati pa Mazzini za podkrepitev »neopažanja« citira britanski tabloid Sun (Sun, 2024), ki navaja raziskavo, v kateri so naključno izbrani posamezniki ocenjevali kvaliteto poezije, ki so jo napisali klasiki v primerjavi z poezijo, ki jo »je napisala« generativna umetna inteligenca (Telegraph, 2024). Ni jasno, kako Mazzini povezuje novinarsko in pesniško delo, hkrati pa Mazzini spregleda kritiko citirane raziskave, kjer raziskovalci opozarjajo na pomanjkljivosti izvornega eksperimenta (Davis, 2024).
Mazzini ta primer zaključi s pojasnilom, da je »umetna inteligenca statistično predvidevanje naslednje besede, ki mora biti povedana« kar je v direktnem nasprotju z njegovimi prvimi trditvami, da »nihče točno ne ve«, kako umetna inteligenca deluje. Hkrati na primeru “popularnega okusa” ne uspe pojasniti razkoraka med komercialno in družbeno-pomembno noto kreativnega ustvarjanja.
»Izumiranje poklicev se dogaja na vseh področjih,« nadaljuje Mazzini in prikaže primer inštruktorja matematike, ki naj bi ga je nadomestila umetna inteligenca, čeprav za to ne postreže z nobeno statistično analizo in nato preide na fizične poklice, kjer citira primer, »…Kitajci, ki so 150 kilometrov avtoceste naredili z roboti in aijem (sic).« Gre za primer avtoceste na trasi Peking – Hong Kong – Macao, kjer so robotska vozila položila samo zgornjo plast asfalta in tako niso izgradila celotne ceste (Economic Times, 2024). Spet gre za primer površnega branja, kjer je to jasno napisano v samem članku z bombastičnim naslovom.
Isto, ampak drugače
Od izumiranja poklicev Mazzini nato preide k spreminjanju poklicev zaradi umetne inteligence. Na tem mestu uporabi primer dermatologije, kjer lastnik storitve Spotify, Daniel Ek, razvija dermatološko kliniko s pomočjo umetne inteligence.
Mazzini pojasni, da je glavna razlika med »originalnim« in »novodobnim« dermatološkim pregledom v tem, da pri novodobnemu pregledu pacienta pregleda AI, nato pa rezultate pregleda potrdi še človeški zdravnik. Nato kot svarilo citira članek z naslovom »ChatGPT is truly awful at diagnosing medical conditions« (LiveScience, 2024), ki opozarja na nenatančnost ChatGPT pri diagnosticiranju zdravstvenih težav.
Spet gre za dva nepovezana primera, saj dermatološka umetna inteligenca ne uporablja ChatGPT za diagnostiko kožnih obolenj, temveč se pri tem zanaša na več različnih modelov (TechCrunch, 2024), ki jih nato preveri še zdravnik.
Hkrati je potrebno opozoriti, da se ravno na področju kožnih obolenj umetna inteligenca že več let izkazuje kot izredno dobro diagnostično orodje zaradi velikega korpusa fotografij rakavih in drugih kožnih obolenj, ki obstajajo pri belih pacientih (The Wire, 2021). Problem pri diagnostiki je v rasi pacienta, saj zaradi pomanjkljivega dostopa do zdravniških storitev (Nature, 2021) umetna inteligenca slabše opravlja diagnostične naloge pri temnopoltih in azijskih pacientih, vendar Mazzini tega ne omeni.
Mazzini nato opozori, da je treba umetno inteligenco nadzirati in da to nadziranje pri ljudeh povzroča »brainrot«. Mazzini opozori, da je pojem »brainrot« beseda leta Oxfordskega slovarja in da označuje »odmiranje možganov«, ki ga Mazzini poveže z vlogo nadzornika delovnih procesov, v katere je vključena umetna inteligenca.
To ni res. Beseda »brainrot« je definirana kot »odmiranje možganov zaradi medijske potrošnje nizko-kvalitetnih medijskih vsebin (Oxford, 2024) in nima nobene veze z delom.
Drago zdravje, poceni zdravje
Nato Mazzini poveže zgornje primere in napove prihod zdravstva umetne inteligence, kjer boste lahko zdravstvene preglede poceni opravljali s pomočjo umetne inteligence, medtem ko si bodo lahko samo bogati privoščili preglede pri človeškemu zdravniku.
Ni jasno, od kje mu podlaga za take trditve, saj opisani primeri, kjer se velika informacijska podjetja relativno neuspešno spogledujejo s področjem e-zdravja, tega ne podkrepijo (Bloomberg, 2023).
Mazzini nepravilno poveže področje e-zdravja z nedavnimi nakupi glasov estradnikov, ki jih je Meta kupila za uporabo pri njenem chatbotu (CNN, 2024). Članek ne pojasnjuje povezave med nakupi in področjem e-zdravja, kjer se Meta v zadnjem času ukvarja predvsem z marketingom in ne z razvojem e-zdravstvenih rešitev.
Nato Mazzini opozori na »neuke množice«, ki jih je referenciral že pri poeziji umetne inteligence in občinstvo pozove, naj se spomnijo primera obiska igralca serije Gorski zdravnik v Sloveniji. »Nikoli ne bom pozabil, dolga vrsta starejših žensk z nekimi kartoni v roki…« opisuje Mazzini, »in si rečem, kaj pa nosijo…svoje kartoteke so prinesle.«. Ob pregledu arhivskih posnetkov obiska igralca ni videti, da bi mu oboževalci nosili svoje zdravstvene kartoteke (24ur.com), hkrati je to zanikal tudi igralec sam (Vizita, 2024).
Pravi prodajalci
Mazzini nato opozori na primer avtonomnih trgovin Amazon Fresh in tehnologije Just Walk Out, s katero je Amazon skušal navdušiti ljudi nad trgovinami brez blagajn. »Blazno so se bahali in potem so trgovine zaprli s tako majhno novičko, da sem moral jaz povečevalo tle vzet, da sem videl (sic)«, pojasni Mazzini in nadaljuje, da je Amazon odpustil na tisoče Indijcev, ki so od doma prek kamer »kontrolirali AI, da se mu ni zbledlo.«
To ni čisto res. Amazon Fresh je temeljil na delu indijskih delavcev in kombinaciji senzorjev ter nadzornih kamer, kjer so morali človeški delavci preveriti dobrih 70% vseh nakupov (The Verge, 2024). Hkrati je propad te tehnologije spodbudil več analiz, komentarjev in drugih člankov v večini svetovnih medijev, tako da se je neuspeh dalo videti tudi brez »povečevala«.
Mazzini bi lahko pri temu primeru opozoril še na dejstvo napihovanja Amazonovega nabora storitev, s katerim je skušalo podjetje izboljšati svoj borzni položaj, pri tem pa ni imelo jasne vizije, kaj naj bi na trgu prehrambenih trgovin pravzaprav počelo (The Street, 2023). S tem bi tudi lažje razložil fenomen “goljufanja” pri deklarativni uporabi umetne inteligence, ki se je v bistvu preveč zanašala na slabo plačano delo.
Mazzini nato predlaga rešitev: »Amazon bi moral uvoziti teh tisoč Indijcev, jim dati delo v trgovini in bi bili vsi zadovoljni.« Sancta simplicitas!
Meta in Facebook AI
Nato Mazzini pod drobnogled vzame AI sistem urednikovanja in odstranjevanja nezaželenih vsebin na omrežju Facebook, kjer najprej navede, kako je Facebook leta 2021 (Meta, 2021) začel uvajati umetno inteligenco za odstranjevanje spornih vsebin, nato pa so ga leta 2023 kenijski moderatorji tožili zaradi post-travmatskega sindroma, ki so ga dobili pri pregledovanju taistih spornih vsebin
Mazzini iz teh dveh člankov potegne sklep, da se tožba Kenijcev nanaša na obdobje od uvedbe AI orodij za urednikovanje vsebin in letom 2023, čeprav v članku jasno piše, da se tožba nanaša na dogodke v letu 2019 (Washington Post, 2023).
Mazzini pri temu primeru torej uporabi napačen primer za utemeljevanje svojih (načeloma pravilnih) trditev o neučinkoviti umetni inteligenci, pri tem pa izpusti pričanje Meta žvižgačke Frances Haugen, ki je leta 2021 pred ameriškim kongresom pričala o dejansko neučinkovitih orodjih umetne inteligence (Washington Post, 2021).
Hkrati Mazzini ne omeni še ene kenijske tožbe novejšega datuma, ki se nanaša na delavske razmere. Meta je namreč leta 2023 odpustila več sto kenijskih moderatorjev, ki so hoteli ustanoviti sindikat in izboljšati delavne razmere v temu podjetju (Reuters, 2023).
To je poleg izmeničnega preskakovanja med totalitaristično na eni in popolnoma benigno umetno inteligenco na drugi strani, ena od problematičnih niti celotnega predavanja – uporaba napačnih primerov za dokazovanje načeloma pravih poant.
Zadovoljstvo ob delu
Mazzini nato poveže raziskavo o nezadovoljstvu na delovnem mestu (24ur.com, 2024) in umetno inteligenco, kjer naj bi bila slednja razlog za nezadovoljstvo, zaradi katerega naj bi 53% vseh zaposlenih ljudi v Sloveniji trpelo na delovnem mestu.
Tega z omenjeno raziskavo ni mogoče dokazati, saj se odstotki iz naslova članka nanašajo na celotno raziskavo, v katero je bilo vključenih 190 držav in več kot dvesto tisoč delavcev (BGC, 2024).
Hkrati Mazzini na prezentaciji napiše, da je bilo v raziskavo vključenih več kot milijon zaposlenih v Sloveniji, kar spet ni res. V raziskavi namreč jasno piše, da je bilo iz Slovenije anketiranih od 1000 do 4999 ljudi, hkrati je potrebno poudariti, da je po podatkih Statističnega urada republike Slovenije iz novembra 2024 trenutno zaposlenih »samo« 950,000 ljudi (SURS, 2024).
Na koncu napačno citira še izvajalca raziskave, saj avtorstvo pripiše Gallupu, čeprav gre pri omenjeni raziskavi za svetovalno podjetje Boston Consulting Group.
Individualizacija narašča
Po sreči na delovnem mestu se Mazzini dotakne še fenomena individualizacije, ki je v porastu. Sicer ne referencira raziskave, ki potrjuje njegovo trditev, a lahko hitro najdemo veliko število raziskav, ki to potrjujejo. Mazzini ta fenomen pojasni z dvema slikama ljudi pri jedi – na prvi sliki prikaže »posnetek italijanskega kosila nekje iz petdesetih,«, v resnici gre za italijanske migrante v ZDA (Google, 2024). Mazzini slike ne podpiše, čeprav gre za primerek iz arhiva revije Life, ki dovoljuje samo nekomercialno rabo del. Če je torej Mazzini za svoje predavanje prejel plačilo… Pustimo.
Nato za primerjavo z današnjim časom Mazzini pokaže sliko bosanskega nogometnega kluba, kjer mladi nogometaši ob mizi s hrano gledajo na svoje mobilne telefone. Mazzini pojasni, da je naletel »na neko spletno stran bosanskega nogometnega kluba«, kjer je našel sliko, ob kateri je pisalo, da »je naš klub zmagal in slavi«. Tega ni mogoče potrditi.
Sliko mladih bosanskih nogometašev smo sicer našli na Facebook strani bosanskega športnega bloga Bosna i hercegovina, kjer je slika opremljena s podpisom »Atmosfera na zajedničkoj večeri je na nivou« (Facebook, 2024), brez jasne navedbe, da gre za slavo zmage. Mazzinija to ne zmoti, da ne bi poudaril, da je »to pomembno v temu primeru, bosanski klub slavi zmago!«
Osamljenost raste
Če smo pri nezadovoljstvu na delovnem mestu še uspeli najti povezavo s temo predavanja (umetna inteligenca), smo že pri individualizaciji pogrešali bolj jasno navezo, ki jo Mazzini v delu o osamljenosti še poveča, a nato postavi vezni člen – umetna inteligenca naj bi nadomeščala človeške odnose.
Mazzini navede primer podjetja Replika, ki je razvila klepetalne robote in jih podprla z generativno umetno inteligenco, nato pa med uporabniki povzročila paniko in žalovanje, ko so ji odpovedali strežniki. To ni res.
V članku, ki ga Mazzini kaže na svoji predstavitvi namreč piše, da je podjetje posodobilo program generativne inteligence svojih klepetalnih robotov, ki po novem niso več hoteli sekstati z uporabniki (ABC News, 2023). Ni šlo torej za popolno izginotje, temveč za prilagoditev programske opreme.
Hkrati gre za primer enega podjetja, s katerim težko dokazujemo trend na tem področju. Zaslediti je mogoče negativne napovedi psihologov, da bi lahko v prihodnosti prišlo do povečanja zanašanja na klepetalne robote umetne inteligence, a nikjer ne piše, da naj bi se to že dogajalo v statistično relevantnem obsegu.
Mazzini spet spregleda drugo plat medalje – raziskave, ki opozarjajo na pozitivno vlogo generativne umetne inteligence pri psihološki pomoči in socializaciji najstnikov (StudyFinds, 2024). Skratka – področje se razvija, več kot očitno ni enoznačno in zahteva bolj granularni pogled.
Kaj je sploh še realnost?
Na koncu predavanja Mazzini napravi kataklizmični krešendo – izgubljamo stik z realnostjo. Spet postreže z anekdoto.
»Ena prvih primerov uporabe umetne inteligence je bila tale gospa…« začne pripoved. Leta 2023 je »gospa dobila klic svoje hčere, video klic svoje hčerke, ki je jokala, obupana, da so jo ugrabil (sic)…«. V članku, ki ga Mazzini referencira na predstavitvi, jasno piše, da je šlo za glasovni klic (Guardian, 2023).
Kloniranje glasu je dejansko problem, a Mazzini pomeša kloniranje glasu in globokega potvarjanja videoposnetka (deep fake tehnologija), ki pri poslušalcu vzbuja grozo brez oprijemljive logike. Hkrati niti slučajno ne gre za »enega prvih primerov uporabe umetne inteligence«, niti ne gre za enega prvih primerov uporabe generativne umetne inteligence. Gre za primer nove vrste kibernetskega kriminala, ki izpostavlja regulatorni problem tehnologij (ABCNews, 2023).
V Mazzinijevem celotnem predavanju ta del popolnoma umanjka. Niti enkrat ne omeni vloge regulacije, niti enkrat ne pojasni vseh prizadevanj državnih regulatorjev na obeh straneh Atlantika, ki skušajo spisati varovalke na temu področju, niti enkrat ne omeni problema lobiranja velikih korporacij umetne inteligence, niti ne omeni aktualnega ohlajanja navdušenja nad generativno umetno inteligenco in njeno implementacijo v delovne procese (Slack, 2024).
Nato Mazzini preide na prakso generiranja vsebine spletnih mest za hitrejši zaslužek s kontekstualnim oglaševanjem in navede primer »makedonskega Tetova, kjer so mladi ob prvi izvolitvi Trumpa na roke pisali lažne strani, da so dobili klike od Googla,« čeprav je šlo v resnici za mesto Veles (BBC, 2016). Z umetno inteligenco se da to delati hitrejše, Mazzini pa spet pozabi na procesno naravo takega početja, kjer se Google trudi v obratni smeri – kaznuje AI generirano vsebino, ki je tam samo zato, da pridobiva klike od oglaševalskih mrež (MarketingProfs, 2024).
Izginjajoča motivacija
Mazzini izpostavi opozorilo o izginjajoči motivaciji za učenje, saj naj bi nam tehnologija preveč olajševala delo.
Navede anekdoto »skupine srednješolcev, ki so blazno razpravljali o tem, kje je sever.« Najprej naj bi se srednješolci strinjali, da je sever vedno tam, kamor se obrneš, nato pa naj bi eden od njih presekal debato in rekel: »Pa saj imamo GPS!« Mazzini iz anekdote potegne sklep: »Vsakič, ko boste hoteli nekoga nekaj naučiti, vam bo ta lahko odgovoril, da bo to namesto njega storila umetna inteligenca!«
Nato Mazzini preide na novo temo zahodnjaškega smiselnega dela kot simbola, ki naj bi ga umetna inteligenca ubijala na vsakem koraku, čeprav čez celotno predavanje ne uspe pokazati teh trendov. Nato omeni še slovenski (!!) fenomen, da naj bi bilo smiselno delo neplačano, česar spet ne podpre s primeri ter šokira: ta slovenski (!!!) fenomen se širi po celem svetu.
Nato se naveže na indijsko podjetje Zomato in nov primer predstavi s stavkom »Smiselno delo morate torej plačati vi« (če ga hočete opravljati). Indijsko podjetje Zomato naj bi objavilo oglas, »da če hočete kot za Wolt razvažati hrano, morate plačat dvajset jurjev evrov na leto (sic),« in nadaljuje, »da se je javilo osemnajst tisoč ljudi za to smiselno delo, potem je vlada posegla vmes, bla bla, delo se more res plačat (sic)« in zaključi »za smiselno delo bomo plačevali«.
V zgoraj opisanemu primeru Mazzini pove samo dve resnični informaciji. Podjetje Zomato je res objavilo oglas, v katerem je delovno mesto pogojevalo s plačilom. A v resnici je šlo za delovno mesto šefa kabineta in v resnici je šlo za marketinški trik podjetja, ki šefa kabineta s podobnimi šokantnimi oglasi išče že več let (Hindustan Times, 2024). Ne gre torej za primer »smiselnega dela«, temveč za viralni marketing.
Razslojena družba
Mazzini nato poudari, da se družba vedno bolj razslojuje, da je umetna inteligenca draga ter da države »rapidno izgubljajo bitko s super-bogataši«. Omeni primer Elona Muska in doda, da »se je včeraj tudi Zuckerberg vrinil…da bo dobil neko pozicijo v ameriški državi«.
Elon Musk po poročanju medijev dejansko drži velik vpliv nad aktualnim predsednikom Združenih držav Amerike (CNN, 2024), Mark Zuckerberg pa naj bi po poročanju medijev skušal vplivati na Trumpovo tehnološko razvojno politiko, kjer nikjer ne piše, da naj bi iskal »pozicijo v ameriški državi« (FT, 2024). Na tem mestu bi lahko omenil še potencialni razlog za tako dobrikanje tehnološkega sektorja – gre namreč za zaostrovanje politik in regulacije na področju informacijske tehnologije, kjer Evropska unija napoveduje nove sankcije za ameriška podjetja (Bloomberg, 2024).
Mazzini zaključi, da »superbogataši prevzemajo funkcijo države,« kar je milo rečeno, pretiravanje. Prevzemanje funkcije države bi namreč pomenilo, da bi funkcije države opravljali superbogataši, kar je daleč od resnice. Bolj korektno bi bilo reči, da imamo v zahodnem svetu problem s pretiranim vplivom superbogatašev na razvoj državnih politik in hkratnim zasledovanjem egoističnih ciljev (Stone Center, 2024).
Bitka za skladnost
Mazzini v zaključku predavanja naprej nastopi s trditvijo, da »grejo te trendi kontra temu, za kar smo rojeni (sic)«.
Nato potegne primerjavo z nabiralniškimi skupnostmi, kjer je celotno pleme vzgajalo enega otroka, danes pa naj bi vlogo plemena prevzela umetna inteligenca. »Otrok bo imel virtualnega učitelja, virtualne prijatelje, vse virtualno…(sic),« komentira Mazzini in se vrne na trditev smiselnega dela in smiselnih odnosov za smiselno življenje, kjer bo sedaj glavno vlogo prevzela umetna inteligenca.
A nato s svojim zadnjim stavkom celotno predavanje obrne na glavo in pojasni, da »nisem našel trenda, ki bi ga AI štartala… ampak samo pospešuje trende, ki zadnjih par stoletij harajo okol (sic).« To je v neposrednem nasprotju z njegovo prvi izjavo zaključka, ki trdi, da so naštevani trendi »kontra temu, za kar smo rojeni (sic)«. In če gre pri umetni inteligenci za inovacijo, kateri so potem trendi prejšnjih »parih stoletij«, ki so delovala na isti način?
To nepovezanost je še toliko bolj čutiti v primerjavi s prvim delom njegovega nastopa, kjer fenomene umetne inteligence postavlja v neposredno nasprotje tega, kar trenutno (zaenkrat še) prevladuje na trgu.
Refleksija predavanja in razprava
V začetku tega komentarja sem omenil vedno večjo polarizacijo razprave o umetni inteligenci v javnem prostoru, kjer velikokrat opažam izredno polarizacijo mnenj, posploševanje in sploščevanje procesov v akutna stanja ter osredotočanje na gozd s hkratnim ignoriranjem dreves.
Mazzinijevo predavanje dejansko deluje kot napaberkovane anekdote, izredno šibko povezane z nejasno in sploščeno rdečo nitjo umetne inteligence. Identične anekdote bi lahko povezal v nit o delu, o sreči oziroma o drugem sociološkem fenomenu, pa celotna pripoved ne bi ničesar pridobila na koherenci oziroma osredotočenosti. Gre torej za lepe besede groze pred neznanim.
Avtor se v predavanju po mojem mnenju ne more odločiti, ali bo čas izkoristil za razlago obstoječega stanja, v katerem nastaja in se razvija umetna inteligenca in bo torej pojasnil, kako smo prišli do aktualne situacije, ali se bo ukvarjal z dejanskim reflektiranjem vpliva umetne inteligence, pri čemer ne bo zlorabljal in napačno predstavljal fenomenov samo zato, da bodo ti ustrezali trenutku v pripovedi.
Hkrati je pomembno preveriti tudi vse tisto, česar Mazzini v predavanju ne omeni oziroma ne uspe kontekstualizirati.
Najprej umanjka jasna definicija in razlaga delovanja umetne inteligence in nadaljevanje trenda podatkovne ekonomije ter zgodovinska refleksija razvoja umetne inteligence, ki se je začela v sedemdesetih letih dvajsetega stoletja (New Jersey Innovation Institute, 2024). Nato bi bil koristen poudarek, da polja umetne inteligence ne gre sploščevati, temveč se je potrebno osredotočiti na določena področja in določene fenomene, ki imajo različne stopnje uspešnosti in katastrofičnosti.
Ta navezava podatkovne ekonomije na umetno inteligenco, kjer so prejšni podatkovni oligarhi izkoristili začetno pozicijo podatkovnega lastništva, ki se je sedaj začela zmanjševati zaradi različnih razlogov (Technology Review, 2024). Temu bi lahko dodal pojasnilo o mehurčku umetne inteligence, ki sledi logiki preteklega podivjanega kapitalizma na področju podatkovne ekonomije – ko se en del industrije umiri, drugi poskoči (Financial Times, 2024). Mazzini umetne inteligence ne vmesti na zgodovinsko premico razvoja, temveč predavanje začne pompozno: “Nihče ne ve, kako to deluje!”
Za poslušalce bi bilo po mojem mnenju koristna tudi preslikava polja interesov različnih skupin (države, podjetja, posamezniki) in opis procesov, ki potekajo na teh relacijah (sprejemanje zakonodaje, porast in upad industrije…). Na podlagi tega prikaza heterogenih interesov bi lahko nato pojasnil vloge različnih akterjev in dinamiko med njimi, ki tvori tok zgodovine. S tem bi poslušalec dobil boljši občutek o lastni vlogi in o vplivu, ki ga ima sam na druge akterje (odločevalci, podjetja). Pomagala bi tudi iskrenost pri navajanju in interpretiranju izbranih primerov, saj v trenutni obliki potvarjanja, izmišljevanja in prilagajanja anekdotalni primeri služijo samo za prazno dramatiziranje in šokiranje publike, v ustih pa pušča neprijeten okus.
In končno – predavanje je zamujena priložnost podčrtavanja vloge družboslovja pri razvoju tehnodeterminističnih trendov zahodne družbe, vlogo politične regulacije in pomembnosti družbene aktivacije v javnem diskurzu, pritisku na politične elite ter kolektivnega razreševanja izzivov področij umetne inteligence. V Mazzinijevi refleksiji se vse dogaja na relaciji neumnega in nemočnega potrošnika, ki ga tehnološki oligarhi brez razloga pehajo v vedno večjo kaotično stanje, pri čemer še sami ne vejo, kaj pravzaprav počnejo. Kot pravi Mazzini: “Nihče ne ve, kako umetna inteligenca dela.” Tudi on ne.
Se ti zdi to pomembno?
Projekt Eticen.it nastaja v sklopu zavoda Državljan D. Zavod se ne financira z državnim denarjem, temveč denar za delovanje pridobiva tudi z donacijami aktivne javnosti. Če ti je tematika nadzora in krčenja državljanskih pravic pomembna, razmisli o podpori.
Naše delovanje pokriva več različnih področij, od digitalnih pravic, medijske pismenosti in aktivnega državljanstva. Več o naših aktivnostih izveš na spletišču zavoda Državljan D.
The post Za boljšo kritiko umetne inteligence appeared first on Etičen.it.
