❌

Reading view

There are new articles available, click to refresh the page.

Za boljšo kritiko umetne inteligence

✇Etičen.it
By: Domen Savič

Področje umetne inteligence se je v zadnjih dveh letih zaradi prepleta ekonomskih, političnih in socioloških razlogov umetno napihnilo ter povzročilo, da smo se vsi prisiljeni pogovarjati o temu ekonomsko-tehničnemu fenomenu.

Vprašanja o prihodnosti dela, aktivnega državljanstva, človekovih pravic in drugih elementov družbe naj bi bila neločljivo povezana z vedno večjim razrastom tehnologij umetne inteligence, čeprav hkrati še vedno ne vemo, kakšen bo njihov dejanski vpliv na vse prej omenjene elemente družbe.

Hkrati se v javnosti dogaja ekstremna radikalizacija mnenj o umetni inteligenci, ki je povezana s financiranjem tega področja. Zagovorniki umetne inteligence in z njimi povezane inštitucije, ki se financirajo z razpisi projektov umetne inteligence, so seveda veliki zagovorniki, na drugi strani se družbena kritika tega fenomena vedno bolj reducira na digitalni ludizem, ki mu botrujeta neznanje in želja po javnemu ugajanju.

Polarizacija področja javne besede na področju umetne inteligence škoduje tako zagovornikom kot tudi nasprotnikom tega fenomena. Prisilno navijaštvo vodi v zabrisane meje med dejansko uporabnostjo tehnologij umetne inteligence za specifične rešitve ter smrtonosnih napak te tehnologije na drugih področjih, digitalni ludizem pa zaradi svojega inherentnega nepoznavanja podrobnosti in partikularnosti posameznega izziva hitro zapade v irelevanco.

V čem je pravzaprav problem?

Predavanje Mihe Mazzinija na konferenci Mreža znanja, ki jo vsako leto organizira Akademska in raziskovalna mreža Slovenije (ARNES), sodi med primere vrhunskega digitalnega ludizma. Avtor namreč večletne ekonomsko-sociološke procese razvijanja, sprejemanja in zavračanja tehnologij umetne inteligence splošči do nerazpoznavnosti ter jim brez utemeljene razlage dodaja negativno konotacijo.

V predavanju se avtor najprej ne more odločiti, ali bo njegova kritika umetne inteligence temeljila na njeni neučinkovitosti ali njeni šokantni zmogljivosti spreminjanja družbenih pogodb. Primeri, ki jih uporablja v svojem predavanju, namreč hkrati opozarjajo na uporabnost in neuporabnost tehnologij in rešitev umetne inteligence.

Predavatelj v uvodu predavanja pojasni, da »nihče točno ne ve«, kako umetna inteligenca v resnici deluje in za podkrepitev citira naslov članka, v katerem avtorji povzemajo nastop izvršnega direktorja podjetja Google, Sundar Pinchaija, kjer Pinchai opozori, da gre pri umetni inteligenci za razvijajoče se področje, kjer raziskovalci razrešujejo neznanke (The Standard, 2023). Mazzini ne opozori, da gre pri temu odgovoru za vprašanje generativne umetne inteligence in se hkrati očitno ne zaveda, da gre za novinarsko raco. Hkrati Mazzini ne pojasni, da problem »črne skrinjice« razrešuje cela veja znanosti umetne inteligence (New York Times, 2024).

Nato preide na fenomen »halucinacij umetne inteligence« in zaradi sploščevanja tega procesnega izziva problem poenostavi na nefunkcionalno umetno inteligenco, ki je kot »izjemno aroganten človek.« To trditev sicer podkrepi z dobrim primerom izmišljenega pisatelja Eda Kovača, ki naj bi bil rojen na Prulah, a spet ne pojasni mogočih izvorov te napake pri uporabi enega od večih klepetalnih robotov umetne inteligence. Hkrati iz tega dela predavanja ni razumljivo, v čem naj bi bil točno problem. Je problem, da se generativna umetna inteligenca moti ali v tem, da ljudje mislijo, da je nezmotljiva? Prvo je zagotovo res in nihče ne trdi drugače, zmotljivost ljudi pa ni stvar umetne inteligence, temveč… ljudi.

Nato Mazzini nadaljuje z opozarjanjem na problem halucinacij umetne inteligence in navede dva primera – eksperimentalna uporaba umetne inteligence za pisanje novinarskih člankov medija CNet iz januarja 2024, ki jo je medij nato prekinil zaradi prevelikega števila napak ter primer »halucinacije« na primeru generativne umetne inteligence fotografije natakarice z nogami na mestu rok. Tukaj trčimo ob nov problem Mazzinija – nekorektno uporabo primerov za dokazovanje trditev. Slika natakarice je namreč znana spletna šala in kritika generativne umetne inteligence, ki je imela na začetku težave pri izrisovanju določenih delov človeškega telesa (Britannica, 2024).

Generativna umetna inteligenca in ustvarjanje

Mazzini nato preide na področje generativne umetne inteligence in pisateljstva. Mazzini si spet izmisli trditev, da so »amazonovi strežniki klonili pod količino knjig, ki jih je generirala umetna inteligenca,« česar ni mogoče dokazati.

Nato pravilno uvede primer družine, ki se je zastrupila z gobami, saj je uporabljala knjigo, ki jo je »napisala« umetna inteligenca, a pozabi omeniti, da so na ta problem več let opozarjali strokovnjaki (The Guardian, 2023) in da ne gre za sistemsko relevanten problem.

Mazzini nato spet zapade v površno branje in citira članek z naslovom »Huge Proportion of Internet Is AI-Generated Slime, Researchers Find« (Futurism, 2024) s trditvijo, da je »60% interneta govno, generirano iz AI« (sic). Spet gre za napačno povzemanje, saj članek v prvem stavku pojasni, da gre za »generirane in prevedene stavke«, v študiji sami pa lahko najdemo opozorilo, da so uporabili podatke, zbrane med leti 2017 in 2020 (Arvix, 2024). Mazzinijev stavek, »Internet je neskončen in že pred enim letom je bilo 60% te neskončnosti blodnje AI (sic),« tako napačno povzema članek in raziskavo, ki jo citira kot dokaz za to trditev.

Mazzini se nato osredotoči na Amazon in izjavi, da je Amazon »v obrambi svojih strežnikov blokiral pisatelje« in omejil objavo samozaložniških knjig na tri dnevno. Sicer je res, da je Amazon omejil samozaložništvo zaradi poplave knjig, ki jih je generirala umetna inteligenca (NPR, 2024), a tega ni storil zaradi »obrambe svojih strežnikov«, temveč zaradi pritiska javnosti.

Iz knjig se nato Mazzini premakne na področje glasbe in zatrdi, da je »ameriško vrhovno sodišče originalno odstranilo, kar naredi…umetna inteligenca nima copyrighta (sic).« Za to trditev ni mogoče najdi virov, je pa res, da se trenutno na področju založniške industrije in umetne inteligence odvija več primerov tožb (TechTarget, 2024).

Kot primer problema na področju generativne umetne inteligence in glasbe Mazzini nato predstavi primer Johana Röhra, ki je na storitvi Spotify zaslovel pod večimi psevdonimi in z glasbo, ki jo je generirala umetna inteligenca (Guardian, 2024). Mazzini pojasni, da se je Spotify odzval na to temo in pojasnil, da Johanova glasba ne dosega širokega občinstva in ne predstavlja konkurence resničnim umetnikom na tej platformi, saj ima njegova glasba posebno kategorijo (MusicBusinessWorldWide, 2024).

Mazzini nato poveže Röhra in glasbeno skupino Abba ter naprej omeni, da je Röhr prehitel Abbo po številu predvajanih sklab na omrežju Spotify, nato pa doda, da je Abba v sedemdesetih letih »dobila nagrado, ker je izvozila več kot Volvo« in, »da je v državnem proračunu Abba zgenerirala več kot Volvo«. Teh trditev ni mogoče potrditi, hkrati ni jasno, kakšno povezavo ima število predvajanj na storitvi Spotify in obseg izvoza Abbe v sedemdesetih letih dvajsetega stoletja. Mazzini zaključi, da »boste na Spotify slej kot prej zapadli v AI generirano musko…zakaj? Ker Spotifyju potem ni treba nič plačat (sic),« kar spet ni res. Spotify tudi za glasbo, ki jo generira umetna inteligenca, plačuje avtorjem objav take glasbe, hkrati pa eksplicitno zanika, da bi se v prihodnosti Spotify lahko sam lotil objave glasbe, ko jo generira umetna inteligenca (MusicRadar, 2024).

Izumiranje poklicev

Nato Mazzini preide na analizo trendov, ki že obstajajo, a se sedaj soočajo z umetno inteligenco in začne: »Izumiranje poklicev je normalno.« Nato uvede primer poljske radijske postaje, »ki je nekaj tednov nazaj odpustila vse…članke jim piše AI in AI glasovi jih tud preberejo, normalno. Vmes vržejo še malo AI muske, pa smo vsi zadovoljni (sic).« Ta trditev ne drži.

Mazzini opisuje primer poljske radijske postaje Radio Kraków, ki je v manj kot enemu tednu začelo in prekinilo z eksperimentalnim kanalom, ki ga je producirala s pomočjo generativne umetne inteligence (Notes from Poland, 2024), odpuščanja pa niso bila povezana z generativno umetno inteligenco, temveč s tržno neuspešnostjo prejšnjih izvedb (Notes from Poland, 2024). Eksperiment so odgovorni na postaji prekinili zaradi hudega upora občinstva in druge javnosti.

Nato Mazzini nadaljuje s trditvijo, da »poklici izumirajo in množice tega ne opazijo.« Gre za logičen nesmisel, saj so v prvem primeru »izumiranja« novinarjev množice to definitivno opazile, hkrati pa Mazzini za podkrepitev »neopažanja« citira britanski tabloid Sun (Sun, 2024), ki navaja raziskavo, v kateri so naključno izbrani posamezniki ocenjevali kvaliteto poezije, ki so jo napisali klasiki v primerjavi z poezijo, ki jo »je napisala« generativna umetna inteligenca (Telegraph, 2024). Ni jasno, kako Mazzini povezuje novinarsko in pesniško delo, hkrati pa Mazzini spregleda kritiko citirane raziskave, kjer raziskovalci opozarjajo na pomanjkljivosti izvornega eksperimenta (Davis, 2024).

Mazzini ta primer zaključi s pojasnilom, da je »umetna inteligenca statistično predvidevanje naslednje besede, ki mora biti povedana« kar je v direktnem nasprotju z njegovimi prvimi trditvami, da »nihče točno ne ve«, kako umetna inteligenca deluje. Hkrati na primeru “popularnega okusa” ne uspe pojasniti razkoraka med komercialno in družbeno-pomembno noto kreativnega ustvarjanja.

»Izumiranje poklicev se dogaja na vseh področjih,« nadaljuje Mazzini in prikaže primer inštruktorja matematike, ki naj bi ga je nadomestila umetna inteligenca, čeprav za to ne postreže z nobeno statistično analizo in nato preide na fizične poklice, kjer citira primer, »…Kitajci, ki so 150 kilometrov avtoceste naredili z roboti in aijem (sic).« Gre za primer avtoceste na trasi Peking – Hong Kong – Macao, kjer so robotska vozila položila samo zgornjo plast asfalta in tako niso izgradila celotne ceste (Economic Times, 2024). Spet gre za primer površnega branja, kjer je to jasno napisano v samem članku z bombastičnim naslovom.

Isto, ampak drugače

Od izumiranja poklicev Mazzini nato preide k spreminjanju poklicev zaradi umetne inteligence. Na tem mestu uporabi primer dermatologije, kjer lastnik storitve Spotify, Daniel Ek, razvija dermatološko kliniko s pomočjo umetne inteligence.

Mazzini pojasni, da je glavna razlika med »originalnim« in »novodobnim« dermatološkim pregledom v tem, da pri novodobnemu pregledu pacienta pregleda AI, nato pa rezultate pregleda potrdi še človeški zdravnik. Nato kot svarilo citira članek z naslovom »ChatGPT is truly awful at diagnosing medical conditions« (LiveScience, 2024), ki opozarja na nenatančnost ChatGPT pri diagnosticiranju zdravstvenih težav.

Spet gre za dva nepovezana primera, saj dermatološka umetna inteligenca ne uporablja ChatGPT za diagnostiko kožnih obolenj, temveč se pri tem zanaša na več različnih modelov (TechCrunch, 2024), ki jih nato preveri še zdravnik.

Hkrati je potrebno opozoriti, da se ravno na področju kožnih obolenj umetna inteligenca že več let izkazuje kot izredno dobro diagnostično orodje zaradi velikega korpusa fotografij rakavih in drugih kožnih obolenj, ki obstajajo pri belih pacientih (The Wire, 2021). Problem pri diagnostiki je v rasi pacienta, saj zaradi pomanjkljivega dostopa do zdravniških storitev (Nature, 2021) umetna inteligenca slabše opravlja diagnostične naloge pri temnopoltih in azijskih pacientih, vendar Mazzini tega ne omeni.

Mazzini nato opozori, da je treba umetno inteligenco nadzirati in da to nadziranje pri ljudeh povzroča »brainrot«. Mazzini opozori, da je pojem »brainrot« beseda leta Oxfordskega slovarja in da označuje »odmiranje možganov«, ki ga Mazzini poveže z vlogo nadzornika delovnih procesov, v katere je vključena umetna inteligenca.

To ni res. Beseda »brainrot« je definirana kot »odmiranje možganov zaradi medijske potrošnje nizko-kvalitetnih medijskih vsebin (Oxford, 2024) in nima nobene veze z delom.

Drago zdravje, poceni zdravje

Nato Mazzini poveže zgornje primere in napove prihod zdravstva umetne inteligence, kjer boste lahko zdravstvene preglede poceni opravljali s pomočjo umetne inteligence, medtem ko si bodo lahko samo bogati privoščili preglede pri človeškemu zdravniku.

Ni jasno, od kje mu podlaga za take trditve, saj opisani primeri, kjer se velika informacijska podjetja relativno neuspešno spogledujejo s področjem e-zdravja, tega ne podkrepijo (Bloomberg, 2023).

Mazzini nepravilno poveže področje e-zdravja z nedavnimi nakupi glasov estradnikov, ki jih je Meta kupila za uporabo pri njenem chatbotu (CNN, 2024). Članek ne pojasnjuje povezave med nakupi in področjem e-zdravja, kjer se Meta v zadnjem času ukvarja predvsem z marketingom in ne z razvojem e-zdravstvenih rešitev.

Nato Mazzini opozori na »neuke množice«, ki jih je referenciral že pri poeziji umetne inteligence in občinstvo pozove, naj se spomnijo primera obiska igralca serije Gorski zdravnik v Sloveniji. »Nikoli ne bom pozabil, dolga vrsta starejših žensk z nekimi kartoni v roki…« opisuje Mazzini, »in si rečem, kaj pa nosijo…svoje kartoteke so prinesle.«. Ob pregledu arhivskih posnetkov obiska igralca ni videti, da bi mu oboževalci nosili svoje zdravstvene kartoteke (24ur.com), hkrati je to zanikal tudi igralec sam (Vizita, 2024).

Pravi prodajalci

Mazzini nato opozori na primer avtonomnih trgovin Amazon Fresh in tehnologije Just Walk Out, s katero je Amazon skušal navdušiti ljudi nad trgovinami brez blagajn. »Blazno so se bahali in potem so trgovine zaprli s tako majhno novičko, da sem moral jaz povečevalo tle vzet, da sem videl (sic)«, pojasni Mazzini in nadaljuje, da je Amazon odpustil na tisoče Indijcev, ki so od doma prek kamer »kontrolirali AI, da se mu ni zbledlo.«

To ni čisto res. Amazon Fresh je temeljil na delu indijskih delavcev in kombinaciji senzorjev ter nadzornih kamer, kjer so morali človeški delavci preveriti dobrih 70% vseh nakupov (The Verge, 2024). Hkrati je propad te tehnologije spodbudil več analiz, komentarjev in drugih člankov v večini svetovnih medijev, tako da se je neuspeh dalo videti tudi brez »povečevala«.

Mazzini bi lahko pri temu primeru opozoril še na dejstvo napihovanja Amazonovega nabora storitev, s katerim je skušalo podjetje izboljšati svoj borzni položaj, pri tem pa ni imelo jasne vizije, kaj naj bi na trgu prehrambenih trgovin pravzaprav počelo (The Street, 2023). S tem bi tudi lažje razložil fenomen “goljufanja” pri deklarativni uporabi umetne inteligence, ki se je v bistvu preveč zanašala na slabo plačano delo.

Mazzini nato predlaga rešitev: »Amazon bi moral uvoziti teh tisoč Indijcev, jim dati delo v trgovini in bi bili vsi zadovoljni.« Sancta simplicitas!

Meta in Facebook AI

Nato Mazzini pod drobnogled vzame AI sistem urednikovanja in odstranjevanja nezaželenih vsebin na omrežju Facebook, kjer najprej navede, kako je Facebook leta 2021 (Meta, 2021) začel uvajati umetno inteligenco za odstranjevanje spornih vsebin, nato pa so ga leta 2023 kenijski moderatorji tožili zaradi post-travmatskega sindroma, ki so ga dobili pri pregledovanju taistih spornih vsebin

Mazzini iz teh dveh člankov potegne sklep, da se tožba Kenijcev nanaša na obdobje od uvedbe AI orodij za urednikovanje vsebin in letom 2023, čeprav v članku jasno piše, da se tožba nanaša na dogodke v letu 2019 (Washington Post, 2023).

Mazzini pri temu primeru torej uporabi napačen primer za utemeljevanje svojih (načeloma pravilnih) trditev o neučinkoviti umetni inteligenci, pri tem pa izpusti pričanje Meta žvižgačke Frances Haugen, ki je leta 2021 pred ameriškim kongresom pričala o dejansko neučinkovitih orodjih umetne inteligence (Washington Post, 2021).

Hkrati Mazzini ne omeni še ene kenijske tožbe novejšega datuma, ki se nanaša na delavske razmere. Meta je namreč leta 2023 odpustila več sto kenijskih moderatorjev, ki so hoteli ustanoviti sindikat in izboljšati delavne razmere v temu podjetju (Reuters, 2023).

To je poleg izmeničnega preskakovanja med totalitaristično na eni in popolnoma benigno umetno inteligenco na drugi strani, ena od problematičnih niti celotnega predavanja – uporaba napačnih primerov za dokazovanje načeloma pravih poant.

Zadovoljstvo ob delu

Mazzini nato poveže raziskavo o nezadovoljstvu na delovnem mestu (24ur.com, 2024) in umetno inteligenco, kjer naj bi bila slednja razlog za nezadovoljstvo, zaradi katerega naj bi 53% vseh zaposlenih ljudi v Sloveniji trpelo na delovnem mestu.

Tega z omenjeno raziskavo ni mogoče dokazati, saj se odstotki iz naslova članka nanašajo na celotno raziskavo, v katero je bilo vključenih 190 držav in več kot dvesto tisoč delavcev (BGC, 2024).

Hkrati Mazzini na prezentaciji napiše, da je bilo v raziskavo vključenih več kot milijon zaposlenih v Sloveniji, kar spet ni res. V raziskavi namreč jasno piše, da je bilo iz Slovenije anketiranih od 1000 do 4999 ljudi, hkrati je potrebno poudariti, da je po podatkih Statističnega urada republike Slovenije iz novembra 2024 trenutno zaposlenih »samo« 950,000 ljudi (SURS, 2024).

Na koncu napačno citira še izvajalca raziskave, saj avtorstvo pripiše Gallupu, čeprav gre pri omenjeni raziskavi za svetovalno podjetje Boston Consulting Group.

Individualizacija narašča

Po sreči na delovnem mestu se Mazzini dotakne še fenomena individualizacije, ki je v porastu. Sicer ne referencira raziskave, ki potrjuje njegovo trditev, a lahko hitro najdemo veliko število raziskav, ki to potrjujejo. Mazzini ta fenomen pojasni z dvema slikama ljudi pri jedi – na prvi sliki prikaže »posnetek italijanskega kosila nekje iz petdesetih,«, v resnici gre za italijanske migrante v ZDA (Google, 2024). Mazzini slike ne podpiše, čeprav gre za primerek iz arhiva revije Life, ki dovoljuje samo nekomercialno rabo del. Če je torej Mazzini za svoje predavanje prejel plačilo… Pustimo.

Nato za primerjavo z današnjim časom Mazzini pokaže sliko bosanskega nogometnega kluba, kjer mladi nogometaši ob mizi s hrano gledajo na svoje mobilne telefone. Mazzini pojasni, da je naletel »na neko spletno stran bosanskega nogometnega kluba«, kjer je našel sliko, ob kateri je pisalo, da »je naš klub zmagal in slavi«. Tega ni mogoče potrditi.

Sliko mladih bosanskih nogometašev smo sicer našli na Facebook strani bosanskega športnega bloga Bosna i hercegovina, kjer je slika opremljena s podpisom »Atmosfera na zajedničkoj večeri je na nivou« (Facebook, 2024), brez jasne navedbe, da gre za slavo zmage. Mazzinija to ne zmoti, da ne bi poudaril, da je »to pomembno v temu primeru, bosanski klub slavi zmago!«

Osamljenost raste

Če smo pri nezadovoljstvu na delovnem mestu še uspeli najti povezavo s temo predavanja (umetna inteligenca), smo že pri individualizaciji pogrešali bolj jasno navezo, ki jo Mazzini v delu o osamljenosti še poveča, a nato postavi vezni člen – umetna inteligenca naj bi nadomeščala človeške odnose.

Mazzini navede primer podjetja Replika, ki je razvila klepetalne robote in jih podprla z generativno umetno inteligenco, nato pa med uporabniki povzročila paniko in žalovanje, ko so ji odpovedali strežniki. To ni res.

V članku, ki ga Mazzini kaže na svoji predstavitvi namreč piše, da je podjetje posodobilo program generativne inteligence svojih klepetalnih robotov, ki po novem niso več hoteli sekstati z uporabniki (ABC News, 2023). Ni šlo torej za popolno izginotje, temveč za prilagoditev programske opreme.

Hkrati gre za primer enega podjetja, s katerim težko dokazujemo trend na tem področju. Zaslediti je mogoče negativne napovedi psihologov, da bi lahko v prihodnosti prišlo do povečanja zanašanja na klepetalne robote umetne inteligence, a nikjer ne piše, da naj bi se to že dogajalo v statistično relevantnem obsegu.

Mazzini spet spregleda drugo plat medalje – raziskave, ki opozarjajo na pozitivno vlogo generativne umetne inteligence pri psihološki pomoči in socializaciji najstnikov (StudyFinds, 2024). Skratka – področje se razvija, več kot očitno ni enoznačno in zahteva bolj granularni pogled.

Kaj je sploh še realnost?

Na koncu predavanja Mazzini napravi kataklizmični krešendo – izgubljamo stik z realnostjo. Spet postreže z anekdoto.

»Ena prvih primerov uporabe umetne inteligence je bila tale gospa…« začne pripoved. Leta 2023 je »gospa dobila klic svoje hčere, video klic svoje hčerke, ki je jokala, obupana, da so jo ugrabil (sic)…«. V članku, ki ga Mazzini referencira na predstavitvi, jasno piše, da je šlo za glasovni klic (Guardian, 2023).

Kloniranje glasu je dejansko problem, a Mazzini pomeša kloniranje glasu in globokega potvarjanja videoposnetka (deep fake tehnologija), ki pri poslušalcu vzbuja grozo brez oprijemljive logike. Hkrati niti slučajno ne gre za »enega prvih primerov uporabe umetne inteligence«, niti ne gre za enega prvih primerov uporabe generativne umetne inteligence. Gre za primer nove vrste kibernetskega kriminala, ki izpostavlja regulatorni problem tehnologij (ABCNews, 2023).

V Mazzinijevem celotnem predavanju ta del popolnoma umanjka. Niti enkrat ne omeni vloge regulacije, niti enkrat ne pojasni vseh prizadevanj državnih regulatorjev na obeh straneh Atlantika, ki skušajo spisati varovalke na temu področju, niti enkrat ne omeni problema lobiranja velikih korporacij umetne inteligence, niti ne omeni aktualnega ohlajanja navdušenja nad generativno umetno inteligenco in njeno implementacijo v delovne procese (Slack, 2024).

Nato Mazzini preide na prakso generiranja vsebine spletnih mest za hitrejši zaslužek s kontekstualnim oglaševanjem in navede primer »makedonskega Tetova, kjer so mladi ob prvi izvolitvi Trumpa na roke pisali lažne strani, da so dobili klike od Googla,« čeprav je šlo v resnici za mesto Veles (BBC, 2016). Z umetno inteligenco se da to delati hitrejše, Mazzini pa spet pozabi na procesno naravo takega početja, kjer se Google trudi v obratni smeri – kaznuje AI generirano vsebino, ki je tam samo zato, da pridobiva klike od oglaševalskih mrež (MarketingProfs, 2024).

Izginjajoča motivacija

Mazzini izpostavi opozorilo o izginjajoči motivaciji za učenje, saj naj bi nam tehnologija preveč olajševala delo.

Navede anekdoto »skupine srednješolcev, ki so blazno razpravljali o tem, kje je sever.« Najprej naj bi se srednješolci strinjali, da je sever vedno tam, kamor se obrneš, nato pa naj bi eden od njih presekal debato in rekel: »Pa saj imamo GPS!« Mazzini iz anekdote potegne sklep: »Vsakič, ko boste hoteli nekoga nekaj naučiti, vam bo ta lahko odgovoril, da bo to namesto njega storila umetna inteligenca!«

Nato Mazzini preide na novo temo zahodnjaškega smiselnega dela kot simbola, ki naj bi ga umetna inteligenca ubijala na vsakem koraku, čeprav čez celotno predavanje ne uspe pokazati teh trendov.  Nato omeni še slovenski (!!) fenomen, da naj bi bilo smiselno delo neplačano, česar spet ne podpre s primeri ter šokira: ta slovenski (!!!) fenomen se širi po celem svetu.

Nato se naveže na indijsko podjetje Zomato in nov primer predstavi s stavkom »Smiselno delo morate torej plačati vi« (če ga hočete opravljati). Indijsko podjetje Zomato naj bi objavilo oglas, »da če hočete kot za Wolt razvažati hrano, morate plačat dvajset jurjev evrov na leto (sic),« in nadaljuje, »da se je javilo osemnajst tisoč ljudi za to smiselno delo, potem je vlada posegla vmes, bla bla, delo se more res plačat (sic)« in zaključi »za smiselno delo bomo plačevali«.

V zgoraj opisanemu primeru Mazzini pove samo dve resnični informaciji. Podjetje Zomato je res objavilo oglas, v katerem je delovno mesto pogojevalo s plačilom. A v resnici je šlo za delovno mesto šefa kabineta in v resnici je šlo za marketinški trik podjetja, ki šefa kabineta s podobnimi šokantnimi oglasi išče že več let (Hindustan Times, 2024). Ne gre torej za primer »smiselnega dela«, temveč za viralni marketing.

Razslojena družba

Mazzini nato poudari, da se družba vedno bolj razslojuje, da je umetna inteligenca draga ter da države »rapidno izgubljajo bitko s super-bogataši«. Omeni primer Elona Muska in doda, da »se je včeraj tudi Zuckerberg vrinil…da bo dobil neko pozicijo v ameriški državi«.

Elon Musk po poročanju medijev dejansko drži velik vpliv nad aktualnim predsednikom Združenih držav Amerike (CNN, 2024), Mark Zuckerberg pa naj bi po poročanju medijev skušal vplivati na Trumpovo tehnološko razvojno politiko, kjer nikjer ne piše, da naj bi iskal »pozicijo v ameriški državi« (FT, 2024). Na tem mestu bi lahko omenil še potencialni razlog za tako dobrikanje tehnološkega sektorja – gre namreč za zaostrovanje politik in regulacije na področju informacijske tehnologije, kjer Evropska unija napoveduje nove sankcije za ameriška podjetja (Bloomberg, 2024).

Mazzini zaključi, da »superbogataši prevzemajo funkcijo države,« kar je milo rečeno, pretiravanje. Prevzemanje funkcije države bi namreč pomenilo, da bi funkcije države opravljali superbogataši, kar je daleč od resnice. Bolj korektno bi bilo reči, da imamo v zahodnem svetu problem s pretiranim vplivom superbogatašev na razvoj državnih politik in hkratnim zasledovanjem egoističnih ciljev (Stone Center, 2024).

Bitka za skladnost

Mazzini v zaključku predavanja naprej nastopi s trditvijo, da »grejo te trendi kontra temu, za kar smo rojeni (sic)«.

Nato potegne primerjavo z nabiralniškimi skupnostmi, kjer je celotno pleme vzgajalo enega otroka, danes pa naj bi vlogo plemena prevzela umetna inteligenca. »Otrok bo imel virtualnega učitelja, virtualne prijatelje, vse virtualno…(sic),« komentira Mazzini in se vrne na trditev smiselnega dela in smiselnih odnosov za smiselno življenje, kjer bo sedaj glavno vlogo prevzela umetna inteligenca.

A nato s svojim zadnjim stavkom celotno predavanje obrne na glavo in pojasni, da »nisem našel trenda, ki bi ga AI štartala… ampak samo pospešuje trende, ki zadnjih par stoletij harajo okol (sic).« To je v neposrednem nasprotju z njegovo prvi izjavo zaključka, ki trdi, da so naštevani trendi »kontra temu, za kar smo rojeni (sic)«. In če gre pri umetni inteligenci za inovacijo, kateri so potem trendi prejšnjih »parih stoletij«, ki so delovala na isti način?

To nepovezanost je še toliko bolj čutiti v primerjavi s prvim delom njegovega nastopa, kjer fenomene umetne inteligence postavlja v neposredno nasprotje tega, kar trenutno (zaenkrat še) prevladuje na trgu.

Refleksija predavanja in razprava

V začetku tega komentarja sem omenil vedno večjo polarizacijo razprave o umetni inteligenci v javnem prostoru, kjer velikokrat opažam izredno polarizacijo mnenj, posploševanje in sploščevanje procesov v akutna stanja ter osredotočanje na gozd s hkratnim ignoriranjem dreves.

Mazzinijevo predavanje dejansko deluje kot napaberkovane anekdote, izredno šibko povezane z nejasno in sploščeno rdečo nitjo umetne inteligence. Identične anekdote bi lahko povezal v nit o delu, o sreči oziroma o drugem sociološkem fenomenu, pa celotna pripoved ne bi ničesar pridobila na koherenci oziroma osredotočenosti. Gre torej za lepe besede groze pred neznanim.

Avtor se v predavanju po mojem mnenju ne more odločiti, ali bo čas izkoristil za razlago obstoječega stanja, v katerem nastaja in se razvija umetna inteligenca in bo torej pojasnil, kako smo prišli do aktualne situacije, ali se bo ukvarjal z dejanskim reflektiranjem vpliva umetne inteligence, pri čemer ne bo zlorabljal in napačno predstavljal fenomenov samo zato, da bodo ti ustrezali trenutku v pripovedi.

Hkrati je pomembno preveriti tudi vse tisto, česar Mazzini v predavanju ne omeni oziroma ne uspe kontekstualizirati.

Najprej umanjka jasna definicija in razlaga delovanja umetne inteligence in nadaljevanje trenda podatkovne ekonomije ter zgodovinska refleksija razvoja umetne inteligence, ki se je začela v sedemdesetih letih dvajsetega stoletja (New Jersey Innovation Institute, 2024). Nato bi bil koristen poudarek, da polja umetne inteligence ne gre sploščevati, temveč se je potrebno osredotočiti na določena področja in določene fenomene, ki imajo različne stopnje uspešnosti in katastrofičnosti.

Ta navezava podatkovne ekonomije na umetno inteligenco, kjer so prejšni podatkovni oligarhi izkoristili začetno pozicijo podatkovnega lastništva, ki se je sedaj začela zmanjševati zaradi različnih razlogov (Technology Review, 2024). Temu bi lahko dodal pojasnilo o mehurčku umetne inteligence, ki sledi logiki preteklega podivjanega kapitalizma na področju podatkovne ekonomije – ko se en del industrije umiri, drugi poskoči (Financial Times, 2024).  Mazzini umetne inteligence ne vmesti na zgodovinsko premico razvoja, temveč predavanje začne pompozno: “Nihče ne ve, kako to deluje!”

Za poslušalce bi bilo po mojem mnenju koristna tudi preslikava polja interesov različnih skupin (države, podjetja, posamezniki) in opis procesov, ki potekajo na teh relacijah (sprejemanje zakonodaje, porast in upad industrije…). Na podlagi tega prikaza heterogenih interesov bi lahko nato pojasnil vloge različnih akterjev in dinamiko med njimi, ki tvori tok zgodovine. S tem bi poslušalec dobil boljši občutek o lastni vlogi in o vplivu, ki ga ima sam na druge akterje (odločevalci, podjetja). Pomagala bi tudi iskrenost pri navajanju in interpretiranju izbranih primerov, saj v trenutni obliki potvarjanja, izmišljevanja in prilagajanja anekdotalni primeri služijo samo za prazno dramatiziranje in šokiranje publike, v ustih pa pušča neprijeten okus.

In končno – predavanje je zamujena priložnost podčrtavanja vloge družboslovja pri razvoju tehnodeterminističnih trendov zahodne družbe, vlogo politične regulacije in pomembnosti družbene aktivacije v javnem diskurzu, pritisku na politične elite ter kolektivnega razreševanja izzivov področij umetne inteligence. V Mazzinijevi refleksiji se vse dogaja na relaciji neumnega in nemočnega potrošnika, ki ga tehnološki oligarhi brez razloga pehajo v vedno večjo kaotično stanje, pri čemer še sami ne vejo, kaj pravzaprav počnejo. Kot pravi Mazzini: “Nihče ne ve, kako umetna inteligenca dela.” Tudi on ne.

Se ti zdi to pomembno?

Projekt Eticen.it nastaja v sklopu zavoda Državljan D. Zavod se ne financira z državnim denarjem, temveč denar za delovanje pridobiva tudi z donacijami aktivne javnosti. Če ti je tematika nadzora in krčenja državljanskih pravic pomembna, razmisli o podpori.

Naše delovanje pokriva več različnih področij, od digitalnih pravic, medijske pismenosti in aktivnega državljanstva. Več o naših aktivnostih izveš na spletišču zavoda Državljan D.

The post Za boljšo kritiko umetne inteligence appeared first on Etičen.it.

Digitalna suverenost plagiata

✇Etičen.it
By: Domen Savič

Obstaja utemeljen sum, da je predsednica države, dr. Nataša Pirc Musar, na konferenci o digitalni suverenosti DISCO na vprašanje o tem, kako ona razume pojem digitalne suverenosti, odgovorila s plagiatom. To odpira vprašanja o kvaliteti slovenske politike na področju digitalne ekonomije in človekovih pravic v digitalnem svetu ter pod vprašaj postavlja državno suverenost pri oblikovanju mnenj in pogledov na to temo.

Plagiat kot lastno mnenje

Na konferenci DiSCO je predsednica republike Slovenije, dr. Nataša Pirc Musar nastopila kot častna gostja, pogovor z njo pa je otvoril konferenco na temo digitalne suverenosti.

Moderator ji je postavil uvodno vprašanje, kako ona razume fenomen digitalne suverenosti, njen odgovor objavljamo v celoti.
»I was thinking about what to answer on this first question of yours. It is, as you said, not an easy question. When the world wide web was introduced to a public usage in 1996, it seems long time ago, we were all thinking about how this digital tool is going to connect us all through, around the globe. And for the first couple of years, it was really marvelous to see what’s going on. I was employed at the national television at that time and when we got the first email address, I was applying to all the newsletters, today we call it spam. It was really interesting to see how the communication was faster and faster and faster. But a decade ago or maybe even before that, I have noticed and I am pretty sure you have noticed as well, that people started to not trust each other anymore despite of all this interconnectivity, but more, the states do not trust each other anymore. And this is a crucial fact why the digital sovereignty is today highly debated and is really very important to debate it. From my point of view, I think that digital sovereignty means that the state, the country, would like to preserve its own infrastructure, its own digital infrastructure, to define its own digital destiny, if you want me to say so, and this is not an easy process.«

Digitalna suverenost trenutno ni dobro definirana, še več. Gre za pojem, ki ga različne države razumejo na različen, celo kontradiktoren način. Pojem digitalne suverenosti je začela uporabljati Kitajska, ki je z njim definirala pravico države do ultimativnega izklopa iz mednarodnega omrežja, ekskluzivni nadzor nad pretokom podatkov in uporabo teh podatkov v državne namene.

Nato so pojem digitalne suverenosti prevedle tudi druge države in ga začele uporabljati za opisovanje državne avtonomije na področju podatkov v odnosu do tujih digitalnih storitev (v Evropi je glavna zagovornica tega modela Francija) oziroma odnos države do nabavne verige gradnikov informacijske družbe (v EU je najpomembnejša zagovornica te interpretacije Nemčija).

Boj za poenotenje pomena pojma digitalna suverenost je ključna za prihodnost razprave o njem, saj je trenutno ena največjih ovir ravno razpršenost pomenov, ki ogrožajo razpravo, saj se glavni svetovni akterji trenutno še niso dogovorili za skupno definicijo. V času nejasnosti je izredno pomembno, da vse države članice EU sodelujejo v razpravi, da oblikujejo svoje poglede in da s pomočjo razprave dosežemo poenotenje tega pomena.

Predsednica RS, dr. Nataša Pirc Musar, je svoje videnje fenomena digitalne suverenosti skoraj dobesedno prepisala iz raziskave »The geopolitics of AI and the rise of digital sovereignty«, ki jo je na spletišču Brookings Institute decembra 2022 objavil Benjamin Cedric Larsen, vodja projekta Umetne inteligence in strojnega učenja pri organizaciji World Economic Forum. Med drugim je zapisal: »Historically, the advent of the world wide web created an opportunity for the world to be interconnected as one global digital ecosystem. Growing mistrust between nations, however, has caused a rise in digital sovereignty, which refers to a nation’s ability to control its digital destiny and may include control over the entire AI supply chain, from data to hardware and software. A consequence of the trend toward greater digital sovereignty—which then drives the trend further—is increasing fear of being cut off from critical digital components such as computer chips and a lack of control over the international flow of citizens’ data. These developments threaten existing forms of interconnectivity, causing markets for high technology to fragment and, to varying degrees, retrench back into the nation state.«

Primerjava besedil

Hitro lahko opazimo, da je med obemi besedili kar nekaj ujemanj (poudarki naši).

Nataša Pirc Musar: »But a decade ago or maybe even before that, I have noticed and I am pretty sure you have noticed as well, that people started to not trust each other anymore despite of all this interconnectivity, but more, the states do not trust each other anymore.«

Benjamin Cedric Larsen: »Growing mistrust between nations, however, has caused a rise in digital sovereignty…«

Nataša Musar Pirc: »From my point of view, I think that digital sovereignty means that the state, the country, would like to preserve its own infrastructure, its own digital infrastructure, to define its own digital destiny, if you want me to say so, and this is not an easy process.«

Benjamin Cedric Larsen: »…, which refers to a nation’s ability to control its digital destiny and may include control over the entire AI supply chain, from data to hardware and software.«

Plagiat kot večplasten problem

Začnimo z osnovnim problemom. Moderator je predsednico države povprašal po lastnem mnenju o pomenu pojma digitalne suverenosti, ona mu je odgovorila s skoraj dobesednim citatom mednarodne organizacije World Economic Forum.

Izoblikovanje lastnega stališča okrog fenomena, ki še ni jasno definiran, je ena od osnovnih in ključnih faz razprave, iz katere izide poenotena definicija. Da tega kot država in enakopravna partnerica v mednarodni razpravi nismo sposobni narediti, je prvi znak za alarm.

Drugi problem je predsedničino zgodovinsko vmeščanje vzrokov za porast digitalne suverenosti. V svojem odgovoru dr. Nataša Pirc Musar omenja obdobje pred desetimi leti, ni pa jasno, kaj naj bi se takrat zgodilo. Lahko bi sicer ugibali, da predsednica misli na Snowdnova razkritja (2013), čeprav ta nimajo neposredne povezave z digitalno suverenostjo.

Dejansko je pojem digitalne suverenosti prva začela uporabljati Kitajska v srednjih devetdesetih letih dvajsetega stoletja (1994), v evropskem prostoru je termin pridobil na pomembnosti skoraj trideset let kasneje, ko je Evropska komisija (2020) začela s tem pojmom utemeljevati prihodnje razvojne politike.

Nerazumevanje vzrokov za današnje stanje je nov problem pri vključevanju v mednarodne razprave na tem področju, saj nepoznavanje zgodovine lahko vodi v ponavljanje starih napak in manko lekcij, ki smo jih kot družba že predelali.

Tretji problem je predsedničino razumevanje problema. Četudi ignoriramo izredno podobnost njenega opisa z mnenjem vodje odseka za strojno učenje in umetno inteligenco pri World Economic Forum, ne moremo mimo praznine pojma »preserving digital infrastructure« in »define its own digital destiny«.

Še več – digitalna infrastruktura je v najboljšem primeru samo eden od elementov digitalne suverenosti, ki bi ga morali razumeti v odnosu Evropske unije do Kitajske in Združenih držav Amerike, ne pa v odnosu Slovenije do ostalih svetovnih držav.

Praznina pojma »digital destiny« je še bolj problematična, saj v njej lahko najdemo odmev kitajske definicije tega fenomena. Kitajski predsednik Xi Jinping je namreč digitalno suverenost leta 2015 definiral kot »pravico naroda, da si izbere svojo pot razvoja informacijske družbe in lasten model digitalne regulacije in politike, brez vpletanja drugih držav.« Vprašati se moramo, ali res hočemo na mednarodnem političnem parketu nastopati s floskulami iz kitajskega besednjaka?

Se ti zdi to pomembno?

Projekt Eticen.it nastaja v sklopu zavoda Državljan D. Zavod se ne financira z državnim denarjem, temveč denar za delovanje pridobiva tudi z donacijami aktivne javnosti. Če ti je tematika nadzora in krčenja državljanskih pravic pomembna, razmisli o podpori.

Naše delovanje pokriva več različnih področij, od digitalnih pravic, medijske pismenosti in aktivnega državljanstva. Več o naših aktivnostih izveš na spletišču zavoda Državljan D.

The post Digitalna suverenost plagiata appeared first on Etičen.it.

Zakonodaja CSAR: Rešujejo otroke, ubijajo zasebnost!

✇Etičen.it
By: Domen Savič

Evropski zakonodajalci se spet lotevajo področja spletne regulative in pri tem mislijo dobro, a delajo slabo. Zakonodajni predlog o določitvi pravil za preprečevanje spolne zlorabe otrok in boj proti njej (CSAR) namreč na večih mestih boj proti spolnim zlorabam povezuje z ogrožanjem uporabniške zasebnosti in kršenjem človekovih pravic.

Odločevalci, povezani z industrijo nadzora, nas skušajo prepričati, da je regulatorni predlog dobra rešitev problema, a vedno glasnejša so opozorila, da bo morebitno sprejetje tega predloga služilo samo interesnim skupinam družbe nadzora.

O problematičnemu predlogu, o katastrofalnih posledicah morebitne njegove potrditve in boju za uporabniško zasebnost na spletu bosta v razpravi spregovorili Ella Jakubowska, predstavnica Evropskega združenja za digitalne pravice in Maja Cimerman iz zavoda Danes je nov dan.

Se ti zdi to pomembno?

Projekt Eticen.it nastaja v sklopu zavoda Državljan D. Zavod se ne financira z državnim denarjem, temveč denar za delovanje pridobiva tudi z donacijami aktivne javnosti. Če ti je tematika nadzora in krčenja državljanskih pravic pomembna, razmisli o podpori.

Naše delovanje pokriva več različnih področij, od digitalnih pravic, medijske pismenosti in aktivnega državljanstva. Več o naših aktivnostih izveš na spletišču zavoda Državljan D.

The post Zakonodaja CSAR: Rešujejo otroke, ubijajo zasebnost! appeared first on Etičen.it.

Internet ljudi: 20 let človekovih pravic v informacijski družbi

✇Etičen.it
By: Domen Savič

Kako se je področje človekovih pravic v informacijski družbi spreminjalo in razvijalo v zadnjih dvajsetih letih, zakaj je danes to vedno bolj politična tema? Kako se trendi na tem področju razvijajo v Sloveniji in kako v Evropski uniji, kdo vse vpliva na razvoj dogodkov in kakšno vlogo igrajo državljanke in državljani?

Z okroglo mizo praznujemo dvajset let nevladnega združenja European Digital Rights (EDRi) in hkrati podčrtujemo pomembnost tega vprašanja vzlic aktualnih tehno-socioloških trendov, od umetne inteligence in družbe nadzora do velikega podatkovja ter drugih fenomenov informacijskega vsakdana.

Na ta in druga vprašanja bodo na okrogli mizi iskali odgovore naslednje gostje in gosti:

  • dr. Jelena Burnik, Urad informacijskega pooblaščenca
  • dr. Maja Bogataj Jančič, LL.M., LL.M.
  • Dušan Caf, Inštitut Digitas
  • Eva Vrtačič, Inštitut Danes je nov dan
  • Domen Savič, Inštitut Državljan D

Se ti zdi to pomembno?

Projekt Eticen.it nastaja v sklopu zavoda Državljan D. Zavod se ne financira z državnim denarjem, temveč denar za delovanje pridobiva tudi z donacijami aktivne javnosti. Če ti je tematika nadzora in krčenja državljanskih pravic pomembna, razmisli o podpori.

Naše delovanje pokriva več različnih področij, od digitalnih pravic, medijske pismenosti in aktivnega državljanstva. Več o naših aktivnostih izveš na spletišču zavoda Državljan D.

The post Internet ljudi: 20 let človekovih pravic v informacijski družbi appeared first on Etičen.it.

Covid-19 tracing apps and human rights

✇Etičen.it
By: Domen Savič

Covid-19 tracing apps were a techno-solutionism promise at the beginning of the pandemic but we soon realize that they are also a tool for surveillance capitalism normalization. How is this subject evolving even after we almost forgot about the once heralded covid-19 apps in different countries and what can we do to push back against the normalization of surveillance?

We sit down with Karolina Iwańska (European Center for Not-for-Profit Law Stichting) to discuss the report Under Surveillance: (Mis)use of Technologies in Emergency Responses that they published in cooperation with the International Network of Civil Liberties Organizations and Privacy International.

Se ti zdi to pomembno?

Projekt Eticen.it nastaja v sklopu zavoda Državljan D. Zavod se ne financira z državnim denarjem, temveč denar za delovanje pridobiva tudi z donacijami aktivne javnosti. Če ti je tematika nadzora in krčenja državljanskih pravic pomembna, razmisli o podpori.

Naše delovanje pokriva več različnih področij, od digitalnih pravic, medijske pismenosti in aktivnega državljanstva. Več o naših aktivnostih izveš na spletišču zavoda Državljan D.

The post Covid-19 tracing apps and human rights appeared first on Etičen.it.

Who made who? Regulation of artificial intelligence

✇Etičen.it
By: Domen Savič

Citizen D is proud to host Share Foundation and Homo Digitalis on the issue of regulatory framework of artificial intelligence generally and globally, but also within the newly-purposed EU AI Act.

The omnipresent artificial intelligence presence in many different aspects of our private and public lives, its influence on everything from health, employment, social services, to security, privacy, freedom of expression is guiding us towards a question: “Do we need a global AI regulatory framework and how should that look like?”

Joining us for the debate are Chrysi Sakellari from Homo Digitalis and Ana Martinović from Share Foundation that will offer unique points of view from the southern-eastern European perspective.

Se ti zdi to pomembno?

Projekt Eticen.it nastaja v sklopu zavoda Državljan D. Zavod se ne financira z državnim denarjem, temveč denar za delovanje pridobiva tudi z donacijami aktivne javnosti. Če ti je tematika nadzora in krčenja državljanskih pravic pomembna, razmisli o podpori.

Naše delovanje pokriva več različnih področij, od digitalnih pravic, medijske pismenosti in aktivnega državljanstva. Več o naših aktivnostih izveš na spletišču zavoda Državljan D.

The post Who made who? Regulation of artificial intelligence appeared first on Etičen.it.

Jason Scott (The Internet Archive): “Internet is extremely forgetful!”

✇Etičen.it
By: Domen Savič

Jason Scott Sadofsky, more commonly known as Jason Scott, is an American archivist, historian of technology, filmmaker, performer, and actor. Scott has been known by the online pseudonyms Sketch, SketchCow, The Slipped Disk, and textfiles. He has been called “the figurehead of the digital archiving world”.

He is the creator, owner and maintainer of textfiles.com, a web site which archives files from historic bulletin board systems. He is the creator of a 2005 documentary film about BBSes, BBS: The Documentary, and a 2010 documentary film about interactive fiction, GET LAMP.

The fireside chat was organized by The Computer Museum in Ljubljana and was moderated by Domen Savič (Citizen D).

Se ti zdi to pomembno?

Projekt Eticen.it nastaja v sklopu zavoda Državljan D. Zavod se ne financira z državnim denarjem, temveč denar za delovanje pridobiva tudi z donacijami aktivne javnosti. Če ti je tematika nadzora in krčenja državljanskih pravic pomembna, razmisli o podpori.

Naše delovanje pokriva več različnih področij, od digitalnih pravic, medijske pismenosti in aktivnega državljanstva. Več o naših aktivnostih izveš na spletišču zavoda Državljan D.

The post Jason Scott (The Internet Archive): “Internet is extremely forgetful!” appeared first on Etičen.it.

EU media freedom act and propaganda

✇Etičen.it
By: Domen Savič

The newly proposed EU media freedom act is promising to protect the freedoms of the press and resolve issues connected with (state-funded) propaganda outlets that are popping up all over the EU. How well will the Act actually perform in the real world, will it hamper the propaganda outlets and make them obsolete or is this just another form of unnecessary regulation?

Citizen D NGO is happy to organize an online debate on the topic, featuring Rita Jonusaite from EU DisinfoLab and Lenart Kučić, Ministry of Culture, Republic of Slovenia.

Se ti zdi to pomembno?

Projekt Eticen.it nastaja v sklopu zavoda Državljan D. Zavod se ne financira z državnim denarjem, temveč denar za delovanje pridobiva tudi z donacijami aktivne javnosti. Če ti je tematika nadzora in krčenja državljanskih pravic pomembna, razmisli o podpori.

Naše delovanje pokriva več različnih področij, od digitalnih pravic, medijske pismenosti in aktivnega državljanstva. Več o naših aktivnostih izveš na spletišču zavoda Državljan D.

The post EU media freedom act and propaganda appeared first on Etičen.it.

The future of biometric surveillance

✇Etičen.it
By: Domen Savič

A good year after the beginning of the #Reclaimyourface campaign and in a world where biometric surveillance is becoming more and more of a political problem, we take stock and look forward onto the future. How is this issue addressed in the EU and how in other parts of the world, what can we do as citizens and what as consumers and how are our political representatives handling this matter?

Joining us for an online debate is Caterina Rodelli from Access Now.

Se ti zdi to pomembno?

Projekt Eticen.it nastaja v sklopu zavoda Državljan D. Zavod se ne financira z državnim denarjem, temveč denar za delovanje pridobiva tudi z donacijami aktivne javnosti. Če ti je tematika nadzora in krčenja državljanskih pravic pomembna, razmisli o podpori.

Naše delovanje pokriva več različnih področij, od digitalnih pravic, medijske pismenosti in aktivnega državljanstva. Več o naših aktivnostih izveš na spletišču zavoda Državljan D.

The post The future of biometric surveillance appeared first on Etičen.it.

“Ni interneta za starce”

✇Etičen.it
By: Domen Savič

Kako se v Sloveniji informacijska družba obnaša do mladih in kako do starejših uporabnikov? So boni rešitev, ki bo odpravila problem digitalnega razkoraka ali bi z njimi samo še poglobili razlike na tem področju? Kaj je z digitalno pismenostjo in kaj z zakonskimi rešitvami digitalne ekonomije, s katerimi bi država poskrbela za zmanjšanje neenakosti v digitalni družbi?

O tem in povezanih temah smo debatirali s Katjo Koren Ošljak iz zavoda Vsak in Dušanom Cafom iz Foruma za digitalno družbo.

The post “Ni interneta za starce” appeared first on Etičen.it.

Vohunsko oglaševanje: Plačevanje informacij s podatki

✇Etičen.it
By: Domen Savič

Da na spletu informacije plačujemo s svojimi podatki, čivkajo že vrabci. Industrija spletnega oglaševanja namreč služi ravno s preprodajo podatkov o brskalnih navadah uporabnic in uporabnikov, ki oglaševalcem služijo za oblikovanje idealnih nagovorov za izbrane uporabniške skupine.

Zbiranje in preprodaja podatkov poteka na več različnih načinov, saj se na eni strani pojavlja vedno večje število digitalnih oligopolov, kot sta Facebook in Google, ki zaradi svoje velikosti in vseprisotnosti postajata dva podatkovno najbolj požrešna spletna velikana, na drugi strani pa vedno večje število manjših spletišč in njihovih založnikov, ki se hočeš-nočeš morajo podrejati pravilom igre in podatke o svojih uporabnikih deliti z oglaševalci prek sistemov globalne oglaševalske industrije.

Z vedno večjo in razširjeno prisotnostjo spletnih tehnologij in različnih načinov uporabe ter brskanja za različnimi tipi informacij aktivisti in del javnosti vedno več pozornosti namenja prav tem posredniškim sistemom podatkovnih zbirk, na podlagi katerih lahko oglaševalci izberejo najbolj relevantne uporabnice ter uporabnike za svoj oglasni nagovor.

Brskalnik: Okno v svet ali v vašo intimo?

Brskalniki kot orodje za “branje” svetovnega spleta tako predstavlja tisto stičišče vaših želja in potreb na eni ter zasebnostnega vdiranja oglaševalskih algoritmov na drugi strani. Drobtinice naše podatkovne sledi namreč prek brskalnika hitro pobirajo programske rešitve (skripte, pajki…) in z njihovo pomočjo profilirajo naše aktivnosti na spletu. Nato profile izkoristijo za plasiranje oglasov, za katere mislijo, da bodo za nas najbolj relevatni.

Dokler se to dogaja na nivoju ponev in koles (eden od priljubljenih primer, ko skušajo odločevalcem situacijo razložiti zagovorniki vohunskega oglaševanja), zadeva ni tako problematična. Kdo si ne bi želel algoritemske pomoči pri iskanju “najboljše ponve za palačinke”? A se zadeva lahko za uporabnika hitro neprijetno zaplete, ko pride do bolj zasebnostno-relevantnih področjih, kot je spolnost, zdravje, finančni podatki in druga intimna področja, za katere mislimo, da ostajajo med nami in našim brskalnikom.

S problemom vohunskega oglaševanja (surveillance advertising) se vedno bolj ukvarja tudi politika in regulatorji, ki skušajo izkoriščevalske prakse oglaševalske industrije preprečiti, saj aktivisti, pravniki in politiki ugotavljajo, da je večletno zanašanje na “pametne uporabnike”, ki bodo sami od sebe poskrbeli za svojo zasebnost samo še povečalo apetite oglaševalske industrije in hkrati popolnoma zbanalizirali samoobrambo pred takim početjem.

Pametnega uporabnika ni

Izkaže se namreč, da je zasebnostna samoobramba praktično neučinkovita, saj vohunska tehnologija napreduje in postaja vedno bolj invazivna, hkrati je od uporabnika nemogoče pričakovati skorajda vojaško disciplino pri uporabi vseh naprav in storitev na spletu. Za vdor v zasebnost je dobesedno dovolj le trenutek nepazljivosti, ki nato sproži odtekanje naših podatkov.

Hkrati je potrebno opozoriti, da so skoraj vse dosedanje samoregulacijske poteze oglaševalske industrije, ki se je skušala na različne načine izogniti regulatornim ukrepom, aktivisti in analitiki označili za prazne obljube, saj se je na koncu skoraj vedno izkazalo, da industrija sama ne bo nikoli ogrozila poslovnega modela, na katerem temelji njihovo delovanje.

Če samo pogledamo zloglasno EU direktivo o piškotkih, ki je pred skoraj dvajsetimi leti pomenila eno bolj odmevnih prelaganj odgovornosti na končnega uporabnika, saj je od industrije zahtevala “samo” kvalitetne informacije o vohunskih tehnologijah ter možnost uporabniškega odklopa. Izkazalo se je, da tehnologija in želja po zbirkah uporabniških podatkov napreduje hitreje kot zmožnost regulatorja in “pametnega” uporabnika, ki skušata zaščiti zasebnost.

Od direktive do danes je scena vohunskega oglaševanja dobesedno podivjala, saj je tehnološka industrija razvila več različnih načinov spremljanja uporabniških navad, ki se ne ozirajo na zasebnostne ukrepe in tehnologije, s katerimi se ukvarja manjši delež uporabnikov.

Miš in mačka

Najprej je tukaj vedno večja industrija posrednikov podatkovnih zbirk, ki deluje “pod gladino” svetovnega spleta. Podjetja, ki zbirajo podatke, jih morajo nato posredovati zainteresiranim kupcem, posredniki pri prodaji pa služijo od sklenjenih kupčij. Prodajanje uporabniških podatkov se torej vedno bolj izplača, saj vedno večji delež oglaševalske industrije temelji na spletnemu oglaševanju, hkrati je na spletu vedno večje število uporabnikov, kar pomeni, da je zbirka podatkov o njih vedno večja.

Nato je tukaj globalni problem ekonomskih transferjev, ki od posameznih industrij zahteva bolj in bolj neetične poteze, s katerimi skušajo rešiti svoje podjetje pred bankrotom. To se je v najbolj problematični luči pokazalo v Združenih državah Amerike, kjer so z ukinitvijo zakonodaje o splavu povzročili pravi zasebnostni orkan. Pa to niti ni bil prvi primer – v preteklosti so s pomočjo podatkovnih zbirk organi pregona lovili begunce, nadlegovali verske manjšine in tako naprej.

Pa ne gre samo za zlorabe s strani državnih organov pregona, temveč se podatkovne zbirke pojavljajo tudi kot orodje zlorab v zasebnem sektorju, ki jih dobro izkorišča za profiliranje manjšin, optimiziranje nagovora revnih oziroma v vedno bolj vroči hladni vojni med ZDA in Kitajsko.

Novinarstvo v službi oglaševalcev

Kako globoko je v mlakužo oglaševalskih preprodajalcev naših podatkov potopljena slovenska medijska scena? Z orodjem Blacklight, ki analizira kodo v ozadju posameznih spletišč in opozarja na povezave s preprodajalskim podzemljem, smo preiskali dvajset slovenskih medijskih spletišč.

Z orodjem smo analizirali prisotnost oglaševalskih sledilnikov (ad trackers), piškotkov tretjih oseb (third-party cookies), skript za izogibanje oglaševalskih blokad (ad-blocker evasion), snemanje brskalne seje (session recording), beleženje tipkanja (keystroke capture) in prisotnost Facebook ter Google oglaševalske kode (Facebook pixel / Google Ads remarketing).

  • Oglaševalski sledilniki: koda, ki teče v ozadju spletišča in beleži vaše dejavnosti na spletišču ter nato te informacije preprodaja oglaševalcem.
  • Piškotki tretjih oseb: datoteke, ki vaše brskalne navade sporočajo drugim spletiščem in tako omogočajo sledenje na večih spletiščih.
  • Skripte za izogibanje oglaševalskih blokad: čeprav imate na brskalniku vklopljen preprečevalnik prikazovanja oglasov (ad-blocker), vam določena spletna mesta vseeno določijo unikaten odtis, s katerim vam potem sledijo. Tehnologijo trenutno uporavlja manjšina globalnih spletišč.
  • Snemanje brskalne seje: tehnologija, ki beleži premikanje miške po zaslonu, vnašanje besed v obrazce in druge vaše aktivnosti.
  • Beleženje tipkanja: tehnologija, ki beleži vaše tipkanje, čeprav vnešenih podatkov ne pošljete v internet. Če na primer vnesete komentar v obrazec za komentiranje in ga potem izbrišete, lahko spletišče s to tehnologijo še vedno “prebere” vaš komentar.
  • Facebook/Google oglaševalska koda: koda, ki teče v ozadju spletišča in podatke o vaših brskalnih navadah na spletišču pošilja Googlu in Facebooku, ki jih nato lahko uporabita za ciljano oglaševanje in izgradnjo vašega profila

Glede na spodnje podatke lahko ugotovimo, da izbrana skupina novičarskih spletišč v povprečju uporablja 12 različnih oglaševalskih sledilnikov in 24 piškotkov tretjih oseb. V tabeli smo z zeleno barvo označili spletišča, ki uporabljajo manj sledilnikov in piškotkov, z rdečo pa tiste, ki jih uporabljajo več.

Kako brati rezultate?

Preden se sprehodite skozi tabelo rezultatov analize z orodjem Blacklight, še nekaj opomb glede branja rezultatov.

Zadeva namreč temelji na analizi kode spletišča, ki se naloži ob obisku skripte. Skripta ni sposobna identičnega obnašanja kot človeški uporabnik, a hkrati nakazuje zanimiv problem napačne implementacije t.i. “cookie dovoljenj”, ki so pri spletiščih z velikim številom naloženih piškotkov in skript napačno implementirana.

Spletišča bi namreč v teoriji morala ob obisku naložiti minimalno število sledilnih kod in piškotkov in počakati, da se uporabnik s tem strinja. Tako na primer deluje spletišče Mladina, kjer je število piškotkov minimalno, na drugi strani imamo spletišče Reporter, ki veliko piškotkov naloži, še preden se uporabnik strinja z njimi.

Spletišče Sledilniki Piškotki Skripte Zaslon Tipke FB GOOG
24ur.com 2 3 Ne Ne Ne Ne Da
siol.net 13 17 Ne Ne Ne Da Ne
zurnal24.si 26 64 Da Ne Ne Ne Da
slovenskenovice.si 39 16 Da Ne Ne Ne Da
metropolitan.si 7 4 Ne Ne Ne Da Ne
rtvslo.si 2 4 Ne Ne Ne Ne Ne
svet24.si 8 6 Ne Ne Ne Da Da
delo.si 3 6 Ne Ne Ne Ne Da
n1info.si 9 16 Ne Da Ne Da Da
vecer.com 9 N/A N/A N/A N/A N/A N/A
dnevnik.si 17 53 Ne Ne Ne Da Ne
primorske.si 9 21 Da Ne Ne Da Da
reporter.si 32 98 Da Ne Ne Da Da
finance.si 1 3 Da Ne Ne Ne Da
mladina.si 1 3 Ne Ne Ne Ne Ne
nova24tv.si 9 4 Ne Ne Ne Da Da
demokracija.si 39 116 Ne Ne Ne Ne Da
domovina.je 8 4 Da Ne Ne Da Da
sobotainfo.com 10 10 Ne Ne Ne Da Da
si.bloombergadria.com 2 2 Ne Ne Ne Ne Ne

Zanimive ugotovitve

Prva ugotovitev se tiče vseh analiziranih novičarskih spletišč in izpostavlja širino problema.

Vsa spletišča namreč v večji ali manjši meri uporabljajo sledilne mehanizme, s katerimi zbirajo in analizirajo naše brskalne navade. V oči bode relativno majhna količina sledilnikov na najbolj obiskanem spletišču po raziskavi Merjenje obiskanosti spletnih strani (MOSS), 24ur.com in naravnost pošastne številke sledilnikov pri spletišču Slovenskih novic, Demokraciji in Reporterju, ki je posledica že prej omenjene napačne implementacije t.i. cookie pasic. Gre za signal, da je zakonodaja na tem področju popolnoma zgrešila svoj smisel, hkrati pa določene medije postavila v izrazito depriviligiran položaj v primerjavi z ostalimi.

Zakaj? Pravilno implementirana logika t.i. cookie direktive bi morala namreč upoštevati, da se sledilni in oglaševalski piškotki in skripte naložijo šele takrat, ko se s tem strinja uporabnik. Ker se na določenih spletiščih skripte in piškotki očitno naložijo že vnaprej, z orodjem pa je nemogoče ugotoviti, kaj se zgodi PO TEM, ko se uporabnik strinja z nalaganjem vseh piškotkov, bi lahko domnevali, da je število naloženih skript in piškotkov pri določenih spletiščih še višje od zapisanih vrednosti v tabeli.

Prav tako je to vidno pri številu naloženih piškotkov ob prvemu obisku, saj spet lahko vidimo, da različna spletišča ne spoštujejo zakonodaje, saj se tukaj kot največja “farma piškotkov” spet kaže Demokracija, na drugem mestu je Reporter, nato sta skoraj izenačena Dnevnik in Žurnal24.

Presenetljiva je relativno razširjena uporaba tehnologij, s katerimi lastniki spletišč “preskakujejo” blokade oglasov, saj tehnologijo uporablja 30% analiziranih spletišč. Pohvalno je, da tehnologije “snemanja” brskalnika uporablja samo eno spletišče, je pa pri N1 zadeva toliko bolj zaskrbljujoča, saj glede na podatke Blacklight uporabniške podatke zbira in analizira s pomočjo ruske tehnologije, ki pripada ruskemu brskalniku Yandex. Ker gre pri N1 za t.i. člana mreže CNN (CNN affiliate) je zadeva še toliko bolj problematična.

Zakonodaja in nepravična konkurenca

Tako lahko ugotovimo, da je nepravilno izvajanje zasebnostne zakonodaje na trgu medijsko-oglaševalskih vsebin povzročilo kaos tako na področju medijev in njihovih oglaševalskih mehanizmov kot tudi na področju varovanja uporabniške zasebnosti. Napačna implementacija dovoljenj za vklop in izklop sledilnih piškotkov in skript namreč na določenih spletiščih namreč ne rešuje problema uporabniške zasebnosti, hkrati pa uporabniku sploh ne daje možnosti, da na tak način glede tega ukrepa.

Hkrati so v konkurečni prednosti kršitelji zakonodaje, ki na tak način pridejo do večjega številka podatkov o svojih uporabnikih, medtem ko tisti, ki zakonodajo spoštujejo, do teh podatkov ne pridejo. To se pozna tudi pri merjenju obiskanosti, ki uporabljajo skripte in piškotke, kar pomeni, da so kršitelji zakonodaje nagrajeni dvakrat – kršitev nihče ne sankcionira, hkrati jih nagradi trg.

Pri tem je treba poudariti, da ne gre samo za piškotke, temveč tudi za skripte in drugo programsko kodo, ki v zadnjih letih nadomešča tehnologijo piškotkov kot sledilni mehanizem uporabniških brskalnih navad. Tako se problem vdora v uporabniško zasebnost še dodatno zapleta, hkrati pa so uporabniki prepuščeni sami sebi.

Kaj lahko naredi uporabnik?

Čeprav je problem vohunskega oglaševanja večji od posameznega uporabnika in bi se ga morali urgentno lotiti politiki na lokalni in evropski ravni, vseeno obstaja nekaj dobrih uporabniških praks, s katerimi lahko vsaj delno preprečimo prekomerno zbiranje naših podatkov. Naslednjih nasvetov ne smete razumeti kot absolutno rešitev problema, temveč bi se morali kot državljanka/državljan obračati na svoje politične predstavnike in zahtevati rešitev problema na politični ravni, z močno zakonodajo in učinkovito regulacijo.

  • Uporaba zasebnostnega brskalnika
    Brskalniki Firefox, Brave, Edge in Safari so načeloma boljši pri varovanju vaše zasebnosti, za razliko od brskalnika Chrome. Če uporabljate brskalnik Chrome, očitno ne cenite lastne zasebnosti.
  • Dodatni programi za zaščito zasebnosti
    Poleg brskalnika lahko uporabite še dodatne dodatke za brskalnik, s katerimi še dodatno zaščitite svojo zasebnost. Tukaj je še klasika uBlock Origin, s katerim lahko še dodatno zamejite pretakanje lastnih podatkov.

Na žalost niti to ne bo v celoti rešilo problema zasebnostno-invazivne tehnologije, saj je inovacij na tem področju vedno več, vedno težje pa jih dohajajo tudi drugi razvijalci programske opreme. Igra mačke z mišjo se bo nadaljevala do trenutka, ko se bomo kot družba opredelili do tega problema in sprejeli močne zaščite zasebnosti.

Pri tem je potrebno opozoriti še na tržno nelogičnost družbe nadzora. Čeprav bi mislili, da več sledilnikov, piškotkov in drugih invazivnih mehanizmov avtomatično pomeni boljši izkupiček za lastnika spletišča, temu ni nujno tako. Podatke namreč preprodajalci ponujajo na tržnici, od povpraševanja pa je odvisno, ali so za oglaševalce zanimivi ali ne. Če zanimanja ni, lastnik spletnega mesta podatke o uporabnikih zbira dobesedno zastonj, z njimi pa posredno služijo samo že prej omenjeni prekupčevalci.

Se ti zdi to pomembno?

Projekt Eticen.it nastaja v sklopu zavoda Državljan D. Zavod se ne financira z državnim denarjem, temveč denar za delovanje pridobiva tudi z donacijami aktivne javnosti. Če ti je tematika nadzora in krčenja državljanskih pravic pomembna, razmisli o podpori.

Naše delovanje pokriva več različnih področij, od digitalnih pravic, medijske pismenosti in aktivnega državljanstva. Več o naših aktivnostih izveš na spletišču zavoda Državljan D.

The post Vohunsko oglaševanje: Plačevanje informacij s podatki appeared first on Etičen.it.

❌