Smjernice za knjižnice u IFLA-inoj Izjavi o knjižnicama i umjetnoj inteligenciji
/
U listopadu 2020. godine IFLA je objavila Izjavu o knjižnicama i umjetnoj inteligenciji koja donosi ključna razmatranja vezana uz upotrebu umjetne inteligencije (AI) i strojnog učenja u knjižnicama te daje smjernice kojima knjižnice trebaju težiti u društvu s obzirom na sve veću integraciju AI. Primjena tehnologije umjetne inteligencije može imati pozitivan učinak na opću dobrobit i razvoj inovacija, a knjižnice, uz potrebne pripreme i s obzirom na etička pitanja i trenutna ograničenja, mogu odgovorno koristiti AI tehnologije kako bi unaprijedile svoju društvenu misiju. S obzirom na širinu i kompleksnost teme koju pokriva, Izjava o knjižnicama i umjetnoj inteligenciji nakon glavnog dijela teksta sadrži tri dodatka. Prvi dodatak je Umjetna inteligencija i intelektualna sloboda u kojoj se pobliže pojašnjava utjecaj umjetne inteligencije na intelektualnu slobodu te navode pitanja privatnosti i pristranosti, transparentnosti i objašnjivosti. Drugi i treći dodatak (AI pismenost i Umjetna inteligencija – knjižnice u prvom redu) usredotočeni su na ulogu programa AI pismenosti u knjižnicama i povećavanja svijesti kojima knjižnice sudjeluju u povećanju socijalne uključenosti u suvremenom informacijskom društvu.
U prvom, uvodnom dijelu Izjave o knjižnicama i umjetnoj inteligenciji opisuju se načini primjene AI tehnologije i strojnog učenja u knjižnicama u svrhu poboljšanja knjižničnih usluga, kao što su personalizacija pretraživanja, poboljšavanje optičkog prepoznavanja znakova u tekstovima, ponovno korištenje strojno čitljivih zbirki knjižnica. Isto tako, AI i strojno učenje imaju potencijal za dodavanje novih dimenzija i pristupa procesima upravljanja znanjem u knjižnicama, osobito organizaciji znanja, pohrani i integraciji. U Izjavi se stoga potiče suradnja knjižnica i knjižničnih udruga i organizacija sa stručnjacima iz područja umjetne inteligencije kako bi se izradile aplikacije specifične za primjenu u knjižnicama i s obzirom na potrebe korisnika, osobito u svrhu inovacija. Korištenje AI tehnologije u knjižnicama treba podlijegati jasnim etičkim standardima pa korištenje aplikacija koje se oslanjaju na opsežno prikupljanje podataka (poput softvera za analitiku ponašanja u svrhu procjene učinkovitosti) ne smije nadjačati prava korisnika na privatnost i zaštitu osobnih podataka.
Knjižnice trebaju educirati korisnike o implikacijama primjene AI tehnologija kroz proširivanje programa digitalne pismenosti na tzv. AI pismenost (engl. AI literacy), granu digitalne medijske pismenosti koja obuhvaća osnovno razumijevanje kako AI i strojno učenje djeluju, njihovu temeljnu logiku i njihova ograničenja; razumijevanje potencijalnih društvenih utjecaja umjetne inteligencije, posebno u području ljudskih prava; vještine upravljanja osobnim podacima; medijsku i informacijsku pismenost. Suradnjom s drugim sektorima knjižnice mogu educirati korisnike o pozitivnim učincima AI tehnologija i o slučajevima u kojima je korištenje istih etično i poželjno za javnost.
Mnoga trenutna etička pitanja i pitanja inkluzivnosti vezana uz istraživanja i primjenu AI proizlaze iz nepotpunih, netočnih ili pristranih podataka. Digitalna, medijska i informacijska pismenost ističu se kao važan dio rješenja vezanih uz utjecaj AI na intelektualnu slobodu kako bi pojedinci mogli kritički razmotriti je li određeni medij izvorni, znati kako algoritmi utječu na informacije koje se vide na tražilicama i platformama društvenih medija te razumjeti protok informacija.
Budući da su podaci ključan izvor za umjetnu inteligenciju, bilo da je riječ o osobnim podacima, osjetljivim podacima ili podacima koji nisu osobni, upotreba podataka najčešće implicira pitanja zaštite podataka. Štoviše, rezultati analiza koje pokreće AI također mogu otkriti osobne ili osjetljive podatke putem spajanja ili preklapanja izvora podataka ili omogućavanjem deanonimizacije osobnih podataka, što otvara pitanja o pravu na zaštitu podataka. Kao primjer u Izjavi se navodi i skupina podataka o aktivnosti korisnika u knjižničnom prostoru, kao i podaci o posuđenoj građi i čitanju kojima se „hrani“ sustav umjetne inteligencije.
Pitanja privatnosti fundamentalno su povezana s intelektualnom slobodom, jer svijest o tome da se prikupljeni podaci mogu koristiti u druge svrhe sustavom umjetne inteligencije (bez upozorenja i kontrole korisnika) može utjecati na korisnike na način da se suzdrže od aktivnosti u kojima će se vjerojatno prikupljati njihovi podaci.
Izjava se referira i na IFLA-inu Izjavu o privatnosti u knjižnicama iz 2015., prema kojoj postoje mjere koje knjižnice mogu i trebaju poduzeti radi zaštite podataka korisnika. U kontekstu umjetne inteligencije to može uključivati osiguravanje da se svi eksperimenti s AI aplikacijama koji se tiču ponašanja knjižničnih korisnika provode na temelju privole i/ili pažljivog odabira AI aplikacija koje ne bi smjele nepotrebno ugrožavati privatnost korisnika.
S obzirom na navedeno, IFLA daje smjernice za knjižnice i knjižnične udruge kojima se potiče:
Anita Katulić
Hrvatski zavod za knjižničarstvo, Nacionalna i sveučilišna knjižnica u Zagrebu
akatulic@nsk.hr
U prvom, uvodnom dijelu Izjave o knjižnicama i umjetnoj inteligenciji opisuju se načini primjene AI tehnologije i strojnog učenja u knjižnicama u svrhu poboljšanja knjižničnih usluga, kao što su personalizacija pretraživanja, poboljšavanje optičkog prepoznavanja znakova u tekstovima, ponovno korištenje strojno čitljivih zbirki knjižnica. Isto tako, AI i strojno učenje imaju potencijal za dodavanje novih dimenzija i pristupa procesima upravljanja znanjem u knjižnicama, osobito organizaciji znanja, pohrani i integraciji. U Izjavi se stoga potiče suradnja knjižnica i knjižničnih udruga i organizacija sa stručnjacima iz područja umjetne inteligencije kako bi se izradile aplikacije specifične za primjenu u knjižnicama i s obzirom na potrebe korisnika, osobito u svrhu inovacija. Korištenje AI tehnologije u knjižnicama treba podlijegati jasnim etičkim standardima pa korištenje aplikacija koje se oslanjaju na opsežno prikupljanje podataka (poput softvera za analitiku ponašanja u svrhu procjene učinkovitosti) ne smije nadjačati prava korisnika na privatnost i zaštitu osobnih podataka.
Knjižnice trebaju educirati korisnike o implikacijama primjene AI tehnologija kroz proširivanje programa digitalne pismenosti na tzv. AI pismenost (engl. AI literacy), granu digitalne medijske pismenosti koja obuhvaća osnovno razumijevanje kako AI i strojno učenje djeluju, njihovu temeljnu logiku i njihova ograničenja; razumijevanje potencijalnih društvenih utjecaja umjetne inteligencije, posebno u području ljudskih prava; vještine upravljanja osobnim podacima; medijsku i informacijsku pismenost. Suradnjom s drugim sektorima knjižnice mogu educirati korisnike o pozitivnim učincima AI tehnologija i o slučajevima u kojima je korištenje istih etično i poželjno za javnost.
Mnoga trenutna etička pitanja i pitanja inkluzivnosti vezana uz istraživanja i primjenu AI proizlaze iz nepotpunih, netočnih ili pristranih podataka. Digitalna, medijska i informacijska pismenost ističu se kao važan dio rješenja vezanih uz utjecaj AI na intelektualnu slobodu kako bi pojedinci mogli kritički razmotriti je li određeni medij izvorni, znati kako algoritmi utječu na informacije koje se vide na tražilicama i platformama društvenih medija te razumjeti protok informacija.
Budući da su podaci ključan izvor za umjetnu inteligenciju, bilo da je riječ o osobnim podacima, osjetljivim podacima ili podacima koji nisu osobni, upotreba podataka najčešće implicira pitanja zaštite podataka. Štoviše, rezultati analiza koje pokreće AI također mogu otkriti osobne ili osjetljive podatke putem spajanja ili preklapanja izvora podataka ili omogućavanjem deanonimizacije osobnih podataka, što otvara pitanja o pravu na zaštitu podataka. Kao primjer u Izjavi se navodi i skupina podataka o aktivnosti korisnika u knjižničnom prostoru, kao i podaci o posuđenoj građi i čitanju kojima se „hrani“ sustav umjetne inteligencije.
Pitanja privatnosti fundamentalno su povezana s intelektualnom slobodom, jer svijest o tome da se prikupljeni podaci mogu koristiti u druge svrhe sustavom umjetne inteligencije (bez upozorenja i kontrole korisnika) može utjecati na korisnike na način da se suzdrže od aktivnosti u kojima će se vjerojatno prikupljati njihovi podaci.
Izjava se referira i na IFLA-inu Izjavu o privatnosti u knjižnicama iz 2015., prema kojoj postoje mjere koje knjižnice mogu i trebaju poduzeti radi zaštite podataka korisnika. U kontekstu umjetne inteligencije to može uključivati osiguravanje da se svi eksperimenti s AI aplikacijama koji se tiču ponašanja knjižničnih korisnika provode na temelju privole i/ili pažljivog odabira AI aplikacija koje ne bi smjele nepotrebno ugrožavati privatnost korisnika.
S obzirom na navedeno, IFLA daje smjernice za knjižnice i knjižnične udruge kojima se potiče:
- knjižničare da razvijaju relevantne digitalne vještine i kompetencije
- zagovaranje veće uloge knjižnica u promjeni obrazovnih sustava, prilagođavajući se promjenama na tržištu rada koje bi umjetna inteligencija mogla donijeti
- suradnja s istraživačima i programerima umjetne inteligencije u stvaranju aplikacija za korištenje u knjižnicama koje zadovoljavaju etičke standarde i standarde privatnosti te odgovaraju posebno potrebama knjižnica i korisnika
- pomoć korisnicima u razvoju digitalne pismenosti koja uključuje razumijevanje načina rada AI i algoritama te odgovarajućih pitanja o privatnosti i etici
- da svaka upotreba AI tehnologija u knjižnicama podliježe jasnim etičkim standardima i štiti prava knjižničnih korisnika
- djelovanje knjižnica kao foruma za razmjenu najboljih praksi o etičkoj upotrebi AI tehnologija u knjižnicama.
Anita Katulić
Hrvatski zavod za knjižničarstvo, Nacionalna i sveučilišna knjižnica u Zagrebu
akatulic@nsk.hr