Gervigreind skapar áhættu og nýjar áskoranir

„Í anda norræns samstarfs hefur Sameyki ítrekað að innleiðing gervigreindar verði að byggjast á samráði, siðferðilegum grunni og regluramma sem tryggir réttindi starfsfólks og traust almennings. Það er eina leiðin til að tæknin verði notuð til að efla velferð en ekki til að grafa undan henni. Það er ljóst að gervigreind getur opnað fyrir mikla möguleika til að bæta opinbera þjónustu, gera ferla skilvirkari og nýta gögn á ábyrgan hátt.“

Eftir Axel Jón Ellenarson

Gervigreind hefur á örfáum árum orðið eitt stærsta viðfangsefni samtímans, enda er hún fjórða tæknibyltingin sem á skömmum tíma hefur breytt því hvernig við vinnum, hugsum og skipuleggjum samfélagið, og er opinberi vinnumarkaðurinn þar engin undantekning. Ætla má að vinnustaðir og stofnanir ríkisins muni nýta gervigreind til að bæta þjónustu, draga úr kostnaði og flýta ákvörðunum en á sama tíma vex óvissan um þessa nýju tækni sem við erum að kynnast, því hún getur einnig grafið undan mannlegum gildum, dómgreind og réttlæti ef hún er notuð án siðferðilegra viðmiða.

 

Áskoranir og óvissuþættir vegna notkunar gervigreindarinnar
Á ráðstefnum NTR og NSO, sem Sameyki fjallaði um á vef félagsins, kom fram að gervigreindin veitti tækifæri en um leið stafaði ákveðin ógn af henni og henni yrði að setja reglur¹. Á báðum ráðstefnunum var rætt um áhrif hennar á opinber störf þar sem kom m.a. fram að gervigreindin hefur hvorki tilfinningar né býr yfir dómgreind, og því stendur samfélagið frammi fyrir óvissu² varðandi áhrif þessarar nýju tækni á opinber störf og um leið velferðarkerfið. Þessi óvissa er því ekki aðeins tæknileg heldur einnig siðferðileg, sem snýr að því hvernig tryggja má að tæknin þjóni fólki en ekki aðeins sjálfri sér.

Teikning, Halldór Baldursson.

Ýmsar rannsóknir hafa verið gerðar á áhrifum gervigreindar á vinnumarkaðinn sem sýna að hún getur bæði styrkt og veikt opinber störf og stjórnsýslu, allt eftir því hvernig hún er notuð. Í grein í Procedia Computer Science³ eftir Leif Jonas Tveita, MA í upplýsingakerfum frá Háskólanum í Agder í Noregi og Eli Hustad, PhD í upplýsingakerfum frá Háskólanum í Osló, er bent á að gervigreindin geti aukið skilvirkni og forspárhæfni en jafnframt skapað hættu vegna skorts á gagnsæi og svokölluðu „automation bias“ þegar mannleg dómgreind víkur fyrir blindri trú á vélrænar niðurstöður. Í rannsókn sem Anneke Zuiderwijk leiddi, sem er félagsfræðiprófessor við Tækniháskólann í Delft (TU Delft) í Hollandi, og ber heitið „Artificial Intelligence in the Public Sector: Literature Review and Research Agenda“⁴ er varað við að of mikil sjálfvirknivæðing starfa geti grafið undan lýðræðislegu aðhaldi sem einungis er á mannlegu valdi. Það geti leitt til ábyrgðarleysis innan opinberra stofnana og vinnustaða ef ekki sé skýrt hver ber endanlega ábyrgð á ákvörðunum sem þar eru teknar. Sú hætta blasir við þegar sjálfvirknivæðing gervigreindarinnar er innleidd, þar sem hún hefur hvorki dómgreind né tilfinningar til að meta mannleg samskipti.

 

Áhrif gervigreindarinnar á störf og hæfni
Í nýlegri rannsókn sem birtist á vef Cornell-háskóla í Bandaríkjunum og ber titilinn „Notkun skapandi gervigreindar er þegar orðin útbreidd í opinbera geiranum,“ (bein þýðing með hjálp gervigreindar, Generative AI is already widespread in the public sector)⁵ eftir sérfræðinga á sviðum tækni og félagsvísinda kemur fram að um 22 prósent opinberra starfsmanna noti nú þegar gervigreind í daglegum störfum og að tæknin geti minnkað skrifræði um einn dag í viku ef hún er rétt innleidd. Það er nokkuð stórt ef. Í greininni er sýnt fram á að þessi tæknibylting er alls ekki áskorun sem tilheyrir framtíðinni og ber að takast á við í rólegheitum heldur brýnt úrlausnarefni nútímans sem allir verða að huga að. Störfin eru að breytast og hæfniþörfin þróast hratt um leið og önnur verkefni hverfa, en á sama tíma eykst þörfin á sérfræðingum sem kunna að vinna með tækninni, túlka niðurstöður hennar og viðhalda mannlegum þáttum í allri ákvarðanatöku. Enn fremur sýnir rannsóknin fram á áhrif gervigreindarinnar í mótun á stefnumörkun stjórnvalda, að þegar tæknin tekur yfir geta mannlegar forsendur og pólitísk stefnumótun og gildi hennar orðið undir, sem undirstrikar þetta mikilvægi jafnvægis milli tækninnar og mannlegrar ábyrgðar.

 

Með nýrri tækni fylgir áhætta af siðferðilegum toga
Gjarnan er velt upp spurningunni um hina siðferðilegu áhættu sem má segja að birtist í fjórum meginþáttum þegar gervigreind er brúkuð; hlutdrægni í gögnum, óljósri ábyrgð, skorti á gagnsæi og mögulegri fjarlægð sem skapast milli borgaranna og stjórnvalda sem hefur þá bein áhrif á sjálft lýðræðið. Í greininni „A Trust Framework for Government Use of Artificial Intelligence and Automated Decision Making“⁶ eftir Jakob Mokander, DPhil frá Oxford-háskóla, og Ralph Schroederer, prófessor við Oxford Internet Institute við Háskólann í Oxford, er fjallað um þá þætti þar sem lögð er áhersla á að dómgreind mannsins skuli ávallt vera síðasti áfangastaður ákvarðana. Þessi nýja tækni má aðstoða við ákvarðanatöku en aldrei stjórna né ráða þeim því þá hverfur gagnsæið, mannlegi þátturinn og um leið ákvarðanavald borgaranna og stjórnvalda. Í greininni bregða þeir upp greinilegum siðferðilegum mörkum hvað varðar notkun gervigreindar almennt.

Í anda norræns samstarfs hefur Sameyki ítrekað að innleiðing gervigreindar verði að byggjast á samráði, siðferðilegum grunni og regluramma sem tryggir réttindi starfsfólks og traust almennings. Það er eina leiðin til að tæknin verði notuð til að efla velferð en ekki til að grafa undan henni. Það er ljóst að gervigreind getur opnað fyrir mikla möguleika til að bæta opinbera þjónustu, gera ferla skilvirkari og nýta gögn á ábyrgan hátt. Án mannlegrar dómgreindar, siðferðilegrar umhugsunar og gagnsærrar stefnu getur tæknin þó orðið hættuleg og því má segja að framtíð vinnumarkaðarins velti m.a. á að við lærum að lifa með gervigreindinni á ábyrgan og upplýstan hátt og í samvinnu sem styrkir bæði fólk og samfélag, en ekki í skugga hennar.

---

Höfundur er samskiptastjóri Sameykis


Heimildir:
1. NSO ráðstefna: Gervigreindinni þarf að setja regluverk. (2023, 29. ágúst). [Frétt á vef Sameykis: Ann-Therese Enarsson]. https://www.sameyki.is/frettir/stok-frett/2023/08/29/NSO-radstefna-Gervigreindinni-tharf-ad-setja-regluverk

2. NTR ráðstefna: „Gervigreind, óvissa um óvissuna um það óþekkta“. (2025, 26. ágúst). [Frétt á vef Sameykis: Øystein Holm-Haagensen]. https://www.sameyki.is/frettir/stok-frett/2025/08/26/NTR-radstefna-Gervigreind-ovissa-um-ovissuna-um-thad-othekkta

3. Tveita, L. J. og Hustad, E. (2025). Benefits and challenges of artificial intelligence in public sector: A literature review. Procedia Computer Science, 256, 222–229. https://doi.org/10.1016/j.procs.2025.02.115

4. Zuiderwijk, A., Chen, Y.-C. og Salem, F. (2021). Implications of the use of artificial intelligence in public governance: A systematic literature review and a research agenda. Government Information Quarterly, 38(3), 101577. https://doi.org/10.1016/j.giq.2021.101577

5. Bright, J., Enock, F. E., Esnaashari, S., Francis, J., Hashem, Y. og Morgan, D. (2024). Generative AI is already widespread in the public sector. Digital Government: Research and Practice, 6(1), 2. https://doi.org/10.1145/3700140

6. Andrews, P., de Sousa, T., Haefele, B., Beard, M., Wigan, M., Palia, A., Reid, K., Narayan, S., Dumitru, M., Morrison, A., Mason, G. og Jacquet, A. (2022). A trust framework for government use of artificial intelligence and automated decision making. CoRR: A computing research repository. https://doi.org/10.48550/arXiv.2208.10087