Minnisblað Samtaka um mannvæna tækni um aðgerðaráætlun stjórnvalda um gervigreind 2025-2027

Aðgerðaáætlun um gervigreind 2025-2027 er góður upphafspunktur til að ná utan um málefni gervigreindar á Íslandi. Skiptingin í fimm grunnstoðir sýnir heildarsýn og skýra forgangsröðun með áherslu á siðferðileg sjónarmið.

Í minnisblaði þessu verður að mestu leyti fjallað um þau sjónarmið sem Samtökum um mannvæna tækni (SUMT) finnst brýnt að horft verði til í framhaldi þeirrar mikilvægu vinnu sem ráðuneytið hefur hafið í málaflokknum. Að mati samtakana er þörf á grundvallarumfjöllun um valdatengsl, ábyrgðarkerfi, sjálfbærni og lýðræðislegt eftirlit með þróun og innleiðingu gervigreindarlausna. Eftirfarandi athugasemdir og spurningar beinast að þessum þáttum.

Umboð og sjálfræði manneskjunar

Ef við skrifum ekki umboð og sjálfræði manneskjunnar inn í regluverkið er hætta á að tæknin muni ekki þjóna okkur mannfólkinu heldur við tækninni - eða eigendum hennar. Áætlunin talar um "ábyrga þróun" en skilgreinir ekki hverjir ákveða hvað sé ábyrgt eða hvernig borgararéttindi verði vernduð. Raunverulegt val um þátttöku og stjórn á eigin gögnum er forsenda þess að gervigreind styrki frekar en grafi undan sjálfræði okkar.

Grundvallarspurningar:

• Verða gervigreindarlausnir hannaðar til að opna á fleiri valkosti fyrir fólk eða til að stýra fólki í átt að fyrirfram ákveðnum niðurstöðum?
• Mun fólk geta valið að taka ekki þátt í gervigreindarþjónustu og samt fá gæðaþjónustu?
• Verða úttektir á hlutdrægni og áhrifum gervigreindarkerfa skylda áður en þau eru tekin í opinbera notkun?
• Hvernig varðveitum við merkingu og tilgang fólks þegar gervigreindin verður öflugri?

Lýðræðislegt eftirlit og gagnsæi

Án skýrra lýðræðislegra ábyrgðarkerfa er hætta á að efnahagslegir hagsmunir muni ráða för þegar þeir rekast á lýðræðisleg gildi. Aðgerðaráætlunin gefur engin svör um hverjir taka ákvarðanir þegar slík átök koma upp eða hvernig lýðræðislegt eftirlit verður tryggt. Hraði tæknibreytinga má ekki verða afsökun fyrir óábyrgri innleiðingu eða sniðgöngu lýðræðislegrar ákvarðanatöku.

Grundvallarspurningar:

• Hvað gerist þegar samkeppnishæfni og lýðræðisleg gildi rekast á? Hver hefur lokaorðið?
• Verða ákvarðanir gervigreindarkerfa gagnsæjar og geta borgarar áfrýjað þeim? Hvernig verður það tryggt?
• Hvernig viðhöldum við lýðræðislegri stjórn þegar tækniþróun tekur fram úr lýðræðislegri umræðu og þekkingu?
• Hver hefur vald til að stöðva eða breyta gervigreindarkerfum ef þau hafa neikvæð áhrif á velferð fólks og lýðræði?
• Hvernig tryggjum við aðkomu fjölbreyttra radda að ákvarðanatöku stjórnvalda í málefnum gervigreindar, ekki bara tæknisérfræðinga og fyrirtækja?

Stafrænt fullveldi og sjálfstæði

Ríki og sveitarfélög eru orðin of háð bandarískum tæknifyrirtækjum og gefur þeim óhóflegt vald yfir íslenskri stjórnsýslu og gögnum. Þetta er ekki bara tæknilegt vandamál heldur lýðræðislegt - einkafyrirtæki ættu ekki að ráða yfir grundvallarinnviðum samfélagssins okkar. Opinn hugbúnaður, uppbygging stafrænna innviða í samstarfi við nágrannaþjóðir og uppbygging innlendrar sérfræðiþekkingar er nauðsynleg til að endurheimta stafrænt fullveldi.

Grundvallarspurningar:

• Hverjir ráða raunverulega íslenskum tækniinnviðum og gögnum?
• Microsoft vs. opinn hugbúnaður. Hvor leiðin tryggir gagnsæi og sjálfræði?
• Hvaða áhrif hefur CLOUD Act löggjöfin í Bandaríkjunum á öryggi íslenskra gagna?
• Hvernig byggjum við upp innlenda sérþekkingu svo að opinberir aðilar séu ekki bundnir við erlenda ráðgjafa?

Mannvæn hönnun gervigreindarkerfa

Gervigreindarkerfi sem hönnuð eru fyrst og fremst fyrir skilvirkni og arðsemi munu móta samfélagið í þá átt. Mikilvægt er að hið opinbera skapi mótvægi og stuðli að mannvænni þróun gervigreindarkerfa. Í menntun þarf að tryggja að börn læri að hugsa gagnrýnið um gervigreind, ekki bara að hlýða henni. Í heilbrigðiskerfi og stjórnsýslu þarf að tryggja að ákvarðanir sem eru teknar sé hægt að rekja, áfrýja, og að einhver manneskja beri ábyrgð á þeim. Þegar stjórnvöld innleiða gervigreind til að aðstoða við ákvarðanatöku þarf að skilgreina hvaða tegundir ákvarðana mega aldrei taka með gervigreind vegna kröfu um útskýranlegar ákvarðanir og mannlega ábyrgð.

Grundvallarspurningar:

• Verður þróun menntatækni til að efla sameiginlega greind eða verður áherslan aðeins  á einstaklingsbundna frammistöðu?
• Ætlum við að kenna nemendum að hugsa gagnrýnið um gervigreindarkerfi, eða þjálfa þá aðeins í að fylgja algríminu í blindni?
• Hvernig mælum við árangur af innleiðingu gervigreindar í opinber kerfi - ekki bara skilvirkni heldur áhrif á velsæld, lýðræði og mannréttindi?
• Hver ber ábyrgð þegar ákvörðun gervigreindar eða ákvörðun tekin með aðstoð gervigreindar, brýtur á réttindum fólks í opinberum kerfum (t.d. heilbrigðiskerfi eða velferðarþjónustu)?

Umhverfis- og sjálfbærniáhersla

Gervigreind og gagnaver nota gríðarlega orku og vatn. Uppbygging gagnavera má ekki vera knúin áfram af sívaxandi þörf gervigreindarþróunar fyrir reikniafl. Reiknigeta til að knýja áfram nýsköpun einungis nýsköpunarinnar vegna - eða til að þjóna gróðahagsmunum tæknifyrirtækja - er óábyrg notkun íslenskra náttúruauðlinda. Spurningin "reiknigeta fyrir hvað?" er lykilatriði. Án skýrrar stefnu gætum við endað með umhverfisskuld sem samfélagið þarf að greiða fyrir einkareknar tækniframfarir.

Grundvallarspurningar:

• Reiknigeta fyrir hvað?
• Hver ber ábyrgð á umhverfisáhrifum - fyrirtækin sem hagnast eða samfélagið sem veitir orkuna?
• Verða teknar upp gagnsæisreglur um orkunotkun og kolefnisspor gervigreindarkerfa?
• Hvernig komum við í veg fyrir að Ísland verði „gagnaversnýlenda” fyrir erlend fyrirtæki?
• Hvernig tengist uppbygging gervigreindarinnviða orku- og vatnsstefnu landsins?
• Hvernig verður umhverfiskostnaður reiknaður inn í arðsemismat gervigreindarinnviða?

Lokaorð

Í lokin viljum við koma einni lykiláherslu á framfæri ásamt beiðni um samstarf.

Við lýsum yfir sérstakri ánægju með að Fjölmiðlanefnd sé falið í 5. kafla áætluninnar um áhrif gervigreindar á lýðræðislega umræðu og ákvarðanatöku, að greina áhrif gervigreindar á lýðræðismenningu, miðlun upplýsinga, skoðanamyndun og kosningahegðun.

Lykiláhersla: Við sem samfélag þurfum að skilja hvort og hvernig ungt fólk er að missa trúna á lýðræðinu til þess að við getum varið það. Með aukinni yfirsýn yfir hvað ungt fólk er að læra í menntastofnunum landsins og á samfélagsmiðlum getum við eflt skilning okkar á þróun lýðræðislegra gilda.

Í því samhengi leggjum við til að sérstaklega verði rannsakað:

• Menntun um lýðræði: Hvað lærir ungt fólk í skólum landsins um lýðræði, stafrænt læsi og gagnrýna hugsun?
• Miðlaneysla ungs fólks: Hvaðan fær ungt fólk stjórnmálatengt efni, hvaða áhrifavaldar eru ríkjandi, og hvaða skilaboð eru að ná mesta áhorfi?

Beiðni um samstarf:Við viljum lýsa yfir áhuga okkar á að vera samstarfsaðilar í nýrri gervigreindarmiðstöð sem fjallað er um í 6. kafla gervigreindaráætluninnar.

Samtök um mannvæna tækni sinna fræðslu og rannsóknum sem leggja áherslu á að hönnun, þróun og notkun tækni fylgi siðferðilegum viðmiðum sem setja velferð notenda, náttúru og samfélags í heild í forgang fram yfir einkahagsmuni og skammtímaávinning. Við teljum þekkingu okkar og sjónarmið eiga skýrt erindi í Miðstöð gervigreindar og máltækni á Íslandi.