GREIN
Gamithra Marga, Atli Þór Jóhannsson, Aþena Ýr Ingimundardóttir
November 20, 2024
Aðgerðaáætlun um gervigreind 2024–2026 markar metnaðarfullt skref þar sem Ísland stefnir að því að verða leiðandi í ábyrgi og mannmiðaðri nýtingu gervigreindar. Í áætluninni er lögð rík áhersla á siðferðileg sjónarmið, gegnsæi og jafnrétti, og sýnir hún raunverulegan vilja til þess að byggja upp tæknilausnir sem þjóna samfélaginu í heild sinni sem Samtök um mannvæna tækni styðja og taka heilshugar undir. Með tillögum um umbætur í menntakerfinu, aukinni nýtingu gervigreindar í opinberri þjónustu og framfarir í heilbrigðisþjónustu leggur áætlunin traustan grunn að því að samþætta gervigreind með ábyrgum og skilvirkum hætti í íslenskt samfélag.
Áætlunin gefur einnig til kynna skilning á þeim djúpstæðu samfélagslegu áhrifum sem gervigreind getur haft og leggur áherslu á nauðsyn samvinnu á milli ólíkra geira samfélagsins til að tryggja að innleiðingin fari fram með ábyrgum hætti. Þrátt fyrir þetta er ljóst að áætlunin er í mörgu tilliti ófullkomin; það vantar bæði nægilegan skýrleika og nákvæmar framkvæmdaáætlanir á lykilsviðum. Sumt af þessu krefst tafarlausra úrbóta, meðan önnur atriði ættu að fá ítarlega endurskoðun og betrumbætur í næstu útgáfu áætlunarinnar.
Á blaðsíðu 8 í aðgerðaáætluninni er gervigreind skilgreind sem „leið til að fá vélar til að vinna mannanna verk“ og nánar útskýrt: „Ef mannleg greind er skilgreind sem hæfileikinn til að öðlast og nota þekkingu og hæfni, þá er gervigreind sá hæfileiki tölvukerfis að öðlast og nota þekkingu og hæfni. Þetta á sérstaklega við um verkefni sem aðeins maðurinn gat sinnt áður en gervigreind kom til sögunnar.“
Þessi skilgreining er þó bæði of opin og of yfirborðskennd. Því er óljóst hvaða tækni er verið að tala um og þar að leiðandi hvernig ætti að nálgast reglusetningu hennar. Gervigreindinni er lýst sem almennu tæki til að bæta samfélagið, með áherslu á getu þess til að „styðja við mannleg verkefni“ eða „efla ákvarðanatöku.“ Hins vegar er hvergi greint á milli mismunandi tegunda gervigreindar og þeirra ólíku áskorana sem fylgja hverri tegund.
Til dæmis er óljóst hvort áætlunin einblínir á sérhæfð gervigreindarlíkön (e. narrow AI), svo sem gagnalíkön til gagnaúrvinnslu, eða hvort hún nær yfir víðtækari og sjálfstæðari kerfi, eins og þau sem taka ákvarðanir án beins mannlegra afskipta eða almenna gervigreind (e. artificial general intelligence). Hvergi er tekið fram hvort áætlunin taki til notkunarsviða eins og stórra málíkana (e. LLMs), myndgreiningarkerfa, forspárlíkana í stjórnsýslu eða sjálfstýrðra kerfa, eins og sjálfkeyrandi bíla eða hernaðardróna.
Þessi óljósa og of víðtæka skilgreining á „vélum sem geta unnið verk mannanna“ gerir umfang áætlunarinnar óljóst og gæti leitt til ómarkvissrar reglusetningar. Það skapar hættu á að tæknilausnir með sem skapa minni áhættu (eins og ruslpóstsíur, læknisfræðileg greiningartól og sjálfvirkir framleiðsluferlar) verði ofstjórnað, á meðan kerfi sem geta valdið verulegum samfélagslegum skaða fái ekki fullnægjandi eftirlit.
Það er nauðsynlegt að líta á gervigreind sem framlengingu á mannlegri getu og að setja hana í samhengi við notkun hennar – hvort sem hún er nýtt til að efla félagslega nýsköpun, þróa hernaðartækni, ýta undir upplýsingaóreiðu eða auðga listsköpun. Reglusetning þarf að byggja á slíkum aðgreiningum til að tryggja jafnvægi milli nýsköpunar, ábyrgðar og verndunar almannahagsmuna. Samtök um mannvæna tækni geta ekki tekið undir áætlun þar sem sjálfráð og ósjálfráð gervigreindarlíkön og sérhæfð og almenn gervigreindarlíkön séu sett undir sama hatt eins og um sömu tækni væri að ræða, þó þær byggi vissulega á svipaðri grunnhugmynd um að líkja eftir mannlegri hæfni.
Við leggjum til að inn í aðgerðaáætlunina verði strax bætt ákvæði sem forgangsraðar brýnni fræðslu um gervigreind, þar sem án grundvallarskilnings á þessum kerfum er ómögulegt að setja áhrifaríkar reglur fyrir þau. Mikilvægt er að taka fram að hér erum við ekki að leggja til almenna þjálfun starfsmanna á vinnumarkaði í að nýta sér stór mállíkön, heldur að bæta skilning almennings og stjórnvalda á hvað gervigreind sé. Auk þess að efla gervigreindarlæsi stjórnvalda til að tryggja áhrifaríka og sanngjarna reglusetningu er nauðsynlegt að almenningur öðlist grunnskilning á helstu hugtökum í gervigreind, svo sem milli stórra mállíkana og sköpunarlíkana, milli vélnáms (e. machine learning) og djúpnáms (e. deep learning), sérhæfðra gervigreindarkerfa (e. narrow AI) og almennra (e. general AI), sem og milli kerfa sem taka sjálfstæðar ákvarðanir (e. agentic models) og þeirra sem gera það ekki (e. non-agentic models). Þó þessi hugtök kunni í fyrstu að virðast tæknileg eða fjarlæg, mynda þau nauðsynlegan grunn fyrir uppbyggilegar og upplýstar umræður um hvernig við viljum reglusetja tæknina sem á að vinna verk mannanna.
Í þeirri viðleitni að staðsetja Ísland sem leiðandi í gervigreindarsiðferði skortir í áætluninni ákvæði um hvernig tryggja megi að hönnuðir gervigreindarkerfa virði okkar samfélagsgildi. Við erum að ganga inn í tímabil þar sem hönnuðir og eigendur gervigreindarlíkana munu hafa fordæmalaus áhrif á samfélagsleg gildi þar sem tæknin sem þeir þróa mun í auknum mæli taka eða móta ákvarðanir sem hafa bein áhrif á líf borgara. Án skýrra og lýðræðislega samþykktra ferla til að innleiða þessi gildi í kerfin er hætt við að við framseljum mikilvægar siðferðislegar ákvarðanir til fámenns hóps hönnuða og stórfyrirtækja, flest þeirra staðsett utan Íslands.
Núverandi áætlun setur fram almennar siðferðislegar leiðbeiningar, en þörf er á lagalega bindandi og framkvæmanlegum ramma eða áætlun um hvernig megi byggja slíkan ramma sem tryggir að gervigreindarhönnuðir taki fullt tillit til þessara gilda í hönnun, innleiðingu og rekstri kerfa sinna. Þetta er alvarleg brotalöm. Án strangs eftirlits og skýrrar stjórnarstefnu gæti Ísland staðið frammi fyrir verulegum áskorunum við að viðhalda trausti almennings og vernda lýðræðislega innviði samfélagsins. Við erum á tímamótum þar sem nauðsynlegt gæti reynst að hægja á þróun og innleiðingu tæknilausna til að leysa þau siðferðislegu vandamál sem felast í því að skapa tæknikerfi sem í raun og veru endurspegla lýðræðisleg og siðferðileg gildi samfélagsins.
Við leggjum til að núverandi Evrópusambandslöggjöf um gervigreind, AI Act, verði innleidd hér á landi í heild sinni og að Ísland taki skrefið lengra með því að þróa skýrar varúðarráðstafanir og viðbragðsáætlanir. Það er nauðsynlegt að tryggja að hraðinn við innleiðingu sjálfstæðra ákvörðunarkerfa leiði hvorki til hlutdrægni né vantrausts – og valdi ekki samfélagslegum skaða.
Aðgerðaáætlunin setur fram framtíðarsýn um skilvirkari þjónustu þar sem sjálfvirkni einfaldar ferla, sjálfvirknivæðir ákvarðanatöku og eykur hagkvæmni. Hins vegar skortir áætlunina skýrar og nákvæmar útfærslur. Verða slík kerfi þróuð innanlands, eða mun Ísland leitast eftir samstarfi við erlend tæknifyrirtæki? Enn mikilvægara er að skýrt sé hver mun hafa eftirlit með siðferðislegum stöðlum þessara kerfa til að tryggja að þau leiði hvorki til hlutdrægni né óhagkvæmni í opinberri þjónustu sem og í atvinnulífinu.
Það er nauðsynlegt að benda á að flestar kerfislægar skekkjur og villur geta orðið sýnilegar seint – oft eftir að umtalsvert tjón hefur þegar átt sér stað. Sem dæmi má nefna óregluvædd samfélagsmiðlaforrit sem voru upphaflega hönnuð til að „tengja fólk saman“ en hafa skapað bergmálshelli sem grafa undan lýðræðislegum gildum. Þó mikilvægt sé að bæta opinbera ferla með tækninýjungum, er jafnframt nauðsynlegt að viðurkenna þann þróunarferil sem liggur að baki núverandi laga- og stjórnsýslukerfum. Opinber stjórnsýsla og löggjöf hafa mótast í gegnum áratugi til að verða sveigjanleg og þaulreynd, með sífellt bættum vörnum gegn misnotkun. Að fórna þessari þróun fyrir hraðvirka en óprófaða ferla gæti haft alvarlegar afleiðingar og myndað glufur sem ekki eru augljósar við fyrstu sýn.
Þrátt fyrir að áætlunin leggi áherslu á siðferði, gagnsæi og persónuvernd, skortir hana skýrar aðferðir til að tryggja að þessi gildi séu raunverulega virt í framkvæmd. Áætlunin kallar eftir „ábyrgri notkun gervigreindar“ en útskýrir ekki hvað það felur nákvæmlega í sér né hvernig borgarar geti kært eða mótmælt ákvörðunum sem teknar eru af gervigreindarkerfum í opinberri stjórnsýslu. Þar sem þessi kerfi munu í vaxandi mæli móta aðgang að opinberum gæðum og þjónustu er brýnt að koma á traustum eftirlits- og ábyrgðarkerfum. Slík kerfi verða að gera borgurum kleift að kalla eftir útskýringum, krefjast leiðréttinga og tryggja að réttindi þeirra séu varin. Við næstu endurskoðun áætlunarinnar er nauðsynlegt að bæta úr þessum óskýrleika.
Í heild sinni vekur skortur á skýrleika og framkvæmdaráætlun í þessu skjali brýnar áhyggjur: Ísland er í hættu á að hrinda gervigreindarverkefnum af stað án skýrrar vegferðar til að stýra og tryggja ábyrga notkun tækninnar. Þrátt fyrir að áætlunin leitist við að gera Ísland að leiðandi afli í siðferðislegri nýtingu gervigreindar sem Samtök um mannvæna tækni taka heilshugar undir, skortir hana svör við of mörgum lykilspurningum. Án skýrrar skilgreiningar um hvaða tækni er fjallað um, án áþreifanlegra leiða til að flétta íslensk samfélagsgildi inn í kerfin og án traustra ferla til að tryggja ábyrgð gagnvart almenningi, er hætt við að áætlunin bregðist eigin markmiðum.
Þótt markmið áætlunarinnar séu lofsverð þarf Ísland að staldra við og endurhugsa nálgun sína. Árangursrík stefna um gervigreind krefst meira en háleitra hugmynda; hún þarf að byggjast á ströngu skipulagi, gegnsæjum eftirlitskerfum og lýðræðislegum ferlum sem tryggja að þau verkfæri sem innleidd eru, virði og endurspegli gildi samfélagsins og tryggi Íslendingum mannvæna framtíð.
21. nóvember 2024