бр. 021-01-789/2019-02 датум:   13. јануар 2020.године

Поступајући у оквиру законом прописане надлежности[1], Повереник за заштиту равноправности,  даје

МИШЉЕЊЕ

на Предлог стратегије развоја вештачке интелигенције у Републици Србији за период 2020- 2025. године 

Министарство просвете, науке и технолошког развоја- Сектор за технолошки развој, трансфер технологија и иновациони систем је дописом број 019-01-00594/2019-16/23 од 24. децембра 2019. године доставило Поверенику за заштиту равноправности Предлог стратегије развоја вештачке интелигенције у Републици Србији за период 2020- 2025. године (у даљем тексту: Предлог стратегије), ради давања мишљења.

Повереник најпре поздравља доношење Предлога стратегије, чијим ће се усвајањем створити предуслови за даљи развој вештачке интелигенције са једне, и осигурати да се она у Републици Србији примењује на безбедан начин уз поштовање стандарда у заштити људских права, са друге стране.

Поступајући по овом допису, дајемо мишљење на Предлог стратегије, са аспекта делокруга рада Повереника за заштиту равноправности.

Најпре указујемо да Устав Републике Србије^[2] забрањује сваку дискриминацију, непосредну или посредну, по било ком основу, а нарочито по основу расе, пола, националне припадности, друштвеног порекла, рођења, вероисповести политичког или другог уверења, имовног стања, културе, језика, старости и психичког или физичког инвалидитета. Чланом 48. Устава прописано је да мерама у образовању, култури и јавном обавештавању, Република Србија подстиче разумевање, уважавање и поштовање разлика које постоје због посебности етничког, културног, језичког или верског идентитета њених грађана.

Такође, уставна забрана дискриминације ближе је разрађена Законом о забрани дискриминације, који у члану 2. став 1. тачка 1. прописује да дискриминација и дискриминаторно поступање означавају свако неоправдано прављење разлике или неједнако поступање, односно пропуштање (искључивање, ограничавање или давање првенства), у односу на лица или групе као и на чланове њихових породица, или њима блиска лица, на отворен или прикривен начин, а који се заснива на раси, боји коже, прецима, држављанству, националној припадности или етничком пореклу, језику, верским или политичким убеђењима, полу, родном идентитету, сексуалној оријентацији, имовном стању, рођењу, генетским особеностима, здравственом стању, инвалидитету, брачном и породичном статусу, осуђиваности, старосном добу, изгледу, чланству у политичким, синдикалним и другим организацијама и другим стварним, односно претпостављеним личним својствима. Одредбама члана 4. овог закона прописано је начело једнакости тако што је регулисано да су сви једнаки и уживају једнак положај и једнаку правну заштиту, без обзира на лична својства, те да је свако дужан да поштује начело једнакости, односно забрану дискриминације, док су одредбама прописаним у члану 13. Закона утврђени тешки облици дискриминације, међу којима је и пропагирање дискриминације путем јавних гласила и ропство, трговина људима, апартхејд, геноцид, етничко чишћење и њихово пропагирање.

Повереник указује да је имајући у виду да је приступање Европској унији један од главних стратешких циљева Републике Србије, који је дефинисан и у Програму рада Владе у којем је између осталог наведено да процес приступања Европској унији представља најбољи могући оквир за свеукупне реформе, модернизацију и развој Србије, приликом креирања свих стратешких докумената неопходно узети у обзир и одредбе садржане у документима Европске уније.

Такође, будући да је вештачка интелигенција једна од области која има највећи потенцијал да допринесе економском расту, дигитализацији и образовању који су представљени као кључни приоритети Владе Републике Србије, што је у тексту Предлога стратегије истакнуто, усвајањем овог документа осим стварања предуслова за развој вештачке интелигенције, неопходно је узети у обзир и све ризике које развој вештачке интелигенције са собом носи, и приликом израде Акционог плана креирати и оне активности којима ће се спречити да се из података наследе пристрасност и дискриминаторни фактори, те у њихову реализацију укључити све релевантне актере који својим знањем и искуством могу да допринесу смањењу наведених ризика.

Сагласно наведеном Повереник предлаже допуну тачке 3. Предлога стратегије, Веза са постојећим политикама и правним оквиром, и то у делу у којем је извршено набрајање закона који уређују области повезане са овом стратегијом, навођењем и Закона о забрани дискриминације („Службени гласник РС”, број  22/09) којим се уређује општа забрана дискриминације, облици и случајеви дискриминације, као и поступци заштите од дискриминације и установљава Повереник за заштиту равноправности, као самосталан државни орган, независан у обављању послова утврђених овим законом, чији је задатак спрeчaвaње свих oблика и случajeва дискриминaциje, зaштитa рaвнoпрaвнoсти физичких и прaвних лицa у свим oблaстимa друштвeних oднoсa, нaдзoр нaд примeнoм прoписa o зaбрaни дискриминaциje, кao и унaпрeђивaњe oствaривaњa и зaштитe рaвнoпрaвнoсти.

Такође, у оквиру тачке 4.3.2.1. Подаци јавног сектора и тачке 4.3.2.2. Подаци приватног сектора, неопходно је посветити већу пажњу спречавању злоупотреба у процесу отварања података институција и уступања података приватног сектора, односно онемогућавању коришћења података о личности за било коју врсту дискриминације, односно злоупотребе, која између осталог може довести и до ширења лажних вести, говора мржње, изражавања дискриминаторних ставова и слично. Наведени предлог упућујемо и мери 4.3. Развој механизама за поновну употребу података приватног сектора од значаја за развој вештачке интелигенције, прописаној у оквиру тачке 6.4.3. Предлога стратегије.

Повереник указује да је у оквиру тачке 4.4. Предлога стратегије, Појединац и друштво, у делу у којем су предвиђени различити изазови који се могу очекивати са аспекта друштва и појединца, осим превенције дискриминације засноване на машинском учењу, потребно предвидети и механизме за спречавање израде алгоритама који ће између осталог довести до неједнаког третмана на тржишту рада, што је најчешћи случај у пракси, као што је примера ради компанија Амазон користила програм на бази вештачке интелигенције који није за позиције програмера и остале позиције у ИТ одељењу није уопште узимао у обзир особе женског пола, али и свих облика дискриминације и у другим областима.

У тачки 6.1.4. Предлога стратегије, Мери 1.4. Развој стручног оспособљавања кроз кратке програме студија и неформално образовање, Повереник предлаже увођење посебних обука о забрани дискриминације намењених стручњацима у ИТ сектору, као и студентима и ученицима који кроз образовање стичу знања у ИТ области. Акционим планом који ће предлагач ове стратегије израдити потребно је предвидети да би наведене обуке, као и близу 800 других обука које континуирано спроводи за стручњаке из различитих области, реализовао Повереник за заштиту равноправности.

Мером 3.4. Континуирана анализа и праћење стања у области вештачке интелигенције, предвиђено је успостављање континуиране анализе и праћења стања у области вештачке интелигенције у циљу стварања јасне слике о броју компанија, њиховим ресурсима и начином на који се баве вештачком интелигенцијом. Повереник предлаже да се акционим планом предвиди јасна улога овог органа у активностима које се односе на праћење стања у овој области са становишта Закона о забрани дискриминације.

Тачком 6.4.1. Предлога стратегије, мером 4.1. Успостављање Савета за вештачку интелигенцију, предвиђено је образовање Савета за вештачку интелигенцију, као привременом радног тела владе,  на период од 5 година. Најпре указујемо да је чланом 33. ставом 2. Закона о Влади[3] утврђено да Влада може да образује повремена радна тела, ради разматрања појединих питања из своје надлежности и давања предлога, мишљења и стручних образложења, као и да се она образују одлуком којом се утврђују и њихов задатак и састав. Сагласно наведеном предлажемо измену мере 4.1. у складу са овом одредбом Закона.

Такође, приликом креирања активности које ће допринети реализацији Посебног циља 5. Етична и безбедна примена вештачке интелигенције, у Акционом плану потребно је предвидети и укључивање Повереника за заштиту равноправности у реализацију активности које ће се односити на предупређивање бројних етичких изазова у развоју вештачке интелигенције, посебно имајући у виду да је у оквиру овог циља између осталог предвиђено да се етичност обезбеђује кроз заштиту од дискриминације приликом примене машинског учења и успостављање одговорног развоја вештачке интелигенције у складу са интернационалним етичким принципима. Наведени предлог упућујемо и тачки 6.5.3. мери 5.3. Обезбеђивање одговорног развоја вештачке интелигенције у складу са међународним етичким стандардима.

Имајући у виду да је тачком 6.5.2. мером 5.2. Заштита од дискриминације код примене вештачке интелигенције, између осталог утврђено да је потребно континуираном етичном применом вештачке интелигенције успоставити превенцију социјалне искључености рањивих друштвених група, маргинализацију и дискриминацију припадника одређених друштвених група, Повереник указује на обавезу поштовања општег режима забране дискриминације који је утврђен Законом о забрани дискриминације. Приликом дефинисања техничке, односно не-техничке методе у тачки 4. којом је предвиђено да је потребно регулисати забрану дискриминације у случајевима када до дискриминације долази услед аутоматизованог доношења одлука, неопходно је узети у обзир да су општа забрана дискриминације, облици и случајеви дискриминације, као и поступци заштите од дискриминације, већ регулисани Законом о забрани дискриминације. Наиме, сагласно одредбама овог закона забрана дискриминације осим за физичка лица које борави на територији Републике Србије или на територији под њеном јуристидикцијом и органе јавне власти, односи се и на свако правно лице које је регистровано, односно обавља делатност на њеној територији, те се самим тим одредбе овог закона односе на све који доносе аутоматизоване одлуке помоћу алгоритама чији су власници. Имајући у виду наведено, јасно је да се одредбе овог закона односе и на случајеве дискриминације у области вештачке интелигенције, те није потребно посебно регулисати забрану дискриминације у случајевима када до ње долази услед аутоматизованог доношења одлука, али је кроз евентуалне измене и допуне Закона о забрани дискриминације могуће извршити њено прецизирање.

[1] Закон о забрани дискриминације („Службени гласник РС”, број  22/09), члан 1. и члан 33. став 1. тачка 7

[2] Устав Републике Србије („Службени гласник РС”, број 98/06), члан 21.

[3] Закон о влади („Сл. гласник РС“, бр. 55/2005, 71/2005 – испр., 101/2007, 65/2008, 16/2011, 68/2012 – одлука УС, 72/2012, 7/2014 – одлука УС, 44/2014 и 30/2018 – др. закон)

ПOВEРEНИЦA ЗA ЗAШTИTУ РAВНOПРAВНOСTИ

Брaнкицa Jaнкoвић

Мишљење на Предлог стратегије развоја вештачке интелигенције у Републици Србији за период 2020- 2025. године