Den digitala tekniken förändrar våra liv i en rasande fart. Vissa tekniska lösningar har en negativ påverkan på hur vi arbetar, konsumerar och kontaktar varandra.
Ofta är de produkter och verktyg vi använder baserade på sofistikerade och komplexa system som de flesta av oss inte förstår. Den utbredda användningen av system som bygger på svårbegriplig teknik medför påtagliga risker för samhället. Och risken är att vi blir beroende av något man brukar kalla ”svarta lådor”, nämligen algoritmiska system.
De svarta lådorna kan ibland bara filtrera komplex information åt oss, men de kan också ge en snedvriden bild av verkligheten, särskilt när det gäller information, så att de nyheter vi får i sociala medier eller nyhetsflöden är osakliga och subjektiva. Utsatta grupper, till exempel barn, kan exponeras för skadligt innehåll. Konsumenter kan erbjudas förfalskade varor på nätet.
Brist på digitala färdigheter och digital kompetens, avsaknad av ordentliga ramar för riskhantering och otillräckliga verktyg för att flagga felaktig information gör riskerna ännu mer komplexa.
Digitala plattformar, särskilt de riktigt stora med miljontals användare, kan inte längre hävda att de endast är mellanhänder för plattformarnas innehåll. I själva verket är det de svarta lådor som de håller på att utveckla som styr vilket innehåll som användarna får tillgång till.
Det är dags att öppna dessa svarta lådor och avslöja innehållet. Det är dags för de digitala plattformarna att ta sitt sociala ansvar och agera därefter.
Syftet med den nya rättsakten om digitala tjänster är att skapa transparens kring innehållet i sådana svarta lådor, och det europeiska centrumet för algoritmers transparens (ECAT) som nu inrättas är ett viktigt steg på vägen.
Vid centrumet kommer det att finnas högt kvalificerade specialister inom datavetenskap, artificiell intelligens och algoritmiska system, som ska bidra till att genomföra den europeiska ambitionen att det som är olagligt offline också ska vara olagligt online, och att stora plattformar och sökmotorer ska ta sitt ansvar gentemot samhället i stort.
De kommer att göra detta genom att undersöka hur algoritmiska system fungerar, vilka risker de medför och hur de kan utvärderas. De kommer att omsätta denna kunskap i handling för att stödja kommissionens roll som tillsynsmyndighet. De kommer att hjälpa till att öppna de svarta lådorna.
Centrumet för algoritmers transparens har dessutom ambitionen att bli en dynamisk knutpunkt där forskare och andra specialister kan mötas, och bidra till att belysa systemen bakom de populäraste digitala tjänsterna.
Invigningen, som ägde rum i Sevilla den 18 april 2023, var startskottet för detta breda samarbete.
För att skydda barn inför vi också flera nya regler och verktyg, och vi börjar med olika initiativ för att öka medvetenheten om desinformation och andra hot på nätet, bland annat genom handlingsplanen för digital utbildning. Centrumet är också ett led i detta arbete.
EU:s strategi bygger på vår övertygelse att tekniska framsteg aldrig får ske på bekostnad av våra demokratiska värden. Den digitala tidsålderns möjligheter måste bli tillgängliga och begripliga för alla.
Med den här visionen och de medel vi utvecklar har EU utmärkta förutsättningar för att bli en global ledare i den digitala tidsåldern och skapa en mer motståndskraftig och inkluderande digital framtid för alla.
Mariya Gabriel
EU-kommissionär för innovation, forskning, kultur, utbildning och ungdomsfrågor
