EU:s plan för hur man ska kunna använda AI-system inom unionen på ett säkert och legalt sätt, AI Act, tog förra veckan ett stort steg framåt, då Europeiska rådet lade fram sina synpunkter och förslag.
EU-kommissionen kom som bekant med ett utkast till förordning i april förra våren.
Den här rättsakten kommer att få stor påverkan inte bara på hur AI kan användas i unionen utan också på de bolag som utvecklar lösningar, ofta mindre, innovativa bolag. Därför var detta också ett av de ämnen som diskuterades grundligt när Norstedts juridik anordnade sin It-rättsdag i veckan.
Ett budskap är tydligt: Jurister måste inom en snar framtid komma in mycket tidigare i produktutvecklingen av ny mjukvara inom AI-området. Detta för att säkerställa att affärsmodellen håller, och då talar vi inte om det ekonomiska perspektivet utan om det legala, nu när det det kommer allt tuffare krav från myndigheterna om hur data får hanteras.
Det här innebär vidare att jurister och personer med teknisk kompetens, som utvecklare, måste börja prata samma språk och arbeta tillsammans. Att döma av en del röster från konferensen finns det mycket att jobba på vad gäller samarbetet mellan de här yrkesgrupperna, rent generellt. Jurister måste förstå vissa grundläggande tekniska frågor, och vice versa.
Dödfödda projekt
När Computer Sweden talar med it-juristen Daniel Westman säger han att detta måste ske så tidigt som möjligt i produktutvecklingen, så att man vet vilka projekt som är värda att satsa på, vilka som är enkla och vilka som är komplicerade ur det rättsliga perspektivet.
– Den data som används inom AI-utveckling är ofta reglerad på olika sätt, när det gäller hur den får användas. Framför allt är det dataskyddslagstiftningen som är utmanande.
– Många gånger kan företag ge sig in i projekt som är dödfödda redan från början eftersom det inte finns något stöd för att hantera data, enligt GDPR till exempel. Det är naturligtvis bra att få reda på det så tidigt som möjligt.
Daniel Westman säger att detta kommer att bli ännu viktigare med EU:s nya AI-förordning. Arbetet med denna löper enligt plan.
– Det handlar mycket om att man ska kunna redogöra för vad man har haft för data och att man har en kvalitetssäkringsprocess från början. Det bygger på att man har en livscykelanalys så att man kan dokumentera hur man arbetat med de här frågorna, annars riskerar man att bryta mot lagstiftningen.
Högrisktillämpningar i fokus
Ett steg som togs förra veckan var ju Europeiska rådets förslag – vad tycker då Daniel Westman var viktigast där?
– De pekar på en del brister, som till exempel att det måste preciseras vad som är ett AI-system, att det fokuseras mer på maskininlärningssystem och att man inte försöker täcka allt som är beslutsfattande system.
– Sedan försöker de hantera det här med vad som ska göras med de generella AI-systemen. Utgångspunkten i den här förordningen är högrisktillämpningarna, och det är det som man särskilt vill reglera, alltså frågor som exempelvis hur AI får användas vid rekrytering eller i samband med beslutsfattande i domstolar. Men hur gör vi med de generella systemen – det är också en fråga som måste hanteras.
Utmaning för små företag
Om vi går tillbaka till mjukvaruutvecklingen och diskussionen att jurister måste komma in tidigare i den processen. En stor del av den utvecklingen sker i små startups – hur ska de kunna ha resurser att plocka in jurister?
– Det är en stor utmaning. Det är ju en sak med de här regleringarna i ett stort bolag, en annan sak om det är ett startup. Samtidigt görs ju de mest komplexa sakerna av startups och av små, innovativa bolag.
Daniel Westman säger att många riskapitalinvesteringar i startups numera stoppas baserat på rättsliga problem och att det har blivit betydligt vanligare. För 10–15 år sedan var det sällsynt, då betraktades de här frågorna som något man kunde ta senare, men nu kan hela affärsmodeller kastas omkull på grund av juridiken.
– Jag har inget jättebra svar mer än att det här är en kärnfråga som måste hanteras om man är verksam i den här branschen. Du måste se till att din grundläggande affärsmodell håller både ekonomiskt och rättsligt.
Vägledning från experter
Daniel Westman uppmanar också tillsynsmyndigheter och branschorganisationer att komma med vägledningar och råd.
Under It-rättsdagen var även AI Sweden på plats och drog ett antal exempel på vikten av att arbeta tillsammans i innovationsprojekt, i vilka representanter från olika sektorer och personer med olika kompetenser ingår, och där de samlas kring en gemensam utmaning kopplad till AI.
De talade också om ett projekt som AI Sweden kör tillsammans med Integritetsskyddsmyndigheten för att ge stöd och vägledning kring frågor som rör dataskydd och AI. Här ska de identifiera vilka rättsliga frågeställningar som är återkommande och undersöka hur stöd bäst kan ges till relevanta aktörer.
Nu är alltså EU:s AI-förordning under förhandling i EU-maskineriet och att döma av expertisen som uttalade sig under It-rättsdagen är det tveksamt om det hela kommer att bli klart under 2023, men förr eller senare kommer det här att rullas ut i medlemsländerna – och då gäller det att AI-utvecklarna är redo.
