”Håll koll på er AI – annars riskerar ni företagets anseende”

Era nya digitala tillämpningar som baseras på din och andras information blir en mer och mer kritisk del av ert företags ansikte utåt. Är du säker att de återspeglar de värderingar som ni står för?

När vi rekryterar nya medarbetare lägger vi stor tonvikt på att de ska förstå och respektera de värderingar som företaget representerar. Vi kontrollerar att de har den kunskap som krävs och allt oftare att de har rent mjöl i påsen. Vi utbildar i kunskap, etik och värdegrund, allt för att återspegla det goda vi står för. Dessutom ökar kraven och förväntan hos de unga på att vi ska vara just goda, både om de ska välja att arbeta hos oss eller att vara våra kunder. Idag introduceras nya AI-baserade tjänster och digitala hjälpmedel i rask takt. Är vi lika noggranna avseende vår nyrekrytering av digitala tjänster?

Där AI-baserade system används måste vi vara säkra på att de uppfyller lagar och förordningar precis som vi måste göra för all annan verksamhet vi bedriver. AI används i många tillämpningar idag och enligt IBM:s senaste rapport Shifting toward Enterprise-grade AI i frågan så är 82 procent av de tillfrågade företagen (baserat på svar från 5.001 globala ledare inom 18 olika verksamhetsområden) på gång med att introducera AI i deras verksamhet. Av de topp fem användningsområdena bland de företag som räknas som digitala ledare, och där AI prioriteras högst, så är tre inriktade direkt mot kunder.

När nu AI introduceras som en allt större del i digitaliseringen svarar 63 procent av företagen i rapporten att de saknar tillgång till egen kompetens för att hantera AI-system, samtidigt som tillgången till teknologin ökar. Detta kan leda till en farlig kombination och där ökad kontroll och insikt krävs för att hantera riskerna.

Vi har under det senaste året sett en del uppmärksammade fall där AI-baserade system varit diskriminerande. MIT tog upp ett sådant exempel i februari i år. Detta är oroande. Med direktiv i GDPR avseende förbud mot diskriminerande automation och den skada det kan få för individer och företag bör detta tas på största allvar. Bristfällig hantering kommer att leda till underminerad tillit som kan påverka företagens varumärke och på sikt även AI som teknologi.

När AI-system ska väljas finns det ett antal aspekter som måste utvärderas för att säkerställa kontroll. Hur är AI-systemen upplärda? Varifrån kommer de data som ligger till grund för inlärningen? Vad har AI-algoritmleverantören för policy kring AI och data? En god start när AI-tjänster och -verktyg ska väljas är att kontrollera leverantörens policy kring AI. Studera noga hur de hanterar din information, hur de ser på AI-/människa-förhållandet och hur de säkerställer transparens i inlärningsmodellen. Ett exempel på detta är IBM:s tillits- och transparensprinciper.

Då många redan har startat sin AI resa finns ett stort behov av att i efterhand kontrollera att de AI-baserade tjänsterna uppfyller krav på att inte vara diskriminerande. Sedan september i år finns ett verktyg från IBM tillgängligt för att utvärdera diskriminering och tillit i AI och maskininlärningssystem för ett stort antal ledande ramverk som Watson, Tensorflow, SparkML, AWS SageMaker och AzureML. Detta innebär att företag och organisationer kan nyttja denna tjänst för att kontrollera de mest populära AI-ramverken på marknaden i dag. Med verktyget AI OpenScale kan man övervaka beslutsfaktorer och processer och även anpassa verktyget till sina specifika behov. Även Microsoft har annonserat att de ska utveckla verktyg för att upptäcka diskriminering.

Det är dags att se till att både digitala och mänskliga medarbetare följer samma höga standard avseende integritet och tillit så vi kan fortsätta den spännande digitala resan med nya värdefulla tjänster.

Läs mer: Efter kritiken mot de militära projekten - nu ska Googles AI göra gott
Läs mer: Microsoft lanserar nya AI-utbildningar - för att tackla kompetensbristen