Nu kommer Microsofts med ett antal konkreta förslag för att styra utvecklingen av AI och hålla ner riskerna. Förslagen presenterades av Microsofts vice ordförande Brad Smith på ett event i veckan, rapporterar Geekwire.
Han höll med Open AI-grundaren Sam Altman om att det behövs en ny federal myndighet i USA som ska styra användningen av kraftfulla modeller.
– Vi bör ha licensiering på plats så att myndigheten informeras om testerna innan en sådan modell lanseras, det finns krav som den måste uppfylla för säkerhetsprotokoll. Det måste göras mätningar, och i slutändan, som så mycket annat i livet ... kommer AI att kräva en licens, säger Brad Smith.
– Vi bör ha licensiering på plats så att myndigheten informeras om testerna innan en sådan modell lanseras, det finns krav som den måste uppfylla för säkerhetsprotokoll. Det måste göras mätningar, och i slutändan, som så mycket annat i livet kommer AI att kräva en licens.
De fem viktigaste punkterna i Microsofts förslag till AI-styrning beskrivs också i ett blogginlägg.
- Implementera och bygga vidare på nya myndighetsledda ramverk för AI-säkerhet baserade på det amerikanska NIST AI Risk Management Framework.
- Kräva effektiva ”säkerhetsbromsar” för AI-system som kontrollerar kritisk infrastruktur och säkerställer mänsklig tillsyn och ansvarsskyldighet.
- Utveckla ett brett juridiskt och regulatoriskt ramverk baserat på teknikarkitekturen för AI, inklusive nya regler och licenser för kraftfulla AI-grundmodeller och skyldigheter för AI-infrastrukturoperatörer.
- Främja transparens och säkerställa akademisk och ideell tillgång till AI-resurser, inklusive en årlig AI-transparensrapport och utökade datorresurser för forskning.
- Främja nya offentlig-privata partnerskap för att använda AI som ett effektivt verktyg för att hantera samhällsutmaningar som att skydda demokrati och rättigheter, skapa inkluderande tillväxt och främja hållbarhet.
