Future of Life Institute har nu publicerat ett öppet brev där de uppmanar AI-laboratorier att omedelbart pausa utvecklingen av AI-system som är starkare än GPT-4 i åtminstone sex månader.
Anledningen är att systemen annars kan utgöra en risk för samhället och mänskligheten. Systemen skulle bland annat kunna orsaka ekonomiska och politiska störningar.
Enligt Future of Life Institute bör pausen gälla tills dess att gemsamma säkerhetsprotokoll utvecklats.
”Kraftfulla AI-system bör utvecklas bara när vi är säkra på att deras effekter kommer vara positiva och risken är hanterbar”, skriver Future of Life Institute.
Brevet är signerat av över 1000 personer som är verksamma inom AI-området på olika sätt. Bland annat syns Elon Musk, Stuart Russell, Yoshua Bengio, Steve Wozniak, Yuval Noah Harari, Jaan Tallinn och svensk-amerikanska Max Tegmark.
Sam Altman som är verkställande direktör för Open AI, som är organisationen som utvecklat GPT-4, har inte signerat brevet.
