En rådgivare inom artificiell intelligens till Storbritanniens premiärminister kommer med en tydlig varning: AI kommer att hota människor inom två år.
Rådgivaren, Matt Clifford, sa i en intervju med TalkTV att människor har ett smalt fönster på två år för att kontrollera och reglera AI innan den blir för kraftfull.
”De nära hoten är faktiskt ganska skrämmande. Du kan använda AI idag för att skapa nya recept för biologiska vapen eller för att genomföra storskaliga cyberattacker”, sa Clifford.
”Det kan finnas mycket farliga hot mot människor som skulle kunna döda många människor – inte alla människor – bara utifrån var vi förväntar oss att modellerna ska vara om två års tid.”
Clifford, som också är ordförande för regeringens Advanced Research and Invention Agency (ARIA), betonade behovet av en ram som tar upp säkerheten och regleringen av AI-system.
I intervjun framhävde Clifford de växande möjligheterna med AI-system och det brådskande behovet av att beakta de risker som är förknippade med dem. Han varnade för att om säkerhet och reglering inte införs kan dessa system bli mycket kraftfulla inom två år och utgöra betydande risker både på kort och lång sikt.
Han hänvisade till ett öppet brev undertecknat av 350 AI-experter, inklusive OpenAI:s VD Sam Altman, som uppmanade till att behandla AI som ett existentiellt hot i stil med kärnvapen och pandemier.
”Den typ av existentiell risk som jag tror att brevskrivarna talade om handlar om vad som händer när vi effektivt skapar en ny art, en intelligens som är större än människor”, förklarar Clifford.
Clifford betonade också vikten av att förstå och kontrollera AI-modeller och menade att bristen på förståelse för deras beteende är en betydande oro. Han betonade behovet av en revisions- och utvärderingsprocess innan införandet av kraftfulla modeller, en känsla som delas av många ledare inom AI-utveckling.
”Jag tror att det viktiga att fokusera på nu är hur vi ser till att vi vet hur vi kontrollerar dessa modeller, för just nu gör vi inte det”, säger Clifford.
Världen över brottas regleringsorgan med AI:s snabba framsteg och de komplexiteter och konsekvenser som det medför. Regleringsorgan strävar efter att hitta en balans mellan användarskydd och främjande av innovation.
I Storbritannien har en medlem av oppositionspartiet Labour gett uttryck för de farhågor som framförts i Center for AI Safety:s brev och krävt att tekniken regleras i samma utsträckning som medicin och kärnkraft.
