Applegrundaren Steve Wozniak har uttryckt farhågor angående potentiellt missbruk av AI-drivna verktyg av cyberkriminella för att skapa övertygande online-bedrägerier.
Wozniak fruktar att AI kommer hamna i fel händer och leda till ökade bedrägerier och svårare att upptäcka online-bedrägerier.
Den välrenommerade ingenjören har krävt reglering av AI-teknologi för att begränsa dess användning av dåliga aktörer som är villiga att lura människor om deras identitet och vilseleda dem för att få tag på känslig information.
Wozniaks kommentarer kommer i en tid då användningen av AI-teknologi ökar. Många företag vänder sig till AI-drivna verktyg för att automatisera sina processer, förbättra effektiviteten och skapa nya produkter och tjänster.
OpenAIs ChatGPT och Googles Bard är bland ett växande antal generativa AI-verktyg som kan konversera med människor skriftligen på ett naturligt och mänskligt sätt.
Enligt en rapport från Goldman Sachs förväntas teknologin påverka cirka 300 miljoner arbetsroller inom de kommande åren, även om rapporten tillade att många av dessa jobb troligen kommer att stödjas av AI snarare än att ersättas.
Wozniak tror emellertid att AI-teknologi är sårbar för missbruk av cyberkriminella, som kan använda den för att klona en persons röst och lura deras vänner eller släktingar att ge ifrån sig pengar. Wozniak hoppas att AI kan tränas för att känna igen sådana bedrägerier och varna offret att vidta lämpliga åtgärder för att skydda sig själva.
Wozniak var en av cirka 1 000 tekniska experter som i mars skrev under ett brev där de krävde en sexmånaders paus i utvecklingen av vissa AI-verktyg för att riktlinjer för deras säkra implementering ska kunna upprättas.
Han vill att de stora teknikföretagen ska regleras för att ”de känner att de kan komma undan med vad som helst” för att säkerställa att de håller sig inom vissa gränser. Wozniak funderade dock också på om en sådan reglering skulle vara effektiv och påpekade att ”krafterna som drivs av pengar vanligtvis segrar, vilket är ganska tråkigt.”
När AI-teknologin fortsätter att utvecklas är det viktigt att säkerställa att dess användning regleras för att förhindra att cyberkriminella använder den för bedrägerier. Samtidigt är det avgörande att balansera reglering med innovation för att möjliggöra att AI-teknologi utvecklas på ett ansvarsfullt och säkert sätt.
