OpenAI:s VD Sam Altman vittnade inför en panel i en senatens justitieutskott och betonade vikten av att reglera AI.
Altman framhöll de potentiella fördelarna med AI-tekniker som ChatGPT och Dall-E 2 för att hjälpa till att hantera betydande utmaningar som klimatförändringar och cancer, men han betonade också behovet av att minska riskerna med alltmer kraftfulla AI-modeller.
Altman föreslog att regeringar överväger att införa licens- och testkrav för AI-modeller som överstiger en viss tröskel för kapabiliteter. Han betonade OpenAI:s åtagande för säkerhet och omfattande testning innan några nya system släpps, och framhävde företagets övertygelse om att säkerställa AI:s säkerhet är avgörande.
Senatorerna Josh Hawley och Richard Blumenthal uttryckte sitt erkännande för AI:s transformationskraft och behovet av att förstå dess konsekvenser för val, arbeten och säkerhet. Blumenthal spelade upp en ljudintroduktion med hjälp av en AI-röstkloningsprogramvara som var tränad på hans tal, vilket visade teknologins potential.
Blumenthal lyfte fram oro över olika risker med AI, inklusive deepfakes, vapeniserad desinformation, diskriminering, trakasserier och bedrägeri med förfalskad identitet. Han betonade också den potentiella omplaceringen av arbetstagare inför en ny industriell revolution som drivs av AI.
Altmans uppmaning till reglering stämmer överens med bekymmer som framförts av AI-experter och etiker, inklusive tidigare Google-forskarna Dr Timnit Gebru och Meredith Whitaker. De argumenterar för att den snabba antagningen av AI är överhypad och inte levererar inneboende samhällsnytta.
Whitaker betonade maktkoncentrationen i händerna på några få teknikföretag och deras förmåga att forma sociala och politiska landskap med hjälp av AI-teknik. Hon uttryckte oro över de befintliga maktdynamikerna och betonade behovet av en mer rättvis fördelning av AI-kapabiliteter.
Whitaker varnade för idén att AI automatiskt kommer att leda till samhällsnytta eller lika tillgång för alla, och hävdade att det är en fantasibild som sprids i marknadsföringssyfte. Hon betonade vikten av att erkänna maktkoncentrationen och behovet av att säkerställa att AI används till fördel för samhället som helhet.
