Ett utkast till lag i Europaparlamentet har blivit världens mest omfattande försök att hantera de potentiellt skadliga effekterna av artificiell intelligens.
Europeiska unionen tog ett viktigt steg på onsdagen mot att anta vad som skulle bli en av de första stora lagarna för att reglera artificiell intelligens, en potentiell modell för beslutsfattare runt om i världen när de brottas med att sätta begränsningar på den snabbt utvecklande tekniken.
Europaparlamentet, en viktig lagstiftande gren av Europeiska unionen, antog ett utkast till lag som kallas A.I. Act, vilket skulle införa nya restriktioner för vad som anses vara teknikens riskfyllda användningar. Det skulle kraftigt begränsa användningen av ansiktsigenkänningsprogramvara samtidigt som det kräver att tillverkare av A.I.-system som ChatGPT chattroboten ska lämna ut mer information om de data som används för att skapa deras program.
Omröstningen är ett steg i en längre process. En slutversion av lagen förväntas inte antas förrän senare i år.
Europeiska unionen ligger längre fram än Förenta staterna och andra stora västländer när det gäller att reglera A.I. Den 27-nationersblocket har diskuterat ämnet i över två år, och frågan blev mer akut efter förra årets lansering av ChatGPT, vilket intensifierade farhågor om teknikens potentiella effekter på sysselsättning och samhälle.
Beslutsfattare överallt från Washington till Peking tävlar nu för att kontrollera en utvecklande teknik som till och med oroar några av dess tidigaste skapare. I Förenta staterna har Vita huset släppt policyidéer som inkluderar regler för testning av A.I.-system innan de blir offentligt tillgängliga och skydd av integritetsrättigheter. I Kina skulle utkastet till regler som avslöjades i april kräva att tillverkare av chattrobotar följer landets stränga censurregler. Peking tar också mer kontroll över sättet som tillverkare av A.I.-system använder data.
Hur effektiv reglering av A.I. kan vara är oklart. Som ett tecken på att teknikens nya möjligheter verkar utvecklas snabbare än lagstiftarna kan hantera dem, ägnade tidigare versioner av E.U. lagen inte mycket uppmärksamhet åt så kallade generativa A.I.-system som ChatGPT, som kan producera text, bilder och video som svar på förfrågningar.
Enligt den senaste versionen av Europas lag som antogs på onsdagen skulle generativ A.I. utsättas för nya krav på öppenhet. Det inkluderar att publikt genera sammanfattningar av upphovsrättsskyddat material som används för att träna systemet, en åtgärd som stöds av publiceringsbranschen men motsätts av teknikutvecklare som anser att det är tekniskt omöjligt. Tillverkare av generativa A.I.-system skulle också vara tvungna att införa skyddsåtgärder för att förhindra att de genererar olagligt innehåll.
Francine Bennett, tillförordnad direktör för Ada Lovelace Institute, en organisation i London som har drivit på för nya A.I.-lagar, sa att E.U:s förslag var en ”viktig milstolpe”.
”Snabbt rörlig och snabbt anpassningsbar teknik är naturligtvis svår att reglera, när inte ens företagen som bygger tekniken är helt tydliga över hur saker och ting kommer att utvecklas”, sa fru Bennett. ”Men det skulle definitivt vara sämre för oss alla att fortsätta verka utan adekvat reglering alls.”
Europeiska lagförslaget använder sig av ett ”riskbaserat” tillvägagångssätt för att reglera A.I., och fokuserar på tillämpningar med störst potential att orsaka skada för människor. Detta skulle inkludera användningen av A.I.-system för att driva kritisk infrastruktur som vatten eller energi, inom rättssystemet och vid beslut om tillgång till offentliga tjänster och statliga förmåner. Tillverkare av tekniken skulle behöva genomföra riskbedömningar innan de inför tekniken i vardagen, liknande godkännandeprocessen för läkemedel.
En teknikindustrigrupp, Computer & Communications Industry Association, sa att Europeiska unionen bör undvika alltför breda regler som hämmar innovationen.
”E.U. håller på att bli en ledande reglerare av artificiell intelligens, men huruvida de kommer att leda inom A.I.-innovationen återstår att se”, sa Boniface de Champris, gruppen Europeiska policychef. ”Europas nya A.I.-regler behöver effektivt hantera tydligt definierade risker samtidigt som de ger tillräckligt med flexibilitet för utvecklare att leverera användbara A.I.-applikationer till förmån för alla européer.”
Ett område av debatt är användningen av ansiktsigenkänning. Europaparlamentet röstade för att förbjuda användningen av ansiktsigenkänning i realtid, men frågetecken kvarstår om undantag bör tillåtas för nationell säkerhet och andra ändamål inom rättsväsendet.
En annan bestämmelse skulle förbjuda företag från att skrapa biometriska data från sociala medier för att bygga upp databaser, en praxis som granskades efter att ansiktsigenkänningsföretaget Clearview AI använde den.
Teknikledare har försökt påverka debatten. Sam Altman, verktsam ledare för OpenAI, tillverkaren av ChatGPT, har under de senaste månaderna träffat minst 100 amerikanska lagstiftare och andra globala beslutsfattare i Sydamerika, Europa, Afrika och Asien, inklusive Ursula von der Leyen, ordförande för Europeiska kommissionen. Herr Altman har krävt reglering av A.I., men har också sagt att Europeiska unionens förslag kan vara för svåra att uppfylla.
Efter omröstningen på onsdagen kommer en slutversion av lagen att förhandlas fram av representanter från Europeiska unionens tre grenar – Europaparlamentet, Europeiska kommissionen och Europeiska unionens råd. Tjänstemän säger att de hoppas nå en slutlig överenskommelse före årets slut.
