Kinas Cyberspace Administration (CAC) har startat en kampanj för att bekämpa falska nyheter genererade av AI.
Denna insats riktar sig mot nyhetsleverantörer, inklusive plattformar för korta videor och populära söklistor.
CAC lyfte särskilt fram manipulativa metoder som användning av AI-virtuella ankare, förfalskade studio-scener, falska nyhetskonton som härmar legitima och manipulering av nyheter för att skapa vilseledande berättelser. Dessa metoder används för att generera vad som ofta kallas clickbait.
Enligt CAC har det redan vidtagit åtgärder mot 107 000 förfalskade nyhetskonton och falska ankare, samt tagit bort 835 000 bitar av falsk information. Internetregulatorn uppmanar medborgare att rapportera eventuella möten med falska nyhetskonton online.
I linje med Kinas AI-medialag, som syftar till att begränsa spridningen av falska nyheter genererade av AI, greps nyligen en person i Gansu-provinsen för att ha skapat falska nyheter med ChatGPT.
Personen använde ChatGPT för att fabricera en nyhetsartikel om en tågkrasch, vilket snabbt fick fart på sociala medieplattformar. Polisen agerade mot individen för att sprida falsk information med avsikt att öka webbplatstrafiken.
ChatGPT är inte direkt tillgängligt i Kina, men användare kan komma åt det med hjälp av ett stött utländskt telefonnummer och ett virtuellt privat nätverk (VPN). Men tillgång till utländska telefonnummer och VPN är begränsad i Kina.
AI-medialagen, som trädde i kraft den 10 januari 2023, riktar sig inte bara mot individer som den som greps i Gansu utan håller också ”deep synthesis service providers” ansvariga för att förhindra missbruk av AI-algoritmer för olagliga aktiviteter som bedrägeri, bluffar och spridning av falsk information.
Genomförandet av denna lag utgör utmaningar för företag som Tencent, utvecklaren av WeChat, eftersom de behöver se till att deras AI-algoritmer inte missbrukas.
Tencent introducerade nyligen vad som i princip är en ”Deepfakes-as-a-Service”-produkt som gör det möjligt för användare att skapa högupplösta digitala människor mot en avgift, vilket väcker oro över potentiellt missbruk av sådan teknik.
Den kinesiska regeringens ansträngningar att bekämpa falska nyheter och reglera online-kommunikation understryker dess åtagande att upprätthålla en säker och pålitlig digital miljö, även om kritiker har väckt frågor om censur och begränsning av yttrandefriheten.
