Realistické fake videá môžu podľa Číny ohroziť národnú bezpečnosť. Užívatelia ich môžu zdieľať a zverejňovať len v prípade, že budú viditeľne označené.

Čínska vláda sa obáva falošných videí a rozhodla sa dať im stopku. Čínsky Úrad pre kybernetický priestor oznámil, že zverejňovanie a distribúcia „falošných správ“ vo forme audio aj video záznamu vytvorených pomocou umelej inteligencie alebo virtuálnej reality, bude zakázaná. Úrad zdôrazňuje najmä problémy spojené s deepfake videami vytvorenými umelou inteligenciou. 

Nový zákon príde do platnosti 1. januára. Falošné videá či nahrávky budú musieť byť zreteľne označené, aby bolo jasné, že sa jedná o fake. V opačnom prípade to bude brané ako trestný čin. Číňania si myslia, že technológia deepfake by mohla „ohroziť národnú bezpečnosť, narušiť sociálnu stabilitu, sociálny poriadok, ako aj porušiť legitímne práva a záujmy ostatných.“

Falošné videá vytvorené umelou inteligenciou známe aj pod názvom deepfake, sa stávajú vážnym problémom. Ktokoľvek môže relatívnej jednoducho a rýchlo vytvoriť realistické fake video, v ktorom osoba robí alebo rozpráva niečo, čo sa v skutočnosti nikdy nestalo. Kým zatiaľ sa táto technológia používala najmä pre zábavu, v nesprávnych rukách môže byť zneužitá a použitá napríklad na šírenie poplašných správ. Príkladom využitia deepfake technológie na Slovensku je video, v ktorom nahradil prezidentku Čaputovú v Inkognite Štefan Harabin:

Proti deepfake už začínajú bojovať aj jednotlivé štáty USA. V Kalifornií schválili zákon, podľa ktorého je nelegálne využívať deepfake v politických kampaniach. Týka sa to zverejňovania nahrávok, obrázkov aj videí, ktoré sú nepravdivé. Na druhej strane, paródia či satira vo forme deepfake bude aj naďalej povolená.