近日一段“莫迪跳傳統(tǒng)舞蹈”的視頻在網(wǎng)上瘋傳，視頻中，“莫迪”和其他舞者圍成一個小圈歡快地旋轉(zhuǎn)著。然而，莫迪上周末在印度人民黨總部出席排燈節(jié)特別活動時親自辟謠，稱網(wǎng)上流傳的跳舞視頻是AI合成的，并就此發(fā)出警告。

據(jù)印度《加爾各答每日電訊報》網(wǎng)站報道，莫迪說:“我看到了一段我在跳加爾巴（起源于印度古吉拉特邦的舞蹈）的視頻，‘多虧了’深度偽造。AI時代深度偽造內(nèi)容的傳播是一場大危機，值得注意的是，這很快引發(fā)了社會的不滿。”“深度偽造”最常見的形式是AI換臉、語音模擬等。莫迪表示，深度偽造視頻是通過社交媒體傳播的，而社交媒體又有大公司的背書，因此許多人信以為真。他警告說:“人們會誤以為自己看見的是真實的，這會引發(fā)巨大危機?！彼€表示，現(xiàn)在印度缺乏識別這種“深度偽造”的技術(shù)。

“莫迪已經(jīng)成為深度偽造的受害者，這是令人擔憂的發(fā)展趨勢?！薄队《葧r報》19日評論道。近期，深度偽造技術(shù)生成的虛假視頻在印度網(wǎng)絡(luò)上興風作浪，中招的不乏演藝圈名人，特別是女性藝人。這引發(fā)民眾憤怒，一些演藝界人士要求政府介入打假。

印度《鑄幣報》網(wǎng)站18日稱，印度電子和信息技術(shù)部部長阿什維尼·瓦希諾當天表示，政府已向所有大型社交媒體發(fā)出通知，要求他們采取措施識別深度偽造內(nèi)容并刪除。“社交媒體平臺已經(jīng)作出回應(yīng)，并有所行動?！蓖呦ＶZ說，如果社交媒體平臺未能采取適當措施打擊深度偽造，之前保護社交媒體平臺的條款可能不再適用。另據(jù)印度“Times Now”網(wǎng)站報道，瓦希諾說，政府可能在未來三四天召集各大社交媒體平臺開會報告打擊深度偽造內(nèi)容的進展，包括Meta和谷歌。

在這一事件中，莫迪成為深度偽造的受害者，這引發(fā)了人們對這一技術(shù)發(fā)展趨勢的擔憂。深度偽造技術(shù)在印度網(wǎng)絡(luò)上造成了虛假視頻的泛濫，尤其是演藝圈名人中的女性藝人成為中招對象。憤怒的民眾要求政府介入打假行動。

為了應(yīng)對這一問題，印度電子和信息技術(shù)部已向大型社交媒體發(fā)出通知，要求其采取措施來識別并刪除深度偽造內(nèi)容。政府對社交媒體平臺采取行動，并警告稱，如果平臺未能打擊深度偽造，之前保護社交媒體平臺的條款可能不再適用。政府計劃召集各大社交媒體平臺開會，匯報打擊深度偽造的進展情況。

在這個信息時代，AI合成技術(shù)的濫用引發(fā)了重大危機，深度偽造的視頻讓人們誤以為自己看到的是真實的。印度目前缺乏識別深度偽造的技術(shù)，因此這一問題迫切需要得到解決。政府、社交媒體平臺和技術(shù)公司需要共同努力，加強打擊深度偽造的措施，保護社會免受虛假信息的影響。

（舉報）