印度Instagram上的超級網紅「娃娃阿奇」（Babydoll Archi）一夜之間成為全印度話題，她的粉絲數量在幾天內從70萬飆升至140萬。她的一則影片中身穿紅色紗麗隨著羅馬尼亞歌曲《Dame Un Grr》翩翩起舞，讓無數網友為之瘋狂。
然而，這場熱潮背後卻是一個令人震驚的真相：「娃娃阿奇」並不存在！這位網紅竟然是由一個自學成才的人工智能愛好者——普拉提姆·博拉（Pratim Borah）所創造出來的。這一切是為了報復一名毫不知情的家庭主婦桑奇。
博拉先生利用先進的AI技術，將一位名叫桑奇的普通家庭主婦變成了網紅「娃娃阿奇」。他不僅製造了大量假的Instagram帖子和視頻，還利用這些內容賺取數百萬盧比的廣告收入。
在這場虛假熱潮中，社交媒體平臺Meta公司也面臨著巨大壓力。雖然他們通常禁止裸露或色情內容，但這次案件顯然已經超出了普通的網絡欺凌範圍。
桑奇一家直到這場風波被廣泛傳播後才得知他們家人的照片和視頻被用於網紅創作。警方收到投訴後立即展開調查，並成功鎖定了博拉先生的位置。7月12日晚，警方將其逮捕，並且從他那裡沒收了大量的電子設備和銀行文件。
在對博拉先生的起訴中，警方援引了包括性騷擾、傳播淫穢材料、誹謗、偽造損害名譽、冒充他人身份詐騙以及網路犯罪等多項法律條款。如果罪名成立，他最高可被判處10年監禁。
人工智慧專家兼律師梅格納巴爾（Meghna Bal）表示，雖然現有法規能夠處理類似的案件，但隨著AI技術的不斷進步，我們需要更加謹慎地制定相關法律。她強調，在防止深度偽造濫用的同時，也要保護言論自由和創新。
「娃娃阿奇」事件不僅揭示了社交媒體上可能存在的虛假內容問題，還展示了利用先進技術進行報復的可能性。隨著越來越多的人工智能工具被開發出來，我們需要更加警惕並尋求有效的解決方案來防止類似的侵害行為再次發生。
這也提醒大家，對於網絡欺凌和深度偽造必須提高警惕，同時也需要更多的法律支持來保護受害者權益。
