國家互聯(lián)網(wǎng)信息辦公室針對語音社交軟件中深度偽造技術(shù)濫用問題，依法約談了映客等11家互聯(lián)網(wǎng)信息服務(wù)企業(yè)。這一行動凸顯了監(jiān)管部門對新技術(shù)應(yīng)用風(fēng)險的重視，也引發(fā)了公眾對語音社交平臺安全與倫理的深入思考。

隨著人工智能技術(shù)的快速發(fā)展，深度偽造（Deepfake）技術(shù)已從視頻領(lǐng)域延伸至音頻領(lǐng)域。該技術(shù)能通過機(jī)器學(xué)習(xí)模擬特定人物的聲音，生成以假亂真的語音內(nèi)容。在語音社交軟件中，這項(xiàng)技術(shù)若被不當(dāng)利用，可能被用于制造虛假信息、進(jìn)行語音詐騙或侵犯他人名譽(yù)權(quán)，給個人與社會帶來嚴(yán)重危害。

本次被約談的企業(yè)包括映客等多個知名語音社交平臺，主要涉及未嚴(yán)格落實(shí)用戶實(shí)名制、未能有效識別和處置利用深度偽造技術(shù)生成的違規(guī)內(nèi)容等問題。監(jiān)管部門要求相關(guān)企業(yè)全面自查整改，加強(qiáng)對深度偽造語音內(nèi)容的監(jiān)測技術(shù)研發(fā)，完善內(nèi)容審核機(jī)制，切實(shí)履行平臺主體責(zé)任。

語音社交作為近年來興起的社交模式，因其即時性和隱私性受到用戶青睞。技術(shù)往往是一把雙刃劍。深度偽造技術(shù)在豐富娛樂應(yīng)用和輔助創(chuàng)作的也為虛假信息傳播打開了方便之門。例如，偽造名人語音進(jìn)行商業(yè)推廣，或模仿他人聲音實(shí)施社交詐騙，這些行為不僅損害用戶權(quán)益，也破壞了網(wǎng)絡(luò)空間的清朗環(huán)境。

此次約談釋放出明確信號：互聯(lián)網(wǎng)企業(yè)必須堅持科技向善，在技術(shù)創(chuàng)新與倫理規(guī)范之間尋求平衡。企業(yè)應(yīng)建立更嚴(yán)格的內(nèi)容安全體系，包括采用先進(jìn)的聲紋識別技術(shù)鑒別偽造語音，設(shè)置便捷的用戶舉報渠道，并對違規(guī)賬號采取封禁等措施。也應(yīng)加強(qiáng)用戶教育，提升公眾對深度偽造技術(shù)的認(rèn)知和防范意識。

從更廣的視角看，深度偽造治理需要多方協(xié)同。除了企業(yè)自律和監(jiān)管跟進(jìn)，還需加快相關(guān)法律法規(guī)的完善，明確技術(shù)使用的法律邊界。技術(shù)社群也應(yīng)積極研發(fā)反偽造檢測工具，形成技術(shù)制衡。只有通過全社會的共同努力，才能有效遏制技術(shù)濫用，讓語音社交行業(yè)在創(chuàng)新與安全的軌道上行穩(wěn)致遠(yuǎn)。

隨著人工智能技術(shù)持續(xù)演進(jìn)，類似挑戰(zhàn)可能還會出現(xiàn)。此次約談為整個行業(yè)敲響了警鐘：在追逐商業(yè)利益的絕不能忽視社會責(zé)任。唯有將安全、倫理置于發(fā)展的重要位置，互聯(lián)網(wǎng)信息服務(wù)才能健康可持續(xù)地造福社會。