(資料圖)
知名央視主持人現(xiàn)身網(wǎng)絡直播間?竟然還播報起虛假廣告?近日,北京市場監(jiān)管部門查處了首例利用人工智能(AI)技術進行虛假廣告宣傳的案件。北京一公司在直播中宣稱其產(chǎn)品能夠治療多種疾病,而實際該產(chǎn)品僅為普通食品,不具備疾病治療功能。此外,直播中還出現(xiàn)了知名央視主持人的形象,經(jīng)鑒定,該形象完全是利用AI技術偽造生成。
近年來,人工智能技術日益成熟,“AI換臉”的技術門檻大幅降低,如今僅憑一張圖片、一段聲音,就能生成高度逼真的偽造視頻。這讓一些不法商家心生歹念,利用AI深度偽造科學家、醫(yī)生、運動員、演員等知名人士的面容和聲音,炮制出一個個AI“李鬼”。
這類新型違法行為不僅侵犯了被仿冒者的合法權益,營造出“權威背書”的假象對公眾實施欺詐,給內(nèi)容安全帶來挑戰(zhàn),更蠶食著社會賴以運轉(zhuǎn)的信任基礎。當作假的圖像被AI包裝成“有鼻子有眼”的視頻肆意擴散,當仿冒的名人形象在直播間里一本正經(jīng)兜售偽劣商品,當電信詐騙者的聲音和容貌竟然與受害者的家人一模一樣……在AI生成內(nèi)容紛繁復雜的今天,倘若“眼見為實”不復存在,社會信任又該如何維系?
為解決AI生成內(nèi)容以假亂真的問題,今年9月,我國《人工智能生成合成內(nèi)容標識辦法》正式施行。該辦法明確要求所有AI生成的文字、圖片、視頻等內(nèi)容必須添加顯式標識“亮明身份”,同時鼓勵添加數(shù)字水印等隱式標識,讓公眾明確知道哪些內(nèi)容可能源自AI生成。既然已有規(guī)定,有關部門就應加大監(jiān)管和執(zhí)法力度,對違反相關規(guī)定的平臺和個人依法查處,形成震懾。此次北京市場監(jiān)管部門查處相關案件,就開了個好頭,釋放出對“AI造”加強監(jiān)管的強烈信號。
內(nèi)容傳播平臺、AI生成服務平臺和應用程序分發(fā)平臺則要盡到相應的責任義務,落實好有關要求,進一步優(yōu)化AI識別技術,加強鑒偽追溯能力,與監(jiān)管部門同向發(fā)力,守好“真實”的邊界。與此同時,廣大網(wǎng)民也要保持警惕,加強對信息真?zhèn)蔚恼鐒e,不被虛假信息蒙蔽雙眼。
當前,我國人工智能技術正在飛速發(fā)展,針對不同應用場景的安全標準和法律準則在不斷完善中。構(gòu)建良好網(wǎng)絡生態(tài),需要各方共同努力,把“眼見為實”的網(wǎng)絡空間還給我們每個人,守護好社會信任的根基。(文/陳可軒)
人民財訊10月17日電,華泰證券發(fā)布通信行業(yè)三季度前瞻研報認為,AI算力
10月16日,鳥瞰武漢洪山區(qū)烽火路與楊泗港快速通道交會處的橋下運動空間
美國西部聯(lián)盟銀行周四尾盤重挫12 6%
依依股份:擬出資7020萬元參設創(chuàng)投基金
天空體育:流浪者與穆斯卡特的談判進入最后階段,蘇超,謝周三,天空體育,
平治信息:公司2025年第三季度報告將于10月30日披露
天眼查APP顯示,近日,山西焦煤能源集團股份有限公司新增一則開庭公告
10月16日,寧德時代大宗交易成交80萬股,成交額2 95億元,占當日總成交
此頁面是否是列表頁或首頁?未找到合適正文內(nèi)容。
齊魯晚報·齊魯壹點記者王穎穎金秋時節(jié),稻谷飄香。在京東11 11大促火
10月14日,京東11 11驚喜開放日在京舉行。活動現(xiàn)場,京東11 11交出首份
為深化身邊好人學習宣傳,用榜樣力量感染轄區(qū)居民,近日,任城區(qū)仙營街
據(jù)農(nóng)業(yè)農(nóng)村部監(jiān)測,10月15日“農(nóng)產(chǎn)品批發(fā)價格200指數(shù)”為119 07,比昨
東契奇談對獨行俠:顯然會有些特別,每次對陣他們都會有感觸,湖人,東契
天眼查App顯示,近日,深圳市創(chuàng)渝再生資源有限公司成立,法定代表人為
時間:10月14日地點:北京東壩公園場景:市民在公園的銀杏林內(nèi)散步休憩
【10月15日午間漲停分析】今日午盤全市場共36股漲停,連板股總數(shù)8只,1
進攻狀態(tài)火熱!火箭3人20+得分,季前賽取得3連勝,火箭,史密斯,nba,凱文
國家知識產(chǎn)權局信息顯示,嵐圖汽車科技有限公司取得一項名為“一種增程
人民財訊10月15日電,企查查APP顯示,近日,青島鐵盛電子信息合伙企業(yè)
今年國慶中秋假期間,不少市民游客慕名來到海南省博物館主題郵局,為各
21 2公里!國內(nèi)在建最長引水隧洞電站綽斯甲下閘蓄水,日前,中國電建成
中國人壽10月12日發(fā)布2025年半年度A股利潤分配實施公告顯示,此次2025
天眼查App顯示,近日,撫州市臨川區(qū)輝躍食品店(個體工商戶)成立,法
兩年前,谷歌旗下深度思維公司宣布,借深度學習技術發(fā)現(xiàn)220萬種新型晶

管住AI造假,留住社會信任
知名央視主持人現(xiàn)身網(wǎng)絡直播間?竟然還播報起虛假廣告?近日,北京市場

海底撈跨界聯(lián)動《明日方舟》;西山居
NO 1海底撈跨界聯(lián)動鷹角網(wǎng)絡《明日方舟》10月16日消息,海底撈火鍋正式

創(chuàng)業(yè)板ETF(159915)標的指數(shù)收漲0.4
截至收盤,創(chuàng)業(yè)板成長指數(shù)上漲0 5%,創(chuàng)業(yè)板指數(shù)上漲0 4%,創(chuàng)業(yè)板中盤20

網(wǎng)友吐槽喜茶外賣頁面“陰間感”畫風
10月16日,話題 網(wǎng)友吐槽喜茶界面太陰間 登上微博熱搜。近日,多名網(wǎng)友

生意社:10月16日常州新陽科技苯酐報
10月16日常州新陽苯酐裝置產(chǎn)能10萬噸,廠家苯酐裝置開工率不足5成,庫
Copyright @ 2001-2023 www.onesanlitun.com.cn All Rights Reserved 商業(yè)時報網(wǎng) 版權所有 關于我們
網(wǎng)站信息內(nèi)容, 均為相關單位具有著作權,未經(jīng)書面授權,轉(zhuǎn)載注明出處
未經(jīng)商業(yè)時報網(wǎng)書面授權,請勿建立鏡像,轉(zhuǎn)載請注明來源,違者依法必究