在浩瀚無垠的網絡信息世界里,生成式人工智能(AI)正掀起一場前所未有的變革風暴,但這也使得信息的真偽辨別變得日益復雜。為了應對AI內容可能帶來的網絡污染挑戰,各方勢力正積極探索解決方案。近日,備受矚目的互聯網工程任務組(IETF)公布了一項創新草案——《AI內容披露標頭》,該草案旨在通過在網頁HTTP響應中添加機器可讀標識,來明確標注內容的AI生成屬性。

IETF介紹稱,這一標識設計巧妙地與HTTP結構化字段語法相融合,其核心目的是向用戶代理、網絡爬蟲及歸檔系統等關鍵實體提供關于AI在內容生成過程中參與程度的元數據。這些系統可以依據自身需求,靈活決定是否接納或處理AI生成的內容。此舉直擊AI領域的關鍵痛點:不同AI產品間可能存在的虛假內容相互引用,這種循環引用極易導致虛假信息被誤判為真實,進而對整個互聯網的內容生態造成擾亂。
AI之所以會“信口雌黃”,根源在于其作為“概率預測機”的本質特性。AI大模型通過海量數據的訓練,學習詞語間的關聯規律,但在處理罕見或復雜信息時,可能因缺乏確鑿依據而“無中生有”。面對用戶提問,若AI無法找到確切答案,便會傾向于生成一個概率上看似最合理的答案,而非事實正確的答案。這種傾向使得AI輸出的內容往往看似合乎邏輯,實則可能偏離事實真相。
AI幻覺現象雖難以徹底根除,但已成為業界關注的焦點。更令人憂慮的是,當多個AI產品開始相互引用這些虛假內容時,便可能形成一個虛假的閉環,使得虛構的信息逐漸被大眾所接受。例如,近期發生的關于明星王一博的謠言事件,正是由于AI在未核實事實的情況下,基于語義關聯性自動補全了內容,最終被另一款AI工具ChatGPT所揭露。

ChatGPT在此次事件中能夠發揮事實核查作用的關鍵,在于它與生成虛假道歉聲明的AI使用了不同的訓練數據集。換言之,ChatGPT因未被虛假內容所污染,所以能夠輸出真實信息。然而,如果OpenAI的爬蟲GPTBot抓取到了虛假的“道歉聲明”,結果或將截然不同。當前,為了提升模型的智能水平,AI廠商的爬蟲幾乎不加篩選地抓取數據,即便這些數據中包含有害的虛假信息。
這種做法在學術界已引發“引用農場”現象,即通過相互引用將低質量的論文包裝成高影響力論文。同樣,當AI開始相互引用虛假內容時,用戶將深受其害。IETF此次提出的《AI內容披露標頭》草案,旨在從源頭上切斷AI生成的虛假和垃圾內容回流至互聯網的渠道,防止它們成為訓練新AI模型的數據,從而避免陷入“垃圾進、垃圾出”的惡性循環。
具體而言,IETF要求HTTP文件中必須聲明AI模型的名稱、提供者、校驗團隊及時間戳等關鍵信息,以此防止AI廠商的爬蟲錯誤地抓取AI生成的內容。實際上,AI廠商同樣不希望抓取到AI內容,以免其訓練數據受到污染。從某種程度上說,《AI內容披露標頭》草案與AI水印有著異曲同工之妙,都是從內容生產和傳播的起點入手,為“AI生成”的內容打上獨特的識別烙印。
相較于技術實現難度較大的AI水印,要求網站主動披露內容是否由AI生成顯然更為切實可行。關鍵在于,IETF作為互聯網標準制定與推廣的權威組織,其影響力不可小覷。HTTP和IPv6等互聯網基礎協議均出自IETF之手,可以說,當今的互聯網是建立在IETF的堅實基石之上的。因此,IETF提出的這一草案,有望為凈化網絡內容生態、遏制AI虛假信息的傳播發揮舉足輕重的作用。
舉報 0收藏 0打賞 0評論 0分享 0 更多>同類資訊
AI+金融:大模型技術引領行業高質量轉型新篇章09-02
俄羅斯太空實驗:75只小鼠失重生活畫面曝光,探索太空生物安全性09-02
AI常識性錯誤頻發,人類責任何在?花生上樹、六指模特引熱議09-02
Z世代擔憂隱私:智能眼鏡普及加劇年輕人焦慮09-02
阿里云強勁增長帶動阿里股價飆升,芯片供應“后備方案”獲市場關注09-02
隨機翻閱,輕松刪除:這款App讓整理相冊變得像開盲盒一樣有趣09-02
蘋果iPhone 17系列9月發布,京東PLUS會員享優先購買權09-02
華為Pura 70系列官方翻新機登場,售價4699元起,享一年質保09-02
蘋果將推iOS 18.7更新,適用于部分iPhone機型,9月與iOS 26相繼到來09-02
蘋果可折疊iPhone新爆料:或采用側邊Touch ID,屏下指紋或成泡影09-02
iPhone 17 Pro 系列透明殼曝光:設計三大變動引關注09-02快遞費上漲波及電商核心區 “反內卷”政策助行業良性轉型09-02快遞業核心區域漲價潮起,“反內卷”行動助力行業良性轉型09-02
全球最大冰山A23a面積三個月劇減超三分之一09-02
蘋果力推供應鏈自動化轉型,iPhone、iPad等主要產品線受影響09-02點擊查看更多 +全站最新
全球最大冰山A23a面積三個月劇減超三分之一
蘋果力推供應鏈自動化轉型,iPhone、iPad等主要產品線受影響
蘋果印度新店融合天才吧與快速取貨服務,提升顧客體驗
美國iPhone用戶調研:超六成計劃升級iPhone 17,電池續航成首要考量
OPPO Find X9 工程機曝光:搭載聯發科天璣9500芯片,性能參數搶先看
蘋果iPhone 17 Pro官方透明手機殼曝光:背部設計以白色為主熱門內容
百度地圖就彈窗廣告爭議回應:設有明顯關閉鍵,當日不重復彈出
網紅表情包“不可以色色”原型柴犬PON安詳離世
離世后,你的微信朋友圈會何去何從?客服這樣回答
蔚來資本、聯想創投攜手入股,原力靈機智能科技迎來新股東
AI數字人爆款IP崛起,硅基智能D輪融資領跑,創始人影響力趕超雷軍
阿里巴巴強化ESG治理,首推“范圍3+”減排新概念引領行業綠色轉型
本文鏈接:http://www.yifxia.cn/showinfo-16-179946-0.htmlIETF推AI內容披露草案,能否有效阻止網絡虛假信息泛濫?
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com