Newsguard最新研究指出，生成式人工智能工具在處理實(shí)時(shí)新聞事件時(shí)，傳播不實(shí)信息的比例出現(xiàn)顯著攀升。對(duì)比去年8月18%的虛假信息傳播率，今年同期這一數(shù)字已升至35%，增長(zhǎng)幅度近乎翻倍。研究人員發(fā)現(xiàn)，這一變化與AI聊天機(jī)器人新增的實(shí)時(shí)網(wǎng)絡(luò)搜索功能密切相關(guān)——該功能雖使拒絕作答的情況從31%歸零，卻也導(dǎo)致系統(tǒng)直接抓取網(wǎng)絡(luò)中未經(jīng)核實(shí)的海量信息。
在追蹤的十大主流AI工具中，各模型表現(xiàn)差異明顯。Inflection公司推出的模型以56.67%的虛假信息傳播率墊底，較去年同期數(shù)據(jù)惡化顯著。Perplexity模型的表現(xiàn)同樣堪憂，其出錯(cuò)率從去年8月能100%識(shí)別虛假信息的水平，跌至今年近50%的誤傳率。ChatGPT與meta旗下模型以40%的錯(cuò)誤率處于中游，Copilot和Mistral的傳播失誤率則為36.67%。表現(xiàn)相對(duì)優(yōu)異的Claude和Gemini模型，錯(cuò)誤率分別控制在10%和16.67%，成為樣本中可信度較高的選項(xiàng)。
值得關(guān)注的是，AI工具接入網(wǎng)絡(luò)搜索的初衷本是解決信息滯后問(wèn)題。OpenAI技術(shù)人員坦言，當(dāng)前語(yǔ)言模型通過(guò)預(yù)測(cè)"最可能出現(xiàn)的下一個(gè)詞"生成回答，這種機(jī)制決定了其難以確保內(nèi)容的絕對(duì)真實(shí)性。盡管該公司正在開(kāi)發(fā)"不確定性提示"技術(shù)，試圖讓模型對(duì)可疑信息作出標(biāo)注，但業(yè)內(nèi)人士指出，這種改進(jìn)能否從根本上遏制虛假信息傳播，仍有待觀察。
據(jù)Newsguard統(tǒng)計(jì)，去年全球范圍內(nèi)已發(fā)現(xiàn)966個(gè)模仿正規(guī)媒體的AI生成虛假新聞網(wǎng)站，這些平臺(tái)以16種語(yǔ)言發(fā)布不實(shí)內(nèi)容，形成跨國(guó)界的虛假信息傳播網(wǎng)絡(luò)。研究人員警告，隨著AI工具對(duì)網(wǎng)絡(luò)信息的依賴度加深，如何建立有效的內(nèi)容過(guò)濾機(jī)制，將成為決定技術(shù)發(fā)展方向的關(guān)鍵課題。
更多>同類資訊
?上海創(chuàng)智學(xué)院周年成果豐碩：AI“能動(dòng)”創(chuàng)新、可解釋領(lǐng)跑、成本驟降引關(guān)注?09-15
Stable Audio 2.5正式發(fā)布：2秒生成3分鐘音頻，新增修補(bǔ)能力支持本地部署09-15
魏少軍直指算力命脈：ASIC能否為中國(guó)AI裝上“自主心臟”？09-15
人形機(jī)器人賽道添新軍，拓斯達(dá)攜拓星紀(jì)系列開(kāi)啟工業(yè)場(chǎng)景新征程今年上半年，拓斯達(dá)先后完成了雙臂智能機(jī)器人、具身智能碼垛工作站等產(chǎn)品驗(yàn)證和實(shí)地應(yīng)用，為人形機(jī)器人的機(jī)械臂本體硬件、運(yùn)動(dòng)控制系統(tǒng)以及端到端大模型等算法做出充足的準(zhǔn)備。 拓斯達(dá)在2017年開(kāi)設(shè)了該板塊，主要是提供…09-15
Snap邁向2026關(guān)鍵年：AR眼鏡Specs領(lǐng)航，AI賦能與組織創(chuàng)新并進(jìn)Specs不僅是Snap當(dāng)前發(fā)展的核心重點(diǎn)，在斯皮格爾看來(lái)，AR眼鏡與人工智能的深度結(jié)合，更將從根本上改變?nèi)藗児ぷ鳌W(xué)習(xí)與娛樂(lè)的方式，開(kāi)啟全新的生活與生產(chǎn)模式。 斯皮格爾表示，這些實(shí)體商品的功能未來(lái)可通過(guò)“…09-15
當(dāng)AI深度介入親密關(guān)系：一場(chǎng)關(guān)于情感依賴與心理失控的警示09-15權(quán)益基金發(fā)行升溫：多只規(guī)模超10億，科技成長(zhǎng)或成未來(lái)經(jīng)濟(jì)新引擎09-15
當(dāng)AI成為親密關(guān)系“替身”：我們?nèi)绾卧谔摂M溫柔鄉(xiāng)里守住真實(shí)？09-15
?研究人員推出集成AI同行評(píng)審的預(yù)印本平臺(tái)，助力構(gòu)建科研新生態(tài)與出版新范式?09-15
博士CEO領(lǐng)路探秘：上海創(chuàng)智學(xué)院里，優(yōu)秀青年共筑AI創(chuàng)新夢(mèng)09-15張朝陽(yáng)橫渡海灣后談互聯(lián)網(wǎng)：視頻自媒體熱度不減，倡導(dǎo)長(zhǎng)期主義與創(chuàng)新賽道09-15
“海馬emoji”究竟存不存在？ChatGPT等AI陷入集體認(rèn)知“迷局”09-15
《服貿(mào)·2025》來(lái)襲！以游戲之姿探秘服貿(mào)會(huì)上的機(jī)器人“天團(tuán)”今年服貿(mào)會(huì)迎來(lái)版本更新，將“數(shù)智領(lǐng)航，服貿(mào)煥新”作為年度主題。 本屆服貿(mào)會(huì)更加注重科技化、智能化應(yīng)用，利用AI+會(huì)展模式突出科技辦展特點(diǎn)。記者帶你用游戲視角，解鎖服貿(mào)會(huì)上的機(jī)器人“天團(tuán)”。 新華社音視頻部制…09-15
?2025世界機(jī)器人大賽山東省賽在濱城開(kāi)賽 近300名青少年競(jìng)技展風(fēng)采?世界機(jī)器人大賽作為全球極具影響力的青少年科技競(jìng)技平臺(tái)，本次高水平賽事的舉辦，讓青少年在競(jìng)技技能比拼中，生動(dòng)展現(xiàn)科技教育的發(fā)展，既是青少年創(chuàng)新實(shí)踐成果的集中展示，也是點(diǎn)燃科學(xué)夢(mèng)想、培育未來(lái)英才的重要載體，更是濱…09-15
螞蟻開(kāi)源外灘大會(huì)發(fā)布報(bào)告：AI編程工具崛起，中美開(kāi)源生態(tài)路線分化明顯09-15點(diǎn)擊查看更多 +全站最新
方程豹鈦7棄自然吸氣選渦輪增壓：動(dòng)力、混動(dòng)優(yōu)勢(shì)與適用人群深度剖析
8月電車銷量占比超34%，油車仍占45%，混動(dòng)為何難敵純電？
八部門(mén)聯(lián)合出臺(tái)汽車穩(wěn)增長(zhǎng)方案 2025年新能源汽車銷量劍指1550萬(wàn)輛
重慶高新區(qū)8英寸MEMS芯片產(chǎn)業(yè)基地通線投產(chǎn) 助力智能產(chǎn)業(yè)與智慧城市建設(shè)
十六載深耕結(jié)碩果："長(zhǎng)沙造"新能源閃耀世界 政企共繪星城智造新藍(lán)圖
奧迪E5 Sportback：德系機(jī)械美學(xué)邂逅中國(guó)智慧靈感的豪華純電杰作熱門(mén)內(nèi)容?上海創(chuàng)智學(xué)院周年成果豐碩：AI“能動(dòng)”創(chuàng)新、可解釋領(lǐng)跑、成本驟降引關(guān)注?Stable Audio 2.5正式發(fā)布：2秒生成3分鐘音頻，新增修補(bǔ)能力支持本地部署魏少軍直指算力命脈：ASIC能否為中國(guó)AI裝上“自主心臟”？人形機(jī)器人賽道添新軍，拓斯達(dá)攜拓星紀(jì)系列開(kāi)啟工業(yè)場(chǎng)景新征程Snap邁向2026關(guān)鍵年：AR眼鏡Specs領(lǐng)航，AI賦能與組織創(chuàng)新并進(jìn)當(dāng)AI深度介入親密關(guān)系：一場(chǎng)關(guān)于情感依賴與心理失控的警示
本文鏈接：http://www.yifxia.cn/showinfo-45-27532-0.html研究顯示：十大生成式AI工具傳播虛假信息概率攀升，網(wǎng)絡(luò)搜索功能成“雙刃劍”
聲明：本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí)，若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。郵件：2376512515@qq.com
上一篇： 周鴻祎發(fā)聲：AI非但不會(huì)搶飯碗 反而帶來(lái)5個(gè)普通人逆襲的黃金機(jī)遇
下一篇： ?上海創(chuàng)智學(xué)院周年成果豐碩：AI“能動(dòng)”創(chuàng)新、可解釋領(lǐng)跑、成本驟降引關(guān)注?
Copyright ? 2016-2023 天津谷騏科技有限公司 版權(quán)所有 sitemap.xml
違法及侵權(quán)請(qǐng)聯(lián)系：2376512515@qq.com 津ICP備18001702號(hào)
津公網(wǎng)安備 12010102000574號(hào)
