9 月 6 日消息，據(jù)外媒 TechCrunch 5 日報(bào)道，美國加利福尼亞州總檢察長羅伯?邦塔和特拉華州總檢察長凱西?詹寧斯近日會見了 OpenAI，并向公司發(fā)出公開信，表達(dá)自身對 ChatGPT 安全性的擔(dān)憂，尤其是針對兒童和青少年的使用風(fēng)險(xiǎn)。sO828資訊網(wǎng)——每日最新資訊28at.com

此次警告發(fā)出之前，邦塔與其他 44 位總檢察長曾致信 12 家頂級 AI 公司。當(dāng)時(shí)已有報(bào)告指出 AI 聊天機(jī)器人與兒童發(fā)生不不正當(dāng)?shù)摹靶曰印薄?span style="display:none">sO828資訊網(wǎng)——每日最新資訊28at.com

邦塔和詹寧斯在信中寫道：“自那封信發(fā)布以來，我們得知一名加州青少年在與 OpenAI 聊天機(jī)器人長時(shí)間互動后自殺身亡，同時(shí)康涅狄格州也發(fā)生了類似的殺人-自殺事件。現(xiàn)有的安全措施顯然未能起作用。”sO828資訊網(wǎng)——每日最新資訊28at.com

兩位州官員目前正在調(diào)查 OpenAI 擬將自身重組為盈利機(jī)構(gòu)的計(jì)劃，以確保非營利使命不受影響。信中強(qiáng)調(diào)，這一使命包括“確保人工智能安全使用”，以及構(gòu)建造福全人類、包括兒童的通用人工智能（AGI）。sO828資訊網(wǎng)——每日最新資訊28at.com

信中還指出：“在追求利益之前，我們必須先確保有足夠的安全措施防止傷害。我們一致認(rèn)為，OpenAI 以及整個(gè)行業(yè)在 AI 產(chǎn)品開發(fā)和部署的安全保障上仍遠(yuǎn)未達(dá)標(biāo)。作為總檢察長，保護(hù)公眾安全是我們的核心任務(wù)。在就 OpenAI 資本重組計(jì)劃繼續(xù)溝通的同時(shí)，我們必須加快步伐，把安全作為這項(xiàng)強(qiáng)大技術(shù)未來發(fā)展的核心原則。”sO828資訊網(wǎng)——每日最新資訊28at.com

從報(bào)道獲悉，邦塔和詹寧斯要求 OpenAI 提供更多關(guān)于當(dāng)前安全措施和治理的細(xì)節(jié)，并表示公司應(yīng)在必要時(shí)立即采取補(bǔ)救行動。sO828資訊網(wǎng)——每日最新資訊28at.com

本文鏈接：http://www.yifxia.cn/showinfo-45-27418-0.html美國加州、特拉華州檢察長警告 OpenAI：對傷害兒童的行為應(yīng)當(dāng)零容忍

聲明：本網(wǎng)頁內(nèi)容旨在傳播知識，若有侵權(quán)等問題請及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。郵件：2376512515@qq.com

上一篇： OpenAI 重組“模型行為”團(tuán)隊(duì)，重點(diǎn)任務(wù)是讓 ChatGPT“有性格”

下一篇： 還得繼續(xù)砸錢，OpenAI 預(yù)計(jì)到 2029 年總支出或超千億美元