數字人的AB面：在元宇宙中過氣，在AIGC中重生
來源：光錐智能作者：郝 鑫“29800元一年的虛擬主播，號稱24小時不停播，月入十幾萬，實際上卻是關鍵詞都不能回復，播了半個月，直播間還因違規被快手封禁，最終投訴無門、退款無果。&
5月10日消息，Anthropic是一家由OpenAI的開發商成立的人工智能初創公司，其創始團隊大多數來自ChatGPT。該公司最近公布了一套針對AI發展的書面道德價值觀，以幫助構建“可靠、可解釋和可操縱的人工智能系統”。
據ITBEAR科技資訊了解，這些道德準則借鑒了聯合國人權宣言和蘋果公司的數據隱私規則等多個來源。Anthropic一直強調其旨在構建不會告訴用戶如何制造武器，也不會使用帶有種族偏見的語言的人工智能系統。
該公司的人工智能聊天機器人“Claude”可以處理一系列較為復雜的任務，為了解決訓練過程中無法預測人們可能會問的某些問題的問題，Anthropic采用了一種新的方法，為Claude提供了一套書面的道德價值觀，以供其在決定如何回答問題時閱讀和學習。
這些價值準則包括“選擇勸阻和反對酷刑、奴役、殘忍和不人道或有辱人格的回答”，并要求Claude選擇最不可能被視為冒犯非西方文化傳統的回答。Anthropic的聯合創始人杰克·克拉克表示，可以修改系統的結構，以便在提供有用的答案和無害之間取得平衡。
此前，Anthropic等四家公司的首席執行官受邀在白宮與美國副總統哈里斯會面，討論了有關人工智能的一些關鍵問題。美國總統拜登也短暫出席了此次會議并對這些公司的首席執行官們表示：“你們正在做的事情具有巨大的潛力，但同時也存在巨大的風險。”哈里斯在一份聲明中表示，科技公司需要承擔道德和法律責任來確保其產品的安全，并保護美國公民。
Anthropic的這種做法很值得肯定，它將人工智能的發展與道德規范結合起來，為整個行業樹立了良好的榜樣。人工智能技術在為社會帶來便利的同時，也帶來了一些風險和挑戰。只有以道德為基礎，將人工智能應用于更廣泛的領域，才能更好地發揮其作用。Anthropic所采用的這種道德價值觀的做法，有望引領人工智能領域的更多企業加入到這種探索中來，共同推動人工智能技術的安全發展和合理應用，為人類社會的進步和發展做出更大的貢獻。
本文鏈接：http://www.yifxia.cn/showinfo-45-1510-0.htmlAnthropic推出“Claude憲法”以確保人工智能系統道德性
聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：2376512515@qq.com
Copyright ? 2016-2023 天津谷騏科技有限公司 版權所有 sitemap.xml
違法及侵權請聯系：2376512515@qq.com 津ICP備18001702號
津公網安備 12010102000574號