AI界地震！美國對OpenAI展開調查！監管風暴來襲！
來源：清元宇宙還記得5月OpenAI在國會山聽證會上的自信、坦誠、游刃有余的問答嗎？那時的Sam Altman可謂意氣風發，在耐心、友好的國會議員面前，就AI立法、大模型安全性問題侃侃而
美國白宮12日發布聲明稱，美國商務部長雷蒙多等政府官員將在白宮召集人工智能（AI）企業的高管，擬通過共享風險信息、引入第三方漏洞檢測、使用限制指南等措施，加強這項新技術的安全應用。
根據聲明，Adobe、Cohere、IBM、英偉達、Palantir、Salesforce、Scale AI和Stability八家涉及人工智能的公司承諾采取自愿監管措施管理AI技術開發風險，包括在推出前展開安全測試、構建安全放在首位的系統、為AI生成內容添加數字水印等。
在確保產品安全方面，八家公司承諾在發布AI系統之前，將對其系統進行內部和外部安全測試。這項測試將部分由獨立專家進行，旨在防范人工智能可能造成的風險，如生物安全和網絡安全，以及其更廣泛的社會影響。此外，公司還承諾在整個行業以及與政府、民間社會和學術界共享有關管理人工智能風險的信息，包括安全最佳實踐和技術合作。
這些公司還承諾將安全放在系統構建的首位，承諾將資金用于網絡安全和內部威脅保障措施，以保護專有和未發布的大模型。這些大模型是人工智能系統中最重要的部分，八家公司一致認為，在充分考慮安全風險后再發布大模型至關重要。此外，公司還致力于促進第三方發現和報告其人工智能系統中的漏洞，從而使這些問題能快速發現和修復。
在贏得公眾信任方面，這些公司致力于開發強大的技術機制，以確保用戶知道內容何時由人工智能生成，例如水印系統。這一行動使人工智能的創造力和生產力得以蓬勃發展，且減少了欺詐和欺騙的危險。此外，相關公司承諾公開報告其人工智能系統的功能、局限性以及適當和不當使用的領域。
加強人工智能的應用監管日益成為全球焦點。歐洲議會6月表決通過《人工智能法案》授權草案，該法案有望于今年年底獲得最終批準。美國《外交》雜志日前刊文指出，人工智能在2035年可能無處不在：AI系統將管理醫院，運營航空公司，并在法庭上較勁。屆時，生產力將飆升至前所未有的水平，無數以前難以想象的企業以驚人的速度擴張，但在應用風險的防范方面需要隨之升級。業界普遍認為，如何更好地平衡與銜接技術創新和制度創新，還需在實踐中不斷修正。（記者閆磊）
本文鏈接：http://www.yifxia.cn/showinfo-45-1974-0.html美國強化人工智能行業安全應用
聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：2376512515@qq.com
上一篇： 人工智能如潮涌來，如何筑牢我國發展優勢
Copyright ? 2016-2023 天津谷騏科技有限公司 版權所有 sitemap.xml
違法及侵權請聯系：2376512515@qq.com 津ICP備18001702號
津公網安備 12010102000574號