AIGC動態歡迎閱讀

原標題：谷歌起草“機器人憲法”，以確保 AI 機器人不會傷害人類
關鍵字：報告,機器人,系統,模型,任務
文章來源：人工智能學家
內容字數：2370字

內容摘要：

來源：工業機器人
隨著機器人在生活、工作中的普及，機器人與人的協調共生、安全共存愈發引起大家的關注。谷歌DeepMind機器人團隊2024年1月4日公布了三項新進展，稱這些進展將幫助機器人在做出更快、更好、更安全的決策。此次更新引入了AutoRT、SARA-RT和RT-Trajectory三個系統，分別改進了機器人的數據收集、速度和泛化。其中較為引人注目的是，DeepMind起草了“機器人憲法”，并將其引入數據收集系統AutoRT，以確保機器人助理不會傷害到人類。“機器人憲法”的靈感來自美國科幻小說家艾薩克·阿西莫夫（Isaac Asimov）提出的“機器人三定律”，它被描述為一組“以安全為重點的提示”，指示LLM避免選擇涉及人類、動物、尖銳物體甚至電器的任務。AutoRT是一個數據收集系統，幫助訓練機器人適應現實世界，它具有安全護欄。
機器人憲法
AutoRT是一個數據收集系統，可以使用視覺語言模型（VLM）和大型語言模型（LLM）協同工作，以了解環境、適應陌生環境、并決定適當的任務。
該系統設有安全護欄，其中之一是為其決策者提供“機器人憲法”——一套以安全為重點的提示，以便在為機器

原文鏈接：谷歌起草“機器人憲法”，以確保 AI 機器人不會傷害人類

聯系作者

文章來源：人工智能學家
作者微信：AItists
作者簡介：致力成為權威的人工智能科技媒體和前沿科技研究機構