OpenAI內部安全委員會成立:自我監管足夠嗎?

Featured Image
OpenAI成立了一個新的委員會,負責監督與公司項目和運營相關的“關鍵”安全和保安決策。然而,OpenAI選擇用公司內部人員,包括首席執行官Sam Altman,而不是外部觀察員來組建這個委員會,這一舉動肯定會引起倫理學家的不滿。根據該公司企業博客上的一篇文章,Altman和其他安全和保安委員會成員,包括OpenAI董事會成員Bret Taylor、Adam D’Angelo和Nicole Seligman,還有首席科學家Jakub Pachocki、Aleksander Madry(負責OpenAI的“準備”團隊)、Lilian Weng(安全系統負責人)、Matt Knight(安全負責人)和John Schulman(“對齊科學”負責人),將負責在接下來的90天內評估OpenAI的安全流程和防范措施。該委員會隨後將向OpenAI董事會提交其結果和建議供審查,OpenAI表示,屆時將以與安全和保安一致的方式發布任何採納的建議的更新。OpenAI寫道:“OpenAI最近開始訓練其下一代模型,我們預計這些系統將使我們在通往\[人工通用智能\]的道路上達到更高的能力水平。”“雖然我們為能力和安全兼具的領先行業模型感到自豪,但我們在這一重要時刻歡迎進行充分的辯論。”在過去幾個月中,OpenAI在技術團隊的安全方面見證了一些知名成員的辭職,其中一些前員工對他們所認為的人工智能安全意識的有意忽視提出了擔憂。Daniel Kokotajlo是OpenAI治理團隊的一員,在4月份他在個人博客上寫道,他對OpenAI在發布能力越來越強的人工智能時是否“負責任”失去了信心。OpenAI的聯合創始人兼前首席科學家Ilya Sutskever在之後也離開了OpenAI,據報導,這部分是由於Altman急於推出以人工智能為動力的產品而忽視了安全工作。最近,前DeepMind研究員Jan Leike在擔任OpenAI的安全研究角色時辭職,他在X上的一系列帖子中表示,他認為OpenAI在AI安全方面“不會走上正軌”。AI政策研究員Gretchen Krueger上週離開OpenAI時也重申了Leike的說法,呼籲OpenAI改善其負責任和透明度以及“使用自身技術的小心程度”。《Quartz》報導稱,除了Sutskever、Kokotajlo、Leike和Krueger外,自去年底以來,OpenAI至少有五名最關注安全的員工已經離職或被迫離職,其中包括前OpenAI董事會成員Helen Toner和Tasha McCauley。在《經濟學人》週日發表的一篇專欄中,Toner和McCauley寫道,他們不相信OpenAI在Altman的領導下能夠自我約束。“基於我們的經驗,我們認為自我治理無法可靠地承受利潤刺激的壓力,”Toner和McCauley說。對於Toner和McCauley的觀點,TechCrunch本月早些時候報導稱,OpenAI的超級對齊團隊(負責開發管理和指導“超級智能”人工智能系統的方法)被承諾獲得公司計算資源的20%,但實際上很少得到其中的一小部分。超級對齊團隊已經被解散,其大部分工作由Schulman和OpenAI去年12月成立的安全咨詢委員會負責。OpenAI主張對人工智能進行監管,同時也努力塑造相關法規,並在內部和越來越多的律師事務所聘請了遊說者。

【Save Up To $800】
舊金山,10月28日-30日【Save Techcrunch活動】【Save Up To $800】
舊金山,10月28日-30日【Save Quartz報導】
除了Sutskever、Kokotajlo、Leike和Krueger之外,至少有五名OpenAI最關注安全的員工自去年底以來要麼辭職要麼被迫離職,包括前OpenAI董事會成員Helen Toner和Tasha McCauley。在《經濟學人》週日發表的一篇專欄中,Toner和McCauley寫道,他們不相信OpenAI在Altman的領導下能夠自我約束。Toner和McCauley說:“基於我們的經驗,我們認為自我治理無法可靠地承受利潤刺激的壓力。”對於Toner和McCauley的觀點,TechCrunch本月早些時候報導稱,OpenAI的超級對齊團隊(負責開發管理和指導“超級智能”人工智能系統的方法)被承諾獲得公司計算資源的20%,但實際上很少得到其中的一小部分。超級對齊團隊已經被解散,其大部分工作由Schulman和OpenAI去年12月成立的安全咨詢委員會負責。OpenAI主張對人工智能進行監管,同時也努力塑造相關法規,並在內部和越來越多的律師事務所聘請了遊說者。

【節省高達800美元】
舊金山,10月28日至30日【TechCrunch活動 節省高達800美元】
舊金山,10月28日至30日【Quartz報導】
除了Sutskever、Kokotajlo、Leike和Krueger之外,至少有五名OpenAI最關注安全的員工自去年底以來要麼辭職要麼被迫離職,包括前OpenAI董事會成員Helen Toner和Tasha McCauley。在《經濟學人》週日發表的一篇專欄中,Toner和McCauley寫道,他們不相信OpenAI在Altman的領導下能夠自我約束。Toner和McCauley說:“基於我們的經驗,我們認為自我治理無法可靠地承受利潤刺激的壓力。”對於Toner和McCauley的觀點,TechCrunch本月早些時候報導稱,OpenAI的超級對齊團隊(負責開發管理和指導“超級智能”人工智能系統的方法)被承諾獲得公司計算資源的20%,但實際上很少得到其中的一小部分。超級對齊團隊已經被解散,其大部分工作由Schulman和OpenAI去年12月成立的安全咨詢委員會負責。OpenAI主張對人工智能進行監管,同時也努力塑造相關法規,並在內部和越來越多的律師事務所聘請了遊說者。

【Save Up To $800】
舊金山,10月28日至30日【Save Techcrunch活動 節省高達$800】
舊金山,10月28日至30日【Save Quartz報導】
除了Sutskever、Kokotajlo、Leike和Krueger之外,至少有五名OpenAI最關注安全的員工自去年底以來要麼辭職要麼被迫離職,包括前OpenAI董事會成員Helen Toner和Tasha McCauley。在《經濟學人》週日發表的一篇專欄中,Toner和McCauley寫道,他們不相信OpenAI在Altman的領導下能夠自我約束。Toner和McCauley說:“基於我們的經驗,我們認為自我治理無法可靠地承受利潤刺激的壓力。”對於Toner和McCauley的觀點,TechCrunch本月早些時候報導稱,OpenAI的超級對齊團隊(負責開發管理和指導“超級智能”人工智能系統的方法)被承諾獲得公司計算資源的20%,但實際上很少得到其中的一小部分。超級對齊團隊已經被解散,其大部分工作由Schulman和OpenAI去年12月成立的安全咨詢委員會負責。OpenAI主張對人工智能進行監管,同時也努力塑造相關法規,並在內部和越來越多的律師事務所聘請了遊說者。

Share this content:

熱門内容

  • AI資訊
  • AI工具
  • AI繪圖指令
  • 食譜
  • ai生成圖片

    Introduction MyEdit  Midjourney DALL·E3 Stable Diffusio…

    Read more


  • Janitor Ai

    Introduction Platform Overview 1 Account Terminati…

    Read more


  • Stable Video Diffusion 穩定的圖片轉動畫Demo

    Stable Video Diffusion 穩定的圖片轉動畫Demo

    Stable Video Diffusion能讓你用一張圖片變成動畫. 限制 Share this conte…

    Read more


  • HappyAccidents

    HappyAccidents

    HappyAccidents是一個提供預先訓練的AI模型庫的平台,讓使用者能夠輕鬆生成圖像而無需手動下載和上傳…

    Read more


  • 文心一格

    文心一格

    「文心一格」是百度推出的一個基於文心大模型能力的AI藝術和創意輔助平台。該平台於2022年8月正式發布,利用百…

    Read more


  • Ai Gallery

    Ai Gallery

    Ai Gallery為用戶提供了一個強大的工具,利用人工智慧技術根據用戶輸入提示產生令人驚嘆的圖像。但是要強調…

    Read more


  • Graviti Diffus

    Graviti Diffus

    Graviti Diffus 是一個免部署的在線平台,專注於提供穩定擴散(Stable Diffusion)的…

    Read more


  • Aitubo

    Aitubo

    Aitubo是一個AI創作工具,它提供了方便且強大的功能,讓使用者能夠透過文本和照片輸入來生成藝術作品。 Ai…

    Read more


  • SeaArt

    SeaArt

    SeaArt AI是一款免費且強大的AI繪畫工具,它能夠幫助使用者無需專業技能,輕鬆生成高品質的繪畫作品。 S…

    Read more


  • Diffusion Art

    Diffusion Art

    DiffusionArt是一個精選的開源AI藝術模型庫,專注於藝術、動漫和照片逼真圖像的生成,涵蓋數十個類別。…

    Read more


  • 蜜汁檸檬雞翼

    蜜汁檸檬雞翼

    蜜汁檸檬雞翼簡介:這道菜以雞翼為主要食材,搭配蜜汁和檸檬的酸甜滋味,口感香脆多汁,讓人食指大動。準備時間:15…

    Read more


  • 清爽涼拌黃瓜

    清爽涼拌黃瓜

    清爽涼拌黃瓜簡介:這道涼拌黃瓜清爽爽脆,適合夏天食用,消暑解渴。準備時間:10分鐘烹飪時間:0分鐘食用人數:2…

    Read more


  • 清炒秋葵

    清炒秋葵

    清炒秋葵簡介:這道菜以新鮮的秋葵為主要食材,簡單清炒保留了秋葵的鮮甜口感,是一道清爽可口的家常菜。準備時間:1…

    Read more


  • 清炒時蔬

    清炒時蔬

    清炒時蔬簡介:這道菜以時令蔬菜為主要食材,經過清炒後,保留了蔬菜的鮮甜口感,營養豐富,清淡可口。準備時間:10…

    Read more


  • 涼拌海帶絲

    涼拌海帶絲

    涼拌海帶絲簡介:這道清涼爽口的涼拌海帶絲適合夏日食用,不僅口感爽脆,而且營養豐富。準備時間:15分鐘烹飪時間:…

    Read more


  • 清炒芥蘭

    清炒芥蘭

    清炒芥蘭簡介:這道菜以新鮮的芥蘭為主要食材,經過快速清炒後,保留了蔬菜的鮮甜味道,是一道營養豐富的健康菜品。準…

    Read more


  • 清炒西蘭花

    清炒西蘭花

    清炒西蘭花簡介:這道菜採用新鮮的西蘭花,經過簡單清炒後,保留了原汁原味,清爽可口,是一道健康又美味的家常菜。準…

    Read more


  • 夏日涼拌黃瓜

    夏日涼拌黃瓜

    夏日涼拌黃瓜簡介:清爽涼口的夏日小食,適合作為開胃菜或下酒菜,簡單易做,清涼解渴。準備時間:10分鐘烹飪時間:…

    Read more


  • 涼拌海帶絲

    涼拌海帶絲

    涼拌海帶絲簡介:這道菜清爽爽口,適合夏天食用,海帶絲富含膳食纖維和礦物質,是一道健康美味的涼拌菜。準備時間:1…

    Read more


  • 清蒸桂花魚

    清蒸桂花魚

    清蒸桂花魚簡介:這道菜以桂花魚為主要食材,經過清蒸後,口感鮮嫩,帶有桂花香氣,清淡可口,是夏日消暑的好選擇。準…

    Read more