前OpenAI研究員轉投對手Anthropic 領軍AI超對齊團隊

Featured Image
Jan Leike,一位領先的AI研究人員,本月早些時候辭去OpenAI的職務,在公開批評該公司的AI安全方法之前,加入了OpenAI的競爭對手Anthropic,擔任新的“超對齊”團隊負責人。Leike在X上的一篇文章中表示,他在Anthropic的團隊將專注於AI安全和安全性的各個方面,具體包括“可擴展監督”、“從弱到強的泛化”和自動對齊研究。一位知情人告訴TechCrunch,Leike將直接向Anthropic的首席科學官Jared Kaplan匯報,Anthropic目前正在進行可擴展監督的研究,即控制大規模AI行為以可預測和理想的方式的技術,這些研究人員將轉而向Leike匯報。在許多方面,Leike的團隊在使命上與OpenAI的超對齊團隊相似。超對齊團隊由Leike共同領導,其雄心勃勃的目標是在未來四年內解決控制超智能AI的核心技術挑戰,但往往受到OpenAI領導層的束縛。Anthropic通常試圖將自己定位為比OpenAI更注重安全性的公司。Anthropic的CEO Dario Amodei曾是OpenAI的研究副總裁,據報導,他因對公司的發展方向(即OpenAI日益增長的商業重心)有分歧而與OpenAI分道揚鑣。Amodei帶來了一些前OpenAI的員工來創辦Anthropic,包括OpenAI的前政策主管Jack Clark。節省高達800美元舊金山,10月28日至30日[節省Techcrunch活動節省高達800美元舊金山,10月28日至30日[節省中國已經關閉了第三個由國家支持的投資基金,以增強其半導體行業的實力,減少對其他國家的依賴,無論是在使用還是製造晶圓方面,都優先考慮什麼… [![圖1:中國470億美元的半導體基金讓芯片主權成為首要問題,而蘋果年度的最佳和最具創新性軟件清單則將注意力轉向小傢伙。 [![圖2:蘋果設計獎的提名者突出獨立和初創企業,大部分忽略了AI(除了間諜軟件製造商的創始人Bryan Fleming表示,pcTattletale“已經結束業務,完全關閉”,之前遭遇了一次數據泄露。 [![圖3:間諜軟件製造商pcTattletale因數據泄露而關閉AI模型總是讓我們感到驚訝,不僅是它們能做什麼,還有它們不能做什麼,以及為什麼。一種有趣的新行為既表面又揭示了這些… [![圖4:AI模型有最喜歡的數字,因為它們認為它們是星期五,Pal Kovacs正在聽搖滾和金屬巨頭Bring Me The Horizon的期待已久的新專輯時,他注意到在… [![圖5:搖滾樂隊的隱藏黑客主題網站獲得Jan Leike,一位領先的AI研究人員,本月早些時候辭去OpenAI的職務,在公開批評該公司的AI安全方法之前,加入了OpenAI的競爭對手Anthropic,擔任新的… [![圖6:Anthropic聘請前OpenAI安全主管來領導新的圖像Anthropic歡迎來到TechCrunch Fintech!本週,我們將研究Synapse破產對金融科技行業的長期影響,Majority的令人印象深刻的ARR里程碑等等!要獲得一個摘要… [![圖7:BaaS金融科技Synapse的消亡可能破壞其他初創企業的籌資前景YouTube的免費可玩遊戲不直接挑戰應用商店模式或違反蘋果的規定。然而,它們與App Store的免費遊戲競爭。 [![圖8:YouTube的免費遊戲目錄“可玩遊戲”向所有**特色文章** [2024年技術的全面列表—————————————————————————————————— 2024年,技術裁員浪潮仍在持續進行。根據獨立裁員追踪器Layoffs.fyi的數據,經過2022年和2023年的大幅裁員,今年已經有254家公司裁員6萬人。企業

Share this content: