Ctrl + Altman + Del

[mtr]

OpenAI 原 CEO Sam Altman 早幾日突然被炒 ...

可能原因之一：同 OpenAI 最大金主微軟爭生意。

https://twitter.com/mtrainier2020/statu ... 3154783380

从我的使用模式上，就能看到隐藏的矛盾。我最早是用openai API的。但是为了方便以及其他原因我后面主要使用的是azure版的openai。我以前云服务，aws为主，azure为辅。

现在我已经azure为主，aws为辅了。

而且不仅仅是openai的API，其他的种种服务，比如speech service我都是用的azure 全家桶。但是如果用户stuck在 openai的API上，就不会有这种效果。

所以微软肯定希望更大的控制，比如让新版本的先上azure api，哪怕0.5个版本领先也行。大量企业用户，专业用户会优先选择azure 全家桶，这背后至少是10个billion以上的生意，是超越aws的一个机会。 但是如果这么搞，openai肯定要被骂。

[mtr]

可能原因二：OpenAI 的董事局不滿 Altman 管理下 GPT 對數據安全的保護能力。

https://twitter.com/Danielw19410/status ... 7379184932

... 最近在开发者大会有人爆料自己上传的专有数据被GPT泄露，可能这才是liya下定今天行动的原因。之前Dwarkesh Patel播客中回答的安全人员能够很好保护数据安全目前看已经很难坚持了。

[joe]

[mtr]

https://twitter.com/hkepcmedia/status/1 ... 7697002838

外媒報導，OpenAI 董事局於 18 日解僱執行長 Sam Altman，引起金主和OpenAI高層的不滿。Microsoft、Thrive Capital、紅杉資本和 Tiger Global 等表示將停止支持 OpenAI ，高層紛紛表示將離開公司。結果 OpenAI 淆底正與 Sam Altman 討論復職可能。

據 CNBC 報導，在 Sam Altman 被董事會解聘的一天後，OpenAI 的金主正在推動讓 Sam Altman 重新擔任執行長，以各種手段迫使OpenAI 董事會屈服。

此外，Sam Altman 被解聘消息傳出後，其他高層也紛紛表示將離開公司，紅杉資本更表示如果 Sam Altman 回歸 OpenAI ，他們將支持他創建一家新的初創公司。

根據 The Verge 的報導，OpenAI 董事局態度出現 180 度轉變，正與Sam Altman 討論他重新擔任執行長的事宜。然而，除非 OpenAI 董事會出現重大的治理改革，否則 Sam Altman不考慮回歸。

有消息指出，Sam Altman 和創辦人 Greg Brockman 正在與投資者討論創辦另一家公司的事宜。

[joe]

[mtr]

最新流傳的版本。

https://twitter.com/xiaohuggg/status/17 ... 9769335909

在Sam 奥特曼被解雇的前一天，他在APEC的一次会议上，他暗示了OpenAI已经开发出比现在GPT 4更加强大，让人无法想象，远远超出人们期待的东西...

这可能是被解雇的导火索，导致Ilya等董事会成员认为他隐瞒了很多信息，没有和董事会分享。

Sam 称：“模型的能力将会有一个没人预料到的飞跃。[这将会]与人们预期不同。将会是惊人的！”

这似乎在暗示OpenAI内部可能已经实现了技术和模型上的巨大飞跃。而Ilya 等董事会成员可能因此感到恐慌或者不知情，所以采取了行动。认为奥特曼在隐瞒一些技术进展，没有分享信息

[mtr]

GPT5 將會有自主意識！?

https://www.facebook.com/chiachiku1220/ ... T3ejbb6adl

這是 OpenAI 四巨頭的合照。



左邊是技術長 Mira Murati，現在暫任 CEO。

中間靠左是 Sam Altman，他旁邊是 Greg Brockman，昨天以前是 CEO 跟董事長身份，今天雙雙「被離職」。

右邊是這次發動閃電作戰的主要人物，Ilya Sutskever，也是 OpenAI 的首席科學家。

--

Ilya 是「AI 教父」 Geoffrey Hinton 實驗室的學生，沒有 Hinton 就沒有現在的類神經網路。沒有 Ilya 也不會有現在的 ChatGPT。

創辦 OpenAI 之前，Ilya 不管在 AI 的圖像辨識或是語言翻譯上面，都有超好的成果，2013 年進到 Google Brain 擔任科學家。

2015 年，Sam Altman 和 Greg Brockman 邀請 Ilya 一起創辦 OpenAI，Google 知道後，開出高於 OpenAI 兩三倍的薪水--接近兩百萬美元，想留住 Ilya，但 Ilya 還是決定投入當時仍然非營利的 OpenAI。

--

今年 ChatGPT 爆紅後，Ilya 跟 Sam 開始有一些矛盾出現，最主要是出在「安全性」上面。

Ilya 很早就覺得 AI 產生了「意識」，然後最近的發展讓他越來越不安，覺得我們對 AI 限制的工具比不上 AI 進步的速度，遲早會出現大問題。

所以他在今年七月時，在 OpenAI 內部成立了新的團隊，希望要好好研究「超級對齊」（Superalignment），來確保未來的「超級 AI」不會失控。

但 AI 實在太紅，到 OpenAI Dev Day 達到了高峰，Sam altman 也對外宣佈了要開始訓練下一世代的 GPT-5、並準備開始募資。

在這個關鍵時刻，Ilya 忍不住了，他的超級對齊預計是四年完成，如果超級 AI 在那之前出現，他無法保證這個智慧體是「足夠安全」的，所以聯合了董事會，發動了這次的罷免。

我在猜這可能也是董事會覺得 Sam 「不老實」的主要地方，你的首席科學家覺得超級 AI 還不安全，但你沒跟我們說。

--

看完相關資料，就連我是超級 AI 愛好者，都覺得好像可以慢一下下比較好。

Ilya 不是一般人，他對 AI 的理解也不是半吊子，他的判斷是能夠限制 gpt-4 的機制限制不了 gpt-5，這件事我選擇相信他。

那 gpt-5 需要什麼樣的「超級對齊」能力呢？ Ilya 心中有答案，他說最好是「能像父母看待孩子那樣看待人類的 AI」。

但他並不是反對「超級AI」出現，他的前提是「要有更多優秀的人工智慧專家」，他認為只要有足夠多的使用者跟專家，大家一起展望 AI 的未來、討論「我們希望 AI 是什麼樣子」，到時將會出現「非常親近人類的超級AI」，那時人類就不用擔心會滅亡。

--


很難想像下一代 AI 到底是多強大，以至於讓 Ilya 這樣的專家會這麼擔心、甚至用激烈的手段來阻止開發。

但如果代價是人類毀滅的風險，那...Sam 你先休息一下，超級 AI 晚點出來我 OK。

至於「超級對齊」具體應該怎麼做，Ilya 也有想法，應該會是「以 AI 治 AI 」的路線，需要先打造一個能「自動對齊」人類價值觀、「喜歡人類」的強大 AI，然後透過大量的算力進行自動對齊。

AI 領域真是越來越有趣了，Ilya 甚至認為 AI 已經是「非生物」的生命體，改天再來整理他對 AI 的更多想法。

（以上分享沒有確定的消息。如有雷同，純屬巧合。）

[joe]

[mtr]

https://twitter.com/hkepcmedia/status/1 ... 6711107609

歷時 5 天的政變結束，OpenAI 宣佈董事局與 Sam Altman 原則上達成協議，將重返公司擔任執行長，公司將回復原狀，唯一改變是反對派董事被團滅，還有就是 Microsoft 的 AI 大夢，啪一聲、沒了。

據了解，OpenAI 董事局答應 Sam Altman 重返公司擔任執行長，並且答應重組董事局，以挽救 OpenAI 全體員工出走的困境，新董事除保留了 Quora 執行長 Adam D'Angelo，所有涉及內訌的反對派董事全部不會留下。

新董事成員除了執行長 Sam Altman、董事長 Greg Brockman 及Quora 執行長 Adam D'Angelo，新增加了 Salesforce 前執行長 Bret Taylor、前美國財政部長 Larry Summers。

此外，新董事局同意聘請外部的獨立律師事務所，對這起風波進行詳細調查，追究涉事人員並將追究責任。

雖然 Microsoft 的 AI 夢碎，但 Microsoft 執行長相當有風度，在 Twitter 上表示無論 Sam Altman 最後選擇哪裡，都會提供最大的支持。

由於 OpenAI 董事局最多可達 9 人，外界傳言 OpenAI 有意邀請最大股東兼合作夥伴 Microsoft 進入董事局。

[joe]