如果電腦能思考——但沒有人確保它們想的是幫助人類呢？

改變一切的晚餐

2015 年，幾位科技界最聰明的人坐在一起吃晚餐。其中有 Sam Altman（山姆·奧特曼），一個專門幫助新創公司的年輕人，還有 Elon Musk（伊隆·馬斯克），那個在 Tesla 造電動車、在 SpaceX 造火箭的人。

那天晚上他們聊的不是車子或火箭。他們在聊一件讓他們害怕的事。

Artificial Intelligence（人工智慧）正在變得非常、非常強大。大型科技公司正在打造能辨認人臉、翻譯語言、甚至在遊戲中打敗人類的 AI。但讓他們擔心的是：如果有人打造了一個超級強大的 AI，但它只在乎賺錢呢？或者，如果沒有人教它什麼是對的、什麼是錯的呢？

這樣想好了。想像把一個超級聰明的機器人交給一個只想自私使用它的人。那個機器人可能造成很大的破壞。但如果把同一個機器人交給一群老師、科學家和夢想家，他們想要幫助世界呢？

那場晚餐的對話帶來了一個重大決定：他們要自己建立一家 AI 公司。不是為了賺最多的錢。不是為了贏得比賽。而是為了確保 AI 被安全地打造，並且用來幫助人類。

他們把它叫做 OpenAI。

從零開始

2015 年 12 月 11 日，OpenAI 正式成立。Sam Altman 和 Elon Musk，連同其他科技領袖，捐出了 10 億美元來啟動它。

OpenAI 在 San Francisco（舊金山）設立了一個小實驗室，找來了世界上一些最優秀的 AI 研究人員。他們的使命簡單但大膽：打造對全人類都有益的 AI。

早期很樸實。研究人員沒有華麗的產品可以賣。沒有數百萬的用戶。他們有的是一個夢想和一個問題：我們能教電腦像人類一樣學習嗎？

教電腦玩遊戲

OpenAI 研究人員做的第一件事可能會讓你驚訝——他們教電腦玩遊戲。

為什麼是遊戲？因為遊戲是完美的教室。遊戲有清楚的規則、清楚的目標，而且你可以一次又一次地重新嘗試直到變好。聽起來很熟悉嗎？這跟你學騎腳踏車或彈鋼琴一模一樣。你練習、你失敗、你再試一次。

OpenAI 的電腦做了同樣的事——但快了幾千倍。他們打造了一個 AI，透過嘗試隨機的動作來學習玩電動遊戲，留下有用的動作，丟掉沒用的。在玩了同一個遊戲數百萬次之後，這個 AI 變得比任何人類玩家都厲害。

有一個超酷的時刻，他們的 AI 學會了玩一個叫做 Dota 2 的複雜策略遊戲——這個遊戲需要五個玩家組成團隊合作、做出瞬間決策、智取對手。OpenAI 的 AI 團隊叫做 OpenAI Five，他們打敗了一些世界上最頂尖的人類玩家。

研究人員超興奮的。如果電腦能學會玩複雜的遊戲，那它還能學什麼？

一個更大的想法

遊戲只是開始。OpenAI 團隊開始問一個更大的問題：我們能教電腦理解語言嗎？

語言是人類做過最厲害的事。你現在正在讀這些文字，畫面正在你的腦海中成形。你能理解笑話、故事、詩歌和說明——全部都是從螢幕上的小彎彎曲曲的線條來的。教電腦做到這些似乎幾乎不可能。

但在 2018 年，OpenAI 試了。他們打造了一個叫做 GPT 的東西——全名是 “Generative Pre-trained Transformer”（生成式預訓練變換器）。

用簡單的話說，它是這樣運作的：電腦讀了數百萬本書、文章和網站。它沒有把它們背下來。相反，它學會了規律——比如句子通常怎麼流動、什麼詞通常跟在其他詞後面、故事通常怎麼說。

就像這樣：如果你讀了一千個童話故事，你會開始注意到規律。它們通常以「很久很久以前」開頭。通常有一個英雄、一個問題、和一個幸福的結局。你沒有記住每一個故事——你學會了故事運作的規律。

GPT 做了同樣的事，但是用所有種類的文字。當研究人員要求它寫東西時，它真的能寫！不是完美的——但好到讓每個看到的人都驚呆了。

夢想越來越近了。一個能理解和使用語言的電腦，可以用人們從未想像過的方式來幫助人類。

承諾

到了 2020 年，OpenAI 從一個有大夢想的小實驗室，變成了世界上最受關注的 AI 公司之一。他們的語言 AI，現在叫做 GPT-3，比第一個版本強大了數千倍。它能寫故事、回答問題、解釋科學，甚至寫程式碼。

但大多數人還不能使用它。它很昂貴也很複雜——只有研究人員和大公司才能用。

OpenAI 團隊知道他們手上有一個不可思議的東西。他們也知道，強大的力量伴隨著巨大的責任。他們不斷問自己從第一頓晚餐就在問的同一個問題：我們怎麼確保這個東西是幫助人的？

這個問題的答案將會改變世界。

你知道嗎？

  • OpenAI 的遊戲 AI 學習 Dota 2 時，相當於玩了 45,000 年的遊戲量——但只用了幾個月的電腦時間。
  • OpenAI 這個名字是因為創始人最初想把所有研究都公開、免費分享給每個人。
  • GPT 的第一個版本有 1.17 億個微小的「大腦連結」。到了 GPT-3，有 1,750 億個——大約是 1,500 倍！

想一想！

  • 如果你能打造一個 AI 來解決世界上的一個問題，你會選什麼？為什麼？
  • OpenAI 的創始人擔心 AI 太強大。你覺得科技有可能「太強大」嗎？你能想到其他一開始讓人害怕的發明嗎？
  • 你覺得 AI 應該做哪些事？又有哪些事不應該交給 AI？為什麼？