好,了解,那今天的訪問應該差不多就這樣。謝謝部長,謝謝。
了解,謝謝部長,這就是我所有的問題。部長還有其他想補充的觀點嗎?包括 AI 評測中心或是點子松之類的問題?
我有一個最後的問題:這樣說的話,如果要簡化成想要做不法行為的人其實根本就不受管制,他們就是因為要做不法行為,所以一直使用那個 AI,這樣政府或是政策有辦法去管制他們嗎?或者是這其實對某一些 AI 來說,這些罪犯是他們的客戶,這就變成新的商機?他們一樣會有新的訂閱戶去訂閱他,有一些支持?
但是,大家依舊在用的話,會不會其實幫助有限?
所以,我們的 AI 安全其實在某種程度上,是靠市場驅動的?
了解,所以現在我可以這樣說嗎?就是你越早推出越安全、越對齊的 AI,你就會跑在市場的前面。
我蠻好奇說,部長怎麼看現在的這個賽局的狀況?因為現在演變成 Google 表示他們想要打的是生態系之戰,那 OpenAI 應該要怎麼樣?現在是不是真的沒有其他的選擇?
了解。最後一個問題,我蠻好奇的,因為剛剛部長有講到說,現在 AI 的賽局,各家都在競爭,然後這週 Google 也有推出 Gemini,但是他們有說不是為了打敗 GPT。
還是您的意思是說,我直接釋出模型給某個人,而他已經有對齊技術了,就可以用《世界人權宣言》的概念去對齊,是嗎?
我發現我有一點小誤會,原來不是把《世界人權宣言》灌進去訓練OpenAI,然後我再部署,其他人其實就沒有辦法去更改?
我回到前面,部長有講說憲法式的 AI,那這樣是不是代表憲法式的 AI 其實很重要?
我們可不可以總結說:不管是 OpenAI 的超智慧對齊,或是 Meta 那種開源的對齊,其實都會更加促進 AI 的安全和開放,會嗎?還是有一些挑戰?
OK,所以我可以說,就是 OpenAI 雖然不是開源的,可是如果想要贏過別人的話,其實市場力量會幫助他們越沒有偏見越好。可以這麼說嗎?
沒有問題,但 OpenAI 不是開源的,那要怎麼解決?
了解。OpenAI 說他們想用 AI 來確保實行預期的目標,可是我有疑問,這裡我們可以理解成「OpenAI 預期的目標」,但它符合全人類的權益嗎?還是只符合他們自己的權益、他們股東的權益?如果只遵守這個的話,是不是會很危險?
哇,那這樣子,部長覺得「超智慧對齊」對人類接下來的意義或者是幫助是什麼?因為聽起來非常厲害,好像可以省掉其他人以前原本 10 年的時間,馬上就可以有這個功力,馬上就看到這些東西了?
了解。所以我們回過來剛剛跳太快的部分,應該是說我可以藉由 OpenAI 的這種機制,我本來不是專家,但是我可以用他們跑出來的東西,我來判斷,可以這麼說嗎?
了解,那我可以不可以說,如果 OpenAI 真的做出了超智慧對齊,譬如說像我可能不是 AI 方面的專家,我不是專才,可是我可以少掉十年的時間?靠著這個,我就可以成為專家嗎?可以這麼說嗎?
所以 OpenAI 的團隊才會說,我們不需要用人類來訓練 AI,用 AI 來訓練 AI 才是更聰明的方式。是因為這個理由嗎?
可以。對!
這樣的話,跟超智慧對齊的差別又是什麼?
我有聽過一個說法,所謂「縮小」,這樣會減少它的參數嗎?還是不是這樣子?
因為我不算很了解 AI,想問部長您所謂的「對齊」是指什麼?因為我知道有另外一個名詞叫「微調」,不知道這兩種的差別在哪?
對,我們上一期刊出的內容是這樣沒錯。
不知道對部長來說,覺得這可行嗎?可以促進 AI 安全嗎?
首先想請教部長,7 月時 OpenAI 推出「超智慧對齊」團隊,希望可以幫助所有人,把 AI 校正到符合人類預期的目標。