所以同樣的道理,我們現在的語言模型,就有點像石油精煉到一個程度可以當塑化的產品,開始用了,但是同時也造成氣候緊急狀態、生態浩劫之類的,短期之內會造成的浩劫就是看到你看到線上的 Hinton 離開 Google 的報導,以後會有很多這種報導,如果互動式深偽強到一個程度,你沒有辦法判斷那些是被互動式深偽騙到而寫的,哪一些是被網攻後合成出來的,整個社會的互信織網(fabric of trust)就像臭氧層一樣變薄,到最後會破掉,破掉之後的結果是除非我們當場見面,否則我不會相信你是人類,或者除非我們現在約一個 code word,下次我們打電話的時候你一定要答口令,不然就當作是合成淑麗了(笑)。