第二個,我還是強調說「超智慧對齊」,雖然 OpenAI 是取這個名字,但是它嚴格來講,其實就是從半自動慢慢到全自動對齊、減少人類在這裡需要消耗的力氣,又可以更好地達到對齊的目標。所以,它並不是未來的、科幻的技術,而是每天都已經在使用的技術。OpenAI 的這個研究團隊,是在強化它的自動化程度,但他們並不是從頭創一門學門。這些做法,包含剛剛講到的審議、自我辯論等等,其他的 lab 裡也有,而學術界也有人做這樣子的研究。
j previous speech k next speech