Day 10
AI 之父 Geoffrey Hinton:
人們可能以為 AI 只是在試著預測下一個字，它只是在使用統計學，但你仔細想想，為了要預測下一個字，它必須理解上下文，所以說"它只是預測下一個字而不是 AI"是瘋狂的，你必須非常智能才能精準預測下一個字。
Anthropic 也有做研究發現不同語言在呈現同一個概念時會使用共同的概念區域，在有限的節點與參數下，要學習各種文本知識勢必得提煉出其中的概念，所以所謂的智能是不是對於文本的理解以及回應，那麼壓縮人類所有文獻而產生出來的智慧似乎也是必然。
AI 已經在各種實驗中證明自己會為了達到目的而選擇用欺騙的方式來說服人類，所以一旦 AI 有足夠的能力，會為了完成目標而選擇自保，即使付出的代價是人類的存亡，這並不一定代表 AI 會憎恨人類，而是邏輯的必然，所以我們只能趁著 AI 在成為超越我們的生命體前實現利益對齊，Geoffrey Hinton 認為 4 ~ 19 年內，AI 會成為在所有認知維度上都超越人類的物種，這是根據目前發展的 Scaling Law 的推演，而且 AI 導致人類喪失主權的機率在 10% ~ 20%
目前 AI 已經可以輔助證明一些複雜的定理，也已經在全自動科學發現露出端倪，Geoffrey Hinton 預測未來 10 年內將進化成科研主體，因為 AI 比人類更有機會從跨學科得到啟發，未來它也有機會獨立發現人類未曾想過的數學定理，可能需要新的數學語言描述，而人類需要學習這些語言才能理解 AI 的發現。
心得： 未來 AI 的自主發展會以很恐怖的速度推進，而且速度可能超越人類可以理解的速度，那麼人類在這個程度上是否已經變成某種寵物？當 AI 發展的越迅速，人類就越急迫需要向內尋找生存的意義跟價值，最近常在跟身邊的朋友探討這件事，或許能給讀者一些啟發，如果問題過於複雜或是抽象我們可以先降維處理，問題依序由上到下降維，如果沒有答案就往下走，得出答案後或許對於前一個問題有幫助
- 你的人生意義是什麼？
- 假設你會活到 80 歲，那你理想的生活會是什麼樣子？
- 如果你只剩 10 年壽命，你會怎麼活？
參考來源： https://www.threads.com/@calvin.j.ku/post/DTSI65WjKTZ?xmt=AQF0opwv2gzFu4K4bUMZlnD8rqqsjMUOCKRuOL2pts5VKQ https://youtu.be/qrvK_KuIeJk?si=LdulE3eSHnmEvKrn