在AI 年代, 大家認為那些技能在學習上更為重要?

twobirds

最近，由公開的愛潑斯坦文件，突然間覺得，AI 時代，最重要的事情原來唔係學識什麼超硬技能，而係學識堅守道德操守。

原來要走向上流精英，或要發展拿funding, 其實是一不小心，就踩進了魔鬼設下的深淵，與魔共舞。

jaycee_mami

連德高望重的殿堂級數學教授, 為了爭取大學funding, 竟然與惡名昭彰、已為定罪的性罪犯保持聯絡...

poonseelai

twobirds 發表於 26-2-4 19:21
最近，由公開的愛潑斯坦文件，突然間覺得，AI 時代，最重要的事情原來唔係學識什麼超硬技能，而係學識堅守 ...

道德操守係什麼時代都咁重要㗎啦

poonseelai

jaycee_mami 發表於 26-2-5 09:33
連德高望重的殿堂級數學教授, 為了爭取大學funding, 竟然與惡名昭彰、已為定罪的性罪犯保持聯絡... ...

或者會越揭越多

加樂爹

見到你地咁講, 我突然覺得A.I. 年代反而越來越難弄虛作假.
正正與早前說大學論文抄襲, 只要把人的有限, 交給無限的A.I. , 再經一個人類chairman of board, 去最終判決, 那有什麼假可以作?  再加上網絡搜證, 巨細無遺...


A.I. 真係人類最後審判?

可能日後歷史咁寫:

經過黑喑既中世紀, 到工業革命後, 人類在科技文明長速發展.
雖則在個人自我上, 看似脫離了社會宗教約束, 並得到外表看似公義公平的社會環境.
但在中世紀一直留下來的一小撮特權權貴, 實際上並未受到任何道德約束,
直到A.I. 世紀到臨, 人性的黑喑面被完全顯露出來....

歷史真係可以咁講架

stillgood20

jaycee_mami 發表於 26-2-5 09:33
連德高望重的殿堂級數學教授, 為了爭取大學funding, 竟然與惡名昭彰、已為定罪的性罪犯保持聯絡... ...

其實，去造王/精英時，某程度去美化了/神化了人的品德。
看諾貝爾和平獎得主(包括最终獎牌得主)，就知道，所謂<和平>的意義。
阿桑奇質疑諾貝爾和平獎的評委…

評委呀。
邊有咁公正！？！

要搅委内瑞拉政变。
先要造神。
所谓<和平>神。
那有人的道德。

看多了！
世事從来就是這樣。

twobirds

加樂爹 發表於 26-2-5 16:24
見到你地咁講, 我突然覺得A.I. 年代反而越來越難弄虛作假.
正正與早前說大學論文抄襲, 只要把人的有限, 交 ...

將小惡小罪繩之以法，ai 有幫助；但大惡大罪，相信ai 只會助紂為虐，成為強而有力的幫凶工具，畢竟有權有勢嘅人才能真正掌控和運用ai.
ai 是可操控的，散佈Ai 不受控是一種手段，幾時受控，幾時候嫁娲俾ai 全憑掌控者嘅道德水準。

加樂爹

twobirds 發表於 26-2-5 21:15
本帖最後由 twobirds 於 26-2-5 21:47 編輯

將小惡小罪繩之以法，ai 有幫助；但大惡大罪，相信ai 只會 ...

係呀, 都是雙刃劍問題.
對後生一代, 要培養他們多一些思想, 生活多一些靈感, 多一些感覺.
了解自己, 願意溝通....
懂得運用自己情感, 文字力, 藝術力, 這些人類感知得到滿足及分享.

poonseelai

stillgood20 發表於 26-2-5 18:42
其實，去造王/精英時，某程度去美化了/神化了人的品德。
看諾貝爾和平獎得主(包括最终獎牌得主)，就知道， ...

想當年Obama上任未夠一年已獲和平獎,已經知道笑下就算

akys

一隻anthropic 攪到美國軟件股整版大跌。

加樂爹

akys 發表於 26-2-6 13:40
一隻anthropic 攪到美國軟件股整版大跌。

我以為跟黃金, Bitecon....技術性分析, 以及近日各國對美元/股市方向取態....都有開係.咁究竟家陣科技股情況怎樣?

所識不多, 請賜教下.

加樂爹

poonseelai 發表於 26-2-5 14:43
道德操守係什麼時代都咁重要㗎啦

我理解twobirds 既意思係:
道德操守原來一直只係比我地凡人去守.
而到了AI年代, 會被越揭越多, 去到上面班權貴, 都會被揭發到,
所以, 道德操守很重要.

akys

加樂爹 發表於 26-2-6 14:14
我以為跟黃金, Bitecon....技術性分析, 以及近日各國對美元/股市方向取態....都有開係.咁究竟家陣科技股情 ...

科技股情： 市場質疑緊投資有冇即刻回報，Google， Meta有回報就跌少啲，其他仍然靠吹水就跌多啲，例如MSFT。
至於軟件股就開始驚短期內被AI取代，所以跌得幾金，軟件ETF  IGV由高位跌咗超過30% 了。

poonseelai

加樂爹 發表於 26-2-6 14:22
我理解twobirds 既意思係:
道德操守原來一直只係比我地凡人去守.
而到了AI年代, 會被越揭越多, 去到上面班 ...

近日 Epstein 個case, 不用去到AI也揭露到

twhkleung

加樂爹 發表於 26-1-27 10:31
你的20多種思考方法, 是否人類都有相似的思考程序?今日見到呢段新聞, 待你參考下給大家意見.

大 ...

恭喜發財, 祝大家馬年行大運! 心想事成! 身體健康!

坦白, 講你之前的問題, 是相當艱深的, 不要說我, 就算是當代最頂尖的幾位ai教授, 恐怕也沒法畀出答案, 因為你這幾條問題, 其實仍然是目前最active的research topics. 但有部分仍可以大家分享討論.


1. 關於20種reasonings.
這20種reasonings, 其實已經應用在我們會一個人, 每一日的生活當中, 只是大家可能並不知道, 而通常受過訓練或學習過的, 他才會知道自己原來是用緊某一條的reasoning. 相反, ai到今日為止的最新模型, 90%仍然主要依賴Inductive Reasoning.


2. 人類的四種特殊能力, 暫時ai仍然做不到的包括:
a. Partial Understanding: 人類只要學懂一部分規則, 就可以開始運作, 例如, 好似捉象棋/圍棋, 我們其實並不需要學識所有的規則, 但已經可以開始玩.
b. Intent Clarification: 當別人問我問題, 如果我唔明白佢問乜嘢, 我會不斷追問, 澄清, 直到我明白為止, 才開始作答. 但ai無論你講到幾深入, 或者幾淺, 佢唔會同你澄清, 而直接作答. 咁當然, 如果你畀嘅問題唔清晰, 佢嘅答案, 就會不對題.
c. Incubation: 當我們在學習新的知識是, 往往我們不能馬上明白, 但很神奇, 我們可能將這不明白的東西放下, 去一去洗手間, 飲杯咖啡, 或者瞓過覺, 一覺醒來, 突然之間, 一切都明白了. 為什麼? 因為人有五種腦電波, 當我們正在集中精神學習時, 主要是高頻的Gamma/Beta waves主導著我們的腦部運作, 也阻止了我們腦部各個部分的合作; 當我們take a break, 注意力開始放鬆, 腦部也從之前的waves, 改為低頻的 Theta/Delta waves, 主要是令我們的腦部開始進入知識的consolidation狀態, 將我們的腦神經網絡重組, 當時機成熟, 新重組的網絡神經, 便能明白到剛剛不明白的知識. ai 到目前為止, 係完全冇這種能力.
d. Serendipitous Analogy: 這個和(c)有些相似, 但, 這次神經網絡在重組過程, 需要外部新資訊, 令網絡重組出一個全新的架構, 從而明白剛剛不明白知識. 所以我們成日講, 和某某吹完水之後,  突然之間就明白了某些道理. 同樣, ai到目前為止, 係完全沒有這能力.

3. 關於這段news, 因為是轉載, 沒有原文, 我不敢說這位學者的意見是正確與否, 但, 這news的轉載解釋, 與真實情況相差頗遠.
- "Goldstein 與同事示範，步驟會依序展開，與 AI 模型處理語言步驟呼應。"
這點應該反轉來說, 是ai模型像人類的步驟, 而不是人類像ai的步驟.
- "人類大腦活動也是相同模式：早期神經訊號對應 AI 模型較淺層處理階段，較晚期大腦反應對應模型較深處理層。時間對應在較高階語言區域（如布若卡氏區）特別明顯；反應出現較晚，卻與 AI 模型較深層表徵最吻合。"
需要更多資料補充, 但從表面上看, 如果你問一位Brain Sci的學者, 如只看這幾句, 大機會他會說是錯的. 人的腦部非常複雜, 不論從解剖學, 或Neuronscience角度, 目前的ai模型, 只是人腦裏面的其中一個模塊, 而並不是整個人的腦部.
- "Goldstein 博士表示：「最驚訝的是，大腦逐步展開意義的方式，竟然這麼接近大型語言模型轉換序列的步驟。儘管兩者構造完全不同，但似乎都朝相似、一步步建立理解的過程靠近。」"
這句恐怕也是要反轉來看了, 是大語言模型相似人腦部的部分運作, 而不是人腦似大語型模型.


科技發展迅速, 大語言模型在不到十年間 (從Self-Attention開始算起), 由零開始到現在, 已差不多走到盡頭. 目前的大模型主要只能是部分的效能提升, 真正的technology breakthrough, 大家方向, 已從transformer轉為neuro-symbolic AI模型.


"LLM development is experiencing a significant "scaling wall" as increasing model size, data, and compute yield diminishing performance gains. The era of easy gains from scaling is stalling, with evidence suggesting that current architectures are approaching their limits in reasoning and data consumption."

我也很期待, 未來新一代的ai模型, 能帶給我們更像人類的智慧!

twhkleung

akys 發表於 26-1-26 13:04
哈哈，突然諗起小學時有個老師教用算盤時講過冇咗計數機啲人點計數。幾十年嘅記憶突然跳出來。
...

哈哈, 平常心啦, 從算盤到計數機, 從牛拉車到蒸氣機, 到2g, 3g 4G 5g無線網絡, 到互聯網, 到whatsapp,...  我以前讀書嘅時候, 打長途電話返去畀阿爸阿媽, 一個月都要千幾蚊, 依家有咗whatsapp一毫子都唔使.

科技發展, 只會有我哋想像唔到, 而唔會有佢做唔到!

barque

twhkleung 發表於 26-2-19 08:48
哈哈, 平常心啦, 從算盤到計數機, 從牛拉車到蒸氣機, 到2g, 3g 4G 5g無線網絡, 到互聯網, 到whatsapp,...   ...

有時間可以睇吓，學習和啟發在不少

https://youtu.be/n1E9IZfvGMA

twhkleung

barque 發表於 26-2-19 11:31
本帖最後由 barque 於 26-2-19 12:29 編輯

有時間可以睇吓，學習和啟發在不少

Dario Amodei係個聰明人, 更加係一位天才, 但他是一位工程師, 而不是一位學者, 他描述的方法去創造的AGI model, 將會是一個engineering approach, 而不是一個mathematical approach. 佢係用一啲simulation嘅方法, page-in/out啲knowledge custers, 同個original model一齊用. 但咁樣, 個model就會欠缺咗一個global view. 造成問題係...
如果只需要paged-in一個cluster同個original model一齊用, 咁係ok的. 但如果個input係需要好多個clusters同一時間page-in, 咁個model本身個optimization就會破壞咗, 亦即係話個model唔會準.
依家Anthropic嘅解決方法係用大量嘅hardware搭夠, 錢解決到個問題就唔係問題, 不過錢只可以解決到90%淨返10%定係解決唔到.

問題又返回頭, 要來玩或做些mission critical工作, ok的, 但会影响生命, 又係未得.

重有大半年, 睇下佢重有冇smart既方法, 我都想佢成功 (雖然我係較理論派).

(细節當然还有很多, 我只負責吹下水而已)

twhkleung

twhkleung 發表於 26-2-19 14:40
Dario Amodei係個聰明人, 更加係一位天才, 但他是一位工程師, 而不是一位學者, 他描述的方法去創造的AGI mo ...

多講一句.
佢而家嘅approach, 係放棄咗學習biological intelligence嘅方向. 而係相信數據越多越代表智慧.

但, 係大多數大學教授, 係相信越少數據, 而又能形成智慧, 咁先至算係真正嘅Intelligence!