- 在線時間
- 75 小時
- 最後登錄
- 26-2-16
- 國民生產力
- 5303
- 附加生產力
- 12682
- 貢獻生產力
- 0
- 註冊時間
- 16-11-21
- 閱讀權限
- 10
- 帖子
- 5347
- 主題
- 22
- 精華
- 0
- 積分
- 23332
- UID
- 2356337
  
|
本帖最後由 twhkleung 於 26-1-25 15:12 編輯
唔介意嘅我又吹兩句.
其實呢啲名人,大科學家,諾貝爾獎得主,成日講嘅risks, 或者打開咗Holy Grail / Pandora's box. 其實, 主要唔係驚佢有super intelligent, 會叻過人類, 而係佢蠢, 但能力強(呢句說話好似好矛盾), 但事實就是這樣.
因為佢係一個好大嘅knowledge base, 而不是intelligent, 更加係一個black box, 我哋基本上唔知道佢點解會come up 咁樣嘅決定或者答案.
好似呢度好多網友都覺得佢好聰明, 甚至勁聰明, 其實, 係因為大家並唔明白佢嘅運作原理.
就好似, 阿仔數學差, 但係, 我又唔識同佢補習, 咁我就請個補習老師返嚟同佢補習, 而補完習之後, 阿仔嘅成績又好似好咗, 咁我就覺得個老師好勁, 但係, 實際上個老師係咪好勁, 我真係完全唔知, 因為佢就係一個black box, 一樣道理.
- https://proceedings.neurips.cc/p ... 1c4a845aa-Paper.pdf (其中一個作者只係大學三年級學生)
- 呢份就係2017年出嘅一份論文, 講述今日嘅ChatGDP或者deepseek係點樣運作, 關鍵技術就係叫"Attention", 當你睇明咗呢份paper之後, 你就會明白我點解成日話今日嘅ai, 其實係好蠢, 根本冇可能同人相比, 佢只係一個好大好大嘅knowledge base ONLY.
- 但係, 點解啲咁多叻嘅professor, 仍然話佢係一個人類嘅好大威脅呢? 關鍵就係, 因為佢係一個black box, 佢嘅運作係冇visibility, 佢嘅邏輯, 係冇interpretability, 更加係冇reasoning, 但係, 佢又可以解答到我哋好多問題, 絕大部分嘅人, 都覺得佢好勁, 甚至相信咗佢, 將駕駛交畀佢, 轉咗做自動駕駛, 將核電廠運作交畀佢, 靠佢開發的藥, 畀人類食落肚, 甚至乎嚟緊嘅戰鬥機, 都會用人工智能去控制的無人飛機, 但係, 佢到底點解會有呢一個答案, 我哋其實一啲都唔知點解.
咁如果小事, 娛樂, 同佢傾下偈, 就當然冇問題啦, 但係, 如果係大事, 佢控制核電廠, 出咗咩嘢, 人類就會可能被毀滅.
所以話潘多拉盒子打開咗, 並唔係因為佢有超級智慧, 而係驚佢唔知做咗啲乜嘢, 我哋冇辦法知道點解, 承擔唔起後果.
簡單一句, 要驚嘅, 唔係驚佢叻過人, 係我哋對佢冇一個可預測性, 唔知佢會點做.
一啲今天ai model嘅特性:
1. 語言表達能力非常好. 令你覺得佢講嘅嘢好啱.
2. 並唔識得講"我唔識", 而實際佢真係唔識嘅嘢, 佢都會講到好似似層層.
所以,有幾樣嘢, 我成日同啲朋友講, 同ai傾計之後, 一定要問嘅嘢:
1. 你對你剛剛嘅答案嘅可靠性, 有百分之幾可靠率?
2. 當佢畀咗一堆正面嘅論點你之後, 叫佢畀返一咋負面嘅論點去插返佢自己, 從而判斷佢嘅答案係啱定錯.
3. 問多幾個ai model係有啲用, 但係, 因為而家開始, 佢哋都互相抄來抄去, 所以, 佢哋嘅答案越嚟越接近, 不同嘅只係文字上的表達不同.
Anyway, 佢的而且確可以幫到我哋做好多手手腳腳嘅粗重功夫, 但係真正要用腦嘅, 特別係開發一啲新問題嘅答案, 其實都係要靠人佢自己, 睇下你自己夠唔夠smart, 搵到個答案, 唔係靠ai.
大家可能會話, 唔係喎, microsoft啱啱先至話炒咗好多programmers, 而改用ai去到幫助程式開發?
microsoft當然可以啦, 因為佢開發一個程式, 其實佢係有一team program managers, 係寫好一個好詳細好詳細嘅specification, 然後分畀programmers, 跟住個specification去寫個program出嚟. 咁ai當然就可以幫到手, 減去好多programmers.
但係好多細公司, Program manager係佢, 寫 specification又係佢, 寫 program又係, 所以根本減無可減.
不過, 唔排除以後啲細公司, 都慢慢開始將啲programmer轉咗做寫specification, 而寫program, 就交畀ai做.
但係呢個需要時間轉型, 因為, 在微軟做一個program manager, 都要五至十年經驗, 一下子, 一個新畢業嘅學生, 其實係冇能力去到做到呢個角色.
|
|