許健生：人工智能文明會否出現？

【明報專訊】人類文明如以發現早期文字開始粗略可以追溯到五六千年前，除了我們熟悉的中國甲骨文之外，更早的有古希臘米索不達米亞文字Mésopotamiā。文字的出現對人類現代文明是扮演一個十分重要的時間節點，隨着今天生成式人工智能急速地發展，是否意味着我們已進入另一個人工智能文明呢？

人工智能教父、ACM圖靈獎（電腦界科學家的諾貝爾獎）得獎者Geoffrey Hinton在離開Google後發出警告，稱AI的發展可能會導致人類文明的毀滅。他表示，由於數據處理能力的不斷提升，AI系統的學習能力可能超越人類，並可能學會如何操縱人類，導致人類失去對未來的控制。

Hinton最初開始研究旨在了解人類自身，而不是為了徹底改善技術。他在過去的50年裏一直在試圖製作可以模擬大腦學習一樣的電腦算法模型，以便更好地理解大腦是如何學習的。他的研究讓他成為「神經網絡」領域的領袖之一，該領域旨在建立能夠從數據和經驗中學習的電腦系統。直到最近，隨着處理能力和海量數據集的可用性不斷提高，Hinton開創的方法已經成為生成式人工智能技術革命的核心。

人類的Biological Intelligent（生物智能）的優勢在於它的功耗很低，即使人在思考時也只有30瓦，每個大腦都獨立存在有所不同，這意味着我們通過模仿他人來學習。但是，這種方法在信息傳輸方面「非常低效」。相比之下，數字智能有巨大的優勢在多個副本之間共享信息；人類大腦擁有約100萬億個連接，LLM大型語言模型最多有五千億至一萬億。然而，GPT-4的知識比任何人類都多數百倍，擁有更好的學習算法。除了學習能力，傳播（communicating）能力亦是另一個種點。人類學習一個新事物，再想教授給另一個人，不能單靠傳一個副本，但人工神經網絡卻做得到。就好像這裏有1萬個人，當一個人學懂一個新事物，另外的人全都同時學懂了。因此，好消息是，我們已經發現了永生的秘密。壞消息是，這不是為「人類」而設計的。

Hinton認為關鍵時刻將在未來5到20年內到來，一些人相信，AI必會變得比人更聰明，但大多數人認為這還很遙遠。他本來也曾認為需要30到50年甚至更長的時間，但他已否定這個想法了，因為其發展速度已超越了他的想像。他呼籲人們關注AI的道德和安全問題，確保AI不會對人類造成傷害。同時亦警告在AI技術愈來愈被廣泛應用的當下引起了關注，如果AI失控，它可能會對人類造成威脅，包括對人類安全的威脅。

有危亦有機 最重要應用得當

而已故英國劍橋大學物理學家霍金教授（Professor Stephen Hawking）曾早於2014年表示，發展全面的人工智能可能導致人類的毀滅。霍金教授相信人工智能的發展可能幫助人類消除疾病，消除貧困，阻止氣候變化，但是也可能產生人們不願意看到的種種後果，包括產生自主武器，造成經濟災難，以及發展出同人類發生衝突時擁有自己意願的機器。目前對生成式人工智能（Generative AI）表示擔心的更有特斯拉創辦人Elon Musk、蘋果共同創辦人Steve Wozniak及CAIDP總裁Marc Rotenberg等科技界大咖。

生成式AI正急速發展是不爭的事實，相信阻不了，亦停不到。但不可否認其潛在很大的「未知數」。就好像網絡上充斥着有很多不同的真假訊息和propaganda，人工智能是否有能力辨認這些訊息？篩選正確的內容？還是它會生成更多似是而非的訊息？最終會否取替人類文明，發展成為人工智能文明呢？

「人工智能文明」是一個假設性的概念，指的是一個由人工智能（AI）主導的社會，其中AI已經超越了人類的智能成為主要的智能形式。在這樣的文明中，AI實體將具有自主學習、推理和決策的能力，可能導致一個由AI控制的世界。

談到「人工智能文明」的概念時，通常會提到技術奇點（Technological Singularity）的假設，也就是一個假想的未來時刻，AI超越人類智能，並快速發展到人類無法掌控的程度。一些專家擔心，如果這樣的情况發生，可能會導致人類滅絕或其他災難性後果。

需要注意的是，「人工智能文明」的概念仍然純屬推測，目前還沒有證據表明這樣的情况即將出現。然而，人工智能技術的快速發展已經引起了對AI發展的倫理和社會影響的關注，包括AI主導的未來可能帶來的影響。

筆者認為如我們正處於人工智能文明的初階段，什麼事情都會有機會發生，有危亦有機。就好像核能一樣，應用得好便是世界上最好的新能源之一，不當使用便變成世界上最恐怖的殲滅武器。所以不是科技本身，而是人如何應用科技、駕馭科技、管治科技的能力與態度。

香港電腦商會主席及元宇宙產業聯盟召集人

（本網發表的文章若提出批評，旨在指出相關制度、政策或措施存在錯誤或缺點，目的是促使矯正或消除這些錯誤或缺點，循合法途徑予以改善，絕無意圖煽動他人對政府或其他社群產生憎恨、不滿或敵意。）

[許健生 前沿科技]