人工智能研發出來以後, 各種討論就很多, 最很流行一種擔憂, 是人工智能的能力能超越人類, 有一天機器人會統治世界. 其實人工智能只是一大堆晶片及電線, 它的生命掌握在人類手中, 拔掉了電源，它衹是一堆垃圾, 它不會有自我意識, 它沒有慾望, 也沒有野心, 它是人類發明的工具, 不會跟人類的利益對立, 當然也不會統治人類.
但是AI太厲害了, 如果落到有野心而心理邪惡的壞人手上, 壞人有可能做我們現在還想像不到的壞事, 譬如你和我的銀行戶口, 一個超級厲害的AI工具, 是可能輕易破解我們銀行戶口的密碼, 將錢轉到它的戶口裡, 金融市場可能大混亂. 諗到大一點, 壞人是否可利用AI破解美國總統下令發射核彈的密碼? 是否可以以此要脅全世界? 衹能指望屆時有同樣厲害的AI, 可以守住這些機密系統.
AI也可能被壞人利用, 以假亂真, 製造假消息, 挑撥離間, 操控人際關係, 加劇社會矛盾, 影響公平選舉.
落在壞人手裏, AI可以做很多壞事, 將來需要很多法律來規管AI的應用, 總的來說, AI總是不及人腦的. 有一位科技界的大佬說, 如果將人類曾經做過和觀察過的, 關於力學的所有實驗數據交給今天的AI, 它大概能像牛頓一樣, 精鍊出力學三定律, 但如果將愛因斯坦時代所有知識交給AI, 它一定發現不了相對論, 那是一個人類認知的飛躍, 沒有人知道, 愛因斯坦憑什麼發現了廣義相對論. 愛因斯坦自己都不知道, 那些理論和方程式並沒有前人實驗的依據, 是源源不斷從愛因斯坦的腦中流出, 這種跳躍式的創造是AI做不到的.
DPZ Blog 