據多家媒體報道，被稱為“人工智能(AI)教父”的杰弗里·辛頓日前證實，他已經從工作了十余年的谷歌離職，現在可以暢談AI可能帶來的風險。在接受媒體采訪時，他表示，“我對我畢生所研究的東西感到后悔了。”杰弗里形容稱，AI聊天機器人所帶來的某些危險“相當恐怖”。報道稱，開發出了被認為是當代AI基礎系統的杰弗里已經正式加入了“AI批評者”的行列。

杰弗里在社交平臺解釋稱，他之所以從谷歌辭職，是為了可以在不考慮對谷歌產生影響的情況下，談論AI的危險性。此外，他告訴媒體，自己的年齡也是個問題，“75歲，的確是個該退休的年齡了。”

“AI教父”態度轉變：

警告“AI未來會對人類構成威脅”

據介紹，1972年，還在讀研究生的杰弗里接受了一種名為“神經網絡”(neural networks)的概念——所謂“神經網絡”，是指一個可以通過數據分析來學習技能的系統。彼時，很少有研究人員相信這一概念能成真，但它卻成為了杰弗里此后學術生涯的重要課題。

上世紀80年代，已經成為卡內基梅隆大學計算機科學教授的杰弗里，不愿接受美國國防部資助，轉而離開美國前往加拿大。2012年，杰弗里和他在加拿大多倫多的兩名學生創建了一家專注于“神經網絡”的公司，其團隊當時通過分析數百萬張照片打造出一款可區分動物、物體圖片的“神經網絡系統”，能識別常見物體，如花、狗和汽車。值得一提的是，兩名學生之一的伊利亞，后來成為了人工智能研究公司OpenAI的首席科學家。

此后，谷歌以4400萬美元的價格收購了杰弗里與兩名學生創辦的公司。而他們所開發出的系統，也為今后越來越強大的AI——如ChatGPT和Bard等新型聊天機器人——打下了基礎。2018年，杰弗里因在“神經網絡”方面的工作取得突出成就，獲得了有著“計算機屆諾貝爾獎”之稱的圖靈獎。

事實上，杰弗里一開始相信“機器理解和生成語言的方式不如人類處理語言的方式”，但在去年，隨著谷歌、OpenAI通過使用大量數據構建出系統，他的觀點發生了變化，“也許在某些方面，AI會比人腦處理得更好。”杰弗里表示，此前他認為“AI比人類更聰明”這一現象可能出現在30-50年之后，但現在他認為，這一切可能發生得更快。

現階段，杰弗里最擔心的就是通過利用AI，網絡上會出現很多虛假的圖片、視頻和文字，這可能讓人分不清真假。其次，他還擔心AI將改變整個人類就業市場，可能導致如律師助理、私人助理、翻譯等崗位的消失。在未來，杰弗里擔心AI會對人類構成威脅，“因為AI可能通過大量的數據和分析，出現一些令人意想不到的行為。”杰弗里解釋道。

杰弗里補充稱，一些公司和個人已經允許AI寫代碼，甚至自主運行代碼。“我擔心未來類似于‘殺人機器人’的自動化武器可能成為現實。”杰弗里稱，“現在很難防止壞人利用AI做壞事。”

據了解，此前在被問及“AI會不會被用于危險技術”時，杰弗里回答稱“你可以試試看”。而現在，他不會再這么說了。

報道指出，在很多科技研究人員看來，諸如“AI成為‘殺人機器’”一類的威脅還只是假設性的。不過杰弗里認為，在谷歌、微軟等多家科技巨頭爭先發展AI技術后，“科技巨頭陷入了一場無休止的競爭”。在他看來，這樣針對“AI技術發展”的競爭，將讓AI系統變得越來越危險。

對畢生研究感到后悔

安慰自己“我不研究，別人也會研究”

事實上，在OpenAI于3月發布新版ChatGPT后，1000多名科技領域領導者和研究人員便以“AI技術給人類和社會帶來了風險”為由，簽署了一封公開信，呼吁暫停系統開發6個月。數日后，包括微軟首席科學官員埃里克在內的人工智能促進協會19位現任和前任領導人也發布信函，警告人工智能的風險。

而當時還未辭職的杰弗里并未參與上述兩起警告活動，并表示在自己辭職前，不想批評谷歌或者其他公司。

上個月，杰弗里才通知谷歌要辭職，并與谷歌母公司Alphabet的首席執行官桑達爾·皮查伊通了電話。媒體報道稱，杰弗里的離職對谷歌而言是個損失。

盡管杰弗里稱在辭職后才能暢談AI所帶來的風險，但有消息稱，今年3月，杰弗里就已經就AI所帶來的風險敲響了警鐘。當時，在被問及“人工智能會不會消滅人類”時，杰弗里回答稱“這并不是令人難以置信的事”。

在接受媒體采訪時，杰弗里坦言“自己對畢生研究的東西感到后悔了”。“我只能這樣安慰我自己：即便是我不做相關研究，也會有其他人從事這項研究。”他說道。而一份內部文件顯示，在過去一年里，杰弗里減少了自己在谷歌的上班時間。去年3月，他只有20%的時間在全職工作;同年晚些時候，他被分配到了一個新團隊擔任職務。