??「AI會(huì)不會(huì)變終結(jié)者」，這是外行經(jīng)常會(huì)問、內(nèi)行只有攤手的老套問題。
不過，這話要是讓行內(nèi)大佬一說，效果馬上不一樣了。
最近，OpenAI首席科學(xué)家的一句話，讓整個(gè)機(jī)器學(xué)習(xí)圈都炸了鍋了。
2月10日，伊利亞·薩茨克維爾（Ilya Sutskever）發(fā)推表示：「現(xiàn)在的大型神經(jīng)網(wǎng)絡(luò)可能已經(jīng)有微弱自主意識(shí)了。」
爭論持續(xù)了幾天之后。
2月13日，LeCun甚至親自下場，異常堅(jiān)決且簡單明了：
「不對。」
接著便措辭禮貌但尖刻地解釋道：
「甚至『微弱意識(shí)』里的表微量的形容詞，和『大型神經(jīng)網(wǎng)絡(luò)』里的表示大型的形容詞，都是錯(cuò)的。我認(rèn)為你自己的智識(shí)也需要當(dāng)下所有神經(jīng)網(wǎng)絡(luò)都不具備的大型架構(gòu)來支撐了。」
這段時(shí)間，伊利亞老師都是一句話冷艷結(jié)束，所以現(xiàn)在沒人知道他到底具體在講些什么。
尤其是這句「倉促」得連首字母都沒有大寫，不由得引人想入非非。
是在說正在開發(fā)中的新GPT模型大力出奇跡呢？還是在說自家的現(xiàn)有模型受天啟感召已經(jīng)具有不亞于人的靈智呢？還是重復(fù)宣傳「通用人工智能」（AGI）很好很強(qiáng)大的觀點(diǎn)呢？
真要臆想超級AI，看《疑犯追蹤》比看無聊紀(jì)錄片舒服多了。
言歸正傳，推文發(fā)布后，各種回復(fù)隨之撲面而來。
不出意外地充斥著對AI「自我認(rèn)知」的強(qiáng)烈不安，但更多人則認(rèn)為這是純粹的胡說八道。
有網(wǎng)友在伊利亞的原推下回復(fù)：「現(xiàn)在人類所知的自我意識(shí)，必須有相當(dāng)程度的動(dòng)態(tài)隨機(jī)性，甚至可以稱為混沌性。若無，則只是算法性質(zhì)的行為。算法的確可能足夠復(fù)雜，讓觀察者誤以為它具有意識(shí)。」
新南威爾士大學(xué)西德尼分校人工智能研究員托比·沃爾什（Toby Walsh）說：「每次這種猜測性的評論被發(fā)表時(shí)，都需要花幾個(gè)月的時(shí)間來讓對話回到人工智能帶來的更現(xiàn)實(shí)的機(jī)會(huì)和威脅上來。」
花旗銀行副總裁、深度學(xué)習(xí)專家瓦倫蒂諾·佐卡（Valentino Zocca）也有類似的觀點(diǎn)： 「人工智能是沒有意識(shí)，但顯然，炒作比任何事實(shí)都更重要。」
獨(dú)立的科技社會(huì)學(xué)者尤爾根·古特（Jürgen Geuter）在跟帖中說：「很有可能這根本沒任何事實(shí)依據(jù)，只是一家跑了海量簡單統(tǒng)計(jì)的創(chuàng)業(yè)公司吹噓自己擁有魔法般技術(shù)力的銷售噱頭。」
這一觀點(diǎn)得到了軟件測試專家邁克爾·博爾頓（Michael Bolton）的支持，他開玩笑說： 「AI不見得有微弱意識(shí)，不過伊利亞很可能有在『微弱』地滿嘴跑火車，甚至可能不止『微弱』。」
哥本哈根信息技術(shù)大學(xué)的副教授里昂·德爾琴斯基（Leon Dercynski）也大開嘲諷：「在地球和火星之間的某個(gè)地方，很可能有一個(gè)繞日飛行的茶壺，這比伊利亞的想入非非要合理多了。因?yàn)樘祗w軌道飛行的規(guī)則架構(gòu)事實(shí)上存在，而何為茶壺的精確定義也存在。」
微軟挪威數(shù)據(jù)科學(xué)家、前DeepMind研究員羅曼·韋爾帕科斯基（Roman Werpachowski）用放出著名的「我是你爸爸」哏圖的方式回應(yīng)了這個(gè)消息。
不過，在被無數(shù)人抨擊后，伊利亞老師非常高貴冷艷地淡淡回復(fù)：「自大才是最終的敵人。」
對于這句淡淡的反駁，網(wǎng)友們也有淡淡的嘲諷。
曾在微軟、谷歌供職，現(xiàn)在英偉達(dá)深度學(xué)習(xí)項(xiàng)目就業(yè)的碼農(nóng)李?yuàn)W納多·摩西斯庫（Leonard Mosescu）用伊利亞的金句句式嘲笑： 「現(xiàn)在的大型自大可能也有微弱自主意識(shí)了。」
另一個(gè)在英特爾、IBM、佐治亞理工大學(xué)都干過的碼農(nóng)杰格·多什（Jigar Doshi）反問： 「若無自我執(zhí)念，何來人類的意識(shí)活動(dòng)呢？」
在萬眾抨擊中，伊利亞老師終于舍得多說幾句話回?fù)袅耍?「為了短期內(nèi)自我感覺良好，而無意識(shí)選擇相信顯然的假象，并不是最優(yōu)生活策略」。
「認(rèn)知=行動(dòng)，先進(jìn)的深度學(xué)習(xí)智能體可能也會(huì)有類似這種人類劣性的短板。」
在千夫所指中，OpenAI的老板山姆·奧特曼（Sam Altman）表示力挺同事、同時(shí)反擊LeCun：
OpenAI首席科學(xué)家：對神秘觀點(diǎn)表示了好奇心與開放心態(tài)，用「可能」開始句子；
Meta首席AI科學(xué)家：開句就是獨(dú)斷的「不對」。
說不定這能解釋過去5年中的業(yè)績哦。
親愛的Meta AI研究者們，這是我的電郵地址，我司現(xiàn)在招人哦。
網(wǎng)紅LeCun在社交網(wǎng)絡(luò)上從沒有受氣挨噴的習(xí)慣，馬上回復(fù)：
某司的確可以天天造更快的飛機(jī)、打破飛行高度記錄，搞這些事情既能讓自家名字常常上頭條，這些突破說不定也會(huì)有那么點(diǎn)真用處。
但如果目標(biāo)是真正突破大氣層飛上太空軌道，那就需要在冷凝儲(chǔ)液罐、渦輪泵這些毫不上鏡的技術(shù)上下苦功。
不信你去問馬斯克去。
微軟的深度學(xué)習(xí)研究大佬Devon Hjelm說了大實(shí)話：
AI界的研究者與學(xué)生們，如果你們還不清楚的話，以下是此次事情的梗概：
除了老套的AI公司互噴打嘴仗以外，這事情一點(diǎn)有意義的實(shí)質(zhì)性內(nèi)容都沒有。
大家最好還是問優(yōu)質(zhì)問題、保持好奇心、同時(shí)保持狐疑態(tài)度。
伊利亞老師除了是OpenAI的首席科學(xué)家兼聯(lián)合創(chuàng)始人、AlphaGo論文的諸多作者之一，也是AI業(yè)界最熱衷于AGI的著名人士之一。
OpenAI本身，也在「公司的未來使命」中宣布要開發(fā)「造福全人類的AGI」
在接受關(guān)于人工智能的2019年紀(jì)錄片《iHuman》采訪時(shí)，伊利亞既宣布將解決當(dāng)下人類遇到的所有難題，卻又警告AGI可能將具備無限延續(xù)專制的潛力。
采訪者應(yīng)該是出于禮貌才沒有追問「那用AGI能否解決人類社會(huì)面臨獨(dú)裁的難題」這種「以子之矛攻子之盾」的問題。
對此，非盈利研究機(jī)構(gòu)「感知學(xué)院」（Sentience Institute）的聯(lián)合創(chuàng)始人、社會(huì)科學(xué)家Jacy Reese Anthis在推特貼文中對此進(jìn)行了深入的探討。
在為自家的機(jī)構(gòu)打了廣告后，Jacy Reese Anthis闡述：
首先，意識(shí)的含義在哲學(xué)家和科學(xué)家中存在很大爭議。
對此，可以用3個(gè)以上更精確的術(shù)語來形容：
思想，通常是一種語義上的字詞流
感知，通過五種感官或想象力達(dá)到的感知
情感，積極和消極的情緒
然而，甚至這些都是有爭議的。
這些是行為嗎？過程？功能？二元論？不可言說的？等等。
Jacy認(rèn)為，應(yīng)該采取消除主義的觀點(diǎn)。因?yàn)檫@些術(shù)語是如此模糊，所以意識(shí)并不客觀存在。
那么，哪些具體特征會(huì)表明人工智能中的有知覺或意識(shí)？
「感知學(xué)院」的研究者認(rèn)為如果人工智能可以被稱為有意識(shí)，它可能具備以下特征中的一個(gè)或多個(gè)：對有害誘導(dǎo)數(shù)據(jù)的檢測及于此可變的注重程度、對此誘因有規(guī)避的回應(yīng)與記憶聯(lián)想、對此誘因有類似情緒變化的狀態(tài)變化，加強(qiáng)學(xué)習(xí)，基于目標(biāo)而定的行為，對情緒狀態(tài)的語義表述。
http://sentienceinstitute.org/blog/assessing-sentience-in-artificial-entities
當(dāng)下如GPT-3等的變換模型，以上特征幾近于無。不過，Jacy還是不認(rèn)為此議題有完全客觀的答案。
因?yàn)閷τ谝庾R(shí)的定義、比如「此物感覺怎樣」或「內(nèi)在傾聽者」等等，用來回答這問題都太過模糊。
如今，在分歧、模糊和不確定的情況下所能做到的最精確回答大概就是：「神經(jīng)網(wǎng)絡(luò)可能有了極微的意識(shí)，但是比昆蟲要少」。
https://futurism.com/the-byte/openai-already-sentient
https://wordpress.futurism.com/conscious-ai-backlash/amp
Ilya Sutskever：https://twitter.com/ilyasut/status/1491554478243258368
LeCun：https://twitter.com/ylecun/status/1492890267468320778
Sam Altman：https://twitter.com/sama/status/1492644786133626882
本文來自微信公眾號“新智元”（ID:AI_era），編輯：袁榭 好困，36氪經(jīng)授權(quán)發(fā)布。
