神譯局是36氪旗下編譯團(tuán)隊(duì)，關(guān)注科技、商業(yè)、職場(chǎng)、生活等領(lǐng)域，重點(diǎn)介紹國外的新技術(shù)、新觀點(diǎn)、新風(fēng)向。
編者按：微軟公司正加速推進(jìn)人工智能產(chǎn)品，引領(lǐng) AI 潮流，最新發(fā)布了全面接入 GPT-4 版的 Office 全家桶，但此舉是明智的嗎？在大規(guī)模面向全球用戶推出人工智能產(chǎn)品方面應(yīng)該考慮哪些問題？而就在微軟 Office 進(jìn)行全面 AI 升級(jí)之前，他們卻解雇了人工智能（AI）部門的整個(gè)社會(huì)道德倫理團(tuán)隊(duì)，不再設(shè)立專門的團(tuán)隊(duì)來確保 AI 原則和產(chǎn)品設(shè)計(jì)緊密相關(guān)。本文來自翻譯，希望能對(duì)你有所啟示。
(資料圖)
綜合外媒報(bào)道，微軟正在推進(jìn)今年 1 月宣布的裁員 1 萬人計(jì)劃，解雇了整個(gè) AI 社會(huì)道德倫理團(tuán)隊(duì)。
微軟的員工表示，此舉導(dǎo)致微軟沒有一個(gè)專門的團(tuán)隊(duì)來負(fù)責(zé)將人工智能原則與產(chǎn)品設(shè)計(jì)緊密結(jié)合，而目前該公司正在引領(lǐng) AI 發(fā)展潮流，讓人工智能工具成為主流。
微軟仍然保持著一個(gè)專門負(fù)責(zé)人工智能的團(tuán)隊(duì)，負(fù)責(zé)制定規(guī)則和制度來更好地管理公司的人工智能計(jì)劃。該公司表示，盡管最近在推進(jìn)萬人裁員計(jì)劃，但其對(duì)應(yīng)人工智能責(zé)任工作方面的整體投資仍在增加。
對(duì)于此次裁員，該公司在一份聲明中強(qiáng)調(diào)，將會(huì)繼續(xù)投資和開發(fā)負(fù)責(zé)任的人工智能：“微軟一直致力于安全、負(fù)責(zé)任地開發(fā)人工智能產(chǎn)品和用戶體驗(yàn)，并通過人員配置、梳理流程和建立良好的合作伙伴關(guān)系來實(shí)現(xiàn)這一目標(biāo)。微軟 Office of Responsible AI 團(tuán)隊(duì)在過去 6 年時(shí)間內(nèi)快速擴(kuò)充人員，和其它微軟部門同事們共同致力于 AI 人工智能項(xiàng)目落地。微軟感謝 Office of Responsible AI 所作出的巨大貢獻(xiàn)，并將繼續(xù)推進(jìn)負(fù)責(zé)任的人工智能發(fā)展。”
員工表示，Office of Responsible AI 在確保公司人工智能原則在產(chǎn)品設(shè)計(jì)中得到實(shí)際體現(xiàn)方面發(fā)揮了關(guān)鍵作用。
“人們看到 Office of Responsible AI 提出的原則，會(huì)說，‘我不知道這是如何應(yīng)用的，’”一名前員工表示。“我們的工作就是向他們展示，并在沒有規(guī)則的領(lǐng)域建立規(guī)則。”
近年來，該團(tuán)隊(duì)設(shè)計(jì)了一款名為“判斷召喚”（Judgment Call）的角色扮演游戲，幫助設(shè)計(jì)師預(yù)見人工智能可能帶來的潛在危害，并在產(chǎn)品開發(fā)過程中進(jìn)行充分討論。這是團(tuán)隊(duì)公開發(fā)布的“負(fù)責(zé)任創(chuàng)新工具包”（responsible innovation toolkit）的一部分。
最近，該團(tuán)隊(duì)一直在努力識(shí)別微軟在其整套產(chǎn)品中采用 OpenAI 技術(shù)所帶來的風(fēng)險(xiǎn)。
AI 社會(huì)道德團(tuán)隊(duì)在 2020 年達(dá)到最大規(guī)模，當(dāng)時(shí)大約有 30 名員工，其中包括工程師、設(shè)計(jì)師和哲學(xué)家。10 月，作為重組的一部分，該團(tuán)隊(duì)被裁減至約 7 人。
在重組后的一次團(tuán)隊(duì)會(huì)議上，人工智能公司副總裁約翰·蒙哥馬利（John Montgomery）告訴員工，公司領(lǐng)導(dǎo)已經(jīng)下達(dá)指示，要迅速推動(dòng)產(chǎn)品面向市場(chǎng)。根據(jù)媒體獲得的會(huì)議音頻，他說：“微軟首席技術(shù)官凱文·斯科特（Kevin Scott）和首席執(zhí)行官薩蒂亞（Satya Nadella）的壓力非常大，他們要把這些最新的開放式 AI 模型和后續(xù)模型以非常快的速度推向客戶手中。”
蒙哥馬利說，因?yàn)楣久媾R這種產(chǎn)品發(fā)布的壓力，團(tuán)隊(duì)的大部分成員將被分配到其他部門幫忙。
AI 社會(huì)道德團(tuán)隊(duì)的一些成員進(jìn)行了反擊，其中一位員工在電話中說：“我大膽地要求你重新考慮這個(gè)決定，這個(gè)團(tuán)隊(duì)一直深切關(guān)注的是產(chǎn)品如何影響社會(huì)以及產(chǎn)品所產(chǎn)生的負(fù)面影響，這些影響非常重要。”
蒙哥馬利拒絕了，“我能重新考慮嗎？我想我不會(huì)的，”他說。“因?yàn)椴恍业氖牵瑑煞N選擇所面對(duì)的壓力是一樣的。你沒有站在我的角度思考問題，也許你應(yīng)該對(duì)此心存感激。”
不過，在向員工解答時(shí)，蒙哥馬利表示，這支團(tuán)隊(duì)不會(huì)被辭退。
他說：“這并不是說這個(gè)團(tuán)隊(duì)日后會(huì)消失，相反它是在進(jìn)化和成長(zhǎng)。”“它正朝著將更多精力放在構(gòu)建服務(wù)和軟件的各個(gè)產(chǎn)品團(tuán)隊(duì)的方向發(fā)展，這確實(shí)意味著某些中心正在下放其能力和責(zé)任。”
AI 社會(huì)道德團(tuán)隊(duì)的大多數(shù)成員都被調(diào)到了微軟的其他部門。剩下的成員表示，規(guī)模縮小以后，很難實(shí)施他們雄心勃勃的計(jì)劃。
大約五個(gè)月后，也就是 3 月 6 日，剩下的員工被告知在北美時(shí)間上午 11：30 參加 Zoom 電話會(huì)議，聽取蒙哥馬利的“重要業(yè)務(wù)更新會(huì)議”。在會(huì)議期間，他們被告知 AI 社會(huì)道德倫理團(tuán)隊(duì)最終被解散了。
一名員工表示，此舉會(huì)給用戶體驗(yàn)和人工智能產(chǎn)品的整體設(shè)計(jì)帶來損失。他解釋說：“最糟糕的是，我們這樣做讓公司和使用產(chǎn)品的人都面臨風(fēng)險(xiǎn)。”
這場(chǎng)沖突凸顯了科技巨頭之間持續(xù)存在的緊張關(guān)系，這些巨頭建立了多個(gè)部門，致力于讓自己的產(chǎn)品更具社會(huì)責(zé)任感。在最好的情況下，它們可以幫助產(chǎn)品團(tuán)隊(duì)預(yù)測(cè)潛在的技術(shù)風(fēng)險(xiǎn)，并在發(fā)布之前能夠完全解決這些風(fēng)險(xiǎn)。
但他們也有責(zé)任在組織內(nèi)部說“不”或“讓產(chǎn)品開發(fā)速度降低一點(diǎn)”，AI 道德社會(huì)團(tuán)隊(duì)會(huì)強(qiáng)調(diào)可能會(huì)給公司帶來法律麻煩的風(fēng)險(xiǎn)，而通常這些是公司開發(fā)部門不想聽的事情，由此產(chǎn)生的摩擦有時(shí)會(huì)引起公眾的關(guān)注。
2020 年，谷歌解雇了人工智能道德倫理研究員蒂姆尼特·格布魯（Timnit Gebru），因?yàn)樗l(fā)表了一篇在人工智能語言模型中存在偏見的危險(xiǎn)的論文，該模型在兩年后迅速流行起來。由此引發(fā)的憤怒導(dǎo)致該部門多名高層領(lǐng)導(dǎo)離職，并降低了該公司在人工智能道德倫理問題上的可信度。
AI 社會(huì)道德倫理團(tuán)隊(duì)的成員表示，他們通常會(huì)盡力支持產(chǎn)品開發(fā)。但他們也說，隨著微軟開始專注于比競(jìng)爭(zhēng)對(duì)手更快地推出人工智能產(chǎn)品，該公司的領(lǐng)導(dǎo)層對(duì)團(tuán)隊(duì)擅長(zhǎng)的長(zhǎng)期思考不那么重視了。
這是一個(gè)值得仔細(xì)審視的事情。一方面，微軟現(xiàn)在可能有一個(gè)千載難逢的機(jī)會(huì)，可以在搜索、生產(chǎn)力軟件、云計(jì)算和其他巨頭競(jìng)爭(zhēng)的領(lǐng)域?qū)雀璁a(chǎn)生重大威脅。當(dāng)微軟重新推出人工智能必應(yīng)產(chǎn)品時(shí)，該公司告訴投資者，在搜索領(lǐng)域，它每從谷歌那里奪走 1% 的市場(chǎng)份額，就會(huì)帶來 20 億美元的年收入。
這種潛力有力地解釋了微軟迄今為止已向 OpenAI 投資 110 億美元的原因，目前微軟正在加緊將這家初創(chuàng)公司的技術(shù)整合到其商業(yè)帝國的每個(gè)角落。它似乎取得了一些初步的成功：該公司上周表示，必應(yīng)現(xiàn)在有 1 億日活躍用戶，其中三分之一是在使用 OpenAI 的技術(shù)重新推出搜索引擎后新增的。
另一方面，參與人工智能開發(fā)的每個(gè)人都默認(rèn)，這項(xiàng)技術(shù)會(huì)帶來巨大的、可能存在的風(fēng)險(xiǎn)，無論是已知的還是未知的。科技巨頭們努力發(fā)出信號(hào)，表明他們正在認(rèn)真對(duì)待這些風(fēng)險(xiǎn)，即使在社會(huì)道德倫理團(tuán)隊(duì)被解散之后，僅微軟就仍有三個(gè)不同的團(tuán)隊(duì)在這個(gè)問題上開展工作。但考慮到利害關(guān)系，對(duì)專注于道德團(tuán)隊(duì)的任何削減似乎都值得注意。
道德和社會(huì)團(tuán)隊(duì)被淘汰之際，其剩下的員工正將注意力集中在他們可能面臨的最大挑戰(zhàn)上：預(yù)測(cè)當(dāng)微軟向全球受眾發(fā)布 OpenAI 支持的工具時(shí)會(huì)發(fā)生什么。
去年，該團(tuán)隊(duì)寫了一份備忘錄，詳細(xì)介紹了 Bing Image Creator 相關(guān)的品牌風(fēng)險(xiǎn)。Bing Image Creator 使用 OpenAI 的 DALL-E 系統(tǒng)根據(jù)文本提示創(chuàng)建圖像。去年 10 月，這款圖像工具在少數(shù)幾個(gè)國家推出，成為微軟與 OpenAI 首次公開合作的項(xiàng)目之一。
雖然文本轉(zhuǎn)圖像技術(shù)已經(jīng)被證明非常受歡迎，但微軟的研究人員正確地預(yù)測(cè)到，任何人都可以輕松地復(fù)制他們的風(fēng)格，這也可能威脅到藝術(shù)家的生計(jì)。
研究人員在備忘錄中寫道：“在測(cè)試必應(yīng) Image Creator 時(shí)，我們發(fā)現(xiàn)，只要輸入藝術(shù)家的名字和媒介（繪畫、印刷品、攝影或雕塑），生成的圖像就幾乎不可能與原作區(qū)分開。”
他們補(bǔ)充說：“藝術(shù)家及其財(cái)務(wù)利益相關(guān)者的品牌受損風(fēng)險(xiǎn)，以及可能面臨的藝術(shù)家投訴和公眾的負(fù)面反應(yīng)對(duì)微軟造成的負(fù)面公關(guān)風(fēng)險(xiǎn)是值得引起重視的，足以在損害微軟品牌之前要求糾正。”
此外，去年 OpenAI 更新了服務(wù)條款，賦予用戶“使用 DALL-E 創(chuàng)建的圖像的完全所有權(quán)”。此舉讓微軟的道德與社會(huì)團(tuán)隊(duì)感到擔(dān)憂。
他們?cè)趥渫浿袑懙溃骸叭绻斯ぶ悄軋D像生成器復(fù)制了作品圖像，那么允許在線用戶對(duì)生成的圖像擁有完全所有權(quán)，在道德上是可疑的。”
微軟研究人員制定了一系列應(yīng)對(duì)策略，包括阻止必應(yīng) Image Creator 用戶使用在世藝術(shù)家的名字作為“提示”，以及創(chuàng)建一個(gè)市場(chǎng)出售藝術(shù)家的作品，如果有人搜索他們的名字，這些作品就會(huì)顯示出來。
員工們表示，這兩種策略都沒有實(shí)施，但 Bing Image Creator 還是進(jìn)入了測(cè)試階段。
微軟表示，該產(chǎn)品在發(fā)布前進(jìn)行了修改，以解決文件中提出的問題，并督促社會(huì)道德倫理團(tuán)隊(duì)進(jìn)行了額外完善。
但有關(guān)這項(xiàng)技術(shù)的法律問題仍未解決。2023 年 2 月，蓋蒂圖片公司（（Getty Images））對(duì) AI 藝術(shù)生成器 Stable Diffusion 的制造商 Stability AI 提起訴訟。蓋蒂指責(zé)這家人工智能初創(chuàng)公司不當(dāng)使用 1200 多萬張圖像。
這些指控與微軟自己的人工智能倫理學(xué)家提出的擔(dān)憂相呼應(yīng)。“可能很少有藝術(shù)家會(huì)同意讓他們的作品被用來測(cè)試，而且很多人可能還不知道生成技術(shù)是如何在幾秒鐘內(nèi)讓他們的作品產(chǎn)生變化的，”員工們?nèi)ツ陮懙馈?/p>
譯者：Araon_
關(guān)鍵詞：
