21世紀(jì)經(jīng)濟(jì)報(bào)道記者王俊 南方財(cái)經(jīng)全媒體記者馮戀閣 實(shí)習(xí)生羅洛 北京、廣州報(bào)道“我們可能會(huì)收集公開(kāi)的在線信息或來(lái)自其他公共來(lái)源的信息，幫助訓(xùn)練Google的人工智能模型?！苯?，谷歌更新隱私政策，表示將利用網(wǎng)絡(luò)公開(kāi)數(shù)據(jù)訓(xùn)練旗下的AI模型，相關(guān)條款已于7月1日生效。

谷歌的這一動(dòng)作引發(fā)爭(zhēng)議，單方面通知用戶的行為是否合法合規(guī)？此舉又是否有“囤數(shù)據(jù)”之嫌？

此前，Twitter和社交網(wǎng)站Reddit已經(jīng)采取措施，限制第三方對(duì)其API的訪問(wèn)。國(guó)外科技公司的一系列舉措背后，可能是大模型發(fā)展路上一個(gè)不可忽視的真相：訓(xùn)練數(shù)據(jù)的重要性愈發(fā)顯現(xiàn)。隨著大模型產(chǎn)業(yè)的快速發(fā)展，出于市場(chǎng)競(jìng)爭(zhēng)的需要，模型規(guī)模將快速膨脹，但同時(shí)可用于訓(xùn)練的數(shù)據(jù)供給相對(duì)不足，且未來(lái)日趨稀缺。

(相關(guān)資料圖)

未來(lái)，數(shù)據(jù)或?qū)⒊蔀锳I發(fā)展的“兵家必爭(zhēng)之地”。

“囤數(shù)據(jù)”訓(xùn)練AI模型

近日，谷歌更新隱私政策，表示將利用網(wǎng)絡(luò)公開(kāi)數(shù)據(jù)訓(xùn)練旗下的AI模型。在隱私協(xié)議的“可公開(kāi)獲取的資源”一欄，谷歌提到：“我們可能會(huì)收集公開(kāi)的在線信息或來(lái)自其他公共來(lái)源的信息，幫助訓(xùn)練Google的人工智能模型?！痹摯竽Ｐ蛯?huì)為谷歌翻譯、谷歌旗下聊天機(jī)器人產(chǎn)品“Bard”及Cloud AI等產(chǎn)品和功能提供助力。

對(duì)比去年年底發(fā)布的上一版隱私政策，谷歌將“收集信息以幫助訓(xùn)練語(yǔ)言模型”的相關(guān)措辭更改為“訓(xùn)練人工智能模型”，并新增明確了自家AI產(chǎn)品對(duì)于數(shù)據(jù)的使用權(quán)利。這似乎意味著，谷歌在訓(xùn)練旗下聊天機(jī)器人及其他AI模型，或未來(lái)開(kāi)發(fā)AI產(chǎn)品的過(guò)程中，有權(quán)使用人們?cè)诰W(wǎng)上公開(kāi)發(fā)布的任意內(nèi)容。

南方財(cái)經(jīng)全媒體記者在檢索后發(fā)現(xiàn)，7月5日，谷歌中文版隱私政策也已經(jīng)進(jìn)行同步更新。

在競(jìng)天公誠(chéng)律師事務(wù)所合伙人袁立志看來(lái)，此次谷歌隱私政策的更新從實(shí)踐角度看不算重大變化?！盁o(wú)論在我國(guó)還是域外，對(duì)公開(kāi)數(shù)據(jù)的正常收集和使用，在一般情況下不算違法?！辈贿^(guò)他補(bǔ)充道，如果個(gè)人通過(guò)發(fā)送郵件等方式向信息處理者就相關(guān)使用表露明確拒絕，對(duì)其個(gè)人信息的收集和使用就應(yīng)當(dāng)停止。

北京大成律師事務(wù)所高級(jí)合伙人鄧志松也表示，就目前可獲得的信息而言，谷歌對(duì)收集與處理用戶個(gè)人信息的范圍和目的作出了詳細(xì)說(shuō)明，即使以歐盟GDPR項(xiàng)下更為嚴(yán)格的“告知-同意”規(guī)則為標(biāo)準(zhǔn)，谷歌的這一收集與處理行為至少在形式上具有合法性。至于其實(shí)施過(guò)程中可能涉及的實(shí)質(zhì)合法性判斷，及由此可能對(duì)AI等行業(yè)產(chǎn)生的影響，則尚待進(jìn)一步觀察。

雖然此次更新并未對(duì)個(gè)人信息保護(hù)帶來(lái)影響，但暗藏背后的數(shù)據(jù)隱憂卻逐漸被公眾注意到。

“得數(shù)據(jù)者得天下”

數(shù)據(jù)是數(shù)字經(jīng)濟(jì)時(shí)代的“新石油”，處在時(shí)代中的人工智能技術(shù)亦受其影響。

以O(shè)penAI的幾代GPT模型為例，訓(xùn)練數(shù)據(jù)上，GPT-1預(yù)訓(xùn)練數(shù)據(jù)量?jī)H有5GB；到了GPT-2，這個(gè)數(shù)據(jù)則增加至40GB；而在GPT3模型下，OpenAI用以訓(xùn)練模型的數(shù)據(jù)集數(shù)據(jù)量達(dá)到了驚人的45TB。

“大模型時(shí)代，得數(shù)據(jù)者得天下?！睂?duì)外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心執(zhí)行主任張欣指出，一方面，訓(xùn)練數(shù)據(jù)是大模型訓(xùn)練的基石和燃料，如果沒(méi)有數(shù)據(jù)，大模型的訓(xùn)練就無(wú)法開(kāi)展和持續(xù)；另一方面，當(dāng)前技術(shù)領(lǐng)域的研究顯示，各家大模型在算法層區(qū)別并不大，并且具有同質(zhì)化的趨勢(shì)。在此背景下，訓(xùn)練數(shù)據(jù)就成了真正區(qū)分且影響大模型性能的重要因素之一。

需求漸長(zhǎng)，供給端卻并未馬上配合。目前，有多家處在“數(shù)據(jù)提供端”的公司對(duì)數(shù)據(jù)抓取、開(kāi)源等做出了反應(yīng)。比如Twitter限制了用戶每天能查看的推文數(shù)量，幾乎使數(shù)據(jù)提供服務(wù)無(wú)法使用。馬斯克表示，這是對(duì)“數(shù)據(jù)抓取”和“系統(tǒng)操縱”的必要反應(yīng)。

今年1月，圖庫(kù)網(wǎng)站Getty Images對(duì)AI圖像生成器研發(fā)公司Stability AI提起法律訴訟，指其非法復(fù)制和處理版權(quán)圖像作為模型訓(xùn)練數(shù)據(jù)。4月，環(huán)球音樂(lè)集團(tuán)發(fā)函要求Spotify等音樂(lè)流媒體平臺(tái)切斷AI公司的訪問(wèn)權(quán)限，以阻止其版權(quán)歌曲被用于訓(xùn)練模型和生成音樂(lè)。

同樣在4月，Reddit官方宣布將對(duì)調(diào)用其API的公司收費(fèi)，原因正是OpenAI、谷歌等公司利用該平臺(tái)上的數(shù)據(jù)訓(xùn)練模型。此外，IT技術(shù)問(wèn)答網(wǎng)站Stack Overflow也計(jì)劃向AI大模型的開(kāi)發(fā)者及公司收取數(shù)據(jù)訪問(wèn)費(fèi)用。

6月，中文在線、同方知網(wǎng)與中國(guó)工人出版社等國(guó)內(nèi)25家文化出版機(jī)構(gòu)發(fā)出共同倡議，強(qiáng)調(diào)“為人工智能學(xué)習(xí)模型提供可靠、穩(wěn)定、安全的內(nèi)容來(lái)源”等AIGC版權(quán)保護(hù)問(wèn)題的重要性。

科技公司的系列動(dòng)作，一定程度反映了數(shù)據(jù)的重要性。

在7月2日全球數(shù)字經(jīng)濟(jì)大會(huì)人工智能高峰論壇上，昆侖萬(wàn)維科技股份有限公司CEO方漢表示，高質(zhì)量數(shù)據(jù)對(duì)大模型發(fā)展至關(guān)重要。

“坦白地講，最近三年的大模型訓(xùn)練積累的是對(duì)豐富的預(yù)訓(xùn)練數(shù)據(jù)深度加工的能力。OpenAI所有公開(kāi)的論文和講演，對(duì)訓(xùn)練過(guò)程和訓(xùn)練算法都是公開(kāi)的，但其從不公開(kāi)模型結(jié)構(gòu)及數(shù)據(jù)處理?！狈綕h指出，目前全世界大模型預(yù)訓(xùn)練團(tuán)隊(duì)都試圖重現(xiàn)OpenAI在模型架構(gòu)的動(dòng)作以及預(yù)訓(xùn)練數(shù)據(jù)的動(dòng)作，任何一家企業(yè)的預(yù)訓(xùn)練數(shù)據(jù)加工能力都至關(guān)重要。

數(shù)據(jù)稀缺、分散難題何解？

數(shù)據(jù)的重要性不言而喻，高質(zhì)量數(shù)據(jù)更是稀缺品。

早在去年，一項(xiàng)來(lái)自Epoch Al Research團(tuán)隊(duì)的研究就揭示了一個(gè)殘酷的事實(shí)：模型還要繼續(xù)做大，但數(shù)據(jù)卻不夠用了。研究結(jié)果表明，高質(zhì)量的語(yǔ)言數(shù)據(jù)存量將在2026年耗盡，低質(zhì)量的語(yǔ)言數(shù)據(jù)和圖像數(shù)據(jù)的存量則分別在2030年至2050年、2030年至2060年枯竭。

這意味著如果數(shù)據(jù)效率沒(méi)有顯著提高或沒(méi)有新的數(shù)據(jù)源可用，那么到2040年，模型的規(guī)模增長(zhǎng)將放緩。

百舸爭(zhēng)流是市場(chǎng)競(jìng)爭(zhēng)的常態(tài)，但過(guò)分競(jìng)爭(zhēng)也有可能為行業(yè)帶來(lái)災(zāi)難。限制數(shù)據(jù)抓取，很可能導(dǎo)致新一輪的數(shù)據(jù)大戰(zhàn)，進(jìn)而引發(fā)平臺(tái)之間屏蔽、數(shù)據(jù)壟斷等問(wèn)題。

國(guó)際標(biāo)準(zhǔn)化組織TC/154技術(shù)專家王翔指出，大模型的蓬勃發(fā)展對(duì)訓(xùn)練數(shù)據(jù)提出了很高的數(shù)量和質(zhì)量要求。在供給側(cè)，人口增速、用網(wǎng)時(shí)間下降、制度性地理約束提高、高質(zhì)量數(shù)據(jù)匱乏等都在制約大模型未來(lái)發(fā)展，SOP化和轉(zhuǎn)發(fā)習(xí)慣也降低了供給能力；在需求側(cè)，無(wú)論是主觀治理思路還是客觀基礎(chǔ)設(shè)施條件，以及大型語(yǔ)言模型所有者應(yīng)對(duì)市場(chǎng)的考量，都會(huì)持續(xù)強(qiáng)化數(shù)據(jù)壟斷。

此外，大模型訓(xùn)練中，面對(duì)的高質(zhì)量數(shù)據(jù)的稀缺、行業(yè)數(shù)據(jù)分散等問(wèn)題應(yīng)如何解決？

受訪專家指出，未來(lái)健康的生態(tài)需要市場(chǎng)側(cè)和監(jiān)管側(cè)等多方的共同建設(shè)維護(hù)。

“首先還是需要相信市場(chǎng)的力量”，袁立志指出，隨著優(yōu)質(zhì)數(shù)據(jù)的需求逐漸顯現(xiàn)，各個(gè)市場(chǎng)主體都會(huì)被“無(wú)形的手”推動(dòng)向前。“數(shù)據(jù)資源的尋找、匯聚、清洗、標(biāo)注等各個(gè)環(huán)節(jié)預(yù)計(jì)都會(huì)因競(jìng)爭(zhēng)的活躍而不斷改善，以滿足市場(chǎng)需求?！彼硎?。

張欣則具體指出，目前行業(yè)內(nèi)的開(kāi)源數(shù)據(jù)集正在不斷增多，未來(lái)應(yīng)呼吁更多人工智能企業(yè)、從業(yè)者加入，建立更加良好的行業(yè)生態(tài)?！叭斯ぶ悄苡?xùn)練時(shí)的眾包思路也非常重要?！彼J(rèn)為，企業(yè)之外，還可以善用技術(shù)社群的力量提升并開(kāi)拓更多的高質(zhì)量數(shù)據(jù)集。

而監(jiān)管側(cè)，在張欣看來(lái)，從法律法規(guī)層面明確訓(xùn)練數(shù)據(jù)集的合法性獲取路徑是監(jiān)管下一步應(yīng)當(dāng)關(guān)注的重點(diǎn)?！爸挥忻鞔_了合法獲取的路徑，大模型訓(xùn)練者才有更穩(wěn)定的合規(guī)預(yù)期以開(kāi)展工作。”

袁立志認(rèn)為，監(jiān)管側(cè)數(shù)據(jù)要素市場(chǎng)的建設(shè)深入會(huì)為大模型領(lǐng)域的發(fā)展帶來(lái)良性影響?！皵?shù)據(jù)要素市場(chǎng)建設(shè)走深意味著數(shù)據(jù)流通利用全流程提速提效，自然也惠及大模型的訓(xùn)練數(shù)據(jù)收集?！?/p>

關(guān)鍵詞：