社交媒體機(jī)器人帶來了什么問題

如今，社交媒體機(jī)器人因大量輸出自動(dòng)生成的內(nèi)容，而被指通過散布錯(cuò)誤信息影響選舉和損害公眾健康?，F(xiàn)在，一些社會(huì)科學(xué)家對(duì)它提出了一項(xiàng)新指控:干擾研究，而后者會(huì)從熱門網(wǎng)站抓取有關(guān)人類健康和行為的信息。

據(jù)《自然》雜志報(bào)道，這些網(wǎng)站的數(shù)據(jù)會(huì)幫助科學(xué)家了解自然災(zāi)害是如何影響心理健康的，為什么美國年輕人蜂擁購買電子煙，以及人們是如何在復(fù)雜的社交網(wǎng)絡(luò)中聯(lián)系的。但是，這樣的工作需要從自生成的信息中辨別出真正的聲音。

“機(jī)器人被設(shè)計(jì)成像人一樣上網(wǎng)。”美國洛杉磯南加州大學(xué)社會(huì)科學(xué)家Jon-Patrick Allem說，“如果研究人員對(duì)描述公眾態(tài)度感興趣，必須確保在社交媒體上收集的數(shù)據(jù)真正來自于人?！?/p>

計(jì)算機(jī)科學(xué)家Sune Lehmann在2013年設(shè)計(jì)了他的第一個(gè)機(jī)器人，當(dāng)時(shí)他在丹麥科技大學(xué)教學(xué)，該機(jī)器人是一個(gè)社交網(wǎng)絡(luò)實(shí)驗(yàn)。他說，當(dāng)時(shí)社交媒體上的機(jī)器人很簡單，主要是為了增加特定賬戶的“粉絲”數(shù)量。Lehmann想向?qū)W生展示這些機(jī)器人是如何操縱社會(huì)系統(tǒng)的，所以他們共同設(shè)計(jì)了一個(gè)模仿歌手賈斯汀·比伯粉絲的機(jī)器人。

這些“粉絲機(jī)器人”設(shè)計(jì)簡單，很快就吸引了成千上萬的關(guān)注者。之后，社交媒體機(jī)器人不斷進(jìn)化，變得更為復(fù)雜并難以被發(fā)現(xiàn)。2016年美國總統(tǒng)大選過后，這些機(jī)器人迅速成為焦點(diǎn)，人們指責(zé)這些駐扎在社交媒體上的機(jī)器人，試圖影響投票結(jié)果?！巴蝗恢g，它成為了人們感興趣的東西?！盇llem說。

此后Allem發(fā)現(xiàn)，由機(jī)器人自動(dòng)生成的“電子煙有助于戒煙”的內(nèi)容數(shù)量是真實(shí)內(nèi)容數(shù)量的兩倍，機(jī)器人也更有可能鼓吹未經(jīng)證實(shí)的大麻對(duì)健康的好處。這些研究依賴于算法，以估算社交媒體賬戶被機(jī)器人化的可能性。Allem說，盡管有檢測工具，許多社會(huì)科學(xué)和公共健康研究者還是沒有按步驟過濾出數(shù)據(jù)中可能自生成的內(nèi)容，部分原因是一些人覺得自己沒有這種操作的專業(yè)知識(shí)。

“這種遺漏可能會(huì)污染數(shù)據(jù)集?！瘪R里蘭大學(xué)帕克分校的Amelia Jamison警告說，她以健康差異為研究內(nèi)容，并在社交媒體上抓取反對(duì)接種疫苗的帖子。她表示:“將它們視為真正參與討論的人，你可能會(huì)人為地賦予機(jī)器人發(fā)言權(quán)。實(shí)際上，它們只是在放大一些可能不會(huì)被社群討論的東西?！彼赋?，在她的案例中，未清除機(jī)器人生成的內(nèi)容或?qū)е滤J(rèn)為人們正在產(chǎn)生比實(shí)際情況更多或更不同的反疫苗言論。

德國科隆萊布尼茨社會(huì)科學(xué)研究所的信息科學(xué)家Katrin Weller指出，必須解決的一個(gè)問題是如何定義“機(jī)器人”。不是所有的機(jī)器人都會(huì)惡意散播錯(cuò)誤信息，其中一些提供最新的氣象信息、海平面變化數(shù)據(jù)或更新一般新聞。一些研究人員將社交媒體機(jī)器人定義為那些每天發(fā)送超過一定數(shù)量信息的賬戶，但Weller認(rèn)為，這是一個(gè)松散的定義，將涉及大量真實(shí)的用戶。

機(jī)器人檢測工具和機(jī)器人之間已展開了一場“軍備競賽”。早先的社交媒體機(jī)器人是相對(duì)簡單的程序，定期轉(zhuǎn)發(fā)他人發(fā)布的內(nèi)容。現(xiàn)在，機(jī)器學(xué)習(xí)方面的進(jìn)步使創(chuàng)建更為復(fù)雜的、發(fā)布原創(chuàng)內(nèi)容的社交媒體機(jī)器人成為可能。一些機(jī)器人會(huì)以隨意的時(shí)間間隔發(fā)布信息并模仿人類，比如在人睡覺的時(shí)段不發(fā)布。一些開發(fā)者將人發(fā)布的內(nèi)容和自動(dòng)生成的內(nèi)容混合，以更好地偽裝機(jī)器人。

“一旦你對(duì)機(jī)器人以及如何檢測它們有了更多了解，機(jī)器人開發(fā)者也就可以獲得這些知識(shí)?！比鹗刻K黎世大學(xué)的Oliver Grübner說，“這非常棘手。”

像 Lehman一樣，一些社會(huì)科學(xué)家正在創(chuàng)造自己的機(jī)器人進(jìn)行社會(huì)實(shí)驗(yàn)。賓夕法尼亞州立大學(xué)政治學(xué)研究專家Kevin Munger和同事，就制作了一個(gè)在社交媒體上監(jiān)督使用種族歧視語言用戶的機(jī)器人。

在“粉絲機(jī)器人”取得成功后，Lehmann設(shè)計(jì)了更復(fù)雜的機(jī)器人來研究群體傳播。但由于機(jī)器人的名聲已壞，他決定放棄這種做法以免遭到公眾的強(qiáng)烈反對(duì)?！坝嘘P(guān)機(jī)器人的一切都沸沸揚(yáng)揚(yáng)?！盠ehmann說，“我想找一個(gè)安靜的角落做我的研究，不要引起紛爭。”