社交機(jī)器人正在偷偷“硬控”網(wǎng)絡(luò)
多彩世界
“在互聯(lián)網(wǎng)上,沒(méi)人知道你是一條狗。”這是20年前我父母那輩人剛接觸網(wǎng)絡(luò)時(shí),非常流行的一句話。如今,這句話要改改了,因?yàn)楦阍诰W(wǎng)上互動(dòng)、聊天的,很可能連個(gè)生物都不是,而是機(jī)器人。
這種機(jī)器人,也叫社交機(jī)器人。它們由計(jì)算機(jī)算法自動(dòng)生成和控制,能夠在網(wǎng)絡(luò)上通過(guò)模擬人類用戶的行為進(jìn)行發(fā)帖、點(diǎn)贊、關(guān)注,并能與人類用戶交流。
大量社交機(jī)器人充當(dāng)“水軍”
大家或多或少都接觸過(guò)一些社交機(jī)器人,例如聊天機(jī)器人、虛擬主播和電子客服。它們?yōu)榛ヂ?lián)網(wǎng)平臺(tái)和用戶提供便利的同時(shí),也帶來(lái)情感聯(lián)系和陪伴,同時(shí)能夠彌補(bǔ)人工客服的勞動(dòng)力短缺、降低成本,提供更加快捷的在線服務(wù)等。
但很多人不知道的是,海量的社交機(jī)器人也正在隱匿其機(jī)器身份,組成網(wǎng)絡(luò)“水軍”與人進(jìn)行互動(dòng)。
不難發(fā)現(xiàn),網(wǎng)上的討論和評(píng)論很多都是一邊倒的,要不就是有很多難聽(tīng)的話,還有很多留言故意挑起爭(zhēng)端。這很大部分都是網(wǎng)絡(luò)水軍的行為,他們被別有用心的人開(kāi)發(fā)或雇傭,為了制造熱點(diǎn)、流量,以達(dá)到一些不好的目的。隨著人工智能技術(shù)的發(fā)展,網(wǎng)絡(luò)“水軍”也正在從以人工為主,演變?yōu)橐陨缃粰C(jī)器人為主。
跟雇傭真人上陣的網(wǎng)絡(luò)“水軍”比起來(lái),社交機(jī)器人更可怕,因?yàn)樗鼈兪怯呻娔X程序控制,能模仿人類用戶的行為,而且它們不用吃飯、睡覺(jué),可以不停地發(fā)帖轉(zhuǎn)發(fā)評(píng)論,通過(guò)信息轟炸來(lái)制造聲勢(shì)。這些“超能力”讓社交機(jī)器人就像一群隱形的病毒,無(wú)孔不入,對(duì)網(wǎng)絡(luò)環(huán)境造成了巨大破壞。
“水軍”社交機(jī)器人干擾生活
具體來(lái)說(shuō),社交機(jī)器人給我們帶來(lái)了很多壞處,主要有四個(gè)方面:
第一,它們傳播假消息。有些企業(yè)或團(tuán)體為了吸引粉絲和用戶,就用虛假話題和評(píng)論配合社交機(jī)器人賬號(hào)一起炒作,讓不實(shí)的信息在網(wǎng)上迅速傳開(kāi),誤導(dǎo)了很多人。在一些熱門話題中,社交機(jī)器人重復(fù)傳播假消息,就可能影響公眾的看法,讓人們對(duì)假消息信以為真。
第二,它們操縱輿論。社交機(jī)器人可以通過(guò)大量發(fā)布、轉(zhuǎn)發(fā)或評(píng)論一些特定的內(nèi)容,影響網(wǎng)上的討論方向和焦點(diǎn),從而操縱輿論。在2016年英國(guó)脫歐公投期間和2017年法國(guó)總統(tǒng)大選前夕,很多機(jī)器人用戶混入話題討論。
第三,它們泄露用戶隱私。在與用戶交互的過(guò)程中,社交機(jī)器人可以獲取用戶的IP地址、設(shè)備信息、地理位置等,存在著濫用用戶信息、侵犯用戶隱私的問(wèn)題,一旦社交機(jī)器人賬號(hào)被黑客攻擊,就會(huì)泄露出大量用戶的隱私信息,給用戶造成損失。
第四,它們破壞社交體驗(yàn)。用戶體驗(yàn)是社交媒體最重要的競(jìng)爭(zhēng)力之一,但過(guò)多的社交機(jī)器人活動(dòng)會(huì)干擾正常的網(wǎng)絡(luò)社交互動(dòng),損害真實(shí)用戶的體驗(yàn)。
技術(shù)反制社交機(jī)器人
可以說(shuō),社交機(jī)器人正在受人操控,偷偷地影響人類社會(huì)。對(duì)此,我們必須要警惕起來(lái)并進(jìn)行反制,用技術(shù)對(duì)抗技術(shù)。
我國(guó)也越來(lái)越重視對(duì)有害社交機(jī)器人的治理。7月29日,國(guó)務(wù)院新聞辦公室舉行新聞發(fā)布會(huì),中央網(wǎng)信辦相關(guān)負(fù)責(zé)人介紹,過(guò)去一年來(lái)累計(jì)處置違法違規(guī)賬號(hào)、群組781萬(wàn)余個(gè),“嚴(yán)厲打擊社交機(jī)器人、批量生成文案等新型的網(wǎng)絡(luò)水軍,整治精準(zhǔn)性不斷提升”。
目前,很多科研人員在開(kāi)發(fā)社交機(jī)器人檢測(cè)技術(shù),判斷該賬戶是人類還是機(jī)器人。然而,社交機(jī)器人的信息發(fā)布和偽裝技術(shù)也在不斷演進(jìn),其隱匿性越來(lái)越高,行為表現(xiàn)越來(lái)越接近真人用戶,檢測(cè)難度逐漸加大。如何在如此復(fù)雜的環(huán)境中實(shí)現(xiàn)準(zhǔn)確而高效的社交機(jī)器人檢測(cè),已經(jīng)成為當(dāng)前學(xué)術(shù)界和商業(yè)界普遍關(guān)注的研究熱點(diǎn)。
總之,這是個(gè)“道高一尺,魔高一丈”的比拼過(guò)程。社交機(jī)器人技術(shù)本身是中性的,需要人類去規(guī)制它,抑制其負(fù)面影響,將正面作用發(fā)揚(yáng)光大。
(作者系北京一零一中學(xué)高二年級(jí)20班學(xué)生)
==============================
指導(dǎo)教師點(diǎn)評(píng)
在人工智能技術(shù)迅猛發(fā)展的今天,社交機(jī)器人正以其高度擬人化的形象,悄然滲透至互聯(lián)網(wǎng)的各個(gè)領(lǐng)域,在為人類生活帶來(lái)便捷的同時(shí),對(duì)互聯(lián)網(wǎng)生態(tài)安全也構(gòu)成了不容忽視的挑戰(zhàn)。本文深入科普了社交機(jī)器人的功能特性及其可能引發(fā)的社會(huì)風(fēng)險(xiǎn),并通過(guò)具體案例,生動(dòng)地展現(xiàn)了這些風(fēng)險(xiǎn)的現(xiàn)實(shí)影響。同時(shí),文章針對(duì)如何進(jìn)行社交機(jī)器人檢測(cè)、降低其負(fù)面社會(huì)影響也提出了獨(dú)特見(jiàn)解,引導(dǎo)讀者以更加審慎和積極的態(tài)度面對(duì)這一新興技術(shù)。
(白潔 中國(guó)科學(xué)院自動(dòng)化研究所 副研究員/博士)
上一篇: 美國(guó)海軍艦艇的特殊編號(hào)有何奧秘
下一篇:返回列表
【免責(zé)聲明】本文轉(zhuǎn)載自網(wǎng)絡(luò),與科技網(wǎng)無(wú)關(guān)。科技網(wǎng)站對(duì)文中陳述、觀點(diǎn)判斷保持中立,不對(duì)所包含內(nèi)容的準(zhǔn)確性、可靠性或完整性提供任何明示或暗示的保證。請(qǐng)讀者僅作參考,并請(qǐng)自行承擔(dān)全部責(zé)任。