QQ在線
企業(yè)微信
資訊
490謝菲爾德大學(xué)的研究人員正在開(kāi)發(fā)可用于自動(dòng)檢測(cè)和反擊社交媒體上的濫用行為的新工具。
由大學(xué)計(jì)算機(jī)科學(xué)系的Kalina Bontcheva教授領(lǐng)導(dǎo)的這項(xiàng)研究正在開(kāi)發(fā)新的人工智能(AI)和自然語(yǔ)言處理(NLP)方法，這些方法可用于負(fù)責(zé)任地處理在線虐待和仇恨言論。
該項(xiàng)目是與加拿大西蒙菲沙大學(xué)的Wendy Hui Kyong Chun協(xié)作發(fā)起的，研究的是AI方法，該方法目前用于檢測(cè)兩個(gè)區(qū)域內(nèi)的在線濫用和仇恨言論。游戲行業(yè)以及社交媒體上針對(duì)政客的信息。
該研究的研究人員打算利用他們的發(fā)現(xiàn)來(lái)開(kāi)發(fā)有效，公平且公正的新AI算法。該系統(tǒng)將具有上下文意識(shí)，并尊重基于種族，種族，性別和性別的社區(qū)內(nèi)的語(yǔ)言差異。
研究人員將研究當(dāng)前內(nèi)容審核系統(tǒng)中嵌入的偏見(jiàn)，這些偏見(jiàn)經(jīng)常使用嚴(yán)格的定義或確定辱罵性語(yǔ)言。這些當(dāng)前的系統(tǒng)經(jīng)常自相矛盾地基于身份，包括性別，性別，種族，文化，宗教，政治背景或其他因素，造成新形式的歧視或偏見(jiàn)。
研究團(tuán)隊(duì)旨在通過(guò)產(chǎn)生更多情境感知的動(dòng)態(tài)檢測(cè)系統(tǒng)來(lái)解決這些影響。
此外，該項(xiàng)目還希望通過(guò)使新工具開(kāi)源來(lái)增強(qiáng)用戶能力，以便將其嵌入新策略中，以民主方式解決在線濫用和仇恨言論。它們也可以用作基于社區(qū)的護(hù)理和應(yīng)對(duì)措施的一部分。
Kalina Bontcheva教授說(shuō)：“近年來(lái)，網(wǎng)上濫用和仇恨言論的數(shù)量急劇增加，這使得政府和社交媒體平臺(tái)都在努力應(yīng)對(duì)后果。
“在線濫用和仇恨言論的大量增加引發(fā)了公眾的憤慨，人們要求政府和社交媒體公司為解決這個(gè)問(wèn)題付出更多的努力，但是目前尚無(wú)有效或技術(shù)性的流程可以負(fù)責(zé)任或民主的方式解決這個(gè)問(wèn)題。
“我們正在開(kāi)發(fā)新穎的AI和NLP方法來(lái)解決該問(wèn)題，同時(shí)還為學(xué)者和早期職業(yè)研究人員制定了一項(xiàng)重要的培訓(xùn)計(jì)劃，以培養(yǎng)這一關(guān)鍵研究領(lǐng)域的能力和專業(yè)知識(shí)?！?
謝菲爾德大學(xué)與西蒙·弗雷澤大學(xué)(Simon Fraser University)共同領(lǐng)導(dǎo)了“負(fù)責(zé)任的包容性民主社會(huì)的人工智能：一種跨學(xué)科的在線檢測(cè)和打擊辱罵性語(yǔ)言的方法”項(xiàng)目。它是英國(guó)研究與創(chuàng)新(UKRI)資助的10個(gè)英國(guó)-加拿大項(xiàng)目之一，以支持負(fù)責(zé)任的AI開(kāi)發(fā)，包括確保社會(huì)所有成員信任AI并從中受益。
