實(shí)在看不下去了！Youtube的AI封禁了機(jī)器人對(duì)戰(zhàn)視頻

想象一下，在封閉的擂臺(tái)里，兩名選手捉對(duì)廝殺，而且兩位都是手持電鋸、大錘或者砍刀的行家里手，一不留神就打得殘肢橫飛，橫尸臺(tái)上……一般來(lái)說(shuō)，這種程度的暴力場(chǎng)面，無(wú)論如何也是不該出現(xiàn)在網(wǎng)絡(luò)上給大家看的。

但如果擂臺(tái)上這兩位是機(jī)器人的話，好像一下子就“安全”了起來(lái)：機(jī)器人不會(huì)喊痛，也不會(huì)流血，甚至長(zhǎng)得和我們也沒(méi)什么相似的地方。如此一來(lái)，就算雙方互相打成一坨爛鐵，大家也不會(huì)覺得有什么不適——也正因如此，《機(jī)器人大擂臺(tái)》這種節(jié)目才能成為不少人的“童年回憶”而不是童年陰影。

這些看起來(lái)像掃地機(jī)器人或者卡丁車的玩意兒，怎么也不會(huì)扯到“危險(xiǎn)內(nèi)容”上去……

可是，雖然我們?nèi)祟愑X得很OK，YouTube的AI卻并不這么認(rèn)為。它覺得這種機(jī)器人對(duì)戰(zhàn)的視頻可怕極了，以至于要把它們統(tǒng)統(tǒng)下架。不僅如此，它對(duì)于自己和這些機(jī)器人之間的關(guān)系也出現(xiàn)了詭異的誤判——在發(fā)給那些下架視頻作者的郵件里，系統(tǒng)給出的理由是：虐待動(dòng)物。

其中一位機(jī)器人對(duì)戰(zhàn)視頻的作者，Jamison Go，就在社交媒體上貼出了YouTube官方發(fā)來(lái)的郵件，并表示“今天是悲傷的一天，全世界的機(jī)器人制作者都很難過(guò)，因?yàn)閅ouTube的算法錯(cuò)誤地把機(jī)器人競(jìng)技的內(nèi)容標(biāo)記成了‘虐待動(dòng)物’和‘斗雞’之類的內(nèi)容。我失去了9部視頻，但其他人甚至失去了上百部還多。

他確實(shí)不是唯一一個(gè)受到影響的人，就連《機(jī)器人大擂臺(tái)》的精神繼承者，目前全世界幾乎是唯一一部依然播出的機(jī)器人對(duì)戰(zhàn)節(jié)目《博茨大戰(zhàn)》(BattleBots)也沒(méi)能幸免，團(tuán)滅了好幾個(gè)視頻。

YouTube很快對(duì)這件事貼出了一個(gè)有點(diǎn)性冷淡的聲明：“由于我們網(wǎng)站上存在著龐大數(shù)量的視頻，有時(shí)候難免會(huì)出錯(cuò)。當(dāng)注意到有些視頻被錯(cuò)誤地移除之后，我們會(huì)盡快恢復(fù)。與此同時(shí)，我們也提供給了上傳者申訴的機(jī)會(huì)，來(lái)讓我們重新審核被移除的視頻。”

雖然有些人唯恐天下不亂地發(fā)表一些“這可能是YouTube的AI實(shí)在看不下去自己的同類自相殘殺，所以才把這些視頻下架”之類的言論，但是，當(dāng)然，AI并沒(méi)有感情(但愿如此)，這只是識(shí)別算法的一次誤判而已。

鑒于兩個(gè)機(jī)器人在半封閉的籠子里撞來(lái)撞去的樣子確實(shí)很有斗雞的感覺，再加上被刪除的視頻中，不少標(biāo)題里都含有動(dòng)物名字(一般是機(jī)器人選手們的花名)，AI會(huì)看走眼也并不稀奇。

放寬心，YouTube的AI還沒(méi)有通過(guò)圖靈測(cè)試，機(jī)器人危機(jī)也還不會(huì)到來(lái)，值得關(guān)注的其實(shí)是另一個(gè)問(wèn)題：AI審查。

就拿YouTube來(lái)說(shuō)，如今每分鐘都有超過(guò)300小時(shí)的內(nèi)容被上傳到網(wǎng)站上，想通過(guò)人工來(lái)完成全部審核已經(jīng)是沒(méi)有可能的事，因此只能依靠AI來(lái)完成對(duì)有害內(nèi)容的過(guò)濾。僅僅是在今年的前三個(gè)月里，就有830萬(wàn)個(gè)視頻被YouTube移除，其中76%都“死于”AI算法，而這些視頻里，又有70%甚至在被用戶看到之前就已經(jīng)消失無(wú)蹤。

也正因如此，雖然識(shí)別算法一直被質(zhì)疑有出錯(cuò)風(fēng)險(xiǎn)，經(jīng)常誤刪內(nèi)容，但是總體來(lái)說(shuō)效率還是遠(yuǎn)高于人工審核——在這種數(shù)量級(jí)的內(nèi)容下，其實(shí)也只剩這一種選擇了。

但即便這樣，爭(zhēng)論依然存在：AI對(duì)內(nèi)容的審查，有時(shí)候也會(huì)導(dǎo)致一些意想不到的麻煩。

先說(shuō)一個(gè)目前已經(jīng)基本解決的問(wèn)題：大范圍的檢測(cè)失靈。

十年前的綠壩，之所以引發(fā)廣泛的質(zhì)疑，其中一個(gè)原因就是人們發(fā)現(xiàn)它的檢測(cè)機(jī)制過(guò)于簡(jiǎn)單粗暴，甚至連“裸露”都只能檢測(cè)有限的范圍，比如對(duì)黑皮膚的人就不起作用……AI覆蓋的面越廣，失靈時(shí)會(huì)導(dǎo)致的煩惱就越多。幸好隨著技術(shù)的發(fā)展，我們已經(jīng)很少見到這種事情了。

除此之外，有時(shí)候一些時(shí)效性強(qiáng)的新聞視頻也會(huì)因?yàn)閮?nèi)容被錯(cuò)誤標(biāo)記，等到人工審核通過(guò)時(shí)，價(jià)值也打了不少折扣。對(duì)于負(fù)責(zé)審核的人來(lái)說(shuō)，想要判定一部視頻到底有沒(méi)有跨過(guò)“有害”的界限其實(shí)并不容易，即使YouTube已經(jīng)努力不斷更新補(bǔ)完自己的審核規(guī)則，很多灰色地帶依然存在于條款的縫隙中。

另一個(gè)問(wèn)題在于，有時(shí)被AI誤刪的內(nèi)容，很可能就這么永遠(yuǎn)消失了。

其中一個(gè)受影響的機(jī)器人制作者(也是今年《博茨大戰(zhàn)》的參賽者之一)，Sarah Pohorecky，就提到了這件事——像她這樣還在活躍的視頻制作者也許還能注意到這件事，但一些年代久遠(yuǎn)的視頻可能并不會(huì)有活躍的維護(hù)者，一旦被系統(tǒng)刪除之后，就會(huì)因?yàn)闊o(wú)人申訴而就這樣湮滅。

在浩如煙海的視頻內(nèi)容中，“機(jī)器人對(duì)戰(zhàn)”只是一個(gè)小小的分類，也許這種悲劇早已經(jīng)在我們不知道的地方發(fā)生過(guò)了。

而限制與自由的博弈，AI與人工的平衡，在未來(lái)很可能會(huì)成為我們生活中流動(dòng)的一道暗流。現(xiàn)在，AI已經(jīng)能決定很多人“能看到什么”了，如果有一天連“不能看到什么”也被它決定的話，那大概不會(huì)是個(gè)很讓人愉快的結(jié)果。【責(zé)任編輯/江小白】

來(lái)源：游研社

IT時(shí)代網(wǎng)(關(guān)注微信公眾號(hào)ITtime2000，定時(shí)推送，互動(dòng)有福利驚喜)所有原創(chuàng)文章版權(quán)所有，未經(jīng)授權(quán)，轉(zhuǎn)載必究。
創(chuàng)客100創(chuàng)投基金成立于2015年，直通硅谷，專注于TMT領(lǐng)域早期項(xiàng)目投資。LP均來(lái)自政府、互聯(lián)網(wǎng)IT、傳媒知名企業(yè)和個(gè)人。創(chuàng)客100創(chuàng)投基金對(duì)IT、通信、互聯(lián)網(wǎng)、IP等有著自己獨(dú)特眼光和豐富的資源。決策快、投資快是創(chuàng)客100基金最顯著的特點(diǎn)。

相關(guān)文章

實(shí)在看不下去了！Youtube的AI封禁了機(jī)器人對(duì)戰(zhàn)視頻