保護未成年人上網(wǎng):加州又一次走在美國前列

未成年人上網(wǎng)悲劇

去年1月20日,10歲的意大利西西里島女童安東內拉·斯科梅羅(Antonella Sicomero)拿著(zhù)手機打開(kāi)TikTok,在自家浴室用皮帶勒住脖子,模仿網(wǎng)上熱門(mén)的“窒息挑戰”(Blackout Challenge)。她很快失去了意識。等到家人發(fā)現時(shí),悲劇已經(jīng)無(wú)可挽回。

這一令人震驚的事件很快引發(fā)了意大利乃至歐洲監管部門(mén)的跟進(jìn)。悲劇發(fā)生之后第三天,意大利互聯(lián)網(wǎng)監管機構DPA對TikTok下達為期三個(gè)星期的整改通牒:如果TikTok不能核實(shí)用戶(hù)年齡,就禁止提供服務(wù)運營(yíng)。

從去年2月開(kāi)始,TikTok對當時(shí)意大利1200萬(wàn)用戶(hù)的年齡進(jìn)行全面核查,刪除50萬(wàn)個(gè)年齡不符合規定的用戶(hù),查出14萬(wàn)謊報年齡的用戶(hù)。TikTok還承諾,未來(lái)會(huì )引入更多技術(shù)手段進(jìn)行年齡核查,一旦發(fā)現13歲以下未成年人開(kāi)設賬戶(hù),則在48小時(shí)內銷(xiāo)號。

然而,即便是專(zhuān)為未成年人開(kāi)發(fā)的應用,也存在著(zhù)諸多漏洞與問(wèn)題。YouTube Kids是美國最為成功的兒童視頻應用。這是一個(gè)YouTube精選的兒童相關(guān)內容的視頻平臺,里面包括了大量的益智類(lèi)動(dòng)畫(huà)、兒歌以及學(xué)習內容,每周活躍用戶(hù)超過(guò)3500萬(wàn)人。

盡管YouTube對兒童內容設置了嚴格的審核要求,但依然有諸多不適合的內容出現。舉例來(lái)說(shuō),過(guò)去幾年美國家長(cháng)投訴的YouTube Kids內容包括汽車(chē)撞車(chē)起火燃燒,人物在懸崖邊做出危險動(dòng)作,陰森恐怖的墳墓場(chǎng)景,兒童在浴室玩刮胡刀等等。這些對成年人來(lái)說(shuō)很正常的內容,卻可能給學(xué)齡前兒童帶來(lái)心理陰影,甚至誘使他們模仿危險動(dòng)作。

誘使兒童觀(guān)看視頻成癮也是YouTube Kids遭受指責的一大原因。這款應用的默認設置是自動(dòng)播放視頻,意味著(zhù)當前視頻播放結束之后,YouTube Kids會(huì )繼續播放算法推薦的內容。如果家長(cháng)不能實(shí)時(shí)干預的話(huà),兒童就會(huì )一直看算法推薦的內容。盡管從2017年媒體就開(kāi)始報道這一問(wèn)題,但沒(méi)有監管部門(mén)的介入,谷歌就一直沒(méi)有調整默認設置。

全票通過(guò)監管立法

社交網(wǎng)站是否應當對這樣的悲劇負責,他們應當采取怎樣的技術(shù)手段,如何有效避免類(lèi)似的悲劇發(fā)生,阻止未成年人在社交網(wǎng)絡(luò )接觸到不適當的內容?這已經(jīng)是全球互聯(lián)網(wǎng)監管立法的一大迫切問(wèn)題。

這一次,加州又一次走在了美國前列?;蛟S,加州在互聯(lián)網(wǎng)監管方面責無(wú)旁貸,因為全球主要社交網(wǎng)站和互聯(lián)網(wǎng)公司的總部都位于加州,Youtube、Facebook、Instagram、Twitter、Snapchat以及TikTok的美國總部,而加州的互聯(lián)網(wǎng)立法也一直走在美國各州的前列。

本周加州參議院以33票全票通過(guò)了《加州年齡相符設計法》(CaliforniaAge-AppropriateDesignCodeAct,AB2273),對社交網(wǎng)站和互聯(lián)網(wǎng)平臺應當如何保護未成年人做出了明確規定。而此前加州眾議院已經(jīng)以60票全票批準了這一法案,該法案隨后將送至加州州長(cháng)紐森簽字生效,但將會(huì )在2024年付諸于實(shí)施。

需要強調的是,盡管民主黨在加州占據壓倒性?xún)?yōu)勢,但全票通過(guò)的法案也并不多見(jiàn)。因為加州同樣有深紅選區,議會(huì )有諸多共和黨保守派議員,美國聯(lián)邦眾議院共和黨領(lǐng)袖就來(lái)自加州中部農業(yè)地區。雖然兩黨在諸多議程上爭鋒相對,但卻在互聯(lián)網(wǎng)監管方面有著(zhù)難得共識,都對保護未成年人上網(wǎng)有著(zhù)緊迫感。

值得一提的是,這也是美國首部針對社交網(wǎng)站應當如何保護未成年人個(gè)人信息和網(wǎng)絡(luò )活動(dòng)的相關(guān)法律。在聯(lián)邦立法層面,參議院立法小組在今年7月已經(jīng)推進(jìn)了兩項法律草案,在未成年人上網(wǎng)方面對社交網(wǎng)絡(luò )做出了明確規定:禁止互聯(lián)網(wǎng)公司收集13-16歲用戶(hù)的數據,除非得到他們的用戶(hù);要求互聯(lián)網(wǎng)公司為未成年人用戶(hù)以及他們監護人提供一個(gè)消除平臺活動(dòng)數據的喧囂。

此外,聯(lián)邦參議院的《兒童網(wǎng)絡(luò )安全法》的草案更是具體提出,社交媒體平臺必須給未成年人選擇權,允許他們退出算法推薦功能,屏蔽諸多不適合未成年人用戶(hù)的內容。不過(guò)這些法案目前還沒(méi)有確切的時(shí)間表。加州此次率先通過(guò)相關(guān)立法,也有助于聯(lián)邦層面加快立法步伐。

安裝未成年數字圍欄

加州這一法律明確規定,社交網(wǎng)絡(luò )在面對未成年用戶(hù)時(shí),必須將他們的隱私、安全和福祉置于自己的商業(yè)利益至上。如果有社交網(wǎng)絡(luò )違反這一規定,那么將面臨每名所涉及未成年用戶(hù)至多7500美元的罰金。

具體而言,這一法律要求應用和網(wǎng)站開(kāi)發(fā)者必須為18歲以下的未成年用戶(hù)安裝“數字圍欄”,分析自己服務(wù)可能對未成年用戶(hù)帶來(lái)的危害,采取主動(dòng)措施保護他們的個(gè)人信息以及網(wǎng)絡(luò )瀏覽數據。法律明確提到了目前社交網(wǎng)站所常用的推薦算法以及尋找好友功能,這些手段意在提高用戶(hù)粘性和增加使用時(shí)間,但對于未成年用戶(hù),這些功能會(huì )帶來(lái)遭受騷擾的風(fēng)險,也會(huì )影響他們的身心健康。

加州的這項法律得到了美國諸多兒童權益保護機構的歡迎。在法案通過(guò)之后,美國兒童安全保護組織Fairplay立即發(fā)表聲明稱(chēng),“加州通過(guò)年齡相符設計法案是朝著(zhù)為兒童和家庭打造他們的互聯(lián)網(wǎng)方向的巨大飛躍?!?/p>

Facebook、Twitter等社交媒體巨頭以及代表他們利益的貿易群體此前在私下游說(shuō)阻止這一法案通過(guò)。他們提出,這一法案會(huì )阻礙互聯(lián)網(wǎng)的創(chuàng )新,違反美國憲法規定的言論自由權利,也無(wú)助于有效保護家庭與孩子。

代表互聯(lián)網(wǎng)平臺利益的NetChoice發(fā)表聲明堅決反對這些監管法律?!斑@些法律會(huì )讓Peloton無(wú)法給孩子推薦新的鍛煉內容,讓Barnes&Noble(美國連鎖書(shū)店)無(wú)法給中學(xué)生推薦繼續閱讀。加州一直是科技開(kāi)發(fā)的領(lǐng)先者,但這些法律只會(huì )讓創(chuàng )新者避免承受過(guò)度監管而離開(kāi)加州。

年滿(mǎn)13歲才能注冊

和其他國家一樣,美國未成年用戶(hù)同樣廣泛存在于Instagram、TikTok、Facebook、Snapchat和Youtube等社交媒體平臺。但理論上說(shuō),并不是每個(gè)青少年都可以注冊使用這些服務(wù)。美國絕大部分社交網(wǎng)站接受的用戶(hù)注冊最低年齡要求都是13歲。

以TikTok舉例,用戶(hù)注冊的時(shí)候可以使用Facebook、Twitter、谷歌或者蘋(píng)果賬號,單獨注冊時(shí)需要輸入出生日期和手機號碼(或郵箱),確認年滿(mǎn)13歲才能注冊。Instagram和Facebook注冊新用戶(hù)的時(shí)候,最后一步也需要輸入生日。如果未滿(mǎn)13歲,平臺會(huì )直接拒絕注冊。

但是雖然各大社交媒體平臺設置了明確的注冊年齡要求,拒絕13歲以下未成年人獨立注冊使用;但他們只要求用戶(hù)主動(dòng)提交年齡,就意味著(zhù)有著(zhù)諸多空子可鉆。Instagram等平臺都承認,未成年人完全可能虛報年齡注冊使用社交網(wǎng)絡(luò ),核查用戶(hù)實(shí)際年齡是一個(gè)技術(shù)難題。

美國關(guān)于用戶(hù)年齡限制的法律依據還是1998年頒布的《兒童網(wǎng)絡(luò )隱私保護法》(COPPA)。根據這一法律,互聯(lián)網(wǎng)公司為13歲以下用戶(hù)提供服務(wù)需要面臨更為嚴格的監管要求和法律責任。他們需要事先得到父母的同意,設置設置“明確與完整的”的隱私政策,確保收集的兒童數據安全保密。

正因為這一原因,美國絕大多數社交網(wǎng)站都將注冊最低年齡設在了13歲。未成年人只能在父母陪伴下觀(guān)看一些社交媒體過(guò)濾后的適合未成年人的健康板塊內容。13-16歲這個(gè)年齡段的青少年,社交網(wǎng)站使用也面臨著(zhù)限制。不管是Instagram還是TikTok,這個(gè)年齡的用戶(hù)賬號是默認私密的,意味著(zhù)只有他們批準的用戶(hù)才能看到自己以及私信。

一些互聯(lián)網(wǎng)公司也會(huì )開(kāi)發(fā)13歲以下兒童的單獨產(chǎn)品,例如兒童版的YouTube Kids,只能由父母幫助注冊,在父母監護下使用,不能評論(等于沒(méi)有了社交互動(dòng)功能)。TikTok在2019年與美國聯(lián)邦貿易委員會(huì )達成和解之后,推出了只面向美國市場(chǎng)13歲以下的健康內容版塊,但禁止搜索其他視頻,也不可以評論,更不能自己發(fā)布視頻。

監管立法嚴重滯后

但這一機制卻存在著(zhù)嚴重漏洞。2020年,致力于保護兒童的非盈利機構Thorn對美國2002名9-17歲的未成年人進(jìn)行了社交網(wǎng)站使用情況調查;其中9-12歲兒童742名,12-17歲少年1260名。

調查發(fā)現,盡管各家社交媒體公司都設置了明確的年齡限制,但是大多數兒童依然在使用這些社交應用(或是在父母監護下,或是虛報年齡)。在9-12歲兒童這個(gè)群體中,每天使用社交網(wǎng)站的比例分別為,Facebook(45%)、Instagram(40%)、Snapchat(40%)、TikTok(41%)、YouTube(78%)。而且,調查發(fā)現27%的未成年人用戶(hù)居然在使用約會(huì )應用,后者的最低注冊年齡是18歲。

此外,Thorn還對1000名9-17歲未成年人進(jìn)行了網(wǎng)絡(luò )騷擾情況調查;其中9-12歲兒童391名,13-17歲少年609人。這一調查的結果更令人觸目驚心:16%的9-12歲女孩都被成年人以性企圖騷擾過(guò),13-17歲的少女更是高達34%有過(guò)類(lèi)似經(jīng)歷。

那么青少年是怎么應對這些網(wǎng)絡(luò )騷擾的呢?83%的人表示自己會(huì )屏蔽和舉報,只有37%的人會(huì )告訴父母或者親友。而且很多受訪(fǎng)的兒童表示,即便他們拉黑和舉報了騷擾行為,他們還是會(huì )再次遭到對方更換賬號的再次騷擾。

而在這些性企圖騷擾行為中,Instagram和Snapchat的問(wèn)題最為嚴重,26%的類(lèi)似騷擾都發(fā)生在這兩大平臺,其次則是TikTok和Facebook Messenger(均為18%)。顯然圖片和視頻社交平臺是青少年最容易遭到網(wǎng)絡(luò )性騷擾的平臺。

監管還是事后處罰

即便是在注重未成年人和隱私保護的美國,在未成年人使用社交網(wǎng)絡(luò )方面的立法工作依然嚴重滯后,監管手段依然以事后處罰為主,系統性保護機制存在著(zhù)諸多漏洞。

從Facebook到TikTok到YouTube,各大平臺都在青少年用戶(hù)方面有過(guò)諸多違規行為,并因此支付了高額的罰金或是和解。但相對于他們的營(yíng)收而言,這些罰金無(wú)疑是不值一提。這些互聯(lián)網(wǎng)公司明知道自己平臺存在未成年人用戶(hù),但依然在收集這些用戶(hù)的資料,用于定向廣告和內容推薦。

其他社交網(wǎng)站在這方面也同樣問(wèn)題不斷。2019年TikTok與美國聯(lián)邦貿易委員會(huì )達成和解,支付570萬(wàn)美元罰金,就此前在未成年用戶(hù)隱私問(wèn)題上的違規行為達成和解(未成年用戶(hù)的頭像和信息沒(méi)有默認設置為私密)。2021年2月,TikTok再次同意支付9200萬(wàn)美元,就違規收集未成年人用戶(hù)信息的集體訴訟達成和解。

2018年美國23個(gè)消費者和兒童保護機構聯(lián)合向美國聯(lián)邦貿易委員會(huì )指控YouTube,認為該網(wǎng)站的年齡限制措施并不完善,而且在未告知父母以及征求授權的情況下,就違規收集兒童用戶(hù)的使用數據,用于推送YouTube的個(gè)性化廣告。

在是否關(guān)閉兒童應用YouTubeKids的默認推送和自動(dòng)播放方面,谷歌也是在采取拖延戰術(shù),因為關(guān)閉之后就會(huì )直接影響兒童使用應用的時(shí)間。2021年年初,谷歌CEO皮查伊參加國會(huì )聽(tīng)證會(huì )時(shí),馬薩諸塞州民主黨聯(lián)邦眾議員特拉罕(LoriTrahan)就此事詰問(wèn)皮查伊。因為她自己孩子就沉迷于看YouTubeKids視頻。

除了當面施壓皮查伊之外,美國眾議院監管委員負責消費者和經(jīng)濟政策的小組也向YouTube CEO沃茨基(Susan Wojcicki)致函,認為自動(dòng)播放功能會(huì )讓兒童沉迷于觀(guān)看視頻。美國反壟斷監管機構聯(lián)邦貿易委員會(huì )(FTC)的專(zhuān)家小組也對YouTube Kids的自我播放功能提出了監管意見(jiàn)。然而,谷歌直到去年8月才悄然推出了允許關(guān)閉自動(dòng)播放的功能。

Meta已成全民公敵

而在這一方面,Meta社交矩陣已經(jīng)成為了全美公敵。去年Meta前網(wǎng)絡(luò )道德部門(mén)(CivicIntegritydepartment)產(chǎn)品經(jīng)理霍根(FrancesHaugen)曝光了Meta內部的數萬(wàn)頁(yè)文件,并在美國國會(huì )公開(kāi)作證,引發(fā)了軒然大波?;舾缸C這家社交網(wǎng)絡(luò )巨頭將自己的經(jīng)濟利益置于用戶(hù)權益之上,在明知道可能帶來(lái)危害與不良后果的情況下,為了追求網(wǎng)絡(luò )流量和用戶(hù)粘性,依然堅持不改變推薦算法,甚至向未成年人推送本不該看到的內容。按照霍根的指證,Meta的興趣算法甚至會(huì )向未成年人推送自殘圖片,向身材焦慮的少女推送厭食癥內容。

正是因為Facebook有著(zhù)太多的黑歷史,去年5月,Facebook宣布計劃開(kāi)發(fā)13歲以下兒童版Instagram的時(shí)候,遭到了美國監管部門(mén)和社會(huì )各界的一致反對。從聯(lián)邦貿易委員會(huì )到聯(lián)邦參議兩院議員到各個(gè)網(wǎng)絡(luò )權益保護機構,都先后發(fā)布了公開(kāi)信,督促Facebook立刻停止開(kāi)發(fā)兒童版Instagram。此外值得一提的是,美國44個(gè)州的司法部長(cháng)也聯(lián)名施壓扎克伯格,要求Facebook放棄這一項目。幾個(gè)月之后,去年9月Meta不得不宣布暫停開(kāi)發(fā)兒童版Instagram。

在違規收集以及泄露用戶(hù)數據方面,Facebook絕對是劣跡斑斑。2019年他們因此被美國聯(lián)邦貿易委員會(huì )處罰50億美元,創(chuàng )下了美國監管和解金額的紀錄。去年Facebook又因為未經(jīng)用戶(hù)授權掃描用戶(hù)網(wǎng)絡(luò )相冊進(jìn)行面部識別,遭到160萬(wàn)用戶(hù)的集體訴訟,最終同意支付6.5億美元達成和解。

更令人震驚的是,從2016年到2019年,Facebook通過(guò)多個(gè)測試項目,每月支付20美元讓13-25歲的年輕人安裝自己的數據收集應用,從而獲得他們手機網(wǎng)絡(luò )使用的完整大數據。以非常低廉的價(jià)格獲得了大量用戶(hù)的完整數據。Facebook明知道這其中涉及到未成年人,卻依然收集了三年時(shí)間。

Facebook先是通過(guò)VPN應用違規收集用戶(hù)數據,在被蘋(píng)果強行下架之后,Facebook又借助企業(yè)版根證書(shū)繞過(guò)蘋(píng)果應用商店,通過(guò)付費收集青少年的網(wǎng)絡(luò )數據。這一丑聞徹底激怒了蘋(píng)果,一度吊銷(xiāo)了Facebook的企業(yè)版開(kāi)發(fā)權限,也是后來(lái)兩家公司關(guān)系不斷惡劣的導火索。去年蘋(píng)果干脆在iOS系統更新中加入了允許用戶(hù)拒絕數據跟蹤的選擇,給Meta的社交廣告帶來(lái)了顯著(zhù)沖擊。據Meta CFO維納(David Wehner)預計,蘋(píng)果此舉可能會(huì )給Meta2022年的營(yíng)收帶來(lái)高達100億美元的損失?!矩熑尉庉?周末】(文/ 鄭峻)

來(lái)源:新浪科技

IT時(shí)代網(wǎng)(關(guān)注微信公眾號ITtime2000,定時(shí)推送,互動(dòng)有福利驚喜)所有原創(chuàng )文章版權所有,未經(jīng)授權,轉載必究。
創(chuàng )客100創(chuàng )投基金成立于2015年,直通硅谷,專(zhuān)注于TMT領(lǐng)域早期項目投資。LP均來(lái)自政府、互聯(lián)網(wǎng)IT、傳媒知名企業(yè)和個(gè)人。創(chuàng )客100創(chuàng )投基金對IT、通信、互聯(lián)網(wǎng)、IP等有著(zhù)自己獨特眼光和豐富的資源。決策快、投資快是創(chuàng )客100基金最顯著(zhù)的特點(diǎn)。

相關(guān)文章
保護未成年人上網(wǎng):加州又一次走在美國前列

精彩評論