作者 / 鄭峻

編輯 / 韓大鵬

未成年人上網(wǎng)悲劇

去年 1 月 20 日，10 歲的意大利西西里島女童安東內(nèi)拉 · 斯科梅羅 ( Antonella Sicomero ) 拿著手機(jī)打開 TikTok，在自家浴室用皮帶勒住脖子，模仿網(wǎng)上熱門的 " 窒息挑戰(zhàn) " ( Blackout Challenge ) 。她很快失去了意識。等到家人發(fā)現(xiàn)時，悲劇已經(jīng)無可挽回。

這一令人震驚的事件很快引發(fā)了意大利乃至歐洲監(jiān)管部門的跟進(jìn)。悲劇發(fā)生之后第三天，意大利互聯(lián)網(wǎng)監(jiān)管機(jī)構(gòu) DPA 對 TikTok 下達(dá)為期三個星期的整改通牒：如果 TikTok 不能核實用戶年齡，就禁止提供服務(wù)運營。

從去年 2 月開始，TikTok 對當(dāng)時意大利 1200 萬用戶的年齡進(jìn)行全面核查，刪除 50 萬個年齡不符合規(guī)定的用戶，查出 14 萬謊報年齡的用戶。TikTok 還承諾，未來會引入更多技術(shù)手段進(jìn)行年齡核查，一旦發(fā)現(xiàn) 13 歲以下未成年人開設(shè)賬戶，則在 48 小時內(nèi)銷號。

然而，即便是專為未成年人開發(fā)的應(yīng)用，也存在著諸多漏洞與問題。YouTube Kids 是美國最為成功的兒童視頻應(yīng)用。這是一個 YouTube 精選的兒童相關(guān)內(nèi)容的視頻平臺，里面包括了大量的益智類動畫、兒歌以及學(xué)習(xí)內(nèi)容，每周活躍用戶超過 3500 萬人。

盡管 YouTube 對兒童內(nèi)容設(shè)置了嚴(yán)格的審核要求，但依然有諸多不適合的內(nèi)容出現(xiàn)。舉例來說，過去幾年美國家長投訴的 YouTube Kids 內(nèi)容包括汽車撞車起火燃燒，人物在懸崖邊做出危險動作，陰森恐怖的墳?zāi)箞鼍埃瑑和谠∈彝婀魏兜鹊取＿@些對成年人來說很正常的內(nèi)容，卻可能給學(xué)齡前兒童帶來心理陰影，甚至誘使他們模仿危險動作。

誘使兒童觀看視頻成癮也是 YouTube Kids 遭受指責(zé)的一大原因。這款應(yīng)用的默認(rèn)設(shè)置是自動播放視頻，意味著當(dāng)前視頻播放結(jié)束之后，YouTube Kids 會繼續(xù)播放算法推薦的內(nèi)容。如果家長不能實時干預(yù)的話，兒童就會一直看算法推薦的內(nèi)容。盡管從 2017 年媒體就開始報道這一問題，但沒有監(jiān)管部門的介入，谷歌就一直沒有調(diào)整默認(rèn)設(shè)置。

全票通過監(jiān)管立法

社交網(wǎng)站是否應(yīng)當(dāng)對這樣的悲劇負(fù)責(zé)，他們應(yīng)當(dāng)采取怎樣的技術(shù)手段，如何有效避免類似的悲劇發(fā)生，阻止未成年人在社交網(wǎng)絡(luò)接觸到不適當(dāng)?shù)膬?nèi)容？這已經(jīng)是全球互聯(lián)網(wǎng)監(jiān)管立法的一大迫切問題。

這一次，加州又一次走在了美國前列?；蛟S，加州在互聯(lián)網(wǎng)監(jiān)管方面責(zé)無旁貸，因為全球主要社交網(wǎng)站和互聯(lián)網(wǎng)公司的總部都位于加州，Youtube、Facebook、Instagram、Twitter、Snapchat 以及 TikTok 的美國總部，而加州的互聯(lián)網(wǎng)立法也一直走在美國各州的前列。

本周加州參議院以 33 票全票通過了《加州年齡相符設(shè)計法》 ( California Age-Appropriate Design Code Act，AB2273 ) ，對社交網(wǎng)站和互聯(lián)網(wǎng)平臺應(yīng)當(dāng)如何保護(hù)未成年人做出了明確規(guī)定。而此前加州眾議院已經(jīng)以 60 票全票批準(zhǔn)了這一法案，該法案隨后將送至加州州長紐森簽字生效，但將會在 2024 年付諸于實施。

需要強調(diào)的是，盡管民主黨在加州占據(jù)壓倒性優(yōu)勢，但全票通過的法案也并不多見。因為加州同樣有深紅選區(qū)，議會有諸多共和黨保守派議員，美國聯(lián)邦眾議院共和黨領(lǐng)袖就來自加州中部農(nóng)業(yè)地區(qū)。雖然兩黨在諸多議程上爭鋒相對，但卻在互聯(lián)網(wǎng)監(jiān)管方面有著難得共識，都對保護(hù)未成年人上網(wǎng)有著緊迫感。

值得一提的是，這也是美國首部針對社交網(wǎng)站應(yīng)當(dāng)如何保護(hù)未成年人個人信息和網(wǎng)絡(luò)活動的相關(guān)法律。在聯(lián)邦立法層面，參議院立法小組在今年 7 月已經(jīng)推進(jìn)了兩項法律草案，在未成年人上網(wǎng)方面對社交網(wǎng)絡(luò)做出了明確規(guī)定：禁止互聯(lián)網(wǎng)公司收集 13-16 歲用戶的數(shù)據(jù)，除非得到他們的用戶；要求互聯(lián)網(wǎng)公司為未成年人用戶以及他們監(jiān)護(hù)人提供一個消除平臺活動數(shù)據(jù)的喧囂。

此外，聯(lián)邦參議院的《兒童網(wǎng)絡(luò)安全法》的草案更是具體提出，社交媒體平臺必須給未成年人選擇權(quán)，允許他們退出算法推薦功能，屏蔽諸多不適合未成年人用戶的內(nèi)容。不過這些法案目前還沒有確切的時間表。加州此次率先通過相關(guān)立法，也有助于聯(lián)邦層面加快立法步伐。

安裝未成年數(shù)字圍欄

加州這一法律明確規(guī)定，社交網(wǎng)絡(luò)在面對未成年用戶時，必須將他們的隱私、安全和福祉置于自己的商業(yè)利益至上。如果有社交網(wǎng)絡(luò)違反這一規(guī)定，那么將面臨每名所涉及未成年用戶至多 7500 美元的罰金。

具體而言，這一法律要求應(yīng)用和網(wǎng)站開發(fā)者必須為 18 歲以下的未成年用戶安裝 " 數(shù)字圍欄 "，分析自己服務(wù)可能對未成年用戶帶來的危害，采取主動措施保護(hù)他們的個人信息以及網(wǎng)絡(luò)瀏覽數(shù)據(jù)。法律明確提到了目前社交網(wǎng)站所常用的推薦算法以及尋找好友功能，這些手段意在提高用戶粘性和增加使用時間，但對于未成年用戶，這些功能會帶來遭受騷擾的風(fēng)險，也會影響他們的身心健康。

加州的這項法律得到了美國諸多兒童權(quán)益保護(hù)機(jī)構(gòu)的歡迎。在法案通過之后，美國兒童安全保護(hù)組織 Fairplay 立即發(fā)表聲明稱，" 加州通過年齡相符設(shè)計法案是朝著為兒童和家庭打造他們的互聯(lián)網(wǎng)方向的巨大飛躍。"

Facebook、Twitter 等社交媒體巨頭以及代表他們利益的貿(mào)易群體此前在私下游說阻止這一法案通過。他們提出，這一法案會阻礙互聯(lián)網(wǎng)的創(chuàng)新，違反美國憲法規(guī)定的言論自由權(quán)利，也無助于有效保護(hù)家庭與孩子。

代表互聯(lián)網(wǎng)平臺利益的 NetChoice 發(fā)表聲明堅決反對這些監(jiān)管法律。" 這些法律會讓 Peloton 無法給孩子推薦新的鍛煉內(nèi)容，讓 Barnes&Noble ( 美國連鎖書店 ) 無法給中學(xué)生推薦繼續(xù)閱讀。加州一直是科技開發(fā)的領(lǐng)先者，但這些法律只會讓創(chuàng)新者避免承受過度監(jiān)管而離開加州。

年滿 13 歲才能注冊

和其他國家一樣，美國未成年用戶同樣廣泛存在于 Instagram、TikTok、Facebook、Snapchat 和 Youtube 等社交媒體平臺。但理論上說，并不是每個青少年都可以注冊使用這些服務(wù)。美國絕大部分社交網(wǎng)站接受的用戶注冊最低年齡要求都是 13 歲。

以 TikTok 舉例，用戶注冊的時候可以使用 Facebook、Twitter、谷歌或者蘋果賬號，單獨注冊時需要輸入出生日期和手機(jī)號碼 ( 或郵箱 ) ，確認(rèn)年滿 13 歲才能注冊。Instagram 和 Facebook 注冊新用戶的時候，最后一步也需要輸入生日。如果未滿 13 歲，平臺會直接拒絕注冊。

但是雖然各大社交媒體平臺設(shè)置了明確的注冊年齡要求，拒絕 13 歲以下未成年人獨立注冊使用；但他們只要求用戶主動提交年齡，就意味著有著諸多空子可鉆。Instagram 等平臺都承認(rèn)，未成年人完全可能虛報年齡注冊使用社交網(wǎng)絡(luò)，核查用戶實際年齡是一個技術(shù)難題。

美國關(guān)于用戶年齡限制的法律依據(jù)還是 1998 年頒布的《兒童網(wǎng)絡(luò)隱私保護(hù)法》 ( COPPA ) 。根據(jù)這一法律，互聯(lián)網(wǎng)公司為 13 歲以下用戶提供服務(wù)需要面臨更為嚴(yán)格的監(jiān)管要求和法律責(zé)任。他們需要事先得到父母的同意，設(shè)置設(shè)置 " 明確與完整的 " 的隱私政策，確保收集的兒童數(shù)據(jù)安全保密。

正因為這一原因，美國絕大多數(shù)社交網(wǎng)站都將注冊最低年齡設(shè)在了 13 歲。未成年人只能在父母陪伴下觀看一些社交媒體過濾后的適合未成年人的健康板塊內(nèi)容。13-16 歲這個年齡段的青少年，社交網(wǎng)站使用也面臨著限制。不管是 Instagram 還是 TikTok，這個年齡的用戶賬號是默認(rèn)私密的，意味著只有他們批準(zhǔn)的用戶才能看到自己以及私信。

一些互聯(lián)網(wǎng)公司也會開發(fā) 13 歲以下兒童的單獨產(chǎn)品，例如兒童版的 YouTube Kids，只能由父母幫助注冊，在父母監(jiān)護(hù)下使用，不能評論 ( 等于沒有了社交互動功能 ) 。TikTok 在 2019 年與美國聯(lián)邦貿(mào)易委員會達(dá)成和解之后，推出了只面向美國市場 13 歲以下的健康內(nèi)容版塊，但禁止搜索其他視頻，也不可以評論，更不能自己發(fā)布視頻。

監(jiān)管立法嚴(yán)重滯后

但這一機(jī)制卻存在著嚴(yán)重漏洞。2020 年，致力于保護(hù)兒童的非盈利機(jī)構(gòu) Thorn 對美國 2002 名 9-17 歲的未成年人進(jìn)行了社交網(wǎng)站使用情況調(diào)查；其中 9-12 歲兒童 742 名，12-17 歲少年 1260 名。

調(diào)查發(fā)現(xiàn)，盡管各家社交媒體公司都設(shè)置了明確的年齡限制，但是大多數(shù)兒童依然在使用這些社交應(yīng)用 ( 或是在父母監(jiān)護(hù)下，或是虛報年齡 ) 。在 9-12 歲兒童這個群體中，每天使用社交網(wǎng)站的比例分別為，F(xiàn)acebook ( 45% ) 、Instagram ( 40% ) 、Snapchat ( 40% ) 、TikTok ( 41% ) 、YouTube ( 78% ) 。而且，調(diào)查發(fā)現(xiàn) 27% 的未成年人用戶居然在使用約會應(yīng)用，后者的最低注冊年齡是 18 歲。

此外，Thorn 還對 1000 名 9-17 歲未成年人進(jìn)行了網(wǎng)絡(luò)騷擾情況調(diào)查；其中 9-12 歲兒童 391 名，13-17 歲少年 609 人。這一調(diào)查的結(jié)果更令人觸目驚心：16% 的 9-12 歲女孩都被成年人以性企圖騷擾過，13-17 歲的少女更是高達(dá) 34% 有過類似經(jīng)歷。

那么青少年是怎么應(yīng)對這些網(wǎng)絡(luò)騷擾的呢？83% 的人表示自己會屏蔽和舉報，只有 37% 的人會告訴父母或者親友。而且很多受訪的兒童表示，即便他們拉黑和舉報了騷擾行為，他們還是會再次遭到對方更換賬號的再次騷擾。

而在這些性企圖騷擾行為中，Instagram 和 Snapchat 的問題最為嚴(yán)重，26% 的類似騷擾都發(fā)生在這兩大平臺，其次則是 TikTok 和 Facebook Messenger ( 均為 18% ) 。顯然圖片和視頻社交平臺是青少年最容易遭到網(wǎng)絡(luò)性騷擾的平臺。

監(jiān)管還是事后處罰

即便是在注重未成年人和隱私保護(hù)的美國，在未成年人使用社交網(wǎng)絡(luò)方面的立法工作依然嚴(yán)重滯后，監(jiān)管手段依然以事后處罰為主，系統(tǒng)性保護(hù)機(jī)制存在著諸多漏洞。

從 Facebook 到 TikTok 到 YouTube，各大平臺都在青少年用戶方面有過諸多違規(guī)行為，并因此支付了高額的罰金或是和解。但相對于他們的營收而言，這些罰金無疑是不值一提。這些互聯(lián)網(wǎng)公司明知道自己平臺存在未成年人用戶，但依然在收集這些用戶的資料，用于定向廣告和內(nèi)容推薦。

其他社交網(wǎng)站在這方面也同樣問題不斷。2019 年 TikTok 與美國聯(lián)邦貿(mào)易委員會達(dá)成和解，支付 570 萬美元罰金，就此前在未成年用戶隱私問題上的違規(guī)行為達(dá)成和解 ( 未成年用戶的頭像和信息沒有默認(rèn)設(shè)置為私密 ) 。2021 年 2 月，TikTok 再次同意支付 9200 萬美元，就違規(guī)收集未成年人用戶信息的集體訴訟達(dá)成和解。

2018 年美國 23 個消費者和兒童保護(hù)機(jī)構(gòu)聯(lián)合向美國聯(lián)邦貿(mào)易委員會指控 YouTube，認(rèn)為該網(wǎng)站的年齡限制措施并不完善，而且在未告知父母以及征求授權(quán)的情況下，就違規(guī)收集兒童用戶的使用數(shù)據(jù)，用于推送 YouTube 的個性化廣告。

在是否關(guān)閉兒童應(yīng)用 YouTube Kids 的默認(rèn)推送和自動播放方面，谷歌也是在采取拖延戰(zhàn)術(shù)，因為關(guān)閉之后就會直接影響兒童使用應(yīng)用的時間。2021 年年初，谷歌 CEO 皮查伊參加國會聽證會時，馬薩諸塞州民主黨聯(lián)邦眾議員特拉罕 ( Lori Trahan ) 就此事詰問皮查伊。因為她自己孩子就沉迷于看 YouTube Kids 視頻。

除了當(dāng)面施壓皮查伊之外，美國眾議院監(jiān)管委員負(fù)責(zé)消費者和經(jīng)濟(jì)政策的小組也向 YouTube CEO 沃茨基 ( Susan Wojcicki ) 致函，認(rèn)為自動播放功能會讓兒童沉迷于觀看視頻。美國反壟斷監(jiān)管機(jī)構(gòu)聯(lián)邦貿(mào)易委員會 ( FTC ) 的專家小組也對 YouTube Kids 的自我播放功能提出了監(jiān)管意見。然而，谷歌直到去年 8 月才悄然推出了允許關(guān)閉自動播放的功能。

Meta 已成全民公敵

而在這一方面，Meta 社交矩陣已經(jīng)成為了全美公敵。去年 Meta 前網(wǎng)絡(luò)道德部門 ( Civic Integrity department ) 產(chǎn)品經(jīng)理霍根 ( Frances Haugen ) 曝光了 Meta 內(nèi)部的數(shù)萬頁文件，并在美國國會公開作證，引發(fā)了軒然大波?；舾缸C這家社交網(wǎng)絡(luò)巨頭將自己的經(jīng)濟(jì)利益置于用戶權(quán)益之上，在明知道可能帶來危害與不良后果的情況下，為了追求網(wǎng)絡(luò)流量和用戶粘性，依然堅持不改變推薦算法，甚至向未成年人推送本不該看到的內(nèi)容。按照霍根的指證，Meta 的興趣算法甚至?xí)蛭闯赡耆送扑妥詺垐D片，向身材焦慮的少女推送厭食癥內(nèi)容。

正是因為 Facebook 有著太多的黑歷史，去年 5 月，F(xiàn)acebook 宣布計劃開發(fā) 13 歲以下兒童版 Instagram 的時候，遭到了美國監(jiān)管部門和社會各界的一致反對。從聯(lián)邦貿(mào)易委員會到聯(lián)邦參議兩院議員到各個網(wǎng)絡(luò)權(quán)益保護(hù)機(jī)構(gòu)，都先后發(fā)布了公開信，督促 Facebook 立刻停止開發(fā)兒童版 Instagram。此外值得一提的是，美國 44 個州的司法部長也聯(lián)名施壓扎克伯格，要求 Facebook 放棄這一項目。幾個月之后，去年 9 月 Meta 不得不宣布暫停開發(fā)兒童版 Instagram。

在違規(guī)收集以及泄露用戶數(shù)據(jù)方面，F(xiàn)acebook 絕對是劣跡斑斑。2019 年他們因此被美國聯(lián)邦貿(mào)易委員會處罰 50 億美元，創(chuàng)下了美國監(jiān)管和解金額的紀(jì)錄。去年 Facebook 又因為未經(jīng)用戶授權(quán)掃描用戶網(wǎng)絡(luò)相冊進(jìn)行面部識別，遭到 160 萬用戶的集體訴訟，最終同意支付 6.5 億美元達(dá)成和解。

更令人震驚的是，從 2016 年到 2019 年，F(xiàn)acebook 通過多個測試項目，每月支付 20 美元讓 13-25 歲的年輕人安裝自己的數(shù)據(jù)收集應(yīng)用，從而獲得他們手機(jī)網(wǎng)絡(luò)使用的完整大數(shù)據(jù)。以非常低廉的價格獲得了大量用戶的完整數(shù)據(jù)。Facebook 明知道這其中涉及到未成年人，卻依然收集了三年時間。

Facebook 先是通過 VPN 應(yīng)用違規(guī)收集用戶數(shù)據(jù)，在被蘋果強行下架之后，F(xiàn)acebook 又借助企業(yè)版根證書繞過蘋果應(yīng)用商店，通過付費收集青少年的網(wǎng)絡(luò)數(shù)據(jù)。這一丑聞徹底激怒了蘋果，一度吊銷了 Facebook 的企業(yè)版開發(fā)權(quán)限，也是后來兩家公司關(guān)系不斷惡劣的導(dǎo)火索。去年蘋果干脆在 iOS 系統(tǒng)更新中加入了允許用戶拒絕數(shù)據(jù)跟蹤的選擇，給 Meta 的社交廣告帶來了顯著沖擊。據(jù) Meta CFO 維納 ( David Wehner ) 預(yù)計，蘋果此舉可能會給 Meta2022 年的營收帶來高達(dá) 100 億美元的損失。