蒂思∙洛格斯登∙華萊士
住在美國明尼蘇達州明尼亞波里斯(Minneapolis)的艾莉西斯∙洛格斯登(Alexis Logsdon)育有一位13歲的兒子。今年9月中，艾莉西斯接獲學校輔導員的來電，表示學校的軟件，偵察到他兒子在一份作業中，曾使用「自殺」的字眼。
艾莉西斯的兒子蒂思(Teeth Logsdon Wallace)是一位跨性別的青少年，就讀第八班。去年初新冠肺炎疫情爆發後一直在家。5月時，非裔男子喬治·佛洛伊德(George Floyd)遭白人警員跪頸致死，引發連串社會動盪。他經常受直升機和警報聲干擾，令他晚上無法入睡。
為此，他剛完成了一項療程。上月，圖思在一作業中，指他的情緒問題已有所改善。他雖一度有自殺傾向，但一隊已解散的樂隊「Ramshackle Glory」的歌曲協助他度過難關。然而，這份作業卻被學校的「Gaggle」監察到，並通知校方。
在加州聖地亞哥縣馬可斯聯合校區(San Marcos Unified School District)副教育局局長（Assistant Superintendent） 蒂芬妮 ·坎貝爾 (Tiffany Campbell)說，該區採用的「Lightspeed」軟件，在今年秋季開課的一星期內，已發現5宗提及自殘字眼的作業。其中一位同學在日記中表示要輕生，學校立即通知家長提供協助。
不過，圖思的母親艾莉西斯和很多家長都不知道，美國學校所採用的監測網絡訊息軟件，如「Gaggle」，「Bark」、「Gnosis IQ」和「Lightspeed」等，可以實時監控學生有否瀏覽與學習有關的網頁，可以屏蔽不相關的網頁及停住他們的電腦畫面。軟件也可以偵測網路的某些關鍵字詞，例如自殘、自殺、暴力、毒品、色情或飲食失調等，以提早預防學生出現問題。
去年爆發新冠肺炎疫情，學校為支援遠距教學，為學生提供的許多筆記部型電腦或平板電腦，其實都裝有監視軟件，可以監看學生的聊天室私訊、電郵以及文件檔案。
非營利研究組織「民主科技中心」(Center for Democracy and Technology)今年9月發表的一項研究指出，接受訪問的80%教師與77%高中生均表示，學校提供的電子產品內裝有監視軟件。
研究引述一名學校主管表示，某些學生可能有自殺或自殘念頭，校方可透過監控軟件發現。「對於打算霸凌他人的學生，我們也可以採取相應對策。如果我們可即時挽救一名企圖自殺的學生，花在平台服務的每一分錢都是有價值的。」
提供偵測軟件的公司「Bark」，為美國2,900個校區提供服務。該公司表示，軟件可在一星期內，偵測到5,000宗有關自殘或自殺的情況。
美國康湼狄格州的城鎮韋斯特菲爾德(Westport)一位16歲學生露茜(Lucy Dockter)，也是學校校報的編輯。她說，過去幾年，通訊多次被「Gaggle」發出標記。她坦言，這些經驗「確實駭人」。
露茜說，有一次生物科的中期考試，當時心情十分緊張，正擔心有甚麼出錯，卻突然收到「Gaggle」的通知，指「不當使用」及「請避免存檔或分享你檔案的不當內容」，原因有同學的投稿有粗言。
然而露茜認為，「Gaggle」並沒有向投稿的同學發出警告。她稍後也曾投訴「Gaggle」，言語中也包括一些粗話，但卻沒有遭到警告。她說:「倘校方只依賴人工智能採取行動將十分危險。」
此外，「民主科技中心」的研究更顯示，六成學生表示，由於知道有網絡監控，他們不會在社交媒體表達真正感受；八成學生表示他們要更小心在網絡搜尋資料。亦有六成家長擔心校方會斷章取義地理解學生的作業，或被誤用來處罰學生。
