帥爸「兒童程式教育」AI 育兒筆記(一):孩子如何掉進網路陷阱?


2015年4月,當AI人工智慧席捲地球,阿帕契姐事件全台發熱的時候,我的兒子帥帥誕生了。

帥爸以科技人角度,開始了一個人文與科學的育兒大挑戰。

這是「帥爸兒童程式教育學苑」的第10篇文章,by帥爸 & P小編




「你講故事給孩子聽嗎?」
答案應該是肯定的,「講故事」是很多爸媽都會為孩子做的事。


有些故事,和你想的不一樣!
講故事很重要,但現在問題來了,講什麼故事給孩子聽呢?

相信大部分的新手爸媽,會從很久很久以前的童話開始講起,我也不例外。

帥爸一深究,才發現很迷惘!很多經典童話,現代專家給了不同意見,例如「小紅帽」,暗藏著孩童對性的焦慮與著迷,而且小紅帽結局也很暴力,剖開肚子,塞滿石頭,然後拋入水裡,是在編教父前傳嗎?

「灰姑娘」也充滿了性別歧視的意味。

回頭看看耳熟能詳的二十四孝故事,「臥冰求鯉」也好不到哪?我應該要跟孩子說的是,天冷了,要多加件衣服,注意保暖,而不是大冷天去抱一個大冰塊。

「恣蚊飽血」也是童話的行徑,夏天防治病媒蚊都來不及了,怎會會把這故事講給孩子聽呢?
與其講了這些故事,還要跟孩子說,你不能這樣、那樣,該怎樣又哪樣,不如一開始就將故事的品質做好把關,幫孩子做好故事守門員的角色。


故事守門員是AI好?還是爸媽好?

很多父母仰賴YouTube來幫忙,YouTube上的影片資源很豐富,關鍵字「童話故事」一鍵入,從此小寶貝吃飯的時候,有影片陪伴。

Google有一套影片內容推薦的AI技術,用來偵測分析點播的記錄,然後會推送相關影片給觀眾。而且很精準。

琳瑯滿目的影片,當然沒有爸媽,會自己先看過一遍才播放給小寶貝看,但,是否想過,當我們沒時間管控孩子觀看的內容時,這時候,電腦的AI系統,都給你的孩子看了些什麼?

下面要來跟大家聊一件,在YouTube上掀起軒然大波的艾莎門事件。

驚動全球一千萬父母,超詭異艾莎門事件

艾莎門(ElsaGate)事件最早由2014年談起,但真正被各國YouTube爸媽大舉撻伐則是2016年的事了。艾莎門事件是指利用兒童熟悉,且喜愛的角色來置入不適合兒童觀看的詭譎影片,當中以深受兒童喜愛的冰雪奇緣主角Elsa為最被廣泛置入而得其名。這類的影片大量呈現血腥、暴力、性暗示、鬼怪、綁架等......,連大人看都感到糟糕、充滿隱晦、甚至噁心的內容。目前猜測,有心人士大量散佈這類影片可能有幾個因素。

1. 利用兒童的點閱來獲利

有很多人會上傳影片到YouTube上,透過點閱來賺取收益,這點大多數人都能理解,但什麼樣的影片能吸引觀眾呢?很不幸的,投兒童所好,是極佳的策略之一!兒童容易被熟悉的卡通角色吸引,不太會點擊跳過廣告,經常欲罷不能的一集看過一集,加上Youtube常會自動推薦用戶喜愛的影片類型,只要系統偵測到這類影片或製作帳號是常被點選到的,後續幾乎可以不費吹灰之力,看好、看滿了!

2. 透過影片對兒童進行性誘拐

這點就真的很頭大了!兒童對於身體的自主意識不像大人那麼清楚,有心人士就透過熟悉的卡通角色消除兒童戒心,取得信任後誘拐使其發生性行為。

3. 不良組織試圖洗腦兒童

這類影片常使用大量鮮明的色彩製作,大多是紅色、藍色、綠色、黃色、粉色。這些顏色對某些組織其實具有特殊意義。而影片內容常出現血腥、暴力甚至出現槍枝、 斷頭情節,不難想像,有組織想用這些大量的影片刻意對兒童進行荼毒,企圖將暴力人格、軍國主義思想、被虐情節加諸在兒童腦海裡,以達到洗腦的目的。



艾莎門是如何被揭發的?

「艾莎門ElsaGate」這個名詞是在2017年夏天被創造出來的,肇因艾莎門事件傳播的嚴重程度,已經淹到家門口了!很多人歸咎於YouTube的演算法制度讓有心人士有機可趁,簡單來說,當你看過幾則影片後,YouTube會推測「喜歡A影片的人,同時還可能喜歡B影片」,就是如此簡單的原因,導致惡質影片被大量的「推薦」給兒童。

關於惡質影片的影響,廣告商顯然比YouTube有作為多了,許多廣告商開始停止在YouTube投放廣告,原因無他,就是怕家長認為他們的產品與惡質影片有關聯,進而影響品牌形象與銷量。這時候YouTube才姍姍來遲,驚覺事態嚴重了,此時,他們採取最積極的方法,就是增加很多人工審查的機制,因為有很多的資訊內容還是得靠「人工」來檢查才會比較到位!

事件發展成這樣,是很多人始料未及的,現在看來也許有些荒謬和諷刺,因為艾莎門事件陷入恐慌,事件到現在都還無法完全杜絕,想像一下,只要孩子的小手輕輕在YouTube點個幾下,相關的影片就都又冒出來了!這麼防不甚防,有如滔滔江水般綿延不絕,最終還是要有家長的涉入與陪伴才能確保孩子是在安全的環境下成長。

除了艾莎門事件外,網路裏的故事陷阱堪稱一波未平,一波又起!


Momo的自殺挑戰

剛剛提到了令很多爸媽擔憂不已的艾莎門事件,千萬別以為艾莎門只是冰山一角,事實上,類似的事件一直層出不窮,一直未能有停歇的一天。事實上另一個恐怖的Youtube影片議題,更是直接攸關孩子們的生命安全。

姑且稱之為,「Momo的挑戰」吧!

恐怖的Momo已經讓全世界多名孩童相繼引發自殘、危險模仿,甚至自殺的行為。

Momo是誰?

這個momo不是那個讓你買東西的購物台,它原本是日本一位藝術家--(Keisuke )所創造出來的作品,原名叫做「姑獲鳥」。

是一個將女人和鳥類的身體做結合的模型作品。源自古老的日本妖怪傳說,相傳「姑獲鳥」是因難產而死的孕婦所幻化成的妖怪,披上羽毛會變成鳥,脫下羽毛就化作女人,然後牠會趁夜晚擄走別人的小孩,如此駭人的形跡,經常被拿來做為妖怪故事的創作題材。

話說,「姑獲鳥」模樣真的挺嚇人的,女人的頭型、瞪大的眼珠子、誇張的裂嘴、披頭散髮,以及鳥類的身體。光是聽我用敘述的,相信很多爸媽腦海已經有了一些不舒服的畫面了!

進擊的Momo

後來這個「姑獲鳥」藝術作品怎麼變成Momo的?

原來是從2018年7月開始的,知名社群網站開始流傳《恐怖女子 Momo》的都市傳說,在有心人士操作之下,將「姑獲鳥」改了個名字,叫做Momo,用著「姑獲鳥」的形象開始在社群間慫恿大家進行挑戰活動、引發討論的熱潮。

所謂的挑戰活動,在大人眼裡,也許還分辨得出危險性。但對孩子來說,可就沒那麼簡單了。Momo最近的發展,是有人故意在兒童常看的youtube影片中安插Momo跳出的畫面,接著恐嚇孩子進行一些危險行為,像是,叫孩子打開瓦斯的爐火、吞大量的藥片、拿刀片傷害自己、亂剪自己的頭髮等行為。

影片中的Momo用著威脅言語,警告孩子不准告訴大人,否則會來找他,讓孩子心生恐懼,因此不敢違抗Momo的指令。


Momo所引發的連鎖效應

很多孩子被Momo的恐嚇震攝的身心靈都受到了極大的創傷,以致出現了一些反社會行為;甚至已經有孩子精神狀況出現異常,菲律賓有名11歲的小男孩更因為聽了Momo的吞藥自殺指令,為此而喪命!

更多的是,很多孩童看了Momo影片後,被嚇得情緒不穩、無法好好生活。這讓各位爸爸媽媽聽了,不免覺得好虐心啊!


這裡,真的要跟各位爸爸媽媽鄭重呼籲!平常真的得特別留意孩子在網路上的活動行跡,不論是影片、文章還是遊戲等媒介,都可能藏有很多「耐人尋味」的陷阱,孩子能分辨和自處的能力有限,這時候只能倚靠各位家長的留心與智慧了!

接著,提供幾個小叮嚀,幫助爸媽陪同孩子更安心的瀏覽網路資源。
  1. 孩子觀看影片時,家長請在旁監看
  2. 關掉「推薦影片」的自動播放功能
  3. 限制影片觀看時間,避免孩子沉迷
  4. 教導孩子發現影片內容不妥,務必告知家長
  5. 積極檢舉不良影片


想了解更多「兒童程式設計」、「兒童程式教育」、「手機成癮」、「網路成癮」、「運算思維」議題, 請關注帥爸的FB,一起來跟帥爸交流分享。