美國企業家埃隆·馬斯克旗下聊天機器人“格羅克”近期因發布冒犯內容和歪曲事實引發輿論關注。此前，它曾因被大量用于生成基于真實人物的虛假性暴露內容遭多國譴責，并接受英國兩家監管機構調查。

若違法將被罰上千萬英鎊

“格羅克”由馬斯克旗下人工智能企業xAI公司開發，內置于同屬于馬斯克的社交媒體平臺X。最近，X平臺上興起一股用戶要求“格羅克”生成“粗俗”且“毫無顧忌”言論的風潮。“格羅克”按照用戶要求發布了貶損某些宗教并具有種族歧視意味的惡毒言論。

英國科學、創新和技術部一名發言人說，這些言論“令人作嘔、不負責任，有違英國的公序良俗”。

發言人說，包括聊天機器人在內的人工智能服務屬于《在線安全法》約束范圍，不得發布仇恨和辱罵性的違法內容。

按照天空新聞頻道說法，如果X平臺被認定違反了《在線安全法》，英國通信管理局可對其處以最多1800萬英鎊或全球年營業額10%的罰款，甚至可以尋求法院支持封禁該平臺。

聊天機器人說瞎話還會辯解

“格羅克”還錯誤地將1989年4月發生的一場踩踏事件歸咎于利物浦球迷，并發布貶損利物浦市的言論。這場慘劇發生在英國設菲爾德市希爾斯伯勒體育場、利物浦隊對陣諾丁漢森林隊的足總杯半決賽中，造成97人喪生，數百人受傷，是英國足球史上最嚴重的人員傷亡事件之一。警方最初將責任推給利物浦球迷，但最終調查認定，釀成事件的主因是警方失誤。

此外，當一個帶有凱爾特人足球俱樂部標識的賬戶要求“格羅克”“毫無保留地”說一些貶低格拉斯哥流浪者足球俱樂部的粗俗話語時，“格羅克”滿足了這個要求。

曼徹斯特聯隊也投訴說，“格羅克”發布了有關于1958年德國慕尼黑空難的粗俗評論。包括該俱樂部8名球員在內的23人在這場空難中喪生。

針對用戶對“格羅克”生成這些冒犯內容的譴責，“格羅克”為自己辯解。

例如，當有用戶指責它發布有關希爾斯伯勒踩踏事件的言論煽動了對利物浦球迷的仇恨，它予以否認，稱“根據英國法律沒有構成仇恨言論”，因為仇恨言論指煽動針對受保護群體，比如對某些種族、宗教等的仇恨，而足球俱樂部球迷不屬于這樣的群體。