證券時報記者 陳霞昌

近日，包頭、安慶等地先后發生不法分子利用人工智能（AI）進行詐騙，涉及金額數百萬元。資本市場同樣出現AI負面影響的事件，某上市公司因為生成式AI寫作虛假小作文導致股價大幅下跌。

在歐美，利用人工智能進行犯罪也有增多趨勢。歐洲刑警組織在一份最新報告中警告，犯罪分子可能會利用人工智能精進犯罪手段。從發動網絡釣魚攻擊、散布不實信息到安裝惡意軟件等，聊天機器人快速發展出的能力，被不法之徒頻頻利用來吸金詐財。

人工智能被譽為第四次工業革命的核心，長期以來都受到政府和行業的高度關注。今年以ChatGPT為代表的生成式人工智能更是在全球刮起旋風，資本市場對相關企業也給予了高度關注。但人們探討的，更多是人工智能對各行各業帶來的正面變革，甚少看到它高速發展可能帶來的負面影響。業內僅有少數有識之士提出，希望人工智能在迅猛發展的同時，也要受到足夠的約束和監管。

今年3月，在ChatGPT火出圈后，包括特斯拉總裁馬斯克、蘋果聯合創始人史蒂夫·沃茲尼亞克在內的一批高科技人士發表聯名信，呼吁所有AI實驗室立即暫停更強大的AI系統訓練至少6個月，以保證人類能夠跟上人工智能進化速度，同時要求訓練過程必須公開化、透明化，堅決防止人工智能出現自我意識。

“人工智能教父”杰弗里·辛頓今年年初就曾經警告，人工智能對人類構成的威脅將比氣候變化更加緊迫。辛頓認為，人工智能是一種智能工具，可以輔助人類做一些繁瑣、重復和創意性工作，但也會有不法之徒用它來做違法亂紀的勾當。人工智能不但能撰寫文章，還能生成圖像、視頻。如果用來弄虛作假，幾乎可以亂真，普通人很難識別出來。如果有人用它來制作虛假圖像、視頻，傳遞錯誤信息，其破壞力遠大于單純的文字形式。

當前在國內外發生的種種違法犯罪，正在應驗辛頓的警告。可以預見，未來利用人工智能進行違法犯罪的事情會越來越多。金融市場和金融機構因為涉及資產價格和國家安全，人工智能犯罪的概率會更大。

今年4月，國家互聯網信息辦公室起草了《生成式人工智能服務管理辦法（征求意見稿）》，旨在促進生成式人工智能技術健康發展和規范應用。但作為一個行業管理辦法，顯然不足以對洶涌而來的人工智能發展進行約束和管理。期待監管機構能夠在更高層面對這一行業發展進行更多關注和規范。