北青報記者注意到，山寨版的危害可能只是蹭熱度、賺流量錢和服務費，更需要提防的，是不法分子把ChatGPT與犯罪行為聯繫在一起。據公安部官網發布相關信息提醒稱，目前，境外有人使用ChatGPT創建一個完整的感染鏈：不同以往的廣撒網式的網絡釣魚，它在提問者的誘導下，可以生成針對特定人或者組織的“魚叉式”網絡釣魚郵件。此類釣魚郵件更具有欺騙性和迷惑性，接收者一旦點擊該郵件，系統就會被惡意代碼感染中毒。
與此同時，不法分子對ChatGPT的惡意利用，也帶來了更多的數據安全問題。目前，外國已有相關機構證明該機器人可能被用於編寫惡意軟件，從而逃避防病毒軟件的檢測，或利用其擬人的聊天對話功能，冒充真實的人或者組織騙取他人信息等。
案例
使用ChatGPT寫作新聞稿 導致錯誤信息在網上傳播
研究機構測試發現，如果對著ChatGPT提出充斥陰謀論和誤導性敘述的問題，它能在幾秒鐘內改編信息，產生大量令人信服卻沒有來源根據的內容。一旦ChatGPT被不法分子利用，將可能導致ChatGPT衍生成為互聯網上製造和傳播網絡謠言的工具。
2月16日，一則“2023年3月1日起，杭州市政府將取消機動車尾號限行政策，此舉旨在提高城市交通效率，緩解交通擁堵，方便市民出行……”的消息在網上瘋傳。其一板一眼的表達讓許多市民都認為這是官方的正式通報。然而實際情況是，杭州某小區業主群討論ChatGPT，一位業主嘗試用它寫篇杭州取消限行的新聞稿，隨後在群裡直播了使用ChatGPT的寫作過程，文章發在群裡後經其他業主截圖轉發，導致了錯誤信息傳播。涉事業主後來在群裡道歉。
分析
|
