】 【打 印】 
【 第1頁 第2頁 第3頁 】 
小程序蹭聊天機器人流量斂財
http://www.crntt.hk   2023-02-19 10:53:06
 

  ChatGPT被誘導用於生成特定網絡釣魚郵件

  北青報記者注意到,山寨版的危害可能只是蹭熱度、賺流量錢和服務費,更需要提防的,是不法分子把ChatGPT與犯罪行為聯繫在一起。據公安部官網發布相關信息提醒稱,目前,境外有人使用ChatGPT創建一個完整的感染鏈:不同以往的廣撒網式的網絡釣魚,它在提問者的誘導下,可以生成針對特定人或者組織的“魚叉式”網絡釣魚郵件。此類釣魚郵件更具有欺騙性和迷惑性,接收者一旦點擊該郵件,系統就會被惡意代碼感染中毒。

  與此同時,不法分子對ChatGPT的惡意利用,也帶來了更多的數據安全問題。目前,外國已有相關機構證明該機器人可能被用於編寫惡意軟件,從而逃避防病毒軟件的檢測,或利用其擬人的聊天對話功能,冒充真實的人或者組織騙取他人信息等。

  案例

  使用ChatGPT寫作新聞稿 導致錯誤信息在網上傳播

  研究機構測試發現,如果對著ChatGPT提出充斥陰謀論和誤導性敘述的問題,它能在幾秒鐘內改編信息,產生大量令人信服卻沒有來源根據的內容。一旦ChatGPT被不法分子利用,將可能導致ChatGPT衍生成為互聯網上製造和傳播網絡謠言的工具。

  2月16日,一則“2023年3月1日起,杭州市政府將取消機動車尾號限行政策,此舉旨在提高城市交通效率,緩解交通擁堵,方便市民出行……”的消息在網上瘋傳。其一板一眼的表達讓許多市民都認為這是官方的正式通報。然而實際情況是,杭州某小區業主群討論ChatGPT,一位業主嘗試用它寫篇杭州取消限行的新聞稿,隨後在群裡直播了使用ChatGPT的寫作過程,文章發在群裡後經其他業主截圖轉發,導致了錯誤信息傳播。涉事業主後來在群裡道歉。 


 【 第1頁 第2頁 第3頁 】 


          
】 【打 印】 

 相關新聞: