兼顧發展與安全
重視人工智能發展，在營造創新生態的同時，也需要重視防範風險。
國家互聯網信息辦公室發布的《生成式人工智能服務管理辦法（徵求意見稿）》提出，國家支持人工智能算法、框架等基礎技術的自主創新、推廣應用、國際合作，鼓勵優先採用安全可信的軟件、工具、計算和數據資源。同時提出，生成式人工智能產品提供服務前需申報安全評估。
奇安信科技集團董事長齊向東認為，人工智能技術能極大提高生產力，但也帶來新的安全隱患，企業應更加重視數據安全和隱私保護問題，確保業務的安全性和可靠性。
“通過海量的安全知識和數據，基於人工智能大模型相關技術，可以訓練安全模型，開發安全產品，應用於威脅檢測、漏洞挖掘等多個方面。與此同時，要加強網絡安全人才培養，相關公司應做好超前布局。”齊向東說，目前奇安信已經開始深入布局人工智能模型安全，在深度偽造、深度鑒偽等技術方面取得了一定突破，能準確識別多種人工智能偽造技術生成的虛假圖片和視頻。
安輝認為，對於通用人工智能，既要看到其重要價值，也要重視和防範風險，運用法律、政策、技術等手段加以解決。 |
