中評社北京5月13日電／據科技日報報導，《自然》發表的一篇評論文章指出，研究人員必須建立一門科學來研究人類—算法行為的集體模式，以便更好地監管適應性算法，並確保它們對社會發揮安全有益的作用。
自適應算法是能根據人類集體行為不斷變化的算法，比如能根據多個變化因素（包括宣傳、反宣傳以及共同利益）為社交媒體推送篩選個性化內容的算法。這些算法已被發現與產生廣泛影響有關，包括社會運動和股市閃電崩盤。
在美國最高法院今年晚些時候將審理的一起案件中，優兔（YouTube）的母公司谷歌被起訴，因為其視頻的適應性算法推送使恐怖分子變得激進的內容，而谷歌對此負有責任。這起案件迫使人們思考如何監管會根據人類行為發生改變的算法。
美國康奈爾大學科學家納森·馬提亞斯在文中表示：“隨著AI系統的應用日漸廣泛，人類的生活與適應性算法將緊密交織。”人類與適應性算法之間的相互影響會形成一個複雜系統，在這個系統中，任何部分的微小變化，如算法調整，都會導致非預期的後果。
馬提亞斯提出了完善人類—算法集體行為這門科學的多個步驟，包括對行為模式的分類和預測，以及避免產生危害的有效干預。由於算法的影響通常由民眾和記者最早察覺，作者因而認為這些群體應被納入這類研究中。
文章還指出，適應性算法或對社會產生深遠的益處，不過，“這裡的前提是必須用可靠的研究對算法進行設計和監管”。 |
