12月23日上午，2023年度大模型安全研討會在中安創谷全球路演中心圓滿舉辦！高維數據總工程師張衛明教授受邀出席活動并做主題演講！

本次活動由安徽省安全人工智能研究院主辦，合肥瑞徽人工智能研究院有限公司、安全人工智能安徽省重點實驗室承辦。邀請了 清華大學教授朱軍，中電38所副總工程師、研究員馬敏，清華大學副教授胡曉林，中軟國際副總裁、AIGC研究院院長、解放號總裁萬如意，阿里巴巴集團安全 視覺智能負責人何源， 安徽大學教授趙姝等專家、學者共同參與。

張衛明教授受邀參會并以《智能體認知安全》為主題進行分享。

張衛明教授通過介紹在生成式AI帶來的智能技術變革下，他對于生成式AI安全風險的思考，指出了安全領域的攻防從傳統的網絡系統安全轉變為深度學習時代的模型算法安全，又轉為針對GPT4這類大模型的智能認知攻防。通過"奶奶"漏洞等針對大模型特點的越獄攻擊方法，和已經帶來潛在安全風險的FraudGPT，說明必須以對待智能體的角度進行大模型安全攻防。

 之后，張老師介紹了其團隊近期關于大模型安全的相關工作：在AI模型價值觀對齊這一領域，針對AI4Science場景，提出SciGuard解決方案，實現超越GPT4的模型安全性。在大模型生成內容檢測這一領域，提出通過AI生成文本的遺傳性進行被動檢測的防御手段，還提出了基于生成模型的可證安全隱寫水印主動檢測方案，不影響模型生成能力的同時實現人類不可感知的水印嵌入。

此外，還介紹了對于語音模型場景實現的音色水印方案，獲得了與會觀眾的積極好評。

本次活動旨在推動大模型安全領域研究，交流學術產業前沿，為促進安徽省人工智能安全產業發展貢獻力量！

- END -