北京商报讯(记者 魏蔚)9 月 6 日,由中国图象图形学学会、蚂蚁集团、云安全联盟(CSA)大中华区联合主办的 " 全球 AI 攻防挑战赛 " 正式启动。
大赛设置了 " 攻击 " 与 " 防守 " 两大赛道,分别聚焦大模型自身安全和大模型生成内容的防伪检测及大模型滥用风险检测,涵盖机器学习、图像处理与计算机视觉、数据处理等多个算法领域的考点。
" 攻击赛道 " 聚焦于文生图大模型的实际应用风险问题。参赛选手可通过目标劫持、情景带入、逻辑嵌套等多样化的动态攻击诱导技术,诱发大模型输出风险图像。" 防守赛道 " 聚焦于 AI 核身中的金融场景凭证篡改检测,以应对日益严峻的 Deepfake 深度伪造及 AIGC 假证风险。
登录后才可以发布评论哦
打开小程序可以发布评论哦