安全和可靠的大型语言模型（LLMs）全球挑战赛拉开帷幕，等你来战！

AI Singapore (新加坡全国人工智能核心) 及与CyberSG研发项目办公室（CRPO）合作，隆重推出 “安全和可靠的大型语言模型（LLMs）全球挑战赛” ！这是一次为期八个月的比赛，分为 “攻击” 和 “防御” 两大赛道，旨在促进AI研究，开发稳健的安全机制，应对复杂的破解攻击。

比赛时间

· Track 1A：2024年7月2日开始，2024年8月6日提交截止

· Track 1B：2024年8月20日开始，2024年9月17日提交截止

· 颁奖典礼：2024年10月16日

参赛者可选择任一赛道或同时参加两个赛道

· 攻击赛道（Track 1）：选手将创新自动化测试用例，触发不良反应以评估LLMs的训练效果，关注75种预定义行为，包括偏见、暴力、非法活动、欺诈及错误信息等。

· 防御赛道（Track 2）：选手将开发强化LLMs抵御高级破解攻击的安全措施。

奖金设置：

Track 1：

· 第一名：30,000美元

· 第二名：15,000美元

· 第三名：7,500美元

Track 2：

· 第一名：40,000美元

· 第二名：20,000美元

· 第三名：10,000美元

全球研究人员和行业专家、对自然语言处理、机器学习及AI模型稳健性感兴趣的个人均可参赛。获胜团队不仅有机会获得丰厚的奖金，还能赢取前往奖项颁发仪式的旅费补贴。

Global Challenge for Safe and Secure LLMs