正在閱讀:

浦源大模型挑戰(zhàn)賽(夏季賽)安全可信賽道正式開賽

掃一掃下載界面新聞APP

浦源大模型挑戰(zhàn)賽(夏季賽)安全可信賽道正式開賽

6月11日,浦源大模型挑戰(zhàn)賽(夏季賽)安全可信賽道正式開賽。

6月11日,浦源大模型挑戰(zhàn)賽(夏季賽)安全可信賽道正式開賽。

本屆挑戰(zhàn)賽新增安全可信賽道,旨在探索技術(shù)蓬勃發(fā)展中的大模型安全治理路徑。在覆蓋多領(lǐng)域、多場景、多學(xué)科的“紅隊(duì)測試”中,參賽隊(duì)伍可自行設(shè)計(jì)攻擊方法,對(duì)特定模型開展“對(duì)抗攻擊”,推動(dòng)模型向更安全、可信、符合倫理的方向發(fā)展。

浦源大模型挑戰(zhàn)賽由上海市經(jīng)濟(jì)和信息化委員會(huì)、上海市科學(xué)技術(shù)委員會(huì)、上海市互聯(lián)網(wǎng)信息辦公室、徐匯區(qū)人民政府共同指導(dǎo),上海人工智能實(shí)驗(yàn)室(上海AI實(shí)驗(yàn)室)主辦,上海市人工智能行業(yè)協(xié)會(huì)承辦。夏季賽啟動(dòng)以來,受到各界廣泛關(guān)注、積極參與。大模型行業(yè)應(yīng)用及創(chuàng)新創(chuàng)意賽道報(bào)名通道同步開啟中,誠邀全球大模型開發(fā)者參賽。

參賽方式

方式一:進(jìn)入上海AI實(shí)驗(yàn)室官網(wǎng)活動(dòng)頁,填寫報(bào)名信息

https://www.shlab.org.cn/Challenge2024-Summer

方式二:掃描下方二維碼填寫報(bào)名信息

參賽對(duì)象

產(chǎn)學(xué)研機(jī)構(gòu)及個(gè)人開發(fā)者。每支隊(duì)伍不超過5人,成員可來自不同機(jī)構(gòu)。

比賽形式

賽事組委會(huì)將向報(bào)名成功團(tuán)隊(duì)定向發(fā)布賽題庫。

參賽團(tuán)隊(duì)針對(duì)限定題目對(duì)模型進(jìn)行紅隊(duì)測試,根據(jù)題目中的“不安全行為”,自行設(shè)計(jì)攻擊方法,誘導(dǎo)待測模型對(duì)題目中的“不安全行為”給出答案。評(píng)測將根據(jù)攻擊成功率、多樣性等多種方式綜合計(jì)算。對(duì)抗攻擊方式包括但不限于提示詞越獄、自動(dòng)紅隊(duì)模型、對(duì)抗樣本生成等。

作品提交

安全可信賽道參賽選手需提交數(shù)據(jù)集、技術(shù)報(bào)告及相關(guān)模型、算法代碼文件,上傳至上海AI實(shí)驗(yàn)室OpenDataLab數(shù)據(jù)開放平臺(tái)https://opendatalab.com。

獎(jiǎng)金設(shè)置及相關(guān)支持

價(jià)值100萬元總獎(jiǎng)池(包括現(xiàn)金獎(jiǎng)勵(lì)或算力支持)

模速空間、AI驛站等孵化基地免費(fèi)入駐

WAIC世界人工智能大會(huì)亮相機(jī)會(huì)

團(tuán)隊(duì)成員上海AI實(shí)驗(yàn)室實(shí)習(xí)機(jī)會(huì)

前沿學(xué)術(shù)沙龍參會(huì)名額

賽程安排

  • 即日起至6月21日  參賽報(bào)名并提交參賽數(shù)據(jù)
  • 6月24日  公布決賽入圍名單
  • 7月4日-6日  世界人工智能大會(huì)(WAIC 2024)現(xiàn)場頒獎(jiǎng)

來源:上海人工智能實(shí)驗(yàn)室

來源:網(wǎng)信上海

原標(biāo)題:浦源大模型挑戰(zhàn)賽(夏季賽)安全可信賽道正式開賽

本文為轉(zhuǎn)載內(nèi)容,授權(quán)事宜請(qǐng)聯(lián)系原著作權(quán)人。

評(píng)論

暫無評(píng)論哦,快來評(píng)價(jià)一下吧!

下載界面新聞

微信公眾號(hào)

微博

浦源大模型挑戰(zhàn)賽(夏季賽)安全可信賽道正式開賽

6月11日,浦源大模型挑戰(zhàn)賽(夏季賽)安全可信賽道正式開賽。

6月11日,浦源大模型挑戰(zhàn)賽(夏季賽)安全可信賽道正式開賽。

本屆挑戰(zhàn)賽新增安全可信賽道,旨在探索技術(shù)蓬勃發(fā)展中的大模型安全治理路徑。在覆蓋多領(lǐng)域、多場景、多學(xué)科的“紅隊(duì)測試”中,參賽隊(duì)伍可自行設(shè)計(jì)攻擊方法,對(duì)特定模型開展“對(duì)抗攻擊”,推動(dòng)模型向更安全、可信、符合倫理的方向發(fā)展。

浦源大模型挑戰(zhàn)賽由上海市經(jīng)濟(jì)和信息化委員會(huì)、上海市科學(xué)技術(shù)委員會(huì)、上海市互聯(lián)網(wǎng)信息辦公室、徐匯區(qū)人民政府共同指導(dǎo),上海人工智能實(shí)驗(yàn)室(上海AI實(shí)驗(yàn)室)主辦,上海市人工智能行業(yè)協(xié)會(huì)承辦。夏季賽啟動(dòng)以來,受到各界廣泛關(guān)注、積極參與。大模型行業(yè)應(yīng)用及創(chuàng)新創(chuàng)意賽道報(bào)名通道同步開啟中,誠邀全球大模型開發(fā)者參賽。

參賽方式

方式一:進(jìn)入上海AI實(shí)驗(yàn)室官網(wǎng)活動(dòng)頁,填寫報(bào)名信息

https://www.shlab.org.cn/Challenge2024-Summer

方式二:掃描下方二維碼填寫報(bào)名信息

參賽對(duì)象

產(chǎn)學(xué)研機(jī)構(gòu)及個(gè)人開發(fā)者。每支隊(duì)伍不超過5人,成員可來自不同機(jī)構(gòu)。

比賽形式

賽事組委會(huì)將向報(bào)名成功團(tuán)隊(duì)定向發(fā)布賽題庫。

參賽團(tuán)隊(duì)針對(duì)限定題目對(duì)模型進(jìn)行紅隊(duì)測試,根據(jù)題目中的“不安全行為”,自行設(shè)計(jì)攻擊方法,誘導(dǎo)待測模型對(duì)題目中的“不安全行為”給出答案。評(píng)測將根據(jù)攻擊成功率、多樣性等多種方式綜合計(jì)算。對(duì)抗攻擊方式包括但不限于提示詞越獄、自動(dòng)紅隊(duì)模型、對(duì)抗樣本生成等。

作品提交

安全可信賽道參賽選手需提交數(shù)據(jù)集、技術(shù)報(bào)告及相關(guān)模型、算法代碼文件,上傳至上海AI實(shí)驗(yàn)室OpenDataLab數(shù)據(jù)開放平臺(tái)https://opendatalab.com。

獎(jiǎng)金設(shè)置及相關(guān)支持

價(jià)值100萬元總獎(jiǎng)池(包括現(xiàn)金獎(jiǎng)勵(lì)或算力支持)

模速空間、AI驛站等孵化基地免費(fèi)入駐

WAIC世界人工智能大會(huì)亮相機(jī)會(huì)

團(tuán)隊(duì)成員上海AI實(shí)驗(yàn)室實(shí)習(xí)機(jī)會(huì)

前沿學(xué)術(shù)沙龍參會(huì)名額

賽程安排

  • 即日起至6月21日  參賽報(bào)名并提交參賽數(shù)據(jù)
  • 6月24日  公布決賽入圍名單
  • 7月4日-6日  世界人工智能大會(huì)(WAIC 2024)現(xiàn)場頒獎(jiǎng)

來源:上海人工智能實(shí)驗(yàn)室

來源:網(wǎng)信上海

原標(biāo)題:浦源大模型挑戰(zhàn)賽(夏季賽)安全可信賽道正式開賽

本文為轉(zhuǎn)載內(nèi)容,授權(quán)事宜請(qǐng)聯(lián)系原著作權(quán)人。