發現多達80個正在開發中的秘密插件。
和其他漏洞賞金計劃類似,
壞消息是利用提示詞誘導ChatGPT做出一些出格的事不算,
有興趣的研究人員可以點擊這裏訪問漏洞賞金頁麵查看具體的安全細則:https://bugcrowd.com/openai/
除非還能利用提示詞直接危害OPENAI基礎設施。對OPENAI來說自己可以研究人工智能技術,研究人員發現漏洞提交後官方會進行評估,
目前漏洞賞金計劃剛啟動還不清楚會被發現多少漏洞,
但如果利用 ChatGPT 提示詞繞過安全防護限製進入係統那可能會產生安全問題,比如利用漏洞入侵係統竊取數據等等。
OPENAI 官方今天宣布與合作平台推出漏洞賞金計劃 , 希望安全研究人員能夠積極發掘並通過潛在安全漏洞。然後再按照危害等級發放不同的獎金。但安全漏洞是不可避免的,按理說後續OPENAI可能會公布一些已經修複的漏洞。
哪些算漏洞哪些不算:
能夠提交並獲得獎金的漏洞主要指的是可以侵害OPENAI基礎設施的,盡可能減少係統漏洞避免後期產生嚴重的危害。

為什麽推出該計劃:
早些時候有研究人員利用OPENAI係統漏洞繞過 ChatGPT API 限製,如果漏洞被確認具有嚴重危害的話,
一旦漏洞被確認至少提供200美元獎金,
而針對 ChatGPT 本身的會話問題不在範圍內,
基於這些情況OPENAI還是決定花點錢請外部研究人員幫忙,團隊不可能徹底解決所有安全漏洞。這類問題也可以提交審核。最高可以提供20,000美元獎金。比如利用提示詞誘導ChatGPT寫惡意代碼這類都不算是漏洞。



