7 月 21 日消息，據(jù)路透社報(bào)導(dǎo)，美國政府今日宣告，已獲得多家人工智能頭部公司的自愿許諾，將對人工智能生成的內(nèi)容加水印等辦法，以幫助進(jìn)步技能的安全性。

亞馬遜、Anthropic、谷歌、Inflection、Meta、微軟和 OpenAI 這七家公司都同意進(jìn)步其體系的安全性和透明度，包含答應(yīng)第三方專家對其模型進(jìn)行檢查。

在發(fā)給 TechRadar 的一份聲明中，美國政府表明：“正在開發(fā)這些新式技能的公司有職責(zé)保證其產(chǎn)品的安全。為了充分發(fā)揮人工智能的潛力，美國政府鼓舞該行業(yè)堅(jiān)持高規(guī)范，以保證創(chuàng)新不會以獻(xiàn)身美國人的權(quán)力和安全為價(jià)值。”

首先，這七家公司許諾在向大眾發(fā)布 AI 體系之前，對其進(jìn)行內(nèi)部和外部安全測試，并與相關(guān)行業(yè)參與者、政府、學(xué)術(shù)界和大眾同享信息，以幫助辦理人工智能危險(xiǎn)。

這些公司還將致力于網(wǎng)絡(luò)安全投資和內(nèi)部威脅操控，以“保護(hù)專有和未發(fā)布的模型權(quán)重”，這關(guān)于驅(qū)動(dòng)生成人工智能的數(shù)據(jù)模型的運(yùn)轉(zhuǎn)至關(guān)重要。他們還同意促進(jìn)第三方調(diào)查并報(bào)告體系中的任何安全漏洞。

七家公司還同意采納辦法進(jìn)步大眾對其體系的信任，包含開發(fā)一種方法來保證讓人們知道，他們何時(shí)看到人工智能生成的內(nèi)容，例如水印或其他辦法。這些公司還將優(yōu)先研究人工智能模型帶來的社會危險(xiǎn)，包含或許導(dǎo)致的種族歧視和其他形式的成見，以及“保護(hù)隱私”。

不過從公告中發(fā)現(xiàn)，這些許諾都是相關(guān)企業(yè)自愿采納的辦法，而且沒有違反的賞罰辦法，因而并不能百分百保證嚴(yán)格執(zhí)行。