我們創立Anthropic的目的是將安全性放在AI研究和AI產品的最前沿。我們的研究為我們的商業產品提供信息,我們的模型是目前可用的最可靠安全和抵禦濫用的模型之一。儘管我們的API仍處於封閉測試階段,但我們正在根據用戶反饋改進我們的安全過濾器 - 我們預期我們的商業客戶在我們的安全功能失效時會讓我們負責。
但我們認為安全是一項共同責任。我們的功能並非萬無一失,承諾的合作夥伴是第二道防線。根據您的使用案例,調節措施會有所不同,但這裡有一些額外的安全建議:
將Claude用作內容審核過濾器,以識別和預防違規行為。
對於面向外部的產品,向用戶披露他們正在與AI系統進行互動。
對於敏感信息和決策制定,在向消費者傳播內容之前,請合格的專業人員進行審查。
我們鼓勵您將反饋或具體建議發送到 usersafety@anthropic.com。 對於現有的商業合作夥伴,我們建議您加入我們的Discord服務器,並與其他開發人員交流想法。