多知網(wǎng)4月7日消息，近日，Open AI在其官網(wǎng)發(fā)布了《Our approach to AI safety》，其中提到，Open AI會重點保護兒童，要求使用者必須年滿18歲或經(jīng)過父母同意并年滿 13 歲同時不允許技術用于生成令人憎惡、騷擾、暴力或成人內容等，并表示會尊重隱私，從訓練數(shù)據(jù)集中刪除個人信息，還會改善事實準確性，降低AI幻覺的可能性。

　　Open AI表示，目前除了默認的安全護欄外，還與非營利組織Khan Academy等開發(fā)人員合作。據(jù)了解，該學院構建了一個人工智能輔助系統(tǒng)，既可以作為學生的虛擬導師，也可以作為教師的課堂助理，為他們的用例量身定制安全緩解措施。

　　Open AI還強調，不會使用數(shù)據(jù)來銷售服務、做廣告或建立人們的檔案——會通過使用數(shù)據(jù)使大語言模型對人們更有幫助。

　　此外，在提高大型語言模型事實準確性上，OpenAI取得了進展。通過利用被標記為不正確的ChatGPT輸出的用戶反饋作為主要數(shù)據(jù)來源，我們提高了GPT-4的事實準確性。相比于GPT-3.5，GPT-4更可能產(chǎn)生符合事實的內容，提高幅度達到40%。當用戶注冊使用該工具時，會做到盡可能透明，以避免ChatGPT可能給出錯誤回復。

　　此前，意大利宣布禁用chatGPT，因為Open AI違反了意大利相關隱私規(guī)則和數(shù)據(jù)保護法，德國、法國、愛爾蘭、西班牙等國的監(jiān)管部門都表示正在密切關注ChatGPT的安全問題。