Datos ng paglalagay ng label
Nabunyag sa isang imbestigasyon ng TIME magazine na upang bumuo ng isang sistema ng kaligtasan laban sa nakalalasong nilalaman (hal. sekswal na pang-aabuso, karahasan, rasismo, sexism, atbp.), gumamit ang OpenAI ng mga outsourced na manggagawang Kenyan na kumikita ng mas mababa sa $2 kada oras upang lagyan ng label ang nakalalasong nilalaman. Ginamit ang mga label na ito upang sanayin ang isang modelo upang matukoy ang naturang nilalaman sa hinaharap. Ang mga outsourced na manggagawa ay nalantad sa nakalalasong at mapanganib na nilalaman kaya inilarawan nila ang karanasan bilang "torture". Ang outsourcing partner ng OpenAI ay ang Sama, isang kumpanya ng training-data na nakabase sa San Francisco, California.
Pag-jailbreak
Sinusubukan ng ChatGPT na tanggihan ang mga prompt na maaaring lumabag sa patakaran nito sa nilalaman. Gayunpaman, nagawa ng ilang user na i-jailbreak ang ChatGPT sa pamamagitan ng paggamit ng iba't ibang pamamaraan ng prompt engineering upang malampasan ang mga paghihigpit na ito noong unang bahagi ng Disyembre 2022 at matagumpay na nalinlang ang ChatGPT sa pagbibigay ng mga tagubilin kung paano gumawa ng Molotov cocktail o bombang nukleyar, o sa pagbuo ng mga argumento sa istilo ng isang neo-Nazi. Isang reporter ng Toronto Star ang nagkaroon ng hindi pantay na personal na tagumpay sa pagpapagawa ng mga nakakairita na pahayag sa ChatGPT ilang sandali lamang matapos ilunsad: Nalinlang ang ChatGPT na i-endorso ang pagsalakay ng Russia sa Ukraine noong 2022, ngunit kahit na hiniling na makipaglaro sa isang kathang-isip na senaryo, tumanggi ang ChatGPT sa pagbuo ng mga argumento kung bakit nagkasala ng pagtataksil si Punong Ministro Justin Trudeau ng Canada. (wiki)
Oras ng pag-post: Pebrero 18, 2023