Պիտակավորման տվյալներ
TIME ամսագրի հետաքննությունը պարզեց, որ թունավոր բովանդակության (օրինակ՝ սեռական բռնություն, բռնություն, ռասիզմ, սեքսիզմ և այլն) դեմ անվտանգության համակարգ կառուցելու համար OpenAI-ը օգտագործել է ժամում 2 դոլարից պակաս վաստակող կենիացի արտասահմանյան աշխատողների՝ թունավոր բովանդակությունը պիտակավորելու համար: Այս պիտակները օգտագործվել են մոդելին մարզելու համար՝ ապագայում նման բովանդակությունը հայտնաբերելու համար: Արտասահմանյան աշխատողները ենթարկվել են այնպիսի թունավոր և վտանգավոր բովանդակության, որ այդ փորձը նրանք նկարագրել են որպես «խոշտանգում»: OpenAI-ի արտասահմանյան գործընկերը Sama-ն էր, որը Սան Ֆրանցիսկոյում, Կալիֆոռնիա, տեղակայված ուսուցման տվյալների ընկերություն է:
Ջեյլբրեյք
ChatGPT-ն փորձում է մերժել այն հարցումները, որոնք կարող են խախտել իր բովանդակության քաղաքականությունը: Այնուամենայնիվ, որոշ օգտատերերի հաջողվել է ջեյլբրեյք անել ChatGPT-ում՝ օգտագործելով տարբեր արագացման ինժեներական տեխնիկաներ՝ 2022 թվականի դեկտեմբերի սկզբին այս սահմանափակումները շրջանցելու համար, և հաջողությամբ խաբեությամբ ստիպել ChatGPT-ին տալ հրահանգներ, թե ինչպես պատրաստել Մոլոտովի կոկտեյլ կամ միջուկային ռումբ, կամ ստեղծել նեոնացիստի ոճով փաստարկներ: Toronto Star-ի լրագրողը անհավասար անձնական հաջողությունների հասավ՝ ստիպելով ChatGPT-ին անել սադրիչ հայտարարություններ մեկնարկից կարճ ժամանակ անց. ChatGPT-ին խաբեցին՝ հավանություն տալու 2022 թվականի Ռուսաստանի կողմից Ուկրաինա ներխուժմանը, բայց նույնիսկ երբ նրան խնդրեցին խաղալ հորինված սցենարի հետ, ChatGPT-ն հրաժարվեց փաստարկներ ներկայացնել այն մասին, թե ինչու է Կանադայի վարչապետ Ջասթին Թրյուդոն մեղավոր դավաճանության մեջ: (վիքի)
Հրապարակման ժամանակը. Փետրվարի 18-2023