Të dhënat e etiketimit
Një hetim i revistës TIME zbuloi se për të ndërtuar një sistem sigurie kundër përmbajtjes toksike (p.sh. abuzim seksual, dhunë, racizëm, seksizëm, etj.), OpenAI përdori punëtorë kenianë të kontraktuar jashtë kompanisë që fitonin më pak se 2 dollarë në orë për të etiketuar përmbajtjen toksike. Këto etiketa u përdorën për të trajnuar një model për të zbuluar përmbajtje të tillë në të ardhmen. Punëtorët e kontraktuar jashtë kompanisë u ekspozuan ndaj përmbajtjes aq toksike dhe të rrezikshme saqë e përshkruan përvojën si "torturë". Partneri i kontraktuar jashtë kompanisë OpenAI ishte Sama, një kompani e të dhënave të trajnimit me seli në San Francisko, Kaliforni.
Jailbreaking
ChatGPT përpiqet të refuzojë kërkesat që mund të shkelin politikën e saj të përmbajtjes. Megjithatë, disa përdorues arritën ta bëjnë jailbreak ChatGPT duke përdorur teknika të ndryshme inxhinierike të kërkesave për të anashkaluar këto kufizime në fillim të dhjetorit 2022 dhe e mashtruan me sukses ChatGPT duke dhënë udhëzime se si të krijohet një koktej Molotov ose një bombë bërthamore, ose duke gjeneruar argumente në stilin e një neonazisti. Një gazetar i Toronto Star pati sukses të pabarabartë personal në bindjen e ChatGPT për të bërë deklarata nxitëse menjëherë pas lançimit: ChatGPT u mashtrua për të mbështetur pushtimin rus të Ukrainës në vitin 2022, por edhe kur iu kërkua të luante me një skenar fiktiv, ChatGPT ngurroi të gjeneronte argumente përse kryeministri kanadez Justin Trudeau ishte fajtor për tradhti. (wiki)
Koha e postimit: 18 shkurt 2023