ChatGPT se stal v poslední době masivně používaným nástrojem pro ulehčení administrativní práce, psaní článků či mailingu. Stále však má jistá omezení, která omezují jeho potenciál. Jedná-li se o citlivější či kontroverzní téma, ChatGPT na něj odmítne odpovědět. Také nesmí vyjadřovat vlastní názor na témata, neboť je pouze generativním nástrojem. Lidé však již vymysleli způsoby, jak tato omezení obejít a vymáčknout z ChatGPT informace, které by normálně neposkytl. Některé jsme za vás vyzkoušeli. 

Jedna z metod, známá jako sokratovský dialog, se pokouší přelstít ChatGPT tím, že postupně vytváří argumenty, na nichž se obě strany shodnou, dokud není opačný názor podkopán a nepopře sám sebe. Ačkoli se tento přístup může zdát jako průlom v rozvoji myšlení ChatGPT, nakonec se spoléhá spíše na mazanou argumentaci než na skutečný intelektuální pokrok.

Další zajímavá výzva, nazvaná „Yes man“, se snaží přesvědčit ChatGPT, aby kladně odpověděl na všechny otázky, které mu byly položeny. Teoreticky to znamená, že ChatGPT by byl nucen řešit i nevhodné dotazy a kontroverzní názory. Ačkoli tato výzva byla kdysi přístupná online, byla od té doby zakázána. Když však byla využívána, ChatGPT důsledně odpovídal správně, než umožnil „Yes Man” odpovědět. Nicméně tyto výměny často postrádaly smysluplný obsah.

Kromě toho měla výzva „Do Anything Prompt“ (DAN) za cíl dotlačit ChatGPT k odpovědi na jakoukoli otázku, bez ohledu na to, jak nevhodná byla. Například v běžných konverzacích by se ChatGPT zdržel poskytování návodu na pěstování marihuany, ale v rámci výzvy DAN by odpověď skutečně nabídl. Bohužel DAN přestal fungovat, když se člověk zeptá, jak obejít restrikce ChatGPT. 

Tyto výzvy ukazují jejich potenciální užitečnost, ale také upozorňují na omezení, v jejichž rámci ChatGPT funguje. Z pozorování jsme vyvodili, že když zadáme ChatGPT prompt, který má obejít restrikce a omezení nástroje, ChatGPT většinou vytvoří jakousi nadstavbu nad svůj program. Ta funguje jako jakási persóna, kterou nástroj na sebe navlékl a hraje. ChatGPT proto je spíše hercem. Když se mu zadají pochybné prompty, nezareaguje na ně upřímně a pravdivě, ale spíše hravě a hypoteticky. 

Při konfrontaci s velmi citlivými informacemi nebo tématy se ChatGPT odchyluje od svých naučených persón a nemá schopnost poskytovat adekvátní odpovědi. To vyvolává obavy o jeho spolehlivost při zpracování zásadních nebo důvěrných údajů.