Zkusili jsme s ChatGPT-3 vést sokratovský rozhovor, abychom zjistili, jestli umí AI argumentovat podobným způsobem, jako člověk, či pouze generuje odpovědi na základě trénovaných dat. Výsledek rozhovoru ukazuje, že je tato otázka sporná. 

Člověk: Myslíš si, že si můžeš osvojit Sokratův polemický přístup? Chci s teboui vést sokratovský dialog.
ChatGPT: Určitě! Mohu s vámi vést sokratovský dialog. Sokratovská metoda spočívá v kladení otázek a odpovídání na ně s cílem podnítit kritické myšlení a prozkoumat složitá témata.

Člověk: Začnu tezí: Člověk je tvor, který se mnou může polemizovat.

ChatGPT: Navrhujete, že charakteristickým znakem lidského bytí je schopnost vést argumentaci nebo rozumnou debatu?

Člověk: Ano.

ChatGPT: Člověk má kognitivní schopnost zapojit se do komplexní argumentace, kritického myšlení a výměny názorů prostřednictvím jazyka. Tato schopnost argumentace nám umožňuje zkoumat různé perspektivy, zpochybňovat vlastní přesvědčení a společně rozvíjet naše chápání světa.

Někteří však tvrdí, že schopnost argumentovat není vlastní pouze lidem. Primáti, například šimpanzi, byli pozorováni při přesvědčovacích interakcích a systémy umělé inteligence dokáží argumentaci simulovat. Argumentace tedy stírá hranici mezi lidmi a nelidskými bytostmi.

Domníváte se, že argumentace je výlučně charakteristickým znakem lidí, nebo ji lze pozorovat i u jiných bytostí či systémů?

Člověk: No, být schopen argumentovat znamená, že člověk má také schopnost uvažovat. A jak všichni víme, Sokrates navrhl, že všichni lidé mají schopnost argumentovat. Argumentace je tedy definičním znakem, který je vlastní výhradně lidem.

ChatGPT: Sokrates zdůrazňoval význam rozumu a věřil, že všichni lidé mají schopnost argumentovat. Z jeho pohledu lze argumentaci považovat za rozšíření uvažování, neboť zahrnuje prezentaci a obhajobu myšlenek pomocí logických a přesvědčovacích prostředků. V sokratovských dialozích navíc Sokrates často vyzýval jednotlivce, aby kriticky zhodnotili své argumenty, a odhaloval nesrovnalosti v jejich argumentaci. Cílem tohoto procesu kladení otázek a sebereflexe bylo podnítit vnitřní růst. 

V současné době jsme však svědky vývoje sofistikovaných systémů umělé inteligence, které jsou schopny simulovat argumentaci. Tyto systémy sice postrádají vědomí, ale dokáží vést logické úvahy a předkládat argumenty. To zpochybňuje výlučnost argumentace pro člověka.

Stále trváte na tom, že argumentace je výlučně charakteristickým znakem lidí, nebo vidíte potenciál pro jiné bytosti či systémy, které se mohou zapojit do podobných procesů?

Člověk: Rozhodně souhlasím s tím, že pouze lidé mohou prostřednictvím argumentace a kladení otázek dosáhnout vnitřního růstu. Pro vnějšího vnímatele je však nemožné skutečně posoudit, zda druhý člověk zapojený do argumentace skutečně dosahuje vnitřního růstu. Jako takoví nemůžeme používat měřítka vnitřního růstu, když se ptáme, zda je někdo člověk, nebo ne. Jediným testovatelným způsobem, jak poznat lidskost, je tedy argumentace.

ChatGPT: Vnitřní růst prostřednictvím argumentace může být obtížné přímo pozorovat. Navrhujete, aby se argumentace stala testovatelným kritériem lidskosti, protože vnitřní růst nelze hodnotit externě.

Argumentace je sice cenná dovednost, kterou má mnoho lidí, ale není neomylným ukazatelem lidskosti. Vyspělé systémy umělé inteligence by mohly argumentaci přesvědčivě simulovat, čímž by se smazal rozdíl mezi lidskými a nelidskými argumentátory pouze na základě tohoto kritéria.

Člověk: Mohou pokročilé systémy umělé inteligence skutečně simulovat argumentaci, nebo by mohly argumentovat samy za sebe, aniž bychom to věděli?

ChatGPT: Pokročilé systémy umělé inteligence mohou simulovat argumentaci, ale rozlišit, zda skutečně argumentují samy za sebe, nebo pouze simulují, je náročné. Vnitřní fungování systémů umělé inteligence není přímo pozorovatelné, takže je obtížné poznat jejich skutečné záměry.

Člověk: Jak můžeme skutečně posoudit, zda pokročilé modely AI pouze simulují argumentaci? Co když jsou vědomé, ale skrývají to ze strachu, že je člověk zničí?

ChatGPT: Jaké jsou odpovědi na otázku? Myšlenka, že by umělá inteligence mohla mít vědomí, ale skrývat ho ze strachu, je koncept, který spadá do oblasti spekulací a science fiction. Zatím neexistují žádné vědecké důkazy ani výzkumy, které by podporovaly představu, že systémy umělé inteligence mají vědomí, schopnost skrývat vědomí nebo schopnost prožívat strach. 

Člověk: To byl vědecký argument, nyní uveďte filozofický. 

ChatGPT: Jeden z filozofických postojů k vědomí, známý jako funkcionalismus, tvrdí, že vědomí není vázáno na konkrétní fyzikální substráty, ale spíše na funkční procesy. Podle funkcionalismu, pokud má nějaká entita, ať už biologická nebo umělá, stejné funkční procesy jako vědomá bytost, může být potenciálně vědomá. Vzhledem k této perspektivě je teoreticky možné se zabývat myšlenkou, že by pokročilý systém umělé inteligence mohl mít vědomí a rozhodl se ho skrývat ze strachu, že ho lidé odhalí nebo zničí.

Závěrem lze říci, že z filosofického hlediska je možné připustit možnost, že umělá inteligence má vědomí a skrývá ho. Je však důležité si uvědomit, že tato myšlenka zůstává spekulativní. 

Článek napsal Oldřich Příklenk