Aneb o papíru “Co má AI společného s filosofií” od Johna MacCarthyho

“Umělá inteligence se dotýká mnoha myšlenek, které dosud studovali pouze filozofové. Je tomu tak proto, že robot, má-li mít inteligenci na úrovni člověka a schopnost učit se ze svých zkušeností, potřebuje obecný pohled na svět, v němž by mohl uspořádat fakta o tomto světě.” Těmito slovy uvádí John McCarthy svou práci “Co má AI společného s filosofií”, publikovanou v roce 2006 při Stanfordské univerzitě.

„Většina dnešních aplikací umělé inteligence nevyžaduje žádnou filozofii, protože vyvíjený systém nemusí ve světě fungovat samostatně a nepotřebuje mít nějaký [vlastní] pohled na svět. Tvůrce programu vtiskává svou filosofii do programu předem tím, že omezí rozsah programu na pouhou reprezentaci,” píše McCarthy. Dovolte mi vysvětlit, co tím podle mého názoru myslí. 

„Přirozené druhy (věci ve světě) jsou spíše popsány než definovány. Učili jsme se o citronech a zažili jsme je jako malé, žluté ovoce. Toto poznání však neumožňuje definici, která by stála sama o sobě. Citrony se liší od ostatních plodů způsobem, o němž zatím nevíme. Neexistuje žádná souvislá gradace od citronů k pomerančům.“ Proto filosofové dvacátého století byli značně kritičtí ohledně reifikace (vytváření reprezentace faktů a tvrzení).
Analogicky bychom mohli říci, že první modely umělé inteligence fungovaly na základě předem definovaných algoritmů – tj. je to kočka, když má čtyři nohy a ocas. Moderní modely AI (které využívají neuronové sítě) však pracují na základě pravděpodobností – tyto modely nemají pevně definováno, co mají dělat (a jak to mají dělat), ale spíše díky práci s velkým souborem dat vytvářejí poněkud přesný popis svého úkolu. Nicméně i moderní modely umělé inteligence mají určité základní algoritmy, i když jsou ze své podstaty pravděpodobnostní – ostatně moderní modely jsou postavené na neurální síti, která má svým způsobem reprezentovat proces učení u lidské mysli (zjednodušeně řečeno). 

A tak i dnes vytváříme AI tak, že jí vnucujeme své nejlepší modely, které se snaží definovat realitu, jako jsou ony neurální sítě nebo teorie pravděpodobnosti. Musíme však mít na paměti, že i tyto pokročilé matematické modely, které dokonce pracují s nejistotou a v čase se vyvíjejí, jsou stále jen modely. Pouze popisují, jak realita funguje, tvoří jen její přibližný koncept.

To je velký filozofický problém každé umělé inteligence, která se dnes vyvíjí – každý lidský koncept, který je do umělé inteligence zasazen, je stále lidským konceptem – umělá inteligence tedy „neprožívá“ svět sama o sobě, ale je pouze jeho lidským odrazem. Proto z mého pohledu John McCarthy říká, že tvůrce programu vtiskává svou filosofii (touto “filosofií” však může být právě i model neurální sítě)  do programu předem tím, že omezí rozsah umělé inteligence na pouhou reprezentaci, na pouhý model světa.