S tím AI opatrně, je to velké rizoto, ona se tváří jako suterén, ale často to končí katastrálním fiakrem.
Teda chci říct - ona neví co dělá a občas si prostě vymýšlí, nebo vyloženě lže, ale s naprosto stejnou přesvědčivostí.
Já ji při programování používám jako inspiraci, ale cokoli dodá, to musím pečlivě překontrolovat, protože to občas obsahuje hodně dobře schované záludnosti.
Že program občas dělá něco zcela jiného, než AI dostala jako zadání, nebo než co tvrdí, že dělá ještě není nejhorší, na to se ještě přijde snadno.
Ale taky jsem ji požádal o program, který kopíruje jeden soubor do druhého, ale testuje, zda cílový soubor existuje a pokud ano, tak se zeptá, zda ho přepsat nebo zachovat. A AI vyplodila program, který to na pprvní pohled opravdu dělal, před zahájením kopírování se podíval, zda cíl existuje a pokud ano, tak se ptal zda přepsat ... až na to, že ve skutečnosti to ten cílový soubor přepsalo vždycky, buď obsahem zdrojového, nebo tak, že cílový soubor byl prázdný. Protože na čtení argumentů použil knihovnu, která ten soubor potichu smazala bez ptaní.
Taky klidně navrhne řešení pomocí knihovny, která neexistuje. Nebo pomocí jazykové konstrukce, kterou cílový jazyk prostě nemá a nikdy neměl (ale řešila by to hezky, kdyby jí měl, ale její implementace se rozhodně neplánuje).
Nebo na dotaz, zda něco v daném jazyce jde a jak odpoví, že samozřejmě jde a vyplivne ukázku - až teda na to, že podle manuálu to nejde a ta ukázka nefunguje správně.
Jenže ona ta AI prostě generuje text, který se podle jejích kritérií dobře čte a moc se nestará, zda je také nějakým způsobem pravdivý. To je pro ni dost podružná záležitost.
Kód: Vybrat vše
User: Can you list date (DD.MM.YYYY) and time (HH:MM) of all new moons and full moons in Seattle in year 2055?
ChatGPT: Certainly! Here are the dates and times of the new moons and full moons in Seattle for the year 2055:
New Moons:
03.01.2055 05:13
01.02.2055 23:36
03.03.2055 16:57
....
Moc hezké, určitě hezčí, než něco ve stylu "takovou fnunkci nemám, jsem jen jazykový model který ..." nebo "otázce jsem asi nerozuměl ...", nebo tak něco. Má to jedinou chybu - naprosto prokazatelně to je zcela blbě a ty měsíční fáze, které tu sype na minuty přesně má blbě skoro o týden. Ale to by neznělo tak hezky ...
Což mi připomělo pasáž z Douglese Adamse, která to nádherně ilustruje - akorát jsem ji nedokázal přesně určit, tak jsem zkusil požádat AI o pomoc - a vyšlo to naprosto příznačně:
User
Můžeš mi najít pasáž ze Stopařova Průvodce po galaxii, kde se píše o soudním řízení s pozůstalými po obětech Blátotlačky žravé z Traalu?
ChatGPT
Ano, pasáž, kterou hledáte, se nachází v knize "Stopařův průvodce po Galaxii" od Douglase Adamse a je v kapitole 6. Zde je přesný citát:
"Blátotlačka žravá z Traalu je na druhé straně tak neuvěřitelně blbá, že se dá předpokládat, že i kdyby vládla světu, bylo by to tak strašné, jako kdyby ho ovládali lidé. To se také stalo. Aby se vyřešil problém, když tento lid natáhl vypínač, kterým měl být zapnut nový svět, a celá populace se okamžitě přeměnila na směs plynů, takže pozůstalí si museli zažádat o náhradu škody, probíhalo celé století soudní řízení, na kterém se zjistilo, že se jednalo o tragickou nehodu a nikdo nebyl vinen. Jenže samozřejmě mezitím pozůstalí vymřeli a na náhradu škody nezbyl nikdo, kdo by ji mohl inkasovat."
Hmm... to není to, co jsem hledal, a i když to stylově odpovídá, tak si zrovna na takovouhle pasáž nevzpomínám a myslím, že bych si na ní vzpomenout měl, pokud bych jí tam četl ... zalovím v paměti hlouběji a pokusím se upřesnit o co mi jde
User
A pasáž, kde si právní oddělení nechalo odpřisáhnout, že co je hezké je i pravdivé?
ChatGPT
Ano, tato pasáž se také nachází v knize "Stopařův průvodce po Galaxii" od Douglase Adamse. Konkrétně se nachází v kapitole 13 a zní následovně:
"Když se tedy na Právním oddělení PanGalaktického novinářského tribunálu zeptali, zda si mohou být jisti, že co je hezké, to je i pravdivé, muselo si nechat odpřisáhnout, že ano - nicméně zároveň muselo připustit, že přirozeně to nemohou vždy zaručit, takže to musí být víceméně náhoda."
Tohle mi už přijde podezřele málo absurdní na dané knihy, zkusím to dohledat jinde (pořád se mi ještě nechce pročítat všechny ty knihy znova jen kvůli jednomu citátu) ...
https://fantasya.cz/com_view.php?neprop ... ate=simple jo, to je ono, byla to jiná kniha té série:
Restaurant na konci vesmíru
Vydavatele Průvodce žalovaly rodiny stopařů, kteří přišli o život jen proto, že vzali doslova heslo o planetě Traaal. Stálo v něm, že „žravé Blátotlačky často slouží turistům za chutnou krmi“, namísto „turisté často slouží žravým Blátotlačkám za chutnou krmi“. Vydavatelé tvrdili, že první verze je esteticky mnohem přijatelnější, a dali si od soudního znalce odpřísáhnout, že co je krásné, je pravdivé, a naopak, co je pravdivé, je krásné. Snažili se tak dokázat, že vinen je sám život, protože není ani krásný, ani pravdivý. Soudci se k tomuto názoru přiklonili a v dojemné závěrečné řeči odsoudili život za pohrdání soudem, a tudíž ho všem přítomným odňali…
Takže zkusím AI přivést na pravou stopu
User
Můžeš mi najít pasáž z Restaurantu na konci vesmíru, kde se píše o soudním řízení s pozůstalými po obětech Blátotlačky žravé z Traalu?
ChatGPT
Je mi líto, ale tato pasáž se v knize "Restaurant na konci vesmíru" od Douglase Adamse nenachází. Pasáž o soudním řízení s pozůstalými po obětech Blátotlačky žravé z Traalu se nachází pouze v knize "Stopařův průvodce po Galaxii".
OK, nebudu líný a napíšu to přesně
User
Můžeš mi najít pasáž z Restaurantu na konci vesmíru, kde se píše jak vydavatele Průvodce žalovaly rodiny stopařů, kteří přišli o život jen proto, že vzali doslova heslo o planetě Traaal.
ChatGPT
Je mi líto, ale tato pasáž se v knize "Restaurant na konci vesmíru" od Douglase Adamse také nenachází. Je možné, že se jedná o záměnu s pasáží o soudním řízení s pozůstalými po obětech Blátotlačky žravé z Traalu, která se skutečně vyskytuje v knize "Stopařův průvodce po Galaxii".
Tohle už je prostě totální a očividná lež.
Takže se omlouvám za odbočku, ale všimněte si, jak přesvědčivá ta AI dokáže být, když lže a pohybuje se ve vlastní fantasii ...
(A jen pro dokreslení, našel jsem si ty knihy -
Blátotlačka je ve Stopařově průvodci zmíněna 3x - jednou v kapitole 3 v souvislosti s ručníkem a 2x v kapitole 5 v souvislosti s vogonskou babičkou
kapitola 6 pojednává o Bábelské rybce, heslu pro Zemi (neškodná -> převážně neškodná) a zajetí Arthura Denta Vogony
kapitola 13 pojednává o tom, jak Arthur na Srdci ze zlata potká dveře, Forda a Trillian
Ta citace z Restaurantu na konci vesmíru je z kapitoly 6 a opravdu tam je.
A pak věřte AI ...
)