Umelá inteligencia neustále napreduje, čoho dôkazom je aj revolučný ChatGPT. Za pár sekúnd pre vás vytvorí text, aký potrebujete pre vzdelávacie či pracovné účely. Napriek tomu je stále potrebné obsah ChatGPT kontrolovať aj ľudským okom. Výskumníci navyše odhalili prekvapivé nedostatky v obsahu ChatGPT, ktoré majú priamy vplyv na jeho kvalitu. Poďme sa spoločne pozrieť na nevýhody, ktoré používanie obsahu ChatGPT sprevádza a ako ich včas podchytiť.
1. ChatGPT používa frázy, ktoré by človek nepoužil
Vedci, ktorí študujú, ako rozpoznať obsah generovaný umelou inteligenciou objavili vzory, vďaka ktorým to znie neprirodzene. Prvým je použitie idiómov, ktoré robia obsah detekovateľný ako „neľudský“.
Idiómy sú frázy alebo príslovia, ktoré sú obrazným pomenovaním. Znamená to, že nemajú doslovný význam, napríklad „Darovanému koňovi na zuby nepozeraj.“ Nedostatok idiómov v rámci obsahu od ChatGPT môže byť signálom, že obsah je generovaný strojovo – a to môže byť súčasťou detekčného algoritmu.
Toto hovorí výskumný dokument Adversarial Robustness of Neural-Statistical Features in Detection of Generative Transformers z roku 2022 o tejto zvláštnosti v strojovo generovanom obsahu:
„Komplexné frázové črty sú založené na frekvencii konkrétnych slov a fráz v analyzovanom texte, ktoré sa častejšie vyskytujú v ľudskom texte.
…Z týchto zložitých frázových vlastností si idiomové vlastnosti zachovávajú najväčšiu predikčnú silu pri detekcii súčasných generatívnych modelov.“
Táto neschopnosť používať idiómy prispieva k tomu, že výstup ChatGPT znie a číta sa neprirodzene.
2. ChatGPT nemá schopnosť vyjadrovať sa
Umelec Nick Cave sa vyjadril k tomu, ako výstup ChatGPT napodobňuje to, čo je umenie, ale chýbajú mu skutočné kvality umeleckého vyjadrenia. Vyjadrenie je akt komunikácie myšlienok alebo pocitov, ktoré však ChatGPT nemá. Výsledný obsah ChatGPT neobsahuje expresívne výrazy, iba slová.
Znamená to, že ChatGPT nemôže produkovať obsah, ktorý sa emocionálne dotýka ľudí na rovnakej úrovni ako človek (umelec či copywriter) – pretože nemá žiadne skutočné myšlienky ani pocity.
3. ChatGPT neprodukuje prehľad
Článok publikovaný v The Insider citoval akademika, ktorý poznamenal, že akademickým prácam generovaným ChatGPT chýba prehľad o danej téme. ChatGPT sumarizuje tému, ale neponúka jedinečný pohľad na danú tému a celkovú sumarizáciu.
Ľudia tvoria prostredníctvom vedomostí, ale aj prostredníctvom svojich osobných skúseností a subjektívnych vnemov. Profesor Christopher Bartel z Appalachian State University cituje The Insider, že hoci esej ChatGPT môže vykazovať vysoké gramatické kvality a sofistikované nápady, stále jej chýba prehľad.
Tento nedostatok prehľadu je potrebné mať na pamäti pri vyhodnocovaní strojovo generovaného obsahu. Prečítajte si tiež o tom, či môže umelá inteligencia nahradiť copywritera.
4. ChatGPT je príliš rozvláčny
Výskumná práca publikovaná v januári 2023 objavila vzory v obsahu ChatGPT, vďaka ktorým je menej vhodný pre kritické aplikácie. Výskum ukázal, že ľudia preferovali odpovede z ChatGPT vo viac ako 50 % zodpovedaných otázok týkajúcich sa financií a psychológie.
ChatGPT však nedokázal odpovedať na lekárske otázky, pretože ľudia uprednostňovali priame odpovede – niečo, čo AI nedokázala poskytnúť. ChatGPT má tendenciu pokrývať tému z rôznych uhlov pohľadu, a preto je nevhodné, keď je najlepšou odpoveďou priama odpoveď.
Obchodníci používajúci ChatGPT to musia vziať na vedomie, pretože návštevníci webových stránok, ktorí vyžadujú priamu odpoveď, nebudú spokojní s rozvláčnou, no nie konkrétnou odpoveďou. Stručná a jasná odpoveď na webe má oveľa vyššiu šancu umiestniť sa v Google Snippetoch a tiež v službe Google Voice, než rozvláčna preplácaná stránka.
OpenAI, tvorca ChatGPT, uznáva, že poskytovanie rozvláčnych odpovedí je známym obmedzením. Zaujatosť ChatGPT smerom k poskytovaniu zdĺhavých odpovedí je niečo, na čo treba pamätať pri používaní výstupu ChatGPT, pretože sa môžete stretnúť so situáciami, kde sú lepšie kratšie a priamejšie odpovede.
5. Obsah ChatGPT je vysoko organizovaný a s jasnou logikou
ChatGPT má štýl písania, ktorý je nielen podrobný, ale má tendenciu držať sa určitej šablóny, ktorá dáva obsahu jedinečný štýl. Ten však nie je ľudský. Táto neľudská kvalita sa prejavuje v rozdieloch medzi tým, ako ľudia a stroje odpovedajú na otázky.
Tieto otázky boli súčasťou fiktívneho testu s názvom „Voigt-Kampffov test“. Jedna z otázok je: “You’re watching television. Suddenly you realize there’s a wasp crawling on your arm. What do you do?” – čo v preklade znamená: „Pozeráte televíziu. Zrazu si uvedomíte, že vám po ruke lezie osa. Čo spravíte?“
Normálnou ľudskou reakciou by bolo povedať niečo ako: „Zvreskol by som/ Utiekol von/ Začal by som rozhadzovať rukami“ a pod.
Ale keď bola táto otázka položená ChatGPT, odpoveď bola precízne usporiadaná a perfektne logická. Odpoveď zhrnula otázku a potom ponúkla viaceré logické možné výsledky – nezodpovedala však skutočnú otázku.
Zistite tiež, ako umelá inteligencia poháňa výsledky vyhľadávania.
