ChatGPT és una eina versàtil que genera textos d’aspecte natural, amb una fluïdesa narrativa i de conversa sorprenent. Però té limitacions: les seves dades acaben el 2021 i, com que no té accés a Internet, no té informació actualitzada, una barrera avui insalvable en una comparació ràpida amb qualsevol motor de cerca.

A més, no sempre beu de fonts fiables o d’evidències robustes, i és això —i no l’aparent coherència del text— el que determina la veracitat o la solidesa d’un argument.

La intel·ligència artificial és vàlida per a situacions que admeten un cert marge d’error, fins i tot algun disbarat. Però no ho és per a qüestions crítiques, com ara un treball científic, assessorament legal o financer, o una consulta mèdica. Produeix una il·lusió enganyosa de pensament racional, però no raona ni disposa de coneixement fiable sobre el món. No entén, en un sentit humà, res del que escriu.

Tot l’article