Systémy generativní umělé inteligence (AI), jako jsou ChatGPT, Gemini a Copilot, stále častěji produkují nepravdivé informace a falšované zdroje, což představuje velkou výzvu pro knihovníky a instituce odpovědné za poskytování přesných dat. Hlavním problémem je, že tyto nástroje umělé inteligence vždy poskytnou odpověď, i když neexistují žádné skutečné informace – pouze tvoří detaily, které se zdají být věrohodné.
Rostoucí příliv dezinformací generovaných umělou inteligencí
Podle Sarah Falls, knihovnice výzkumných dotazů v Library of Virginia, asi 15 % dotazů, které její zaměstnanci obdrží, nyní píše AI. Tyto požadavky často zahrnují zcela fiktivní citace a zdroje, což nutí knihovníky věnovat více času ověřování (nebo vyvracení) tvrzení. Problém není jen nepříjemný; představuje základní chybu v současném přístupu technologie k objevování znalostí.
Mezinárodní výbor Červeného kříže (ICRC) před tímto problémem veřejně varoval s tím, že nástroje umělé inteligence nedokážou rozpoznat, kdy jsou historické zdroje neúplné; místo toho vymýšlejí detaily.
ICRC nyní radí uživatelům, aby přímo konzultovali jeho oficiální katalogy a vědecké archivy, než aby se spoléhali na seznamy vytvořené AI. To podtrhuje širší obavy: Dokud se AI nestane spolehlivější, bude břemeno ověřování faktů padnout přímo na bedra lidí pracujících v archivech.
Proč na tom záleží
Tento trend je důležitý z několika důvodů. Za prvé, zdůrazňuje omezení současných generativních modelů umělé inteligence. Tyto systémy jsou navrženy tak, aby vytvářely obsah, ne nutně revidovaly. Zadruhé to nepřiměřeně zatěžuje již tak přetížené knihovní zdroje. Jak poznamenává Folse, instituce mohou být brzy nuceny omezit množství času, které stráví revizí informací generovaných umělou inteligencí kvůli jejich obrovskému objemu.
Konečně tato situace potvrzuje trvalou hodnotu lidské zkušenosti. Na rozdíl od umělé inteligence jsou knihovníci vycvičeni, aby kriticky mysleli, prováděli důkladné vyhledávání a – což je zásadní – připouštěli, když neznají odpověď. To je základní princip robustní správy informací, který AI v současnosti postrádá.
Přílišné spoléhání na obsah generovaný AI bez kritického hodnocení bude i nadále zatěžovat knihovníky a další informační profesionály. Řešením není opustit AI, ale pochopit její omezení a upřednostnit kontrolu člověkem, dokud se technologie nezlepší.
