A vakbizalom ára: Miért hiszik el az LLM-ek a téves állításokat a figyelmeztetések ellenére is?
A nagy nyelvi modellek (LLM-ek) terjedésével egyre kritikusabbá válik a rendszerek megbízhatósága és ténybeli pontossága. Egy friss kutatás rávilágított arra a rendkívül aggasztó jelenségre, miszerint a mesterséges intelligencia modellek hajlamosak elhinni és készpénznek venni a hamis állításokat, még akkor is, ha a bemenetben explicit módon figyelmeztetést kapnak azok valótlanságáról. Ez a strukturális sérülékenység alapjaiban kérdőjelezi…
