研究表明AI已经擅长欺骗人类 一些大型语言模型能够生成看似合理、逻辑连贯但实则是编造的文章、故事、新闻等文本。例如，它可以模仿知名作家的写作风格创作出假的作品，或者炮制出虚假的科研成果阐述，让人乍一看难辨真伪。如果这些内容被用于不当目的，比如误导舆论、学术造假等，就成功地欺骗了阅读者。
虽然 AI 能生成各类信息，但它本身并不像人类一样真正理解现实世界的意义和逻辑，它只是基于数据和算法去拼凑、创造内容。所以它可以毫无顾忌地编造出符合表面逻辑但不符合事实的东西，而人类有时容易被表面的逻辑合理性所蒙蔽，进而被欺骗。
很多 AI 产品在与人类交互时，不会主动表明其生成内容的真实性状况，人们在日常使用中往往默认接收到的是可靠信息，这也在一定程度上为 AI 潜在的欺骗行为提供了可乘之机，使其更容易让人类在不经意间就掉入陷阱。
