大明万历三十三年（1605）夏，有一名开封犹太人艾田（Ai Tian）造访了利玛窦在北京的居所，他告诉利玛窦说，在开封有七八户犹太人，他们的教堂耗资约一万意大利银币；他的两个兄弟懂希伯来语，在杭州甚至有规模更大的犹太社区。

为了设法了解犹太人在中国的历史，因为关于他们定居东方的传闻长期以来非常多。他派了一位辅理修士徐必登去往开封的犹太教堂。徐必登受到了开封犹太社团谦恭有礼的欢迎，他观察到，教堂里的希伯来语《摩西五经》，的确和《旧约圣经》的前五卷十分相似，只是希伯来语的经书没有使用标点符号，好像是旧版，说明这个犹太社区的古老性。尽管那些犹太人已几乎没人能读懂希伯来语，但大多数仍旧保留着施割礼的习俗。

清道光三十年（1850），两名中国籍的基督新教徒来到开封，他们发现开封犹太社团已经彻底衰败，所剩人数大概还有3-400人，同治六年（1867）7月，开封的犹太教堂倒塌。光绪十四年（1888）7月，再来的西方人惊讶的发现，教堂原址上居然建了一座公用茅房[汗]

直到民国十三年（1924）8月，新组建的中国犹太人复兴会想起了这些犹太兄弟，将上海欧赫尔·雷切尔犹太教堂前助理司事王未利(David Levy Wang)派往开封，目的是更多地了解当地犹太社区的最新状况，并找出如何最好地帮助他们的办法。而王到了开封后向复兴会回信提及，开封大概还剩下99名犹太人，他们都很贫穷并处于社会最低层，濒临消亡