質問: 参考文献のミスがリジェクトに繋がる可能性はありますか？

その他の修正がしっかり行われているなら、この1つのミスが論文に悪影響を与えることはないでしょう。エラーがある旨を編集者にもう一度説明し、正しい参考文献を提示すると共に、査読者にこの情報を伝えてもらうようお願いしてみましょう。可能なら、編集部ではなく担当編集者に直接連絡を取ってください。編集部宛てのメールは、査読者とやり取りをする権限がない編集アシスタントが対応している場合が多いですが、担当編集者なら、査読者と連絡を取り合っている可能性が高いので、あなたからの情報を伝えてくれるでしょう。