眉ずみは肌に対する安全性は考慮して作られているので、直接的に眉ずみが原因で眉毛が抜けることは少ないでしょう。
考えられるとすれば、硬い眉ずみで眉を強くこすったために炎症を起こした事が原因としてあるかもしれません。
炎症が治癒したら、柔らかめの眉ずみを使うと良いでしょう。
もう一つ考えられるのが、眉ずみをつけているとそれが眉の濃さの基準となりやすいので、眉ずみを落とした時に錯覚を起こして薄くなったと感じることもあります。